fbpx
EAST MAG
AI
Foto: archív GlobalLogic

Etické a regulačné prostredie AI – množstvo príležitostí a výziev

Rozvoj umelej inteligencie (AI), ktorý sa pričinil o rýchly rozmach v oblasti technológií, so sebou prináša nevídané príležitosti, ale aj obrovské výzvy. Systémy umelej inteligencie sa čoraz viac stávajú súčasťou nášho každodenného života v podobe osobných asistentov alebo autonómnych vozidiel a etické a regulačné dôsledky ich využívania vyvolávajú dôležité diskusie.  Tento článok sa zaoberá zložitými súvislosťami vývoja umelej inteligencie, etiky a regulácie.

Etický imperatív AI

Etické otázky týkajúce sa umelej inteligencie sú rovnako rozmanité ako spôsoby aplikácie tejto technológie. V ich centre stojí otázka, ako AI ovplyvňuje ľudskú dôstojnosť, práva a slobody. Pozrime sa napríklad na rozpoznávanie tváre: hoci táto technológia prináša zvýšenie bezpečnosti a pohodlia, zároveň vyvoláva vážne obavy o ochranu súkromia a môžu ju potenciálne zneužiť úrady či korporácie.

Ďalšou etickou otázkou je riziko predpojatosti algoritmov. Systémy umelej inteligencie totiž môžu odrážať zaujatosť prítomnú v datasetoch, na ktorých sa umelá inteligencia učí, a tak udržiavať alebo dokonca prehlbovať diskrimináciu určitých skupín ľudí. To môže mať ďalekosiahle dôsledky v oblasti uplatňovania spravodlivosti a práva, a to najmä v citlivých oblastiach, ako je trestné právo, prijímanie do zamestnania či prístup k úverom.

Rastúca autonómia systémov umelej inteligencie navyše vyvoláva otázky týkajúce sa zodpovednosti. V prípade poruchy alebo rozhodnutí, ktoré spôsobia škodu, by bolo určovanie toho, kto, alebo čo, nesie za danú škodu zodpovednosť, pomerne zložité a komplikované – sú to vývojári, prevádzkovatelia, samotný systém umelej inteligencie alebo kombinácia všetkých spomínaných subjektov?

Foto: shutterstock.com

Úloha regulácie

Rozvoj umelej inteligencie zvyšuje potrebu spoľahlivých regulačných rámcov. Hlavným cieľom týchto predpisov je zabezpečiť, aby sa umelá inteligencia vyvíjala a zavádzala bezpečným a etickým spôsobom rešpektujúcim ľudské práva. Vypracovanie účinných právnych predpisov v tejto rýchlo sa rozvíjajúcej oblasti však v žiadnom prípade nie je jednoduchou úlohou.

Predpisy totiž musia byť na jednej strane dostatočne prísne, aby zabránili škodám a zneužitiu, pričom by mali riešiť otázky súkromia, bezpečnosti či zodpovednosti, a na druhej strane sa musia vyvarovať tomu, aby bránili inováciám a dosahovaniu potenciálnych výhod, ktoré môže umelá inteligencia spoločnosti priniesť. To všetko si vyžaduje diferencované chápanie technológie umelej inteligencie, možností jej aplikácie i jej potenciálneho vývoja v budúcnosti.

Viaceré krajiny i regióny už začali v tomto smere podnikať kroky. Napríklad Európska únia sa chystá na záverečné hlasovanie o Zákone o umelej inteligencii (Artificial Intelligence Act), čo je ambiciózny regulačný rámec s cieľom riešiť riziká spojené s konkrétnymi spôsobmi jej využitia a kategorizovať ich podľa úrovne rizika pre spoločnosť. Táto legislatíva o.i. zakáže používanie niektorých vysoko rizikových systémov AI, ako sú napr. biometrické kategorizačné systémy využívajúce citlivé ľudské charakteristiky (rasa, pohlavie, politická orientácia, a pod.), ako aj systémy sociálneho bodovania či hromadné scrapovanie obrázkov na vytváranie databáz na rozpoznávanie tvárí.


Foto: shutterstock.com

Etický rozvoj AI

Ústrednou témou diskusie o etike a regulácii umelej inteligencie je úloha vývojárov. Technologická komunita zodpovedá za začlenenie etických aspektov do životného cyklu systémov AI, od ich dizajnovania až po ich nasadenie. To zahŕňa prijatie zásad ako je transparentnosť, zodpovednosť a spravodlivosť ako hlavných princípov vývoja umelej inteligencie.

Transparentnosť v AI zahŕňa zaistenie fungovania systémov umelej inteligencie tak, aby bolo zrozumiteľné pre používateľov a všetkých zainteresovaných a aby bolo možné rozhodnutia, ktoré umelá inteligencia urobí, vysvetliť a zdôvodniť. Je to dôležité pre budovanie dôvery v umelú inteligenciu a pre zavedenie zodpovednosti jej systémov.

Zodpovednosť sa týka mechanizmov, ktoré zabezpečia, že jednotlivci a organizácie možno brať na zodpovednosť za vyvíjané systémy umelej inteligencie zavádzané do užívania. Ide o stanovenie jasných usmernení pre etický vývoj AI a mechanizmov nápravy v prípadoch, keď systémy umelej inteligencie spôsobia škodu.

Spravodlivosť si vyžaduje aktívnu prácu na odstraňovaní predsudkov v systémoch AI a zabezpečenie, aby tieto technológie neposilňovali diskrimináciu alebo nerovné zaobchádzanie. Patrí sem kritické preskúmanie tréningových datasetov a algoritmov s cieľom identifikovať a minimalizovať potenciálnu predpojatosť.


Foto: shutterstock.com

Pohľad do budúcnosti

Budúcnosť umelej inteligencie so sebou prináša obrovský potenciál a ponúka riešenia tých najnaliehavejších globálnych výziev, od zdravotnej starostlivosti až po zmenu klímy. Využitie tohto potenciálu spôsobom prospešným pre celú spoločnosť si však vyžaduje dôkladnú orientáciu v etickom a regulačnom prostredí.

Do prebiehajúceho dialógu sa musia zapojiť všetci zainteresovaní aktéri, vrátane tvorcov politík, technológov a verejnosti, a podieľať sa na formovaní vývoja umelej inteligencie v súlade s etickými zásadami a spoločenskými hodnotami. Kľúčovými oblasťami sú vzdelávanie a informovanosť, pretože dobre informovaná verejnosť dokáže aj v ére umelej inteligencie lepšie obhajovať svoje práva a záujmy.

Pri riešení globálnej povahy umelej inteligencie a jej vplyvov bude rozhodujúca aj medzinárodná spolupráca. Harmonizácia cezhraničných predpisov môže pomôcť vytvoriť rovnaké podmienky a zabezpečiť, aby AI slúžila globálnemu dobru a nie prehlbovaniu rozdielov medzi rôznymi časťami sveta.

Stojíme na prahu novej éry formovanej umelou inteligenciou, no cesta vpred je plná výziev. Uprednostnením etických aspektov a vytváraním jasných a robustných regulačných rámcov však spoločnosť môže využiť silu umelej inteligencie na vytvorenie budúcnosti, ktorá bude rešpektovať ľudskú dôstojnosť a ľudské práva, bude podporovať inovácie a kde ľudstvo ako celok bude napredovať. Nie je to ľahká cesta, no vďaka spoločnému úsiliu a oddanosti spoločným hodnotám môže viesť k lepšej a inkluzívnejšej budúcnosti.

(Denys Balatsko, Senior Vice President, Engineering GlobalLogic)

GlobalLogic Slovakia

GlobalLogic, líder v oblasti digitálneho inžinierstva a súčasť a Hitachi Group Company, pomáha zákazníkom na celom svete navrhovať a prinášať inovatívne produkty, platformy a najnovšie digitálne vymoženosti. Na Slovensku má GlobalLogic centrálu v Košiciach a pôsobí aj v Banskej Bystrici a v Žiline.

Pridajte komentár