Už o tri dni nadobudne účinnosť európske nariadenie o AI, ktoré sa týka aj slovenských firiem

V piatok 2. augusta 2024 nadobudne účinnosť európske nariadenie o umelej inteligencii – tzv. akt o AI. Zákaz systémov, ktoré sú v akte o AI klasifikované ako „zakázané“, bude účinný do 6 mesiacov.

Toto nariadenie je súčasťou digitálneho balíka Európskej únie tzv. veľkej päťky (Big-Five Laws), ktorého cieľom je pripraviť EÚ na digitálny vek. Účelom je podpora inovácií a zavádzania dôveryhodnej AI sústredenej na človeka a ochrana zdravia, bezpečnosti, základných práv, demokracie, právneho štátu a životného prostredia pred potenciálnymi škodlivými účinkami systémov AI. Okrem toho má nariadenie zlepšiť fungovanie európskeho jednotného trhu, pričom zabezpečí právnu istotu a regulačné experimentálne prostredia na podporu ďalšieho vývoja AI, a to najmä zo strany startupov a malých a stredných podnikov.

Čo bude zakázané?

„Zakázaná bude umelá inteligencia, ktorá využíva napríklad podprahové a manipulatívne techniky, zraniteľnosť detí alebo klasifikuje ľudí na základe ich spoločenského správania. Povolená nebude ani vzdialená biometria slúžiaca na plošnú identifikáciu. Zakázaný bude aj prediktívny policajný dohľad, teda AI, ktorá vyhodnocuje pravdepodobnosť, že daná osoba spácha nejaký trestný čin,“ vysvetľujePavol Szabo, Senior Managing Associate, Deloitte Legal.

Najviac budú zasiahnuté banky a zdravotníctvo

Požiadavky sa vzťahujú na všetky strany v celom hodnotovom reťazci a životnom cykle AI – od vývojárov po používateľov. Hoci sa nariadenie týka všetkých spoločností pôsobiacich v akejkoľvek oblasti, najviac zasiahne finančné služby (najmä banky), technologický sektor, biofarmaceutický priemysel a oblasť zdravotnej starostlivosti, ako aj energetický sektor. Dôvodom je, že v týchto odvetviach je pravdepodobne najväčšia koncentrácia systémov, ktoré sú v akte o AI klasifikované ako vysokorizikové, čiže systémov AI používaných na biometrickú kategorizáciu, rozpoznávanie emócií, bodové hodnotenie kreditného rizika, nábor pracovníkov a prevádzku kritickej infraštruktúry.

Od 2. februára 2025 začnú platiť všeobecné ustanovenia a zakázané postupy v oblasti AI. Týka sa to systémov, ktoré sa považujú za mimoriadne škodlivé a zneužívajúce, keďže sú v rozpore s hodnotami EÚ, napr. systémov, ktoré manipulujú ľudské správanie, názory a rozhodnutia, systémov, ktoré zneužívajú zraniteľnosť, alebo systémov, ktoré sa používajú na sociálne bodovanie. Do 2. augusta 2025 musia členské štáty zriadiť oznamujúce orgány a určiť oznamujúce subjekty. V plnom rozsahu sa nariadenie začne uplatňovať od 2. augusta 2026 s výnimkou týkajúcou sa systémov AI, ktoré budú používané ako bezpečnostná súčasť produktu.

Výška pokút

„Sankcie môžu byť uložené až do výšky 7 % celosvetového obratu v prípade uplatňovania zakázaných praktík alebo 3 % v prípade iného nesúladu. Spoločnosti by mali preto ihneď začať s posudzovaním, či ich existujúce alebo plánované systémy možno považovať za umelú inteligenciu v zmysle aktu o AI, zmapovať produkty a úlohy, vyhodnotiť riziká a vplyvy a určiť, ktoré požiadavky sa na ne vzťahujú,“ dopĺňa Pavol Szabo.

Pravidlá a regulácie v tomto nariadení sa aplikujú nielen na organizácie a jednotlivcov v rámci EÚ, ale sú platné aj pre tie firmy a osoby, ktoré sa nachádzajú mimo EÚ, pokiaľ ich aktivity majú vplyv na trhy alebo občanov EÚ. Inými slovami aj organizácie mimo EÚ budú musieť dodržiavať akt o AI, ak sa ich AI týka osôb alebo trhov v EÚ. Aj z tohto dôvodu niektoré veľké zahraničné spoločnosti oddialili uvedenie svojich AI produktov na trh EÚ.