Prvá regulácia umelej inteligencie

EÚ prichádza s prvou právnou reguláciou AI na svete (AI Act). Neregulované využívanie AI môže zasahovať nie len do bezpečnosti krajín EÚ, ale aj do ľudských práv a súkromia občanov. 

Na začiatok chce Komisia priniesť definíciu AI systému. Jej presné znenie ešte nie je známe, avšak hlavným kritériom pri jej vytváraní by mal byť generatívny aspekt umelej inteligencie.

Hlavnou myšlienkou je regulovať AI podľa jej schopnosti spôsobiť ujmu spoločnosti, preto sa má uplatňovať princíp „posúdenia rizika“ – čím vyššie riziko, tým prísnejšie pravidlá. Nariadenie definuje štyri úrovne rizika:

1. Neakceptovateľné riziko – Ide o AI systémy, ktoré predstavujú očividnú hrozbu pre bezpečnosť, život alebo práva občanov. Úplne sa zakazuje použitie AI na systém sociálneho bodovania, hromadného scrapovania obrázkov tvárí z CCTV systémov či na rozpoznanie psychologických stavov zamestnancov. AI nebude možné použiť na manipulatívne techniky alebo na zneužitie zraniteľných skupín, kam patria aj deti či ľudia s hendikepom.
    
2. Vysoké riziko – Pôjde najmä o AI systémy využívané v kľúčových súkromných a verejných službách (odmietnutie poskytnutia pôžičky na základe hodnotenia schopnosti splácania), pri zamestnávaní a výbere zamestnancov (AI program na triedenie životopisov). 
   
   Takéto AI systémy, budú musieť pred uvedením na trh splniť viaceré podmienky – podrobiť sa posúdeniu rizík a vytvoriť nástroje na ich zmiernenie; prijať opatrenia na minimalizáciu diskriminačných výsledkov; zabezpečiť ľudský dohľad či informovať používateľa o možných rizikách.
    
3. Obmedzené riziko – Za AI systémy s obmedzeným rizikom sa považujú napríklad chatboty. Takéto systémy budú musieť zabezpečiť transparentnosť smerom k používateľovi, teda napríklad informovať o tom, že systém používa AI.
    
4. Minimálne alebo žiadne riziko – do tejto kategórie spadajú napríklad videohry využívajúce AI alebo aplikácie na filtrovanie spamových emailov.

Určité povinnosti bude musieť spĺňať aj tzv. general-purpose AI (GPAI) a generatívna AI ako napr. ChatGPT alebo Bard. Poskytovateľ bude povinný používateľov informovať, že 

1. obsah bol vytvorený umelou inteligenciou
    
2. zabrániť, aby systém vygeneroval nezákonný obsah

Pokiaľ firma uvedie na trh zakázaný systém AI, hrozí jej pokuta až 7% globálneho ročného obratu alebo 35 mil. eur, za poskytnutie nesprávnych informácií sa výška pokuty pohybuje na 1,5% alebo 7,5 mil. eur.

Dôjde aj k vzniku nových inštitúcií, ktoré budú dohliadať na dodržiavanie povinností vyplývajúcich z AI Act. Na európskej úrovni vznikne Úrad umelej inteligencie, a aj členské štáty budú musieť vytvoriť podobnú inštitúciu.

Nová regulácia obsahuje aj škálu výnimiek, na ktoré sa nebude aplikovať. Pôjde najmä o systémy využívané na obranné účely; systémy, ktorých jediným účelom je výskum a inovácie alebo na ľudí, ktorí používajú AI z laických dôvodov. 

Schválenie konečného znenia legislatívy očakávame v najbližších mesiacoch. Ustanovenia začnú následne platiť o dva roky od prijatia nariadenia. Novú úpravu sledujeme a budeme vás informovať o jej vývoji.