Zákon o AI: prvá regulácia umelej inteligencie 

EÚ chce v rámci svojej digitálnej stratégie regulovať umelú inteligenciu (AI) tak, aby zabezpečila lepšie podmienky pre vývoj a využívanie tejto inovatívnej technológie. Umelá inteligencia prináša mnohé výhody, napríklad lepšiu zdravotnú starostlivosť, bezpečnejšiu a čistejšiu dopravu, efektívnejšiu výrobu a lacnejšiu a udržateľnejšiu energiu.

V apríli 2021 Komisia navrhla prvý regulačný rámec EÚ pre AI. Navrhuje, aby sa systémy AI, ktoré sa môžu používať v rôznych aplikáciách, analyzovali a klasifikovali podľa rizika, ktoré predstavujú pre používateľov. Rôzne úrovne rizika budú znamenať väčšiu alebo menšiu reguláciu. Po schválení pôjde o prvé pravidlá týkajúce sa umelej inteligencie na svete.

Ďalšie informácie o tom, čo je umelá inteligencia a ako sa využíva.

Čo chce Parlament v právnych predpisoch o umelej inteligencii

Prioritou Parlamentu je zabezpečiť, aby systémy umelej inteligencie používané v EÚ boli bezpečné, transparentné, sledovateľné, nediskriminačné a šetrné k životnému prostrediu. Na systémy AI by mali dohliadať ľudia, a nie automatizácia, aby sa predišlo škodlivým dôsledkom.

Parlament chce tiež stanoviť technologicky neutrálnu a jednotnú definíciu umelej inteligencie, ktorá by sa mohla uplatňovať na budúce systémy AI.

Viac informácií o práci Parlamentu v oblasti umelej inteligencie a jeho vízii pre budúcnosť AI.

Zákon o AI: rôzne pravidlá pre rôzne úrovne rizika

Nové pravidlá stanovujú povinnosti pre poskytovateľov a používateľov v závislosti od úrovne rizika vyplývajúceho z AI. Hoci mnohé systémy umelej inteligencie predstavujú minimálne riziko, je potrebné ich posúdiť.

Neprijateľné riziko

Systémy AI s neprijateľným rizikom sú systémy, ktoré sa považujú za hrozbu pre ľudí a budú zakázané. Patria medzi ne napr:

• kognitívna manipulácia správania osôb alebo špecifických zraniteľných skupín: napríklad hlasom aktivované hračky, ktoré podporujú nebezpečné správanie detí
• sociálne bodovanie: klasifikácia ľudí na základe správania, sociálno-ekonomického postavenia, osobných charakteristík
• biometrické identifikačné systémy v reálnom čase a na diaľku, ako je napríklad rozpoznávanie tváre

Niektoré výnimky môžu byť povolené: Napríklad "následné" systémy diaľkovej biometrickej identifikácie, pri ktorých sa identifikácia uskutočňuje so značným oneskorením, budú povolené na stíhanie závažných trestných činov a len po schválení súdom.

Vysoké riziko

Systémy AI, ktoré majú negatívny vplyv na bezpečnosť alebo základné práva, sa budú považovať za vysoko rizikové a budú rozdelené do dvoch kategórií.

1. Systémy AI, ktoré sa používajú vo výrobkoch, na ktoré sa vzťahujú právne predpisy EÚ o bezpečnosti výrobkov. Patria sem hračky, letectvo, autá, zdravotnícke pomôcky a výťahy.

2. Systémy umelej inteligencie spadajúce do ôsmich špecifických oblastí, ktoré budú musieť byť zaregistrované v databáze EÚ:

• biometrická identifikácia a kategorizácia fyzických osôb
• riadenie a prevádzka kritickej infraštruktúry
• vzdelávanie a odborná príprava
• zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti
• prístup k základným súkromným službám a verejným službám a výhodám a ich využívanie
• presadzovanie práva
• riadenie migrácie, azylu a kontroly hraníc
• pomoc pri právnom výklade a uplatňovaní práva.

Všetky vysokorizikové systémy umelej inteligencie sa budú posudzovať pred uvedením na trh a počas celého ich životného cyklu.

Generatívna umelá inteligencia

Generatívna umelá inteligencia, ako napríklad ChatGPT, bude musieť spĺňať požiadavky na transparentnosť:

• zverejniť, že obsah bol vygenerovaný umelou inteligenciou
• navrhnúť model tak, aby sa zabránilo vytváraniu nezákonného obsahu
• zverejňovať súhrny údajov chránených autorským právom, ktoré sa použili na tréning umelej inteligencie

Obmedzené riziko

Systémy AI s obmedzeným rizikom by mali spĺňať minimálne požiadavky na transparentnosť, ktoré by používateľom umožnili prijímať informované rozhodnutia. Po interakcii s aplikáciami sa používateľ môže rozhodnúť, či ich chce ďalej používať. Používatelia by mali byť informovaní o tom, že prichádzajú do interakcie s umelou inteligenciou. To zahŕňa systémy AI, ktoré generujú alebo manipulujú s obrazovým, zvukovým alebo video obsahom (napr. deepfakes).

Ďalšie kroky

V júni 2023 poslanci schválili vyjednávaciu pozíciu Parlamentu k zákonu o umelej inteligencii. Následne začnú rokovania s krajinami EÚ v Rade o konečnej podobe zákona.

Cieľom je dosiahnuť dohodu do konca tohto roka.

Viac informácií o digitálnych opatreniach EÚ:

• Riziká kryptomien a výhody právnych predpisov EÚ
• Boj proti počítačovej kriminalite: vysvetlenie nových zákonov EÚ o kybernetickej bezpečnosti
• Posilnenie zdieľania údajov v EÚ: aké sú výhody?
• Akt EÚ o digitálnych trhoch a akt o digitálnych službách
• Päť spôsobov, ako chce Európsky parlament chrániť online hráčov