Pravidla pro umělou inteligenci: Co navrhují poslanci? 

Aktualizováno: 
 
Vytvořeno:   
 

Sdílet tuto stránku: 

Podpořit inovace, zajistit bezpečnost a přitom chránit naše soukromí: takový je cíl poslanců v oblasti unijní legislativy týkající se umělé inteligence.

Umělá inteligence: Fakta a čísla v oblasti investic a ekonomického dopadu  

Umělá inteligence (anglicky artificial intelligence či ve zkratce AI) hraje zásadní roli v rámci digitální transformace společnosti. AI využíváme v práci, v podnikání a ve finančnictví, ve zdravotnictví či v bezpečnostním a zemědělském sektoru: jen málokdo by si dnes dokázal svůj život bez umělé inteligence vůbec představit. Podstatnou úlohu má i v Zelené dohodě pro Evropu a evropském plánu obnovy po pandemii covid-19.

Aby Evropská unie mohla využít všechny příležitosti AI a zároveň kontrolovat s ní spojená rizika a hrozby, připravuje svůj první soubor pravidel, který se zaměřuje na budování důvěry v umělou inteligenci a řešení potenciálního dopadu AI jak na jednotlivce, tak na celou společnost a ekonomiku. Vytvoří tím prostředí, ve kterém mohou evropští výzkumníci, vývojáři i podniky prosperovat. Komise chce zvýšit soukromé a veřejné investice do technologií umělé inteligence na 20 miliard eur ročně.  

Umělá inteligence: Fakta a čísla v otázce patentů a zaměstnanosti  

Jak se na tvorbě pravidel podílí Parlament? 


Parlament nyní pracuje na návrhu Komise, který byl předložen 21. dubna 2021. Podle něj by se Evropa měla stát globálním centrem pro umělou inteligenci, které lze důvěřovat a je spolehlivá.

Ještě před samotným návrhem Komise zřídil Parlament zvláštní výbor pro umělou inteligenci v digitálním věku (AIDA). Jeho úkolem je analýza dopadů AI na unijní ekonomiku. "Evropa musí vyvinout takovou podobu umělé inteligence, která bude důvěryhodná, bude eliminovat předsudky a diskriminaci a bude sloužit společným záměrům. Zároveň by měla zajistit prosperitu podnikání, průmyslu a celého ekonomického sektoru," podotkl předseda výboru AIDA Dragos Tudorache (Renew, Rumunsko). 

Parlament přijal 20. října 2020 hned tři zprávy, které nastiňují, jak může EU nejlépe regulovat umělou inteligenci tak, aby podpořila inovace, etické standardy a konečně i samotnou důvěru v technologie. 

Poslanci uvedli, že pravidla musí být zaměřena především na člověka - zpráva se tak zabývá hned několika tématy. Navrhuje způsoby, jakými lze zajistit bezpečnost, transparentnost a odpovědnost, zaměřuje se na to, jak lze předcházet předpojatosti a diskriminaci, a v neposlední řadě řeší i problematiku sociální a environemntální odpovědnosti a dodržování základních práv. "Lidé jsou ve středobodu tohoto návrhu," ujistil na tiskové konferenci španělský poslanec za sociální demokraty Ibán García del Blanco, který v této otázce vystupuje v roli zpravodaje.

Německý poslanec za lidovce Axel Voss vysvětlil, že cílem takové podoby AI, která bude odpovědná vůči občanům, je budování důvěry lidí a podpora inovací skrze poskytování právní jistoty pro podniky. "Neusilujeme o revoluci: pro firmy a společnosti by měla existovat jednotná pravidla, která ale budou zohledňovat stávající zákony," uvedl. 

Co se práv duševního vlastnictví týče, Parlament v tomto ohledu zdůraznil význam efektivního systému. Ten je důležitý pro další vývoj umělé inteligence, a to včetně problematiky patentů a nových tvůrčích procesů. Mezi otázkami, které vyžadují řešení, je například i to, kdo je duševním vlastníkem něčeho, co bylo vyvinuto pouze umělou inteligencí, upozornil francouzský zpravodaj a poslanec za liberální skupinu Obnova Stéphane Séjourné. 

Dne 20. ledna 2021 navrhl Parlament pokyny jak pro vojenské, tak pro nevojenské využití umělé inteligence. Zejména v oblastech, jako je armáda, spravedlnost a zdraví, „umělá inteligence nikdy nesmí nahradit nebo zbavit člověka odpovědnosti,“ uvedl francouzský poslanec a zpravodaj Gilles Lebreton (skupina Identita a demokracie). Poslanci zdůraznili nutnost lidského dohledu nad systémy AI používanými v obraně a opětovně vyzvali k zákazu autonomních smrtících zbraní.

Dne 19. května 2021 přijal Parlament zprávu o využívání umělé inteligence ve vzdělávání, kultuře a audiovizuálním odvětví. V ní požaduje, aby technologie umělé inteligence byly navrženy tak, aby předcházely genderové, sociální nebo kulturní zaujatosti a chránily rozmanitost a diverzitu. „Umělá inteligence by neměla replikovat diskriminaci,“ uvedla zpravodajka Sabine Verheyenová (poslankyně za lidovce, Německo).

O den později vyzvali poslanci Evropskou komisi k tomu, aby dále řešila výzvy, které představuje digitální transformace. Zaměřit by se měla na umělou inteligenci jako technologii, která může v digitální tranzici podpořit evropský veřejný i soukromý sektor. „Abychom plně využili možnosti umělé inteligence, musíme dát našim podnikům a začínajícím společnostem prostor pro inovace a podporu investic,“ uvedla zpravodajka Deirdre Cluneová (lidovci, Irsko).

Poslanci 6. října požádali o přijetí přísných ochranných opatření pro využívání nástrojů umělé inteligence při vymáhání práva. Chtějí prosadit trvalý zákaz automatického rozpoznávání osob ve veřejněm prostranství a v zájmu boje proti diskriminaci transparentnost používaných algoritmů. „Nejde o to, zda systémy AI potenciálně vedou k rasově zaujatým a diskriminačním výsledkům. Ve skutečnosti víme jistě, že tomu tak je,“ řekl zpravodaj Petar Vitanov (sociální demokrat, Bulharsko).

Zjistěte více o tom, jak EU podporuje digitální transformaci v Evropě.

Rozvoj umělé inteligence závisí také na úspěchu evropské strategie pro data. Parlament přijal své návrhy právních předpisů pro oblast dat 25. března 2021.

Přečtěte si více o příležitostech a výzvách v otázce velkých dat.  

Pro otázky využití umělé inteligence ve vzdělávání, kultuře a audiovizuální oblasti je stínovým zpravodajem český poslanec Marcel Kolaja a zpravodajem pro stanovisko Ondřej Kovařík. Jako zpravodajové pro stanovisko působí oba zmínění rovněž v dalších otázkách týkajících se umělé inteligence. Problematiku AI: interpretace a uplatňování mezinárodního práva v míře, v níž se to týká EU, v oblastech civilního a vojenského využití a státní moci mimo oblast trestního práva řešil Ondřej Kovařík, problematikou AI v trestním právu a otázkou jejího využívání policií a soudními orgány v trestních věcech se zabývá Marcel Kolaja. 

Přečtěte si více o tom, jak EU formuje digitální prostor: