Zoznam 
 Predchádzajúci 
 Nasledujúci 
 Úplné znenie 
Postup : 2018/2088(INI)
Postup v rámci schôdze
Postup dokumentu : A8-0019/2019

Predkladané texty :

A8-0019/2019

Rozpravy :

PV 11/02/2019 - 21
CRE 11/02/2019 - 21

Hlasovanie :

PV 12/02/2019 - 9.20
Vysvetlenie hlasovaní

Prijaté texty :

P8_TA(2019)0081

Prijaté texty
PDF 255kWORD 79k
Utorok, 12. februára 2019 - Štrasburg Prechodná verzia
Komplexná európska priemyselná politika v oblasti umelej inteligencie a robotiky
P8_TA-PROV(2019)0081A8-0019/2019

Uznesenie Európskeho parlamentu z 12. februára 2019 o komplexnej európskej priemyselnej politike v oblasti umelej inteligencie a robotiky (2018/2088(INI))

Európsky parlament,

–  so zreteľom na svoje uznesenie zo 16. februára 2017 s odporúčaniami pre Komisiu k normám občianskeho práva v oblasti robotiky(1),

–  so zreteľom na svoje uznesenie z 1. júna 2017 o digitalizácii európskeho priemyslu(2),

–  so zreteľom na svoje uznesenie z 12. septembra 2018 o autonómnych zbraňových systémoch(3),

–  so zreteľom na svoje uznesenie z 11. septembra 2018 o rovnosti jazykov v digitálnom veku(4),

–  so zreteľom na návrh Komisie zo 6. júna 2018, ktorým sa stanovuje program Digitálna Európa na obdobie 2021 – 2027 (COM(2018)0434),

–  so zreteľom na nariadenie Rady (EÚ) 2018/1488 z 28. septembra 2018, ktorým sa zriaďuje spoločný podnik pre európsku vysokovýkonnú výpočtovú techniku(5),

–  so zreteľom na článok 52 rokovacieho poriadku,

–  so zreteľom na správu Výboru pre priemysel, výskum a energetiku a stanoviská Výboru pre vnútorný trh a ochranu spotrebiteľa, Výboru pre právne veci, Výboru pre občianske slobody, spravodlivosť a vnútorné veci a Výboru pre životné prostredie, verejné zdravie a bezpečnosť potravín (A8-0019/2019),

A.  keďže transparentne a eticky využívaná umelá inteligencia a robotika majú potenciál obohatiť naše životy a rozšíriť naše spôsobilosti, a to vo vzťahu k jednotlivcom, ako aj pokiaľ ide o spoločné blaho;

B.  keďže umelá inteligencia sa rýchlo rozvíja a je už niekoľko rokov súčasťou nášho každodenného života; keďže umelá inteligencia a robotika podporujú inovácie, vedú k novým obchodným modelom a zohrávajú kľúčovú úlohu pri transformácii našich spoločností a digitalizácii našich hospodárstiev v mnohých odvetviach, ako je priemysel, zdravotná starostlivosť, stavebníctvo a doprava;

C.  keďže rastúca integrácia robotiky do ľudských systémov si vyžaduje rozhodné politické vedenie, pokiaľ ide o to, ako maximalizovať výhody a minimalizovať riziká pre spoločnosť a zabezpečiť bezpečný, spravodlivý rozvoj umelej inteligencie;

D.  keďže umelá inteligencia je jednou zo strategických technológií pre 21. storočie v celosvetovom i európskom meradle a prináša pozitívnu zmenu pre európske hospodárstvo, ktorá umožňuje inováciu, produktivitu, konkurencieschopnosť a blahobyt;

E.  keďže približne štvrtinu všetkých priemyselných robotov a polovicu všetkých robotov v odborných službách vo svete vyrábajú európske spoločnosti, a keďže EÚ preto už má dôležité aktíva, na ktorých by mala založiť svoju európsku priemyselnú politiku;

F.  keďže umelá inteligencia a robotika majú potenciál pretvoriť viaceré odvetvia a zvýšiť efektívnosť výroby a zároveň zvýšiť konkurencieschopnosť európskeho priemyslu a MSP na celosvetovej úrovni; keďže dostupnosť rozsiahlych súborov údajov a testovacích a experimentálnych zariadení má veľký význam pre rozvoj umelej inteligencie;

G.  keďže spoločným prístupom sa uľahčí rozvoj technológií umelej inteligencie v prospech spoločnosti a zároveň sa budú riešiť výzvy, ktoré tieto technológie prinášajú, s cieľom podporiť inovácie, zlepšiť kvalitu produktov a služieb podporovaných umelou inteligenciou, zlepšiť skúsenosti spotrebiteľov a dôveru v technológie v oblasti umelej inteligencie a robotiku a zabrániť fragmentácii vnútorného trhu;

H.  keďže výkonnosť výpočtovej techniky sa musí udržať na poprednej úrovni v Únii, ktorá by mala poskytovať príležitosti pre dodávateľské odvetvie EÚ a zvyšovať svoju účinnosť pri transformácii technologického vývoja na produkty a služby orientované na dopyt, ktorých hnacím motorom sú aplikácie, čo povedie k ich rozsiahlemu zavádzaniu do nových aplikácií založených na umelej inteligencii;

I.  keďže je naliehavo potrebný koordinovaný prístup na európskej úrovni, aby EÚ bola schopná súťažiť s masívnymi investíciami, ktoré uskutočnili tretie krajiny, najmä USA a Čína;

J.  keďže 25. apríla 2018(6) sa Komisia zaviazala navrhnúť európsky prístup k umelej inteligencii vypracovaním návrhov usmernení týkajúcich sa umelej inteligencie v spolupráci so zainteresovanými stranami v rámci aliancie pre umelú inteligenciu, skupiny expertov v oblasti umelej inteligencie, s cieľom podporiť aplikácie a podniky v Európe, ktoré sú podporované umelou inteligenciou;

K.  keďže súčasné pravidlá a postupy by sa mali preskúmať a v prípade potreby upraviť tak, aby zohľadňovali umelú inteligenciu a robotiku;

L.  keďže európsky rámec pre umelú inteligenciu sa musí rozvíjať pri plnom rešpektovaní práv zakotvených v Charte základných práv Európskej únie, a najmä pokiaľ ide o zásady ochrany údajov, súkromia a bezpečnosti;

M.  keďže vývoj v oblasti umelej inteligencie môže a mal by byť navrhnutý tak, aby zachovával dôstojnosť, autonómiu a sebaurčenie jednotlivca;

N.  keďže vo svojom uznesení zo 16. februára 2017 s odporúčaniami pre Komisiu k normám občianskeho práva v oblasti robotiky Európsky parlament vyzval Komisiu, aby navrhla ucelený právny rámec týkajúci sa rozvoja robotiky vrátane autonómnych systémov a inteligentných autonómnych robotov;

O.  keďže rozvoj umelej inteligencie a robotiky musí zahŕňať spoločnosť ako celok; keďže v roku 2017 však vidiecke oblasti boli naďalej vo veľkej miere vylúčené z výhod umelej inteligencie, pretože 8 % domácností nebolo pokrytých žiadnou pevnou sieťou a 53 % domácností nebolo pokrytých prístupovou sieťou novej generácie (VDSL, Cable Docsis 3.0 alebo FTTP);

P.  keďže rozvoj služieb a produktov podporovaných umelou inteligenciou si vyžaduje pripojiteľnosť, voľný tok údajov a dostupnosť údajov v rámci EÚ; keďže používanie vyspelých techník hĺbkovej analýzy údajov v produktoch a službách môže pomôcť zvýšiť kvalitu rozhodovania, a tým rozšíriť výber pre spotrebiteľov, a zlepšiť výkonnosť podnikov;

Q.  keďže technologický vývoj v oblasti inteligentných výrobkov a služieb môže byť prínosom pre vedomostnú ekonomiku, ktorá je založená na množstve, kvalite a dostupnosti informácií, ktoré sú k dispozícii, a môže tak viesť k lepšiemu prispôsobeniu sa potrebám spotrebiteľov;

R.  keďže kybernetická bezpečnosť je nevyhnutná na zabezpečenie toho, aby údaje neboli úmyselne poškodené alebo zneužité s cieľom poškodiť občanov alebo podniky prostredníctvom umelej inteligencie, čo by ohrozilo dôveru priemyslu a spotrebiteľov v umelú inteligenciu; keďže vývoj v oblasti umelej inteligencie zvyšuje závislosť od týchto systémov, pokiaľ ide o prijímanie opatrení a rozhodnutí, čo si následne vyžaduje, aby sa na tieto systémy vzťahovali vysoké normy kybernetickej odolnosti v EÚ na ochranu pred porušovaním a zlyhaniami kybernetickej bezpečnosti;

S.  keďže trend smerom k automatizácii vyžaduje, aby osoby zapojené do vývoja a komercializácie aplikácií umelej inteligencie hneď od začiatku stavali na bezpečnosti a etike, a tým uznali, že musia byť pripravení prijať právnu zodpovednosť za kvalitu technológie, ktorú vyvíjajú;

T.  keďže budovanie dôveryhodného ekosystému pre vývoj technológií v oblasti umelej inteligencie by malo byť založené na štruktúre politiky v oblasti údajov; keďže to znamená vytvorenie programov bezproblémového a zjednodušeného zberu a riadenia údajov na účely vzdelávacieho výskumu, ktoré umožnia rozvoj umelej inteligencie v mnohých oblastiach: v medicínskom, finančnom, biologickom, energetickom, priemyselnom, chemickom alebo verejnom sektore; keďže ekosystém umelej inteligencie založený na údajoch by mohol zahŕňať celoeurópske iniciatívy založené na otvorených normách a vzájomnom uznávaní osvedčení a transparentných pravidlách interoperability;

U.  keďže používanie umelej inteligencie samo osebe nezaisťuje pravdu či spravodlivosť, pretože zaujatosť môže vzniknúť v dôsledku spôsobu zberu údajov a tým, ako je algoritmus napísaný, a môže vyplynúť zo zaujatosti prítomnej v spoločnosti; keďže kvalita údajov spoločne s algoritmickým návrhom a procesom neustáleho prehodnocovania by mali zabrániť zaujatosti;

V.  keďže umelá inteligencia a robotika by sa mali rozvíjať a zavádzať prístupom zameraným na človeka s cieľom podporiť ľudí v práci a v domácnosti; keďže umelá inteligencia môže byť použitá aj na zabránenie tomu, aby ľudia museli vykonávať nebezpečné zamestnania;

W.  keďže ďalší vývoj a intenzívnejšie využívanie automatizovaného a algoritmického rozhodovania má nepochybne vplyv na voľby, ktoré jednotlivec (napr. obchodník alebo používateľ internetu) a správny, súdny alebo iný orgán verejnej moci uskutočňujú pri prijímaní konečného rozhodnutia spotrebiteľského, obchodného alebo úradného charakteru; keďže bezpečnostné záruky a možnosť kontroly a overovania zo strany človeka musia byť začlenené do procesu automatizovaného a algoritmického rozhodovania;

X.  keďže strojové učenie prináša aj výzvy z hľadiska zabezpečenia nediskriminácie, riadneho postupu, transparentnosti a zrozumiteľnosti v rozhodovacích procesoch;

Y.  keďže umelá inteligencia predstavuje významný nástroj na riešenie globálnych spoločenských výziev a keďže členské štáty by preto mali prostredníctvom svojej verejnej politiky podporovať investície, sprístupňovať finančné prostriedky, ktoré sú dostupné pre výskum a vývoj, a riešiť prekážky rozvoja a zavádzania umelej inteligencie;

Z.  keďže komerčné platformy umelej inteligencie prešli z testovania na skutočné použitie v oblasti zdravia, životného prostredia, energetiky a dopravy; keďže techniky strojového učenia sú jadrom všetkých hlavných webových platforiem a aplikácií veľkých dát;

AA.  keďže európski výskumní pracovníci a spoločnosti sa podieľajú na širokom spektre tém v rámci blockchainu, ktoré sa týkajú dodávateľského reťazca, služieb verejnej správy, financií, internetu vecí, zdravotnej starostlivosti, médií, inteligentných miest, energetiky a dopravy; keďže Európa je silným aktérom v dôležitých oblastiach týkajúcich sa blockchainu, ako je umelá inteligencia; keďže blockchain môže zohrávať dôležitú úlohu pri zvyšovaní európskej inovácie;

AB.  keďže technológie kybernetickej bezpečnosti, ako je digitálna identita, kryptografia alebo detekcia neoprávneného vniknutia, a ich aplikácia v oblastiach, ako sú financie, priemysel 4.0, energetika, doprava, zdravotná starostlivosť a elektronická verejná správa, sú nevyhnutné na zaistenie bezpečnosti a dôveryhodnosti online činností a transakcií vykonávaných občanmi, verejnou správou či spoločnosťami;

AC.  keďže hĺbková analýza textu a údajov slúži ako základ pre aplikácie umelej inteligencie a strojového učenia a je nevyhnutná pre MSP a startupy, pretože im umožňuje prístup k veľkým množstvám údajov na učenie algoritmov umelej inteligencie;

AD.  keďže umelá inteligencia by sa mohla ukázať ako veľmi energeticky náročná; keďže vzhľadom na to je dôležité používať výdobytky umelej inteligencie so zreteľom na existujúce ciele EÚ v oblasti energetickej účinnosti a obehového hospodárstva;

AE.  keďže umelá inteligencia by mala plne podporovať všetky európske jazyky, aby všetkým Európanom poskytla rovnakú príležitosť využívať výhody moderného vývoja umelej inteligencie v rámci viacjazyčnej európskej informačnej spoločnosti;

AF.  keďže v priemysle a službách spojených s vyspelými technológiami je umelá inteligencia mimoriadne dôležitá pre to, aby sa z Európy mohol stať kontinent startupov, a to tak, že na tvorbu rastu bude využívať najnovšie technológie, najmä v oblasti zdravotníckych technológií, služieb a programov zdravotnej starostlivosti, objavovania liekov, robotickej chirurgie a chirurgie s asistenciou robota, liečby chronických ochorení a medicínskeho zobrazovania a vedenia záznamov, zabezpečujúc udržateľné životné prostredie a výrobu bezpečných potravín; keďže Európa v súčasnosti zaostáva vo výskume a patentovaní v oblasti umelej inteligencie za Severnou Amerikou a Áziou;

AG.  keďže rozvoj technológií umelej inteligencie môže pomôcť zlepšiť životy ľudí s chronickými chorobami a so zdravotným postihnutím a riešiť sociálne výzvy, napríklad starnutie obyvateľstva, a to zabezpečením presnejšej a účinnejšej zdravotnej technológie pri poskytovaní zdravotnej starostlivosti;

AH.  keďže existujú široké možnosti uplatnenia umelej inteligencie a robotiky v oblasti lekárskej starostlivosti, ako napríklad správa zdravotných záznamov a údajov, vykonávanie opakujúcich sa úkonov (analýza testov, röntgenových snímok, CT vyšetrení, zadávanie údajov), navrhovanie liečebných postupov, digitálne konzultácie (napríklad lekárska konzultácia na základe osobnej anamnézy a bežných lekárskych poznatkov), virtuálne zdravotné sestry, riadenie predpisovania liekov, vytváranie liekov, presné medicínske postupy (ako je genetické a genomické hľadanie mutácií a spojení s chorobami na základe informácií v DNA), monitorovanie zdravia, analýza systému zdravotnej starostlivosti a ďalšie uplatnenia.;

AI.  keďže prístupnosť neznamená rovnaké služby a zariadenia pre všetkých; keďže prístupnosť umelej inteligencie a robotiky je založená na inkluzívnom plánovaní a návrhu; keďže potreby užívateľov, ich želania a skúsenosti musia byť východiskovým bodom návrhu;

AJ.  keďže vznikajú vážne etické, psychologické a právne otázky, pokiaľ ide o autonómnosť robotov, ich zjavný nedostatok ľudskej empatie a vplyv na vzťah medzi lekárom a pacientom, ktorými sa EÚ ešte riadne nezaoberala, najmä pokiaľ ide o ochranu osobných údajov pacienta, zodpovednosť a nové ekonomické a zamestnanecké vzťahy, ktoré to prinesie; keďže autonómnosť možno ako takú v plnej miere prisúdiť len ľudským bytostiam; keďže je potrebné zabezpečiť solídny právny a etický rámec pre umelú inteligenciu;

AK.  keďže zavádzanie umelej inteligencie musí najmä v oblasti zdravia vždy vychádzať zo zásady zodpovednosti „človek obsluhuje stroj“;

1.Spoločnosť podporovaná umelou inteligenciou a robotikou

1.1.Práca vo veku umelej inteligencie a robotiky

1.  zdôrazňuje, že automatizácia v kombinácii s umelou inteligenciou zvýši produktivitu, a tým aj produkciu; konštatuje, že rovnako ako v prípade predchádzajúcich technologických revolúcií dôjde k nahradeniu niektorých pracovných miest, ale aj vytváraniu nových pracovných miest, ktoré premenia životy a pracovné postupy; zdôrazňuje, že väčšie využívanie robotiky a umelej inteligencie by malo taktiež obmedziť vystavenie ľudí škodlivým a nebezpečným podmienkam a malo by tiež pomôcť vytvoriť viac kvalitných a dôstojných pracovných miest a zlepšiť produktivitu;

2.  naliehavo vyzýva členské štáty, aby sa zamerali na rekvalifikáciu pracovníkov v odvetviach, ktoré sú najviac postihnuté automatizáciou úloh; zdôrazňuje, že nové vzdelávacie programy by sa mali zameriavať na rozvoj zručností pracovníkov, ktorí by tak mohli využiť pracovné príležitosti v súvislosti s novými pracovnými miestami vytvorenými umelou inteligenciou; podporuje rozvoj programov digitálnej gramotnosti v školách, rozvoj učňovskej prípravy a stanovenie priorít odborného vzdelávania, ktoré by pracovníkom pomohli prispôsobiť sa technologickým zmenám;

3.  odporúča, aby členské štáty spolu s aktérmi zo súkromného sektora identifikovali riziká a vypracovali stratégie na zabezpečenie toho, aby sa vypracovali príslušné programy rekvalifikácie a získavania nových zručností; zdôrazňuje, že samotné spoločnosti musia investovať do odbornej prípravy a získavania nových zručností svojej existujúcej pracovnej sily, aby mohli uspokojiť svoje potreby;

4.  zdôrazňuje, že vývoj robotiky v EÚ bude mať silný vplyv na pracovnoprávne vzťahy; domnieva sa, že tento vplyv by sa mal riešiť vyváženým spôsobom s cieľom podporiť reindustrializáciu a taktiež umožniť pracovníkom využívať prírastky produktivity;

5.  konštatuje, že v súčasnom priemyselnom prostredí existuje jemná rovnováha medzi vlastníkmi a pracovníkmi. domnieva sa, že pokrok v zavádzaní umelej inteligencie v priemysle by sa mal uskutočniť s rozsiahlymi konzultáciami so sociálnymi partnermi, keďže potenciálny posun v počte ľudí pracujúcich v tomto odvetví si vyžaduje proaktívne politiky, ktoré pomôžu zamestnancom prispôsobiť sa novým požiadavkám a zabezpečiť, aby sa zisky vo všeobecnosti zdieľali. konštatuje, že to si vyžaduje prehodnotenie a prepracovanie politík trhu práce, systémov sociálneho zabezpečenia a zdaňovania;

6.  naliehavo vyzýva členské štáty, aby riešili prekážky vstupu pracovných síl, ako je nadmerná kvalifikácia;

7.  domnieva sa, že digitálna gramotnosť je jedným z najdôležitejších faktorov pre budúci rozvoj umelej inteligencie a naliehavo vyzýva Komisiu a členské štáty, aby rozvíjali a uplatňovali stratégie odbornej prípravy a rekvalifikácie v oblasti digitálnych zručností; konštatuje, že digitálna gramotnosť môže podporiť širokú a inkluzívnu účasť na riešeniach v oblasti hospodárstva založeného na údajoch a uľahčiť komunikáciu a spoluprácu so všetkými zainteresovanými stranami;

8.  konštatuje, že keďže budú dotknutí občania všetkých vekových skupín, učebné osnovy v oblasti vzdelávania sa musia prispôsobiť, a to aj prostredníctvom vytvárania nových spôsobov vzdelávania a využívania nových technológií realizácie; zdôrazňuje, že aspekty vzdelávania by sa mali náležite riešiť; osobitne sa domnieva, že je potrebné začleniť digitálne zručnosti vrátane kódovania do výučby a odbornej prípravy od prvých školských rokov až po celoživotné vzdelávanie;

1.2.Zlomyseľné využívanie umelej inteligencie a základné práva

9.  zdôrazňuje skutočnosť, že zlomyseľné alebo nedbanlivé využívanie umelej inteligencie by mohlo ohroziť digitálnu, fyzickú a verejnú bezpečnosť, keďže by bolo možné umelú inteligenciu využiť na realizáciu rozsiahlych, cielených a vysoko účinných útokov na služby informačnej spoločnosti a pripojené strojové zariadenia, ako aj na dezinformačné kampane, a všeobecne by sa tým mohlo obmedziť právo jednotlivcov na sebaurčenie; zdôrazňuje, že zlomyseľné alebo nedbanlivé využívanie umelej inteligencie by mohlo tiež predstavovať riziko pre demokraciu a základné práva;

10.  vyzýva Komisiu, aby navrhla rámec, ktorý postihuje praktiky manipulácie s vnímaním, keď personalizovaný obsah alebo informačné kanály vedú k negatívnym pocitom a narušeniu vnímania skutočnosti, ktoré by mohlo viesť k negatívnym dôsledkom (napríklad volebné výsledky alebo skreslené vnímanie spoločenských otázok, ako je migrácia);

11.  zdôrazňuje, že je dôležité rozpoznať, identifikovať a monitorovať problematické tendencie okolo vývoja umelej inteligencie; nabáda k tomu, aby sa výskum umelej inteligencie zameral aj na odhaľovanie náhodného alebo úmyselného poškodzovania umelej inteligencie a robotiky;

12.  naliehavo vyzýva Komisiu, aby vzala na vedomie spoločenské výzvy prameniace z praktík vyplývajúcich z hodnotenia občanov; zdôrazňuje, že občania by nemali byť diskriminovaný na základe ich hodnotenia a že by mali mať nárok na „druhú šancu“;

13.  vyjadruje veľké znepokojenie nad využívaním aplikácií umelej inteligencie vrátane rozpoznávania tváre a hlasu v programoch „emocionálneho dohľadu“, t. j. sledovanie duševného stavu pracovníkov a občanov s cieľom zvýšiť produktivitu a zachovať sociálnu stabilitu, niekedy v spojení so systémami „spoločenského kreditu“, ako to už bolo možné pozorovať napríklad v Číne; zdôrazňuje, že takéto programy sú vo svojej podstate v rozpore s európskymi hodnotami a normami v oblasti ochrany práv a slobôd jednotlivcov;

2.Technologická cesta k umelej inteligencii a robotike

2.1.Výskum a vývoj

14.  pripomína, že Európa má výskumnú obec svetovej úrovne zameranú na umelú inteligenciu, ktorá predstavuje 32 % výskumných inštitúcií v oblasti umelej inteligencie na celom svete;

15.  víta návrh Komisie týkajúci sa programu Digitálna Európa a rozpočet vo výške 2,5 miliardy EUR určený na umelú inteligenciu, ako aj zvýšené financovanie v rámci programu Horizont 2020; chápe dôležitosť financovania EÚ, ktoré dopĺňa rozpočty členských štátov a priemyslu na výskum v oblasti umelej inteligencie a potrebu spolupráce medzi verejnými, súkromnými a európskymi výskumnými programami;

16.  podporuje operačné ciele programu Digitálna Európa s cieľom vybudovať a posilniť základné kapacity umelej inteligencie v Únii, sprístupniť ich všetkým podnikom a verejnej správe a posilniť a prepojiť existujúce testovacie a experimentálne zariadenia v oblasti umelej inteligencie v členských štátoch;

17.  nabáda členské štáty, aby vytvárali viaceré partnerstvá zainteresovaných strán v rámci priemyselných a výskumných ústavov, ako aj spoločné centrá excelentnosti v oblasti umelej inteligencie;

18.  zdôrazňuje, že výskum umelej inteligencie by nemal investovať len do vývoja technológií a inovácií v oblasti umelej inteligencie, ale mal by sa zaoberať aj spoločenskými a etickými otázkami a zodpovednosťou, ktoré súvisia s umelou inteligenciou; je presvedčený, že každý model založený na umelej inteligencie by mal už od návrhu zahŕňať etické hľadisko;

19.  zdôrazňuje, že pri súčasnej podpore pokroku v prospech spoločnosti a životného prostredia by sa výskum v oblasti umelej inteligencie a ďalšie súvisiace činnosti mali vykonávať v súlade so zásadou predbežnej opatrnosti a základnými právami; zdôrazňuje, že každý, kto je zapojený do vývoja, vykonávania, šírenia a používania umelej inteligencie, by mal brať do úvahy a rešpektovať ľudskú dôstojnosť a sebaurčenie a dobré fyzické aj psychické podmienky jednotlivca a spoločnosti ako celku, predvídať možné bezpečnostné vplyvy a prijať náležité preventívne opatrenia primerané úrovni ochrany vrátane včasného odhalenia faktorov, ktoré by mohli ohroziť verejnosť alebo životné prostredie;

20.  zdôrazňuje, že konkurenčné prostredie v oblasti výskumu je rovnako kľúčom k rozvoju umelej inteligencie; zdôrazňuje, že je dôležité podporovať excelentný výskum vrátane základných vedeckých a vysoko rizikových projektov s vysokou odmenou a podporovať Európsky výskumný priestor pomocou atraktívnych podmienok pre financovanie, mobilitu a prístup k infraštruktúre a technológiám v celej Únii, a to na základe zásady otvorenosti voči tretím krajinám a využívania odborných znalosti z krajín mimo Únie za predpokladu, že to neoslabí kybernetickú bezpečnosť EÚ;

21.  zdôrazňuje skutočnosť, že výskumní pracovníci v EÚ naďalej zarábajú výrazne menej ako ich kolegovia v USA a Číne, o čom je známe, že je hlavným dôvodom ich odchodu z Európy; vyzýva Komisiu a členské štáty, aby sa zamerali na prilákanie špičkových talentov do európskych spoločností, a vyzýva členské štáty, aby vytvorili atraktívne podmienky;

22.  zdôrazňuje, že Európa musí zamerať novú iniciatívu v oblasti FET(7) na umelú inteligenciu s osobitným dôrazom na prístup zameraný na človeka a jazykové technológie;

23.  domnieva sa, že umelá inteligencia, strojové učenie a exponenciálne skoky v oblasti dostupnosti údajov a cloud computingu stimulujú iniciatívy v oblasti výskumu zamerané na porozumenie biológii na molekulárnej a bunkovej úrovni, usmerňujú vývoj liečebných postupov a analyzujú toky údajov na odhaľovanie ohrození zdravia, predpovedanie výskytu ochorení a poradenstvo pacientom; konštatuje, že metódy hĺbkovej analýzy údajov a navigácie údajov možno použiť na identifikáciu nedostatkov, rizík, trendov a modelov v oblasti starostlivosti;

24.  zdôrazňuje, že ak vznikajú riziká ako nevyhnutná a neoddeliteľná súčasť výskumu umelej inteligencie, mali by sa vypracovať a dodržiavať prísne protokoly hodnotenia a riadenia rizík, pričom sa zohľadní, že riziko ujmy by malo byť väčšie ako riziko, ktoré sa vyskytuje v bežnom živote (t. j. osoby by nemali byť vystavené rizikám väčším alebo iným než sú riziká, ktorým sú vystavené v rámci bežného spôsobu života);

2.2.Investície

25.  konštatuje, že v záujme udržania konkurencieschopnosti je dôležité zvýšiť investície do tejto oblasti; uznáva, že hoci zdrojom väčšiny investícií a inovácií v tejto oblasti sú súkromné podniky, členské štáty a Komisia by sa mali podporovať v tom, aby pokračovali v investovaní do výskumu v tomto odvetví a aby načrtli svoje priority rozvoja; víta návrh na Program InvestEU a ďalšie verejno-súkromné partnerstvá, ktoré podporia súkromné financovanie; domnieva sa, že by sa mala podporovať koordinácia súkromných a verejných investícií, aby sa zabezpečilo zacielenie rozvoja;

26.  zdôrazňuje, že investície do umelej inteligencie, ktoré sa môžu vyznačovať značnou neistotou, by mali byť doplnené finančnými prostriedkami EÚ, napríklad od Európskej investičnej banky (EIB) alebo Európskeho investičného fondu (EIF) alebo prostredníctvom Programu InvestEU a Európskeho fondu pre strategické investície (EFSI), ktoré môžu pomôcť pri rozložení rizika;

27.  naliehavo vyzýva Komisiu, aby nepovolila financovanie umelej inteligencie v oblasti zbraní zo strany EÚ; naliehavo vyzýva Komisiu, aby vylúčila z finančných prostriedkov EÚ spoločnosti, ktoré skúmajú a rozvíjajú umelé vedomie;

28.  odporúča, aby Komisia zabezpečila, že duševné vlastníctvo vyplývajúce z výskumu vykonávaného s financovaním EÚ zostane v EÚ a na európskych univerzitách;

2.3.Inovácie, spoločenské prijatie a zodpovednosť

29.  konštatuje, že všetky hlavné technologické pokroky si vyžadovali prechodné obdobie, v ktorom väčšina spoločnosti potrebovala získať hlbšie pochopenie technológie a začleniť ju do svojho každodenného života;

30.  konštatuje, že budúcnosť tejto technológie je podmienená spoločenským prijatím a že treba klásť väčší dôraz na primeranú komunikáciu jej výhod, aby sa zabezpečilo lepšie pochopenie tejto technológie a jej spôsobov uplatnenia; takisto konštatuje, že ak spoločnosť nebude o technológii umelej inteligencie informovaná, bude podpora inovácií v tomto odvetví slabšia;

31.  domnieva sa, že prijatie verejnosti závisí od toho, ako je verejnosť informovaná o príležitostiach, výzvach a vývoji v oblasti umelej inteligencie; odporúča, aby členské štáty a Komisia uľahčili prístup k dôveryhodným informáciám zameraným na hlavné obavy týkajúce sa umelej inteligencie a robotiky, ako je súkromie, bezpečnosť a transparentnosť v rozhodovaní;

32.  víta využívanie regulačných experimentálnych prostredí pri zavádzaní nových inovačných myšlienok v spolupráci s regulačnými orgánmi, čo umožní zabudovať záruky do technológií už na začiatku, a uľahčí a podporí tak ich vstup na trh; zdôrazňuje potrebu zaviesť regulačné experimentálne prostredia špecifické pre umelú inteligenciu na testovanie bezpečného a účinného využívania technológií umelej inteligencie v reálnom prostredí;

33.  konštatuje, že pre väčšie prijatie umelej inteligencie zo strany spoločnosti musia existovať záruky, že používané systémy sú bezpečné a zabezpečené;

34.  konštatuje, že umelá inteligencia a jazyková technológia môžu poskytnúť dôležité aplikácie na podporu jednoty Európy v jej rozmanitosti: automatizovaný preklad, agentov konverzácie a osobných asistentov, rozhrania hovoreného jazyka pre roboty a internet vecí, inteligentnú analýzu, automatizovanú identifikáciu online propagandy, falošných správ a nenávistných prejavov;

2.4.Podporné podmienky: pripojiteľnosť, dostupnosť údajov a vysokovýkonná výpočtová technika, cloudová infraštruktúra

35.  zdôrazňuje, že integrácia robotiky a technológie umelej inteligencie v rámci hospodárstva a spoločnosti si vyžaduje digitálnu infraštruktúru, ktorá poskytne všadeprítomnú pripojiteľnosť;

36.  zdôrazňuje, že pripojiteľnosť je predpokladom pre to, aby sa Európa stala súčasťou gigabitovej spoločnosti, a že umelá inteligencia je jasným príkladom exponenciálneho rastu dopytu po kvalitnej, rýchlej, bezpečnej a všadeprítomnej pripojiteľnosti; domnieva sa, že Únia a členské štáty by mali naďalej podporovať opatrenia na stimuláciu investícií do sietí s veľmi vysokou kapacitou a na ich prijatie v EÚ;

37.  zdôrazňuje, že rýchly, bezpečný a zabezpečený rozvoj 5G je nevyhnutný na zabezpečenie toho, aby Únia mohla plne využívať výhody umelej inteligencie a chrániť sa pred kybernetickými hrozbami, čo umožní obnoviť a rozvíjať odvetvia a služby, ktoré sú chrbtovou kosťou európskeho hospodárstva, a podporovať vznik nových služieb, výroby a trhov, čo je nevyhnutné na zabezpečenie nových pracovných miest a vysokej úrovne zamestnanosti;

38.  pripomína, že dostupnosť vysokokvalitných a zmysluplných údajov je základným predpokladom skutočnej konkurencieschopnosti v odvetví umelej inteligencie, a vyzýva verejné orgány, aby zabezpečili spôsoby tvorby, výmeny a správy údajov tým, že sa verejné údaje stanú verejným statkom pri zabezpečení ochrany súkromia a citlivých údajov;

39.  zdôrazňuje význam kvality údajov používaných v hĺbkovom učení; konštatuje, že používanie nekvalitných, zastaraných, neúplných alebo nesprávnych údajov môže viesť k slabým predikciám a následne k diskriminácii a zaujatosti;

40.  domnieva sa, že nový súbor pravidiel, ktorými sa riadi voľný tok iných ako osobných údajov v Únii, umožňuje, aby bolo čoraz viac údajov k dispozícii pre inovácie založené na údajoch, čo uľahčuje MSP a startupom rozvíjať inovatívne služby podporované umelou inteligenciou a vstupovať na nové trhy, pričom umožňuje občanom a podnikom využívať lepšie produkty a služby;

41.  konštatuje, že umelá inteligencia má potenciál zvýšiť efektívnosť, pohodlie a dobré životné podmienky v mnohých odvetviach, ak etablované zainteresované strany z odvetvia budú spolupracovať s vývojármi umelej inteligencie; ďalej konštatuje, že veľký objem údajov, ktoré nemajú osobný charakter, je v súčasnosti v držbe zainteresovaných strán a prostredníctvom partnerstiev by sa mohli využiť na zvýšenie ich efektívnosti; domnieva sa, že na to, aby sa to stalo skutočnosťou, je nevyhnutným predpokladom spolupráca medzi používateľmi a vývojármi umelej inteligencie;

42.  zdôrazňuje význam interoperability a správnosti údajov s cieľom zabezpečiť vysokú úroveň spoľahlivosti a bezpečnostných noriem v oblasti nových technológií;

43.  domnieva sa, že úspech aplikácií umelej inteligencie, prispôsobených používateľom v celej EÚ, často vyžaduje rozsiahle znalosti o miestnych trhoch, ako aj prístup k primeraným miestnym údajom a ich využitie pri školení v oblasti súborov údajov, pri testovaní a validácii systémov, najmä v odvetviach súvisiacich so spracovaním prirodzeného jazyka; žiada členské štáty, aby podporovali dostupnosť kvalitných, interoperabilných a otvorených údajov v držbe verejného a súkromného sektora;

44.  zdôrazňuje potrebu zabezpečiť maximálnu súdržnosť s politikou EÚ v oblasti veľkých dát;

45.  víta opatrenia na uľahčenie a podporu cezhraničnej výmeny a zdieľania údajov;

46.  konštatuje, že v súčasnosti je zdieľanie údajov oveľa nižšie ako jeho potenciál a že veľké množstvo údajov sa využíva nedostatočne;

47.  uznáva, že existuje odpor voči zdieľaniu údajov a zdôrazňuje potrebu prijať opatrenia na jeho podporu; konštatuje, že neexistencia spoločných noriem zohráva tiež veľkú úlohu, pokiaľ ide o schopnosť zdieľať údaje;

48.  víta nariadenia, ako je nariadenie o voľnom toku údajov a jeho význam pre účinnejšie a efektívnejšie postupy v oblastiach, ako je umelá inteligencia;

49.  uznáva, že je potrebné zaviesť väčšie trhové stimuly na podporu prístupu k údajom a ich zdieľania; konštatuje, že otvorenosť údajov predstavuje v prvom rade riziko pre investície do údajov;

50.  požaduje lepšie objasnenie pravidiel vlastníctva údajov a platných právnych rámcov; konštatuje, že regulačná neistota viedla k príliš opatrnej reakcii zo strany priemyslu;

51.  zdôrazňuje význam európskych iniciatív v oblasti cloud computingu a vysokovýkonnej výpočtovej techniky, ktoré ďalej posilnia vývoj algoritmov hĺbkového učenia a spracovanie veľkých dát; je pevne presvedčený, že na to, aby tieto iniciatívy boli úspešné a relevantné pre rozvoj umelej inteligencie, infraštruktúra musí byť otvorená pre verejné i súkromné subjekty so sídlom v Únii a inde, a mala by sa riadiť najmenej reštriktívnymi kritériami prístupu;

52.  víta vytvorenie spoločného podniku pre európsku vysokovýkonnú výpočtovú techniku; zdôrazňuje, že superpočítanie a dátová infraštruktúra sú nevyhnutné na zabezpečenie konkurencieschopného inovačného ekosystému pre vývoj technológií a aplikácií umelej inteligencie;

53.  zdôrazňuje, že cloud computing zohráva kľúčovú úlohu pri riadení zavádzania umelej inteligencie; zdôrazňuje, že prístup ku cloudovým službám umožňuje súkromným spoločnostiam, verejným inštitúciám, výskumným a akademickým inštitúciám a používateľom rozvíjať a využívať umelú inteligenciu efektívnym a hospodársky životaschopným spôsobom;

3.Priemyselná politika

54.  pripomína, že zatiaľ čo v oblasti umelej inteligencie a robotiky už existujú zavedené priemyselné aplikácie, pokrok v tejto oblasti sa rozširuje a prináša rozsiahle a rozmanité aplikácie týkajúce sa všetkých ľudských činností; domnieva sa, že akýkoľvek regulačný rámec musí zahŕňať flexibilitu, ktorá umožňuje inováciu a voľný vývoj nových technológií a využitia umelej inteligencie;

55.  zdôrazňuje, že určenie rozsahu a aplikácií umelej inteligencie by malo byť výsledkom procesu navrhovania založeného na potrebách a riadeného zásadami, ktoré zohľadňujú zamýšľaný výsledok a najlepšiu cestu k jeho dosiahnutiu z hospodárskeho a sociálneho hľadiska; domnieva sa, že existencia jasných politík vo všetkých fázach vývoja povedie k vhodnej implementácii a riešeniu rizík a nedostatkov;

56.  odporúča využívanie a presadzovanie verejno-súkromných partnerstiev s cieľom preskúmať riešenia kľúčových problémov, ako je budovanie ekosystému údajov a podpora prístupu, zdieľania a toku údajov pri súčasnom zabezpečení práv občanov na súkromie;

57.  zdôrazňuje, že významnou výzvou pre budúcnosť systémov umelej inteligencie je nekonzistentná kvalita technológie výroby softvéru, a preto zdôrazňuje, že je veľmi potrebná štandardizácia budovania a používania systémov umelej inteligencie;

58.  berie na vedomie prácu, ktorá sa vykonáva na celom svete, a uznáva potrebu aktívnej spolupráce s partnermi, najmä v rámci OECD a G20, na formovaní smerovania tohto odvetvia s cieľom zabezpečiť, aby EÚ zostala konkurencieschopná a udržala si rovný prístup medzi národmi, ako aj čo najširšie zdieľanie výhod vyplývajúcich z rozvoja umelej inteligencie;

59.  so znepokojením konštatuje, že niektoré spoločnosti mimo EÚ a subjekty z tretích krajín čoraz viac využívajú prediktívne modely založené na umelej inteligencii na poskytovanie služieb a získavanie pridanej hodnoty na trhoch EÚ, najmä na miestnej úrovni, a na monitorovanie a prípadne ovplyvňovanie politických nálad, čím potenciálne ohrozujú technologickú suverenitu občanov Únie;

60.  zdôrazňuje, že verejná podpora umelej inteligencie by sa mala zameriavať na tie strategické odvetvia, v ktorých má priemysel EÚ najväčšie príležitosti na to, aby zohrával vedúcu úlohu na celosvetovej úrovni, a ktoré majú pridanú hodnotu vo všeobecnom verejnom záujme;

3.1.Prioritné odvetvia

3.1.1.Verejný sektor

61.  zdôrazňuje, že umelá inteligencia a robotika poskytujú verejnému sektoru viacero výhod, a víta väčšie investície do výskumu a vývoja uskutočnené s cieľom ich ďalšieho rozvoja;

62.  zdôrazňuje, že členské štáty by mali investovať do vzdelávacích programov a programov odbornej prípravy v oblasti umelej inteligencie s cieľom pomôcť zamestnancom verejného sektora pri využívaní umelej inteligencie a robotiky; konštatuje, že by sa mali uskutočniť aj informačné kampane určené pre občanov, ktorí budú využívať služby verejného sektora poskytované systémami umelej inteligencie a robotikou, aby sa ukľudnili ich obavy zo straty kontroly nad osobnými údajmi a vytvorila dôvera;

63.  zdôrazňuje, že informácie verejného sektora predstavujú mimoriadny zdroj údajov, ktorý môže prispieť k rýchlemu pokroku a vytvoriť novú stratégiu na prijatie nových digitálnych technológií, najmä umelej inteligencie;

64.  domnieva sa, že prijatie dôveryhodnej umelej inteligencie vo verejnom sektore môže výrazne podporiť reformu verejnej správy, pokiaľ ide o rozhodovanie a zlepšenie verejných služieb, a zároveň podporiť väčšie prijatie umelej inteligencie v iných odvetviach;

65.  berie na vedomie využívanie robotickej automatizácie procesov a jej vplyv na zlepšenie procesov verejného sektora; berie na vedomie jej interoperabilitu so staršími systémami;

66.  žiada členské štáty, aby viedli túto digitálnu transformáciu a stali sa hlavnými zodpovednými používateľmi a kupujúcimi technológie umelej inteligencie; v tejto súvislosti zdôrazňuje, že členské štáty musia prispôsobiť svoje politiky v oblasti údajov, ktoré sa okrem iného vzťahujú na zber, používanie, archiváciu alebo anotáciu verejných údajov, aby bolo možné umelú inteligenciu zaviesť v celom verejnom sektore;

67.  zdôrazňuje potrebu zapojenia verejnosti do procesu rozvoja umelej inteligencie; vyzýva preto Komisiu, aby uverejnila všetky algoritmy, nástroje alebo technológie, ktoré sú financované alebo spolufinancované z verejných zdrojov, ako otvorený zdroj;

68.  domnieva sa, že umelá inteligencia bude veľkým prínosom, pokiaľ ide o uplatňovanie zásady „jedenkrát a dosť“, keďže umožní kombináciu databáz a informácií z rôznych zdrojov, a tým uľahčí interakciu občanov s orgánmi verejnej správy;

69.  vyzýva Komisiu, aby zaručila ochranu občanov pred akýmikoľvek systémami umelej inteligencie, pomocou ktorých by orgány verejnej správy rozhodovali o hodnotení, ako je systém, ktorého používanie sa plánuje v Číne;

3.1.2.Zdravie

70.  zdôrazňuje, že zásadným aspektom ľudskej starostlivosti je ľudský kontakt;

71.  konštatuje, že umelá inteligencia a robotika môžu byť prínosné pre odvetvie poskytovania starostlivosti, keďže sa stredná dĺžka života zvyšuje, napríklad môžu pomáhať lekárom a sestrám, ktorí tak budú mať viac času na činnosti s vysokou hodnotou (napríklad komunikáciu s pacientmi);

72.  konštatuje, že umelá inteligencia už dosiahla veľký vplyv na zdravie, prevenciu, diagnostiku a výskum a má veľký potenciál v oblasti navrhovania personalizovanej starostlivosti; domnieva sa, že to v konečnom dôsledku vedie k udržateľnejšiemu a efektívnejšiemu ekosystému zdravotnej starostlivosti založenému na výsledkoch;

73.  konštatuje, že pri kombinácii umelej inteligencie s ľudskou diagnostikou je miera chybovosti obvykle výrazne nižšia ako v prípade diagnostiky uskutočnenej výlučne lekármi(8);

74.  zdôrazňuje, že používanie údajov v sektore zdravotníctva sa musí starostlivo a eticky monitorovať a nesmie žiadnym spôsobom brániť prístupu k sociálnej ochrane alebo poisteniu;

75.  domnieva sa, že ak sa umelá inteligencia využíva v implantovaných zdravotníckych pomôckach, nositeľ by mal mať právo kontrolovať a upravovať zdrojový kód použitý v takejto pomôcke;

76.  osobitná pozornosť by sa mala venovať používaniu „veľkých dát“ v zdravotníctve s cieľom maximalizovať príležitosti, ktoré môžu priniesť – ako zlepšenie zdravia jednotlivých pacientov či skvalitnenie systémov zdravotníctva členských štátov – bez toho, aby sa znížili etické normy či ohrozilo súkromie alebo bezpečnosť občanov;

77.  zdôrazňuje však, že súčasný systém schvaľovania zdravotníckych pomôcok nemusí byť vhodný pre technológie umelej inteligencie; vyzýva Komisiu, aby pozorne sledovala pokrok v týchto technológiách a v prípade potreby navrhla zmeny regulačného rámca s cieľom stanoviť rámec pre určenie príslušnej zodpovednosti užívateľa (lekára/odborníka), výrobcu technologického riešenia a zdravotníckeho zariadenia poskytujúceho liečbu; poukazuje na to, že právna zodpovednosť za škodu je ústrednou otázkou v sektore zdravotníctva, pokiaľ ide o používanie umelej inteligencie; zdôrazňuje, že preto treba zabezpečiť, aby užívatelia neboli vždy vedení len k tomu, aby podporili diagnostické riešenie alebo liečbu, ktoré navrhol technologický nástroj, a to z obavy žaloby o náhradu škody, ak by na základe vlastného informovaného odborného úsudku mali dospieť k záverom, ktoré by sa líšili hoci len čiastočne;

78.  vyzýva členské štáty a Komisiu, aby zvýšili financovanie technológií umelej inteligencie spojených so zdravím vo verejnom a súkromnom sektore; v tejto súvislosti víta vyhlásenie o spolupráci podpísané 24 členskými štátmi EÚ a Nórskom s cieľom podporiť vplyv investícií do umelej inteligencie na európskej úrovni; vyzýva členské štáty a Komisiu, aby zvážili, či by sa programy odbornej prípravy lekárov a zdravotníckych zamestnancov mali aktualizovať a štandardizovať na úrovni Európy, s cieľom zabezpečiť vysokú úroveň odbornosti a rovnaké podmienky v jednotlivých členských štátoch, pokiaľ ide o znalosti a používanie najvyspelejších technologických nástrojov robotickej chirurgie, biomedicíny a biomedicínske zobrazovanie založené na umelej inteligencii;

79.  vyzýva Komisiu, aby pracovala na stratégiách a politikách, ktoré môžu EÚ postaviť do vedúcej pozície vo svete v rastúcej oblasti technológií zdravotnej starostlivosti a zároveň zabezpečiť prístup pacientov k bezproblémovej a účinnej zdravotnej starostlivosti;

80.  uznáva, že lepšia diagnostika by mohla zachrániť milióny životov, keďže podľa Svetovej zdravotníckej organizácie 89 % predčasných úmrtí v Európe spôsobujú neprenosné ochorenia;

81.  zdôrazňuje prínos umelej inteligencie a robotiky pri inovácii preventívnych, klinických a rehabilitačných postupov a techník v zdravotníctve, s osobitným dôrazom na prínos pre pacientov so zdravotným postihnutím;

82.  uznáva, že väčšie využívanie senzorov v oblasti robotiky rozšírilo rozsah poskytovanej starostlivosti a umožnilo pacientom využívať personalizovanejšiu starostlivosť a služby a využívať služby starostlivosti na diaľku zo svojich vlastných domovov pri súčasnom generovaní zmysluplnejších údajov;

83.  uznáva, že podľa prieskumu Eurobarometra z mája 2017(9) sa občania EÚ v súčasnosti stále cítia nepohodlné pri pomyslení na to, že by roboti boli používaní pri každodennej zdravotnej starostlivosti; vyzýva Komisiu a členské štáty, aby vypracovali stratégie a komunikačné kampane na zvýšenie povedomia o prínosoch každodenného používania robotov; berie na vedomie najmä ambíciu japonskej stratégie v oblasti robotiky;

3.1.3.Energetika

84.  konštatuje, že umelá inteligencia umožňuje dodávateľom energie prejsť z preventívnej na prediktívnu údržbu aktív a dosiahnuť účinnejšiu výrobu energie tým, že sa zvýši jej spoľahlivosť, najmä pokiaľ ide o obnoviteľné zdroje, a určí čo najefektívnejšie umiestnenie nových zariadení, čím sa zabezpečí lepšie riadenie odpovede na dopyt;

85.  uznáva, že presnejšie údaje, ktoré umelá inteligencia prináša o potenciáli výroby obnoviteľnej energie, povedú k vyššej investičnej istote pre podniky a jednotlivcov, čím sa urýchli prechod k energii z obnoviteľných zdrojov a prispeje k dlhodobej stratégii Únie pre klimaticky neutrálne hospodárstvo;

86.  konštatuje, že riešenia zahŕňajúce senzory sa už používajú na riadenie spotreby energie v domácnostiach a že to viedlo k značným úsporám energie a finančných prostriedkov;

87.  víta potenciál umelej inteligencie pri modelovaní, identifikácii a zmierňovaní vplyvu ľudskej činnosti na klímu. konštatuje, že hoci zvýšená digitalizácia tiež prináša nové energetické potreby, môže zároveň pomôcť zefektívniť energeticky náročné odvetvia a lepšie porozumieť procesom, a tým prispieť k ich zlepšeniu;

88.  zdôrazňuje, že v dôsledku väčšej digitalizácie odvetvia energetiky budú energetické siete rozsiahlejšie a viac vystavené kybernetickým hrozbám; vyzýva členské štáty a Komisiu, aby digitálnu transformáciu odvetví energetiky doplnili o opatrenia, ako je napríklad umelá inteligencia, ktoré zlepšia kybernetickú bezpečnosť;

3.1.4.Doprava

89.  víta schopnosť umelej inteligencie a robotiky výrazne zlepšiť naše dopravné systémy zavedením autonómnych vlakov a motorových vozidiel; žiada väčší výskum a viac investícií v tejto oblasti s cieľom zaistiť jej bezpečný a účinný rozvoj; zdôrazňuje obrovské príležitosti pre väčšie technologické spoločnosti aj MSP;

90.  konštatuje, že znížením rizika zlyhania ľudského faktora v odvetví dopravy sa môže systém potenciálne zefektívniť a počet nehôd znížiť, a to vďaka jasnejšiemu posúdeniu a prediktívnej povahe technológie, môže sa tiež znížiť počet meškaní v dôsledku schopnosti mapovať dopravné modely, prevádzkovať služby podľa harmonogramu, dosiahnuť väčšie úspory, obmedziť chyby súvisiace s vodičmi a zefektívniť vnútorné procesy;

91.  konštatuje, že prevaha autonómnych vozidiel v budúcnosti predstavuje riziko z hľadiska ochrany údajov a technických porúch a presunie zodpovednosť z vodiča na výrobcu, pričom poisťovne budú musieť zmeniť spôsob zohľadnenia rizika v rámci ich poistení;

92.  konštatuje, že hlasová komunikácia sa v čoraz väčšej miere využíva v interakcii s vozidlami a dopravnými systémami, ale tieto funkcie sú k dispozícii len pre niekoľko európskych jazykov, a preto by sa malo zabezpečiť, aby všetci Európania mohli využívať tieto možnosti vo svojom materinskom jazyku;

3.1.5.Poľnohospodárstvo a potravinový reťazec

93.  konštatuje, že umelá inteligencia má potenciál naštartovať prelomovú transformáciu súčasného potravinového systému smerom k rozmanitejšiemu, odolnejšiemu, regionálne prispôsobenému a zdravšiemu modelu v budúcnosti;

94.  berie na vedomie úlohu, ktorú umelá inteligencia môže zohrávať v úsilí o pomoc pri riešení otázok potravinovej bezpečnosti, predpovedanie hladomoru a výskytu ochorení súvisiacich s potravinami, zníženie potravinových strát a odpadu z potravín a zlepšenie trvalo udržateľného hospodárenia s pôdou, vodou a inými environmentálnymi zdrojmi rozhodujúcimi pre zdravie ekosystémov;

95.  zdôrazňuje, že umelá inteligencia môže zasahovať v kritických bodoch v rámci hodnotového reťazca potravinového systému od výroby až po spotrebu a zvýšiť našu schopnosť zásadne zmeniť spôsob, akým vyrábame, spracovávame a kupujeme potraviny, a to prostredníctvom informovanejších postupov územného plánovania;

96.  konštatuje, že umelá inteligencia môže zlepšiť riadenie zdrojov a efektívnosť vstupov, pomôcť pri znižovaní odpadu po zbere a ovplyvňovať výber na strane spotreby;

97.  konštatuje, že umelá inteligencia vo forme „presného poľnohospodárstva“ má potenciál na prelomovú transformáciu poľnohospodárskej výroby, ako aj všeobecnejšieho hospodárenia s pôdou, a to zlepšením územného plánovania, predpovedaním zmeny využívania pôdy a monitorovaním zdravia plodín, a zároveň má potenciál zmeniť predpovedanie extrémnych poveternostných javov;

98.  konštatuje, že umelá inteligencia môže radikálne zmeniť dodávky vstupov, kontrolu škodcov a riadenie poľnohospodárskych podnikov, ovplyvniť poľnohospodárske postupy, zmeniť spôsob poskytovania poistných produktov a pomôcť predpovedať a vyhnúť sa v budúcnosti prepuknutiu hladomoru a výskytu závažnej akútnej podvýživy;

99.  konštatuje, že umelá inteligencia môže viesť k lepším rozhodnutiam o tom, ako riadiť poľnohospodárske systémy a stimulovať rozvoj systémov na podporu rozhodovania a odporúčaní zlepšením efektívnosti a zdravia poľnohospodárskych podnikov;

3.1.6.Kybernetická bezpečnosť

100.  konštatuje, že kybernetická bezpečnosť je dôležitým aspektom umelej inteligencie, najmä vzhľadom na výzvy pre transparentnosť v oblasti umelej inteligencie na vysokej úrovni; domnieva sa, že technologická perspektíva, vrátane auditu zdrojového kódu, a požiadavky na transparentnosť a zodpovednosť by mal dopĺňať inštitucionálny prístup, ktorý by sa zaoberal výzvami v oblasti zavádzania umelej inteligencie vyvinutej v iných krajinách na jednotný trh EÚ;

101.  žiada rýchle vykonávanie aktu o kybernetickej bezpečnosti; konštatuje, že rozvoj certifikačných systémov EÚ by mal zabezpečiť odolnejší rozvoj a zavádzanie bezpečných systémov umelej inteligencie a robotiky;

102.  domnieva sa, že umelá inteligencia môže byť súčasne kybernetickou bezpečnostnou hrozbou a nástrojom na boj proti kybernetickým útokom; domnieva sa, že Agentúra Európskej únie pre sieťovú a informačnú bezpečnosť (ENISA) by mala vypracovať akčný plán pre kybernetickú bezpečnosť v oblasti umelej inteligencie, ktorý by mal posúdiť a riešiť hrozby a nedostatky špecifické pre umelú inteligenciu;

103.  zdôrazňuje význam posilnenia priemyselnej základne ako strategickej súčasti bezpečného rozvoja umelej inteligencie; zdôrazňuje, že na zabezpečenie ambicióznej úrovne kybernetickej bezpečnosti, ochrany údajov a dôveryhodných služieb IKT musí Európa investovať do svojej technologickej nezávislosti; zdôrazňuje, že je naliehavo potrebné, aby EÚ rozvíjala svoju vlastnú infraštruktúru, dátové centrá, cloudové systémy a komponenty, ako sú grafické procesory a čipy;

104.  konštatuje, že keďže sa umelá inteligencia vyvíja a hekeri sa stávajú sofistikovanejšími, bude nevyhnutné mať k dispozícii silné riešenia v oblasti kybernetickej bezpečnosti;

105.  uznáva, že implementácia riešení v oblasti umelej inteligencie, pokiaľ ide o kybernetickú bezpečnosť, umožní predpovedanie, prevenciu a zmierňovanie hrozieb;

106.  zdôrazňuje, že hoci umelá inteligencia dokáže lepšie pokryť odhaľovanie hrozieb, je nevyhnutná ľudská interpretácia týchto hrozieb, aby sa zistilo, či sú skutočné alebo nie;

107.  vyzýva Komisiu, aby preskúmala používanie aplikácií v oblasti kybernetickej bezpečnosti založených na technológii blockchainu, ktoré zlepšia odolnosť, dôveru a spoľahlivosť infraštruktúry umelej inteligencie prostredníctvom modelov šifrovania údajov bez sprostredkovateľov; vyzýva Komisiu, aby preskúmala možnosť odmeňovať občanov za ich údaje prostredníctvom tokenov;

108.  vyzýva Komisiu, aby posilnila kapacitu EÚ v oblasti kybernetickej bezpečnosti ďalším spájaním a koordináciou úsilia v celej Európe;

3.1.7.MSP

109.  uznáva význam MSP pre úspech umelej inteligencie; víta iniciatívu Komisie na vytvorenie platformy umelej inteligencie na požiadanie, ktorá podporí prenos technológií a podporí rast startupov a MSP; vyzýva Komisiu, aby podporovala centrá digitálnych inovácií pre umelú inteligenciu, ktoré nevedú k vytvoreniu dodatočných administratívnych vrstiev, ale miesto toho sa sústreďujú na urýchlenie investícií do projektov, ktoré preukázali svoju účinnosť;

110.  konštatuje, že náklady na investovanie do umelej inteligencie vedú k veľkým prekážkam pre vstup MSP na trh; uznáva, že rozsiahle využívanie umelej inteligencie spotrebiteľmi by znížilo riziko týchto investícií pre MSP;

111.  zdôrazňuje, že je potrebné podporovať prijatie umelej inteligencie zo strany MSP, ako aj jej využívanie spotrebiteľmi;

112.  zdôrazňuje význam cielených opatrení s cieľom zabezpečiť, aby MSP a startupy boli schopné prijať technológie umelej inteligencie a využívať ich výhody; domnieva sa, že posúdenia vplyvu účinkov nových právnych predpisov EÚ na technologický rozvoj umelej inteligencie by mali byť povinné a že takéto posúdenia vplyvu by sa mali zvážiť aj na vnútroštátnej úrovni;

113.  zdôrazňuje, že umelá inteligencia môže byť nástrojom pre MSP, ale zároveň zvyšuje pákový veľkých prvých užívateľov a vývojárov; poukazuje preto na skutočnosť, že z hľadiska hospodárskej súťaže je nutné zabezpečiť riadne vyhodnocovanie a riešenie nových narušení;

4.Právny rámec pre umelú inteligenciu a robotiku

114.  vyzýva Komisiu, aby v záujme podpory regulačného prostredia, ktoré je priaznivé pre rozvoj umelej inteligencie, a v súlade so zásadou lepšej regulácie pravidelne prehodnocovala súčasné právne predpisy s cieľom zabezpečiť, aby boli vhodné na účel v súvislosti s umelou inteligenciou a zároveň aby rešpektovali základné hodnoty EÚ, a aby sa usilovala o zmenu alebo nahradenie nových návrhov, ak sa ukáže, že daný účel neplnia;

115.  víta vytvorenie participatívnych platforiem založených na umelej inteligencii, ktoré umožnia občanom, aby boli úspešne vypočutí a aby mohli komunikovať s vládami prostredníctvom predkladania návrhov, a to aj prostredníctvom participatívnych rozpočtov a ďalších nástrojov priamej demokracie; zdôrazňuje, že projekty zdola nahor môžu podporiť účasť občanov a pomôcť ľuďom robiť informované rozhodnutia účinnejším a demokratickejším spôsobom;

116.  konštatuje, že umelá inteligencia je pojem zahŕňajúci širokú škálu produktov a aplikácií, počnúc automatizáciou, algoritmami a úzko zameranou umelou inteligenciou až po všeobecnú umelú inteligenciu; domnieva sa, že ku komplexnému právnemu predpisu alebo regulácii v oblasti umelej inteligencie by sa malo pristupovať obozretne, pretože odvetvová regulácia môže stanoviť politiky, ktoré sú dostatočne všeobecné, ale aj vylepšené až na úroveň, v ktorej sú pre priemyselný sektor zmysluplné;

117.  zdôrazňuje, že rámec politiky musí byť navrhnutý tak, aby podporoval rozvoj všetkých druhov umelej inteligencie, a nielen systémov hlbokého učenia, ktoré si vyžadujú obrovské množstvo údajov;

4.1.Vnútorný trh s umelou inteligenciou

118.  zdôrazňuje význam zásady vzájomného uznávania pri cezhraničnom používaní inteligentných produktov vrátane robotov a robotických systémov; pripomína, že v prípade potreby by skúšanie, certifikácia a bezpečnosť produktov mali zabezpečiť, aby boli určité produkty bezpečné už v štádiu návrhu a štandardne; v tejto súvislosti poznamenáva, že je dôležité pracovať aj na etických aspektoch umelej inteligencie;

119.  zdôrazňuje, že právne predpisy EÚ týkajúce sa implementácie stratégie jednotného digitálneho trhu by mali odstrániť prekážky pri zavádzaní umelej inteligencie; žiada Komisiu, aby vyhodnotila, kde je potrebné aktualizovať politické a regulačné rámce s cieľom vybudovať jednotný európsky trh pre umelú inteligenciu;

120.  uznáva, že robotika a technológie umelej inteligencie sa čoraz viac využívajú v autonómnych vozidlách, ako sú samoriadiace autá a civilné bezpilotné vzdušné prostriedky; konštatuje, že niektoré členské štáty už prijali právne predpisy týkajúce sa tejto konkrétnej oblasti alebo ich prijatie zvažujú, čo by mohlo viesť k tomu, že nejednotné vnútroštátne právne predpisy spomalia vývoj autonómnych vozidiel; preto požaduje jednotný súbor pravidiel Únie, ktoré zabezpečia správnu rovnováhu medzi záujmami používateľov, podnikov a iných zainteresovaných strán a potenciálnymi rizikami pre nich a zároveň zabránia nadmernej regulácii v oblasti robotiky a systémov umelej inteligencie;

121.  naliehavo vyzýva členské štáty, aby zmodernizovali svoje systémy odbornej prípravy a vzdelávania s cieľom zohľadniť vedecký pokrok a vývoj v oblasti umelej inteligencie v súlade so smernicou o teste proporcionality(10) a smernicou o uznávaní odborných kvalifikácií(11) a aby zabezpečili, že odborné služby EÚ budú v nadchádzajúcich desaťročiach celosvetovo konkurencieschopné;

122.  zdôrazňuje, že umelá inteligencia sa vzťahuje na rôzne odvetvia, v ktorých má normalizácia veľký význam, ako sú inteligentná výroba, robotika, autonómne vozidlá, virtuálna realita, zdravotná starostlivosť a analýza údajov, a je presvedčený, že normalizácia v oblasti umelej inteligencie v celej EÚ podporí inovácie a zaručí vysokú úroveň ochrany spotrebiteľa; uznáva, že hoci existuje značný počet noriem v oblastiach, ako je bezpečnosť, spoľahlivosť, interoperabilita a ochrana, je potrebná ďalšia podpora a rozvoj spoločných noriem pre robotiku a umelú inteligenciu a že by to malo byť súčasťou priorít Únie; vyzýva Komisiu, aby v spolupráci s normalizačnými orgánmi EÚ naďalej aktívne spolupracovala s medzinárodnými orgánmi pre normalizáciu na zlepšovaní noriem v tejto oblasti;

123.  pripomína, že na mnohé politické aspekty týkajúce sa služieb podporovaných umelou inteligenciou vrátane pravidiel ochrany spotrebiteľa a politiky v oblasti etiky a zodpovednosti sa vzťahuje existujúci regulačný rámec pre služby, konkrétne smernica o službách(12), smernica o uznávaní odborných kvalifikácií a smernica o elektronickom obchode(13); v tejto súvislosti zdôrazňuje, že za rozhodovanie musia byť v konečnom dôsledku vždy zodpovední ľudia, najmä pokiaľ ide o odborné služby, ako sú lekárske, právne a účtovné povolania; domnieva sa, že je potrebné zvážiť, či je potrebný dohľad kvalifikovaného odborníka s cieľom chrániť legitímne ciele verejného záujmu a poskytovať služby vysokej kvality;

124.  uznáva význam dokonalejších digitálnych služieb – ako sú virtuálni asistenti, chatboty a virtuálni agenti – prinášajúcich nebývalú prevádzkovú efektívnosť, pričom však úplne uznáva potrebu rozvoja umelej inteligencie zameranej na človeka a orientovanej na trh s cieľom vydávať lepšie a spoľahlivejšie rozhodnutia, a to vzhľadom na obmedzenú autonómnosť umelej inteligencie a robotiky;

4.2.Osobné údaje a súkromie

125.  zdôrazňuje, že sa musí zabezpečiť vysoká úroveň bezpečnosti, ochrany a súkromia údajov používaných na komunikáciu osôb s robotmi a umelou inteligenciou; vyzýva preto Komisiu a členské štáty, aby do svojich politík týkajúcich sa robotiky a umelej inteligencie integrovali zásady bezpečnosti a ochrany súkromia už v štádiu návrhu;

126.  opätovne pripomína, že právo na ochranu súkromného života a právo na ochranu osobných údajov zakotvené v článkoch 7 a 8 Charty základných práv a v článku 16 Zmluvy o fungovaní Európskej únie sa vzťahujú na všetky oblasti robotiky a umelej inteligencie a že právny rámec Únie na ochranu údajov sa musí plne dodržiavať; zdôrazňuje, že vývojári robotických systémov a umelej inteligencie nesú zodpovednosť za vývoj produktov tak, aby boli bezpečné, zabezpečené a vhodné na daný účel a dodržiavali postupy spracovania údajov v súlade s platnými právnymi predpismi a zásadami dôvernosti, anonymnosti, spravodlivého zaobchádzania a riadneho procesu;

127.  vyzýva Komisiu, aby zabezpečila, aby všetky právne predpisy Únie týkajúce sa umelej inteligencie zahŕňali opatrenia a pravidlá, ktoré zohľadňujú rýchly technologický vývoj v tejto oblasti, aby sa zabezpečilo, že právne predpisy Únie nebudú zaostávať za krivkou technologického rozvoja a zavádzania; zdôrazňuje, že je potrebné, aby takéto právne predpisy boli v súlade s pravidlami pre ochranu súkromia a údajov; žiada, aby sa zrevidovali pravidlá, zásady a kritériá týkajúce sa používania kamier a senzorov v robotoch a v súvislosti s umelou inteligenciou v súlade s právnym rámcom Únie pre ochranu údajov;

128.  vyzýva Komisiu, aby zabezpečila, že akýkoľvek budúci regulačný rámec EÚ v oblasti umelej inteligencie zaručí ochranu súkromia a dôvernosť komunikácie, ochranu osobných údajov vrátane zásad zákonnosti, spravodlivosti a transparentnosti, špecificky navrhnutú a štandardnú ochranu údajov, obmedzenie účelu, minimalizáciu uchovávania, presnosť a minimalizáciu údajov, a to v plnom súlade s právom Únie v oblasti ochrany údajov, ako aj bezpečnosť, osobnú bezpečnosť a ďalšie základné práva vrátane práva na slobodu prejavu a práva na informácie;

129.  zdôrazňuje, že právo na súkromie musí byť vždy rešpektované a jednotlivci nesmú byť osobne identifikovateľní; zdôrazňuje, že vývojár umelej inteligencie by mal mať vždy jasný, jednoznačný a informovaný súhlas a že vývojári umelej inteligencie sú zodpovední za vypracovanie a dodržiavanie postupov pre platný súhlas, dôvernosť, anonymitu, spravodlivé zaobchádzanie a riadny proces; zdôrazňuje, že vývojári musia dodržiavať žiadosti o to, aby boli všetky súvisiace údaje zničené a odstránené zo všetkých súborov údajov;

130.  pripomína, že v nariadení Európskeho parlamentu a Rady (EÚ) 2018/1807 zo 14. novembra 2018 o rámci pre voľný tok iných ako osobných údajov v Európskej únii(14) sa uvádza, že „ak technologický vývoj umožňuje konvertovať anonymizované údaje na osobné údaje, takéto údaje sa považujú za osobné údaje a zodpovedajúcim spôsobom sa na ne má vzťahovať všeobecné nariadenie o ochrane údajov (ďalej len „GDPR“)(15)“;

4.3.Zodpovednosť

131.  víta iniciatívu Komisie na vytvorenie expertnej skupiny pre zodpovednosť a nové technológie s cieľom poskytnúť EÚ odborné znalosti o uplatniteľnosti smernice o zodpovednosti za výrobky(16) na tradičné výrobky, nové technológie a nové spoločenské výzvy (formácia pre smernicu o zodpovednosti za výrobky) a pomáhať EÚ pri rozvoji zásad, ktoré môžu slúžiť ako usmernenia pre možné prispôsobenia uplatniteľných právnych predpisov na úrovni EÚ a vnútroštátnej úrovni týkajúcich sa nových technológií (formácia pre nové technológie);

132.  vyjadruje však poľutovanie nad tým, že počas tohto legislatívneho obdobia nebol predložený žiadny legislatívny návrh, čím sa odďaľuje aktualizácia pravidiel zodpovednosti na úrovni EÚ a ohrozuje právna istota v celej EÚ v tejto oblasti pre obchodníkov aj spotrebiteľov;

133.  konštatuje, že inžinieri v oblasti umelej inteligencie alebo spoločnosti, ktoré ich zamestnávajú, by mali aj naďalej niesť zodpovednosť za sociálne a environmentálne dôsledky a dôsledky na ľudské zdravie, ktoré môžu mať systémy umelej inteligencie alebo robotika pre súčasné a budúce generácie;

4.4.Ochrana spotrebiteľa a posilnenie jeho postavenia

134.  zdôrazňuje, že dôvera spotrebiteľa je nevyhnutná pre rozvoj umelej inteligencie a že systémy založené na umelej inteligencii spracúvajú čoraz viac údajov spotrebiteľov, a preto sa z nich stávajú hlavné ciele kybernetických útokov; zdôrazňuje tiež, že umelá inteligencia musí fungovať tak, aby nepoškodzovala občanov a spotrebiteľov, a domnieva sa, že preto musí byť zabezpečená integrita údajov a algoritmov, na ktorých je umelá inteligencia založená;

135.  domnieva sa, že technológie umelej inteligencie vyvinuté pre výrobu, ako aj pre individuálne použitie, by mali podliehať kontrolám produktov z hľadiska bezpečnosti orgánmi dohľadu nad trhom a mali by sa na ne vzťahovať pravidlá ochrany spotrebiteľa, ktorými sa v prípade potreby zabezpečia minimálne bezpečnostné normy a bude sa riešiť riziko nehôd vyplývajúcich z interakcie s ľuďmi alebo práce v ich blízkosti; je presvedčený, že každá politika v oblasti umelej inteligencie by mala zohľadňovať otázky etiky, ochrany údajov vrátane údajov tretích strán a osobných údajov, otázky občianskoprávnej zodpovednosti a kybernetickej bezpečnosti;

4.5.Práva duševného vlastníctva

136.  pripomína svoje vyššie uvedené uznesenie zo 16. februára 2017, v ktorom konštatoval, že neexistujú žiadne právne ustanovenia, ktoré sa osobitne vzťahujú na robotiku, ale že existujúce právne režimy a doktríny možno jednoducho uplatniť na robotiku, aj keď niektoré aspekty si zrejme vyžadujú osobitnú pozornosť; pripomína výzvu Komisii v uvedenom uznesení, aby podporila horizontálny a technologicky neutrálny prístup k duševnému vlastníctvu, ktorý by sa vzťahoval na rôzne odvetvia, v ktorých by sa robotika mohla využiť;

137.  v tejto súvislosti víta oznámenie Komisie inštitúciám o usmerneniach k niektorým aspektom smernice Európskeho parlamentu a Rady 2004/48/ES o vymožiteľnosti práv duševného vlastníctva(17) (COM(2017)0708), zdôrazňuje však potrebu monitorovať relevantnosť a efektívnosť pravidiel týkajúcich sa práv duševného vlastníctva s cieľom riadiť rozvoj umelej inteligencie; v tejto súvislosti zdôrazňuje význam kontrol vhodnosti;

5.Etické aspekty

138.  domnieva sa, že činnosti a aplikácie umelej inteligencie by mali byť v súlade s etickými zásadami a príslušnými vnútroštátnymi právnymi predpismi, právnymi predpismi Únie a medzinárodnými právnymi predpismi;

139.  vyzýva na vytvorenie etickej charty najlepších postupov pre umelú inteligenciu a robotiku, ktoré by spoločnosti a experti mali dodržiavať;

140.  vyzýva Komisiu a členské štáty, aby podporovali silnú a transparentnú spoluprácu medzi verejným a súkromným sektorom a akademickou obcou, ktorá by posilnila zdieľanie poznatkov, a aby podporovali vzdelávanie a odbornú prípravu projektantov v oblasti etických dôsledkov, bezpečnosti a dodržiavania základných práv, ako aj spotrebiteľov v oblasti používania robotiky a umelej inteligencie so zvláštnym dôrazom na bezpečnosť a ochranu súkromia;

141.  vyzýva Komisiu, aby zabezpečila, že aplikácie založené na umelej inteligencii nebudú používať údaje zozbierané z rôznych zdrojov bez predchádzajúceho výslovného súhlasu dotknutej osoby; vyzýva Komisiu, aby vytvorila rámec, ktorý zabezpečí, že súhlas poskytnutý dotknutými osobami bude viesť k vygenerovaniu údajov iba na zamýšľané účely;

142.  vyzýva Komisiu, aby rešpektovala právo občanov na život v režime offline a aby zabezpečila, že občania nebudú diskriminovaní za to, že o nich nie sú zaznamenané žiadne údaje;

5.1.Technológia zameraná na človeka

143.  zdôrazňuje, že sa musia zaviesť etické pravidlá na zabezpečenie rozvoja umelej inteligencie zameranej na človeka, zodpovednosti a transparentnosti algoritmických systémov rozhodovania a jasných pravidiel zodpovednosti a spravodlivosti;

144.  víta iniciatívu Komisie na zriadenie expertnej skupiny na vysokej úrovni pre umelú inteligenciu, ako aj siete aliancie EÚ pre umelú inteligenciu s cieľom vypracovať etické usmernenia pre umelú inteligenciu; žiada Komisiu, aby zabezpečila čo najširšie prijatie týchto etických usmernení zo strany priemyslu, akademickej obce a verejných orgánov; odporúča, aby členské štáty začlenili tieto usmernenia do svojich národných stratégií v oblasti umelej inteligencie a vytvorili štruktúry skutočnej zodpovednosti pre odvetvia a vlády pri navrhovaní a zavádzaní umelej inteligencie;

145.  domnieva sa, že je nevyhnutné nepretržité sledovanie implementácie etických usmernení k umelej inteligencii a ich vplyv na vývoj umelej inteligencie zameranej na človeka; žiada Komisiu, aby analyzovala, či sú dobrovoľné etické usmernenia dostatočné na zabezpečenie inkluzívneho začlenenia umelej inteligencie, ktoré sa riadi etikou a nevytvára hospodárske a sociálne rozdiely v spoločnostiach EÚ, a aby navrhla v prípade potreby regulačné a politické opatrenia;

146.  berie na vedomie nedávny vývoj v oblasti monitorovania a prispôsobovania na základe analýz správania; vyzýva Komisiu, aby vypracovala etický rámec, ktorý obmedzí ich využívanie; naliehavo vyzýva Komisiu, aby vytvorila povedomie a začala informačnú kampaň o umelej inteligencii a jej využívaní, pokiaľ ide o analýzu správania;

5.2.Hodnoty ako súčasť technológie – dôraz na etiku už pri návrhu („ethical-by-design“)

147.  poukazuje na to, že usmerňujúci etický rámec by mal byť založený na zásadách dobročinnosti, neškodlivosti, autonómie a spravodlivosti, na zásadách a hodnotách zakotvených v článku 2 Zmluvy o Európskej únii a v Charte základných práv, ako je ľudská dôstojnosť, rovnosť a spravodlivosť, nediskriminácia, informovaný súhlas, súkromný a rodinný život a ochrana údajov, ako aj na ďalších základných zásadách a hodnotách vyplývajúcich z práva Únie, ako je nestigmatizácia, transparentnosť, autonómia, osobná zodpovednosť a sociálna zodpovednosť, a na súčasných etických postupoch a kódexoch;

148.  domnieva sa, že Európa by mala prevziať vedúce svetové postavenie s využitím len takej umelej inteligencie, ktorá sa riadi etikou; zdôrazňuje, že na dosiahnutie tohto cieľa sa musí zabezpečiť etické riadenie umelej inteligencie na rôznych úrovniach; odporúča, aby členské štáty zriadili orgány na monitorovanie etiky a dohľad nad etikou v oblasti umelej inteligencie a povzbudili spoločnosti, ktoré rozvíjajú umelú inteligenciu, aby zriadili etickú radu a vypracovali etické usmernenia pre svojich vývojárov umelej inteligencie;

149.  zdôrazňuje, že európske normy v oblasti umelej inteligencie musia byť založené na zásadách digitálnej etiky, ľudskej dôstojnosti, dodržiavania základných práv, ochrany údajov a bezpečnosti, aby tak prispievali k budovaniu dôvery medzi používateľmi; zdôrazňuje, že je dôležité využiť potenciál EÚ na vytvorenie pevnej infraštruktúry pre systémy umelej inteligencie, vychádzajúc z prísnych noriem týkajúcich sa údajov a rešpektovania ľudí; konštatuje, že do vývoja umelej inteligencie je potrebné začleniť transparentnosť a vysvetliteľnosť;

150.  konštatuje, že v oblasti automatizovaných zbraňových systémov by sa mal naďalej využívať prístup k umelej inteligencii, pri ktorom je vo vedení človek;

5.3.Rozhodovanie - obmedzenia autonómie umelej inteligencie a robotiky

151.  zdôrazňuje, že je ťažké a zložité predpovedať budúce správanie mnohých zložitých systémov umelej inteligencie a nové vzorce správania interaktívnych systémov umelej inteligencie; žiada Komisiu, aby posúdila, či sú potrebné osobitné predpisy týkajúce sa rozhodovania na báze umelej inteligencie;

152.  konštatuje, že umelá inteligencia zostane užitočným nástrojom spolupráce v oblasti ľudskej činnosti s cieľom zlepšiť jej výsledky a znížiť počet chýb;

153.  žiada, aby ľudia mali právo vedieť, právo na odvolanie a právo na nápravu, ak sa umelá inteligencia používa na rozhodnutia s vplyvom na jednotlivcov, ktoré predstavujú závažné riziko pre práva alebo slobodu jednotlivcov alebo môžu im spôsobiť ujmu;

154.  zdôrazňuje, že algoritmy v systémoch rozhodovania by sa nemali používať bez predchádzajúceho posúdenia vplyvu algoritmov (AIA), pokiaľ nie je zrejmé, že nemajú žiadny významný vplyv na život jednotlivcov;

155.  domnieva sa, že umelá inteligencia, najmä autonómne systémy, vrátane schopnosti nezávisle získavať, zhromažďovať a zdieľať citlivé informácie s rôznymi zainteresovanými stranami s možnosťou samostatného učenia alebo dokonca vlastných úprav, by mala podliehať pevným zásadám; zdôrazňuje, že systémy umelej inteligencie nesmú uchovávať ani zverejňovať osobné dôverné informácie bez výslovného súhlasu zdroja týchto informácií;

5.4.Transparentnosť, zaujatosť a vysvetliteľnosť algoritmov

156.  poukazuje na to, že hoci je umelá inteligencia veľmi prínosná pre automatizáciu a rozhodovanie, nesie so sebou aj riziko, ak sú algoritmy statické a neprehľadné; v tejto súvislosti zdôrazňuje potrebu väčšej transparentnosti, pokiaľ ide o algoritmy;

157.  vyzýva Komisiu, členské štáty a orgány pre ochranu údajov, aby určili a prijali všetky možné opatrenia na predchádzanie alebo minimalizáciu algoritmickej diskriminácie a zaujatosti a aby vytvorili pevný spoločný etický rámec transparentného spracovávania osobných údajov a automatizovaného rozhodovania, ktorý by usmerňoval využívanie údajov a presadzovanie práva Únie;

158.  zdôrazňuje, že každý systém umelej inteligencie sa musí rozvíjať so zreteľom na zásady transparentnosti a algoritmickej zodpovednosti, ktoré umožňujú ľuďom pochopiť jeho činnosť; poznamenáva, že v záujme budovania dôvery a umožnenia pokroku v oblasti umelej inteligencie musia používatelia vedieť, ako sa používajú ich údaje, ako aj iné údaje a údaje odvodené z ich údajov, keď komunikujú alebo prichádzajú do styku so systémom umelej inteligencie alebo s ľuďmi s podporou systému umelej inteligencie; domnieva sa, že to prispeje k lepšiemu porozumeniu a väčšej dôvere medzi používateľmi; zdôrazňuje, že zrozumiteľnosť rozhodnutí musí byť normou EÚ v súlade s článkami 13, 14 a 15 GDPR; pripomína, že všeobecné nariadenie o ochrane údajov už stanovuje právo na informácie o logike spracúvania údajov; zdôrazňuje, že v súlade s článkom 22 všeobecného nariadenia o ochrane údajov majú jednotlivci právo na ľudský zásah, keď ich rozhodnutie založené na automatizovanom spracúvaní významne ovplyvňuje;

159.  zdôrazňuje, že Komisia, Európsky výbor pre ochranu údajov, vnútroštátne orgány pre ochranu údajov a iné nezávislé orgány dohľadu by odteraz mali zohrávať kľúčovú úlohu pri podpore transparentnosti a riadneho procesu, zásady právnej istoty vo všeobecnosti a, špecifickejšie, konkrétnych noriem na ochranu základných práv a záruk súvisiacich s používaním spracúvania údajov a analýz; vyzýva na užšiu spoluprácu medzi orgánmi zodpovednými za dohľad nad správaním v digitálnom prostredí alebo za jeho reguláciu; požaduje pre takéto orgány primerané financovanie a primerané personálne obsadenie;

160.  uznáva, že algoritmy strojového učenia sú vytvorené tak, aby sa učili samy, čo je prínosné pre automatizáciu a rozhodovanie; žiada, aby sa usmernenia týkajúce sa etiky v oblasti umelej inteligencie zaoberali otázkami súvisiacimi s algoritmickou transparentnosťou, vysvetliteľnosťou, zodpovednosťou a spravodlivosťou;

161.  zdôrazňuje dôležitosť vysvetliteľnosti výstupov, procesov a hodnôt systémov umelej inteligencie, aby boli zrozumiteľné pre netechnické publikum, ktorému by mali poskytovať zmysluplné informácie, čo je nevyhnutné na vyhodnotenie spravodlivosti a získanie dôvery;

162.  poukazuje na to, že nedostatočná transparentnosť, pokiaľ ide o tieto technológie a ich aplikácie, vyvoláva niekoľko etických otázok;

163.  konštatuje, že systémy umelej inteligencie by mali byť vysvetliteľné ľuďom a mali by poskytovať zmysluplné informácie, aby sa mohla poskytnúť spätná väzba; uznáva, že sila modelov umelej inteligencie závisí od spätnej väzby a opätovného posúdenia a tento proces podporuje;

164.  konštatuje, že občania majú obavy, že nebudú vedieť, kedy sa umelá inteligencia používa a aké informácie sa budú spracovávať; odporúča jasné zverejňovanie informácií v prípade, keď občania používajú umelú inteligenciu; zdôrazňuje, že na udržanie dôvery spotrebiteľov je dôležité, aby prenášané údaje zostali zabezpečené;

165.  domnieva sa, že zodpovednosť za algoritmy by mali regulovať tvorcovia politík prostredníctvom posúdení vplyvu na základe stanovených parametrov;

166.  konštatuje, že samotné zverejňovanie otvoreného kódu nevyrieši problém transparentnosti umelej inteligencie, pretože by neodhalilo existujúcu vnútornú zaujatosť a nevysvetlilo proces strojového učenia; zdôrazňuje, že transparentnosť neznamená len transparentnosť kódexu, ale aj údajov a automatizovaného rozhodovania;

167.  uznáva, že zverejňovanie zdrojového kódu by mohlo viesť k nesprávnemu používaniu a hraniu s algoritmami;

168.  zdôrazňuje dôležitosť boja proti zaujatosti vývojárov, a teda potrebu rozmanitej pracovnej sily vo všetkých odvetviach sektora IT, ako aj potrebu ochranných mechanizmov s cieľom zabrániť zaujatosti na základe pohlavia a veku v systémoch umelej inteligencie;

169.  uznáva, že odhalenie kódu alebo obchodných tajomstiev by rovnako odrádzalo spoločnosti od výskumu a vývoja nového kódu, pretože by bolo ohrozené ich duševné vlastníctvo; konštatuje, že vývoj umelej inteligencie by namiesto toho mal podporiť interoperabilitu modelov a ich vzájomné pôsobenie so vstupnými a modelovými údajmi;

170.  uznáva, že hoci transparentnosť a vysvetliteľnosť môžu odhaliť nedostatky, nezaručujú spoľahlivosť, bezpečnosť a spravodlivosť; domnieva sa, že zodpovednosť by preto mala byť integrálnou súčasťou dosiahnutia dôveryhodnej umelej inteligencie, ktorú možno dosiahnuť rôznymi prostriedkami, ako sú posúdenia vplyvu algoritmov, audit a certifikácia;

171.  zdôrazňuje, že je potrebné vypracovať protokoly pre priebežné monitorovanie a zisťovanie algoritmickej zaujatosti;

172.  poukazuje na to, že tvorcovia algoritmov by mali zabezpečiť, aby sa dodržiavali základné požiadavky, ako napríklad spravodlivosť a vysvetliteľnosť, a to od začiatku fázy návrhu a počas celého vývojového cyklu;

173.  konštatuje, že sú potrebné usmernenia opisujúce osvedčené postupy v oblasti vývoja;

174.  zdôrazňuje, že je dôležité zobrazovať pôvod, aby bolo možné sledovať históriu modelu umelej inteligencie; domnieva sa, že sa tým zlepší pochopenie modelov a na základe ich histórie sa napomôže k vybudovaniu dôvery;

175.  zdôrazňuje, že použitie systémov umelej inteligencie musí byť pri styku s používateľmi jasne identifikované;

176.  zdôrazňuje, že šírenie umelej inteligencie a robotiky by sa malo uskutočňovať pri plnom rešpektovaní ľudských práv a že stroje a roboty by nemali v žiadnom prípade reprodukovať stereotypy namierené proti ženám ani uplatňovať inú formu diskriminácie;

177.  poukazuje na to, že aj kvalitné modelové údaje môžu viesť k pretrvávaniu existujúcej diskriminácie a nespravodlivosti, ak sa nepoužívajú starostlivo a vedome; konštatuje, že používanie nekvalitných, zastaraných, neúplných alebo nesprávnych údajov v rôznych štádiách spracovania údajov môže viesť k slabým prognózam a hodnoteniam a následne k zaujatosti, čo môže v konečnom dôsledku viesť k porušovaniu základných práv jednotlivcov alebo k čisto chybným záverom alebo nesprávnym výsledkom; je preto presvedčený, že v dobe veľkých dát je dôležité zabezpečiť, aby boli algoritmy pripravované na reprezentatívnych vzorkách kvalitných údajov s cieľom dosiahnuť štatistickú paritu; zdôrazňuje, že aj keď sa používajú presné a kvalitné údaje, prognostická analýza založená na umelej inteligencii môže ponúknuť len štatistickú pravdepodobnosť; pripomína, že podľa všeobecného nariadenia o ochrane údajov môže ďalšie spracovanie osobných údajov na štatistické účely vrátane prípravy umelej inteligencie viesť len k súhrnným údajom, ktoré nemožno opätovne uplatniť na jednotlivcov;

178.  vyzýva Komisiu, aby zabezpečila, aby každý, kto vytvára tzv. deepfake materiál alebo syntetické videá alebo akékoľvek iné realisticky vyrobené syntetické videá, výslovne uvádzal, že nie sú originálne;

179.  konštatuje, že umelá inteligencia sa vo svojej podstate spolieha na zhromažďovanie veľkého množstva údajov a často na vytváranie nových databáz, ktoré sa používajú na vytváranie predpokladov o ľuďoch; domnieva sa, že dôraz by sa mal klásť na identifikáciu a budovanie mechanizmov reakcie na potenciálne hrozby, ktoré zabezpečia zmierňovanie negatívnych účinkov;

180.  opätovne pripomína, že systémy umelej inteligencie by nemali viesť k zaujatosti, ani ju posilňovať; zdôrazňuje, že pri vývoji a používaní algoritmov musia byť vo všetkých fázach, teda od návrhu až po realizáciu, zohľadnené úvahy týkajúce sa zaujatosti a spravodlivosti; zdôrazňuje, že súbor údajov a algoritmus sa musia posudzovať a pravidelne testovať, aby sa zabezpečilo presné rozhodovanie;

6.Riadenie

6.1.Koordinácia na úrovni Únie

181.  vyzýva Komisiu, aby sa usilovala o rozvoj silného vedúceho postavenia EÚ, ktoré by zabránilo duplicite a roztrieštenosti úsilia a zabezpečilo súdržné politiky na vnútroštátnej úrovni a výmenu najlepších postupov pre širšie využívanie umelej inteligencie;

182.  víta rôzne vnútroštátne stratégie, ktoré vypracovali členské štáty; víta koordinovaný plán Komisie v oblasti umelej inteligencie, ktorý bol uverejnený 7. decembra 2018; žiada lepšiu spoluprácu medzi členskými štátmi a Komisiou v tomto ohľade;

183.  poznamenáva, že viaceré členské štáty už majú vlastné vnútroštátne stratégie v oblasti umelej inteligencie, a víta skutočnosť, že všetky členské štáty podpísali v apríli 2018 vyhlásenie o spolupráci v oblasti umelej inteligencie; víta tiež nadchádzajúci koordinovaný plán v oblasti umelej inteligencie medzi Komisiou a členskými štátmi, ale vyzýva všetky zúčastnené strany, aby sa usilovali o čo najvyššiu úroveň spolupráce;

184.  domnieva sa, že posilnená spolupráca medzi členskými štátmi a Komisiou je nevyhnutná na zabezpečenie koherentných cezhraničných pravidiel v Únii, ktoré podporia spoluprácu medzi európskymi priemyselnými odvetviami a umožnia zavedenie umelej inteligencie v celej Únii, ktorá bude v súlade s požadovanými úrovňami bezpečnosti a zabezpečenia, ako aj s etickými zásadami zakotvenými v práve Únie;

185.  zdôrazňuje, že harmonizovaný a progresívny rámec EÚ v oblasti údajov založený na rizikách by zvýšil dôveru a podporil rozvoj umelej inteligencie v Európe, čím by sa zabezpečilo dokončenie jednotného digitálneho trhu a zvýšila produktivita podnikov sídliacich v Európe;

186.  odporúča, aby boli existujúce a budúce iniciatívy súvisiace s umelou inteligenciou a pilotné projekty vykonávané Komisiou úzko koordinované, prípadne pod vedením navrhovaného mechanizmu dohľadu, aby sa dosiahli synergické účinky a zabezpečilo sa vytvorenie skutočnej pridanej hodnoty pri súčasnom zabránení nákladným zdvojeným štruktúram;

187.  vyzýva Komisiu a členské štáty, aby zvážili vytvorenie európskej regulačnej agentúry pre umelú inteligenciu a algoritmické rozhodovanie, ktorej úlohou bude:

   vytvoriť maticu hodnotenia rizík na účely klasifikácie typov algoritmov a oblastí aplikácií podľa ich potenciálneho významného negatívneho vplyvu na občanov;
   prešetriť používania algoritmických systémov, ak existuje podozrenie z porušovania ľudských práv (napríklad na základe dôkazu, ktorý poskytol oznamovateľ);
   poskytovať poradenstvo ostatným regulačným agentúram v oblasti algoritmických systémov, ktoré patria do ich rozsahu pôsobnosti;
   zabezpečiť pre občanov, ktorí nie sú oboznámení s právnymi postupmi, kontaktné miesto, a zvyšovať tak účinnosť mechanizmu zodpovednosti za porušenie povinností ako prostriedku na regulovanie zodpovednosti algoritmických systémov;
   vykonávať audit posúdení vplyvu algoritmov v prípade systémov s vysokým vplyvom na účely schválenia alebo odmietnutia navrhovaných použití algoritmického rozhodovania vo vysoko citlivých a/alebo kritických oblastiach aplikácie (napr. súkromná zdravotná starostlivosť); posúdenie vplyvu algoritmov pre aplikácie v súkromnom sektore by mohlo prebiehať v rámci veľmi podobného postupu, ako je ten, ktorý sa navrhuje pre verejný sektor, prípadne s tým rozdielom, že rôzne štádiá zverejňovania by sa mohli považovať za dôvernú komunikáciu s regulačnou agentúrou (v rámci dohody o nezverejnení) v záujme ochrany dôležitých obchodných tajomstiev;
   vyšetrovať podozrivé prípady porušovania práv algoritmickými systémami rozhodovania, a to v dôsledku individuálnych rozhodnutí (napríklad ojedinelé odchylné výsledky), ako aj štatistických rozhodovacích schém (napríklad diskriminačná zaujatosť); vyšetrovanie by sa mohlo začať po podaní sťažností alebo na základe dôkazov poskytnutých oznamovateľmi, investigatívnymi novinármi alebo nezávislými výskumníkmi (vrátane mimovládnych organizácií a akademických pracovníkov);

188.  berie na vedomie prebiehajúcu prácu Medzinárodnej organizácie pre normalizáciu (ISO) v oblasti umelej inteligencie a naliehavo vyzýva členské štáty, aby koordinovali svojich členov v ISO s cieľom zabezpečiť, aby pri vypracovaní noriem v tejto oblasti boli náležite zastúpené európske záujmy;

6.2.Medzinárodné riadenie

189.  víta vytvorenie Strediska OECD pre monitorovanie politiky v oblasti umelej inteligencie a požaduje väčšie ambície pri tvorbe plánu ďalšej spolupráce;

190.  zdôrazňuje, že v tretích krajinách, konkrétne v USA, Číne, Rusku a Izraeli, sa vyvíjajú rôzne modely, a zdôrazňuje prístup založený na hodnotách, ktorý sa používa v Európe, ako aj potrebu spolupráce s medzinárodnými partnermi v dvojstrannom a viacstrannom prostredí na účely etického pokroku a prijatia umelej inteligencie; uznáva, že táto technológia nemá žiadne hranice a vyžaduje si spoluprácu nad rámec samotných členských štátov EÚ;

191.  vyzýva Komisiu, aby pôsobila na medzinárodnej úrovni s cieľom zabezpečiť najväčší súlad medzinárodných aktérov a v celosvetovom meradle presadzovala etické zásady EÚ;

192.  zdôrazňuje, že umelá inteligencia je technológia s celosvetovým dosahom, ktorá poskytuje spoločné výhody a prináša podobné výzvy; poukazuje na to, že rovnako ako v prípade hospodárskeho systému, a najmä v prípade technológie s významným vplyvom na trhy, je potrebný globálny prístup; zdôrazňuje, že je potrebné, aby sa umelá inteligencia zaradila na program existujúcich inštitúcií a organizácií, a žiada posúdenie potreby ďalších fór, ktoré by sa mali v prípade potreby mali vytvoriť;

o
o   o

193.  poveruje svojho predsedu, aby postúpil toto uznesenie Rade a Komisii.

(1) Ú. v. EÚ C 252, 18.7.2018, s. 239.
(2) Ú. v. EÚ C 307, 30.8.2018, s. 163.
(3) Prijaté texty, P8_TA(2018)0341.
(4) Prijaté texty, P8_TA(2018)0332.
(5) Ú. v. EÚ L 252, 8.10.2018, s. 1.
(6) COM(2018)0237.
(7) Vznikajúce technológie a technológie budúcnosti.
(8) OECD Digital Economy Outlook 2017.
(9) Osobitný prieskum Eurobarometra č. 460.
(10) Smernica Európskeho parlamentu a Rady (EÚ) 2018/958 z 28. júna 2018 o teste proporcionality pred prijatím novej regulácie povolaní (Ú. v. EÚ L 173, 9.7.2018, s. 25).
(11) Smernica Európskeho parlamentu a Rady 2013/55/EÚ z 20. novembra 2013, ktorou sa mení smernica 2005/36/ES o uznávaní odborných kvalifikácií a nariadenie (EÚ) č. 1024/2012 o administratívnej spolupráci prostredníctvom informačného systému o vnútornom trhu (nariadenie o IMI) (Ú. v. EÚ L 354, 28.12.2013, s. 132).
(12) Smernica Európskeho parlamentu a Rady 2006/123/ES z 12. decembra 2006 o službách na vnútornom trhu (Ú. v. EÚ L 376, 27.12.2006, s. 36).
(13) Smernica 2000/31/ES Európskeho parlamentu a Rady z 8. júna 2000 o určitých právnych aspektoch služieb informačnej spoločnosti na vnútornom trhu, najmä o elektronickom obchode (smernica o elektronickom obchode) (Ú. v. ES L 178, 17.7.2000, s. 1).
(14) Ú. v. EÚ L 303, 28.11.2018, s. 59.
(15) Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).
(16) Smernica Rady 85/374/EHS z 25. júla 1985 o aproximácii zákonov, iných právnych predpisov a správnych opatrení členských štátov o zodpovednosti za chybné výrobky (Ú. v. ES L 210, 7.8.1985, s. 29).
(17) Ú. v. EÚ L 195, 2.6.2004, s. 16.

Posledná úprava: 13. februára 2019Právne oznámenie