IZVJEŠĆE o umjetnoj inteligenciji u obrazovnom, kulturnom i audiovizualnom sektoru

19.4.2021 - (2020/2017(INI))

Odbor za kulturu i obrazovanje
Izvjestiteljica: Sabine VerheyenIzvjestitelj za mišljenje (*):
Ondřej Kovařík, Odbor za građanske slobode, pravosuđe i unutarnje poslove
(*) Pridruženi odbor – članak 57. Poslovnika

PRIJEDLOG REZOLUCIJE EUROPSKOG PARLAMENTA

o umjetnoj inteligenciji u obrazovnom, kulturnom i audiovizualnom sektoru

(2020/2017(INI))

Europski parlament,

– uzimajući u obzir Povelju Europske unije o temeljnim pravima,

– uzimajući u obzir članke 165., 166. i 167. Ugovora o funkcioniranju Europske unije,

– uzimajući u obzir Zaključke Vijeća od 9. lipnja 2020. o oblikovanju digitalne budućnosti Europe[1],

– uzimajući u obzir Mišljenje Europskog gospodarskog i socijalnog odbora od 19. rujna 2018. o temi „Digitalni jaz među spolovima”[2],

– uzimajući u obzir Komisijin Prijedlog uredbe Europskog parlamenta i Vijeća od 6. lipnja 2018. o uspostavi programa Digitalna Europa za razdoblje 2021. – 2027. (COM(2018)0434),

– uzimajući u obzir Komunikaciju Komisije od 30. rujna 2020. o Akcijskom planu za digitalno obrazovanje 2021. – 2027.: Prilagodba obrazovanja i osposobljavanja digitalnom dobu (COM(2020)0624),

– uzimajući u obzir Komunikaciju Komisije od 30. rujna 2020. o uspostavi europskog prostora obrazovanja do 2025. (COM(2020)0625),

– uzimajući u obzir Izvješće Komisije od 19. veljače 2020. o utjecaju umjetne inteligencije, interneta stvari i robotike na sigurnost i odgovornost (COM(2020)0064),

– uzimajući u obzir bijelu knjigu Europske komisije od 19. veljače 2020. naslovljenu „Umjetna inteligencija – europski pristup izvrsnosti i povjerenju” (COM(2020)0065),

– uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. naslovljenu „Europska strategija za podatke” (COM (2020)0066),

– uzimajući u obzir komunikaciju Komisije od 25. travnja 2018. naslovljenu „Umjetna inteligencija za Europu” (COM(2018)0237),

– uzimajući u obzir Komunikaciju Komisije od 17. siječnja 2018. o akcijskom planu za digitalno obrazovanje (COM(2018)0022),

– uzimajući u obzir izvješće Stručne skupine Komisije na visokoj razini za umjetnu inteligenciju od 8. travnja 2019. pod nazivom „Etičke smjernice za pouzdanu umjetnu inteligenciju”,

– uzimajući u obzir svoju Rezoluciju od 12. veljače 2019. o sveobuhvatnoj europskoj industrijskoj politici o umjetnoj inteligenciji i robotici[3],

– uzimajući u obzir svoju Rezoluciju od 11. rujna 2018. o jezičnoj ravnopravnosti u digitalnom dobu[4],

– uzimajući u obzir svoju Rezoluciju od 12. lipnja 2018. o modernizaciji sustava obrazovanja u EU-u[5],

– uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici[6],

– uzimajući u obzir svoju Rezoluciju od 1. lipnja 2017. o digitalizaciji europske industrije[7],

– uzimajući u obzir kratko izvješće svog Resornog odjela za strukturnu i kohezijsku politiku iz svibnja 2020. o upotrebi umjetne inteligencije u kulturnim i kreativnim sektorima,

– uzimajući u obzir detaljnu analizu svog Resornog odjela za strukturnu i kohezijsku politiku iz svibnja 2020. o upotrebi umjetne inteligencije u audiovizualnom sektoru,

– uzimajući u obzir studiju svoga Resornog odjela za prava građana i ustavna pitanja iz travnja 2020. o obrazovanju i zapošljavanju žena u znanosti, tehnologiji i digitalnom gospodarstvu, uključujući umjetnu inteligenciju i njezin utjecaj na rodnu ravnopravnost,

– uzimajući u obzir članak 54. Poslovnika,

– uzimajući u obzir mišljenja Odbora za građanske slobode, pravosuđe i unutarnje poslove, Odbora za unutarnje tržište i zaštitu potrošača, Odbora za pravna pitanja i Odbora za prava žena i rodnu ravnopravnost,

– uzimajući u obzir izvješće Odbora za kulturu i obrazovanje (A9-0127/2021),

A. budući da se tehnologije umjetne inteligencije, koje mogu imati izravan utjecaj na naša društva, brzo razvijaju i sve se više koriste u gotovo svim područjima našeg života, uključujući obrazovanje, kulturu i audiovizualni sektor; budući da će etička umjetna inteligencija vjerojatno pomoći da se poboljša radna produktivnost i ubrza gospodarski rast;

B. budući da se razvoj, uvođenje i korištenje umjetne inteligencije, uključujući softver, algoritme i podatke koje umjetna inteligencija koristi i proizvodi, trebaju voditi etičkim načelima transparentnosti, objašnjivosti, poštenja i odgovornosti;

C. budući da javno ulaganje u umjetnu inteligenciju u Uniji znatno zaostaje za drugim vodećim gospodarstvima; budući da će nedovoljno ulaganje u umjetnu inteligenciju vjerojatno imati utjecaj na konkurentnost Unije u svim sektorima;

D. budući da su integrirani pristup umjetnoj inteligenciji te dostupnost, prikupljanje i tumačenje visokokvalitetnih, pouzdanih, poštenih, transparentnih, pouzdanih, sigurnih i kompatibilnih podataka ključni za razvoj etičke umjetne inteligencije;

E. budući da se u članku 21. Povelje Europske unije o temeljnim pravima zabranjuje diskriminacija na cijelom nizu osnova; budući da se brojni oblici diskriminacije ne bi trebali ponavljati pri razvoju, uvođenju i upotrebi sustava umjetne inteligencije;

F. budući da je rodna ravnopravnost jedno od temeljnih načela Unije utvrđenih u Ugovorima i da se treba odražavati u svim politikama Unije, među ostalim u obrazovanju, kulturi i audiovizualnom sektoru te u razvoju tehnologija kao što je umjetna inteligencija;

G. budući da nam prošla iskustva, osobito u tehničkim područjima, pokazuju da se razvoj i inovacije često temelje uglavnom na podacima koji se odnose na muškarce te da se potrebe žena ne odražavaju u potpunosti; budući da uklanjanje tih pristranosti zahtijeva veći oprez, tehnička rješenja i postavljanje jasnih zahtjeva u pogledu pravednosti, odgovornosti i transparentnosti;

H. budući da nepotpuni i netočni skupovi podataka, nedostatak podataka prikazanih po spolu i pogrešni algoritmi mogu narušiti postupak obrade sustava umjetne inteligencije i ugroziti postizanje rodne ravnopravnosti u društvu; budući da su podaci o skupinama u nepovoljnom položaju i intersekcijskim oblicima diskriminacije obično nepotpuni ili čak ne postoje;

I. budući da se rodne nejednakosti, stereotipi i diskriminacija mogu stvoriti i ponavljati preko jezika i slika koje šire mediji i aplikacije zasnovane na umjetnoj inteligenciji; budući da obrazovanje, kulturni programi i audiovizualni sadržaji imaju znatan utjecaj na oblikovanje ljudskih uvjerenja i vrijednosti te da su oni ključan alat za borbu protiv rodnih stereotipa, smanjivanje digitalnog jaza među spolovima i uspostavljanje čvrstih uzora; budući da etički i regulatorni okvir mora biti uspostavljen prije provedbe automatiziranih rješenja u tim ključnim područjima društva;

J. budući da znanost i inovacije najranjivijim skupinama, kao što su žene i djevojke koje žive u udaljenim područjima, mogu donijeti prednosti koje će korjenito izmijeniti njihov život; budući da je znanstveno obrazovanje važno za stjecanje vještina, osiguravanje dostojanstvenog rada i osmišljavanje radnih mjesta budućnosti, kao i za razbijanje rodnih stereotipa prema kojima je to područje unaprijed određeno za muškarce; budući da su znanost i znanstveno promišljanje ključni za demokratsku kulturu, koja je pak ključna za unapređenje rodne ravnopravnosti;

K. budući da je u Uniji jedna od deset žena od svoje 15. godine već pretrpjela neki oblik kibernetičkog nasilja, a kibernetičko uznemiravanje i dalje je razlog za zabrinutost pri razvoju umjetne inteligencije, među ostalim u području obrazovanja; budući da je kibernetičko nasilje često usmjereno na žene prisutne u javnom životu, kao što su aktivistice, političarke i druge javne osobe; budući da umjetna inteligencija i druge nove tehnologije mogu imati važnu ulogu u sprječavanju kibernetičkog nasilja nad ženama i djevojkama te u obrazovanju ljudi;

L. budući da Unija i njezine države članice imaju osobitu odgovornost da iskorištavaju i promiču tehnologije umjetne inteligencije te povećavaju njihovu dodanu vrijednost, kao i da osiguraju da te tehnologije budu sigurne i da služe dobrobiti i općem interesu Europljana; budući da te tehnologije mogu znatno doprinijeti postizanju zajedničkog cilja, a to je poboljšanje života naših građana i veće blagostanje diljem Unije davanjem doprinosa razvoju boljih strategija i inovacija u brojnim područjima, na primjer u obrazovanju, kulturi i audiovizualnom sektoru;

M. budući da se umjetna inteligencija uglavnom temelji na softveru otvorenog koda, što znači da se izvorni kodovi mogu pregledavati, mijenjati i poboljšavati;

N. budući da bi mogle biti potrebne određene prilagodbe postojećih zakonodavnih instrumenata EU-a kako bi se držao korak s digitalnom transformacijom te premostili novi izazovi koje donosi korištenje tehnologija umjetne inteligencije u obrazovanju, kulturi i audiovizualnom sektoru, kao što su zaštita osobnih podataka i privatnosti, borba protiv diskriminacije, promicanje rodne ravnopravnosti, poštovanje prava intelektualnog vlasništva, zaštita okoliša i prava potrošača;

O. budući da je, kako bi se osigurali ravnopravni uvjeti, audiovizualnom sektoru važno osigurati pristup podacima globalnih platformi i vodećih aktera;

P. budući da umjetna inteligencija te buduće aplikacije ili izumi do kojih se dođe s pomoću umjetne inteligencije, kao i sva druga tehnologija, mogu imati dvojnu prirodu; budući da umjetna inteligencija i s njom povezane tehnologije izazivaju veliku zabrinutost u pogledu etičnosti i transparentnosti njihova razvoja te njihova uvođenja i korištenja, osobito kad je riječ o prikupljanju, korištenju i distribuciji podataka; budući da se prednosti i rizici tehnologija umjetne inteligencije u obrazovanju, kulturi i audiovizualnom sektoru moraju pažljivo procijeniti te se moraju temeljito i kontinuirano analizirati njihovi učinci na sve aspekte društva, a da se pritom ne dovodi u pitanje njihov potencijal;

Q. budući da je cilj obrazovanja ostvariti ljudski potencijal, kreativnost i istinske društvene promjene, dok nepravilno korištenje sustava umjetne inteligencije temeljenih na podacima može omesti ljudski i društveni razvoj;

R. budući da su obrazovanje i prilike za obrazovanje temeljno pravo; budući da razvoj, uvođenje i korištenje tehnologija umjetne inteligencije u sektoru obrazovanja treba klasificirati kao visokorizične te ih podvrgnuti strožim zahtjevima u pogledu sigurnosti, transparentnosti, pravednosti i odgovornosti;

S. budući da su visokokvalitetna, brza i sigurna široko rasprostranjena povezanost, širokopojasne mreže, mreže visokog kapaciteta, stručnost u informacijskoj tehnologiji, digitalne vještine, digitalna oprema i infrastruktura, kao i društvena prihvaćenost te okvir ciljanih i poticajnih javnih politika neki od preduvjeta za široku i uspješnu primjenu umjetne inteligencije u Uniji; budući da je ravnopravno uvođenje spomenute infrastrukture i opreme u cijeloj Uniji ključno kako bi se premostio kontinuirani digitalni jaz među regijama i građanima Unije;

T. budući da je rješavanje pitanja rodnog jaza u područjima znanosti, tehnologije, inženjerstva, umjetnosti i matematike nužno kako bi se osigurala ravnopravna i pravedna zastupljenost cijelog društva pri razvoju, uvođenju i korištenju tehnologija umjetne inteligencije, uključujući softver, algoritme i podatke koje te tehnologije koriste i proizvode;

U. budući da je od presudne važnosti osigurati da svi ljudi u Uniji steknu potrebne vještine od rane dobi kako bi bolje razumjeli sposobnosti i ograničenja umjetne inteligencije, kako bi se bolje pripremili za sve veću prisutnost umjetne inteligencije i s njom povezanih tehnologija u svim aspektima ljudske aktivnosti te u potpunosti iskoristili prilike koje ona nudi; budući da je rasprostranjeno stjecanje digitalnih vještina u svim dijelovima društva u Uniji preduvjet za postizanje pravedne digitalne transformacije korisne svima;

V. budući da to od država članica zahtijeva ulaganje u digitalno i medijsko obrazovanje, opremanje škola odgovarajućom infrastrukturom i krajnjim uređajima te posvećivanje veće pozornosti poučavanju digitalnih vještina i kompetencija u kurikulumima;

W. budući da se umjetna inteligencija i s njom povezane tehnologije mogu koristiti za poboljšanje metoda učenja i poučavanja, posebno pružanjem pomoći obrazovnim sustavima pri korištenju pravednih podataka za poboljšanje obrazovne jednakosti i kvalitete, uz promicanje ciljano osmišljenih kurikuluma i boljeg pristupa obrazovanju te unapređivanje i automatizaciju određenih administrativnih zadataka; budući da je potreban ravnopravan i pravedan pristup digitalnim tehnologijama i brzoj povezivosti kako bi upotreba umjetne inteligencije bila od koristi cijelom društvu; budući da je od presudne važnosti pobrinuti se da digitalno obrazovanje bude dostupno svima, uključujući osobe u nepovoljnom položaju i osobe s invaliditetom; budući da ishodi učenja ne ovise o samoj tehnologiji nego o tome kako nastavnici mogu upotrijebiti tehnologiju na pedagoški smislene načine;

X. budući da umjetna inteligencija ima poseban potencijal da ponudi rješenja za svakodnevne probleme u obrazovnom sektoru, kao što su personalizacija učenja, praćenje poteškoća u učenju i automatizacija sadržaja/znanja specifičnih za određeni predmet, bolje stručno osposobljavanje i podupiranje prelaska na digitalno društvo;

Y. budući da bi umjetna inteligencija mogla imati praktičnu primjenu u smanjenju administrativnog rada edukatora i obrazovnih ustanova, čime bi se moglo osloboditi vrijeme za njihove osnovne nastavne aktivnosti i aktivnosti učenja;

Z. budući da nove aplikacije utemeljene na umjetnoj inteligenciji, koje se primjenjuju u obrazovanju, olakšavaju napredak u brojnim područjima kao što su učenje jezika i matematika;

AA. budući da personalizirano učenje s pomoću umjetne inteligencije može povećati motivaciju učenika i pomoći im da ostvare svoj puni potencijal, ali i pridonijeti smanjenju stope napuštanja školovanja;

AB. budući da umjetna inteligencija može više pomoći nastavnicima u tome da postanu učinkovitiji tako što će im omogućiti da bolje razumiju metode i stilove učenja svojih učenika te im pomoći da lakše prepoznaju poteškoće u učenju i bolje procijene ostvareni pojedinačni napredak;

AC. budući da na digitalnom tržištu rada Unije nedostaje gotovo pola milijuna stručnjaka u području velikih količina podataka i analize podataka, što je okosnica razvoja i korištenja kvalitetne i pouzdane umjetne inteligencije;

AD. budući da primjena umjetne inteligencije u obrazovanju izaziva zabrinutost u pogledu etičke upotrebe podataka, prava učenika, pristupa podacima i zaštite osobnih podataka te stoga nosi rizike u pogledu temeljnih prava, kao što je stvaranje stereotipnih modela profila i ponašanja učenika, koji bi mogli dovesti do diskriminacije ili do rizika od nanošenja štete širenjem loših pedagoških praksi;

AE. budući da kultura igra središnju ulogu u široko rasprostranjenom korištenju tehnologija umjetne inteligencije i postaje ključna disciplina za kulturnu baštinu zahvaljujući razvoju inovativnih tehnologija i alata i njihovoj učinkovitoj primjeni u odgovaranju na potrebe sektora;

AF. budući da se tehnologije umjetne inteligencije mogu koristiti za promicanje i zaštitu kulturne baštine, među ostalim korištenjem digitalnih instrumenata radi očuvanja povijesnih lokaliteta i pronalaženjem inovativnih načina još većeg širenja i lakše dostupnosti skupova podataka o kulturnim artefaktima koje posjeduju kulturne institucije širom Unije, a korisnicima omogućuje lakše snalaženje u golemoj količini kulturnog i kreativnog sadržaja; budući da je promicanje standarda i okvira interoperabilnosti u tom pogledu ključno;

AG. budući da se upotrebom tehnologija umjetne inteligencije za kulturne i kreativne sadržaje, posebno za medijske sadržaje i preporuke o prilagođenim sadržajima, postavljaju pitanja u pogledu zaštite podataka, diskriminacije te kulturne i jezične raznolikosti, riskira stvaranje diskriminirajućih rezultata na temelju pristranih ulaznih podataka te bi se mogla ograničiti raznolikost mišljenja i medijski pluralizam;

AH. budući da se preporuke o personaliziranom sadržaju utemeljene na umjetnoj inteligenciji često mogu bolje usmjeriti na posebne potrebe pojedinaca, uključujući kulturne i jezične preferencije; budući da umjetna inteligencija može doprinijeti promicanju jezične raznolikosti u Uniji i boljem širenju europskih audiovizualnih djela, posebno automatiziranim titlovanjem i sinkronizacijom audiovizualnog sadržaja na druge jezike; budući da je stoga kreiranje medijskog sadržaja na svim jezicima ključno za potporu kulturnoj i jezičnoj raznolikosti;

AI. budući da umjetna inteligencija potiče inovacije u novinskim redakcijama automatizacijom različitih svakodnevnih zadaća, tumačenjem podataka pa čak i proizvodnjom vijesti kao što su vremenska prognoza i sportski rezultati;

AJ. budući da lingvistička raznolikost Europe znači da promicanje računalne lingvistike za umjetnu inteligenciju utemeljenu na pravima nudi poseban inovacijski potencijal koji se može koristiti kako bi globalna kulturna i informacijska razmjena u digitalnom dobu postala demokratska i nediskriminirajuća;

AK. budući da bi tehnologije umjetne inteligencije mogle pozitivno utjecati na obrazovanje osoba s posebnim potrebama, kao i na dostupnost kulturnih i kreativnih sadržaja za osobe s invaliditetom; budući da umjetna inteligencija omogućuje rješenja kao što su prepoznavanje govora, virtualni asistenti i digitalno predstavljanje fizičkih objekata; budući da digitalna djela već imaju ulogu u tome da se takav sadržaj učini dostupnim osobama s invaliditetom;

AL. budući da su aplikacije umjetne inteligencije sveprisutne u audiovizualnom sektoru, posebno na platformama za audiovizualne sadržaje;

AM. budući da tehnologije umjetne inteligencije stoga doprinose stvaranju, planiranju, produkciji, distribuciji, lokalizaciji i konzumaciji audiovizualnih medijskih proizvoda te upravljanju njima;

AN. budući da se umjetna inteligencija može koristiti za stvaranje lažnog sadržaja, poput deepfake uradaka (uvjerljivo krivotvoreni sadržaji) čiji broj eksponencijalno raste i koji su neposredna prijetnja demokraciji, ali se može koristiti i kao neprocjenjiv alat za utvrđivanje takvih zlonamjernih aktivnosti i neposrednu borbu protiv njih, na primjer provjerom činjenica u stvarnom vremenu ili označivanjem takvog sadržaja; budući da je većinu deepfake uradaka lako prepoznati; budući da su u isto vrijeme alati za otkrivanje utemeljeni na umjetnoj inteligenciji u pravilu uspješni pri označivanju i filtriranju takvog sadržaja; budući da za to pitanje ne postoji pravni okvir;

Opće napomene

1. ističe stratešku važnost umjetne inteligencije i s njom povezanih tehnologija za Europsku uniju; naglašava da pristup umjetnoj inteligenciji i s njom povezanim tehnologijama mora biti usmjeren na čovjeka i utemeljen na ljudskim pravima i etici kako bi umjetna inteligencija zaista postala sredstvo u službi ljudi, općeg dobra i općeg interesa građana;

2. ističe da se pri razvoju, uvođenju i korištenju umjetne inteligencije u obrazovnom, kulturnom i audiovizualnom sektoru moraju u cijelosti poštovati temeljna prava, slobode i vrijednosti, uključujući ljudsko dostojanstvo, privatnost, zaštitu osobnih podataka, nediskriminaciju te slobodu izražavanja i informiranja, kao i kulturnu raznolikost te prava intelektualnog vlasništva, kako su utvrđeni u Ugovorima EU-a i Povelji o temeljnim pravima;

3. tvrdi da su obrazovanje, kultura i audiovizualni sektor osjetljiva područja kad je riječ o upotrebi umjetne inteligencije i s njom povezanih tehnologija jer imaju potencijal utjecati na osnove temeljnih prava i vrijednosti našeg društva; stoga naglašava da se treba pridržavati etičkih načela pri razvoju, uvođenju i korištenju umjetne inteligencije i s njome povezanih tehnologija u tim sektorima, uključujući softver, algoritme i podatke koje one pritom koriste i proizvode;

4. podsjeća da bi algoritmi i umjetna inteligencija trebali biti „etički po naravi”, bez ugrađenih pristranosti, tako da se jamči maksimalna zaštita temeljnih prava;

5. ponovno ističe važnost razvoja kvalitetne, kompatibilne i uključive umjetne inteligencije i s njom povezanih tehnologija kojima se poštuju i štite vrijednosti Unije, posebno rodna ravnopravnost, višejezičnost i uvjeti potrebni za međukulturni dijalog, jer upotreba nekvalitetnih, zastarjelih, nepotpunih ili netočnih podataka može dovesti do loših predviđanja, a time i do diskriminacije i pristranosti; ističe da je za poboljšanje prikupljanja, sigurnosti, sistematizacije i prenosivosti podataka ključno razviti sposobnosti na nacionalnoj razini i na razini Unije, a da se pritom ne ugrožava privatnost; prima na znanje prijedlog Komisije za stvaranje jedinstvenog europskog podatkovnog prostora;

6. podsjeća na to da umjetna inteligencija može dovesti do pristranosti, a time i do raznih oblika diskriminacije na temelju spola, rase, boje kože, etničkog ili socijalnog podrijetla, genetskih osobina, jezika, vjere ili uvjerenja, političkog ili bilo kakvog drugog mišljenja, pripadnosti nacionalnoj manjini, imovine, rođenja, invaliditeta, dobi ili seksualne orijentacije; u tom pogledu podsjeća da se moraju zajamčiti prava svih ljudi i da umjetna inteligencija i s njom povezane tehnologije ne smiju dovesti ni do kakvog oblika diskriminacije;

7. ističe da ta pristranost i diskriminacija mogu proizaći iz već pristranih skupova podataka, koji su odraz aktualne diskriminacije u društvu; u tom kontekstu podsjeća da je od presudne važnosti uključiti odgovarajuće dionike, među ostalim civilno društvo, kako bi se spriječilo nenamjerno uključivanje rodne, socijalne i kulturne pristranosti u algoritme, sustave i aplikacije umjetne inteligencije; naglašava da je potrebno raditi na pronalaženju najučinkovitijeg načina smanjenja pristranosti u sustavima umjetne inteligencije, u skladu s etičkim standardima i standardima nediskriminacije; ističe da bi skupovi podataka koji se upotrebljavaju za osposobljavanje umjetne inteligencije trebali biti što širi kako bi predstavljali društvo na najbolji i najrelevantniji način, da bi rezultate trebalo preispitati kako bi se izbjegli svi oblici stereotipa, diskriminacije i pristranosti te da bi se, prema potrebi, umjetna inteligencija trebala koristiti za utvrđivanje i ispravljanje ljudske pristranosti gdje god do nje dolazi; poziva Komisiju da potakne i olakša razmjenu strategija za smanjenje pristranosti u pogledu podataka;

8. poziva Komisiju i države članice da pri izradi politike i zakonodavstva u području umjetne inteligencije uzmu u obzir etičke aspekte, među ostalim iz rodne perspektive, te da po potrebi prilagode postojeće zakonodavstvo, uključujući programe Unije i etičke smjernice za korištenje umjetne inteligencije;

9. poziva Komisiju i države članice da osmisle mjere kojima će se u potpunosti obuhvatiti rodna dimenzija, kao što su kampanje za podizanje razine svijesti, programi osposobljavanja i nastavni planovi, koji bi građanima trebali pružiti informacije o načinu funkcioniranja algoritama i njihovu utjecaju na svakodnevni život građana; nadalje ih poziva da njeguju rodno ravnopravno razmišljanje i radne uvjete koji vode do razvoja uključivijih tehnoloških proizvoda i radnih okružja; potiče Komisiju i države članice da osiguraju uključivanje digitalnih vještina i osposobljavanje za umjetnu inteligenciju u školske programe i učine ih dostupnima svima, što je način za uklanjanje digitalne rodne podjele;

10. ističe potrebu za osposobljavanjem radnika i nastavnog osoblja koji se bave umjetnom inteligencijom radi promicanja sposobnosti identificiranja i ispravljanja rodno diskriminirajućih praksi na radnom mjestu i u obrazovanju, kao i za osposobljavanjem radnika koji razvijaju sustave i aplikacije umjetne inteligencije za identificiranje i rješavanje problema diskriminacije na temelju spola u sustavima i aplikacijama koje razvijaju; poziva na utvrđivanje jasnih odgovornosti u trgovačkim društvima i obrazovnim ustanovama kako bi se osiguralo da na radnom mjestu ili u obrazovnom kontekstu ne postoji diskriminacija na temelju spola; naglašava da bi se u obrazovne i kulturne svrhe trebale upotrebljavati rodno neutralne slike umjetne inteligencije i robota, osim ako zbog nekog razloga spol nije ključan čimbenik;

11. naglašava važnost razvoja i uvođenja aplikacija umjetne inteligencije u obrazovnom, kulturnom i audiovizualnom sektoru pri prikupljanju podataka prikazanih prema spolu i drugih podataka o ravnopravnosti te važnost primjene suvremenih tehnika strojnog učenja za uklanjanje pristranosti kako bi se, ako je to potrebno, ispravili rodni stereotipi i rodna pristranost koji mogu imati negativne učinke;

12. poziva Komisiju da obrazovanje uključi u regulatorni okvir za visokorizične aplikacije umjetne inteligencije, s obzirom na to da je važno osigurati da obrazovanje i dalje pridonosi javnom dobru, kao i s obzirom na visoku osjetljivost podataka o đacima, studentima i drugim učenicima; ističe da bi u obrazovnom sektoru to uključivanje trebalo obuhvaćati nastavnike, učenike i šire društvo te bi trebalo uzeti u obzir svačije potrebe i očekivane koristi kako bi se osiguralo da se umjetna inteligencija koristi svrhovito i etički;

13. poziva Komisiju da potiče uporabu programa Unije kao što su Obzor Europa, Digitalna Europa i Erasmus+ za promicanje multidisciplinarnih istraživanja, pilot projekata, eksperimenata i razvoja alata, uključujući osposobljavanje, za utvrđivanje rodnih pristranosti u umjetnoj inteligenciji, kao i upotrebu kampanja za podizanje razine svijesti usmjerenih na širu javnost;

14. naglašava potrebu za stvaranjem raznolikih skupina programera i inženjera koji surađuju s glavnim akterima u obrazovnom, kulturnom i audiovizualnom sektoru kako bi se spriječilo nenamjerno uključivanje rodne ili društvene pristranosti u algoritme, sustave i aplikacije umjetne inteligencije; naglašava potrebu da se uzme u obzir raznolikost različitih teorija na temelju kojih se umjetna inteligencija razvijala do danas i na temelju kojih bi se mogla dalje unapređivati u budućnosti;

15. ističe da nastojanje da se eliminira pristranost i diskriminacija usmjerena protiv određenih skupina, uključujući rodne stereotipe, ne bi smjelo kočiti tehnološki napredak;

16. ponovno ističe važnost temeljnih prava i sveobuhvatne nadređenosti zakonodavstva o zaštiti podataka i privatnosti, što je ključno kada je riječ o takvim tehnologijama; podsjeća na to da umjetna inteligencija može posebno utjecati na zaštitu podataka i privatnost, osobito u pogledu podataka o djeci; ističe da su načela utvrđena Općom uredbom o zaštiti podataka[8] obvezujuća za uvođenje umjetne inteligencije u tom pogledu; osim toga, podsjeća na to da se svim aplikacijama umjetne inteligencije mora u potpunosti poštovati pravo Unije o zaštiti podataka, odnosno Opća uredba o zaštiti podataka i Direktiva o e-privatnosti[9]; ističe pravo na ljudsku intervenciju pri upotrebi umjetne inteligencije i s njom povezanih tehnologija;

17. poziva Komisiju i države članice da uvedu obvezu transparentnosti i objašnjivosti automatiziranih pojedinačnih odluka koje se temelje na umjetnoj inteligenciji i donose u okviru ovlasti javnih tijela te da uvedu kazne u vezi s ispunjavanjem tih obveza; poziva na provedbu sustava u kojima se prema zadanim postavkama upotrebljavaju provjere i intervencije koje obavlja čovjek, na provedbu zakonitog postupanja, uključujući pravo na žalbu i pravnu zaštitu, te na pristup pravnim lijekovima;

18. prima na znanje mogući negativan učinak personaliziranog oglašavanja, a posebno mikrociljanog i bihevioralnog oglašavanja i procjene pojedinaca, osobito maloljetnika, bez njihova pristanka, uplitanjem u privatni život pojedinaca, postavljanjem pitanja kako bi se prikupili i koristili podaci koji se upotrebljavaju za personaliziranje oglašavanja, ponudom proizvoda i usluga ili utvrđivanjem cijena; stoga poziva Komisiju da uvede stroga ograničenja za ciljano oglašavanje na temelju prikupljanja osobnih podataka, počevši od zabrane bihevioralnog oglašavanja na raznim platformama, bez nanošenja štete malim i srednjim poduzećima (MSP-ovima); podsjeća na to da se Direktivom o e-privatnosti trenutačno dopušta samo ciljano oglašavanje podložno pristanku, u suprotnome je nezakonito; poziva Komisiju da zabrani upotrebu diskriminirajućih praksi u pogledu pružanja usluga ili proizvoda;

19. naglašava potrebu da medijske organizacije budu informirane o glavnim parametrima sustava umjetne inteligencije koji se temelje na algoritmima i koji određuju rangiranje i rezultate pretraživanja na platformama trećih strana, te da korisnici budu informirani o uporabi umjetne inteligencije u službama za donošenje odluka i da se potaknu na to da postave svoje parametre privatnosti s pomoću transparentnih i razumljivih mjera;

20. ističe da umjetna inteligencija može imati ulogu u podupiranju stvaranja sadržaja u obrazovnom, kulturnom i audiovizualnom sektoru, zajedno s informativnim i obrazovnim platformama, uključujući popise raznih vrsta kulturnih predmeta i velik broj izvora podataka; napominje da postoje rizici od povrede prava intelektualnog vlasništva pri miješanju umjetne inteligencije i raznih tehnologija s mnoštvom izvora (dokumenata, slika, filmova) kako bi se poboljšao način prikazivanja, istraživanja i vizualizacije podataka; poziva na korištenje umjetne inteligencije kako bi se osigurala visoka razina zaštite prava intelektualnog vlasništva unutar trenutačnog zakonodavnog okvira, na primjer upozoravanjem pojedinaca i poslovnih subjekata ako su u opasnosti da nenamjerno prekrše pravila ili pružanjem pomoći nositeljima prava intelektualnog vlasništva ako su pravila stvarno prekršena; stoga ističe važnost prikladnog europskog pravnog okvira na razini Unije za zaštitu prava intelektualnog vlasništva u vezi s korištenjem umjetne inteligencije;

21. ističe potrebu za uspostavljanjem ravnoteže između, s jedne strane, razvoja sustavâ umjetne inteligencije i njihove uporabe u obrazovnom, kulturnom i audiovizualnom sektoru te, s druge strane, mjera za zaštitu tržišnog natjecanja i tržišne konkurentnosti za trgovačka društva u području umjetne inteligencije u tim sektorima; u tom pogledu naglašava potrebu za poticanjem društava da ulažu u inovacije u području sustava umjetne inteligencije koji se upotrebljavaju u tim sektorima, pri čemu također treba osigurati da ona društva koja pružaju te aplikacije ne ostvare tržišni monopol; ističe da umjetna inteligencija treba biti široko dostupna u kulturnim i kreativnim sektorima i industrijama diljem Europe kako bi se zadržali ravnopravni uvjeti i pošteno tržišno natjecanje svih dionika i aktera u Europi; poziva Komisiju i države članice da pri donošenju odluka u području politike tržišnog natjecanja, uključujući spajanja, u većoj mjeri uzmu u obzir ulogu podataka i algoritama u koncentraciji tržišne moći;

22. naglašava potrebu za sustavnim rješavanjem socijalnih, etičkih i pravnih pitanja koja se javljaju uslijed razvoja, uvođenja i korištenja umjetne inteligencije, poput transparentnosti i odgovornosti algoritama, nediskriminacije, jednakih mogućnosti, slobode i raznolikosti mišljenja, medijskog pluralizma te vlasništva nad podacima i sadržajima i njihova prikupljanja, korištenja i širenja; preporučuje da se osmisle zajedničke europske smjernice i standardi za zaštitu privatnosti uz učinkovito korištenje dostupnim podacima; poziva na transparentnost u razvoju i odgovornost u korištenju algoritama;

23. poziva Komisiju da predloži sveobuhvatan regulatorni okvir radi horizontalnog reguliranja aplikacija umjetne inteligencije i da ga dopuni sektorskim pravilima, primjerice u području audiovizualnih medijskih usluga;

24. naglašava da je potrebno ulaganje u istraživanje i inovacije u pogledu razvoja, uvođenja i korištenja umjetne inteligencije te njezinih aplikacija u obrazovnom, kulturnom i audiovizualnom sektoru; ističe važnost javnih ulaganja u te usluge i komplementarnu dodanu vrijednost koju pružaju javno-privatna partnerstva kako bi se ostvario taj cilj i iskoristio puni potencijal umjetne inteligencije u tim sektorima, posebno u obrazovanju, s obzirom na znatan iznos privatnih ulaganja posljednjih godina; poziva Komisiju da pronađe dodatna sredstva za promicanje istraživanja i inovacija u vezi s aplikacijama umjetne inteligencije u tim sektorima;

25. ističe da algoritamski sustavi mogu potaknuti brže smanjenje digitalnog jaza, no njihovim neravnomjernim uvođenjem riskira se stvaranje novih razlika ili brže produbljivanje postojećih; izražava zabrinutost zbog neusklađenosti razvoja znanja i infrastrukture diljem Unije, čime se ograničava pristup proizvodima i uslugama koji se temelje na umjetnoj inteligenciji, posebno u slabo naseljenim i socioekonomski ugroženim područjima; poziva Komisiju da osigura koheziju u dijeljenju koristi od umjetne inteligencije i s njom povezanih tehnologija;

26. poziva Komisiju da utvrdi zahtjeve za javnu nabavu i uvođenje umjetne inteligencije i s njom povezanih tehnologija od strane tijela javnog sektora Unije kako bi se osigurala usklađenost s pravom Unije i temeljnim pravima; ističe dodanu vrijednost korištenja instrumenata kao što su javna savjetovanja i procjene učinka koje treba provesti prije nabave ili uvođenja sustava umjetne inteligencije, kako je preporučeno u izvješću posebnog izvjestitelja Opće skupštine UN-a o umjetnoj inteligenciji i njezinu utjecaju na slobodu mišljenja i izražavanja[10]; potiče javne vlasti da javnim financiranjem i javnom nabavom potaknu razvoj i uvođenje umjetne inteligencije; naglašava potrebu za jačanjem tržišta tako što će se MSP-ovima pružiti prilika za sudjelovanje u nabavi aplikacija umjetne inteligencije kako bi se osiguralo sudjelovanje tehnoloških trgovačkih društava svih veličina te na taj način zajamčila otpornost i tržišno natjecanje;

27. poziva na redovitu provedbu neovisnih revizija kako bi se ispitalo jesu li korištene aplikacije umjetne inteligencije i s njima povezani sustav provjera i ravnoteže u skladu s utvrđenim kriterijima te također poziva da te revizije nadzire dovoljan broj neovisnih nadzornih tijela; poziva na uvođenje posebnih testiranja otpornosti na stres kako bi se olakšalo i zajamčilo poštovanje sukladnosti;

28. prima na znanje koristi i rizike umjetne inteligencije u pogledu kibersigurnosti i njezina potencijala za borbu protiv kibernetičkog kriminala te ističe potrebu da sva rješenja povezana s umjetnom inteligencijom budu otporna na kibernapade i da se istodobno poštuju temeljna prava Unije, posebno zaštita osobnih podataka i privatnosti; naglašava važnost praćenja sigurne upotrebe umjetne inteligencije i potrebu za bliskom suradnjom javnog i privatnog sektora radi suzbijanja ranjivosti korisnika i opasnosti koje nastaju u vezi s tim; poziva Komisiju da ocijeni potrebu za boljom prevencijom u pogledu kibersigurnosti te mjerama za smanjenje rizika u tom pogledu;

29. ističe da se kriza povezana s pandemijom bolesti COVID-19 može smatrati probnim razdobljem za razvoj, uvođenje i korištenje digitalnih tehnologija i tehnologija povezanih s umjetnom inteligencijom u obrazovanju i kulturi, što je vidljivo iz brojnih platformi za internetsku nastavu i internetskih alata za promicanje kulture koji se primjenjuju u državama članicama; stoga poziva Komisiju da uzme u obzir te primjere pri razmatranju zajedničkog pristupa Unije većoj upotrebi takvih tehnoloških rješenja;

Obrazovanje

30. podsjeća na važnost jačanja digitalnih vještina i postizanja visokog standarda medijske, digitalne i informacijske pismenosti na razini Unije kao preduvjeta za korištenje umjetne inteligencije u obrazovanju; u tom pogledu ističe potrebu za osiguravanjem digitalne pismenosti i pismenosti povezane s umjetnom inteligencijom diljem Unije, osobito razvojem mogućnosti izobrazbe nastavnika; ustraje u tome da bi upotreba tehnologija umjetne inteligencije u školama trebala doprinijeti smanjenju socijalnog i regionalnog digitalnog jaza; pozdravlja ažurirani Akcijski plan Komisije za digitalno obrazovanje u kojem se tematizira korištenje umjetne inteligencije u obrazovanju; u tom pogledu poziva Komisiju da digitalne sposobnosti, medijsku pismenost i osposobljavanje te vještine povezane s umjetnom inteligencijom odredi kao prioritete tog plana te da istodobno podiže razinu osviještenosti o mogućim zlouporabama i lošem funkcioniranju umjetne inteligencije; u tom kontekstu poziva Komisiju da posebnu pozornost posveti djeci i mladima u nesigurnom položaju kojima je potrebna posebna potpora u području digitalnog obrazovanja; apelira na Komisiju da se u svojim predstojećim zakonodavnim prijedlozima o umjetnoj inteligenciji na odgovarajući način pozabavi inicijativama u području umjetne inteligencije i robotike u obrazovanju; poziva države članice da ulažu u digitalno opremanje škola te da u tu svrhu koriste sredstva Unije;

31. ističe da korištenje umjetne inteligencije u obrazovnim sustavima donosi širok raspon mogućnosti, prilika i instrumenata koji ih čine inovativnijima, uključivijima, učinkovitijima i djelotvornijima zahvaljujući uvođenju novih i visokokvalitetnih načina brzog i personaliziranog učenja usmjerenog na učenika; međutim, ističe da, s obzirom na to da će utjecati na obrazovanje i socijalnu uključenost, treba osigurati dostupnost takvih instrumenata za sve socijalne skupine tako što će im se omogućiti ravnopravan pristup obrazovanju i učenju, pri čemu nitko neće biti zapostavljen, a osobito ne osobe s invaliditetom;

32. ističe da, u cilju kritičkog i učinkovitog pristupa umjetnoj inteligenciji, građani trebaju barem osnovno razumijevanje te tehnologije; poziva države članice da u svoje djelovanje u području digitalne pismenosti integriraju kampanje za podizanje razine osviještenosti o umjetnoj inteligenciji; poziva Komisiju i države članice da promiču planove digitalne pismenosti i forume za raspravu kako bi se građani, roditelji i studenti uključili u demokratski dijalog s javnim tijelima i dionicima o razvoju, uvođenju i korištenju tehnologija umjetne inteligencije u obrazovnim sustavima; naglašava da je važno edukatorima, instruktorima i drugima pružiti odgovarajuće alate i znanja o umjetnoj inteligenciji i s njom povezanim tehnologijama u pogledu njihova sadržaja te načina na koji se upotrebljavaju pravilno i u skladu sa zakonom kako bi se izbjegle povrede prava intelektualnog vlasništva; posebno ističe važnost digitalne pismenosti za osobe koje rade u sektorima obrazovanja i osposobljavanja, kao i poboljšanja digitalne izobrazbe za starije osobe, imajući na umu da su novije generacije već upoznate s tim tehnologijama jer su odrasle s njima;

33. naglašava da istinski cilj umjetne inteligencije u našim obrazovnim sustavima treba biti postizanje obrazovanja koje je što više individualizirano, koje učeniku nudi personaliziran akademski put prilagođen njegovim prednostima i nedostacima, uz didaktičke materijale u skladu s njegovim osobinama, pri čemu treba održati kvalitetu obrazovanja i integracijsko načelo naših obrazovnih sustava;

34. podsjeća na ključnu i višeslojnu ulogu nastavnika u obrazovanju i njegovoj uključivosti, posebno u ranom djetinjstvu kada se stječu vještine koje će učenicima omogućiti da napreduju tijekom cijelog života, što uključuje međuljudske odnose, vještine učenja, empatiju i timski rad; stoga ističe da se tehnologije umjetne inteligencije ne mogu upotrebljavati na štetu ili na račun nastave u učionicama jer se nastavnici ne smiju zamijeniti tehnologijama umjetne inteligencije ili s njima povezanim tehnologijama;

35. naglašava da prednosti učenja upotrebom umjetne inteligencije u obrazovanju neće ovisiti samo o umjetnoj inteligenciji već o tome kako nastavnici koriste umjetnu inteligenciju u okružju digitalnog učenja da bi zadovoljili potrebe učenika, studenata i nastavnika; stoga ističe potrebu da programeri umjetne inteligencije, kad je to moguće, uključe obrazovne zajednice u razvoj, uvođenje i korištenje tehnologija umjetne inteligencije, čime će se stvoriti okružje pogodno za uspostavu veza i suradnje između programera umjetne inteligencije, razvojnih programera, trgovačkih društava, škola, nastavnika i drugih javnih i privatnih dionika kako bi se osmislile tehnologije umjetne inteligencije koje su prikladne za stvarna obrazovna okružja, kojima se odražavaju dob i razvojna spremnost svakog učenika i zadovoljavaju najviši etički standardi; ističe da obrazovne institucije trebaju koristiti samo pouzdane i etične tehnologije usmjerene na čovjeka koje javna tijela i civilno društvo mogu nadzirati u svakoj fazi njihova životnog ciklusa; u tom pogledu naglašava prednosti besplatnih rješenja otvorenog koda; poziva da se školama i drugim obrazovnim ustanovama pruži financijska i logistička potpora te potrebno stručno znanje kako bi se uvela rješenja za učenje budućnosti;

36. osim toga ističe potrebu za kontinuiranim osposobljavanjem nastavnika kako bi se mogli prilagoditi stvarnosti obrazovanja utemeljenog na umjetnoj inteligenciji i steći potrebno znanje i vještine za korištenje tehnologija umjetne inteligencije na pedagoški i smislen način, što će im omogućiti da u potpunosti prihvate mogućnosti koje nudi umjetna inteligencija te da shvate njezina ograničenja; poziva na to da digitalno poučavanje bude dio svakog budućeg osposobljavanja nastavnika te da se nastavnicima i osobama koje rade u sektoru obrazovanja i osposobljavanja omogući cjeloživotno osposobljavanje u području digitalnog poučavanja; stoga poziva na razvoj programa osposobljavanja u području umjetne inteligencije za nastavnike u svim područjima i diljem Europe; osim toga ističe važnost reforme nastavnih programa za nove generacije nastavnika kako bi im se omogućilo da se prilagode stvarnosti obrazovanja koje počiva na umjetnoj inteligenciji, kao i važnost izrade i ažuriranja udžbenika i smjernica o umjetnoj inteligenciji za nastavnike;

37. izražava zabrinutost zbog nedostatka konkretnih programa višeg obrazovanja u području umjetne inteligencije diljem država članica te nedostatka javnog financiranja za umjetnu inteligenciju; smatra da su zbog toga buduće ambicije Europe u području digitalizacije dovedene u pitanje;

38. izražava zabrinutost zbog toga što se rijetki istraživači u području umjetne inteligencije odlučuju za akademsku karijeru jer im tehnološka društva mogu ponuditi bolje plaće, a istraživanje se odvija s manje birokratskih prepreka; smatra da bi dio rješenja moglo biti usmjeravanje više javnog novca u istraživanje umjetne inteligencije na sveučilištima;

39. naglašava važnost poučavanja općih digitalnih sposobnosti i kompetencija od djetinjstva kako bi se riješio problem nedostatka kvalifikacija i određene skupine stanovništva bolje integrirale na digitalno tržište rada i u digitalno društvo; ističe da će sve važnije biti osposobljavanje visokokvalificiranih stručnjaka iz svih društvenih slojeva u području umjetne inteligencije, osiguravanje međusobnog priznavanja takvih kvalifikacija diljem Unije i usavršavanje aktualne i buduće radne snage kako bi se mogla nositi s budućim stvarnostima tržišta rada koje počiva na umjetnoj inteligenciji; stoga potiče države članice da procijene svoje obrazovne ponude te ih po potrebi nadograde vještinama povezanim s umjetnom inteligencijom i da uspostave posebne nastavne planove za programere umjetne inteligencije, uz istodobno integriranje umjetne inteligencije u tradicionalne kurikulume; ističe potrebu za osiguravanjem uzajamnog priznavanja stručnih kvalifikacija u području vještina povezanih s umjetnom inteligencijom diljem Unije s obzirom na to da nekoliko država članica nadograđuje svoju obrazovnu ponudu u pogledu tih vještina i uvodi posebne kurikulume za programere umjetne inteligencije; pozdravlja napore Komisije u pogledu uključivanja digitalnih vještina kao jednog od kvalifikacijskih zahtjeva za određene profesije usklađenih na razini Unije u okviru Direktive o stručnim kvalifikacijama[11]; naglašava potrebu za time da oni budu u skladu s popisom za procjenu Etičkih smjernica za pouzdanu umjetnu inteligenciju i pozdravlja prijedlog Komisije da taj popis postane indikativan kurikulum za programere umjetne inteligencije; podsjeća na posebne potrebe strukovnog obrazovanja i osposobljavanja kad je riječ o umjetnoj inteligenciji te poziva na suradnički pristup širom Europe kako bi se povećao potencijal koji umjetna inteligencija nudi za strukovno obrazovanje i osposobljavanje; ističe važnost osposobljavanja visokokvalificiranih stručnjaka u tom području, pri čemu će se u kurikulume uključiti etički aspekti, te važnost pružanja potpore nedovoljno zastupljenim skupinama u tom području, kao i stvaranja poticaja za te stručnjake da traže posao unutar Unije; podsjeća da su žene u nedovoljnoj mjeri zastupljene u području umjetne inteligencije te da bi zbog toga moglo doći do izrazite rodne neravnoteže na budućem tržištu rada;

40. ističe potrebu da vlade i obrazovne ustanove preispitaju i prerade svoje obrazovne kurikulume te ih prilagode potrebama 21. stoljeća osmišljavanjem obrazovnih programa u kojima se veći naglasak stavlja na područja znanosti, tehnologije, inženjerstva, umjetnosti i matematike kako bi se učenici i potrošači pripremili za sve veću rasprostranjenost umjetne inteligencije te kako bi se olakšalo stjecanje kognitivnih vještina; ističe važnost diversifikacije tog sektora i poticanja studenata, osobito žena i djevojčica, da se upisuju na kolegije u područjima povezanima sa znanošću, tehnologijom, inženjerstvom i matematikom, a osobito da biraju predmete povezane s robotikom i umjetnom inteligencijom; poziva na dodjelu većih financijskih i znanstvenih sredstava kako bi se kvalificirane osobe motivirale da ostanu u Uniji i istodobno privukle kvalificirane osobe iz inozemstva; nadalje napominje da postoji znatan broj novoosnovanih poduzeća koja se bave umjetnom inteligencijom i razvijaju tehnologije umjetne inteligencije; naglašava da će MSP-ovima biti potrebna dodatna potpora i osposobljavanje u pogledu umjetne inteligencije kako bi postupali u skladu s propisima u digitalnom području i području umjetne inteligencije;

41. konstatira da bi automatizacija i razvoj umjetne inteligencije mogli drastično i nepovratno promijeniti zaposlenost; naglašava da bi prednost trebalo dati prilagodbi vještina potrebama budućeg tržišta rada, posebno u obrazovanju te kulturnim i kreativnim sektorima i industrijama; u tom kontekstu ističe potrebu za usavršavanjem buduće radne snage; osim toga, ističe važnost uvođenja umjetne inteligencije za prekvalifikaciju i usavršavanje na europskom tržištu rada u kulturnim i kreativnim sektorima i industrijama, a posebno u audiovizualnom sektoru koji je već teško pogođen krizom povezanom s bolešću COVID-19;

42. poziva Komisiju da procijeni razinu rizika uvođenja umjetne inteligencije u obrazovnom sektoru kako bi se utvrdilo treba li aplikacije umjetne inteligencije uključiti u regulatorni okvir za visoki rizik te ih podvrgnuti strožim zahtjevima u pogledu sigurnosti, transparentnosti, pravednosti i odgovornosti, s obzirom na važnost osiguravanja obrazovanja koje i dalje doprinosi javnom dobru i na visoku osjetljivost podataka o učenicima, studentima i drugim polaznicima obrazovanja; ističe da bi se skupovi podataka koji se koriste za obučavanje umjetne inteligencije trebali preispitati kako bi se izbjeglo potvrđivanje određenih stereotipa i drugih vrsta predrasuda;

43. poziva Komisiju da predloži pravni okvir za umjetnu inteligenciju koji će biti otporan na promjene u budućnosti kako bi se zajamčile pravno obvezujuće mjere i standardi radi osiguravanja temeljnih prava i sloboda te razvoja pouzdanih, etičkih i tehnički sveobuhvatnih aplikacija umjetne inteligencije, uključujući integrirane digitalne alate, usluge i proizvode kao što su robotika i strojno učenje, s posebnim naglaskom na obrazovanju; poziva da podaci koje koriste i proizvode aplikacije umjetne inteligencije u obrazovnom sektoru budu dostupni, interoperabilni i visokokvalitetni te da se dijele s relevantnim tijelima javne vlasti na dostupan način i u skladu sa zakonodavstvom o autorskim pravima i poslovnim tajnama; podsjeća da su djeca ranjiva skupina koja zaslužuje posebnu pozornost i zaštitu; naglašava da, iako umjetna inteligencija može biti korisna u obrazovanju, potrebno je uzeti u obzir njezine tehnološke, regulatorne i društvene aspekte, uz odgovarajuću zaštitu i pristup usmjeren na čovjeka kojim se osigurava da ljudi uvijek mogu kontrolirati i ispraviti odluke sustava; u tom pogledu ističe da nastavnici moraju kontrolirati i nadzirati uvođenje i korištenje tehnologija umjetne inteligencije u školama i na fakultetima te prilikom interakcije s učenicima i studentima; podsjeća da sustavi umjetne inteligencije ne smiju donositi nikakve konačne odluke koje mogu utjecati na obrazovne prilike, na primjer odluke o konačnim ocjenama studenata, bez potpunog ljudskog nadzora; podsjeća da automatizirane odluke o fizičkim osobama koje se temelje na profiliranju, ako dovode do pravnih ili sličnih učinaka, moraju biti strogo ograničene i uvijek zahtijevati pravo na ljudsku intervenciju i objašnjenje u skladu s Općom uredbom o zaštiti podataka; naglašava da bi se toga trebalo strogo pridržavati, posebno u obrazovnom sustavu u kojem se donose odluke o budućim mogućnostima i prilikama;

44. izražava ozbiljnu zabrinutost zbog toga što škole i ostali pružatelji usluga obrazovanja postaju sve više ovisni o uslugama obrazovne tehnologije (edtech), uključujući aplikacije umjetne inteligencije, koje nudi nekoliko privatnih trgovačkih društava koja imaju dominantan položaj na tržištu; smatra da bi to trebalo nadzirati u skladu s pravilima Unije o tržišnom natjecanju; u tom pogledu ističe da je važno poduprijeti uvođenje umjetne inteligencije u mala i srednja poduzeća u obrazovnom, kulturnom i audiovizualnom sektoru prikladnim poticajima kojima se stvaraju jednaki uvjeti za sve; u tom kontekstu poziva na ulaganje u europska trgovačka društva u području IT-a kako bi se razvile potrebne tehnologije u Uniji s obzirom na to da velika društva koja trenutačno pružaju umjetnu inteligenciju imaju sjedište izvan Unije; izričito podsjeća na to da su podaci o maloljetnicima strogo zaštićeni Općom uredbom o zaštiti podataka i da se mogu obrađivati samo ako su u cijelosti anonimizirani ili ako je nositelj roditeljske odgovornosti za dijete dao privolu za to, uz strogo poštovanje načela smanjenja količine podataka i ograničavanja svrhe; poziva na snažniju zaštitu i zaštitne mjere u obrazovnom sektoru kada su u pitanju podatci o djeci te poziva Komisiju da poduzme učinkovitije korake u tom pogledu; poziva na to da se djeci i njihovim roditeljima pružaju jasne informacije o mogućoj upotrebi i obradi podataka o djeci, među ostalim u okviru kampanja za podizanje razine osviještenosti i informativnih kampanja;

45. ističe specifične rizike pri upotrebi automatiziranih aplikacija za prepoznavanje u kojima se koristi umjetna inteligencija i koje se trenutačno brzo razvijaju; podsjeća da su djeca posebno osjetljiva skupina; preporučuje da Komisija i države članice zabrane automatiziranu biometrijsku identifikaciju u obrazovnim i kulturnim ustanovama, kao što je prepoznavanje lica u obrazovne i kulturne svrhe, osim ako njezina upotreba nije dopuštena zakonom;

46. ističe da je potrebno povećati izbor potrošača kako bi se potaknula konkurentnost i proširio raspon usluga koje pružaju tehnologije umjetne inteligencije u svrhu obrazovanja; u tom pogledu potiče javne vlasti da javnim financiranjem i javnom nabavom potaknu razvoj i uvođenje umjetne inteligencije; smatra da bi se tehnologije kojima se koriste pružatelji javnog obrazovanja ili koje se kupuju javnim novcem trebale temeljiti na tehnologijama otvorenog koda;

47. konstatira da obrazovanje već dugo vapi za inovacijama, što je naglašeno pandemijom bolesti COVID-19 te s njom povezanim prelaskom na učenje preko interneta i na daljinu; ističe da obrazovni alati koji počivaju na umjetnoj inteligenciji, kao što su oni za ocjenjivanje i utvrđivanje poteškoća u učenju, mogu poboljšati kvalitetu i učinkovitost učenja preko interneta;

48. naglašava da su digitalna infrastruktura i pokrivenost internetom sljedeće generacije od strateške važnosti za pružanje obrazovanja europskim građanima koje se temelji na umjetnoj inteligenciji; u svjetlu krize COVID-19 poziva Komisiju da razradi strategiju za europsku mrežu 5G kojom bi se osigurala strateška otpornost Europe i koja ne ovisi o tehnologijama iz država koje ne dijele naše vrijednosti;

49. poziva na osnivanje paneuropske sveučilišne i istraživačke mreže usmjerene na umjetnu inteligenciju u obrazovanju kojom bi se trebale povezati institucije i stručnjaci iz svih područja kako bi se istražio utjecaj umjetne inteligencije na učenje te utvrdila rješenja za povećanje njezina potencijala;

Kulturna baština

50. ponovno ističe važnost pristupa kulturi za sve građane diljem Unije; u tom kontekstu naglašava važnost razmjene najboljih praksi među državama članicama, obrazovnim ustanovama, kulturnim institucijama te sličnim dionicima; nadalje smatra da je od ključne važnosti da se sredstva dostupna i na razini Unije i na nacionalnoj razini iskoriste u najvećoj mogućoj mjeri kako bi se dodatno poboljšao pristup kulturi; naglašava da postoje mnogobrojne mogućnosti za pristup kulturi i da bi ih sve trebalo istražiti kako bi se pronašla najprikladnija opcija; ističe važnost usklađenosti s Ugovorom iz Marakeša;

51. naglašava da tehnologije umjetne inteligencije mogu igrati važnu ulogu u očuvanju, obnovi, dokumentiranju, analizi i promicanju materijalne i nematerijalne kulturne baštine te upravljanju njome, među ostalim praćenjem i analizom promjena na lokalitetima kulturne baštine prouzročenih prijetnjama kao što su klimatske promjene, prirodne katastrofe i oružani sukobi;

52. ističe da se tehnologijama umjetne inteligencije može poboljšati vidljivost europske kulturne raznolikosti; naglašava da se tim tehnologijama pružaju nove mogućnosti kulturnim institucijama, kao što su muzeji, da osmisle inovativne alate za katalogizaciju artefakata kao i dokumentiranje i povećanje dostupnosti lokaliteta kulturne baštine, među ostalim upotrebom 3D oblikovanja i proširene virtualne stvarnosti; ističe da će umjetna inteligencija omogućiti i muzejima i umjetničkim galerijama da uvedu interaktivne i personalizirane usluge za posjetitelje tako što će im pružiti popis predloženih objekata na temelju interesa koje su iskazali osobno i preko interneta;

53. ističe da će se korištenjem umjetne inteligencije najaviti novi inovativni pristupi, alati i metodologije koji će omogućiti kulturnim radnicima i istraživačima da stvore usklađene baze podataka s odgovarajućim mehanizmima klasifikacije kao i multimedijskim metapodacima, čime će im se omogućiti da povežu različite objekte kulturne baštine i na taj način povećaju znanje i osiguraju bolje razumijevanje kulturne baštine;

54. naglašava da treba prepoznati dobre prakse upotrebe umjetne inteligencije u svrhu zaštite i dostupnosti kulturne baštine, naročito za osobe s invaliditetom, i podijeliti ih među kulturnim mrežama diljem Unije, pri čemu treba potaknuti istraživanja o raznim načinima korištenja umjetne inteligencije u cilju promicanja vrijednosti, dostupnosti i očuvanja kulturne baštine; poziva Komisiju i države članice da promiču mogućnosti primjene umjetne inteligencije u kulturnim i kreativnim sektorima i industrijama;

55. naglašava da se tehnologije umjetne inteligencije mogu koristiti i za nadzor nezakonite trgovine kulturnim predmetima i uništavanja kulturnih dobara, pri čemu se podržava prikupljanje podataka za oporavak i obnovu materijalne i nematerijalne kulturne baštine; posebno napominje da bi se razvojem, uvođenjem i korištenjem umjetne inteligencije u postupcima carinskih provjera mogli poduprijeti napori za sprečavanje nezakonite trgovine kulturnom baštinom, a posebno bi se mogli dopuniti sustavi kojima se carinskim tijelima omogućuje da usmjere svoje napore i resurse na one stavke koje su najrizičnije;

56. napominje da bi od umjetne inteligencije mogao imati koristi istraživački sektor, primjerice preko uloge koju u poboljšanju analize podataka može imati prediktivna analitika, na primjer u pogledu stjecanja i kretanja kulturnih predmeta; ističe da Unija treba povećati ulaganja i potaknuti partnerstva između industrije i akademske zajednice kako bi se ojačala istraživačka izvrsnost na europskoj razini;

57. podsjeća da umjetna inteligencija može biti revolucionaran alat za promicanje kulturnog turizma te ističe njezin znatan potencijal u predviđanju turističkih tokova, što bi moglo pomoći gradovima koji se bore s prevelikim brojem turista;

Kulturni i kreativni sektori i industrije

58. izražava žaljenje zbog toga što kultura nije među prioritetima koji su istaknuti u političkim opcijama i preporukama o umjetnoj inteligenciji na razini Unije, posebno u bijeloj knjizi Europske komisije od 19. veljače 2020. o umjetnoj inteligenciji; poziva na reviziju tih preporuka kako bi se kultura odredila kao prioritet javne politike u području umjetne inteligencije na razini Unije; poziva Komisiju i države članice da se pozabave potencijalnim utjecajem razvoja, uvođenja i korištenja tehnologija umjetne inteligencije na kulturne i kreativne sektore i industrije te da u što većoj mjeri iskoriste plan oporavka Next Generation EU za digitalizaciju tih sektora kako bi se odgovorilo na nove načine konzumacije sadržaja u 21. stoljeću;

59. ističe da je umjetna inteligencija stigla i u kulturne i kreativne sektore i industrije te da se, primjerice, očituje u automatiziranom sastavljanju tekstova, izradi videozapisa i stvaranju glazbenih djela; naglašava da kreativni i kulturni stvaratelji također moraju imati potrebne digitalne sposobnosti i kompetencije za upotrebu umjetne inteligencije i drugih digitalnih tehnologija; poziva Komisiju i države članice da sredstvima za financiranje znanosti i istraživanja jače promiču mogućnosti primjene umjetne inteligencije u kulturnim i kreativnim sektorima i industrijama te da stvore centre digitalne kreativnosti u kojima kulturni i kreativni stvaratelji mogu razvijati aplikacije umjetne inteligencije, naučiti kako upotrebljavati te aplikacije i druge tehnologije te testirati njihovu upotrebu;

60. priznaje da tehnologije umjetne inteligencije imaju potencijal povećati broj radnih mjesta u kulturnim i kreativnim sektorima i industrijama zahvaljujući boljem pristupu tim tehnologijama; stoga naglašava važnost jačanja digitalne pismenosti u kulturnim i kreativnim sektorima i industrijama kako bi te tehnologije postale uključivije, korisnije, lakše za učenje i interaktivnije za te sektore;

61. naglašava da je interakcija između umjetne inteligencije i kulturnih i kreativnih sektora i industrija složena i zahtijeva temeljitu evaluaciju; pozdravlja Izvješće Komisije iz studenog 2020. naslovljeno „Trendovi i napredak u umjetnoj inteligenciji – izazovi pred Okvirom o pravima intelektualnog vlasništva” te studiju o autorskim pravima i novim tehnologijama: upravljanje podacima o autorskim pravima i umjetna inteligencija; naglašava važnost razjašnjavanja uvjeta upotrebe sadržaja zaštićenog autorskim pravima kao ulaznih podataka (slike, glazba, filmovi, baze podataka itd.) te njihove upotrebe u proizvodnji kulturnih i audiovizualnih tvorevina koje tehnologije umjetne inteligencije samostalno kreiraju ili ih s pomoću tih tehnologija kreiraju ljudi; poziva Komisiju da prouči utjecaj umjetne inteligencije na europske kreativne industrije; ponovno ističe važnost europskih podataka i pozdravlja izjave Komisije u tom pogledu te stavljanje umjetne inteligencije i povezanih tehnologija u sam vrh prioriteta;

62. naglašava potrebu za uspostavom skladne vizije tehnologija umjetne inteligencije u kulturnim i kreativnim sektorima i industrijama na razini Unije; poziva države članice da se u novom digitalnom kontekstu više usredotoče na kulturu u svojim nacionalnim strategijama za umjetnu inteligenciju kako bi se osiguralo da kulturni i kreativni sektori i industrije prigrle inovacije, ostanu konkurentni te da se zaštiti i promiče kulturna raznolikost na razini Unije;

63. ističe važnost stvaranja heterogenog okružja za tehnologije umjetne inteligencije diljem Unije kako bi se potaknula kulturna raznolikost i podržale manjine i jezična raznolikost, a pritom i osnažili kulturni i kreativni sektori i industrije s pomoću mrežnih platformi, čime će se građanima Unije omogućiti uključenost i sudjelovanje;

64. poziva Komisiju i države članice da podrže demokratsku raspravu o tehnologijama umjetne inteligencije te da osiguraju redovit forum za raspravu s civilnim društvom, istraživačima, akademicima i dionicima radi podizanja razine osviještenosti o prednostima i izazovima njezine uporabe u kulturnim i kreativnim sektorima i industrijama; u tom kontekstu ističe ulogu koju umjetnost i kultura mogu imati u poučavanju ljudi o umjetnoj inteligenciji te u društvenoj raspravi o njoj jer one mogu učiniti strojno učenje živim i opipljivim, primjerice u području glazbe;

65. poziva Komisiju i države članice da riješe pitanje sadržaja proizvedenog s pomoću umjetne inteligencije, kao i s njim povezanih problema u pogledu autorstva i povrede autorskih prava; u tom pogledu traži od Komisije da procijeni učinak umjetne inteligencije i s njom povezanih tehnologija na audiovizualni sektor te kulturne i kreativne sektore i industrije u cilju promicanja kulturne i jezične raznolikosti, uz istodobno poštovanje prava autora i izvođača;

66. ističe da Europski institut za inovacije i tehnologiju, a osobito njegova buduća Zajednica znanja i inovacija, posvećena kulturnim i kreativnim industrijama, treba imati vodeću ulogu u razvoju europske strategije za umjetnu inteligenciju u obrazovanju, kulturi i audiovizualnom sektoru te da može pridonijeti ubrzavanju i prikupljanju aplikacija umjetne inteligencije za te sektore;

67. konstatira da je umjetna inteligencija već postala dijelom kreativnog vrijednosnog lanca na razini stvaranja, produkcije, distribucije i konzumacije te stoga, preko novih alata, softvera i stvaranja utemeljenog na umjetnoj inteligenciji za lakšu produkciju, ima znatan utjecaj na kulturne i kreativne sektore i industrije, kao što su glazba, filmska industrija, umjetnost i književnost, pri čemu pruža inspiraciju i omogućava široj javnosti stvaranje sadržaja;

68. poziva Komisiju da provede studije i razmotri potencijalne politike za rješavanje problema štetnog utjecaja kontrole usluga internetskog prijenosa sadržaja koja se temelji na umjetnoj inteligenciji i koja je osmišljena u cilju ograničenja raznolikosti i/ili maksimalnog povećanja profita uključivanjem određenog sadržaja u ponudu za potrošače ili davanjem prednosti određenom sadržaju, te je poziva da prouči način na koji to utječe na kulturnu raznolikost i prihode autora;

69. smatra da je umjetna inteligencija sve korisnija za kulturne i kreativne sektore i industrije kad je riječ o stvaranju i produkciji sadržaja;

70. naglašava ulogu autorove osobnosti u izražavanju slobodnih i kreativnih odabira na kojima počiva originalnost djela[12]; naglašava važnost ograničenja i iznimaka od autorskih prava pri korištenju sadržaja kao ulaznih podataka, posebno u obrazovanju, istraživanju i u akademskoj zajednici te u proizvodnji kulturnih i kreativnih djela, uključujući audiovizualni sadržaj i sadržaj koji su izradili korisnici;

71. smatra da treba razmotriti zaštitu tehničkih i umjetničkih djela stvorenih s pomoću umjetne inteligencije kako bi se potaknuo taj oblik stvaralaštva;

72. naglašava da se u kontekstu podatkovnog gospodarstva može postići bolje upravljanje podacima o autorskim pravima u svrhu bolje naknade autorima i izvođačima, posebno omogućavanjem brze identifikacije autorstva i prava vlasništva nad sadržajem, čime se doprinosi smanjenju broja „djela siročadi”; nadalje ističe da bi se tehnološka rješenja umjetne inteligencije trebala upotrebljavati za poboljšanje infrastrukture podataka o autorskim pravima i međupovezanosti metapodataka u djelima, ali i za lakše ispunjavanje obveza u pogledu transparentnosti iz članka 19. Direktive 2019/790 o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu[13] za ažurirane, relevantne i sveobuhvatne informacije o iskorištavanju djela i izvedbi autora i izvođača, posebno u kontekstu velikog broja nositelja prava i složenih sustava licenciranja;

73. poziva na to da se u Akcijskom planu za intelektualno vlasništvo koji je najavila Komisija osvrne na pitanje umjetne inteligencije i njezina učinka na kreativne sektore, uzimajući u obzir potrebu za postizanjem ravnoteže između zaštite prava intelektualnog vlasništva i promicanja obrazovanja, kulture i istraživanja; smatra da Unija može biti predvodnik u stvaranju tehnologija umjetne inteligencije ako donese operativni regulatorni okvir i proaktivne javne politike, posebno u pogledu programa osposobljavanja i financijske potpore za istraživanja; traži od Komisije da ocijeni utjecaj prava intelektualnog vlasništva na istraživanje i razvoj umjetne inteligencije i s njom povezanih tehnologija, kao i na kulturne i kreativne sektore i industrije, uključujući audiovizualni sektor, posebno u vezi s autorstvom, pravednom naknadom za autore i povezanim pitanjima;

74. poziva Komisiju da razmotri pravne aspekte rezultata dobivenih korištenjem tehnologija umjetne inteligencije, kao i kulturnog sadržaja nastalog upotrebom umjetne inteligencije i s njom povezanih tehnologija; smatra da je važno podržati proizvodnju kulturnog sadržaja; međutim, ponovno ističe važnost zaštite jedinstvenog okvira Unije za prava intelektualnog vlasništva i naglašava da bi se sve promjene trebale provesti uz potrebnu dužnu pažnju kako se ne bi narušila osjetljiva ravnoteža; poziva Komisiju da provede podrobnu evaluaciju u pogledu moguće pravne osobnosti sadržaja proizvedenih umjetnom inteligencijom, kao i u pogledu primjene prava intelektualnog vlasništva na sadržaje stvorene umjetnom inteligencijom, uključujući sadržaje stvorene upotrebom alata umjetne inteligencije;

75. osim toga, poziva Komisiju da u bliskoj suradnji s državama članicama i relevantnim dionicima razmotri razvoj mehanizama provjere ili sustava za izdavače, autore i stvaratelje kako bi im se pomoglo u provjeri sadržaja kojim se mogu koristiti i kako bi se lakše utvrdilo što je zaštićeno zakonodavstvom o pravima intelektualnog vlasništva;

76. poziva Komisiju da uspostavi pravila kojima će se zajamčiti stvarna interoperabilnost podataka kako bi sadržaj kupljen na nekoj platformi bio dostupan u okviru svih digitalnih alata, bez obzira na njegovu robnu marku;

Audiovizualni sektor

77. konstatira da se umjetna inteligencija često koristi za algoritme za automatizirano donošenje odluka radi širenja i organiziranja kulturnog i kreativnog sadržaja koji se prikazuje korisnicima; naglašava da su ti algoritmi za korisnike potpuna nepoznanica; naglašava da se algoritmi koje koriste pružatelji medijskih usluga, platforme za dijeljenje videozapisa, kao i usluge slušanja glazbe preko interneta, trebaju osmisliti na način da određeni uratci ne budu privilegirani ograničavanjem njihovih „personaliziranihˮ prijedloga na najpopularnije uratke, za ciljano oglašavanje, u komercijalne svrhe ili za povećavanje dobiti; u mjeri u kojoj je to moguće poziva na upotrebu objašnjivih i transparentnih algoritama za davanje preporuka i personalizirani marketing kako bi se potrošačima omogućio točan i sveobuhvatan uvid u te procese i sadržaje te osiguralo da personalizirane usluge ne budu diskriminirajuće i da budu u skladu s nedavno donesenom Uredbom o odnosima između platformi i poslovnih subjekata[14] i Skupnom direktivom o novim pogodnostima za potrošače[15]; poziva Komisiju da razmotri načine na koje se optimiziraju algoritmi za moderiranje sadržaja kako bi se uključili korisnici te da iznese preporuke za veću kontrolu korisnika nad sadržajem koji gledaju jamčenjem i pravilnom provedbom prava korisnika da odustanu od preporučenih i personaliziranih usluga; osim toga, ističe da potrošači moraju biti obaviješteni kad budu u interakciji s automatiziranim postupkom odlučivanja te da njihov izbor i uspješnost ne smiju biti ograničeni; ističe da se mora suzbijati primjena mehanizama umjetne inteligencije za komercijalni nadzor nad potrošačima, čak i ako se odnosi na „besplatne usluge”, tako što će se osigurati da taj nadzor bude strogo u skladu s temeljnim pravima i Općom uredbom o zaštiti podataka; ističe da se u svim promjenama propisa mora uzeti u obzir utjecaj na osjetljive skupine potrošača;

78. ističe da je ono što je nezakonito izvan interneta nezakonito i na internetu; napominje da se alatima umjetne inteligencije može suzbijati nezakoniti sadržaj na internetu i da se to već čini, ali izričito podsjeća, prije donošenja budućeg Akta o digitalnim uslugama, da pri upotrebi tih alata uvijek treba poštovati temeljna prava, posebno slobodu izražavanja i informiranja, te da oni ne bi trebali dovesti do obveze općeg nadzora nad internetom ili uklanjanja zakonitog materijala koji je namijenjen u obrazovne, novinarske, umjetničke ili istraživačke svrhe; naglašava da bi se algoritmi trebali upotrebljavati samo kao mehanizam označavanja (flagiranja) pri moderiranju sadržaja, uz ljudsku intervenciju, s obzirom na to da umjetna inteligencija ne može pouzdano razlikovati zakoniti od nezakonitog i štetnog sadržaja; napominje da bi ti uvjeti uvijek trebali uključivati smjernice zajednice, kao i žalbeni postupak;

79. nadalje, podsjeća da, kako je utvrđeno člankom 15. Direktive o elektroničkoj trgovini[16], ne bi trebalo biti općeg praćenja i da bi poseban nadzor nad sadržajem za audiovizualne medijske usluge trebao biti u skladu s iznimkama utvrđenima zakonodavstvom Unije; podsjeća da aplikacije umjetne inteligencije moraju biti u skladu s unutarnjim i vanjskim sigurnosnim protokolima koji bi trebali biti tehnički precizni i stabilni; smatra da bi to trebalo proširiti i na djelovanje u uobičajenim, nepoznatim i nepredvidivim situacijama;

80. nadalje, naglašava da upotreba umjetne inteligencije u preporukama sadržaja utemeljenima na algoritmima pružatelja medijskih usluga, kao što su videozapisi na zahtjev i platforme za dijeljenje videozapisa, može imati ozbiljan utjecaj na kulturnu i jezičnu raznolikost, posebno u vezi s obvezom da se osigura istaknutost europskih djela u skladu s člankom 13. Direktive o audiovizualnim medijskim uslugama (Direktiva (EU) 2018/1808[17]); konstatira da su isti razlozi za zabrinutost jednako relevantni i za usluge slušanja glazbe preko interneta te poziva na izradu pokazatelja kojima bi se procijenila kulturna raznolikost i promicanje europskih djela na takvim servisima;

81. poziva Komisiju i države članice da povećaju financijsku potporu za razvoj, uvođenje i korištenje umjetne inteligencije u području automatiziranog titlovanja i sinkronizacije europskih audiovizualnih djela radi promicanja kulturne i jezične raznolikosti u Uniji te poboljšanja širenja europskih audiovizualnih sadržaja i pristupa njima;

82. poziva Komisiju na uspostavu jasnog etičkog okvira za korištenje tehnologija umjetne inteligencije u medijima kako bi se spriječili svi oblici diskriminacije i osigurao pristup kulturno i jezično raznolikim sadržajima na razini Unije, utemeljen na odgovornim, transparentnim i uključivim algoritmima, pri čemu se poštuju odabiri i preferencije pojedinca;

83. ističe da umjetna inteligencija može imati važnu ulogu u brzom širenju dezinformacija; u tom pogledu naglašava da bi se okvir trebao baviti zloupotrebom umjetne inteligencije za širenje lažnih vijesti, pogrešnih informacija na internetu i dezinformacija, uz izbjegavanje cenzure; stoga poziva Komisiju da procijeni rizike povezane s umjetnom inteligencijom koja pomaže širenju dezinformacija u digitalnom okružju, kao i rješenja u pogledu toga kako bi se umjetna inteligencija mogla upotrijebiti za borbu protiv dezinformiranja;

84. poziva Komisiju da poduzme regulatorne mjere kako bi se osiguralo da pružatelji medijskih usluga imaju pristup podacima prikupljenima u okviru stavljanja na raspolaganje i širenja svojih sadržaja na platformama pružatelja usluga trećih strana; naglašava da je potpuni prijenos podataka od operatera platformi do pružatelja medijskih usluga od presudne važnosti kako bi pružatelji medijskih usluga mogli bolje razumjeti svoju publiku i tako poboljšati svoje usluge u skladu s vizijom publike;

85. naglašava da je važno povećati sredstva za programe Digitalna Europa, Kreativna Europa i Obzor Europa kako bi se povećala potpora europskom audiovizualnom sektoru, ponajprije suradničkim istraživačkim projektima i eksperimentalnim pilot-inicijativama u području razvoja, uvođenja i korištenja etičnih tehnologija umjetne inteligencije;

86. poziva na blisku suradnju država članica u osmišljavanju programa osposobljavanja usmjerenih na prekvalifikaciju ili usavršavanje radnika kako bi se bolje pripremili na socijalnu tranziciju koju donosi upotreba tehnologija umjetne inteligencije u audiovizualnom sektoru;

87. smatra da umjetna inteligencija ima golem potencijal u poticanju inovacija u sektoru informativnih medija; smatra da je široka integracija umjetne inteligencije, primjerice u svrhu proizvodnje i širenja sadržaja, praćenja komentara, upotrebe analiza podataka i prepoznavanja lažnih fotografija i videozapisa, ključna za smanjenje troškova informativnih medija u svjetlu smanjenja prihoda od oglašavanje kao i za izdvajanje više sredstava za izvještavanje s terena, čime se povećava kvaliteta i raznolikost sadržaja;

Dezinformiranje na internetu: uvjerljivo krivotvoreni sadržaji (deepfake uratci)

88. naglašava važnost osiguravanja medijskog pluralizma na internetu i izvan njega kako bi se zajamčila kvaliteta, raznolikost i pouzdanost dostupnih informacija;

89. podsjeća da su preciznost, neovisnost, pravednost, povjerljivost, ljudskost, odgovornost i transparentnost pokretačka snaga koja se nalazi u osnovi načela slobode izražavanja te pristupa informacijama u medijima na internetu i izvan njega bez kojih nije moguća borba protiv dezinformacija i pogrešnih informacija;

90. napominje da neovisni mediji imaju važnu ulogu u kulturi i svakodnevnom životu građana; naglašava da je dezinformiranje temeljni problem jer se autorska prava i prava intelektualnog vlasništva općenito sustavno krše; poziva Komisiju da u suradnji s državama članicama nastavi raditi na podizanju razine svijesti o tom problemu te suzbijanju učinaka dezinformiranja i temeljnih problema; nadalje, smatra da je važno razviti obrazovne strategije za poboljšanje digitalne pismenosti, posebno u tom pogledu;

91. podsjeća na to da otkrivanje lažnog i manipuliranog sadržaja, kao što su deepfake uratci može postati sve izazovnije zbog brze pojave novih tehnika i zbog toga što su zlonamjerni proizvođači u stanju stvarati sofisticirane algoritme koji se mogu uspješno osposobiti za izbjegavanje otkrivanja, što ima velike posljedice za naše temeljne demokratske vrijednosti; traži od Komisije da procijeni učinak umjetne inteligencije na stvaranje uvjerljivo krivotvorenog sadržaja, da uspostavi odgovarajuće pravne okvire za upravljanje njihovim stvaranjem, proizvodnjom ili distribucijom u zlonamjerne svrhe te da, među ostalim inicijativama, predloži preporuke za mjere protiv svih prijetnji slobodnim i poštenim izborima i demokraciji koje potiče umjetna inteligencija;

92. pozdravlja nedavne inicijative i projekte stvaranja učinkovitijih alata za otkrivanje deepfake uradaka i zahtjeva za transparentnost; u tom pogledu naglašava potrebu za istraživanjem i ulaganjem u metode za suzbijanje deepfake uradaka kao ključnog koraka u borbi protiv dezinformacija i štetnog sadržaja; smatra da rješenja koja se temelje na umjetnoj inteligenciji mogu biti od pomoći u tom kontekstu; stoga traži od Komisije da uvede obvezu prema kojoj uz sav deepfake sadržaj ili bilo koji drugi realno izrađen sintetički videozapis mora biti navedeno da taj materijal nije izvornik te se uporaba takvog sadržaja u izborne svrhe mora strogo ograničiti;

93. zabrinut je zbog toga što umjetna inteligencija sve više utječe na to kako se informacije pronalaze i upotrebljavaju na internetu; ističe da tzv. korisnički mjehuri stvoreni filtrima i komore jeke ograničavaju raznolikost mišljenja i negativno utječu na otvorenu društvenu raspravu; stoga poziva na to da način na koji operateri platformi upotrebljavaju algoritme za ispravljanje informacija bude transparentan i da se korisnicima pruži veća sloboda izbora u pogledu opsega u kojem žele primati informacije;

94. ističe da se tehnologije umjetne inteligencije već upotrebljavaju u novinarstvu, na primjer pri izradi tekstova ili analizi velikih skupova podataka u području istraživanja; naglašava da je pri proizvodnji informacija relevantnih za društvo u cjelini važno da se automatizirano novinarstvo referira na točne i potpune podatke kako bi se spriječile pogrešne informacije; naglašava da novinarski sadržaj koji se stvara korištenjem tehnologija umjetne inteligencije također mora podlijegati temeljnim načelima kvalitetnog novinarstva, kao što je urednička kontrola; poziva na to da se tekstovi stvoreni umjetnom inteligencijom označe kako bi se očuvalo povjerenje u novinarstvo;

95. ističe potencijal umjetne inteligencije u omogućavanju i poticanju višejezičnosti razvojem tehnologija povezanih s jezikom te omogućivanjem otkrivanja europskog internetskog sadržaja;

°

° °

96. nalaže svojem predsjedniku da ovu Rezoluciju proslijedi Vijeću i Komisiji.

 

OBRAZLOŽENJE

„Vjerujem da će se na kraju stoljeća upotreba riječi i općih stručnih mišljenja toliko izmijeniti da ćemo moći govoriti o strojevima koji razmišljaju i koji ne očekuju da im se proturječi“

 

Alan Turing, 1947.

 

 

Tijekom posljednjeg desetljeća umjetna inteligencija se promijenila te je potaknula i strah i uzbuđenje za čovječanstvo. Umjetna inteligencija, koja se smatra „novom strujom“, napredovala je do točke da će imati takav sustavni učinak koji bi mogao promijeniti sve aspekte društva u sljedećem stoljeću.

Iako je lako razumjeti moguće učinke umjetne inteligencije na sektore poput telekomunikacija, prometa, upravljanja prometom, zdravstva, procjena njezinih dugoročnih učinaka na obrazovanje, kulturu i audiovizualni sektor znatno je izazovnija. Iako postoji konsenzus da će umjetna inteligencija i automatizacija vjerojatno stvoriti više bogatstva i pojednostaviti široku lepezu procesa, upotreba umjetne inteligencije također je dovela do ozbiljne zabrinutosti da bi mogla uzrokovati povećanje nejednakosti, diskriminacije i nezaposlenosti.

 

Međutim, rijetko se raspravlja o mogućem učinku umjetne inteligencije na obrazovanje, kulturu i audiovizualni sektor koji je uglavnom je nepoznat. To pitanje je ipak od najveće važnosti, jer se umjetna inteligencija već koristi za podučavanje nastavnih planova i programa, kao i za stvaranje filmova, pjesama, priča i slika.

 

Svrha ovog izvješća je konkretno razumjeti kako umjetna inteligencija trenutno utječe na te sektore i kako će budući tehnološki napredak u području umjetne inteligencije na njih dalje utjecati tijekom sljedećeg desetljeća. Izvjestitelj posebno razmatra kako umjetna inteligencija može promijeniti te sektore i s kojim posebnim regulatornim izazovima se Unija u tom pogledu može suočiti.

 

 

(i) Umjetna inteligencija preoblikuje obrazovanje

 

Umjetna inteligencija iz temelja mijenja učenje, podučavanje i obrazovanje. Brzina tehnološkog razvoja ubrzava radikalnu transformaciju obrazovnih praksi, institucija i politika. Na tom polju umjetna inteligencija ima mnogo primjena, poput prilagodljivih pristupa učenju, nastavnika koji se temelje na umjetnoj inteligenciji, udžbenika i nastavnog materijala s prilagođenim sadržajem, pametnih algoritama za određivanje najboljih nastavnih metoda, mehanizama za igre koji se temelje na umjetnoj inteligenciji i prilagodljivih korisničkih modela u personaliziranim okruženjima za učenje koji mogu omogućiti rano prepoznavanje poteškoća, poput disleksije ili rizika ranog napuštanja školovanja.

 

Personalizirano iskustvo učenja temelj je korištenja umjetne inteligencije u obrazovanju. Omogućilo bi učenicima da uživaju u obrazovnom pristupu koji je u potpunosti prilagođen njihovim individualnim sposobnostima, potrebama i poteškoćama, a nastavnici bi mogli pažljivo pratiti napredak učenika. Međutim, da bi personalizirano obrazovanje postalo stvarnost, potrebno je prikupiti, koristiti i analizirati velike količine osobnih podataka.

 

Izvjestitelj u tom smislu naglašava da će trenutni nedostatak pristupa osobnim podacima o učenicima vjerojatno spriječiti uspješnu primjenu umjetne inteligencije u obrazovanju. Stoga je ključno osigurati sigurnost i transparentnost prikupljanja, upotrebe, upravljanja i širenja osobnih podataka, istovremeno čuvajući tajnost i privatnost osobnih podataka učenika. Nadalje, rješavanje opasnosti od moguće pristranosti umjetne inteligencije, kao i rješavanje problema pohrane podataka, trebali bi biti prioritet u svim inicijativama za široku primjenu umjetne inteligencije u obrazovnom sustavu na razini Unije.

 

Iako postoji mala vjerojatnost da će se nastavnici u skoroj budućnosti zamijeniti strojevima, sve veća upotreba umjetne inteligencije u obrazovanju podrazumijeva potrebu za cjelovitim preispitivanjem obrazovanja, kao i za promišljanje o ponovnom određivanju nastave, ulozi učitelja i, slijedom toga, naknadnom prekvalificiranju potrebnom za prilagodbu na obrazovni sustav temeljen na umjetnoj inteligenciji.

S obzirom na to da je manje od 40% nastavnika u Uniji pohađalo tečajeve o uključivanju IKT-a u učionicu tijekom svog inicijalnog obrazovanja učitelja i nastavnika, izvjestitelj želi naglasiti ključnu važnost osposobljavanja nastavnika kako bi stekli digitalne vještine kao preduvjet za upoznavanje s umjetnom inteligencijom. Tada bi mogli iskoristiti prednosti tehnologija umjetne inteligencije, ali bi i postali svjesni mogućih opasnosti umjetne inteligencije.

 

Ovo se pitanje može sagledati i šire, jer 42% stanovništva Unije i dalje nema osnovne digitalne vještine. Postoje i ozbiljne regionalne razlike u pristupu digitalnoj infrastrukturi i postizanju digitalnih vještina širom Unije.

 

Tehnološki trendovi u nastanku u vezi s digitalnom transformacijom, poput umjetne inteligencije, imaju snažan utjecaj u smislu vještina potrebnih za razvijanje digitalne ekonomije. Ideja cjeloživotnog učenja u umjetnoj inteligencija posebno se razvila kao jedna od ključnih strategija za sigurnost posla i zapošljavanje u digitalnom dobu.

 

Izvjestitelj predlaže da se građani obučavaju za stjecanje potrebnih digitalnih vještina, pažljivo procjenjujući koje su vještine povezane s umjetnom inteligencijom potrebne danas i u budućnosti te da se poduzimaju potrebne mjere za otklanjanje postojećih i novih nedostataka u vještinama.

 

Također je od ključne važnosti osigurati ispunjenje preduvjeta za primjenu i odgovarajuću upotrebu umjetne inteligencije u smislu pristupa internetu, povezanosti, mreža i infrastrukture.

 

 

 (ii) Umjetna inteligencija se može koristiti za zaštitu i promicanje kulturne baštine

 

Posljednjih godina umjetna inteligencija ima sve veću važnost za kulturnu baštinu, osobito u odgovoru na potencijalne moderne prijetnje, poput klimatskih promjena ili sukoba. U tom pogledu umjetna inteligencija može imati različite primjene: može se koristiti za poboljšanje korisničkog iskustva tako što će posjetiteljima kulturnih ustanova i muzeja omogućiti stvaranje osobnih pripovjedačkih staza ili uživanje u virtualnim vodičima. Razgovorni botovi mogli bi na interaktivan način komunicirati o kulturnoj baštini vezano za bilo koju temu i na bilo kojem jeziku. Također bi olakšali pristup informacijama, a korisnicima istovremeno pružili vjerno kulturno iskustvo.

 

Umjetna inteligencija bi također mogla olakšati razumijevanje povijesti Unije, kao što „Projekt vremenskog stroja“ nastoji stvoriti napredne tehnologije umjetne inteligencije kako bi se unio smisao u ogromne količine informacija iz složenih povijesnih skupova podataka pohranjenih u arhivima i muzejima. To omogućava pretvorbu fragmentiranih podataka u korisna znanja bilježenjem cjelokupne društvene, kulturne i zemljopisne evolucije Unije. To može olakšati istraživanje i poboljšati razumijevanje kulturnog, gospodarskog i povijesnog razvoja europskih gradova.

 

 

(iii) Umjetna inteligencija mijenja način na koji djeluju kulturne i kreativne industrije, posebno audiovizualni sektor

 

Upotreba umjetne inteligencije brzo se širi u medijima s mnogim primjenama:

 

- marketing i oglašavanje na temelju podataka, osposobljavanjem algoritama strojnog učenja za razvoj promotivnih filmova i dizajnerskih reklama,

 

- personalizacija korisničkog iskustva korištenjem strojnog učenja za preporučivanje personaliziranog sadržaja na temelju podataka o korisničkim aktivnostima i ponašanju,

 

- optimizacija pretraživanja pomoću umjetne inteligencije kako bi se poboljšala brzina i učinkovitost postupaka medijske proizvodnje i mogućnost organizacije vizualnih materijala,

 

- stvaranje sadržaja generiranjem videoisječaka iz automatskih video segmenata spremnih za emitiranje i posebnih efekata, poput ponovnog stvaranja mlađe verzije glumca u digitalnom obliku ili stvaranja novog sadržaja s pokojnim glumcem,

 

- pisanje scenarija poput jednostavnog stvaranja činjeničnog teksta (sportski izvještaji i vijesti koje proizvode roboti), ali i za pisanje izmišljenih priča, poput eksperimentalnog kratkog filma „Sunspring“,

 

- interakcija gledatelja sa složenim pričama, poput posljednje epizode britanske serije „Black Mirror“, „Bandersnatch“,

 

- automatizirani titlovi i podnaslovi, takvi postupci pretvorbe zvuka u tekst, za gledatelje s invaliditetom

 

- automatizirano moderiranje audiovizualnog sadržaja.

 

 

Iako umjetna inteligencija nudi širok spektar mogućnosti za proizvodnju visokokvalitetnih kulturnih i kreativnih sadržaja, centralizirana distribucija i pristup takvim sadržajima postavlja brojna etička i pravna pitanja, posebice o zaštiti podataka, slobodi izražavanja i kulturnoj raznolikosti.

 

Kulturna i stvaralačka djela, prije svega audiovizualna, uglavnom se distribuiraju putem

velikih centraliziranih platformi, što uvjetuje konzumaciju medija koju diktiraju algoritmi koje su razvile i posjeduju ih te platforme.

 

Izvjestitelj ističe da personalizirane preporuke na temelju algoritama potencijalno štete kulturnoj i jezičnoj raznolikosti, jer sprečavaju  prikazivanje nedovoljno zastupljenog kulturnog i kreativnog sadržaja u prijedlozima tih sustava. Kriteriji koji se koriste za odabir ili preporuku uradaka na najvećim platformama nisu transparentni niti se mogu ispitati, a vjerojatno se o njima odlučuje na temelju ekonomskih čimbenika od kojih koristi imaju jedino te platforme.

 

Pitanje kulturne i jezične raznolikosti u sustavima preporuka je stoga ključno i mora se riješiti. Izvjestitelj naglašava potrebu za uspostavom jasnog zakonskog okvira za transparentne, odgovorne i uključive algoritme kako bi se zaštitila i promicala kulturna i jezična raznolikost.

 

Regulatorni izazovi koje uzrokuje primjena umjetne inteligencije u audiovizualnom sektoru također su povezani s postojećim zakonskim aktima, poput  Direktive o audiovizualnim medijskim uslugama. Stoga bi mogla biti potrebna detaljnija procjena hitnosti i/ili političkog zamaha za buduće prilagodbe tih dokumenata umjetnoj inteligenciji.

 

Iako umjetna inteligencija može pomoći u osnaživanju mnogih stvaratelja, poboljšavajući kulturni i kreativni sektor i povećavajući kulturnu raznolikost, velika većina umjetnika i poduzetnika možda još uvijek nije upoznata s alatima umjetne inteligencije.

 

Stvarateljima nedostaje tehničkog znanja koje ih sprječava da eksperimentiraju sa strojnim učenjem i iskoriste prednosti koje ono donosi. Stoga je ključno procijeniti koje će vještine biti potrebne u bliskoj budućnosti, istodobno poboljšavajući sustave osposobljavanja, uključujući usavršavanje i prekvalifikaciju, jamčeći cjeloživotno učenje tijekom cijelog radnog vijeka kao i kasnije.

 

U tom kontekstu, izvjestitelj predlaže osnivanje promatračke skupine za umjetnu inteligenciju s ciljem usklađivanja i olakšavanja praćenja novih razvoja događaja u području umjetne inteligencije na temelju dokaza kako bi se riješilo pitanje ispitivanja i odgovornosti primjena umjetne inteligencije u kulturnom i kreativnom sektoru.

 

 

(v) Borba protiv lažnih vijesti

 

Tehnologije umjetne inteligencije sve se više koriste za širenje lažnih vijesti, posebice upotrebom deepfake uradaka.

Deepfake uradci su sintetičke slike ili videozapisi koje stvara umjetna inteligencija pomoću „strojeva za duboko učenje“ i generativnih suparničkih mreža (GAN). Ljudi ne mogu razlikovati deepfake uratke od autentičnog sadržaja. Deepfake uratci se mogu koristiti za sve vrste prevara, najčešće za „zamjene lica“, od bezopasnih satira i filmskih prevara do zlonamjernih prijevara, ciljanog uznemiravanja, deepfake pornografskih filmova ili novčanih prijevare. Deepfake uratci su opasni jer dovode do toga da ljudi vjeruju da je nešto stvarno iako to nije, pa se stoga mogu koristiti kao posebno snažno i moćno oružje za dezinformiranje na internetu koje se poput virusa šire platformama i društvenim medijima, i tako mogu utjecati na javno mnijenje, postupke glasovanja i rezultate izbora.

 

Iako se umjetna inteligencija često izdvaja zbog njezine uloge u širenju lažnih vijesti, također bi mogla igrati značajnu ulogu u suzbijanju i borbi protiv lažnih vijesti i dezinformacija, o čemu svjedoče projekti poput „Fake News Challenge”. Sustavi umjetne inteligencije mogu pute obrnutog inženjeringa identificirati lažne vijesti koje je stvorila umjetna inteligencija i pomoći u pronalaženju manipuliranog sadržaja. Međutim, algoritmi koji stvaraju deepfake uratke postaju sve usavršeniji te ih postaje sve teže prepoznati.

 

Izvjestitelj zato naglašava potrebu borbe protiv zloupotrebe umjetne inteligencije u širenju lažnih vijesti i dezinformacija putem interneta, posebno istraživanjem načina za učinkovito otkrivanje deepfake uradaka.

MIŠLJENJE ODBORA ZA GRAĐANSKE SLOBODE, PRAVOSUĐE I UNUTARNJE POSLOVE (16.7.2020)

upućeno Odboru za kulturu i obrazovanje

o umjetnoj inteligenciji u obrazovnom, kulturnom i audiovizualnom sektoru

(2020/2017(INI))

Izvjestitelj za mišljenje (*): Ondřej Kovařík

(*) Pridruženi odbor – članak 57. Poslovnika

 

PRIJEDLOZI

Odbor za građanske slobode, pravosuđe i unutarnje poslove poziva Odbor za kulturu i obrazovanje da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

1. ističe da se pri upotrebi umjetne inteligencije u obrazovnom, kulturnom i audiovizualnom sektoru mora u cijelosti poštovati temeljna prava, slobode i vrijednosti, uključujući privatnost, zaštitu osobnih podataka, nediskriminaciju te slobodu izražavanja i informiranja, sadržane u Ugovorima EU-a i Povelji Europske unije o temeljnim pravima; u tom pogledu pozdravlja Bijelu knjigu Komisije o umjetnoj inteligenciji i poziva Komisiju da obrazovni sektor, tj. samo ona njegova područja koja predstavljaju znatan rizik, uvrsti u budući regulatorni okvir za visokorizičnu primjenu umjetne inteligencije;

2. podsjeća da umjetna inteligencija može dovesti do pristranosti, a time i do raznih oblika diskriminacije na temelju spola, rase, boje kože, etničkog ili socijalnog podrijetla, genetskih osobina, jezika, vjere ili uvjerenja, političkog ili bilo kakvog drugog mišljenja, pripadnosti nacionalnoj manjini, imovine, rođenja, invaliditeta, dobi ili spolne orijentacije; u tom pogledu podsjeća da se svima moraju zajamčiti prava i da inicijative u području umjetne inteligencije ne smiju dovesti do bilo kakvog oblika diskriminacije;

3. ističe da ta pristranost i diskriminacija mogu proizaći iz skupova podataka koji su već pristrani, odražavajući postojeću diskriminaciju u društvu; naglašava da se u području umjetne inteligencije mora izbjeći pristranost koja dovodi do zabranjene diskriminacije te da umjetna inteligencija ne smije dovesti do postupaka diskriminacije; ističe da je pri osmišljavanju tehnologija u kojima se koristi umjetna inteligencija potrebno uzeti u obzir te rizike i da je važno surađivati s pružateljima tehnologije umjetne inteligencije kako bi se riješili trajni nedostaci koji omogućuju diskriminaciju te preporučuje da se u timovima za osmišljavanje i razvoj umjetne inteligencije odražava raznolikost društva;

4. napominje da upotreba umjetne inteligencije u obrazovanju donosi širok raspon mogućnosti i prilika, primjerice za olakšavanje pristupa informacijama, poboljšanje metoda istraživanja ili razumijevanje načina na koji učenici uče i kako bi im se ponudile prilagođene usluge, ali istodobno donosi rizike u pogledu jednakog pristupa obrazovanju i učenju u sve mlađoj dobi te za ranjive i povijesno zapostavljene skupine; poziva na uspostavu dostatne infrastrukture za razmjenu podataka između aplikacija koje koriste umjetnu inteligenciju i subjekata za javna istraživanja; ističe da su jednakost i uključenost temeljne vrijednosti koje je potrebno na odgovarajući način uzeti u obzir pri osmišljavanju politika koje se odnose na umjetnu inteligenciju u obrazovanju; poziva na nediskriminacijsku upotrebu umjetne inteligencije u obrazovnom sektoru; podsjeća na rizike i diskriminaciju koji mogu proizaći iz nedavno razvijenih alata umjetne inteligencije koji se koriste u svrhe prijma u škole te poziva da se što prije isprave; ističe potrebu za ispravnom procjenom alata umjetne inteligencije koji se upotrebljavaju u obrazovnom sektoru kako bi se utvrdio njihov učinak na prava djece;

5. priznaje da upotreba digitalnih tehnologija i tehnologija umjetne inteligencije može doprinijeti razvoju sve djelotvornijih obrazovnih alata i uključivijem društvu, i to borbom protiv tradicionalnih oblika diskriminacije, uključujući nedostatak pristupa uslugama, tako što će se obrazovati zajednice u nepovoljnom položaju, u skladu s Aktom EU-a o pristupačnosti, kao i ostale kategorije europskih građana koji nemaju odgovarajući pristup obrazovanju, i pružiti pristup odgovarajućim mogućnostima učenja;

6. naglašava da bi koristi od umjetne inteligencije trebali imati svi dijelovi društva, bez iznimke; naglašava potrebu da se u potpunosti uzmu u obzir posebne potrebe najranjivijih skupina, kao što su djeca, osobe s invaliditetom, starije osobe i druge skupine kojima prijeti isključenost; izražava zabrinutost u pogledu ograničenog pristupa internetu u nekim regijama u EU-u te poziva Komisiju i države članice da ulažu sustavne napore u poboljšanje telekomunikacijskih infrastruktura;

7. prepoznaje mogućnosti umjetne inteligencije u kulturnom sektoru u pogledu razvoja glazbe, umjetnosti i drugih kulturnih izričaja; naglašava da je sloboda izražavanja važna sloboda i vrijednost te da raznoliki kulturni krajolik ima veliku vrijednost za društvo; poziva Komisiju da pri izradi prijedloga o umjetnoj inteligenciji vodi računa o tim vrijednostima;

8. pozdravlja plan Komisije za ažuriranje Akcijskog plana za digitalno obrazovanje kako bi postao ambiciozniji i u većoj mjeri integriran u cilju bolje prilagodbe obrazovnih sustava digitalnom dobu, i to ponajprije boljim iskorištavanjem podatkovnih tehnologija i tehnologija temeljenih na umjetnoj inteligenciji; poziva sve dionike, javne i privatne, da usko surađuju pri provedbi tih obrazovnih reformi;

9. naglašava potrebu za većom razinom osviještenosti šire javnosti u pogledu umjetne inteligencije na svim razinama, što je ključna sastavnica za donošenje informiranih odluka javnosti i jačanje otpornosti naših društava; ističe da to mora obuhvaćati i osviještenost javnosti o rizicima u pogledu privatnosti i pristranosti u vezi s umjetnom inteligencijom; poziva Komisiju i države članice da navedene sastavnice uvrste u obrazovne programe i programe kojima se podupire umjetnost;

10. ističe hitnu potrebu za obrazovanjem javnosti na svim razinama o upotrebi umjetne inteligencije i stjecanjem osnovnih digitalnih vještina koje će svim europskim građanima, uključujući ranjive skupine, omogućiti jednake socijalne i ekonomske prilike, te potrebu za visokokvalitetnim programima u području IKT-a u obrazovnim sustavima na svim razinama; poziva na to da se digitalni jaz među spolovima ne podcjenjuje i da se poduzmu mjere za njegovo uklanjanje; pozdravlja nadolazeće ažuriranje Programa vještina kako bi svi imali koristi od digitalne transformacije EU-a; naglašava da je važno nastavnike i edukatore, posebno one koji podučavaju maloljetne učenike, osposobiti za uporabu umjetne inteligencije; napominje da u digitalnom i tehnološkom sektoru i dalje postoji znatan nedostatak vještina; ističe važnost diversifikacije tog sektora i poticanja studenata, osobito žena i djevojčica, da se, uz predmete koji ih zanimaju radi ostvarenja karijere, upisuju na kolegije u područjima povezanima sa znanošću, tehnologijom, inženjerstvom i matematikom (STEM), osobito predmete povezane s robotikom i umjetnom inteligencijom; poziva na veću dodjelu financijskih i znanstvenih sredstava kako bi se kvalificirane osobe motiviralo da ostanu u EU-u i kako bi se privuklo kvalificirane osobe iz inozemstva; nadalje napominje da postoji znatan broj novoosnovanih poduzeća koja se bave umjetnom inteligencijom i razvijaju tehnologije umjetne inteligencije; naglašava da će malim i srednjim poduzećima (MSP-ovi) biti potrebna dodatna potpora i osposobljavanje u pogledu umjetne inteligencije kako bi postupala u skladu s propisima u digitalnom području i području umjetne inteligencije;

11. podsjeća na to da umjetna inteligencija može posebno utjecati na zaštitu podataka i privatnost; ističe načela utvrđena Uredbom (EU) 2016/679 Europskog parlamenta i Vijeća (Opća uredba o zaštiti podataka)[18] kao obvezujuća načela za uvođenje umjetne inteligencije; podsjeća na to da sve aplikacije koje koriste umjetnu inteligenciju moraju biti potpuno u skladu s pravom Unije o zaštiti podataka, odnosno s Općom uredbom o zaštiti podataka i Direktivom (EZ) 2002/58/EZ Europskog parlamenta i Vijeća (Direktiva o e-privatnosti)[19] (koja je trenutačno u postupku revidiranja);

12. podsjeća da su djeca ranjiva skupina koja zaslužuje posebnu pozornost i zaštitu; podsjeća da automatizirane odluke o fizičkim osobama koje se temelje na profiliranju, ako dovode do pravnih ili sličnih učinaka, moraju biti strogo ograničene i uvijek zahtijevaju pravo na ljudsku intervenciju i objašnjivost u skladu s Općom uredbom o zaštiti podataka; naglašava da bi se toga trebalo strogo pridržavati, posebno u obrazovnom sustavu u kojem se donose odluke o budućim mogućnostima i prilikama; primjećuje da je u nekim državama članicama nekoliko privatnih poduzeća zauzelo vodeći položaj u sektoru obrazovne tehnologije (EdTech) i smatra da bi to trebalo ispitati u skladu s pravilima EU-a o tržišnom natjecanju; izričito podsjeća na to da su podaci o maloljetnicima strogo zaštićeni Općom uredbom o zaštiti podataka i da se podaci o djeci mogu obrađivati samo ako su u cijelosti anonimizirani ili ako je nositelj roditeljske odgovornosti za dijete dao privolu ili odobrenje; stoga poziva na bolju zaštitu i zaštitne mjere u obrazovnom sektoru kad je riječ o podacima o djeci; poziva na to da se djeci i njihovim roditeljima pružaju jasne informacije o mogućoj upotrebi i obradi podataka o djeci, uključujući u okviru kampanja za podizanje razine osviještenosti i informativnih kampanja;

13. ističe specifične rizike pri upotrebi automatiziranih aplikacija za prepoznavanje u kojima se koristi umjetna inteligencija i koje se trenutačno brzo razvijaju; podsjeća na to da su djeca osobito ranjiva skupina; preporučuje da Komisija i države članice zabrane automatiziranu biometrijsku identifikaciju u obrazovnim i kulturnim ustanovama, kao što je prepoznavanje lica u obrazovne i kulturne svrhe, osim ako njezina upotreba nije dopuštena zakonom;

14. poziva Komisiju i države članice da uvedu obvezu transparentnosti i objašnjivosti automatiziranih pojedinačnih odluka koje se temelje na umjetnoj inteligenciji i donose u okviru ovlasti javnih tijela te da uvedu kazne u vezi s provedbom tih obveza; poziva na provedbu sustava u kojima se prema zadanim postavkama upotrebljavaju provjere i intervencije koje obavlja čovjek, na provedbu zakonitog postupanja, uključujući pravo na žalbu, te na pristup pravnim lijekovima; podsjeća da automatizirane odluke o fizičkim osobama koje se temelje na profiliranju, ako dovode do pravnih ili sličnih učinaka, moraju biti strogo ograničene i uvijek zahtijevaju pravo na ljudsku intervenciju i objašnjivost u skladu s Općom uredbom o zaštiti podataka;

15. poziva na redovitu provedbu neovisnih revizija kako bi se ispitalo jesu li korištene aplikacije u kojima se koristi umjetna inteligencija i sustav provjera i ravnoteže u skladu s utvrđenim kriterijima te nadzire li ih dostatno neovisno nadzorno tijelo; poziva na uvođenje posebnih testiranja otpornosti na stres kako bi se olakšalo i zajamčilo poštovanje sukladnosti;

16. ističe da umjetna inteligencija može imati važnu ulogu u brzom širenju dezinformacija; stoga poziva Komisiju da procijeni rizike od toga da se umjetnom inteligencijom potpomaže širenje dezinformacija u digitalnom okružju i da, među ostalim, iznese preporuke za djelovanje protiv svih prijetnji utemeljenih na umjetnoj inteligenciji za slobodne i poštene izbore i demokraciju; primjećuje da se uvjerljiv krivotvoreni sadržaj (engl. deep fakes) može upotrijebiti i za manipuliranje izborima, širenje dezinformacija i druge nepoželjne radnje; nadalje napominje da se imerzivna iskustva, koja omogućuje umjetna inteligencija, mogu zlorabiti; poziva Komisiju da iznese preporuke, uključujući moguća ograničenja u tom pogledu, radi odgovarajuće zaštite od upotrebe tih tehnologija u nezakonite svrhe; poziva i na procjenu načina na koji se umjetna inteligencija može iskoristiti za borbu protiv dezinformacija; poziva Komisiju da zajamči da budući regulatorni okvir ne dovodi do cenzure pojedinačnih sadržaja koje učitavaju korisnici; podsjeća na to da su kritičko razmišljanje i sposobnost vješte i samosvjesne interakcije u internetskom okruženju potrebni više nego ikada prije;

17. napominje da se umjetna inteligencija često koristi za algoritme za automatizirano donošenje odluka radi širenja i organiziranja sadržaja koji se prikazuje korisnicima; naglašava da ti algoritmi za korisnike predstavljaju „crnu kutiju”; poziva Komisiju da razmotri načine optimizacije algoritama moderiranja sadržaja kako bi se uključili njihovi korisnici; poziva Komisiju i da izda preporuke u pogledu povećanja kontrole korisnika nad sadržajem koji vide i da od aplikacija koje koriste umjetnu inteligenciju i internetskih platformi zatraži da korisnicima ponude mogućnost odabira sadržaja koji se prikazuje neutralnim redoslijedom kako bi u većoj mjeri kontrolirali način na koji je sadržaj poredan, uključujući mogućnosti za rangiranje izvan uobičajenog sadržaja povezanog s potrošačkim navikama i potpunog izuzeća od bilo kakvog priređivanja sadržaja;

18. prima na znanje mogući negativan učinak personaliziranog oglašavanja, a posebice mikrociljanog i bihevioralnog oglašavanja i procjene pojedinaca, posebno na maloljetnike i bez njihova pristanka, uplitanjem u privatni život pojedinaca, postavljanjem pitanja kako bi se prikupili i koristili podaci koji se upotrebljavaju za personaliziranje oglašavanja, ponudom proizvoda i usluga ili utvrđivanjem cijena; stoga poziva Komisiju da uvede stroga ograničenja u pogledu ciljanog oglašavanja na temelju prikupljanja osobnih podataka, počevši s uvođenjem zabrane bihevioralnog oglašavanja na više platformi, a da se pritom ne ugrožavaju MSP-ovi; podsjeća na to da se Direktivom o e-privatnosti trenutačno dopušta samo ciljano oglašavanje podložno pristanku, u suprotnome je nezakonito; poziva Komisiju da zabrani upotrebu diskriminirajućih praksi u pogledu pružanja usluga ili proizvoda;

19. ističe da je ono što je nezakonito izvan interneta nezakonito i na internetu; napominje da se alatima umjetne inteligencije može suzbijati nezakoniti sadržaj na internetu i da se to već čini, ali izričito podsjeća, prije donošenja Akta o digitalnim uslugama koji se očekuje krajem ove godine, da pri upotrebi tih alata uvijek treba poštovati temeljna prava, posebno slobodu izražavanja i informiranja, te da oni ne bi trebali dovesti do obveze općeg nadzora nad internetom ili uklanjanja zakonitog materijala koji je namijenjen u obrazovne, novinarske, umjetničke ili istraživačke svrhe; naglašava da bi se algoritmi trebali upotrebljavati samo kao mehanizam označavanja (flagiranja) u moderiranju sadržaja, uz ljudsku intervenciju, s obzirom na to da umjetna inteligencija ne može pouzdano razlikovati zakoniti od nezakonitog i štetnog sadržaja; napominje da bi ti uvjeti uvijek trebali uključivati smjernice zajednice, kao i žalbeni postupak;

20. prima na znanje koristi i rizike umjetne inteligencije u pogledu kibersigurnosti i njezina potencijala za borbu protiv kibernetičkog kriminala te ističe potrebu da sva rješenja povezana s umjetnom inteligencijom budu otporna na kibernapade te da se istodobno poštuju temeljna prava EU-a, osobito zaštita osobnih podataka i privatnosti; naglašava važnost praćenja sigurne upotrebe umjetne inteligencije i potrebe za tijesnom suradnjom javnog i privatnog sektora radi suzbijanja ranjivosti korisnika i opasnosti koje nastaju u vezi s tim; poziva Komisiju da ocijeni potrebu za boljom prevencijom u pogledu kibersigurnosti te mjerama za smanjenje rizika u tom pogledu;

21. naglašava da su digitalna infrastruktura i pokrivenost internetom sljedeće generacije od strateške važnosti za pružanje obrazovanja europskim građanima koje se temelji na umjetnoj inteligenciji; u svjetlu krize COVID-19, poziva Komisiju da razradi strategiju za europsku mrežu 5G kojom bi se osigurala strateška otpornost Europe i koja ne ovisi o tehnologiji iz država koje ne dijele naše vrijednosti;

22. poziva Komisiju i države članice da podrže upotrebu umjetne inteligencije u području digitalizirane kulturne baštine.

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	16.7.2020
Rezultat konačnog glasovanja	+: –: 0:	59 7 1
Zastupnici nazočni na konačnom glasovanju	Magdalena Adamowicz, Konstantinos Arvanitis, Katarina Barley, Pietro Bartolo, Nicolas Bay, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Saskia Bricmont, Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Damien Carême, Caterina Chinnici, Clare Daly, Marcel de Graaff, Lena Düpont, Laura Ferrara, Nicolaus Fest, Jean-Paul Garraud, Sylvie Guillaume, Andrzej Halicki, Balázs Hidvéghi, Evin Incir, Sophia in ‘t Veld, Patryk Jaki, Lívia Járóka, Fabienne Keller, Peter Kofod, Moritz Körner, Juan Fernando López Aguilar, Nuno Melo, Roberta Metsola, Nadine Morano, Javier Moreno Sánchez, Maite Pagazaurtundúa, Nicola Procaccini, Emil Radev, Paulo Rangel, Terry Reintke, Diana Riba i Giner, Ralf Seekatz, Michal Šimečka, Martin Sonneborn, Sylwia Spurek, Tineke Strik, Ramona Strugariu, Annalisa Tardino, Tomas Tobé, Milan Uhrík, Tom Vandendriessche, Bettina Vollath, Jadwiga Wiśniewska, Elena Yoncheva, Javier Zarzalejos
Zamjenici nazočni na konačnom glasovanju	Abir Al-Sahlani, Bartosz Arłukowicz, Malin Björk, Delara Burkhardt, Gwendoline Delbos-Corfield, Nathalie Loiseau, Erik Marquardt, Sira Rego, Domènec Ruiz Devesa, Paul Tang, Hilde Vautmans, Tomáš Zdechovský
Zamjenici nazočni na konačnom glasovanju prema čl. 209. st. 7.	Sven Mikser

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

59	+
PPE	Magdalena Adamowicz, Bartosz Arłukowicz, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Lena Düpont, Andrzej Halicki, Balázs Hidvéghi, Lívia Járóka, Nuno Melo, Roberta Metsola, Nadine Morano, Emil Radev, Paulo Rangel, Ralf Seekatz, Tomas Tobé, Tomáš Zdechovský
S&D	Katarina Barley, Pietro Bartolo, Delara Burkhardt, Caterina Chinnici, Sylvie Guillaume, Evin Incir, Juan Fernando López Aguilar, Sven Mikser, Javier Moreno Sánchez, Domènec Ruiz Devesa, Sylwia Spurek, Paul Tang, Bettina Vollath, Elena Yoncheva
Renew	Abir Al-Sahlani, Sophia in 't Veld Fabienne Keller, Moritz Körner, Nathalie Loiseau, Maite Pagazaurtundúa, Michal Šimečka, Ramona Strugariu, Hilde Vautmans
Verts/ALE	Saskia Bricmont, Damien Carême, Gwendoline Delbos-Corfield, Erik Marquardt, Terry Reintke, Diana Riba i Giner, Tineke Strik
ECR	Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Patryk Jaki, Nicola Procaccini, Jadwiga Wiśniewska
GUE/NGL	Konstantinos Arvanitis, Malin Björk, Clare Daly, Sira Rego
Nezavisni zastupnici	Laura Ferrara, Martin Sonneborn, Milan Uhrík

 

7	–
PPE	Javier Zarzalejos
ID	Nicolas Bay, Nicolaus Fest, Jean-Paul Garraud, Marcel de Graaff, Peter Kofod, Tom Vandendriessche

 

1	0
ID	Annalisa Tardino

 

Korišteni znakovi:

+ : za

– : protiv

0 : suzdržani

 

 

 

MIŠLJENJE ODBORA ZA UNUTARNJE TRŽIŠTE I ZAŠTITU POTROŠAČA (6.7.2020)

upućeno Odboru za kulturu i obrazovanje

o umjetnoj inteligenciji u obrazovnom, kulturnom i audiovizualnom sektoru

(2020/2017(INI))

Izvjestiteljica za mišljenje: Kim Van Sparrentak

 

PRIJEDLOZI

Odbor za unutarnje tržište i zaštitu potrošača poziva Odbor za kulturu i obrazovanje da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uključi sljedeće prijedloge:

A. budući da umjetna inteligencija (UI) ima potencijal ponuditi rješenja za svakodnevne izazove u obrazovnom sektoru, kao što su personalizacija učenja, praćenje poteškoća u učenju i automatizacija sadržaja/znanja specifičnih za određeni predmet, bolje stručno osposobljavanje i podupiranje prelaska na digitalno društvo;

B. budući da bi umjetna inteligencija mogla imati praktičnu primjenu u pogledu smanjenja administrativnog rada edukatora i obrazovnih ustanova, čime bi se moglo osloboditi vrijeme za njihove osnovne nastavne aktivnosti i aktivnosti učenja;

C. budući da primjena umjetne inteligencije u obrazovanju izaziva zabrinutost u pogledu etičke upotrebe podataka, prava učenika, pristupa podacima i zaštite osobnih podataka te stoga nosi rizike u pogledu temeljnih prava, kao što je stvaranje stereotipnih modela profila i ponašanja učenika, koji bi mogli dovesti do diskriminacije ili do rizika od nanošenja štete širenjem loših pedagoških praksi;

D. budući da su vrste primjene umjetne inteligencije sveprisutne u audiovizualnom sektoru, posebno na platformama za audiovizualne sadržaje;

1. uviđa da je Komisija predložila da se podupire javna nabava u pametnim digitalnim uslugama kako bi se javna tijela potaknula na to da u područjima od javnog interesa i javnom sektoru brzo počnu s korištenjem proizvoda i usluga koji se temelje na umjetnoj inteligenciji; ističe važnost javnih ulaganja u te usluge i komplementarnu dodanu vrijednost koju pružaju javno-privatna partnerstva kako bi se osiguralo ostvarivanje tog cilja i iskoristio puni potencijal umjetne inteligencije u obrazovnom, kulturnom i audiovizualnom sektoru; naglašava da bi u obrazovnom sektoru u razvoj i uvođenje umjetne inteligencije trebalo uključiti sve koji sudjeluju u obrazovnom procesu i šire društvo te da bi trebalo u obzir uzeti njihove potrebe i očekivanu korist, posebno u pogledu najranjivijih skupina i skupina u nepovoljnom položaju, kako bi se postigla svrsishodna i etička upotreba umjetne inteligencije kojom se postižu stvarna poboljšanja za sve u pitanju; smatra da bi proizvode i usluge koji se razvijaju javnim sredstvima trebalo objavljivati u okviru dozvola otvorenog koda potpuno u skladu s primjenjivim zakonodavstvom, uključujući Direktivu (EU) 2019/790 Europskog parlamenta i Vijeća od 17. travnja 2019. o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu; ističe važnost uvođenja tih proizvoda za prekvalifikaciju i usavršavanje europskog tržišta rada, a posebno u kulturnom i audiovizualnom sektoru, na koje će kriza povezana s bolešću COVID-19 snažno utjecati;

2. uviđa da su djeca posebno ranjiva skupina u pogledu utjecaja na ponašanje; naglašava da iako umjetna inteligencija može biti koristan alat za njihovo obrazovanje, potrebno je uzeti u obzir tehnološke, regulatorne i društvene aspekte uvođenja umjetne inteligencije u obrazovanje, uz odgovarajuću zaštitu i antropocentričan pristup kojim se osigurava da ljudi u konačnici uvijek mogu kontrolirati i ispraviti odluke sustava; ističe potrebu za revizijom i ažuriranjem relevantnih sektorskih propisa; ističe da bi se u tom pogledu pravnim okvirom kojim se uređuje primjena umjetne inteligencije u obrazovnom sektoru naročito trebale pružiti pravno obvezujuće mjere i standardi radi sprečavanja praksi kojima bi se narušila temeljna ljudska prava i slobode te osigurati razvoj pouzdanih, etičkih i tehnički sveobuhvatnih aplikacija umjetne inteligencije, uključujući integrirane digitalne alate, usluge i proizvode kao što su robotika i strojno učenje;

3. primjećuje potencijal proizvoda koji se temelje na umjetnoj inteligenciji u području obrazovanja, posebno u pogledu osiguravanja dostupnosti visokokvalitetnog obrazovanja svim studentima u EU-u; ističe potrebu da vlade i obrazovne ustanove preispitaju i prerade obrazovne programe uz veći naglasak na područja znanosti, tehnologije, inženjerstva, umjetnosti i matematike (STEAM) kako bi se učenici i potrošači pripremili za sve veću prisutnost umjetne inteligencije te kako bi se olakšalo stjecanje kognitivnih vještina; ističe potrebu za poboljšanjem digitalnih vještina onih koji sudjeluju u obrazovnom procesu i šireg društva, istodobno uzimajući u obzir ciljeve programa „Europa spremna za digitalno doba”;

4. ističe da algoritamski sustavi mogu potaknuti brže smanjenje digitalnog jaza, no njihovim neravnomjernim uvođenjem riskira se stvaranje novih razlika ili ubrzavanje produbljenja postojećih; izražava zabrinutost zbog neusklađenosti razvoja znanja i infrastrukture diljem EU-a, čime se ograničava pristup proizvodima i uslugama koji se temelje na umjetnoj inteligenciji, posebno u slabo naseljenim i socioekonomski ugroženim područjima; poziva Komisiju da osigura koheziju u dijeljenju koristi od umjetne inteligencije i s njom povezanih tehnologija;

5. poziva Komisiju da uzme u obzir da je obrazovanje sektor u kojem postoji vjerojatnost da će nastati znatni rizici od određenih vrsta upotrebe aplikacija umjetne inteligencije, što bi moglo ugroziti temeljna prava i dovesti do visokih troškova u pogledu ljudskih resursa i socijalnih pitanja, te pri procjeni vrsta ili primjena aplikacija umjetne inteligencije koje bi bile obuhvaćene regulatornim okvirom za visokorizične aplikacije umjetne inteligencije, s obzirom na to da je važno osigurati da ono i dalje pridonosi javnom dobru i s obzirom na visoku osjetljivost podataka o učenicima, studentima i drugim polaznicima obrazovanja; poziva Komisiju da u regulatorni okvir za visokorizične aplikacije umjetne inteligencije uključi upotrebu određenih aplikacija umjetne inteligencije u obrazovnom sektoru kao što su one koje podliježu sustavu certifikacije ili sadrže osjetljive osobne podatke; naglašava da bi se skupovi podataka koji se upotrebljavaju za obučavanje umjetne inteligencije i izlazni podaci trebali pregledavati kako bi se izbjegle sve vrste stereotipa, diskriminacije i predrasuda te da bi se, po potrebi, umjetna inteligencija trebala iskoristiti za identificiranje i ispravljanje ljudskih predrasuda; ističe da su stoga potrebne odgovarajuće procjene sukladnosti kako bi se provjerilo i osiguralo da se poštuju sve odredbe o visokorizičnim aplikacijama, uključujući zahtjeve u pogledu testiranja, inspekcije i certificiranja; naglašava važnost osiguravanja integriteta i kvalitete podataka;

6. pozdravlja napore Komisije u pogledu uključivanja digitalnih vještina kao dio kvalifikacijskih zahtjeva za određene profesije usklađene na razini EU-a u okviru Direktive o stručnim kvalifikacijama; ističe potrebu za osiguravanjem uzajamnog priznavanja stručnih kvalifikacija u području vještina povezanih s umjetnom inteligencijom diljem EU-a s obzirom na to da nekoliko država članica poboljšava svoju obrazovnu ponudu u pogledu tih vještina i uvodi posebne kurikulume za programere umjetne inteligencije; naglašava potrebu za time da oni budu u skladu s popisom za procjenu Etičkih smjernica za pouzdanu umjetnu inteligenciju i pozdravlja prijedlog Komisije da taj popis postane indikativan kurikulum za programere umjetne inteligencije; ističe važnost osposobljavanja visokokvalificiranih stručnjaka u tom području, pri čemu će se u kurikulume uključiti etički aspekti, te važnost pružanja potpore nedovoljno zastupljenim skupinama u tom području, kao i stvaranja poticaja za te stručnjake kako bi tražili posao unutar EU-a;

7. prima na znanje da škole i ostali pružatelji usluga javnog obrazovanja sve više koriste usluge obrazovne tehnologije, uključujući aplikacije umjetne inteligencije; izražava zabrinutost zbog toga što te tehnologije trenutačno nudi svega nekoliko tehnoloških kompanija; naglašava da to može dovesti do nejednakog pristupa podacima i ograničiti tržišno natjecanje tako što se dominira tržištem i potrošačima ograničava izbor; potiče javna tijela javne da zauzmu inovativan pristup u pogledu javne nabave kako bi se proširio spektar ponude javnim obrazovnim ustanovama diljem Europe; u tom pogledu ističe da je važno poduprijeti uvođenje umjetne inteligencije u mala i srednja poduzeća u obrazovnom, kulturnom i audiovizualnom sektoru prikladnim poticajima kojima se stvaraju jednaki uvjeti za sve; u tom kontekstu poziva na ulaganje u europska IT poduzeća u svrhu razvoja potrebnih tehnologija unutar EU-a; smatra da bi se tehnologije kojima se koriste pružatelji javnog obrazovanja ili koje se kupuju javnim novcem trebale temeljiti na tehnologiji otvorenog koda kad je to moguće, pridržavajući se pritom u potpunosti primjenjivog zakonodavstva, uključujući Direktivu (EU) 2019/790 Europskog parlamenta i Vijeća od 17. travnja 2019. o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu;

8. poziva da podaci koje koristi umjetna inteligencija u obrazovnom sektoru budu dostupni, interoperabilni i visokokvalitetni te da se dijele s relevantnim tijelima javne vlasti na standardiziran način i u skladu sa zakonodavstvom o autorskim pravima i poslovnih tajnama kako bi se, u skladu s europskim propisima o zaštiti podataka i privatnosti te standardima u pogledu etike, demokracije i transparentnosti, mogli koristiti za osmišljavanje kurikuluma i pedagoških praksi (posebno kad se te usluge kupuju javnim novcem ili se besplatno nude pružateljima usluga javnog obrazovanja, uzimajući u obzir da je obrazovanje javno dobro); poziva Komisiju da zajamči pravedan pristup podacima za sva trgovačka društva, a posebno za mala i srednja poduzeća te kulturna i kreativna društva, koja imaju ključnu ulogu u održavanju socijalne kohezije i kulturne raznolikosti u Europi te demokratskih vrijednosti;

9. naglašava važnost razvoja smjernica za javnu nabavu takvih usluga i aplikacija za javni sektor, uključujući pružatelje usluga obrazovanja, kako bi se osigurali relevantni obrazovni ciljevi, izbor potrošača, jednaki i pošteni uvjeti za pružatelje rješenja u području umjetne inteligencije te poštovanje temeljnih prava; naglašava potrebu da kupci iz javnog sektora u obzir uzmu specifične kriterije, povezane s odgovarajućim obrazovnim ciljevima, kao što su nediskriminacija, temeljna prava, raznolikost, najviši standardi privatnosti i zaštite podataka, pristupačnost za učenike s posebnim potrebama, okolišna održivost te, posebno pri kupnji usluga za pružatelje usluga javnog obrazovanja, uključivanje svih koji sudjeluju u obrazovnom procesu; naglašava potrebu za jačanjem tržišta tako što će se MSP-ovima pružiti prilika za sudjelovanje u nabavi aplikacija umjetne inteligencije kako bi se osiguralo sudjelovanje tehnoloških kompanija svih veličina u sektoru te se na taj način zajamčili otpornost i tržišno natjecanje;

10. ističe nepouzdanost aktualnih automatiziranih načina uklanjanja nezakonitog sadržaja s internetskih platformi na kojima se dijeli audiovizualni sadržaj, što može dovesti do nenamjernog uklanjanja zakonitih sadržaja; napominje da se ni Direktivom o elektroničkoj trgovini ni revidiranom Direktivom o audiovizualnim medijskim uslugama na platformama za razmjenu videozapisa ne nameće opća obveza praćenja; podsjeća da radi toga, kako je utvrđeno člankom 15. Direktive o elektroničkoj trgovini, ne bi trebalo biti općeg praćenja i da bi poseban nadzor nad sadržajem za audiovizualne usluge trebao biti u skladu s iznimkama utvrđenima europskim zakonodavstvom; podsjeća na ključne zahtjeve u pogledu aplikacija umjetne inteligencije, kao što su odgovornost, uključujući strukture revizije unutar poslovnih procesa, i mogućnost izvješćivanja o negativnim učincima; ističe da bi transparentnost trebala uključivati i sljedivost i objašnjivost relevantnih sustava; podsjeća da aplikacije umjetne inteligencije moraju biti u skladu s unutarnjim i vanjskim sigurnosnim protokolima koji bi trebali biti tehnički precizni i stabilni; smatra da bi to bi trebalo proširiti i na djelovanje u uobičajenim, nepoznatim i nepredvidivim situacijama;

11. u mjeri u kojoj je to tehnički ostvarivo, poziva na razumljive algoritme za preporuku i personalizirani marketing na audiovizualnim platformama, uključujući platforme za videoprijenos sadržaja, vijesti te za širenje kulturnog i kreativnog sadržaja, kako bi se potrošačima omogućio točan i sveobuhvatan uvid u te procese i sadržaje te osiguralo da personalizirane usluge ne budu diskriminirajuće i da budu u skladu s nedavno donesenom Uredbom o odnosima između platformi i poslovnih subjekata i Skupnom direktivom o novim pogodnostima za potrošače; naglašava potrebu da se pravo korisnika da odustanu od preporučenih i personaliziranih usluga zajamči i ispravno provodi; ističe u pogledu toga da bi se korisnicima trebao pružiti opis koji omogućuje opće i odgovarajuće razumijevanje relevantnih funkcija, posebno u pogledu korištenih podataka, svrhe algoritma te personalizaciji i njezinim rezultatima, u skladu s načelima objašnjivosti i pravednosti; poziva na razvoj mehanizama kojima se omogućuje praćenje prava potrošača na informirani pristanak i sloboda izbora pri dostavljanju podataka;

12. napominje da bi uvođenje umjetne inteligencije u postupke carinskih provjera moglo poduprijeti napore za sprečavanje nezakonite trgovine kulturnom baštinom, a posebno bi se mogli dopuniti sustavi kojima se carinskim tijelima omogućuje da usmjere svoje napore i resurse na one stavke koje su najrizičnije;

13. ističe da potrošači moraju biti obaviješteni kad budu u interakciji s automatiziranim postupkom odlučivanja te da njihov izbor i uspješnost ne smiju biti ograničeni; ističe da se mora suzbijati primjena mehanizama umjetne inteligencije za komercijalni nadzor nad potrošačima, čak i ako se odnosi na „besplatne usluge”, osiguravanjem da je taj nadzor strogo u skladu s temeljnim pravima i Općom uredbom o zaštiti podataka; ističe da se u svim promjenama propisa mora uzeti u obzir utjecaj na osjetljive skupine potrošača;

14. ističe da uvođenje, razvoj i provedba umjetne inteligencije potrošačima i studentima s nekom vrstom invaliditeta moraju olakšati upotrebu alata za pristup audiovizualnim sadržajima;

15. ističe potrebu za usavršavanjem buduće radne snage; prepoznaje koristi od predviđanja radnih mjesta koja će biti narušena digitalnom tehnologijom kao što su automatizacija, digitalizacija i umjetna inteligencija;

16. ističe da sustavi umjetne inteligencije koji se razvijaju, uvode i upotrebljavaju u Europskoj uniji, u bilo kojem od triju sektora na koje se odnosi ovo izvješće, moraju odražavati njezinu kulturnu raznolikost i višejezičnost.

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	29.6.2020.
Rezultat konačnog glasovanja	+: –: 0:	34 3 3
Zastupnici nazočni na konačnom glasovanju	Andrus Ansip, Pablo Arias Echeverría, Alessandra Basso, Brando Benifei, Adam Bielan, Biljana Borzan, Dita Charanzová, Deirdre Clune, David Cormand, Petra De Sutter, Carlo Fidanza, Alexandra Geese, Sandro Gozi, Maria Grapini, Svenja Hahn, Eugen Jurzyca, Arba Kokalari, Marcel Kolaja, Andrey Kovatchev, Maria-Manuel Leitão-Marques, Morten Løkkegaard, Adriana Maldonado López, Antonius Manders, Beata Mazurek, Leszek Miller, Dan-Ștefan Motreanu, Anne-Sophie Pelletier, Christel Schaldemose, Andreas Schwab, Ivan Štefanec, Kim Van Sparrentak, Marion Walsmann
Zamjenici nazočni na konačnom glasovanju	Marc Angel, Pascal Arimont, Marco Campomenosi, Maria da Graça Carvalho, Salvatore De Meo, Karen Melchior, Tsvetelina Penkova, Antonio Maria Rinaldi

 

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

34

+

PPE S&D RENEW ID VERTS/ALE ECR EUL/NGL

Pascal Arimont, Deirdre Clune, Arba Kokalari, Antonius Manders, Dan-Ștefan Motreanu, Marion Walsmann Marc Angel, Brando Benifei, Biljana Borzan, Maria Grapini, Maria-Manuel Leitão-Marques, Adriana Maldonado López, Leszek Miller, Tsvetelina Penkova, Christel Schaldemose Andrus Ansip, Dita Charanzová, Sandro Gozi, Svenja Hahn, Morten Løkkegaard, Karen Melchior Alessandra Basso, Marco Campomenosi, Antonio Maria Rinaldi David Cormand, Petra De Sutter, Alexandra Geese, Marcel Kolaja, Kim Van Sparrentak Adam Bielan, Carlo Fidanza, Eugen Jurzyca, Beata Mazurek Anne-Sophie Pelletier

 

3	-
PPE	Pablo Arias Echeverría, Salvatore De Meo, Andreas Schwab

 

3	0
PPE	Maria da Graça Carvalho, Andrey Kovatchev, Ivan Štefanec

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

MIŠLJENJE ODBORA ZA PRAVNA PITANJA (22.9.2020)

upućeno Odboru za kulturu i obrazovanje

o umjetnoj inteligenciji u obrazovnom, kulturnom i audiovizualnom sektoru

(2020/2017(INI))

Izvjestitelj za mišljenje: Angel Dzhambazki

 

PRIJEDLOZI

Odbor za pravna pitanja poziva Odbor za kulturu i obrazovanje da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uvrsti sljedeće prijedloge:

1. ističe stratešku važnost upotrebe umjetne inteligencije i povezanih tehnologija te naglašava da europski pristup u tom pogledu mora biti usmjeren na čovjeka kako bi umjetna inteligencija zaista postala sredstvo u službi ljudi i općeg dobra te doprinosila općem interesu građana, među ostalim u audiovizualnom, kulturnom i obrazovnom sektoru; ističe da umjetna inteligencija može imati ulogu u podupiranju stvaranja sadržaja u tim sektorima; ističe da umjetna inteligencija može imati ulogu u podupiranju stvaranja sadržaja u obrazovnom, kulturnom i audiovizualnom sektoru, zajedno s informativnim i obrazovnim platformama, uključujući popise raznih vrsta kulturnih predmeta i velik broj izvora podataka; skreće pozornost na rizike od povrede prava intelektualnog vlasništva pri kombiniranju umjetne inteligencije i raznih tehnologija s više izvora (dokumenti, fotografije, filmovi) radi poboljšanja načina na koji se ti podaci prikazuju, pretražuju i vizualiziraju; poziva na korištenje umjetne inteligencije kako bi se osigurala visoka razina zaštite prava intelektualnog vlasništva unutar trenutačnog zakonodavnog okvira, primjerice upozoravanjem pojedinaca i poduzeća ako su u opasnosti da nenamjerno prekrše pravila ili pružanjem pomoći nositeljima prava intelektualnog vlasništva ako su pravila stvarno prekršena; stoga ističe važnost prikladnog europskog pravnog okvira za zaštitu prava intelektualnog vlasništva u vezi s korištenjem umjetne inteligencije;

2. naglašava da dosljedna integracija umjetne inteligencije u obrazovni sektor ima potencijal da pruži odgovor na neke od najvećih izazova u obrazovanju, da osmisli inovativne prakse podučavanja i učenja te da ubrza napredak prema postizanju ciljeva održivog razvoja kako bi se ispunili ciljevi Programa obrazovanja do 2030.;

3. ponovno ističe važnost pristupa kulturi za sve građane diljem Unije; u tom kontekstu naglašava važnost razmjene najboljih praksi među državama članicama, obrazovnim ustanovama, kulturnim institucijama te sličnim dionicima; nadalje smatra da je od ključne važnosti da se sredstva dostupna i na razini EU-a i na nacionalnoj razini iskoriste u najvećoj mogućoj mjeri kako bi se dodatno poboljšao pristup kulturi; naglašava da su mnogobrojne mogućnosti za pristup kulturi i da bi ih sve trebalo istražiti kako bi se pronašla najprikladnija opcija; ističe važnost usklađenosti s Ugovorom iz Marakeša;

4. poziva Komisiju da ostvari puni potencijal umjetne inteligencije u svrhu poboljšanja komunikacije s građanima, na primjer putem kulturnih i audiovizualnih internetskih platformi, informirajući građane o tome što se događa na razini donošenja odluka te sužavajući jaz između lokalne razine i razine EU-a te promičući socijalnu koheziju između građana EU-a;

5. ističe da su obrazovanje, kultura i audiovizualni sektor područja osjetljiva na upotrebu umjetne inteligencije i povezanih tehnologija jer imaju potencijal utjecati na naša društva i temeljna prava koja ona jamče; stoga smatra da bi se pri njihovu uvođenju, razvoju i upotrebi trebala poštovati pravno obvezujuća etička načela;

6. uviđa kako se umjetna inteligencija i povezane tehnologije mogu upotrebljavati u razvoju ili primjeni novih obrazovnih metoda, tj. učenja jezika, specijaliziranog učenja, općenito u akademskoj zajednici itd.; ističe važnost, ne samo upotrebe takvih tehnologija u obrazovne svrhe, nego i digitalne pismenosti te osviještenosti javnosti o njima; naglašava da je važno edukatorima, instruktorima i drugima pružiti odgovarajuće alate i znanja o umjetnoj inteligenciji i povezanim tehnologijama u pogledu njihova sadržaja, načina na koji se upotrebljavaju te kako ih koristiti kao alate na odgovarajući način i u skladu sa zakonom, kako bi se izbjegle povrede prava intelektualnog vlasništva; posebno ističe važnost digitalne pismenosti za osoblje koje radi u obrazovanju, kao i poboljšanja digitalne izobrazbe za starije osobe, s obzirom na to da su novije generacije već upoznate s tim tehnologijama jer su odrasli s njima;

7. naglašava da bi europska umjetna inteligencija trebala štititi i promicati temeljne vrijednosti naše Unije kao što su demokracija, neovisni i slobodni mediji te izvori informacija, kvalitetno obrazovanje, okolišna održivost, rodna ravnoteža te kulturna i jezična raznolikost;

8. poziva Komisiju, države članice i poslovnu zajednicu da aktivno i u potpunosti iskoriste potencijal umjetne inteligencije u pružanju činjenica i borbi protiv lažnih vijesti, dezinformacija, ksenofobije i rasizma na kulturnim i audiovizualnim internetskim platformama, izbjegavajući pritom cenzuru;

9. napominje da neovisnost kreativnog procesa otvara pitanja u vezi s vlasništvom nad pravima intelektualnog vlasništva; u tom pogledu smatra da tehnologijama umjetne inteligencije nije poželjno dodijeliti pravnu osobnost;

10. napominje da umjetna inteligencija može imati važnu ulogu u promicanju i zaštiti naše europske i nacionalne kulturne raznolikosti, posebno kad je audiovizualne internetske platforme koriste za promociju sadržaja potrošačima;

11. napominje da bi od umjetne inteligencije mogao imati koristi istraživački sektor, primjerice kroz ulogu prediktivne analitike u poboljšanju analize podataka, na primjer u pogledu stjecanja i kretanja kulturnih predmeta; ističe da je potrebno da EU poveća ulaganja i potakne partnerstva između industrije i akademske zajednice kako bi se ojačala istraživačka izvrsnost na europskoj razini;

12. napominje važnu ulogu koju neovisni mediji imaju u kulturi i svakodnevnom životu građana; naglašava da su lažni mediji temeljni problem jer se autorska prava i prava intelektualnog vlasništva općenito sustavno krše; poziva Komisiju da u suradnji s državama članicama nastavi raditi na podizanju svijesti o tom problemu te suzbijanju učinaka lažnih medija i temeljnih problema; nadalje, smatra da je važno razviti obrazovne strategije za poboljšanje digitalne pismenosti, posebno u tom pogledu;

13. konstatira da bi se softverom koji se temelji na umjetnoj inteligenciji, primjerice za prepoznavanja slika, mogla uvelike povećati sposobnost obrazovnih ustanova i nastavnika da pružaju i razvijaju moderne, inovativne i visokokvalitetne nastavne metode, poboljšaju digitalnu pismenost i e-vještine sveukupnog stanovništva, te omoguće fleksibilnije obrazovanje; smatra da bi se takve nastavne metode trebale svejedno ocijeniti u pogledu njihove pouzdanosti i točnosti te da bi se njima trebalo osigurati pravednost u obrazovanju, nediskriminaciju te sigurnost djece i maloljetnika u obrazovnim ustanovama i kad u nastavi sudjeluju na daljinu; ističe važnost zakonodavstva o privatnosti i zaštiti podataka kako bi se zajamčila odgovarajuća zaštita osobnih podataka, posebno podataka o djeci, s pomoću transparentnih i pouzdanih izvora podataka kojima se poštuju prava intelektualnog vlasništva; smatra da je od ključne važnosti da se te tehnologije integriraju u postojeće sustave samo ako je zaštita temeljnih prava i privatnosti apsolutno zajamčena; međutim, ističe da se takav softver za prepoznavanje smije koristiti samo u obrazovne svrhe i da se ni u kojem slučaju ne smije koristiti za kontrolu pristupa ustanovama; u tom pogledu ističe ovisnost o vanjskim podacima i nekoliko pružatelja softvera koji dominiraju na tržištu; podsjeća da bi se tehnologije koje se nabavljaju javnim novcem trebale razvijati kao softveri otvorenog koda kako bi se omogućilo dijeljenje i ponovna uporaba resursa te bi trebale biti dostupne širom EU-a i povećati koristi i smanjiti javnu potrošnju, pridržavajući se pritom u potpunosti primjenjivog zakonodavstva, uključujući Direktivu (EU) 2019/790 Europskog parlamenta i Vijeća od 17. travnja 2019. o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu[20];

14. konstatira da bi, kako bi upotreba umjetne inteligencije bila korisna za sektor obrazovanja i istraživanja, EU trebao promicati osposobljavanje u pogledu vještina budućnosti, uključujući etički i odgovoran pristup tehnologijama umjetne inteligencije; u tom kontekstu dodaje da takvo osposobljavanje ne bi trebalo biti ograničeno na učenike i studente u znanstvenim i tehničkim sektorima, koji su već upoznati s tim alatima, već se mora usmjeriti na najveći broj osoba, osobito među mlađim generacijama;

15. naglašava da je u tom pogledu ulaganje u istraživanje i inovacije u pogledu upotrebe i razvoja umjetne inteligencije te njezinih kulturnih, obrazovnih i audiovizualnih primjena od ključne važnosti; poziva Komisiju da pronađe dodatna sredstva za promicanje istraživanja i inovacija u vezi s primjenama umjetne inteligencije u tim sektorima;

16. izražava veliku zabrinutost zbog toga što škole i ostali pružatelji usluga obrazovanja postaju sve više ovisni o uslugama obrazovne tehnologije, uključujući aplikacije umjetne inteligencije, koje nudi svega nekoliko dominantnih poduzeća, uglavnom sa sjedištem izvan EU-a;

17. ističe potrebu za osiguravanjem digitalne pismenosti i pismenosti povezane s umjetnom inteligencijom diljem EU-a, osobito razvojem mogućnosti izobrazbe nastavnika; ustraje u tome da bi upotreba tehnologija umjetne inteligencije u školama trebala doprinijeti smanjenju društvenog i regionalnog digitalnog jaza;

18. ističe da se pandemijska kriza bolesti COVID-19 može smatrati probnim razdobljem za razvoj i upotrebu digitalnih tehnologija i tehnologija povezanih s umjetnom inteligencijom u obrazovnom i kulturnom sektoru, što je vidljivo iz brojnih platformi za internetsku nastavu i internetskih alata za promicanje kulture koji se primjenjuju u državama članicama; stoga poziva Komisiju da uzme u obzir te primjere pri razmatranju zajedničkog pristupa EU-a povećanoj upotrebi takvih tehnoloških rješenja;

19. podsjeća na to da umjetna inteligencija može posebno dovesti u pitanje zaštitu podataka i privatnost; zastupa pridržavanje načela utvrđena Općom uredbom o zaštiti podataka;

20. poziva Komisiju da pruži veću zaštitu osobnih podataka učenika i nastavnika u području obrazovanja;

21. naglašava da je interakcija između umjetne inteligencije i kreativnih industrija složena i zahtijeva temeljitu evaluaciju; pozdravlja aktualnu studiju „Trendovi i napredak u umjetnoj inteligenciji – izazovi pred Okvirom o pravima intelektualnog vlasništva” te „Studiju o autorskim pravima i novim tehnologijama: upravljanje podacima o autorskim pravima i umjetna inteligencija”; naglašava važnost razjašnjavanja uvjete upotrebe sadržaja zaštićenog autorskim pravima kao ulaznih podataka (slika, glazbe, filmova, baza podataka itd.) te u proizvodnji kulturnih i audiovizualnih tvorevina koje tehnologije umjetne inteligencije samostalno kreiraju ili ih kreiraju ljudi uz pomoć tih tehnologija; poziva Komisiju da prouči utjecaj umjetne inteligencije na europske kreativne industrije; ponovno ističe važnost europskih podataka i pozdravlja izjave Komisije u tom pogledu te stavljanje umjetne inteligencije i povezanih tehnologija u sam vrh prioriteta;

22. naglašava ulogu autorove osobnosti u izražavanju slobodnih i kreativnih odabira na kojima počiva originalnost djela[21]; naglašava važnost ograničenja i iznimaka od autorskih prava pri korištenju sadržaja kao unosa podataka, posebno u obrazovanju, istraživanju i u akademskoj zajednici, te u proizvodnji kulturnih i audiovizualnih proizvoda, uključujući sadržaj koji su izradili korisnici;

23. naglašava da je interakcija između umjetne inteligencije i kreativnih industrija složena i zahtijeva temeljitu evaluaciju; smatra da treba razmotriti zaštitu tehničkih ili umjetničkih djela s pomoću umjetne inteligencije kako bi se potaknuo takav oblik stvaralaštva;

24. naglašava da se u kontekstu podatkovnog gospodarstva može postići bolje upravljanje podacima o autorskim pravima u svrhu bolje naknade autorima i izvođačima, posebno u omogućavanju brze identifikacije autorstva i prava vlasništva nad sadržajem, čime se doprinosi smanjenju broja „djela siročadi”; nadalje ističe da bi se tehnološka rješenja umjetne inteligencije trebala upotrebljavati za poboljšanje infrastrukture podataka o autorskim pravima i međupovezanosti metapodataka u djelima, ali i za olakšavanje obveze transparentnosti iz članka 19. Direktive o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu za ažurirane, relevantne i sveobuhvatne informacije o iskorištavanju djela i izvedbi autora i izvođača, posebno u kontekstu nekoliko nositelja prava i složenih sustava licenciranja;

25. naglašava da je potrebno raditi na najučinkovitijem načinu smanjenja pristranosti u sustavima umjetne inteligencije, u skladu s etičkim standardima i standardima nediskriminacije; ističe da bi skupovi podataka koji se upotrebljavaju za osposobljavanje umjetne inteligencije trebali biti što širi kako bi predstavljali društvo na najrelevantniji način, da bi rezultate trebalo preispitati kako bi se izbjegli svi oblici stereotipa, diskriminacije i pristranosti te da bi se, prema potrebi, umjetna inteligencija trebala iskoristiti za utvrđivanje i ispravljanje ljudske pristranosti tamo gdje bi do nje moglo doći; poziva Komisiju da potakne i olakša razmjenu strategija za smanjenje pristranosti u pogledu podataka;

26. traži od Komisije da ocijeni utjecaj umjetne inteligencije i tehnologija povezanih s umjetnom inteligencijom na audiovizualni i kreativni sektor, posebno u vezi s autorstvom i povezanim pitanjima;

27. poziva na to da se u Akcijskom planu za intelektualno vlasništvo koji je najavila Komisija osvrne na pitanje umjetne inteligencije i njezina učinka na kreativne industrije, uzimajući u obzir potrebu za postizanjem ravnoteže između zaštite prava intelektualnog vlasništva te promicanja obrazovanja, kulture i istraživanja; smatra da EU može biti predvodnik u stvaranju tehnologija umjetne inteligencije ako donese operativni regulatorni okvir i proaktivne javne politike, posebno u pogledu programa osposobljavanja i financijske potpore istraživanjima; traži od Komisije da ocijeni utjecaj prava intelektualnog vlasništva na istraživanje i razvoj umjetne inteligencije i povezanih tehnologija, kao i na audiovizualni i kreativni sektor, posebno u vezi s autorstvom, pravednom naknadom za autore i povezanim pitanjima;

28. ističe buduću ulogu koju bi uključivanje tehnoloških alata temeljenih na umjetnoj inteligenciji trebalo imati u očuvanju i kontroli baštine te komunikaciji o njoj, kao i u povezanim istraživačkim projektima;

29. ističe potrebu za uspostavljanjem ravnoteže između, s jedne strane, razvoja sustavâ umjetne inteligencije i njihove uporabe u obrazovnom, kulturnom i audiovizualnom sektoru te, s druge strane, mjera za zaštitu konkurencije i tržišne konkurentnosti za poduzeća u području umjetne inteligencije u tim sektorima; u tom pogledu naglašava potrebu za poticanjem poduzeća da ulažu u inovacije sustava umjetne inteligencije koji se upotrebljavaju u tim sektorima, osiguravajući pritom da poduzeća koja pružaju njihovu primjenu ne ostvare tržišni monopol;

30. naglašava da upotreba umjetne inteligencije i povezanih tehnologija ni u kojem slučaju ne može postati stvarnost bez ljudskog nadzora; ponovno ističe važnost temeljnih prava i sveobuhvatne nadređenosti zakonodavstva o zaštiti podataka i privatnosti, što je ključno kada je riječ o takvim tehnologijama;

31. traži od Komisije da procijeni učinak umjetne inteligencije i tehnologija povezanih s umjetnom inteligencijom na stvaranje novih audiovizualnih djela poput uvjerljivih krivotvorenih sadržaja (engl. deep fakes) te da utvrdi odgovarajuće pravne posljedice povezane s njihovim stvaranjem, produkcijom ili distribucijom u zlonamjerne svrhe;

32. napominje da bi automatizacija i razvoj umjetne inteligencije mogli predstavljati prijetnju zapošljavanju i ponovno ističe prioritet zadržavanja radnih mjesta, posebno u obrazovnom, kulturnom i kreativnom sektoru;

33. poziva Komisiju da u suradnji s državama članicama pokrene plan obrazovanja o digitalnoj pismenosti i pismenosti u području umjetne inteligencije na razini EU-a, s posebnim naglaskom na učenicima i mladima;

34. poziva Komisiju da razmotri pravne aspekte rezultata dobivenih korištenjem tehnologija umjetne inteligencije, kao i kulturnog sadržaja nastalog upotrebom umjetne inteligencije i povezanih tehnologija; smatra da je važno podržati proizvodnju kulturnog sadržaja; međutim, ponovno ističe važnost zaštite jedinstvenog Unijinog okvira prava intelektualnog vlasništva i da bi se sve promjene trebale provesti uz potrebnu dužnu pažnju kako se ne bi narušila osjetljiva ravnoteža; poziva Komisiju da provede podrobnu evaluaciju u pogledu moguće pravne osobnosti sadržaja proizvedenih umjetnom inteligencijom, kao i primjene prava intelektualnog vlasništva na sadržaje stvorene umjetnom inteligencijom, uključujući sadržaje stvorene upotrebom alata umjetne inteligencije;

35. poziva Komisiju da utvrdi zahtjeve za javnu nabavu i uvođenje umjetne inteligencije i povezanih tehnologija od strane tijela javnog sektora EU-a kako bi se osigurala usklađenost s pravom Unije i temeljnim pravima; ističe dodanu vrijednost instrumenata kao što su javna savjetovanja i procjene učinka koje treba provesti prije nabave ili uvođenja sustava umjetne inteligencije, kako je preporučeno u izvješću posebnog izvjestitelja Opće skupštine UN-a o umjetnoj inteligenciji i njezinu utjecaju na slobodu mišljenja i izražavanja[22];

36. poziva Komisiju da uspostavi pravila kojima će se zajamčiti stvarna interoperabilnost podataka kako bi sadržaj kupljen na platformi bio dostupan u okviru bilo kojeg digitalnog alata, bez obzira na njegovu robnu marku;

37. naglašava da se izazovi koji proizlaze iz upotrebe umjetne inteligencije i povezanih tehnologija mogu prevladati samo uspostavom obveza u pogledu kvalitete podataka, transparentnosti i zahtjeva za nadzor kako bi se javnosti i nadležnim tijelima omogućilo da ocijene usklađenost s pravom Unije i temeljnim pravima; iščekuje prijedloge Komisije nakon njezine komunikacije o Europskoj strategiji za podatke[23] u pogledu razmjene i objedinjavanja skupova podataka;

38. osim toga, poziva Komisiju da u bliskoj suradnji s državama članicama i relevantnim dionicima razmotri razvoj mehanizama provjere ili sustava za izdavače, autore, stvaratelje itd. kako bi im se pomoglo u provjeri sadržaja kojim se mogu koristiti i kako bi se lakše utvrdilo što je zaštićeno zakonodavstvom o pravima intelektualnog vlasništva.

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	10.9.2020
Rezultat konačnog glasovanja	+: –: 0:	22 2 1
Zastupnici nazočni na konačnom glasovanju	Manon Aubry, Gunnar Beck, Geoffroy Didier, Angel Dzhambazki, Ibán García Del Blanco, Jean-Paul Garraud, Esteban González Pons, Mislav Kolakušić, Gilles Lebreton, Karen Melchior, Jiří Pospíšil, Franco Roberti, Marcos Ros Sempere, Liesje Schreinemacher, Stéphane Séjourné, Raffaele Stancanelli, Marie Toussaint, Adrián Vázquez Lázara, Axel Voss, Marion Walsmann, Tiemo Wölken, Lara Wolters, Javier Zarzalejos
Zamjenici nazočni na konačnom glasovanju	Heidi Hautala, Emil Radev

 

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

22	+
EPP	Geoffroy Didier, Esteban González Pons, Jiří Pospíšil, Emil Radev, Axel Voss, Marion Walsmann, Javier Zarzalejos
S&D	Ibán García Del Blanco, Franco Roberti, Marcos Ros Sempere, Tiemo Wölken, Lara Wolters
RENEW	Karen Melchior, Liesje Schreinemacher, Stéphane Séjourné, Adrián Vázquez Lázara
ID	Gunnar Beck, Jean-Paul Garraud, Gilles Lebreton
ECR	Angel Dzhambazki, Raffaele Stancanelli
NI	Mislav Kolakušić

 

2	-
VERTS/ALE	Heidi Hautala, Marie Toussaint

 

1	0
GUE/NGL	Manon Aubry

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

 

 

 

MIŠLJENJE ODBORA ZA PRAVA ŽENA I RODNE RAVNOPRAVNOSTI (14.9.2020)

upućeno Odboru za kulturu i obrazovanje

o umjetnoj inteligenciji u obrazovnom, kulturnom i audiovizualnom sektoru

(2020/2017(INI))

Izvjestiteljica za mišljenje: Maria da Graça Carvalho

 

PRIJEDLOZI

Odbor za prava žena i rodne ravnopravnosti poziva Odbor za kulturu i obrazovanje da kao nadležni odbor u prijedlog rezolucije koji će usvojiti uključi sljedeće prijedloge:

A. budući da je rodna ravnopravnost jedno od temeljnih načela Europske unije utvrđenih u Ugovorima i da se treba odražavati u svim njezinim politikama, među ostalim u obrazovanju, kulturi i audiovizualnom području, kao i u razvoju tehnologija kao što je umjetna inteligencija, s obzirom da su to važni kanali za izmjenu stavova i osporavanje stereotipa i rodnih pristranosti u postojećim društvenim normama; budući da razvoj digitalizacije i tehnologija kao što je umjetna inteligencija iz temelja mijenja našu stvarnost i da će njihova današnja regulacija u velikoj mjeri utjecati na naša buduća društva; budući da je potrebno zalaganje za antropocentričan pristup utemeljen na ljudskim pravima i etici u razvoju i upotrebi umjetne inteligencije;

B. budući da se u članku 21. Povelje Europske unije o temeljnim pravima zabranjuje diskriminacija na cijelom nizu osnova i da bi on trebao biti vodeće načelo; budući da se brojni oblici diskriminacije ne bi trebali ponavljati u oblikovanju, razvoju i upotrebi sustava umjetne inteligencije koji se temelje na rodno pristranim algoritmima, kao ni u unosu podataka u te sustave, ili u društvenom kontekstu u kojem se takvi algoritmi koriste;

C. budući da su nam prošla iskustva, osobito u tehničkim područjima, pokazala da se razvoj i inovacije često temelje uglavnom na muškim podacima te da se potrebe žena ne odražavaju u potpunosti; budući da rješavanje tih pristranosti zahtijeva veći oprez, tehnička rješenja i postavljanje jasnih zahtjeva u pogledu pravednosti, odgovornosti i transparentnosti;

D. budući da nepotpuni i netočni skupovi podataka, nedostatak podataka iskazanih po spolu i pogrešni algoritmi mogu narušiti postupak obrade sustava umjetne inteligencije i ugroziti postizanje rodne ravnopravnosti u društvu; budući da su podaci o skupinama u nepovoljnom položaju i intersekcijskim oblicima diskriminacije obično nepotpuni ili čak ne postoje;

E. budući da se rodne nejednakosti, stereotipi i diskriminacija mogu stvoriti i ponavljati putem jezika i slika koje šire mediji i aplikacije zasnovane na umjetnoj inteligenciji; budući da obrazovanje, kulturni programi i audiovizualni sadržaji imaju znatan utjecaj na oblikovanje ljudskih uvjerenja i vrijednosti te da su oni ključni alat za borbu protiv rodnih stereotipa, smanjivanje digitalnog jaza među spolovima i uspostavljanje snažnih uzora; budući da etički i regulatorni okvir mora biti uspostavljen prije provedbe automatiziranih rješenja u tim ključnim područjima u društvu;

F. budući da znanost i inovacije mogu donijeti koristi koje mijenjaju život, posebno za one koje najviše zaostaju, kao što su žene i djevojke koje žive u udaljenim područjima; budući da je znanstveno obrazovanje važno za stjecanje vještina, dostojanstven rad i radna mjesta budućnosti, kao i za razbijanje rodnih stereotipa koji ih smatraju muškim područjima; budući da su znanost i znanstveno promišljanje ključni za demokratsku kulturu, koja je pak ključna za unapređenje rodne ravnopravnosti;

G. budući da su žene u sektoru umjetne inteligencije nedovoljno zastupljene, bilo u stvaranju, razvoju ili korištenju; budući da puni potencijal vještina, znanja i kvalifikacija žena u područjima digitalizacije, umjetne inteligencije te informacijske i komunikacijske tehnologije (IKT), kao i njihova prekvalifikacija, mogu doprinijeti jačanju europskog gospodarstva; budući da žene na globalnoj razini čine samo 22 % stručnjaka u području umjetne inteligencije; budući da nedostatak žena u razvoju umjetne inteligencije ne dovodi samo do većeg rizika od pristranosti, već i Europsku uniju uskraćuje za njihovu raznolikost, talent, viziju i resurse te stoga predstavlja prepreku inovacijama; budući da rodna raznolikost pojačava ženske stavove u timovima i timskoj izvedbi te pogoduje potencijalu za inovacije u javnom i privatnom sektoru;

H. budući da je u EU-u jedna od deset žena već pretrpjela neki oblik kibernetičkog nasilja od svoje 15. godine, a kibernetičko zlostavljanje i dalje je zabrinjavajuće u razvoju umjetne inteligencije, uključujući u pogledu obrazovanja; budući da je kibernetičko nasilje često usmjereno na žene prisutne u javnom životu, kao što su aktivistice, političarke i druge javne osobe; budući da umjetna inteligencija i druge nove tehnologije mogu imati važnu ulogu u sprječavanju kibernetičkog nasilja nad ženama i djevojkama te u obrazovanju ljudi;

I. budući da se EU suočava s dosad najvećim nedostatkom žena u obrazovanju i karijerama u području znanosti, inženjerstva, tehnologije i matematike (STEM), uzimajući u obzir da žene čine 52 % europskog stanovništva, ali tek svaku treću osobu s diplomom iz tih područja;

J. budući da unatoč pozitivnom trendu uključenosti žena i njihovog interesa za sudjelovanjem u obrazovanju u području znanosti, inženjerstva, tehnologije i matematike, postotci su i dalje nedovoljni, posebno uzimajući u obzir važnost karijera povezanih s tim područjima u sve digitaliziranijem svijetu;

1. smatra da umjetna inteligencija ima velik potencijal za promicanje rodne ravnopravnosti, pod uvjetom da se ukloni postojeća svjesna i nesvjesna pristranost; naglašava potrebu za daljnjim regulatornim naporima kako bi se osiguralo da umjetna inteligencija poštuje načela i vrijednosti rodne ravnopravnosti i nediskriminacije iz članka 21. Povelje o temeljnim pravima; nadalje naglašava važnost odgovornosti, diferenciranog i transparentnog pristupa utemeljenog na riziku te stalnog praćenja postojećih i novih algoritama, kao i njihovih rezultata;

2. naglašava potrebu da medijske organizacije budu informirane o glavnim parametrima sustava umjetne inteligencije koji se temelje na algoritmima i koji određuju rangiranje i rezultate pretraživanja na platformama trećih strana, te da korisnici budu informirani o uporabi umjetne inteligencije u službama za donošenje odluka i da ih se potakne da postave svoje parametre privatnosti pomoću transparentnih i razumljivih mjera;

3. podsjeća da bi algoritmi i umjetna inteligencija trebali biti „etički po naravi”, bez ugrađenih pristranosti, tako da se jamči maksimalna zaštita temeljnih prava;

4. poziva na politike usmjerene na povećanje sudjelovanja žena u područjima povezanima sa znanošću, tehnologijom, inženjerstvom i matematikom (STEM), umjetnom inteligencijom i sektorom istraživanja i inovacija te na usvajanje višerazinskog pristupa za uklanjanje rodnog jaza na svim razinama obrazovanja i zapošljavanja u digitalnom sektoru, ističući važnost usavršavanja i prekvalifikacije;

5. uviđa da rodno stereotipiziranje, obeshrabrenost u kulturi i nedostatak svijesti i promicanja ženskih uzora ometaju i negativno utječu na mogućnosti za djevojke i žene u pogledu IKT-a, STEM-a i umjetne inteligencije te vode do diskriminacije i manje prilika za žene na tržištu rada; ističe važnost povećanja broja žena u tim sektorima, što će doprinijeti sudjelovanju žena i ekonomskom osnaživanju, kao i smanjenju rizika povezanih sa stvaranjem takozvanih „pristranih algoritama”;

6. potiče Komisiju i države članice da kupuju obrazovne, kulturne i audiovizualne usluge od pružatelja koji primjenjuju načelo ravnoteže spolova na svom radnom mjestu, promiču politike javne nabave i smjernice koje stimuliraju poduzeća da zapošljavaju više žena na radna mjesta u području STEM-a i olakšavaju raspodjelu sredstava poduzećima u obrazovnom, kulturnom i audiovizualnom sektoru koji uzimaju u obzir kriterije ravnoteže spolova;

7. naglašava međusektorsku prirodu rodne diskriminacije koja je ukorijenjena u svjesnoj ili nesvjesnoj rodnoj pristranosti te koja se očituje u obrazovnom sektoru, prikazu žena u medijima i oglašavanju, bilo na ekranu ili izvan njega, kao i odgovornost javnog i privatnog sektora u pogledu proaktivnog zapošljavanja, razvoja i zadržavanja ženskih talenata te poticanja uključive poslovne kulture;

8. poziva Komisiju i države članice da pri izradi politike i zakonodavstva u pogledu umjetne inteligencije uzmu u obzir etičke aspekte, uključujući iz rodne perspektive, te da po potrebi prilagode postojeće zakonodavstvo, uključujući programe EU-a i etičke smjernice za uporabu umjetne inteligencije;

9. potiče države članice da donesu strategiju za promicanje sudjelovanja žena u obrazovanju i karijerama u području STEM-a, IKT-a i umjetne inteligencije putem relevantnih nacionalnih strategija kako bi se postigla rodna ravnopravnost, utvrđujući cilj za sudjelovanje žena istraživačica u projektima u području STEM-a i umjetne inteligencije; poziva Komisiju da riješi problem razlika među spolovima u pogledu karijera i obrazovanja u području STEM-a, IKT-a i umjetne inteligencije te da to učini prioritetom Paketa digitalnih vještina kako bi se promicalo prisustvo žena na svim razinama obrazovanja, kao i u usavršavanju i prekvalifikaciji radne snage;

10. uviđa da proizvođači rješenja umjetne inteligencije moraju uložiti više napora u temeljito testiranje proizvoda kako bi se predvidjele potencijalne greške koje bi utjecale na osjetljive skupine; poziva na to da se ojača rad na alatu kojim bi se algoritme obučavalo da prepoznaju uznemiravajuće ljudsko ponašanje, koji bi omogućio da se identificiraju oni elementi koji najčešće doprinose diskriminatornim mehanizmima u automatiziranim procesima donošenja odluka kod algoritama;

11. naglašava važnost osiguranja da se interesi žena koje trpe više oblika diskriminacije i pripadaju marginaliziranim i ranjivim skupinama na odgovarajući način uzmu u obzir i zastupaju u svakom budućem regulatornom okviru; sa zabrinutošću primjećuje da marginalizirane skupine s razvojem umjetne inteligencije riskiraju nove tehnološke, gospodarske i društvene podjele;

12. poziva na posebne mjere i zakonodavstvo za suzbijanje kibernetičkog nasilja; ističe da Komisija i države članice trebaju osigurati odgovarajuća sredstva za razvoj rješenja u području umjetne inteligencije koja sprječavaju i suzbijaju kibernetičko nasilje te internetsko seksualno uznemiravanje i iskorištavanje usmjereno na žene i djevojke te koja pomažu u obrazovanju mladih; poziva na razvoj i provedbu učinkovitih mjera za suzbijanje starih i novih oblika internetskog uznemiravanja žrtava na radnom mjestu;

13. napominje da bi se u svrhu analize utjecaja algoritamskih sustava na građane pristup podacima trebao proširiti na odgovarajuće stranke, posebno na neovisne istraživače, medije i organizacije civilnog društva, istodobno poštujući zakon Unije o zaštiti podataka i privatnosti; ističe da korisnici uvijek moraju biti obaviješteni o tome da je za donošenje odluke o njima korišten algoritam, posebno kada se ta odluka odnosi na pristup povlasticama ili nekom proizvodu;

14. poziva Komisiju i države članice da osmisle mjere kojima će se u potpunosti obuhvatiti rodna dimenzija, kao što su kampanje za podizanje svijesti, programi osposobljavanja i nastavni planovi, koji bi građanima trebali pružiti informacije o načinu rada algoritama i njihovu utjecaju na svakodnevni život građana; nadalje ih poziva da njeguju rodno ravnopravno razmišljanje i radne uvjete koji vode do razvoja uključivijih tehnoloških proizvoda i radnih okruženja; potiče Komisiju i države članice da osiguraju uključivanje digitalnih vještina i osposobljavanje za umjetnu inteligenciju u školske programe i učine ih dostupnima svima kao način za uklanjanje digitalne rodne podjele; 

15. ističe potrebu za osposobljavanjem radnika i nastavnog osoblja koji se bave umjetnom inteligencijom radi promicanja sposobnosti identificiranja i ispravljanja rodno diskriminirajućih praksi na radnom mjestu i u obrazovanju, kao i za osposobljavanjem radnika koji razvijaju sustave i aplikacije umjetne inteligencije za identificiranje i rješavanje diskriminacije na temelju spola u sustavima i aplikacijama koje razvijaju; poziva na uspostavu jasnih odgovornosti u poduzećima i obrazovnim ustanovama kako bi se osiguralo da na radnom mjestu ili u obrazovnom kontekstu ne postoji diskriminacija na temelju spola; naglašava da bi se rodno neutralne slike umjetne inteligencije i robota trebale upotrebljavati u obrazovne i kulturne svrhe, osim ako iz nekog razloga rod nije ključan čimbenik;

16. naglašava važnost razvoja i uvođenja aplikacija umjetne inteligencije u obrazovnim, kulturnim i audiovizualnim sektorima u vezi s prikupljanjem podataka iskazanih prema spolu i drugih podataka o ravnopravnosti te primjenom suvremenih tehnika strojnog učenja za uklanjanje pristranosti kako bi se, ako je to potrebno, ispravili rodni stereotipi i rodna pristranost koji bi mogli imati negativne učinke; 

17. potiče Komisiju i države članice da prikupljaju podatke iskazane po spolu kako bi se skupovi podataka mogli puniti na način koji promiče ravnopravnost; također ih poziva da analiziranjem prikupljenih podataka mjere učinak javnih politika uspostavljenih kako bi se obuhvatila rodna dimenzija; ističe važnost uporabe cjelovitih, pouzdanih, pravodobnih, nepristranih, nediskriminirajućih i rodno osjetljivih podataka u razvoju umjetne inteligencije;

18. poziva Komisiju da obrazovanje uključi u regulatorni okvir za visokorizične aplikacije umjetne inteligencije, s obzirom na važnost osiguranja da obrazovanje i dalje pridonosi javnom dobru, kao i visoku osjetljivost podataka o đacima, studentima i drugim učenicima; ističe da bi u obrazovnom sektoru to uključivanje trebalo obuhvaćati ​​nastavnike, učenike i šire društvo te bi trebalo uzeti u obzir svačije potrebe te očekivane koristi kako bi se osiguralo da se umjetna inteligencija koristi svrhovito i etički;

19. poziva Komisiju da potiče uporabu programa EU-a kao što su Obzor Europa, Digitalna Europa i Erasmus+ za promicanje multidisciplinarnih istraživanja, pilot projekata, eksperimenata i razvoja alata, uključujući osposobljavanje, za utvrđivanje rodnih pristranosti u umjetnoj inteligenciji, kao i kampanja za podizanje svijesti usmjerenih na širu javnost;

20. naglašava potrebu za stvaranjem raznolikih skupina programera i inženjera koji surađuju s glavnim akterima u obrazovnom, kulturnom i audiovizualnom sektoru kako bi se spriječilo nenamjerno uključivanje rodne ili društvene pristranosti u algoritme, sustave i aplikacije umjetne inteligencije; naglašava potrebu da se uzme u obzir raznolikost različitih teorija putem kojih se umjetna inteligencija razvijala do danas i putem kojih bi se mogla dalje unapređivati u budućnosti;

21. ističe da činjenica da se pažljivo uklanjaju pristranosti i diskriminacija prema određenim skupinama, uključujući rodne stereotipe, ne bi trebala zaustaviti tehnološki napredak.

 

INFORMACIJE O USVAJANJU U ODBORU KOJI DAJE MIŠLJENJE

Datum usvajanja	10.9.2020.
Rezultat konačnog glasovanja	+: –: 0:	28 3 4
Zastupnici nazočni na konačnom glasovanju	Christine Anderson, Simona Baldassarre, Robert Biedroń, Vilija Blinkevičiūtė, Annika Bruna, Margarita de la Pisa Carrión, Gwendoline Delbos-Corfield, Rosa Estaràs Ferragut, Frances Fitzgerald, Cindy Franssen, Heléne Fritzon, Lina Gálvez Muñoz, Arba Kokalari, Alice Kuhnke, Elżbieta Katarzyna Łukacijewska, Maria Noichl, Pina Picierno, Sirpa Pietikäinen, Samira Rafaela, Evelyn Regner, Diana Riba i Giner, Eugenia Rodríguez Palop, Christine Schneider, Jessica Stegrud, Isabella Tovaglieri, Ernest Urtasun, Hilde Vautmans, Elissavet Vozemberg-Vrionidi, Chrysoula Zacharopoulou, Marco Zullo
Zamjenici nazočni na konačnom glasovanju	Maria da Graça Carvalho, Derk Jan Eppink, Elena Kountoura, Radka Maxová, Susana Solís Pérez

 

POIMENIČNO KONAČNO GLASOVANJE U ODBORU KOJI DAJE MIŠLJENJE

28	+
PPE	Maria da Graça Carvalho, Rosa Estaràs Ferragut, Frances Fitzgerald, Cindy Franssen, Arba Kokalari, Elżbieta Katarzyna Łukacijewska, Sirpa Pietikäinen, Christine Schneider, Elissavet Vozemberg-Vrionidi
S&D	Robert Biedroń, Vilija Blinkevičiūtė, Heléne Fritzon, Lina Gálvez Muñoz, Maria Noichl, Pina Picierno, Evelyn Regner
Renew	Radka Maxová, Samira Rafaela, Susana Solís Pérez, Hilde Vautmans, Chrysoula Zacharopoulou
Verts/ALE	Gwendoline Delbos-Corfield, Alice Kuhnke, Diana Riba i Giner, Ernest Urtasun
GUE/NGL	Elena Kountoura, Eugenia Rodríguez Palop
NI	Marco Zullo

 

3	-
ID	Annika Bruna
ECR	Derk Jan Eppink, Jessica Stegrud

 

4	0
ID	Christine Anderson, Simona Baldassarre, Isabella Tovaglieri
ECR	Margarita de la Pisa Carrión

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržani

INFORMACIJE O USVAJANJU U NADLEŽNOM ODBORU

Datum usvajanja	16.3.2021
Rezultat konačnog glasovanja	+: –: 0:	25 0 4
Zastupnici nazočni na konačnom glasovanju	Asim Ademov, Isabella Adinolfi, Christine Anderson, Ilana Cicurel, Gilbert Collard, Gianantonio Da Re, Laurence Farreng, Tomasz Frankowski, Hannes Heide, Irena Joveva, Petra Kammerevert, Niyazi Kizilyürek, Ryszard Antoni Legutko, Predrag Fred Matić, Dace Melbārde, Victor Negrescu, Niklas Nienaß, Peter Pollák, Marcos Ros Sempere, Domènec Ruiz Devesa, Monica Semedo, Andrey Slabakov, Massimiliano Smeriglio, Michaela Šojdrová, Sabine Verheyen, Theodoros Zagorakis, Milan Zver
Zamjenici nazočni na konačnom glasovanju	Christian Ehler, Marcel Kolaja

 

POIMENIČNO KONAČNO GLASOVANJE U NADLEŽNOM ODBORU

25	+
ECR	Dace Melbārde
ID	Gilbert Collard
NI	Isabella Adinolfi
PPE	Asim Ademov, Christian Ehler, Tomasz Frankowski, Peter Pollák, Michaela Šojdrová, Sabine Verheyen, Theodoros Zagorakis, Milan Zver
Renew	Ilana Cicurel, Laurence Farreng, Irena Joveva, Monica Semedo
S&D	Hannes Heide, Petra Kammerevert, Predrag Fred Matić, Victor Negrescu, Marcos Ros Sempere, Domènec Ruiz Devesa, Massimiliano Smeriglio
The Left	Niyazi Kizilyürek
Verts/ALE	Marcel Kolaja, Niklas Nienaß

 

0	-
.	.

 

4	0
ECR	Ryszard Antoni Legutko, Andrey Slabakov
ID	Christine Anderson, Gianantonio Da Re

 

Korišteni znakovi:

+ : za

- : protiv

0 : suzdržanih

• [1] SL C 202 I, 16.6.2020., str. 1.
• [2] SL C 440, 6.12.2018., str. 37.
• [3] SL C 449, 23.12.2020., str. 37.
• [4] SL C 433, 23.12.2019., str. 42.
• [5] SL C 28, 27.1.2020., str. 8.
• [6] SL C 252, 18.7.2018., str. 239.
• [7] SL C 307, 30.8.2018., str. 163.
• [8] Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (SL L 119, 4.5.2016., str. 1.).
• [9] Direktiva 2002/58/EZ Europskog parlamenta i Vijeća od 12. srpnja 2002. o obradi osobnih podataka i zaštiti privatnosti u području elektroničkih komunikacija (Direktiva o privatnosti i elektroničkim komunikacijama) (SL L 201, 31.7.2002., str. 37.).
• [10] Izvješće posebnog izvjestitelja UN-a o promicanju i zaštiti prava na slobodu mišljenja i izražavanja, 29. kolovoza 2018.
• [11] Direktiva 2005/36/EZ Europskog parlamenta i Vijeća od 7. rujna 2005. o priznavanju stručnih kvalifikacija (SL L 255, 30.9.2005., str. 22.).
• [12] Sud Europske unije, Predmet C-833/18, SI i Brompton Bicycle Ltd protiv Chedech/Get2Get.
• [13] Direktiva (EU) 2019/790 Europskog parlamenta i Vijeća od 17. travnja 2019. o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu i izmjeni direktiva 96/9/EZ i 2001/29/EZ (SL L 130, 17.5.2019., str. 92.).
• [14] Uredba (EU) 2019/1150 Europskog parlamenta i Vijeća od 20. lipnja 2019. o promicanju pravednosti i transparentnosti za poslovne korisnike usluga internetskog posredovanja (SL L 186, 11.7.2019., str. 57.).
• [15] Direktiva (EU) 2019/2161 Europskog parlamenta i Vijeća od 27. studenoga 2019. o izmjeni Direktive Vijeća 93/13/EEZ i direktiva 98/6/EZ, 2005/29/EZ te 2011/83/EU Europskog parlamenta i Vijeća u pogledu boljeg izvršavanja i modernizacije pravila Unije o zaštiti potrošača (SL L 328, 18.12.2019., str. 7.).
• [16] Direktiva 2000/31/EZ Europskog parlamenta i Vijeća od 8. lipnja 2000. o određenim pravnim aspektima usluga informacijskog društva na unutarnjem tržištu, posebno elektroničke trgovine (SL L 178, 17.7.2000., str. 1.).
• [17] Direktiva (EU) 2018/1808 Europskog parlamenta i Vijeća od 14. studenoga 2018. o izmjeni Direktive 2010/13/EU o koordinaciji određenih odredaba utvrđenih zakonima i drugim propisima u državama članicama o pružanju audiovizualnih medijskih usluga u pogledu promjenjivog stanja na tržištu (SL L 303, 28.11.2018., str. 69.).
• [18] Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.).
• [19] Uredba 2002/58/EZ Europskog parlamenta i Vijeća od 12. srpnja 2002. o obradi osobnih podataka i zaštiti privatnosti u području elektroničkih komunikacija (Direktiva o privatnosti i elektroničkim komunikacijama) (SL L 201, 31.7.2002., str. 37.).
• [20] SL L 130, 17.5.2019., str. 92.
• [21] Sud Europske unije, SI i Brompton Bicycle Ltd protiv Chedech Get2Get, predmet C-833/18.
• [22] Izvješće posebnog izvjestitelja UN-a o promicanju i zaštiti prava na slobodu mišljenja i izražavanja, https://undocs.org/A/73/348
• [23] COM(2020) 66 final, https://eur-lex.europa.eu/legal-content/HR/TXT/HTML/?uri=CELEX:52020DC0066