Europski parlament,

–   uzimajući u obzir Povelju Europske unije o temeljnim pravima(„Povelja”),

–  uzimajući u obzir članke 165., 166. i 167. Ugovora o funkcioniranju Europske unije,

–   uzimajući u obzir Zaključke Vijeća od 9. lipnja 2020. o oblikovanju digitalne budućnosti Europe(1),

–   uzimajući u obzir Mišljenje Europskog gospodarskog i socijalnog odbora od 19. rujna 2018. o temi „Digitalni jaz među spolovima”(2),

–   uzimajući u obzir Komisijin Prijedlog uredbe Europskog parlamenta i Vijeća od 6. lipnja 2018. o uspostavi programa Digitalna Europa za razdoblje 2021. – 2027. (COM(2018)0434),

–   uzimajući u obzir Komunikaciju Komisije od 30. rujna 2020. o Akcijskom planu za digitalno obrazovanje 2021. – 2027.: Prilagodba obrazovanja i osposobljavanja digitalnom dobu (COM(2020)0624),

–   uzimajući u obzir Komunikaciju Komisije od 30. rujna 2020. o uspostavi europskog prostora obrazovanja do 2025. (COM(2020)0625),

–  uzimajući u obzir Izvješće Komisije od 19. veljače 2020. o utjecaju umjetne inteligencije, interneta stvari i robotike na sigurnost i odgovornost (COM(2020)0064),

–  uzimajući u obzir bijelu knjigu Europske komisije od 19. veljače 2020. naslovljenu „Umjetna inteligencija – europski pristup izvrsnosti i povjerenju” (COM(2020)0065),

–  uzimajući u obzir komunikaciju Komisije od 19. veljače 2020. naslovljenu „Europska strategija za podatke” (COM(2020)0066),

–  uzimajući u obzir komunikaciju Komisije od 25. travnja 2018. naslovljenu „Umjetna inteligencija za Europu” (COM(2018)0237),

–  uzimajući u obzir Komunikaciju Komisije od 17. siječnja 2018. o akcijskom planu za digitalno obrazovanje (COM(2018)0022),

–   uzimajući u obzir izvješće Stručne skupine Komisije na visokoj razini za umjetnu inteligenciju od 8. travnja 2019. pod nazivom „Etičke smjernice za pouzdanu umjetnu inteligenciju”,

–  uzimajući u obzir svoju Rezoluciju od 12. veljače 2019. o sveobuhvatnoj europskoj industrijskoj politici o umjetnoj inteligenciji i robotici(3),

–  uzimajući u obzir svoju Rezoluciju od 11. rujna 2018. o jezičnoj ravnopravnosti u digitalnom dobu(4),

–   uzimajući u obzir svoju Rezoluciju od 12. lipnja 2018. o modernizaciji sustava obrazovanja u EU-u(5),

–  uzimajući u obzir svoju Rezoluciju od 16. veljače 2017. s preporukama Komisiji o pravilima građanskog prava o robotici(6),

–  uzimajući u obzir svoju Rezoluciju od 1. lipnja 2017. o digitalizaciji europske industrije(7),

–   uzimajući u obzir kratko izvješće svog Resornog odjela za strukturnu i kohezijsku politiku iz svibnja 2020. o upotrebi umjetne inteligencije u kulturnim i kreativnim sektorima,

–   uzimajući u obzir detaljnu analizu svog Resornog odjela za strukturnu i kohezijsku politiku iz svibnja 2020. o upotrebi umjetne inteligencije u audiovizualnom sektoru,

–   uzimajući u obzir studiju svoga Resornog odjela za prava građana i ustavna pitanja iz travnja 2020. o obrazovanju i zapošljavanju žena u znanosti, tehnologiji i digitalnom gospodarstvu, uključujući umjetnu inteligenciju i njezin utjecaj na rodnu ravnopravnost,

–  uzimajući u obzir članak 54. Poslovnika,

–  uzimajući u obzir mišljenja Odbora za građanske slobode, pravosuđe i unutarnje poslove, Odbora za unutarnje tržište i zaštitu potrošača, Odbora za pravna pitanja i Odbora za prava žena i rodnu ravnopravnost,

–  uzimajući u obzir izvješće Odbora za kulturu i obrazovanje (A9-0127/2021),

A.  budući da se tehnologije umjetne inteligencije, koje mogu imati izravan utjecaj na naša društva, brzo razvijaju i sve se više koriste u gotovo svim područjima našeg života, uključujući obrazovanje, kulturu i audiovizualni sektor; budući da će etička umjetna inteligencija vjerojatno pomoći da se poboljša radna produktivnost i ubrza gospodarski rast;

B.  budući da se razvoj, uvođenje i korištenje umjetne inteligencije, uključujući softver, algoritme i podatke koje umjetna inteligencija koristi i proizvodi, trebaju voditi etičkim načelima transparentnosti, objašnjivosti, poštenja i odgovornosti;

C.  budući da javno ulaganje u umjetnu inteligenciju u Uniji znatno zaostaje za drugim vodećim gospodarstvima; budući da će nedovoljno ulaganje u umjetnu inteligenciju vjerojatno imati utjecaj na konkurentnost Unije u svim sektorima;

D.  budući da su integrirani pristup umjetnoj inteligenciji te dostupnost, prikupljanje i tumačenje visokokvalitetnih, pouzdanih, poštenih, transparentnih, pouzdanih, sigurnih i kompatibilnih podataka ključni za razvoj etičke umjetne inteligencije;

E.  budući da se u članku 21. Povelje zabranjuje diskriminacija na cijelom nizu osnova; budući da se brojni oblici diskriminacije ne bi trebali ponavljati pri razvoju, uvođenju i upotrebi sustava umjetne inteligencije;

F.  budući da je rodna ravnopravnost jedno od temeljnih načela Unije utvrđenih u Ugovorima i da se treba odražavati u svim politikama Unije, među ostalim u obrazovanju, kulturi i audiovizualnom sektoru te u razvoju tehnologija kao što je umjetna inteligencija;

G.  budući da nam prošla iskustva, osobito u tehničkim područjima, pokazuju da se razvoj i inovacije često temelje uglavnom na podacima koji se odnose na muškarce te da se potrebe žena ne odražavaju u potpunosti; budući da uklanjanje tih pristranosti zahtijeva veći oprez, tehnička rješenja i postavljanje jasnih zahtjeva u pogledu pravednosti, odgovornosti i transparentnosti;

H.  budući da nepotpuni i netočni skupovi podataka, nedostatak podataka prikazanih po spolu i pogrešni algoritmi mogu narušiti postupak obrade sustava umjetne inteligencije i ugroziti postizanje rodne ravnopravnosti u društvu; budući da su podaci o skupinama u nepovoljnom položaju i intersekcijskim oblicima diskriminacije obično nepotpuni ili čak ne postoje;

I.  budući da se rodne nejednakosti, stereotipi i diskriminacija mogu stvoriti i ponavljati preko jezika i slika koje šire mediji i aplikacije zasnovane na umjetnoj inteligenciji; budući da obrazovanje, kulturni programi i audiovizualni sadržaji imaju znatan utjecaj na oblikovanje ljudskih uvjerenja i vrijednosti te da su oni ključan alat za borbu protiv rodnih stereotipa, smanjivanje digitalnog jaza među spolovima i uspostavljanje čvrstih uzora; budući da etički i regulatorni okvir mora biti uspostavljen prije provedbe automatiziranih rješenja u tim ključnim područjima društva;

J.  budući da znanost i inovacije najranjivijim skupinama, kao što su žene i djevojke koje žive u udaljenim područjima, mogu donijeti prednosti koje će korjenito izmijeniti njihov život; budući da je znanstveno obrazovanje važno za stjecanje vještina, osiguravanje dostojanstvenog rada i osmišljavanje radnih mjesta budućnosti, kao i za razbijanje rodnih stereotipa prema kojima je to područje unaprijed određeno za muškarce; budući da su znanost i znanstveno promišljanje ključni za demokratsku kulturu, koja je pak ključna za unapređenje rodne ravnopravnosti;

K.  budući da je u Uniji jedna od deset žena od svoje 15. godine već pretrpjela neki oblik kibernetičkog nasilja, a kibernetičko uznemiravanje i dalje je razlog za zabrinutost pri razvoju umjetne inteligencije, među ostalim u području obrazovanja; budući da je kibernetičko nasilje često usmjereno na žene prisutne u javnom životu, kao što su aktivistice, političarke i druge javne osobe; budući da umjetna inteligencija i druge nove tehnologije mogu imati važnu ulogu u sprječavanju kibernetičkog nasilja nad ženama i djevojkama te u obrazovanju ljudi;

L.  budući da Unija i njezine države članice imaju osobitu odgovornost da iskorištavaju i promiču tehnologije umjetne inteligencije te povećavaju njihovu dodanu vrijednost, kao i da osiguraju da te tehnologije budu sigurne i da služe dobrobiti i općem interesu Europljana; budući da te tehnologije mogu znatno doprinijeti postizanju zajedničkog cilja, a to je poboljšanje života naših građana i veće blagostanje diljem Unije davanjem doprinosa razvoju boljih strategija i inovacija u brojnim područjima, na primjer u obrazovanju, kulturi i audiovizualnom sektoru;

M.  budući da se umjetna inteligencija uglavnom temelji na softveru otvorenog koda, što znači da se izvorni kodovi mogu pregledavati, mijenjati i poboljšavati;

N.  budući da bi mogle biti potrebne određene prilagodbe postojećih zakonodavnih instrumenata EU-a kako bi se držao korak s digitalnom transformacijom te premostili novi izazovi koje donosi korištenje tehnologija umjetne inteligencije u obrazovanju, kulturi i audiovizualnom sektoru, kao što su zaštita osobnih podataka i privatnosti, borba protiv diskriminacije, promicanje rodne ravnopravnosti, poštovanje prava intelektualnog vlasništva, zaštita okoliša i prava potrošača;

O.  budući da je, kako bi se osigurali ravnopravni uvjeti, audiovizualnom sektoru važno osigurati pristup podacima globalnih platformi i vodećih aktera;

P.  budući da umjetna inteligencija te buduće aplikacije ili izumi do kojih se dođe s pomoću umjetne inteligencije, kao i sva druga tehnologija, mogu imati dvojnu prirodu; budući da umjetna inteligencija i s njom povezane tehnologije izazivaju veliku zabrinutost u pogledu etičnosti i transparentnosti njihova razvoja te njihova uvođenja i korištenja, osobito kad je riječ o prikupljanju, korištenju i distribuciji podataka; budući da se prednosti i rizici tehnologija umjetne inteligencije u obrazovanju, kulturi i audiovizualnom sektoru moraju pažljivo procijeniti te se moraju temeljito i kontinuirano analizirati njihovi učinci na sve aspekte društva, a da se pritom ne dovodi u pitanje njihov potencijal;

Q.  budući da je cilj obrazovanja ostvariti ljudski potencijal, kreativnost i istinske društvene promjene, dok nepravilno korištenje sustava umjetne inteligencije temeljenih na podacima može omesti ljudski i društveni razvoj;

R.  budući da su obrazovanje i prilike za obrazovanje temeljno pravo; budući da razvoj, uvođenje i korištenje tehnologija umjetne inteligencije u sektoru obrazovanja treba klasificirati kao visokorizične te ih podvrgnuti strožim zahtjevima u pogledu sigurnosti, transparentnosti, pravednosti i odgovornosti;

S.  budući da su visokokvalitetna, brza i sigurna široko rasprostranjena povezanost, širokopojasne mreže, mreže visokog kapaciteta, stručnost u informacijskoj tehnologiji, digitalne vještine, digitalna oprema i infrastruktura, kao i društvena prihvaćenost te okvir ciljanih i poticajnih javnih politika neki od preduvjeta za široku i uspješnu primjenu umjetne inteligencije u Uniji; budući da je ravnopravno uvođenje spomenute infrastrukture i opreme u cijeloj Uniji ključno kako bi se premostio kontinuirani digitalni jaz među regijama i građanima Unije;

T.  budući da je rješavanje pitanja rodnog jaza u područjima znanosti, tehnologije, inženjerstva, umjetnosti i matematike nužno kako bi se osigurala ravnopravna i pravedna zastupljenost cijelog društva pri razvoju, uvođenju i korištenju tehnologija umjetne inteligencije, uključujući softver, algoritme i podatke koje te tehnologije koriste i proizvode;

U.  budući da je od presudne važnosti osigurati da svi ljudi u Uniji steknu potrebne vještine od rane dobi kako bi bolje razumjeli sposobnosti i ograničenja umjetne inteligencije, kako bi se bolje pripremili za sve veću prisutnost umjetne inteligencije i s njom povezanih tehnologija u svim aspektima ljudske aktivnosti te u potpunosti iskoristili prilike koje ona nudi; budući da je rasprostranjeno stjecanje digitalnih vještina u svim dijelovima društva u Uniji preduvjet za postizanje pravedne digitalne transformacije korisne svima;

V.  budući da to od država članica zahtijeva ulaganje u digitalno i medijsko obrazovanje, opremanje škola odgovarajućom infrastrukturom i krajnjim uređajima te posvećivanje veće pozornosti poučavanju digitalnih vještina i kompetencija u kurikulumima;

W.  budući da se umjetna inteligencija i s njom povezane tehnologije mogu koristiti za poboljšanje metoda učenja i poučavanja, posebno pružanjem pomoći obrazovnim sustavima pri korištenju pravednih podataka za poboljšanje obrazovne jednakosti i kvalitete, uz promicanje ciljano osmišljenih kurikuluma i boljeg pristupa obrazovanju te unapređivanje i automatizaciju određenih administrativnih zadataka; budući da je potreban ravnopravan i pravedan pristup digitalnim tehnologijama i brzoj povezivosti kako bi upotreba umjetne inteligencije bila od koristi cijelom društvu; budući da je od presudne važnosti pobrinuti se da digitalno obrazovanje bude dostupno svima, uključujući osobe u nepovoljnom položaju i osobe s invaliditetom; budući da ishodi učenja ne ovise o samoj tehnologiji nego o tome kako nastavnici mogu upotrijebiti tehnologiju na pedagoški smislene načine;

X.  budući da umjetna inteligencija ima poseban potencijal da ponudi rješenja za svakodnevne probleme u obrazovnom sektoru, kao što su personalizacija učenja, praćenje poteškoća u učenju i automatizacija sadržaja/znanja specifičnih za određeni predmet, bolje stručno osposobljavanje i podupiranje prelaska na digitalno društvo;

Y.  budući da bi umjetna inteligencija mogla imati praktičnu primjenu u smanjenju administrativnog rada edukatora i obrazovnih ustanova, čime bi se moglo osloboditi vrijeme za njihove osnovne nastavne aktivnosti i aktivnosti učenja;

Z.  budući da nove aplikacije utemeljene na umjetnoj inteligenciji, koje se primjenjuju u obrazovanju, olakšavaju napredak u brojnim područjima kao što su učenje jezika i matematika;

AA.  budući da personalizirano učenje s pomoću umjetne inteligencije može povećati motivaciju učenika i pomoći im da ostvare svoj puni potencijal, ali i pridonijeti smanjenju stope napuštanja školovanja;

AB.  budući da umjetna inteligencija može više pomoći nastavnicima u tome da postanu učinkovitiji tako što će im omogućiti da bolje razumiju metode i stilove učenja svojih učenika te im pomoći da lakše prepoznaju poteškoće u učenju i bolje procijene ostvareni pojedinačni napredak;

AC.  budući da na digitalnom tržištu rada Unije nedostaje gotovo pola milijuna stručnjaka u području velikih količina podataka i analize podataka, što je okosnica razvoja i korištenja kvalitetne i pouzdane umjetne inteligencije;

AD.  budući da primjena umjetne inteligencije u obrazovanju izaziva zabrinutost u pogledu etičke upotrebe podataka, prava učenika, pristupa podacima i zaštite osobnih podataka te stoga nosi rizike u pogledu temeljnih prava, kao što je stvaranje stereotipnih modela profila i ponašanja učenika, koji bi mogli dovesti do diskriminacije ili do rizika od nanošenja štete širenjem loših pedagoških praksi;

AE.  budući da kultura igra središnju ulogu u široko rasprostranjenom korištenju tehnologija umjetne inteligencije i postaje ključna disciplina za kulturnu baštinu zahvaljujući razvoju inovativnih tehnologija i alata i njihovoj učinkovitoj primjeni u odgovaranju na potrebe sektora;

AF.  budući da se tehnologije umjetne inteligencije mogu koristiti za promicanje i zaštitu kulturne baštine, među ostalim korištenjem digitalnih instrumenata radi očuvanja povijesnih lokaliteta i pronalaženjem inovativnih načina još većeg širenja i lakše dostupnosti skupova podataka o kulturnim artefaktima koje posjeduju kulturne institucije širom Unije, a korisnicima omogućuje lakše snalaženje u golemoj količini kulturnog i kreativnog sadržaja; budući da je promicanje standarda i okvira interoperabilnosti u tom pogledu ključno;

AG.  budući da se upotrebom tehnologija umjetne inteligencije za kulturne i kreativne sadržaje, posebno za medijske sadržaje i preporuke o prilagođenim sadržajima, postavljaju pitanja u pogledu zaštite podataka, diskriminacije te kulturne i jezične raznolikosti, riskira stvaranje diskriminirajućih rezultata na temelju pristranih ulaznih podataka te bi se mogla ograničiti raznolikost mišljenja i medijski pluralizam;

AH.  budući da se preporuke o personaliziranom sadržaju utemeljene na umjetnoj inteligenciji često mogu bolje usmjeriti na posebne potrebe pojedinaca, uključujući kulturne i jezične preferencije; budući da umjetna inteligencija može doprinijeti promicanju jezične raznolikosti u Uniji i boljem širenju europskih audiovizualnih djela, posebno automatiziranim titlovanjem i sinkronizacijom audiovizualnog sadržaja na druge jezike; budući da je stoga kreiranje medijskog sadržaja na svim jezicima ključno za potporu kulturnoj i jezičnoj raznolikosti;

AI.  budući da umjetna inteligencija potiče inovacije u novinskim redakcijama automatizacijom različitih svakodnevnih zadaća, tumačenjem podataka pa čak i proizvodnjom vijesti kao što su vremenska prognoza i sportski rezultati;

AJ.  budući da lingvistička raznolikost Europe znači da promicanje računalne lingvistike za umjetnu inteligenciju utemeljenu na pravima nudi poseban inovacijski potencijal koji se može koristiti kako bi globalna kulturna i informacijska razmjena u digitalnom dobu postala demokratska i nediskriminirajuća;

AK.  budući da bi tehnologije umjetne inteligencije mogle pozitivno utjecati na obrazovanje osoba s posebnim potrebama, kao i na dostupnost kulturnih i kreativnih sadržaja za osobe s invaliditetom; budući da umjetna inteligencija omogućuje rješenja kao što su prepoznavanje govora, virtualni asistenti i digitalno predstavljanje fizičkih objekata; budući da digitalna djela već imaju ulogu u tome da se takav sadržaj učini dostupnim osobama s invaliditetom;

AL.  budući da su aplikacije umjetne inteligencije sveprisutne u audiovizualnom sektoru, posebno na platformama za audiovizualne sadržaje;

AM.  budući da tehnologije umjetne inteligencije stoga doprinose stvaranju, planiranju, produkciji, distribuciji, lokalizaciji i konzumaciji audiovizualnih medijskih proizvoda te upravljanju njima;

AN.  budući da se umjetna inteligencija može koristiti za stvaranje lažnog sadržaja, poput deepfake uradaka (uvjerljivo krivotvoreni sadržaji) čiji broj eksponencijalno raste i koji su neposredna prijetnja demokraciji, ali se može koristiti i kao neprocjenjiv alat za utvrđivanje takvih zlonamjernih aktivnosti i neposrednu borbu protiv njih, na primjer provjerom činjenica u stvarnom vremenu ili označivanjem takvog sadržaja; budući da je većinu deepfake uradaka lako prepoznati; budući da su u isto vrijeme alati za otkrivanje utemeljeni na umjetnoj inteligenciji u pravilu uspješni pri označivanju i filtriranju takvog sadržaja; budući da za to pitanje ne postoji pravni okvir;

Opće napomene

1.  ističe stratešku važnost umjetne inteligencije i s njom povezanih tehnologija za Europsku uniju; naglašava da pristup umjetnoj inteligenciji i s njom povezanim tehnologijama mora biti usmjeren na čovjeka i utemeljen na ljudskim pravima i etici kako bi umjetna inteligencija zaista postala sredstvo u službi ljudi, općeg dobra i općeg interesa građana;

2.  ističe da se pri razvoju, uvođenju i korištenju umjetne inteligencije u obrazovnom, kulturnom i audiovizualnom sektoru moraju u cijelosti poštovati temeljna prava, slobode i vrijednosti, uključujući ljudsko dostojanstvo, privatnost, zaštitu osobnih podataka, nediskriminaciju te slobodu izražavanja i informiranja, kao i kulturnu raznolikost te prava intelektualnog vlasništva, kako su utvrđeni u Ugovorima Unije i Povelji;

3.  tvrdi da su obrazovanje, kultura i audiovizualni sektor osjetljiva područja kad je riječ o upotrebi umjetne inteligencije i s njom povezanih tehnologija jer imaju potencijal utjecati na osnove temeljnih prava i vrijednosti našeg društva; stoga naglašava da se treba pridržavati etičkih načela pri razvoju, uvođenju i korištenju umjetne inteligencije i s njome povezanih tehnologija u tim sektorima, uključujući softver, algoritme i podatke koje one pritom koriste i proizvode;

4.  podsjeća da bi algoritmi i umjetna inteligencija trebali biti „etički po naravi”, bez ugrađenih pristranosti, tako da se jamči maksimalna zaštita temeljnih prava;

5.  ponovno ističe važnost razvoja kvalitetne, kompatibilne i uključive umjetne inteligencije i s njom povezanih tehnologija kojima se poštuju i štite vrijednosti Unije, posebno rodna ravnopravnost, višejezičnost i uvjeti potrebni za međukulturni dijalog, jer upotreba nekvalitetnih, zastarjelih, nepotpunih ili netočnih podataka može dovesti do loših predviđanja, a time i do diskriminacije i pristranosti; ističe da je za poboljšanje prikupljanja, sigurnosti, sistematizacije i prenosivosti podataka ključno razviti sposobnosti na nacionalnoj razini i na razini Unije, a da se pritom ne ugrožava privatnost; prima na znanje prijedlog Komisije za stvaranje jedinstvenog europskog podatkovnog prostora;

6.  podsjeća na to da umjetna inteligencija može dovesti do pristranosti, a time i do raznih oblika diskriminacije na temelju spola, rase, boje kože, etničkog ili socijalnog podrijetla, genetskih osobina, jezika, vjere ili uvjerenja, političkog ili bilo kakvog drugog mišljenja, pripadnosti nacionalnoj manjini, imovine, rođenja, invaliditeta, dobi ili seksualne orijentacije; u tom pogledu podsjeća da se moraju zajamčiti prava svih ljudi i da umjetna inteligencija i s njom povezane tehnologije ne smiju dovesti ni do kakvog oblika diskriminacije;

7.  ističe da ta pristranost i diskriminacija mogu proizaći iz već pristranih skupova podataka, koji su odraz aktualne diskriminacije u društvu; u tom kontekstu podsjeća da je od presudne važnosti uključiti odgovarajuće dionike, među ostalim civilno društvo, kako bi se spriječilo nenamjerno uključivanje rodne, socijalne i kulturne pristranosti u algoritme, sustave i aplikacije umjetne inteligencije; naglašava da je potrebno raditi na pronalaženju najučinkovitijeg načina smanjenja pristranosti u sustavima umjetne inteligencije, u skladu s etičkim standardima i standardima nediskriminacije; ističe da bi skupovi podataka koji se upotrebljavaju za osposobljavanje umjetne inteligencije trebali biti što širi kako bi predstavljali društvo na najbolji i najrelevantniji način, da bi rezultate trebalo preispitati kako bi se izbjegli svi oblici stereotipa, diskriminacije i pristranosti te da bi se, prema potrebi, umjetna inteligencija trebala koristiti za utvrđivanje i ispravljanje ljudske pristranosti gdje god do nje dolazi; poziva Komisiju da potakne i olakša razmjenu strategija za smanjenje pristranosti u pogledu podataka;

8.  poziva Komisiju i države članice da pri izradi politike i zakonodavstva u području umjetne inteligencije uzmu u obzir etičke aspekte, među ostalim iz rodne perspektive, te da po potrebi prilagode postojeće zakonodavstvo, uključujući programe Unije i etičke smjernice za korištenje umjetne inteligencije;

9.  poziva Komisiju i države članice da osmisle mjere kojima će se u potpunosti obuhvatiti rodna dimenzija, kao što su kampanje za podizanje razine svijesti, programi osposobljavanja i nastavni planovi, koji bi građanima trebali pružiti informacije o načinu funkcioniranja algoritama i njihovu utjecaju na svakodnevni život građana; nadalje ih poziva da njeguju rodno ravnopravno razmišljanje i radne uvjete koji vode do razvoja uključivijih tehnoloških proizvoda i radnih okružja; potiče Komisiju i države članice da osiguraju uključivanje digitalnih vještina i osposobljavanje za umjetnu inteligenciju u školske programe i učine ih dostupnima svima, što je način za uklanjanje digitalne rodne podjele;

10.  ističe potrebu za osposobljavanjem radnika i nastavnog osoblja koji se bave umjetnom inteligencijom radi promicanja sposobnosti identificiranja i ispravljanja rodno diskriminirajućih praksi na radnom mjestu i u obrazovanju, kao i za osposobljavanjem radnika koji razvijaju sustave i aplikacije umjetne inteligencije za identificiranje i rješavanje problema diskriminacije na temelju spola u sustavima i aplikacijama koje razvijaju; poziva na utvrđivanje jasnih odgovornosti u trgovačkim društvima i obrazovnim ustanovama kako bi se osiguralo da na radnom mjestu ili u obrazovnom kontekstu ne postoji diskriminacija na temelju spola; naglašava da bi se u obrazovne i kulturne svrhe trebale upotrebljavati rodno neutralne slike umjetne inteligencije i robota, osim ako zbog nekog razloga spol nije ključan čimbenik;

11.  naglašava važnost razvoja i uvođenja aplikacija umjetne inteligencije u obrazovnom, kulturnom i audiovizualnom sektoru pri prikupljanju podataka prikazanih prema spolu i drugih podataka o ravnopravnosti te važnost primjene suvremenih tehnika strojnog učenja za uklanjanje pristranosti kako bi se, ako je to potrebno, ispravili rodni stereotipi i rodna pristranost koji mogu imati negativne učinke;

12.  poziva Komisiju da obrazovanje uključi u regulatorni okvir za visokorizične aplikacije umjetne inteligencije, s obzirom na to da je važno osigurati da obrazovanje i dalje pridonosi javnom dobru, kao i s obzirom na visoku osjetljivost podataka o đacima, studentima i drugim učenicima; ističe da bi u obrazovnom sektoru to uključivanje trebalo obuhvaćati nastavnike, učenike i šire društvo te bi trebalo uzeti u obzir svačije potrebe i očekivane koristi kako bi se osiguralo da se umjetna inteligencija koristi svrhovito i etički;

13.  poziva Komisiju da potiče uporabu programa Unije kao što su Obzor Europa, Digitalna Europa i Erasmus+ za promicanje multidisciplinarnih istraživanja, pilot projekata, eksperimenata i razvoja alata, uključujući osposobljavanje, za utvrđivanje rodnih pristranosti u umjetnoj inteligenciji, kao i upotrebu kampanja za podizanje razine svijesti usmjerenih na širu javnost;

14.  naglašava potrebu za stvaranjem raznolikih skupina programera i inženjera koji surađuju s glavnim akterima u obrazovnom, kulturnom i audiovizualnom sektoru kako bi se spriječilo nenamjerno uključivanje rodne ili društvene pristranosti u algoritme, sustave i aplikacije umjetne inteligencije; naglašava potrebu da se uzme u obzir raznolikost različitih teorija na temelju kojih se umjetna inteligencija razvijala do danas i na temelju kojih bi se mogla dalje unapređivati u budućnosti;

15.  ističe da nastojanje da se eliminira pristranost i diskriminacija usmjerena protiv određenih skupina, uključujući rodne stereotipe, ne bi smjelo kočiti tehnološki napredak;

16.  ponovno ističe važnost temeljnih prava i sveobuhvatne nadređenosti zakonodavstva o zaštiti podataka i privatnosti, što je ključno kada je riječ o takvim tehnologijama; podsjeća na to da umjetna inteligencija može posebno utjecati na zaštitu podataka i privatnost, osobito u pogledu podataka o djeci; ističe da su načela utvrđena Općom uredbom o zaštiti podataka(8) obvezujuća za uvođenje umjetne inteligencije u tom pogledu; osim toga, podsjeća na to da se svim aplikacijama umjetne inteligencije mora u potpunosti poštovati pravo Unije o zaštiti podataka, odnosno Opća uredba o zaštiti podataka i Direktiva o e-privatnosti(9); ističe pravo na ljudsku intervenciju pri upotrebi umjetne inteligencije i s njom povezanih tehnologija;

17.  poziva Komisiju i države članice da uvedu obvezu transparentnosti i objašnjivosti automatiziranih pojedinačnih odluka koje se temelje na umjetnoj inteligenciji i donose u okviru ovlasti javnih tijela te da uvedu kazne u vezi s ispunjavanjem tih obveza; poziva na provedbu sustava u kojima se prema zadanim postavkama upotrebljavaju provjere i intervencije koje obavlja čovjek, na provedbu zakonitog postupanja, uključujući pravo na žalbu i pravnu zaštitu, te na pristup pravnim lijekovima;

18.  prima na znanje mogući negativan učinak personaliziranog oglašavanja, a posebno mikrociljanog i bihevioralnog oglašavanja i procjene pojedinaca, osobito maloljetnika, bez njihova pristanka, uplitanjem u privatni život pojedinaca, postavljanjem pitanja kako bi se prikupili i koristili podaci koji se upotrebljavaju za personaliziranje oglašavanja, ponudom proizvoda i usluga ili utvrđivanjem cijena; stoga poziva Komisiju da uvede stroga ograničenja za ciljano oglašavanje na temelju prikupljanja osobnih podataka, počevši od zabrane bihevioralnog oglašavanja na raznim platformama, bez nanošenja štete malim i srednjim poduzećima (MSP-ovima); podsjeća na to da se Direktivom o e-privatnosti trenutačno dopušta samo ciljano oglašavanje podložno pristanku, u suprotnome je nezakonito; poziva Komisiju da zabrani upotrebu diskriminirajućih praksi u pogledu pružanja usluga ili proizvoda;

19.  naglašava potrebu da medijske organizacije budu informirane o glavnim parametrima sustava umjetne inteligencije koji se temelje na algoritmima i koji određuju rangiranje i rezultate pretraživanja na platformama trećih strana, te da korisnici budu informirani o uporabi umjetne inteligencije u službama za donošenje odluka i da se potaknu na to da postave svoje parametre privatnosti s pomoću transparentnih i razumljivih mjera;

20.  ističe da umjetna inteligencija može imati ulogu u podupiranju stvaranja sadržaja u obrazovnom, kulturnom i audiovizualnom sektoru, zajedno s informativnim i obrazovnim platformama, uključujući popise raznih vrsta kulturnih predmeta i velik broj izvora podataka; napominje da postoje rizici od povrede prava intelektualnog vlasništva pri miješanju umjetne inteligencije i raznih tehnologija s mnoštvom izvora (dokumenata, slika, filmova) kako bi se poboljšao način prikazivanja, istraživanja i vizualizacije podataka; poziva na korištenje umjetne inteligencije kako bi se osigurala visoka razina zaštite prava intelektualnog vlasništva unutar trenutačnog zakonodavnog okvira, na primjer upozoravanjem pojedinaca i poslovnih subjekata ako su u opasnosti da nenamjerno prekrše pravila ili pružanjem pomoći nositeljima prava intelektualnog vlasništva ako su pravila stvarno prekršena; stoga ističe važnost prikladnog europskog pravnog okvira na razini Unije za zaštitu prava intelektualnog vlasništva u vezi s korištenjem umjetne inteligencije;

21.  ističe potrebu za uspostavljanjem ravnoteže između, s jedne strane, razvoja sustavâ umjetne inteligencije i njihove uporabe u obrazovnom, kulturnom i audiovizualnom sektoru te, s druge strane, mjera za zaštitu tržišnog natjecanja i tržišne konkurentnosti za trgovačka društva u području umjetne inteligencije u tim sektorima; u tom pogledu naglašava potrebu za poticanjem društava da ulažu u inovacije u području sustava umjetne inteligencije koji se upotrebljavaju u tim sektorima, pri čemu također treba osigurati da ona društva koja pružaju te aplikacije ne ostvare tržišni monopol; ističe da umjetna inteligencija treba biti široko dostupna u kulturnim i kreativnim sektorima i industrijama diljem Europe kako bi se zadržali ravnopravni uvjeti i pošteno tržišno natjecanje svih dionika i aktera u Europi; poziva Komisiju i države članice da pri donošenju odluka u području politike tržišnog natjecanja, uključujući spajanja, u većoj mjeri uzmu u obzir ulogu podataka i algoritama u koncentraciji tržišne moći;

22.  naglašava potrebu za sustavnim rješavanjem socijalnih, etičkih i pravnih pitanja koja se javljaju uslijed razvoja, uvođenja i korištenja umjetne inteligencije, poput transparentnosti i odgovornosti algoritama, nediskriminacije, jednakih mogućnosti, slobode i raznolikosti mišljenja, medijskog pluralizma te vlasništva nad podacima i sadržajima i njihova prikupljanja, korištenja i širenja; preporučuje da se osmisle zajedničke europske smjernice i standardi za zaštitu privatnosti uz učinkovito korištenje dostupnim podacima; poziva na transparentnost u razvoju i odgovornost u korištenju algoritama;

23.  poziva Komisiju da predloži sveobuhvatan regulatorni okvir radi horizontalnog reguliranja aplikacija umjetne inteligencije i da ga dopuni sektorskim pravilima, primjerice u području audiovizualnih medijskih usluga;

24.  naglašava da je potrebno ulaganje u istraživanje i inovacije u pogledu razvoja, uvođenja i korištenja umjetne inteligencije te njezinih aplikacija u obrazovnom, kulturnom i audiovizualnom sektoru; ističe važnost javnih ulaganja u te usluge i komplementarnu dodanu vrijednost koju pružaju javno-privatna partnerstva kako bi se ostvario taj cilj i iskoristio puni potencijal umjetne inteligencije u tim sektorima, posebno u obrazovanju, s obzirom na znatan iznos privatnih ulaganja posljednjih godina; poziva Komisiju da pronađe dodatna sredstva za promicanje istraživanja i inovacija u vezi s aplikacijama umjetne inteligencije u tim sektorima;

25.  ističe da algoritamski sustavi mogu potaknuti brže smanjenje digitalnog jaza, no njihovim neravnomjernim uvođenjem riskira se stvaranje novih razlika ili brže produbljivanje postojećih; izražava zabrinutost zbog neusklađenosti razvoja znanja i infrastrukture diljem Unije, čime se ograničava pristup proizvodima i uslugama koji se temelje na umjetnoj inteligenciji, posebno u slabo naseljenim i socioekonomski ugroženim područjima; poziva Komisiju da osigura koheziju u dijeljenju koristi od umjetne inteligencije i s njom povezanih tehnologija;

26.  poziva Komisiju da utvrdi zahtjeve za javnu nabavu i uvođenje umjetne inteligencije i s njom povezanih tehnologija od strane tijela javnog sektora Unije kako bi se osigurala usklađenost s pravom Unije i temeljnim pravima; ističe dodanu vrijednost korištenja instrumenata kao što su javna savjetovanja i procjene učinka koje treba provesti prije nabave ili uvođenja sustava umjetne inteligencije, kako je preporučeno u izvješću posebnog izvjestitelja Opće skupštine UN-a o umjetnoj inteligenciji i njezinu utjecaju na slobodu mišljenja i izražavanja(10); potiče javne vlasti da javnim financiranjem i javnom nabavom potaknu razvoj i uvođenje umjetne inteligencije; naglašava potrebu za jačanjem tržišta tako što će se MSP-ovima pružiti prilika za sudjelovanje u nabavi aplikacija umjetne inteligencije kako bi se osiguralo sudjelovanje tehnoloških trgovačkih društava svih veličina te na taj način zajamčila otpornost i tržišno natjecanje;

27.  poziva na redovitu provedbu neovisnih revizija kako bi se ispitalo jesu li korištene aplikacije umjetne inteligencije i s njima povezani sustav provjera i ravnoteže u skladu s utvrđenim kriterijima te također poziva da te revizije nadzire dovoljan broj neovisnih nadzornih tijela; poziva na uvođenje posebnih testiranja otpornosti na stres kako bi se olakšalo i zajamčilo poštovanje sukladnosti;

28.  prima na znanje koristi i rizike umjetne inteligencije u pogledu kibersigurnosti i njezina potencijala za borbu protiv kibernetičkog kriminala te ističe potrebu da sva rješenja povezana s umjetnom inteligencijom budu otporna na kibernapade i da se istodobno poštuju temeljna prava Unije, posebno zaštita osobnih podataka i privatnosti; naglašava važnost praćenja sigurne upotrebe umjetne inteligencije i potrebu za bliskom suradnjom javnog i privatnog sektora radi suzbijanja ranjivosti korisnika i opasnosti koje nastaju u vezi s tim; poziva Komisiju da ocijeni potrebu za boljom prevencijom u pogledu kibersigurnosti te mjerama za smanjenje rizika u tom pogledu;

29.  ističe da se kriza povezana s pandemijom bolesti COVID-19 može smatrati probnim razdobljem za razvoj, uvođenje i korištenje digitalnih tehnologija i tehnologija povezanih s umjetnom inteligencijom u obrazovanju i kulturi, što je vidljivo iz brojnih platformi za internetsku nastavu i internetskih alata za promicanje kulture koji se primjenjuju u državama članicama; stoga poziva Komisiju da uzme u obzir te primjere pri razmatranju zajedničkog pristupa Unije većoj upotrebi takvih tehnoloških rješenja;

Obrazovanje

30.  podsjeća na važnost jačanja digitalnih vještina i postizanja visokog standarda medijske, digitalne i informacijske pismenosti na razini Unije kao preduvjeta za korištenje umjetne inteligencije u obrazovanju; u tom pogledu ističe potrebu za osiguravanjem digitalne pismenosti i pismenosti povezane s umjetnom inteligencijom diljem Unije, osobito razvojem mogućnosti izobrazbe nastavnika; ustraje u tome da bi upotreba tehnologija umjetne inteligencije u školama trebala doprinijeti smanjenju socijalnog i regionalnog digitalnog jaza; pozdravlja ažurirani Akcijski plan Komisije za digitalno obrazovanje u kojem se tematizira korištenje umjetne inteligencije u obrazovanju; u tom pogledu poziva Komisiju da digitalne sposobnosti, medijsku pismenost i osposobljavanje te vještine povezane s umjetnom inteligencijom odredi kao prioritete tog plana te da istodobno podiže razinu osviještenosti o mogućim zlouporabama i lošem funkcioniranju umjetne inteligencije; u tom kontekstu poziva Komisiju da posebnu pozornost posveti djeci i mladima u nesigurnom položaju kojima je potrebna posebna potpora u području digitalnog obrazovanja; apelira na Komisiju da se u svojim predstojećim zakonodavnim prijedlozima o umjetnoj inteligenciji na odgovarajući način pozabavi inicijativama u području umjetne inteligencije i robotike u obrazovanju; poziva države članice da ulažu u digitalno opremanje škola te da u tu svrhu koriste sredstva Unije;

31.  ističe da korištenje umjetne inteligencije u obrazovnim sustavima donosi širok raspon mogućnosti, prilika i instrumenata koji ih čine inovativnijima, uključivijima, učinkovitijima i djelotvornijima zahvaljujući uvođenju novih i visokokvalitetnih načina brzog i personaliziranog učenja usmjerenog na učenika; međutim, ističe da, s obzirom na to da će utjecati na obrazovanje i socijalnu uključenost, treba osigurati dostupnost takvih instrumenata za sve socijalne skupine tako što će im se omogućiti ravnopravan pristup obrazovanju i učenju, pri čemu nitko neće biti zapostavljen, a osobito ne osobe s invaliditetom;

32.  ističe da, u cilju kritičkog i učinkovitog pristupa umjetnoj inteligenciji, građani trebaju barem osnovno razumijevanje te tehnologije; poziva države članice da u svoje djelovanje u području digitalne pismenosti integriraju kampanje za podizanje razine osviještenosti o umjetnoj inteligenciji; poziva Komisiju i države članice da promiču planove digitalne pismenosti i forume za raspravu kako bi se građani, roditelji i studenti uključili u demokratski dijalog s javnim tijelima i dionicima o razvoju, uvođenju i korištenju tehnologija umjetne inteligencije u obrazovnim sustavima; naglašava da je važno edukatorima, instruktorima i drugima pružiti odgovarajuće alate i znanja o umjetnoj inteligenciji i s njom povezanim tehnologijama u pogledu njihova sadržaja te načina na koji se upotrebljavaju pravilno i u skladu sa zakonom kako bi se izbjegle povrede prava intelektualnog vlasništva; posebno ističe važnost digitalne pismenosti za osobe koje rade u sektorima obrazovanja i osposobljavanja, kao i poboljšanja digitalne izobrazbe za starije osobe, imajući na umu da su novije generacije već upoznate s tim tehnologijama jer su odrasle s njima;

33.  naglašava da istinski cilj umjetne inteligencije u našim obrazovnim sustavima treba biti postizanje obrazovanja koje je što više individualizirano, koje učeniku nudi personaliziran akademski put prilagođen njegovim prednostima i nedostacima, uz didaktičke materijale u skladu s njegovim osobinama, pri čemu treba održati kvalitetu obrazovanja i integracijsko načelo naših obrazovnih sustava;

34.  podsjeća na ključnu i višeslojnu ulogu nastavnika u obrazovanju i njegovoj uključivosti, posebno u ranom djetinjstvu kada se stječu vještine koje će učenicima omogućiti da napreduju tijekom cijelog života, što uključuje međuljudske odnose, vještine učenja, empatiju i timski rad; stoga ističe da se tehnologije umjetne inteligencije ne mogu upotrebljavati na štetu ili na račun nastave u učionicama jer se nastavnici ne smiju zamijeniti tehnologijama umjetne inteligencije ili s njima povezanim tehnologijama;

35.  naglašava da prednosti učenja upotrebom umjetne inteligencije u obrazovanju neće ovisiti samo o umjetnoj inteligenciji već o tome kako nastavnici koriste umjetnu inteligenciju u okružju digitalnog učenja da bi zadovoljili potrebe učenika, studenata i nastavnika; stoga ističe potrebu da programeri umjetne inteligencije, kad je to moguće, uključe obrazovne zajednice u razvoj, uvođenje i korištenje tehnologija umjetne inteligencije, čime će se stvoriti okružje pogodno za uspostavu veza i suradnje između programera umjetne inteligencije, razvojnih programera, trgovačkih društava, škola, nastavnika i drugih javnih i privatnih dionika kako bi se osmislile tehnologije umjetne inteligencije koje su prikladne za stvarna obrazovna okružja, kojima se odražavaju dob i razvojna spremnost svakog učenika i zadovoljavaju najviši etički standardi; ističe da obrazovne institucije trebaju koristiti samo pouzdane i etične tehnologije usmjerene na čovjeka koje javna tijela i civilno društvo mogu nadzirati u svakoj fazi njihova životnog ciklusa; u tom pogledu naglašava prednosti besplatnih rješenja otvorenog koda; poziva da se školama i drugim obrazovnim ustanovama pruži financijska i logistička potpora te potrebno stručno znanje kako bi se uvela rješenja za učenje budućnosti;

36.  osim toga ističe potrebu za kontinuiranim osposobljavanjem nastavnika kako bi se mogli prilagoditi stvarnosti obrazovanja utemeljenog na umjetnoj inteligenciji i steći potrebno znanje i vještine za korištenje tehnologija umjetne inteligencije na pedagoški i smislen način, što će im omogućiti da u potpunosti prihvate mogućnosti koje nudi umjetna inteligencija te da shvate njezina ograničenja; poziva na to da digitalno poučavanje bude dio svakog budućeg osposobljavanja nastavnika te da se nastavnicima i osobama koje rade u sektoru obrazovanja i osposobljavanja omogući cjeloživotno osposobljavanje u području digitalnog poučavanja; stoga poziva na razvoj programa osposobljavanja u području umjetne inteligencije za nastavnike u svim područjima i diljem Europe; osim toga ističe važnost reforme nastavnih programa za nove generacije nastavnika kako bi im se omogućilo da se prilagode stvarnosti obrazovanja koje počiva na umjetnoj inteligenciji, kao i važnost izrade i ažuriranja udžbenika i smjernica o umjetnoj inteligenciji za nastavnike;

37.  izražava zabrinutost zbog nedostatka konkretnih programa višeg obrazovanja u području umjetne inteligencije diljem država članica te nedostatka javnog financiranja za umjetnu inteligenciju; smatra da su zbog toga buduće ambicije Europe u području digitalizacije dovedene u pitanje;

38.  izražava zabrinutost zbog toga što se rijetki istraživači u području umjetne inteligencije odlučuju za akademsku karijeru jer im tehnološka društva mogu ponuditi bolje plaće, a istraživanje se odvija s manje birokratskih prepreka; smatra da bi dio rješenja moglo biti usmjeravanje više javnog novca u istraživanje umjetne inteligencije na sveučilištima;

39.  naglašava važnost poučavanja općih digitalnih sposobnosti i kompetencija od djetinjstva kako bi se riješio problem nedostatka kvalifikacija i određene skupine stanovništva bolje integrirale na digitalno tržište rada i u digitalno društvo; ističe da će sve važnije biti osposobljavanje visokokvalificiranih stručnjaka iz svih društvenih slojeva u području umjetne inteligencije, osiguravanje međusobnog priznavanja takvih kvalifikacija diljem Unije i usavršavanje aktualne i buduće radne snage kako bi se mogla nositi s budućim stvarnostima tržišta rada koje počiva na umjetnoj inteligenciji; stoga potiče države članice da procijene svoje obrazovne ponude te ih po potrebi nadograde vještinama povezanim s umjetnom inteligencijom i da uspostave posebne nastavne planove za programere umjetne inteligencije, uz istodobno integriranje umjetne inteligencije u tradicionalne kurikulume; ističe potrebu za osiguravanjem uzajamnog priznavanja stručnih kvalifikacija u području vještina povezanih s umjetnom inteligencijom diljem Unije s obzirom na to da nekoliko država članica nadograđuje svoju obrazovnu ponudu u pogledu tih vještina i uvodi posebne kurikulume za programere umjetne inteligencije; pozdravlja napore Komisije u pogledu uključivanja digitalnih vještina kao jednog od kvalifikacijskih zahtjeva za određene profesije usklađenih na razini Unije u okviru Direktive o stručnim kvalifikacijama(11); naglašava potrebu za time da oni budu u skladu s popisom za procjenu Etičkih smjernica za pouzdanu umjetnu inteligenciju i pozdravlja prijedlog Komisije da taj popis postane indikativan kurikulum za programere umjetne inteligencije; podsjeća na posebne potrebe strukovnog obrazovanja i osposobljavanja kad je riječ o umjetnoj inteligenciji te poziva na suradnički pristup širom Europe kako bi se povećao potencijal koji umjetna inteligencija nudi za strukovno obrazovanje i osposobljavanje; ističe važnost osposobljavanja visokokvalificiranih stručnjaka u tom području, pri čemu će se u kurikulume uključiti etički aspekti, te važnost pružanja potpore nedovoljno zastupljenim skupinama u tom području, kao i stvaranja poticaja za te stručnjake da traže posao unutar Unije; podsjeća da su žene u nedovoljnoj mjeri zastupljene u području umjetne inteligencije te da bi zbog toga moglo doći do izrazite rodne neravnoteže na budućem tržištu rada;

40.  ističe potrebu da vlade i obrazovne ustanove preispitaju i prerade svoje obrazovne kurikulume te ih prilagode potrebama 21. stoljeća osmišljavanjem obrazovnih programa u kojima se veći naglasak stavlja na područja znanosti, tehnologije, inženjerstva, umjetnosti i matematike kako bi se učenici i potrošači pripremili za sve veću rasprostranjenost umjetne inteligencije te kako bi se olakšalo stjecanje kognitivnih vještina; ističe važnost diversifikacije tog sektora i poticanja studenata, osobito žena i djevojčica, da se upisuju na kolegije u područjima povezanima sa znanošću, tehnologijom, inženjerstvom i matematikom, a osobito da biraju predmete povezane s robotikom i umjetnom inteligencijom; poziva na dodjelu većih financijskih i znanstvenih sredstava kako bi se kvalificirane osobe motivirale da ostanu u Uniji i istodobno privukle kvalificirane osobe iz inozemstva; nadalje napominje da postoji znatan broj novoosnovanih poduzeća koja se bave umjetnom inteligencijom i razvijaju tehnologije umjetne inteligencije; naglašava da će MSP-ovima biti potrebna dodatna potpora i osposobljavanje u pogledu umjetne inteligencije kako bi postupali u skladu s propisima u digitalnom području i području umjetne inteligencije;

41.  konstatira da bi automatizacija i razvoj umjetne inteligencije mogli drastično i nepovratno promijeniti zaposlenost; naglašava da bi prednost trebalo dati prilagodbi vještina potrebama budućeg tržišta rada, posebno u obrazovanju te kulturnim i kreativnim sektorima i industrijama; u tom kontekstu ističe potrebu za usavršavanjem buduće radne snage; osim toga, ističe važnost uvođenja umjetne inteligencije za prekvalifikaciju i usavršavanje na europskom tržištu rada u kulturnim i kreativnim sektorima i industrijama, a posebno u audiovizualnom sektoru koji je već teško pogođen krizom povezanom s bolešću COVID-19;

42.  poziva Komisiju da procijeni razinu rizika uvođenja umjetne inteligencije u obrazovnom sektoru kako bi se utvrdilo treba li aplikacije umjetne inteligencije uključiti u regulatorni okvir za visoki rizik te ih podvrgnuti strožim zahtjevima u pogledu sigurnosti, transparentnosti, pravednosti i odgovornosti, s obzirom na važnost osiguravanja obrazovanja koje i dalje doprinosi javnom dobru i na visoku osjetljivost podataka o učenicima, studentima i drugim polaznicima obrazovanja; ističe da bi se skupovi podataka koji se koriste za obučavanje umjetne inteligencije trebali preispitati kako bi se izbjeglo potvrđivanje određenih stereotipa i drugih vrsta predrasuda;

43.  poziva Komisiju da predloži pravni okvir za umjetnu inteligenciju koji će biti otporan na promjene u budućnosti kako bi se zajamčile pravno obvezujuće mjere i standardi radi osiguravanja temeljnih prava i sloboda te razvoja pouzdanih, etičkih i tehnički sveobuhvatnih aplikacija umjetne inteligencije, uključujući integrirane digitalne alate, usluge i proizvode kao što su robotika i strojno učenje, s posebnim naglaskom na obrazovanju; poziva da podaci koje koriste i proizvode aplikacije umjetne inteligencije u obrazovnom sektoru budu dostupni, interoperabilni i visokokvalitetni te da se dijele s relevantnim tijelima javne vlasti na dostupan način i u skladu sa zakonodavstvom o autorskim pravima i poslovnim tajnama; podsjeća da su djeca ranjiva skupina koja zaslužuje posebnu pozornost i zaštitu; naglašava da, iako umjetna inteligencija može biti korisna u obrazovanju, potrebno je uzeti u obzir njezine tehnološke, regulatorne i društvene aspekte, uz odgovarajuću zaštitu i pristup usmjeren na čovjeka kojim se osigurava da ljudi uvijek mogu kontrolirati i ispraviti odluke sustava; u tom pogledu ističe da nastavnici moraju kontrolirati i nadzirati uvođenje i korištenje tehnologija umjetne inteligencije u školama i na fakultetima te prilikom interakcije s učenicima i studentima; podsjeća da sustavi umjetne inteligencije ne smiju donositi nikakve konačne odluke koje mogu utjecati na obrazovne prilike, na primjer odluke o konačnim ocjenama studenata, bez potpunog ljudskog nadzora; podsjeća da automatizirane odluke o fizičkim osobama koje se temelje na profiliranju, ako dovode do pravnih ili sličnih učinaka, moraju biti strogo ograničene i uvijek zahtijevati pravo na ljudsku intervenciju i objašnjenje u skladu s Općom uredbom o zaštiti podataka; naglašava da bi se toga trebalo strogo pridržavati, posebno u obrazovnom sustavu u kojem se donose odluke o budućim mogućnostima i prilikama;

44.  izražava ozbiljnu zabrinutost zbog toga što škole i ostali pružatelji usluga obrazovanja postaju sve više ovisni o uslugama obrazovne tehnologije (edtech), uključujući aplikacije umjetne inteligencije, koje nudi nekoliko privatnih trgovačkih društava koja imaju dominantan položaj na tržištu; smatra da bi to trebalo nadzirati u skladu s pravilima Unije o tržišnom natjecanju; u tom pogledu ističe da je važno poduprijeti uvođenje umjetne inteligencije u mala i srednja poduzeća u obrazovnom, kulturnom i audiovizualnom sektoru prikladnim poticajima kojima se stvaraju jednaki uvjeti za sve; u tom kontekstu poziva na ulaganje u europska trgovačka društva u području IT-a kako bi se razvile potrebne tehnologije u Uniji s obzirom na to da velika društva koja trenutačno pružaju umjetnu inteligenciju imaju sjedište izvan Unije; izričito podsjeća na to da su podaci o maloljetnicima strogo zaštićeni Općom uredbom o zaštiti podataka i da se mogu obrađivati samo ako su u cijelosti anonimizirani ili ako je nositelj roditeljske odgovornosti za dijete dao privolu za to, uz strogo poštovanje načela smanjenja količine podataka i ograničavanja svrhe; poziva na snažniju zaštitu i zaštitne mjere u obrazovnom sektoru kada su u pitanju podatci o djeci te poziva Komisiju da poduzme učinkovitije korake u tom pogledu; poziva na to da se djeci i njihovim roditeljima pružaju jasne informacije o mogućoj upotrebi i obradi podataka o djeci, među ostalim u okviru kampanja za podizanje razine osviještenosti i informativnih kampanja;

45.  ističe specifične rizike pri upotrebi automatiziranih aplikacija za prepoznavanje u kojima se koristi umjetna inteligencija i koje se trenutačno brzo razvijaju; podsjeća da su djeca posebno osjetljiva skupina; preporučuje da Komisija i države članice zabrane automatiziranu biometrijsku identifikaciju u obrazovnim i kulturnim ustanovama, kao što je prepoznavanje lica u obrazovne i kulturne svrhe, osim ako njezina upotreba nije dopuštena zakonom;

46.  ističe da je potrebno povećati izbor potrošača kako bi se potaknula konkurentnost i proširio raspon usluga koje pružaju tehnologije umjetne inteligencije u svrhu obrazovanja; u tom pogledu potiče javne vlasti da javnim financiranjem i javnom nabavom potaknu razvoj i uvođenje umjetne inteligencije; smatra da bi se tehnologije kojima se koriste pružatelji javnog obrazovanja ili koje se kupuju javnim novcem trebale temeljiti na tehnologijama otvorenog koda;

47.  konstatira da obrazovanje već dugo vapi za inovacijama, što je naglašeno pandemijom bolesti COVID-19 te s njom povezanim prelaskom na učenje preko interneta i na daljinu; ističe da obrazovni alati koji počivaju na umjetnoj inteligenciji, kao što su oni za ocjenjivanje i utvrđivanje poteškoća u učenju, mogu poboljšati kvalitetu i učinkovitost učenja preko interneta;

48.  naglašava da su digitalna infrastruktura i pokrivenost internetom sljedeće generacije od strateške važnosti za pružanje obrazovanja europskim građanima koje se temelji na umjetnoj inteligenciji; u svjetlu krize COVID-19 poziva Komisiju da razradi strategiju za europsku mrežu 5G kojom bi se osigurala strateška otpornost Europe i koja ne ovisi o tehnologijama iz država koje ne dijele naše vrijednosti;

49.  poziva na osnivanje paneuropske sveučilišne i istraživačke mreže usmjerene na umjetnu inteligenciju u obrazovanju kojom bi se trebale povezati institucije i stručnjaci iz svih područja kako bi se istražio utjecaj umjetne inteligencije na učenje te utvrdila rješenja za povećanje njezina potencijala;

Kulturna baština

50.  ponovno ističe važnost pristupa kulturi za sve građane diljem Unije; u tom kontekstu naglašava važnost razmjene najboljih praksi među državama članicama, obrazovnim ustanovama, kulturnim institucijama te sličnim dionicima; nadalje smatra da je od ključne važnosti da se sredstva dostupna i na razini Unije i na nacionalnoj razini iskoriste u najvećoj mogućoj mjeri kako bi se dodatno poboljšao pristup kulturi; naglašava da postoje mnogobrojne mogućnosti za pristup kulturi i da bi ih sve trebalo istražiti kako bi se pronašla najprikladnija opcija; ističe važnost usklađenosti s Ugovorom iz Marakeša;

51.  naglašava da tehnologije umjetne inteligencije mogu igrati važnu ulogu u očuvanju, obnovi, dokumentiranju, analizi i promicanju materijalne i nematerijalne kulturne baštine te upravljanju njome, među ostalim praćenjem i analizom promjena na lokalitetima kulturne baštine prouzročenih prijetnjama kao što su klimatske promjene, prirodne katastrofe i oružani sukobi;

52.  ističe da se tehnologijama umjetne inteligencije može poboljšati vidljivost europske kulturne raznolikosti; naglašava da se tim tehnologijama pružaju nove mogućnosti kulturnim institucijama, kao što su muzeji, da osmisle inovativne alate za katalogizaciju artefakata kao i dokumentiranje i povećanje dostupnosti lokaliteta kulturne baštine, među ostalim upotrebom 3D oblikovanja i proširene virtualne stvarnosti; ističe da će umjetna inteligencija omogućiti i muzejima i umjetničkim galerijama da uvedu interaktivne i personalizirane usluge za posjetitelje tako što će im pružiti popis predloženih objekata na temelju interesa koje su iskazali osobno i preko interneta;

53.  ističe da će se korištenjem umjetne inteligencije najaviti novi inovativni pristupi, alati i metodologije koji će omogućiti kulturnim radnicima i istraživačima da stvore usklađene baze podataka s odgovarajućim mehanizmima klasifikacije kao i multimedijskim metapodacima, čime će im se omogućiti da povežu različite objekte kulturne baštine i na taj način povećaju znanje i osiguraju bolje razumijevanje kulturne baštine;

54.  naglašava da treba prepoznati dobre prakse upotrebe umjetne inteligencije u svrhu zaštite i dostupnosti kulturne baštine, naročito za osobe s invaliditetom, i podijeliti ih među kulturnim mrežama diljem Unije, pri čemu treba potaknuti istraživanja o raznim načinima korištenja umjetne inteligencije u cilju promicanja vrijednosti, dostupnosti i očuvanja kulturne baštine; poziva Komisiju i države članice da promiču mogućnosti primjene umjetne inteligencije u kulturnim i kreativnim sektorima i industrijama;

55.  naglašava da se tehnologije umjetne inteligencije mogu koristiti i za nadzor nezakonite trgovine kulturnim predmetima i uništavanja kulturnih dobara, pri čemu se podržava prikupljanje podataka za oporavak i obnovu materijalne i nematerijalne kulturne baštine; posebno napominje da bi se razvojem, uvođenjem i korištenjem umjetne inteligencije u postupcima carinskih provjera mogli poduprijeti napori za sprečavanje nezakonite trgovine kulturnom baštinom, a posebno bi se mogli dopuniti sustavi kojima se carinskim tijelima omogućuje da usmjere svoje napore i resurse na one stavke koje su najrizičnije;

56.  napominje da bi od umjetne inteligencije mogao imati koristi istraživački sektor, primjerice preko uloge koju u poboljšanju analize podataka može imati prediktivna analitika, na primjer u pogledu stjecanja i kretanja kulturnih predmeta; ističe da Unija treba povećati ulaganja i potaknuti partnerstva između industrije i akademske zajednice kako bi se ojačala istraživačka izvrsnost na europskoj razini;

57.  podsjeća da umjetna inteligencija može biti revolucionaran alat za promicanje kulturnog turizma te ističe njezin znatan potencijal u predviđanju turističkih tokova, što bi moglo pomoći gradovima koji se bore s prevelikim brojem turista;

Kulturni i kreativni sektori i industrije

58.  izražava žaljenje zbog toga što kultura nije među prioritetima koji su istaknuti u političkim opcijama i preporukama o umjetnoj inteligenciji na razini Unije, posebno u bijeloj knjizi Europske komisije od 19. veljače 2020. o umjetnoj inteligenciji; poziva na reviziju tih preporuka kako bi se kultura odredila kao prioritet javne politike u području umjetne inteligencije na razini Unije; poziva Komisiju i države članice da se pozabave potencijalnim utjecajem razvoja, uvođenja i korištenja tehnologija umjetne inteligencije na kulturne i kreativne sektore i industrije te da u što većoj mjeri iskoriste plan oporavka Next Generation EU za digitalizaciju tih sektora kako bi se odgovorilo na nove načine konzumacije sadržaja u 21. stoljeću;

59.  ističe da je umjetna inteligencija stigla i u kulturne i kreativne sektore i industrije te da se, primjerice, očituje u automatiziranom sastavljanju tekstova, izradi videozapisa i stvaranju glazbenih djela; naglašava da kreativni i kulturni stvaratelji također moraju imati potrebne digitalne sposobnosti i kompetencije za upotrebu umjetne inteligencije i drugih digitalnih tehnologija; poziva Komisiju i države članice da sredstvima za financiranje znanosti i istraživanja jače promiču mogućnosti primjene umjetne inteligencije u kulturnim i kreativnim sektorima i industrijama te da stvore centre digitalne kreativnosti u kojima kulturni i kreativni stvaratelji mogu razvijati aplikacije umjetne inteligencije, naučiti kako upotrebljavati te aplikacije i druge tehnologije te testirati njihovu upotrebu;

60.  priznaje da tehnologije umjetne inteligencije imaju potencijal povećati broj radnih mjesta u kulturnim i kreativnim sektorima i industrijama zahvaljujući boljem pristupu tim tehnologijama; stoga naglašava važnost jačanja digitalne pismenosti u kulturnim i kreativnim sektorima i industrijama kako bi te tehnologije postale uključivije, korisnije, lakše za učenje i interaktivnije za te sektore;

61.  naglašava da je interakcija između umjetne inteligencije i kulturnih i kreativnih sektora i industrija složena i zahtijeva temeljitu evaluaciju; pozdravlja Izvješće Komisije iz studenog 2020. naslovljeno „Trendovi i napredak u umjetnoj inteligenciji – izazovi pred Okvirom o pravima intelektualnog vlasništva” te studiju o autorskim pravima i novim tehnologijama: upravljanje podacima o autorskim pravima i umjetna inteligencija; naglašava važnost razjašnjavanja uvjeta upotrebe sadržaja zaštićenog autorskim pravima kao ulaznih podataka (slike, glazba, filmovi, baze podataka itd.) te njihove upotrebe u proizvodnji kulturnih i audiovizualnih tvorevina koje tehnologije umjetne inteligencije samostalno kreiraju ili ih s pomoću tih tehnologija kreiraju ljudi; poziva Komisiju da prouči utjecaj umjetne inteligencije na europske kreativne industrije; ponovno ističe važnost europskih podataka i pozdravlja izjave Komisije u tom pogledu te stavljanje umjetne inteligencije i povezanih tehnologija u sam vrh prioriteta;

62.  naglašava potrebu za uspostavom skladne vizije tehnologija umjetne inteligencije u kulturnim i kreativnim sektorima i industrijama na razini Unije; poziva države članice da se u novom digitalnom kontekstu više usredotoče na kulturu u svojim nacionalnim strategijama za umjetnu inteligenciju kako bi se osiguralo da kulturni i kreativni sektori i industrije prigrle inovacije, ostanu konkurentni te da se zaštiti i promiče kulturna raznolikost na razini Unije;

63.  ističe važnost stvaranja heterogenog okružja za tehnologije umjetne inteligencije diljem Unije kako bi se potaknula kulturna raznolikost i podržale manjine i jezična raznolikost, a pritom i osnažili kulturni i kreativni sektori i industrije s pomoću mrežnih platformi, čime će se građanima Unije omogućiti uključenost i sudjelovanje;

64.  poziva Komisiju i države članice da podrže demokratsku raspravu o tehnologijama umjetne inteligencije te da osiguraju redovit forum za raspravu s civilnim društvom, istraživačima, akademicima i dionicima radi podizanja razine osviještenosti o prednostima i izazovima njezine uporabe u kulturnim i kreativnim sektorima i industrijama; u tom kontekstu ističe ulogu koju umjetnost i kultura mogu imati u poučavanju ljudi o umjetnoj inteligenciji te u društvenoj raspravi o njoj jer one mogu učiniti strojno učenje živim i opipljivim, primjerice u području glazbe;

65.  poziva Komisiju i države članice da riješe pitanje sadržaja proizvedenog s pomoću umjetne inteligencije, kao i s njim povezanih problema u pogledu autorstva i povrede autorskih prava; u tom pogledu traži od Komisije da procijeni učinak umjetne inteligencije i s njom povezanih tehnologija na audiovizualni sektor te kulturne i kreativne sektore i industrije u cilju promicanja kulturne i jezične raznolikosti, uz istodobno poštovanje prava autora i izvođača;

66.  ističe da Europski institut za inovacije i tehnologiju, a osobito njegova buduća Zajednica znanja i inovacija, posvećena kulturnim i kreativnim industrijama, treba imati vodeću ulogu u razvoju europske strategije za umjetnu inteligenciju u obrazovanju, kulturi i audiovizualnom sektoru te da može pridonijeti ubrzavanju i prikupljanju aplikacija umjetne inteligencije za te sektore;

67.  konstatira da je umjetna inteligencija već postala dijelom kreativnog vrijednosnog lanca na razini stvaranja, produkcije, distribucije i konzumacije te stoga, preko novih alata, softvera i stvaranja utemeljenog na umjetnoj inteligenciji za lakšu produkciju, ima znatan utjecaj na kulturne i kreativne sektore i industrije, kao što su glazba, filmska industrija, umjetnost i književnost, pri čemu pruža inspiraciju i omogućava široj javnosti stvaranje sadržaja;

68.  poziva Komisiju da provede studije i razmotri potencijalne politike za rješavanje problema štetnog utjecaja kontrole usluga internetskog prijenosa sadržaja koja se temelji na umjetnoj inteligenciji i koja je osmišljena u cilju ograničenja raznolikosti i/ili maksimalnog povećanja profita uključivanjem određenog sadržaja u ponudu za potrošače ili davanjem prednosti određenom sadržaju, te je poziva da prouči način na koji to utječe na kulturnu raznolikost i prihode autora;

69.  smatra da je umjetna inteligencija sve korisnija za kulturne i kreativne sektore i industrije kad je riječ o stvaranju i produkciji sadržaja;

70.  naglašava ulogu autorove osobnosti u izražavanju slobodnih i kreativnih odabira na kojima počiva originalnost djela(12); naglašava važnost ograničenja i iznimaka od autorskih prava pri korištenju sadržaja kao ulaznih podataka, posebno u obrazovanju, istraživanju i u akademskoj zajednici te u proizvodnji kulturnih i kreativnih djela, uključujući audiovizualni sadržaj i sadržaj koji su izradili korisnici;

71.  smatra da treba razmotriti zaštitu tehničkih i umjetničkih djela stvorenih s pomoću umjetne inteligencije kako bi se potaknuo taj oblik stvaralaštva;

72.  naglašava da se u kontekstu podatkovnog gospodarstva može postići bolje upravljanje podacima o autorskim pravima u svrhu bolje naknade autorima i izvođačima, posebno omogućavanjem brze identifikacije autorstva i prava vlasništva nad sadržajem, čime se doprinosi smanjenju broja „djela siročadi”; nadalje ističe da bi se tehnološka rješenja umjetne inteligencije trebala upotrebljavati za poboljšanje infrastrukture podataka o autorskim pravima i međupovezanosti metapodataka u djelima, ali i za lakše ispunjavanje obveza u pogledu transparentnosti iz članka 19. Direktive (EU) 2019/790 o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu(13) za ažurirane, relevantne i sveobuhvatne informacije o iskorištavanju djela i izvedbi autora i izvođača, posebno u kontekstu velikog broja nositelja prava i složenih sustava licenciranja;

73.  poziva na to da se u Akcijskom planu za intelektualno vlasništvo koji je najavila Komisija osvrne na pitanje umjetne inteligencije i njezina učinka na kreativne sektore, uzimajući u obzir potrebu za postizanjem ravnoteže između zaštite prava intelektualnog vlasništva i promicanja obrazovanja, kulture i istraživanja; smatra da Unija može biti predvodnik u stvaranju tehnologija umjetne inteligencije ako donese operativni regulatorni okvir i proaktivne javne politike, posebno u pogledu programa osposobljavanja i financijske potpore za istraživanja; traži od Komisije da ocijeni utjecaj prava intelektualnog vlasništva na istraživanje i razvoj umjetne inteligencije i s njom povezanih tehnologija, kao i na kulturne i kreativne sektore i industrije, uključujući audiovizualni sektor, posebno u vezi s autorstvom, pravednom naknadom za autore i povezanim pitanjima;

74.  poziva Komisiju da razmotri pravne aspekte rezultata dobivenih korištenjem tehnologija umjetne inteligencije, kao i kulturnog sadržaja nastalog upotrebom umjetne inteligencije i s njom povezanih tehnologija; smatra da je važno podržati proizvodnju kulturnog sadržaja; međutim, ponovno ističe važnost zaštite jedinstvenog okvira Unije za prava intelektualnog vlasništva i naglašava da bi se sve promjene trebale provesti uz potrebnu dužnu pažnju kako se ne bi narušila osjetljiva ravnoteža; poziva Komisiju da provede podrobnu evaluaciju u pogledu moguće pravne osobnosti sadržaja proizvedenih umjetnom inteligencijom, kao i u pogledu primjene prava intelektualnog vlasništva na sadržaje stvorene umjetnom inteligencijom, uključujući sadržaje stvorene upotrebom alata umjetne inteligencije;

75.  osim toga, poziva Komisiju da u bliskoj suradnji s državama članicama i relevantnim dionicima razmotri razvoj mehanizama provjere ili sustava za izdavače, autore i stvaratelje kako bi im se pomoglo u provjeri sadržaja kojim se mogu koristiti i kako bi se lakše utvrdilo što je zaštićeno zakonodavstvom o pravima intelektualnog vlasništva;

76.  poziva Komisiju da uspostavi pravila kojima će se zajamčiti stvarna interoperabilnost podataka kako bi sadržaj kupljen na nekoj platformi bio dostupan u okviru svih digitalnih alata, bez obzira na njegovu robnu marku;

Audiovizualni sektor

77.  konstatira da se umjetna inteligencija često koristi za algoritme za automatizirano donošenje odluka radi širenja i organiziranja kulturnog i kreativnog sadržaja koji se prikazuje korisnicima; naglašava da su ti algoritmi za korisnike potpuna nepoznanica; naglašava da se algoritmi koje koriste pružatelji medijskih usluga, platforme za dijeljenje videozapisa, kao i usluge slušanja glazbe preko interneta, trebaju osmisliti na način da određeni uratci ne budu privilegirani ograničavanjem njihovih „personaliziranihˮ prijedloga na najpopularnije uratke, za ciljano oglašavanje, u komercijalne svrhe ili za povećavanje dobiti; u mjeri u kojoj je to moguće poziva na upotrebu objašnjivih i transparentnih algoritama za davanje preporuka i personalizirani marketing kako bi se potrošačima omogućio točan i sveobuhvatan uvid u te procese i sadržaje te osiguralo da personalizirane usluge ne budu diskriminirajuće i da budu u skladu s nedavno donesenom Uredbom o odnosima između platformi i poslovnih subjekata(14) i Skupnom direktivom o novim pogodnostima za potrošače(15); poziva Komisiju da razmotri načine na koje se optimiziraju algoritmi za moderiranje sadržaja kako bi se uključili korisnici te da iznese preporuke za veću kontrolu korisnika nad sadržajem koji gledaju jamčenjem i pravilnom provedbom prava korisnika da odustanu od preporučenih i personaliziranih usluga; osim toga, ističe da potrošači moraju biti obaviješteni kad budu u interakciji s automatiziranim postupkom odlučivanja te da njihov izbor i uspješnost ne smiju biti ograničeni; ističe da se mora suzbijati primjena mehanizama umjetne inteligencije za komercijalni nadzor nad potrošačima, čak i ako se odnosi na „besplatne usluge”, tako što će se osigurati da taj nadzor bude strogo u skladu s temeljnim pravima i Općom uredbom o zaštiti podataka; ističe da se u svim promjenama propisa mora uzeti u obzir utjecaj na osjetljive skupine potrošača;

78.  ističe da je ono što je nezakonito izvan interneta nezakonito i na internetu; napominje da se alatima umjetne inteligencije može suzbijati nezakoniti sadržaj na internetu i da se to već čini, ali izričito podsjeća, prije donošenja budućeg Akta o digitalnim uslugama, da pri upotrebi tih alata uvijek treba poštovati temeljna prava, posebno slobodu izražavanja i informiranja, te da oni ne bi trebali dovesti do obveze općeg nadzora nad internetom ili uklanjanja zakonitog materijala koji je namijenjen u obrazovne, novinarske, umjetničke ili istraživačke svrhe; naglašava da bi se algoritmi trebali upotrebljavati samo kao mehanizam označavanja (flagiranja) pri moderiranju sadržaja, uz ljudsku intervenciju, s obzirom na to da umjetna inteligencija ne može pouzdano razlikovati zakoniti od nezakonitog i štetnog sadržaja; napominje da bi ti uvjeti uvijek trebali uključivati smjernice zajednice, kao i žalbeni postupak;

79.  nadalje, podsjeća da, kako je utvrđeno člankom 15. Direktive o elektroničkoj trgovini(16), ne bi trebalo biti općeg praćenja i da bi poseban nadzor nad sadržajem za audiovizualne medijske usluge trebao biti u skladu s iznimkama utvrđenima zakonodavstvom Unije; podsjeća da aplikacije umjetne inteligencije moraju biti u skladu s unutarnjim i vanjskim sigurnosnim protokolima koji bi trebali biti tehnički precizni i stabilni; smatra da bi to trebalo proširiti i na djelovanje u uobičajenim, nepoznatim i nepredvidivim situacijama;

80.  nadalje, naglašava da upotreba umjetne inteligencije u preporukama sadržaja utemeljenima na algoritmima pružatelja medijskih usluga, kao što su videozapisi na zahtjev i platforme za dijeljenje videozapisa, može imati ozbiljan utjecaj na kulturnu i jezičnu raznolikost, posebno u vezi s obvezom da se osigura istaknutost europskih djela u skladu s člankom 13. Direktive o audiovizualnim medijskim uslugama (Direktiva (EU) 2018/1808(17)); konstatira da su isti razlozi za zabrinutost jednako relevantni i za usluge slušanja glazbe preko interneta te poziva na izradu pokazatelja kojima bi se procijenila kulturna raznolikost i promicanje europskih djela na takvim servisima;

81.  poziva Komisiju i države članice da povećaju financijsku potporu za razvoj, uvođenje i korištenje umjetne inteligencije u području automatiziranog titlovanja i sinkronizacije europskih audiovizualnih djela radi promicanja kulturne i jezične raznolikosti u Uniji te poboljšanja širenja europskih audiovizualnih sadržaja i pristupa njima;

82.  poziva Komisiju na uspostavu jasnog etičkog okvira za korištenje tehnologija umjetne inteligencije u medijima kako bi se spriječili svi oblici diskriminacije i osigurao pristup kulturno i jezično raznolikim sadržajima na razini Unije, utemeljen na odgovornim, transparentnim i uključivim algoritmima, pri čemu se poštuju odabiri i preferencije pojedinca;

83.  ističe da umjetna inteligencija može imati važnu ulogu u brzom širenju dezinformacija; u tom pogledu naglašava da bi se okvir trebao baviti zloupotrebom umjetne inteligencije za širenje lažnih vijesti, pogrešnih informacija na internetu i dezinformacija, uz izbjegavanje cenzure; stoga poziva Komisiju da procijeni rizike povezane s umjetnom inteligencijom koja pomaže širenju dezinformacija u digitalnom okružju, kao i rješenja u pogledu toga kako bi se umjetna inteligencija mogla upotrijebiti za borbu protiv dezinformiranja;

84.  poziva Komisiju da poduzme regulatorne mjere kako bi se osiguralo da pružatelji medijskih usluga imaju pristup podacima prikupljenima u okviru stavljanja na raspolaganje i širenja svojih sadržaja na platformama pružatelja usluga trećih strana; naglašava da je potpuni prijenos podataka od operatera platformi do pružatelja medijskih usluga od presudne važnosti kako bi pružatelji medijskih usluga mogli bolje razumjeti svoju publiku i tako poboljšati svoje usluge u skladu s vizijom publike;

85.  naglašava da je važno povećati sredstva za programe Digitalna Europa, Kreativna Europa i Obzor Europa kako bi se povećala potpora europskom audiovizualnom sektoru, ponajprije suradničkim istraživačkim projektima i eksperimentalnim pilot-inicijativama u području razvoja, uvođenja i korištenja etičnih tehnologija umjetne inteligencije;

86.  poziva na blisku suradnju država članica u osmišljavanju programa osposobljavanja usmjerenih na prekvalifikaciju ili usavršavanje radnika kako bi se bolje pripremili na socijalnu tranziciju koju donosi upotreba tehnologija umjetne inteligencije u audiovizualnom sektoru;

87.  smatra da umjetna inteligencija ima golem potencijal u poticanju inovacija u sektoru informativnih medija; smatra da je široka integracija umjetne inteligencije, primjerice u svrhu proizvodnje i širenja sadržaja, praćenja komentara, upotrebe analiza podataka i prepoznavanja lažnih fotografija i videozapisa, ključna za smanjenje troškova informativnih medija u svjetlu smanjenja prihoda od oglašavanje kao i za izdvajanje više sredstava za izvještavanje s terena, čime se povećava kvaliteta i raznolikost sadržaja;

Dezinformiranje na internetu: uvjerljivo krivotvoreni sadržaji (deepfake uratci)

88.  naglašava važnost osiguravanja medijskog pluralizma na internetu i izvan njega kako bi se zajamčila kvaliteta, raznolikost i pouzdanost dostupnih informacija;

89.  podsjeća da su preciznost, neovisnost, pravednost, povjerljivost, ljudskost, odgovornost i transparentnost pokretačka snaga koja se nalazi u osnovi načela slobode izražavanja te pristupa informacijama u medijima na internetu i izvan njega bez kojih nije moguća borba protiv dezinformacija i pogrešnih informacija;

90.  napominje da neovisni mediji imaju važnu ulogu u kulturi i svakodnevnom životu građana; naglašava da je dezinformiranje temeljni problem jer se autorska prava i prava intelektualnog vlasništva općenito sustavno krše; poziva Komisiju da u suradnji s državama članicama nastavi raditi na podizanju razine svijesti o tom problemu te suzbijanju učinaka dezinformiranja i temeljnih problema; nadalje, smatra da je važno razviti obrazovne strategije za poboljšanje digitalne pismenosti, posebno u tom pogledu;

91.  podsjeća na to da otkrivanje lažnog i manipuliranog sadržaja, kao što su deepfake uratci može postati sve izazovnije zbog brze pojave novih tehnika i zbog toga što su zlonamjerni proizvođači u stanju stvarati sofisticirane algoritme koji se mogu uspješno osposobiti za izbjegavanje otkrivanja, što ima velike posljedice za naše temeljne demokratske vrijednosti; traži od Komisije da procijeni učinak umjetne inteligencije na stvaranje uvjerljivo krivotvorenog sadržaja, da uspostavi odgovarajuće pravne okvire za upravljanje njihovim stvaranjem, proizvodnjom ili distribucijom u zlonamjerne svrhe te da, među ostalim inicijativama, predloži preporuke za mjere protiv svih prijetnji slobodnim i poštenim izborima i demokraciji koje potiče umjetna inteligencija;

92.  pozdravlja nedavne inicijative i projekte stvaranja učinkovitijih alata za otkrivanje deepfake uradaka i zahtjeva za transparentnost; u tom pogledu naglašava potrebu za istraživanjem i ulaganjem u metode za suzbijanje deepfake uradaka kao ključnog koraka u borbi protiv dezinformacija i štetnog sadržaja; smatra da rješenja koja se temelje na umjetnoj inteligenciji mogu biti od pomoći u tom kontekstu; stoga traži od Komisije da uvede obvezu prema kojoj uz sav deepfake sadržaj ili bilo koji drugi realno izrađen sintetički videozapis mora biti navedeno da taj materijal nije izvornik te se uporaba takvog sadržaja u izborne svrhe mora strogo ograničiti;

93.  zabrinut je zbog toga što umjetna inteligencija sve više utječe na to kako se informacije pronalaze i upotrebljavaju na internetu; ističe da tzv. korisnički mjehuri stvoreni filtrima i komore jeke ograničavaju raznolikost mišljenja i negativno utječu na otvorenu društvenu raspravu; stoga poziva na to da način na koji operateri platformi upotrebljavaju algoritme za ispravljanje informacija bude transparentan i da se korisnicima pruži veća sloboda izbora u pogledu opsega u kojem žele primati informacije;

94.  ističe da se tehnologije umjetne inteligencije već upotrebljavaju u novinarstvu, na primjer pri izradi tekstova ili analizi velikih skupova podataka u području istraživanja; naglašava da je pri proizvodnji informacija relevantnih za društvo u cjelini važno da se automatizirano novinarstvo referira na točne i potpune podatke kako bi se spriječile pogrešne informacije; naglašava da novinarski sadržaj koji se stvara korištenjem tehnologija umjetne inteligencije također mora podlijegati temeljnim načelima kvalitetnog novinarstva, kao što je urednička kontrola; poziva na to da se tekstovi stvoreni umjetnom inteligencijom označe kako bi se očuvalo povjerenje u novinarstvo;

95.  ističe potencijal umjetne inteligencije u omogućavanju i poticanju višejezičnosti razvojem tehnologija povezanih s jezikom te omogućivanjem otkrivanja europskog internetskog sadržaja;

o
o   o

96.  nalaže svojem predsjedniku da ovu Rezoluciju proslijedi Vijeću i Komisiji.

(1) SL C 202 I, 16.6.2020., str. 1. (2) SL C 440, 6.12.2018., str. 37. (3) SL C 449, 23.12.2020., str. 37. (4) SL C 433, 23.12.2019., str. 42. (5) SL C 28, 27.1.2020., str. 8. (6) SL C 252, 18.7.2018., str. 239. (7) SL C 307, 30.8.2018., str. 163. (8) Uredba (EU) 2016/679 Europskog parlamenta i Vijeća od 27. travnja 2016. o zaštiti pojedinaca u vezi s obradom osobnih podataka i o slobodnom kretanju takvih podataka te o stavljanju izvan snage Direktive 95/46/EZ (Opća uredba o zaštiti podataka) (SL L 119, 4.5.2016., str. 1.). (9) Direktiva 2002/58/EZ Europskog parlamenta i Vijeća od 12. srpnja 2002. o obradi osobnih podataka i zaštiti privatnosti u području elektroničkih komunikacija (Direktiva o privatnosti i elektroničkim komunikacijama) (SL L 201, 31.7.2002., str. 37.). (10) Izvješće posebnog izvjestitelja UN-a o promicanju i zaštiti prava na slobodu mišljenja i izražavanja, 29. kolovoza 2018. (11) Direktiva 2005/36/EZ Europskog parlamenta i Vijeća od 7. rujna 2005. o priznavanju stručnih kvalifikacija (SL L 255, 30.9.2005., str. 22.). (12) Sud Europske unije, Predmet C-833/18, SI i Brompton Bicycle Ltd protiv Chedech/Get2Get. (13) Direktiva (EU) 2019/790 Europskog parlamenta i Vijeća od 17. travnja 2019. o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu i izmjeni direktiva 96/9/EZ i 2001/29/EZ (SL L 130, 17.5.2019., str. 92.). (14) Uredba (EU) 2019/1150 Europskog parlamenta i Vijeća od 20. lipnja 2019. o promicanju pravednosti i transparentnosti za poslovne korisnike usluga internetskog posredovanja (SL L 186, 11.7.2019., str. 57.). (15) Direktiva (EU) 2019/2161 Europskog parlamenta i Vijeća od 27. studenoga 2019. o izmjeni Direktive Vijeća 93/13/EEZ i direktiva 98/6/EZ, 2005/29/EZ te 2011/83/EU Europskog parlamenta i Vijeća u pogledu boljeg izvršavanja i modernizacije pravila Unije o zaštiti potrošača (SL L 328, 18.12.2019., str. 7.). (16) Direktiva 2000/31/EZ Europskog parlamenta i Vijeća od 8. lipnja 2000. o određenim pravnim aspektima usluga informacijskog društva na unutarnjem tržištu, posebno elektroničke trgovine (SL L 178, 17.7.2000., str. 1.). (17) Direktiva (EU) 2018/1808 Europskog parlamenta i Vijeća od 14. studenoga 2018. o izmjeni Direktive 2010/13/EU o koordinaciji određenih odredaba utvrđenih zakonima i drugim propisima u državama članicama o pružanju audiovizualnih medijskih usluga u pogledu promjenjivog stanja na tržištu (SL L 303, 28.11.2018., str. 69.).