Umjetna inteligencija: Prilike i prijetnje

Umjetna inteligencija sve više utječe na naše živote. Saznajte više o prilikama i prijetnjama za sigurnost, demokraciju, poduzeća i radna mjesta.

Umjetna inteligencija: ljudi ostaju u njezinom središtu

Rast i bogatstvo Europe usko su povezani s načinom na koji koristi podatke i povezane tehnologije. Umjetna inteligencija može znatno utjecati na naše živote. U lipnju 2023. Europski parlament usvojio je svoju pregovaračku poziciju o Aktu o umjetnoj inteligenciji, prvom skupu pravila na svijetu koji regulira rizike povezane s umjetnom inteligencijom. U nastavku su navedene ključne prilike i prijetnje povezane s budućom primjenom umjetne inteligencije.

142 zetabajta

Očekuje se porast količine podataka proizvedenih u svijetu s 33 zetabajta 2018. na 175 u 2025. (1 zetabajt je tisuću milijardi gigabajta)

Prednosti umjetne inteligencije


Države članice EU-a već su snažne u digitalnoj industriji i aplikacijama za poduzeća. Zahvaljujući visokokvalitetnoj digitalnoj infrastrukturi i regulatornom okviru kojim se štite privatnost i sloboda govora, EU bi mogao postati globalni predvodnik u podatkovnom gospodarstvu i njegovim primjenama.

Poboljšanja za građane

Umjetna inteligencija mogla bi donijeti građanima poboljšanu zdravstvenu skrb, sigurnije automobile i druge prometne sustave, prilagođene, jeftinije i dugotrajnije proizvode i usluge. Njome se može olakšati pristup informacijama, obrazovanju i osposobljavanju, što je posebno važno zbog potrebe za učenjem na daljinu, pogotovo u vrijeme pandemije COVID-19. Umjetna inteligencija može učiniti radna mjesta sigurnijima jer se za opasne aktivnosti mogu upotrebljavati roboti, te može otvoriti nova radna mjesta koja će nastati zbog razvoja industrije temeljene na umjetnoj inteligenciji.

Poboljšanja za poduzeća


Umjetna inteligencija može omogućiti razvoj nove generacije proizvoda i usluga za poduzeća, među ostalim u sektorima u kojima europska poduzeća već imaju jak položaj: zeleno i kružno gospodarstvo, strojevi, poljoprivreda, zdravstvo, moda, turizam. Može omogućiti jednostavnije i optimizirane prodajne putove, poboljšati održavanje strojeva, povećati proizvodnju i kvalitetu, poboljšati korisničke usluge i uštedjeti energiju.

11 - 37 posto

Procijenjeno povećanje produktivnosti rada zbog umjetne inteligencije do 2035. (EP Think Tank 2020.)

Poboljšanja u javnim službama

Umjetna inteligencija koja se upotrebljava u javnim uslugama može smanjiti troškove i ponuditi nove mogućnosti u javnom prijevozu, obrazovanju, energiji i gospodarenju otpadom te poboljšati održivost proizvoda. Stoga bi umjetna inteligencija mogla pridonijeti postizanju ciljeva Zelenog plana.

1,5 - 4 posto

Procjena koliko bi umjetna inteligencija mogla doprinijeti smanjenju globalnih emisija stakleničkih plinova do 2030. (EP Think Tank 2020.)

Jačanje demokracije


Kontrola na temelju podataka, sprečavanje dezinformacija i kibernapada te osiguravanje pristupa kvalitetnim informacijama mogu ojačati demokraciju. Uz to, mogu poduprijeti raznolikost i otvorenost, primjerice ublažavanjem predrasuda pri donošenju odluka o zapošljavanju i upotrebom analitičkih podataka.

Umjetna inteligencija, zaštita i sigurnost


Predviđa se veća upotreba umjetne inteligencije kod sprečavanja kriminala i u kaznenopravnom sustavu, jer se masovni skupovi podataka mogu brže obrađivati, rizik od bijega zatvorenika točnije procijeniti te kriminal ili čak teroristički napadi predvidjeti i spriječiti. Internetske platforme već upotrebljavaju umjetnu inteligenciju za otkrivanje nezakonitog i neprimjerenog ponašanja na internetu i reagiranje na njega.

U vojsci se umjetna inteligencija može koristiti za obrambene strategije i strategije napada u hakiranju i lažiranju ili za usmjeravanje na ključne sustave u kibernetičkom ratovanju.

Prijetnje i izazovi umjetne inteligencije


Sve veće oslanjanje na sustave umjetne inteligencije također predstavlja potencijalne rizike.

Nedovoljna i prekomjerna uporaba


Nedovoljna uporaba umjetne inteligencije smatra se velikom prijetnjom: propuštene prilike za EU mogle bi značiti lošu provedbu velikih programa, kao što je Zeleni plan, gubitak konkurentske prednosti u odnosu na druge regije, gospodarsku stagnaciju i manje mogućnosti za građane. Do nedovoljne upotrebe moglo bi doći zbog nepovjerenja javnosti i poduzeća u umjetnu inteligenciju, slabe infrastrukture, nedostatka inicijative, niskih ulaganja ili, s obzirom na to da strojno učenje umjetne inteligencije ovisi o podacima, zbog rascjepkanih digitalnih tržišta.

Prekomjerno korištenje isto može biti problematično: ulaganje u aplikacije umjetne inteligencije koje se pokažu beskorisnima ili primjena na zadatke za koje nije prikladna, primjerice za objašnjavanje složenih društvenih pitanja.

Odgovornost: Tko je kriv za štetu?

Velik je izazov utvrditi tko je odgovoran za štetu uzrokovanu uređajem ili uslugom kojom se upravlja umjetnom inteligencijom: bi li u slučaju nesreće u kojoj je sudjelovao samovozeći automobil štetu trebao pokriti vlasnik, proizvođač automobila ili programer?

Ako je proizvođač potpuno oslobođen odgovornosti, možda neće biti motiviran za stvaranje dobrog proizvoda ili usluge, što bi moglo naštetiti povjerenju građana u tehnologiju; međutim, propisi bi također mogli biti prestrogi i kočiti inovacije.

Prijetnje temeljnim pravima i demokraciji

Rezultati umjetne inteligencije ovise o tome kako je osmišljena i koje podatke upotrebljava. I dizajn i podaci mogu biti namjerno ili nenamjerno pristrani. Na primjer, neki važni aspekti možda nisu programirani u algoritam ili se mogu programirati tako da odražavaju i ponavljaju strukturne predrasude. Nadalje, upotreba brojeva za složenu društvenu stvarnost mogla bi dovesti do toga da umjetnu inteligenciju smatramo činjeničnom i preciznom i kada to nije („mathwashing”).

Ako se ne koristi na odgovarajući način, umjetna inteligencija može dovesti do odluka pri zapošljavanju ili otpuštanju, davanje zajmova ili čak u kaznenim postupcima na koje utječu etnička pripadnost, spol, dob.

Umjetna inteligencija mogla bi ozbiljno utjecati na privatnost i zaštitu podataka. Može se, na primjer, upotrebljavati u opremi za prepoznavanje lica ili za internetsko praćenje i profiliranje pojedinaca. Osim toga, umjetna inteligencija omogućuje dobivanje novih podataka uz pomoć prikupljanja različitih informacija koje je osoba dala, što može dovesti do rezultata koje ta osoba ne očekuje.

Može predstavljati prijetnju demokraciji. Umjetna inteligencija već se krivi za stvaranje neobjektivne slike na temelju prijašnjeg ponašanja na internetu, prikazujući samo sadržaj koji osoba želi vidjeti, umjesto stvaranja okruženja za pluralističku, jednako pristupačnu i uključivu javnu raspravu. Može se koristiti i za stvaranje iznimno realističnih lažnih videozapisa, audiozapisa i slika, koji mogu predstavljati financijske rizike, naštetiti ugledu i dovesti u pitanje donošenje odluka. Sve to može dovesti do razdvajanja i polarizacije u javnoj sferi i manipuliranja izborima.

Umjetna inteligencija može utjecati na slobodu okupljanja i prosvjede jer može pratiti i profilirati pojedince povezane s određenim uvjerenjima ili djelima.

Utjecaj na radna mjesta


Očekuje se da će se zbog primjene umjetne inteligencije ukinuti veliki broj radnih mjesta. No umjetna inteligencija također treba stvoriti i poboljšati radna mjesta, obrazovanje i osposobljavanje, te će ono imati ključnu ulogu u sprečavanju dugotrajne nezaposlenosti i osiguravanju kvalificirane radne snage.

14 posto

14 posto radnih mjesta u zemljama OECD-a vrlo su automatizirana, a dodatnih 32 posto moglo bi se značajno promijeniti (procjena, EP Think Tank 2020.)

Natjecanje


Velika količina informacija može dovesti do narušavanja tržišnog natjecanja jer sudionici s više informacija mogu steći prednost i učinkovito eliminirati konkurente.

Sigurnosni rizici


Umjetna inteligencija u fizičkom dodiru s ljudima ili integrirana u ljudsko tijelo može predstavljati sigurnosni rizik jer može biti loše osmišljena, zloupotrebljavana ili hakirana. Loše regulirana upotreba umjetne inteligencije u području naoružanja može dovesti do gubitka ljudske kontrole nad opasnim oružjem.

Transparentnost


Neravnoteža kod pristupa informacijama može se iskoristiti. Na primjer, na temelju ponašanja osobe na internetu ili drugih podataka i bez njezinog znanja, internetski prodavatelj može uz pomoć umjetne inteligencije predvidjeti koliko je voljna platiti ili prilagoditi poruku u svojoj političkoj kampanji. Ponekad ljudima može biti nejasno jesu li u interakciji s umjetnom inteligencijom ili osobom.

Saznajte kako zastupnici žele oblikovati zakonodavstvo o podacima kako bi potaknuli inovacije i osigurali zaštitu