Umjetna inteligencija: Prilike i prijetnje

Umjetna inteligencija sve više utječe na naše živote. Saznajte više o prilikama i prijetnjama za sigurnost, demokraciju, poduzeća i radna mjesta.

Objavljeno: 23-09-2020 Posljednji put ažurirano: 19-02-2025 - 15:07 Vrijeme čitanja: 8 min

Rast i bogatstvo Europe usko su povezani s načinom na koji koristimo podatke i povezane tehnologije. Umjetna inteligencija može znatno utjecati na naše živote.

EU je u lipnju 2024. donio Akt o umjetnoj inteligenciji, prvo sveobuhvatno zakonodavstvo na svijetu o toj temi, kako bi omogućio sigurne sustave umjetne inteligencije u EU-u i poštivanje temeljnih prava.

U nastavku donosimo ključne prilike i prijetnje povezane s umjetnom inteligencijom i objašnjavamo kako se Aktom o umjetnoj inteligenciji nastoji odgovoriti na izazove.

Saznajte više o umjetnoj inteligenciji i kako se upotrebljava

Prednosti umjetne inteligencije

Države članice EU-a već imaju snažnu poziciju u digitalnoj industriji i aplikacijama za poduzeća. Zahvaljujući visokokvalitetnoj digitalnoj infrastrukturi i regulatornom okviru kojim se štite privatnost i sloboda govora, EU bi mogao postati globalni predvodnik u podatkovnom gospodarstvu i njegovim primjenama.

Poboljšanja za građane

Umjetna inteligencija građanima može omogućiti bolju zdravstvenu skrb, sigurnije automobile i druge prometne sustave, te prilagođene, jeftinije i dugotrajnije proizvode i usluge. Njome se olakšava pristup informacijama, obrazovanju i osposobljavanju. Zahvaljujući umjetnoj inteligenciji, za opasne aktivnosti mogu se koristiti roboti, čime radna mjesta postaju sigurnija, a osim toga, zbog razvoja industrije temeljene na umjetnoj inteligenciji, otvaraju se nova radna mjesta.

Poboljšanja za poduzeća

Umjetna inteligencija poduzećima može omogućiti razvoj nove generacije proizvoda i usluga, među ostalim u sektorima u kojima europska poduzeća već imaju jak položaj: zeleno i kružno gospodarstvo, strojevi, poljoprivreda, zdravstvo, moda, turizam. Može omogućiti jednostavnije i optimizirane prodajne kanale, poboljšati održavanje strojeva, povećati proizvodnju i kvalitetu, poboljšati korisničke usluge i uštedjeti energiju.

Poboljšanja u javnim uslugama

Korištenjem umjetne inteligencije u javnim uslugama mogu se smanjiti troškovi i otvoriti nove mogućnosti u javnom prijevozu, obrazovanju, energiji i gospodarenju otpadom, te poboljšati održivost proizvoda. Umjetna inteligencija može pridonijeti postizanju ciljeva Zelenog plana.

Jačanje demokracije

Kontrola temeljena na podacima, sprječavanje dezinformacija i kibernapada te pristup kvalitetnim informacijama mogu ojačati demokraciju. Uz to, mogu poduprijeti raznolikost i otvorenost, primjerice ublažavanjem predrasuda pri donošenju odluka o zapošljavanju i upotrebom analitičkih podataka.

Umjetna inteligencija, zaštita i sigurnost

Predviđa se povećanje korištenja umjetne inteligencije u sprječavanju kriminala i u kaznenopravnom sustavu, jer omogućava bržu obradu masovnih skupova podataka, točniju procjenu rizika od bijega zatvorenika te sprječavanje kriminala ili čak terorističkih napada. Internetske platforme već upotrebljavaju umjetnu inteligenciju za otkrivanje i reagiranje na nezakonito i neprimjereno ponašanje na internetu.

Umjetna inteligencija može se koristiti i u vojsci, za obrambene strategije i strategije napada u hakiranju i lažiranju ili za usmjeravanje na ključne sustave u kibernetičkom ratovanju.

Prijetnje i izazovi umjetne inteligencije

Sve veće oslanjanje na sustave umjetne inteligencije također donosi neke rizike.

Nedovoljna i prekomjerna uporaba umjetne inteligencije

Nedovoljna uporaba umjetne inteligencije smatra se velikom prijetnjom: propuštene prilike za EU mogu dovesti do loše provedbe složenih programa, kao što je Zeleni plan, gubitka konkurentske prednosti u odnosu na druge regije, gospodarske stagnacije i manjih mogućnosti za građane. Do nedovoljne upotrebe može doći zbog nepovjerenja javnosti i poduzeća u umjetnu inteligenciju, slabe infrastrukture, nedostatka inicijative, niskih ulaganja ili, s obzirom na to da strojno učenje umjetne inteligencije ovisi o podacima, rascjepkanih digitalnih tržišta.

Prekomjerno korištenje također može biti problematično, primjerice ulaganje u aplikacije koje se pokažu beskorisnima, ili primjena na zadatke za koje nije prikladna, kao za objašnjavanje složenih društvenih pitanja.

Aktom o umjetnoj inteligenciji nastoje se spriječiti takve situacije. Cilj je potaknuti korištenje pouzdane umjetne inteligencije u Europi, i za građane i za poduzeća, ukloniti rizike i pozicionirati Europu kao vodeću silu u tom području.

Odgovornost za štetu

Ako uređaj ili usluga kojom upravlja umjetnom inteligencijom prouzroči štetu, velik je izazov utvrditi tko je za nju odgovoran. Treba li u slučaju nesreće u kojoj je sudjelovao samovozeći automobil štetu pokriti vlasnik, proizvođač automobila ili programer?

Ako je proizvođač potpuno oslobođen odgovornosti, možda neće biti motiviran za stvaranje dobrog proizvoda ili usluge, što može dovesti do nepovjerenja građana u tehnologiju. Međutim, propisi također mogu biti prestrogi i kočiti inovacije.

Prijetnje temeljnim pravima i demokraciji

Rezultati umjetne inteligencije ovise o tome kako je osmišljena i koje podatke upotrebljava. I dizajn i podaci mogu biti namjerno ili nenamjerno pristrani. Na primjer, neki važni aspekti možda nisu programirani u algoritam ili se mogu programirati tako da odražavaju i ponavljaju strukturne predrasude. Nadalje, upotreba brojeva za složenu društvenu stvarnost mogla bi dovesti do toga da umjetnu inteligenciju smatramo činjeničnom i preciznom i kada to nije („mathwashing”).

Ako se ne koristi na odgovarajući način, umjetna inteligencija može dovesti do odluka pri zapošljavanju ili otpuštanju, davanju zajmova ili čak u kaznenim postupcima koje su pod utjecajem etničke pripadnosti, spola ili dobi.

Umjetna inteligencija može ozbiljno utjecati na privatnost i zaštitu podataka. Može se, na primjer, upotrebljavati u opremi za prepoznavanje lica ili za internetsko praćenje i profiliranje pojedinaca. Osim toga, umjetna inteligencija omogućuje dobivanje novih podataka uz pomoć prikupljanja različitih informacija koje je osoba dala, što može dovesti do rezultata koje ta osoba ne očekuje.

Također može predstavljati prijetnju demokraciji. Umjetna inteligencija već se krivi za stvaranje neobjektivne slike na temelju prijašnjeg ponašanja na internetu, prikazujući samo sadržaj koji osoba želi vidjeti, umjesto stvaranja okruženja za pluralističku, jednako pristupačnu i uključivu javnu raspravu. Može se koristiti i za stvaranje iznimno realističnih lažnih videozapisa, audiozapisa i slika, koji mogu predstavljati financijske rizike, naštetiti ugledu i dovesti u pitanje donošenje odluka. Sve to može dovesti do razdvajanja i polarizacije u javnoj sferi i manipuliranja izborima.

Umjetna inteligencija može utjecati na slobodu okupljanja i prosvjede jer može pratiti i profilirati pojedince povezane s određenim uvjerenjima ili djelima.

Kako bi se spriječila pristranost, Aktom o umjetnoj inteligenciji zahtijeva se da skupovi podataka koji se upotrebljavaju za učenje umjetne inteligencije budu što potpuniji i bez pogrešaka. Uređuje se i upotreba određenih aplikacija umjetne inteligencije koje mogu ugroziti prava građana. Primjerice, tijelima kaznenog progona zabranjena je upotreba sustava za biometrijsku identifikaciju, osim u nekim usko definiranim slučajevima.

Aktom o umjetnoj inteligenciji uveden je i zahtjev da umjetno stvorene ili manipulirane slike, audiosadržaji ili videosadržaji, tj. uvjerljivi krivotvoreni sadržaji, trebaju biti jasno i vidljivo označeni kao takvi.

Utjecaj na radna mjesta

Moguće je da će se zbog primjene umjetne inteligencije ukinuti veliki broj radnih mjesta. No umjetna inteligencija također može stvoriti i poboljšati radna mjesta, obrazovanje i osposobljavanje, te može imati važnu ulogu u sprečavanju dugotrajne nezaposlenosti i osiguravanju kvalificirane radne snage.

Natjecanje

Velika količina informacija može dovesti do narušavanja tržišnog natjecanja jer sudionici s više informacija mogu steći prednost i učinkovito eliminirati konkurente.

Sigurnosni rizici

Umjetna inteligencija u fizičkom dodiru s ljudima ili integrirana u ljudsko tijelo može predstavljati sigurnosni rizik jer može biti loše osmišljena, zloupotrebljavana ili hakirana. Loše regulirana upotreba umjetne inteligencije u području naoružanja može dovesti do gubitka ljudske kontrole nad opasnim oružjem.

Transparentnost

Neravnoteža u pristupu informacijama može se upotrijebiti u nečiju korist. Na primjer, na temelju ponašanja osobe na internetu ili drugih podataka i bez njezinog znanja, internetski prodavatelj može uz pomoć umjetne inteligencije predvidjeti koliko je osoba voljna platiti neki proizvod ili uslugu ili može prilagoditi poruku u svojoj političkoj kampanji. Ponekad ljudima može biti nejasno jesu li u interakciji s umjetnom inteligencijom ili osobom.

Aktom o umjetnoj inteligenciji regulira se upotreba umjetne inteligencije kako bi se spriječilo manipuliranje ljudskim ponašanjem, obmana ili iskorištavanje ranjivosti određenih osoba.

Saznajte kako zastupnici žele oblikovati zakonodavstvo o podacima kako bi potaknuli inovacije i osigurali zaštitu