Umetna inteligenca: Priložnosti in tveganja

Umetna inteligenca vse bolj vpliva na naša življenja. Spoznajte priložnosti in grožnje, ki jih predstavlja za varnost, demokracijo, podjetja in delo.

Blaginja Evrope je v veliki meri odvisna od tega, kako ji bo uspelo izkoristiti potencial, ki ga predstavljajo podatki in z njimi povezane tehnologije. Umetna inteligenca lahko bistveno spremeni naša življenja - na bolje ali slabše.

Zato je EU junija 2024 sprejela Akt o umetni inteligenci, prvo celovito zakonodajo o umetni inteligenci na svetu, ki zagotavlja, da so sistemi umetne inteligence, ki se uporabljajo v EU, varni in skladni s temeljnimi pravicami.

V nadaljevanju je predstavljenih nekaj ključnih priložnosti in groženj, povezanih z uporabo umetne inteligence v prihodnosti, pa tudi kako jih obravnava in se z njimi spoprijema nova zakonodaja.

Več o tem, kaj je umetna inteligenca in kako se jo uporablja.

Koristi umetne inteligence

Države EU so močne na področjih digitalne industrije in uporabe digitalnih rešitev za poslovanje med podjetji. Z visokokakovostno digitalno infrastrukturo in pravnim okvirom, ki ščiti zasebnost in svobodo govora, bi lahko EU postala globalno vodilna na področju podatkovnega gospodarstva in njegovih aplikacij.

Koristi umetne inteligence za ljudi

Umetna inteligenca bi lahko prebivalcem omogočila boljše zdravstvene storitve, bolj varne avtomobile in druga prevozna sredstva ter prilagojene, cenejše in trajnejše izdelke in storitve. Olajša lahko tudi dostop do informacij, izobraževanja in usposabljanja.

Umetna inteligenca lahko omogoči varnejša delovna mesta, saj lahko nevarna dela opravljajo roboti, in odpre nove zaposlitvene priložnosti, ko bodo z njo povezana področja rasla in se spreminjala.

Priložnosti umetne inteligence za podjetja

Podjetjem lahko umetna inteligenca omogoči razvoj nove generacije izdelkov in storitev, tudi v sektorjih, kjer imajo evropska podjetja že sedaj močan položaj: v zelenem in krožnem gospodarstvu, izdelavi strojev, kmetijstvu, zdravstvu, modi, turizmu. Omogoči lahko enostavnejše in optimizirane prodajne poti, izboljša vzdrževanje strojev, poveča proizvodne zmogljivosti in kakovost izdelkov, izboljša storitve za stranke in prihrani energijo.

Priložnosti umetne inteligence za javne storitve

Umetna inteligenca lahko zmanjša stroške in odpre nove priložnosti na področju javnega prevoza, izobraževanja ter ravnanja z energijo in odpadki in omogoči bolj trajnostne izdelke. Tako lahko umetna inteligenca tudi bistveno pripomore k doseganju ciljev zelenega dogovora.

Krepitev demokracije

Demokratični nadzor na podlagi podatkov, preprečevanje dezinformacij in kibernetskih napadov ter zagotavljanje dostopa do kakovostnih informacij lahko okrepijo demokracijo. Umetna inteligenca lahko tudi pomaga podpreti raznolikost in odprtost, denimo tako, da ublaži možnost vpliva predsodkov pri zaposlovanju tako, da zagotovi analitične podatke.

Umetna inteligenca in varnost

Umetno inteligenco se bo po napovedih vse več uporabljalo za preprečevanje kriminala in v sodnem sistemu, saj bi lahko hitreje procesirala velike baze podatkov, bolj točno predvidela možnost pobega zapornika ter preprečila kriminalna, celo teroristična dejanja. Že sedaj jo uporabljajo spletne platforme za zaznavanje nezakonitega in neprimernega vedenja na spletu ter reagiranje nanj.

Na vojaškem področju bi se umetna inteligenca lahko uporabljala za obrambne in napadalne strategije pri hekerskih napadih in ribarjenju (oz. 'phishingu') ali za ciljanje ključnih sistemov pri kibernetskem bojevanju.

Tveganja in izzivi umetne inteligence

Vse širša uporaba sistemov umetne inteligence prinaša tudi potencialna tveganja.

Premalo in preveč umetne inteligence

Premajhna uporaba umetne inteligence je razumljena kot veliko tveganje, saj lahko zamujena priložnost za EU pomeni slabšo izvedbo velikih programov, izgubi lahko svoje konkurenčne prednosti napram drugim regijam in gospodarsko stagnira, prebivalci pa imajo slabše priložnosti. Razlogi za premajhno uporabo umetne inteligence so lahko nezaupanje javnosti ali podjetij v to tehnologijo, slaba infrastruktura, odsotnost pobude, premalo naložb ali, glede na to, da strojno učenje temelji na podatkih, razdrobljeni digitalni trgi.

Tudi prevelika uporaba je lahko problematična: investiranje v načine uporabe umetne inteligence, ki se izkažejo za neuporabne, ali uporaba umetne inteligence za naloge, za katere ni primerna, denimo za razlaganje kompleksnih družbenih vprašanj.

Cilj Akta o UI je obravnavati obe nevarnosti. Njegov namen je spodbujati zaupanja vredno umetno inteligenco v Evropi tako za državljane kot podjetja in nasloviti tveganja, ki jih predstavlja umetna inteligenca, hkrati pa Evropo postaviti na zemljevid kot vodilno silo na tem področju.

Odgovornost: Koga kriviti za škodo?

Pomemben izziv je določiti, kdo je odgovoren za škodo, ki jo povzroči naprava ali storitev, temelječa na umetni inteligenci: ali naj stroške nesreče, v kateri je udeleženo samovozeče vozilo, krije lastnik, proizvajalec vozila ali programer?

Če proizvajalci ne bi nosili nobene odgovornosti, morda ne bi bilo spodbude za proizvajanje kakovostnih izdelkov ali storitev, kar pa bi lahko okrnilo zaupanje ljudi v tehnologijo. Hkrati pa bi prestrogi predpisi lahko zadušili inovacije.

Tveganja umetne inteligence za temeljne pravice in demokracijo

Rezultati, ki jih prinese umetna inteligenca, so odvisni od tega, kako je zasnovana in kakšne podatke prejema. Tako zasnova kot podatki so lahko namerno ali nenamerno pristranski. Lahko nekateri pomembni vidiki niso vključeni v algoritem ali pa je ta programiran tako, da odraža in reproducira strukturno pristranskost. Še več: zaradi uporaba številk pri razlaganju zapletenih družbenih vprašanj se lahko umetna inteligenca zdi natančna in temelječa na dejstvih, tudi ko ni ("mathwashing").

Če bi bila umetna inteligenca neustrezno zasnovana, bi lahko etnična pripadnost, spol ali starost vplivali na zaposlovanje, dajanje posojil ali celo sodne postopke.

Umetna inteligenca bi imela lahko hude posledice za pravico do zasebnosti in varovanje podatkov. Uporabi se jo lahko denimo v opremi za prepoznavanje obrazov ali za spletno sledenje in profiliranje posameznikov. Še več: umetna inteligenca omogoča združevanje podatkov, ki jih je oseba podala, v nove podatke, kar ima lahko posledice, ki jih oseba ne pričakuje.

Umetna inteligenca lahko pomeni tudi grožnjo za demokracijo, že sedaj jo krivijo za ustvarjanje zaprtih spletnih skupnosti, ki so ustvarjene na podlagi prejšnjega vedenja ljudi na spletu in prikazujejo le vsebine, ki jim bodo verjetno všeč, namesto, da bi prispevale k ustvarjanju okolja za raznoliko, vsem dostopno in vključujočo javno razpravo. Uporabi se jo lahko tudi za ustvarjanje izjemno realističnih ponarejenih videov, zvočnih posnetkov in slik ("deepfakes"), ki lahko pomenijo finančno tveganje, škodijo ugledu ali otežujejo odločanje. Vse to lahko vodi k polarizaciji javne sfere in manipulaciji volitev.

Umetna inteligenca bi lahko okrnila tudi svobodo zbiranja in protestirana, saj bi lahko zbirala podatke o posameznikih, povezanih z določenimi prepričanji.

Da bi preprečili pristranskost, zakon o umetni inteligenci zahteva, da so nabori podatkov, ki se uporabljajo za učenje umetne inteligence, čim bolj popolni in brez napak. Ureja tudi uporabo nekaterih na umetni inteligenci temelječih aplikacij, ki lahko ogrožajo pravice državljanov. Na primer uporaba biometričnih identifikacijskih sistemov s strani organov pregona je prepovedana, razen v nekaterih ozko opredeljenih primerih. Zakon o umetni inteligenci je uvedel tudi zahtevo, da morajo biti umetno ustvarjene ali manipulirane slike, avdio ali video vsebine, tj. globoki ponaredki, jasno in vidno označeni kot taki.

Vpliv umetne inteligence na delovna mesta

Glede na napovedi bi lahko uporaba umetne inteligence pomenila ukinitev velikega števila delovnih mest. Čeprav napovedi kažejo tudi, da se bodo hkrati zaradi nje odprla nova delovna mesta in obstoječa izboljšala, bodo izobraževanja in usposabljanja ključna za preprečevanje dolgotrajne brezposelnosti in za zagotavljanje usposobljene delovne sile.

Konkurenca

Zbiranje informacij lahko vodi tudi v izkrivljanje konkurence, saj imajo akterji z več informacijami veliko prednost in lahko posledično učinkovito izrinejo konkurenco.

Varnostna tveganja

Uporaba umetne inteligence v izdelkih, ki pridejo v fizični stik z ljudmi ali so celo vgrajeni v človeško telo, je lahko tvegana, saj so lahko izdelki slabo zasnovani, napačno uporabljeni ali pa vanje vdrejo hekerji. Slabo urejeno področje uporabe umetne inteligence za orožje bi lahko pomenilo tudi smrtne žrtve.

Preglednost

Neenak dostop do informacij lahko pomeni tudi nepravično izkoriščanje tega. Na podlagi vedenja osebe na spletu in brez njene vednosti lahko z uporabo umetne inteligence denimo spletni prodajalec predvidi, koliko je oseba pripravljena plačati, politična kampanja pa prilagodi svoje sporočilo. Še en izziv preglednosti je, da ljudje včasih sploh ne vedo, ali se pogovarjajo z umetno inteligenco ali osebo.

Zakon o umetni inteligenci se spopada s temi izzivi tako, da ureja uporabo umetne inteligence na način, ki preprečuje manipuliranje človeškega vedenja, zavajanje ali izkoriščanje ranljivosti ljudi.

Preberite, kako hočejo evropski poslanci oblikovati zakonodajo o podatkih, da bo spodbujala inovacije in zagotavljala varnost.

Več

• Služba Evropskega parlamenta za raziskave: Umetna inteligenca: kako deluje, zakaj je pomembna, kaj lahko storimo glede nje? (v angleščini)
• Think Tank Evropskega parlamenta: Priložnosti umetne inteligence (v angleščini)
• Služba Evropskega parlamenta za raziskave: Umetna inteligenca pred vrati: Pravni in etični vidiki (v angleščini)
• Evropska komisija: Bela knjiga o umetni inteligenci odpre se v novem oknu
• Raziskava Sveta Evrope: Algoritmi in človekove pravice (v angleščini) odpre se v novem oknu

Sorodni članki

• Digitalno

• Umetna inteligenca

• Kaj je umetna inteligenca in kako se uporablja v praksi?