Umetna inteligenca: Priložnosti in tveganja

Umetna inteligenca vse bolj vpliva na naša življenja. Spoznajte priložnosti in grožnje, ki jih predstavlja za varnost, demokracijo, podjetja in delo.

Blaginja Evrope je v veliki meri odvisna od tega, kako ji bo uspelo izkoristiti potencial, ki ga predstavljajo podatki in z njimi povezane tehnologije. Umetna inteligenca lahko bistveno spremeni naša življenja - na bolje ali slabše - in Evropski parlament je ustanovil odbor za umetno inteligenco v digitalni dobi, ki je preučil vpliv te tehnologije in predlagal načrt EU za umetno inteligenco. Poslanci so pozvali tudi k oblikovanju zakonodaje o umetni inteligenci, ki bo osredotočena na človeka. Predstavljamo nekaj ključnih priložnosti in tveganj, ki jih predstavlja umetna inteligenca.

Več o tem, kaj je umetna inteligenca in kako se jo uporablja.

Prednosti umetne inteligence

Države EU so močne na področjih digitalne industrije in uporabe digitalnih rešitev za poslovanje med podjetji. Z visokokakovostno digitalno infrastrukturo in pravnim okvirom, ki ščiti zasebnost in svobodo govora, bi lahko EU postala globalno vodilna na področju podatkovnega gospodarstva in njegovih aplikacij.

Prednosti umetne inteligence za ljudi

Umetna inteligenca bi lahko prebivalcem omogočila boljše zdravstvene storitve, bolj varne avtomobile in druga prevozna sredstva ter prilagojene, cenejše in trajnejše izdelke in storitve. Olajša lahko tudi dostop do informacij, izobraževanja in usposabljanja, kar se je izkazalo za posebej pomembno, ko je bilo med pandemijo covida-19 nujno učenje na daljavo. Umetna inteligenca lahko omogoči varnejša delovna mesta, saj nevarna dela lahko opravljajo roboti, in odpre nove zaposlitvene priložnosti, ko bodo z njo povezana področja rasla in se spreminjala.

Priložnosti umetne inteligence za podjetja

Podjetjem lahko umetna inteligenca omogoči razvoj nove generacije izdelkov in storitev, tudi v sektorjih, kjer imajo evropska podjetja že sedaj močan položaj: v zelenem in krožnem gospodarstvu, izdelavi strojev, kmetijstvu, zdravstvu, modi, turizmu. Omogoči lahko enostavnejše in optimizirane prodajne poti, izboljša vzdrževanje strojev, poveča proizvodne zmogljivosti in kakovost izdelkov, izboljša storitve za stranke in prihrani energijo.

Priložnosti umetne inteligence za javne storitve

Umetna inteligenca lahko zmanjša stroške in odpre nove priložnosti na področju javnega prevoza, izobraževanja ter ravnanja z energijo in odpadki in omogoči bolj trajnostne izdelke. Tako lahko umetna inteligenca tudi bistveno pripomore k doseganju ciljev zelenega dogovora.

Krepitev demokracije

Demokratični nadzor na podlagi podatkov, preprečevanje dezinformacij in kibernetskih napadov ter zagotavljanje dostopa do kakovostnih informacij lahko okrepijo demokracijo. Umetna inteligenca lahko tudi pomaga podpreti raznolikost in odprtost, denimo tako, da ublaži možnost vpliva predsodkov pri zaposlovanju tako, da zagotovi analitične podatke.

Umetna inteligenca in varnost

Umetno inteligenco se bo po napovedih vse več uporabljalo za preprečevanje kriminala in v sodnem sistemu, saj bi lahko hitreje procesirala velike baze podatkov, bolj točno predvidela možnost pobega zapornika ali predvidela in preprečila kriminalna, celo teroristična dejanja. Že sedaj jo uporabljajo spletne platforme za zaznavanje nezakonitega in neprimernega vedenja na spletu ter reagiranje nanj.

V vojaški uporabi lahko umetna inteligenca pride prav za hekerske strategije obrambe in napada ali za ciljanje ključnih sistemov, ključna prednost avtonomnih orožnih sistemov pa je možnost, da se jih uporabi v oboroženem spopadu in s tem zmanjša tveganje fizičnih poškodb ljudi.

Tveganja in izzivi umetne inteligence

Vse širša uporaba sistemov umetne inteligence prinaša tudi potencialna tveganja.

Premalo in preveč umetne inteligence

Premalo uporabe umetne inteligence je razumljeno kot veliko tveganje, saj lahko zamujena priložnost za EU pomeni slabšo izvedbo velikih programov, kot je zeleni evropski dogovor, izgubi lahko svoje konkurenčne prednosti napram drugim regijam in gospodarsko stagnira, prebivalci pa imajo slabše priložnosti. Razlogi za premajhno uporabo umetne inteligence so lahko nezaupanje javnosti ali podjetij v to tehnologijo, slaba infrastruktura, odsotnost pobude, premalo naložb ali, glede na to, da strojno učenje temelji na podatkih, razdrobljeni digitalni trgi.

Tudi preveč široka uporaba je lahko problematična: investiranje v načine uporabe umetne inteligence, ki se izkažejo za neuporabne ali uporaba umetne inteligence za naloge, za katere ni primerna, denimo za razlaganje kompleksnih družbenih vprašanj.

Odgovornost: Koga kriviti za škodo?

Pomemben izziv je določiti, kdo je odgovoren za škodo, ki jo povzročili naprava ali storitev, temelječa na umetni inteligenci: ali naj stroške nesreče, v kateri je udeleženo samovozeče vozilo, krije lastnik, proizvajalec vozila ali programer?

Če proizvajalci ne bi nosili odgovornosti, bi to lahko pomenilo, da bi proizvajali slabše izdelke, kar pa bi lahko okrnilo zaupanje ljudi v tehnologijo. Hkrati bi prestrogi predpisi lahko zadušili inovacije.

Tveganja umetne inteligence za temeljne pravice in demokracijo

Rezultati, ki jih prinese umetna inteligenca, so odvisni od tega, kako je zasnovana in kakšne podatke prejema. Tako zasnova kot podatki so lahko namerno ali nenamerno pristranski. Lahko nekateri pomembni vidiki niso vključeni v algoritem ali pa je ta programiran tako, da odraža in reproducira strukturno pristranskost. Še več: zaradi uporaba številk pri razlaganju zapletenih družbenih vprašanj se lahko umetna inteligenca zdi natančna in temelječa na dejstvih, tudi ko ni ("mathwashing").

Če bi bila umetna inteligenca neustrezno zasnovala, bi lahko etnična pripadnost, spol ali starost vplivali na zaposlovanje, dajanje posojil ali celo sodne postopke.

Umetna inteligenca bi imela lahko hude posledice za pravico do zasebnosti in varovanje podatkov. Uporabi se jo lahko denimo v opremi za prepoznavanje obrazov ali za spletno sledenje in profiliranje posameznikov. Še več: umetna inteligenca omogoča združevanje podatkov, ki jih je oseba podala, v nove podatke, kar ima lahko posledice, ki jih oseba ne pričakuje.

Umetna inteligenca lahko pomeni tudi grožnjo za demokracijo, že sedaj jo krivijo za ustvarjanje zaprtih spletnih skupnosti, ki so ustvarjene na podlagi prejšnjega vedenja ljudi na spletu in prikazujejo le vsebine, ki jim bodo verjetno všeč, namesto, da bi prispevale k ustvarjanju okolja za raznoliko, vsem dostopno in vključujočo javno razpravo. Uporabi se jo lahko tudi za ustvarjanje izjemno realističnih ponarejenih videov, zvočnih posnetkov in slik ("deepfakes"), ki lahko pomenijo finančno tveganje, škodijo ugledu ali otežkočajo odločanje. Vse to lahko vodi k polarizaciji javne sfere in manipulaciji volitev.

Umetna inteligenca bi lahko okrnila tudi svobodo zbiranja in protestirana, saj bi lahko zbirala podatke o posameznikih, povezanih z določenimi prepričanji.

Vpliv umetne inteligence na delovna mesta

Glede na napovedi bi lahko uporaba umetne inteligence pomenila ukinitev velikega števila delovnih mest. Čeprav napovedi kažejo tudi, da se bo hkrati zaradi nje odprla nov delovna mesta in obstoječa izboljšala, bodo izobraževanja in usposabljanja ključna za preprečevanje dolgotrajne brezposelnosti in zagotavljanje usposobljene delovne sile.

Konkurenca

Zbiranje informacij lahko vodi tudi v izkrivljanje konkurence, saj imajo akterji z več informacijami veliko prednost in lahko posledično učinkovito izrinejo konkurenco.

Varnostna tveganja

Uporaba umetne inteligence v izdelkih, ki pridejo v fizični stik z ljudmi ali so celo vgrajeni v človeško telo, je lahko tvegana, saj so lahko izdelki slabo zasnovani, napačno uporabljeni ali pa vanje vdrejo hekerji. Slabo urejeno področje uporabe umetne inteligence za orožje bi lahko pomenilo tudi smrtne žrtve.

Preglednost

Neenak dostop do informacij lahko pomeni tudi nepravično izkoriščanje tega. Na podlagi vedenja osebe na spletu in brez njene vednosti lahko z uporabo umetne inteligence denimo spletni prodajalec predvidi, koliko je oseba pripravljena plačati, politična kampanja pa prilagodi svoje sporočilo. Še en izziv preglednosti je, da ljudje včasih sploh ne vedo, ali se pogovarjajo z umetno inteligenco ali osebo.

Preberite, kako hočejo evropski poslanci oblikovati zakonodajo o podatkih, da bo spodbujala inovacije in zagotavljala varnost.

Več

• Služba Evropskega parlamenta za raziskave: Umetna inteligenca: kako deluje, zakaj je pomembna, kaj lahko storimo glede nje? (v angleščini)
• Think Tank Evropskega parlamenta: Priložnosti umetne inteligence (v angleščini)
• Služba Evropskega parlamenta za raziskave: Umetna inteligenca pred vrati: Pravni in etični vidiki (v angleščini)
• (odpre se na novem zavihku) Evropska komisija: Bela knjiga o umetni inteligenci
• (odpre se na novem zavihku) Raziskava Sveta Evrope: Algoritmi in človekove pravice (v angleščini)

Sorodni članki

• Digitalni enotni trg EU

• Umetna inteligenca in masovni podatki

• Kaj je umetna inteligenca in kako se uporablja v praksi?