Umelá inteligencia: možné oblasti využitia a riziká, ktoré so sebou prináša  

Ekonomický rast a bohatstvo Európy sú veľmi úzko prepojené s tým, ako dokáže využívať dáta a nové technológie. Umelá inteligencia dokáže v našich životoch urobiť veľké zmeny - pozitívne, ale aj negatívne. Preto musí byť náležite regulovaná a monitorovaná.

V júni 2023 Parlament prijal vyjednávaciu pozíciu k zákonu o AI, prvým komplexným pravidlám na svete, ktoré riadia riziká spojené s umelou inteligenciou.

Poslanci vyzývajú k tomu, aby bol stredobodom nových pravidiel človek. V našom článku prinášame hlavné výhody a výzvy, ktoré umelá inteligencia so sebou prináša.

Prečítajte si viac o tom, čo je to umelá inteligencia a kde všade sa využíva.

Výhody umelej inteligencie

Digitálny priemysel je už dnes silno rozvinutý vo viacerých krajinách EÚ. EÚ by sa mohla stať globálnym lídrom v oblasti dátovej ekonomiky, ak bude disponovať vysoko kvalitnou infraštruktúrou a adekvátnym regulačným rámcom na ochranu súkromia a slobody prejavu.

Výhody pre občanov

Umelá inteligencia môže pre občanov zlepšiť kvalitu zdravotnej starostlivosti alebo spraviť dopravu bezpečnejšou, či už ide o inteligentnejšie osobné automobily alebo optimalizáciu iných druhov dopravy. Vďaka nej môžeme vyvíjať lacnejšie a trvácnejšej výrobky alebo služby na mieru pre každého. Veľmi dobre sa dá využiť aj pri poskytovaní informácií, vzdelávaní alebo školení. Táto otázka sa dostala do popredia počas pandémie koronavírusu, keď sa vzdelávanie presunulo do online priestoru. Môže zlepšiť aj bezpečnosť na pracovisku - nebezpečné úkony môže za človeka vykonávať robot a v niektorých odvetviach môže vytvárať nové pracovné miesta.

Aké príležitosti primáša umelá inteligencia pre biznis

Čo sa týka firiem, umelá inteligencia im môže asistovať pri vývoji produktov a služieb novej generácie a to aj v odvetviach, kde majú európske podniky už silné postavenie, ako je napríklad ekologická a obehová ekonomika, strojárstvo, poľnohospodárstva, móda či turizmus. Dokáže optimalizovať predajné cesty, zlepšiť údržbu strojov, zvýšiť produkciu a kvalitu, zlepšiť služby zákazníkom a ušetriť energiu.

Potenciál umelej inteligencii vo verejnej správe a službách

Vo verejných službách môže umelá inteligencia pomôcť znížiť náklady a priniesť nové príležitosti v oblasti verejnej dopravy, vzdelávania či energetiky. Môže zefektívniť nakladanie s odpadom alebo zlepšiť udržateľnosť výrobkov. Týmto spôsobom môže prispievať k dosahovaniu cieľov, ktoré si EÚ vytýčila v rámci Európskeho ekologického dohovoru. 

Posilňovanie demokracie

Elektronické voľby, prevencia dezinformačných kampaní alebo kybernetických útokov či zabezpečenie prístupu ku kvalitným informáciám. To všetko sú oblasti, kde by umelá inteligencia mohla posilniť demokraciu. Takisto môže podporovať rozmanitosť a otvorenosť našej spoločnosti - pri prijímaní ľudí do zamestnania je niekedy lepšie použiť počítač, ktorý pracuje s analytickými údajmi, ako nechať rozhodnutie na človeka, ktorý môže byt osobne zaujatý.

Umelá inteligencia, bezpečnosť a ochrana

Umelá inteligencia by sa v budúcnosti mala viac využívať v trestnom súdnictve a na prevenciu trestnej činnosti. Dokáže rýchlo spracovávať obrovské množstvá údajov, čím vie lepšie posúdiť riziko úteku väzňov alebo predpovedať a predchádzať trestným činom alebo dokonca teroristickým útokov. Niektoré online platformy ju už dnes využívajú na detekciu a reagovanie na protiprávne alebo nevhodné správanie v online prostredí.

Vo vojenskej oblasti ju možno použiť pri obrane a útoku, pri hackovaní a phishingu alebo na zacielenie kľúčových systémov v počítačovej vojne.

Riziká a výzvy, ktoré so sebou prináša umelá inteligencia

Čoraz častejšie spoliehanie sa na umelú inteligenciu so sebou samozrejme prináša svoje riziká. Tu je prehľad tých najčastejších.

Nedostatočné využitie alebo nadužívanie umelej inteligencie

Za jedno z najväčších rizík možno považovať nedostatočné využitie umelej inteligencie. EÚ tak môže prísť o cenné príležitosti pri implementovaní svojich programov, ako je napríklad ekologický dohovor, alebo stratiť konkurenčnú výhodu oproti ostatným regiónom. Nevyužitie nových technológií môže zapríčiniť hospodársku stagnáciu a odrezať občanov od nových príležitostí.

Toto nedostatočné využívanie umelej inteligencie môže prameniť z nedôvery verejnosti alebo podnikov, nedostatočnej infraštruktúry, slabej iniciatívy alebo investícií, alebo roztriešteného digitálneho trhu, keďže strojové učenie veľmi závisí od kvality a množstva vstupných údajov.

Problémom môže byť aj nadmerné používanie umelej inteligencie, napríklad investície do technológií, ktoré sa ukážu ako neužitočné, alebo jej používanie v oblastiach, kde sa nehodí, napríklad na vysvetľovanie komplexných spoločenských javov.

Zodpovednosť na škody. Kto môže za škody spôsobené umelou inteligenciou

Veľkou otvorenou otázkou zostáva, kto bude zodpovedný za škody spôsobené umelou inteligenciou, či už je to zle fungujúce zariadenie alebo zle nastavená služba. Ak napríklad samojazdiace auto spôsobí haváriu, bude za ňu zodpovedný majiteľ auta, jeho výrobca alebo programátor zabudovaného softvéru?

Ak zbavíme zodpovednosti výrobcu, nebude mať žiaden motív na to, aby poskytoval čo najlepšie produkty alebo služby a ľudia môžu potom stratiť dôveru v technológie. Právne normy však nesmieme nastaviť príliš prísne pre výrobcov, aby nepredstavovali prekážku pre inovácie.

Hrozby pre základné práva a demokraciu

Výstupy umelej inteligencie veľmi úzko súvisia s tým, ako je navrhnutá a akými údajmi ju kŕmime. Jej dizajn aj vstupné údaje môžu byť úmyselne alebo neúmyselne zaujaté. Pri vytváraní algoritmu môžu byť vynechané dôležité súčasti alebo doň zakomponované kroky, ktoré odrážajú zakorenené spoločenské predsudky. Umelá inteligencia tak môže byť rasistická, xenofóbna alebo zaujatá voči osobám LGBTI, podobne ako niektorí ľudia. A keď sa využíva pri prijímaní do zamestnania, poskytovaní pôžičiek alebo v trestnom konaní, jej zaujatosť môže predstavovať veľmi vážny problém.

Môže mať vážne dopady na súkromie a ochranu údajov. Môže sa napríklad použiť v zariadeniach na rozpoznávanie tváre alebo na online sledovanie a profilovanie jednotlivcov. Okrem toho umožňuje zlučovanie informácií, ktoré daná osoba poskytla, do nových údajov. Toto môže viesť k neočakávaným a negatívnym výsledkom.

Umelá inteligencia môže tiež predstavovať hrozbu pre demokraciu; na základe predchádzajúceho online správania človeka vytvára akési „bubliny“, kde sa zobrazuje iba obsah, ktorý by si človek želal, namiesto toho, aby vytvárala prostredie pre pluralistickú a inkluzívnu verejnú diskusiu, kde má každý rovnaký prístup. Môže sa dokonca použiť na vytvorenie mimoriadne realistického falošného videa, zvuku a obrazu, známeho ako „deepfakes“, ktoré môže predstavovať finančné riziká, poškodiť dobrú povesť a spochybniť rozhodovanie. To všetko by mohlo viesť k rozdeľovaniu a polarizácii vo verejnej sfére a manipuláciám s voľbami.

Takisto môže zabraňovať slobode zhromažďovania a protestu, keďže môže stopovať a profilovať jednotlivcov podľa ich názorov alebo konania.

Dopady na zamestnanosť

Zavádzanie umelej inteligencie na pracoviskách so sebou nevyhnutne prinesie zánik niektorých pracovných miest. Očakáva sa však, že pomôže vytvoriť nové a lepšie pracovné miesta. na ktoré však bude potrebná vyššia kvalifikácia. Preto bude kľúčové adekvátne vzdelávanie a odborná príprava, inak riskujeme nárast dlhodobej nezamestnanosti.

Konkurencieschopnosť

Zhromažďovanie veľkého množstva údajov môže viesť aj k narušeniu hospodárskej súťaže. Firmy, ktoré vedia získať masy údajov, môžu vďaka nim získať obrovské konkurenčné výhody a v krajnom prípade eliminovať svojich konkurentov.

Bezpečnostné riziká

Zariadenia fungujúce na princípe umelej inteligencie, ktoré prichádzajú do fyzického kontaktu s ľuďmi, alebo ktoré sú voperované do ľudského tela, môžu predstavovať vážne bezpečnostné riziko. Môžu byť napríklad zle navrhnuté, alebo ich môže niekto hacknúť a zneužiť. Zle navrhnutá umelá inteligencia v zbraniach môže viesť k strate kontroly nad nimi a stratám nad ľudskými životmi.

Otázky ohľadne transparentnosti

Zneužité môže byť aj rozdiely v prístupe k informáciám. Napríklad na základe online správania alebo iných údajov človeka a bez jeho vedomia môže online predajca pomocou umelej predpovedať, koľko je ochotný zaplatiť za tovar, alebo politická strana môže na základe toho prispôsobiť svoju kampaň. Ďalším problémom transparentnosti je, že ľuďom niekedy nie je zrejmé, či majú dočinenia s umelou inteligenciou alebo s naozajstným človekom.

Prečítajte si viac o tom, ako chcú poslanci formovať legislatívu ohľadne dát na podporu inovácií a bezpečnosti.