Kunstig intelligens: Muligheder og trusler
Kunstig intelligens (KI) påvirker vores liv mere og mere. Læs mere om mulighederne og truslerne for sikkerhed, demokrati, virksomheder og job.
Europas vækst og velstand er tæt forbundet med, hvordan vi udnytter data og tilknyttede teknologier. AI kan gøre en stor forskel i vores liv - på godt og ondt.
Derfor vedtog EU i juni 2024 loven om kunstig intelligens, verdens første omfattende lovgivning om emnet, for at sikre, at de AI-systemer, der bruges i EU, er sikre og overholder de grundlæggende rettigheder.
Nedenfor ses nogle af de vigtigste muligheder og trusler i forbindelse med fremtidige anvendelser af AI, og hvordan AI-loven sigter mod at tackle dem.
181 zettabytes
Anslået mængde data, der vil blive genereret i verden i 2025 (en zettabyte er tusind milliarder gigabyte)
Fordele ved kunstig intelligens
EU-landene er allerede stærke inden for digital industri og business-to-business-applikationer. Med en digital infrastruktur af høj kvalitet og en lovgivningsramme, der beskytter privatlivets fred og ytringsfriheden, kan EU blive en global leder inden for dataøkonomien og dens applikationer.
Fordele ved kunstig intelligens for borgere
AI kan hjælpe mennesker med bedre sundhedspleje, sikrere biler og andre transportsystemer, skræddersyede, billigere og mere holdbare produkter og tjenester. Det kan også lette adgangen til information, uddannelse og træning.
AI kan også gøre arbejdspladsen mere sikker, da robotter kan bruges til farlige dele af arbejdet, og åbne nye jobmuligheder, når AI-drevne industrier vokser og ændrer sig.
33%
af internetbrugere i EU i 2024 rapporterede, at de havde deltaget i et onlinekursus eller brugt onlineundervisningsmateriale i de 3 måneder, der gik forud for undersøgelsen
Muligheder med kunstig intelligens for virksomheder
For virksomheder kan kunstig intelligens muliggøre udviklingen af en ny generation af produkter og tjenester inklusiv i sektorer, hvor europæiske virksomheder allerede står stærkt: den grønne og cirkulære økonomi, maskiner, landbrug, sundhedspleje, mode og turisme. Det kan føre til bedre, optimiserede salgsveje, forbedre maskiners levetid, øge en produktions output og kvalitet, forbedre kundeservice og spare energi.
Kunstig intelligens: muligheder for offentlige tjenester
Kunstig intelligens, der bruges i offentlige tjenester, kan mindske udgifterne og tilbyde nye muligheder i den offentlige transport, uddannelse, energi og affaldshåndtering og forbedre produkters bæredygtighed. Dermed kan kunstig intelligens bidrage til at opnå målsætningerne under EU's Grønne Aftale.
Styrkelse af demokratiet
Databaseret overvågning, forebyggelse af misinformation og cyberangreb og sikring af adgang til rigtig information kan styrke demokratiet. Den kan også støtte diversitet og åbenhed f.eks. ved at afbøde mulige fordomme i ansættelsesprocedurer og bruge analytisk data i stedet.
Kunstig intelligens og sikkerhed
Kunstig intelligens forventes at kunne blive brugt ere i kriminalitetsforebyggelse og i retsvæsenet, da massive datasæt kan blive behandlet hurtigere, risici ved fangeflyvninger kan blive evalueret mere præcist, kriminalitet og selv terrorangreb kan blive forudset og forebygget. Der er allerede onlineplatforme, der overvåger og reagerer på ulovlig og upassende adfærd online.
I militæret kan kunstig intelligens bruges til forsvars- og angrebsstrategier til hacking og phishing eller til systemer i cyberkrigsførelsen, mens autonome våbensystemer mindsker risikoen for væbnede konflikter og fysiske skader.
Kunstig intelligens: trusler og udfordringer
Øget afhængighed af kunstig intelligens's systemer udgør potentielle risici.
Underudnyttelse og overforbrug af kunstig intelligens
Underudnyttelse af kunstig intelligens betragtes som en alvorlig trussel: missede muligheder i EU kan føre til dårlig implementering af større programmer, tab af konkurrencemæssige fordele i forhold til andre regioner, økonomisk stagnering og forringede muligheder for borgerne. Underudnyttelse kan skyldes virksomheders manglende tillid til KI, dårlig infrastruktur, manglende initiativ, lavere investeringer eller KI, der er afhængig af fragmenterede digitale markeder.
Overforbrug kan også være problematisk: investeringer i KI-applikationer, der viser sig ikke at være brugbare eller at give kunstig intelligens arbejdsopgaver, som ikke er gennemtænkte, som f.eks. komplekse samfundsmæssige problemstillinger.
AI-loven har til formål at tackle begge disse farer. Den har til formål at fremme pålidelig AI i Europa for både borgere og virksomheder, adressere de risici, som AI udgør, og forsøge at positionere Europa som en førende kraft på dette område.
Ansvarlighed: Hvem kan holdes til ansvar for skader forårsaget af KI?
En vigtig udfordring er at bestemme, hvem der har ansvaret for en KI-styret enhed eller tjeneste: i en ulykke forårsaget af en selvkørende bil er det så ejeren, bilfabrikanten eller programmøren?
Hvis producenten var fuldstændig fri for ansvar, er der intet incitament til at kreere et godt produkt eller en god tjeneste, og det ville kunne ødelægge tilliden til teknologien, men lovgivningen kan også blive for striks og stå i vejen for innovation.
KI's trusler mod grundlæggende rettigheder og demokrati
De resultater, som kunstig intelligens producerer, afhænger af, hvordan det er designet, og hvordan dataen bruges. Både design og data kan ubevidst eller bevidst have en bias. For eksempel bliver vigtige aspekter af en problemstilling måske ikke programeret ind i en algoritme eller de kan ende med at reflektere strukturel bias. Derudover kan brugen af data, der viser en kompleks social virkelighed, få kunstig intelligens til at se faktuel og præcis ud, når den ikke er det ("mathwashing").
For at forhindre bias kræver AI-loven, at de datasæt, der bruges til at træne AI, er så komplette og fejlfri som muligt. Den regulerer også brugen af visse AI-applikationer, der kan true borgernes rettigheder - f.eks. er retshåndhævelsens brug af biometriske identifikationssystemer forbudt, undtagen i nogle snævert definerede tilfælde.
AI-loven indførte også et krav om, at kunstigt skabte eller manipulerede billeder, lyd- eller videoindhold, dvs. deep fakes, skal mærkes tydeligt og synligt som sådan.
KI's konsekvenser for job
Brugen af kunstig intelligens på arbejdspladsen forventes at resultere i elimineringen af en lang række job. Selvom kunstig intelligens forventes at skabe flere og bedre job, vil uddannelse og praktik spille en vigtig rolle i at forebygge arbejdsløshed og sikre en veluddannet arbejdskraft.
Konkurrence
Informationsindsamling kan forringe konkurrencen, når aktørerne med mest information vinder fordele og effektivt udraderer konkurrenterne.
Sikkerhedsrisici
KI-applikationer, der er i fysisk kontakt med mennesker eller integreret i den menneskelige krop, kan udgøre en sikkerhedstrussel, da de kan være dårligt designet, blive misbrugt eller hacket. Brugen af kunstig intelligens i våben kan føre til tab af menneskers kontrol over farlige våben.
Gennemsigtighedsudfordringer
Ubalancer i adgangen til information kan udnyttes. For eksempel baseret på en persons onlineadfærd eller anden data uden hendes viden, kan en onlinevirksomhed, der bruger KI, forudse hvor meget hun er villig til at betale for et produkt, og en politisk kampagne kan tilpasse sit budskab. Et andet gennemsigtighedsproblem er, at det kan være uklart for folk at vide, om de interagerer med et rigtigt menneske eller med KI.
AI-loven tackler disse udfordringer ved at regulere brugen af AI for at forhindre manipulation af menneskelig adfærd, bedrag eller udnyttelse af menneskers sårbarheder.
Find ud af hvilke muligheder og trusler kunstig intelligens skaber, og hvordan Europa-Parlamentet vil regulere KI.
