Kunstig intelligens: Muligheder og trusler

Kunstig intelligens (KI) påvirker vores liv mere og mere. Læs mere om mulighederne og truslerne for sikkerhed, demokrati, virksomheder og job.

Kunstig intelligens: med mennesker i centrum

Europas vækst og velstand er tæt forbundet med, hvordan man vil gøre brug af nye teknologier. KI kan gøre en stor forskel i vores liv – på godt og ondt. I juni 2023 vedtog Europa-Parlamentet si forhandlingsposition om KI. Det er verdens første omfattende regler til håndtering af risici ved KI.
Nedenfor er nogle eksempler på muligheder og trusler ved fremtidige KI-applikationer.

Læs mere om kunstig intelligens og hvordan det bruges.

Fordelene ved kunstig intelligens

EU-landene står allerede stærkt inden for den digitale industri og virksomhedsapplikationer. Med en høj kvalitet for infrastrukturen og en lovmæssig ramme, der beskytter privatlivet og ytringsfriheden, kan EU blive en global leder i dataøkonomien og dens applikationer.

KI's fordele for borgerne

KI kan hjælpe borgerne med at forbedre deres sundhed, give mere sikre biler og andre transportsystemer, skræddersyede, langtidsholdbare og billigere produkter og tjenester. KI kan også fascilitere adgang til information, uddannelse og praktik – hvilket særligt er blevet klart med langdistancelæring under Covid-19 pandemien. KI kan ligeledes gøre arbejdspladsen mere sikker, da robotter kan vare tage de farligere dele af jobbet og åbne muligheder for nye stillinger og KI-drevne industrier, vækst og forandringer.

Mulighederne ved KI for virksomheder

For virksomheder kan KI muliggøre udviklingen af en ny generation af produkter og tjenester inklusiv i sektorer, hvor europæiske virksomheder allerede står stærkt: den grønne og cirkulære økonomi, maskiner, landbrug, sundhedspleje, mode og turisme. Det kan føre til bedre, optimiserede salgsveje, forbedre maskiners levetid, øge en produktions output og kvalitet, forbedre kundeservice og spare energi.

KI's muligheder for offentlige tjenester

KI, der bruges i offentlige tjenester, kan mindske udgifterne og tilbyde nye muligheder i den offentlige transport, uddannelse, energi og affaldshåndtering og forbedre produkters bæredygtighed. Dermed kan KI bidrage til at opnå målsætningerne under EU's Grønne Aftale.

Styrkelse af demokratiet

Databaseret overvågning, forebyggelse af misinformation og cyberangreb og sikring af adgang til rigtig information kan styrke demokratiet. Den kan også støtte diversitet og åbenhed f.eks. ved at afbøde mulige fordomme i ansættelsesprocedurer og bruge analytisk data i stedet.

KI og sikkerhed

KI forventes at kunne blive brugt ere i kriminalitetsforebyggelse og i retsvæsenet, da massive datasæt kan blive behandlet hurtigere, risici ved fangeflyvninger kan blive evalueret mere præcist, kriminalitet og selv terrorangreb kan blive forudset og forebygget. Der er allerede onlineplatforme, der overvåger og reagerer på ulovlig og upassende adfærd online.

I militæret kan KI bruges til forsvars- og angrebsstrategier til hacking og phishing eller til systemer i cyberkrigsførelsen, mens autonome våbensystemer mindsker risikoen for væbnede konflikter og fysiske skader.

KI's trusler og udfordringer

Øget afhængighed af KI's systemer udgør potentielle risici.

Underudnyttelse og overforbrug af KI

Underudnyttelse af KI betragtes som en alvorlig trussel: missede muligheder i EU kan føre til dårlig implementering af større programmer som EU's Grønne Aftale, tab af konkurrencemæssige fordele i forhold til andre regioner, økonomisk stagnering og forringede muligheder for borgerne. Underudnyttelse kan skyldes virksomheders manglende tillid til KI, dårlig infrastruktur, manglende initiativ, lavere investeringer eller KI, der er afhængig af fragmenterede digitale markeder.

Overforbrug kan også være problematisk: investeringer i KI-applikationer, der viser sig ikke at være brugbare eller at give KI arbejdsopgaver, som ikke er gennemtænkte, som f.eks. komplekse samfundsmæssige problemstillinger.

Ansvarlighed: Hvem kan holdes til ansvar for skader forårsaget af KI?

En vigtig udfordring er at bestemme, hvem der har ansvaret for en KI-styret enhed eller tjeneste: i en ulykke forårsaget af en selvkørende bil er det så ejeren, bilfabrikanten eller programmøren?

Hvis producenten var fuldstændig fri for ansvar, er der intet incitament til at kreere et godt produkt eller en god tjeneste, og det ville kunne ødelægge tilliden til teknologien, men lovgivningen kan også blive for striks og stå i vejen for innovation.

KI's trusler mod grundlæggende rettigheder og demokrati

De resultater, som KI producerer, afhænger af, hvordan det er designet, og hvordan dataen bruges. Både design og data kan ubevidst eller bevidst have en bias. For eksempel bliver vigtige aspekter af en problemstilling måske ikke programeret ind i en algoritme eller de kan ende med at reflektere strukturel bias. Derudover kan brugen af data, der viser en kompleks social virkelighed, få KI til at se faktuel og præcis ud, når den ikke er det ("mathwashing").

KI's konsekvenser for job

Brugen af KI på arbejdspladsen forventes at resultere i elimineringen af en lang række job. Selvom KI forventes at skabe flere og bedre job, vil uddannelse og praktik spille en vigtig rolle i at forebygge arbejdsløshed og sikre en veluddannet arbejdskraft.

Konkurrence

Informationsindsamling kan forringe konkurrencen, når aktørerne med mest information vinder fordele og effektivt udraderer konkurrenterne.

Sikkerhedsrisici

KI-applikationer, der er i fysisk kontakt med mennesker eller integreret i den menneskelige krop, kan udgøre en sikkerhedstrussel, da de kan være dårligt designet, blive misbrugt eller hacket. Brugen af KI i våben kan føre til tab af menneskers kontrol over farlige våben. 

Gennemsigtighedsudfordringer

Ubalancer i adgangen til information kan udnyttes. For eksempel baseret på en persons onlineadfærd eller anden data uden hendes viden, kan en onlinevirksomhed, der bruger KI, forudse hvor meget hun er villig til at betale for et produkt, og en politisk kampagne kan tilpasse sit budskab. Et andet gennemsigtighedsproblem er, at det kan være uklart for folk at vide, om de interagerer med et rigtigt menneske eller med KI.

Find ud af hvilke muligheder og trusler kunstig intelligens skaber, og hvordan Europa-Parlamentet vil regulere KI.

Læs mere om hvordan MEP'erne ønsker at forme datalovgivningen til at øge innovationen og bevare sikkerheden.