Kunstig intelligens: Bekæmpelse af risici for forbrugerne  

Ajourført den: 
 
Oprettet:   
 

Kunstig intelligens og automatiserede beslutningsprocesser kan udgøre visse risici for forbrugerne. Find ud af hvordan Parlamentet ønsker at beskytte dem.

Kunstig intelligens ©Vchalup/Adobe Stock  

Hvad kunstig intelligens er, og hvorfor det kan være farligt
Da algoritmer kan processere datasæt med præcision og hastighed hurtigere end mennesker, er applikationer med kunstig intelligens (AI) blevet mere almindelige inden for finans, sundhed, uddannelse, justits og på mange andre områder. Men brugen af kunstig intelligens har også sine risici, især når beslutninger træffes uden menneskelig tilsyn. Kunstig intelligens er afhængigt af at genkende mønstre inden for datasæt. Problemerne opstår, når dataen afspejler samfundsmæssig bias.


Kunstig intelligens i beslutningsprocessen

Kunstig intelligens bruges oftere i algoriters beslutningssystem 'ADS'. I mange situationer er betydningen af beslutningerne for mennesker væsentlig såsom adgangen til banktjenester, beskæftigelse, medicinsk behandling eller retsafgørelser. Automatiserede beslutninger kan derfor forevige sociale skel. Nogle algoritmer, der bruges til at hyre nye ansatte, har vist sig at have bias mod kvinder for eksempel.


Hvordan forbrugerne kan blive beskyttet i den kunstige intelligens' æra

Udviklingen af kunstig intelligens og automatiserede beslutningsprocesser er også udfordringer for forbrugertilliden og velfærden. Når forbrugerne interagerer med et sådan system, skal de have klar besked om, hvordan det fungerer.


Parlamentets holdning
Betænkningen blev vedtaget d. 23 januar i forbrugerudvalget IMCO, der opfordrer Kommissionen til at undersøge, om yderligere tiltag er nødvendigefor at kunne garantere et stærkt udvalg af rettigheder til at beskytte forbrugerne vedrørende kunstig intelligens og automatiserede beslutninger.

“Vi bliver nødt til at sikre forbrugertilliden og beskyttelsen, og at EU's regler for sikkerhed og ansvarlighed for produkter og tjenester passer til den digitale alder,” siger formanden for IMCO Petra De Sutter (De Grønne/EFA, Belgien).


Næste skridt

Der stemmes om betænkningen ved februars plenarforsamling. Derefter vil teksten blive sendt videre til Rådet og Kommissionen. Kommissionen præsenterer sine planer for en europæisk tilgang til kunstig intelligens d. 19. februar.