Artificiële intelligentie: aanpak risico’s voor consumenten  

Bijgewerkt op: 
 
Gecreëerd:   
 

Artificiële intelligentie en geautomatiseerde besluitvorming kunnen een bedreiging vormen voor consumenten. Ontdek hoe de EU hen wil beschermen.

©Vchalup/Adobe Stock  

Wat is artificiële intelligentie en waarom kan het gevaarlijk zijn?

Nu dat slimme algoritmes sneller en met meer precisie dan de mens data kunnen verwerken, komt het gebruik van artificiële intelligentie (AI) vaker voor in onder andere de financiële sector, gezondheidszorg, onderwijs en het rechtssysteem. Maar er zijn ook risico’s verbonden aan de afhankelijkheid van AI, voornamelijk wanneer er beslissingen worden genomen zonder menselijk toezicht. ‘Machine learning’ maakt gebruik van patroonherkenning in datasets, maar wanneer de beschikbare data beïnvloed worden door sociale vooroordelen, zorgt het voor problemen.


Artificiële intelligentie in besluitvorming


AI gebruikt steeds vaker algoritmische beslissingsmechanismen (ADS). Vaak is de impact daarvan op mensen aanzienlijk, omdat het bijvoorbeeld toegang heeft tot financieel krediet, werkgelegenheidssituatie, medische behandelingen of gerechtelijke vonnissen. Geautomatiseerde besluitvorming kan daarom sociale verschillen bestendigen. Bijvoorbeeld, sommige algoritmes die gebruikt werden voor rekrutering bleken bevooroordeeld tegen vrouwen.


Hoe kunnen consumenten beschermd worden in het AI tijdperk?

De ontwikkeling van AI en automatische besluitvorming zijn ook uitdagingen voor het vertrouwen en welzijn van consumenten. Wanneer consumenten in aanraking komen met een dergelijk systeem, moeten ze voldoende informatie krijgen over hoe het functioneert.


Het standpunt van het Parlement


In een resolutie die op 12 februari 2020 aangenomen werd, sporen de EP-leden de Commissie aan om te onderzoeken of er bijkomende maatregelen nodig zijn om een rechtenpakket te garanderen die consumenten voldoende beschermt omtrent AI en automatische besluitvorming.

De Commissie moet verduidelijken hoe het:  
  • zal garanderen dat consumenten beschermd worden tegen oneerlijke en/of discriminerende commerciële praktijken, of tegen risico’s van professionele diensten op basis van AI;  
  • betere transparantie zal verzekeren van deze praktijken; 
  • zal zorgen voor objectieve ADS datasets van de hoogste kwaliteit. 

“We moeten ervoor zorgen dat de bescherming en het vertrouwen van de consument verzekerd worden, en dat de EU-regels over veiligheid en aansprakelijkheid voor producten en diensten aangepast zijn aan het digitale tijdperk”, zei voorzitter van de IMCO commissie Petra De Sutter (De Groenen/VEA).


Volgende stappen


De Commissie zal zijn plannen voor een Europese AI-aanpak voorstellen op 19 februari 2020.