Umělá inteligence: jak zmírnit rizika pro spotřebitele

Umělá inteligence a automatizované rozhodovací procesy s sebou nesou pokrok, ale také hrozby pro spotřebitele. Jak chce Parlament zmírnit rizika?

umělá inteligence - ilustrační foto ovládacího panelu počítačového systému
Jak naprogramovat algoritmy, aby nepracovaly se zkreslenými údaji a vyloučily předsudky ©Vchalup/Adobe Stock

Co je to umělá inteligence a proč může být nebezpečná

 

Vzhledem k nadlidské rychlosti a přesnosti, se kterou jsou stále se zdokonalující algoritmy schopny zpracovávat data, je využívání umělé inteligence ve finanční sféře, zdravotnictví, akademickém světě, právních systémech a dalších oblastech stále častější. Spoléhání se na umělou inteligenci (AI - z anglického „artificial intelligence“) však s sebou nese určitá rizika, obzvláště v procesech automatizovaného rozhodování bez lidského dozoru. Počítače se totiž učí na základě rozpoznávání vzorců uvnitř daných souborů dat. Problémy nastanou v momentě, kdy data nesou informace obsahující zaujaté společenské názory a předsudky.

Umělá inteligence v rozhodovacích procesech

AI je stále více využívána v rozhodovacích systémech založených na algoritmech. Projevují se v našem každodenním životě a jejich dopad může být značný. Rozhodnutí založené na algoritmech se může týkat přístupu k úvěru, výběru uchazečů o práci, přístupu ke zdravotní péči, či pravomocných rozsudků. Automatizované rozhodovací procesy mohou prohlubovat rozdíly ve společnosti. U některých algoritmů pro přijímání zaměstnanců byl například zjištěn předpojatý přístup k ženám.

Ochrana spotřebitelů v éře AI

Vývoj umělé inteligence a procesů automatizovaného rozhodování také zasahuje do důvěry a spokojenosti spotřebitelů. Pokud přijdou do kontaktu s rozhodovacími systémy založenými na algoritmech, měli by být spotřebitelé řádně obeznámeni s tím, jak fungují.

Jak to vidí Parlament

V usnesení pléna z 13. února poslanci vyzývají Evropskou komisi, aby přezkoumala, zda je potřeba zavést dodatečná opatření k ochraně spotřebitelů. Chtějí silný soubor práv pro spotřebitele v oblasti AI a automatizovaného rozhodování.

Komise by podle nich měla objasnit, co plánuje udělat, aby zaručila:

  • ochranu spotřebitelů před nekalými a / nebo diskriminačními obchodními praktikami, nebo riziky, které představují služby využívající AI
  • větší transparentnost v těchto procesech
  • využití jen vysoce kvalitních a nezkreslených souborů dat v rozhodovacích systémech založených na algoritmech


„Musíme zajistit, aby byla zachována ochrana a důvěra spotřebitelů a aby evropské normy týkající se bezpečnosti a odpovědnosti za produkty a služby odpovídaly požadavkům digitálního věku,“ vysvětluje předsedkyně výboru pro vnitřní trh Petra De Sutter.


Další postup

Usnesení pléna bude předáno Radě EU (členským státům) a Komisi. Komise se chystá předložit své plány ohledně evropského přístupu k umělé inteligenci 19. února 2020.