Umělá inteligence: jak zmírnit rizika pro spotřebitele
Umělá inteligence a automatizované rozhodovací procesy s sebou nesou pokrok, ale také hrozby pro spotřebitele. Jak chce Parlament zmírnit rizika?
Co je to umělá inteligence a proč může být nebezpečná
Vzhledem k nadlidské rychlosti a přesnosti, se kterou jsou stále se zdokonalující algoritmy schopny zpracovávat data, je využívání umělé inteligence ve finanční sféře, zdravotnictví, akademickém světě, právních systémech a dalších oblastech stále častější. Spoléhání se na umělou inteligenci (AI - z anglického „artificial intelligence“) však s sebou nese určitá rizika, obzvláště v procesech automatizovaného rozhodování bez lidského dozoru. Počítače se totiž učí na základě rozpoznávání vzorců uvnitř daných souborů dat. Problémy nastanou v momentě, kdy data nesou informace obsahující zaujaté společenské názory a předsudky.
Umělá inteligence v rozhodovacích procesech
AI je stále více využívána v rozhodovacích systémech založených na algoritmech. Projevují se v našem každodenním životě a jejich dopad může být značný. Rozhodnutí založené na algoritmech se může týkat přístupu k úvěru, výběru uchazečů o práci, přístupu ke zdravotní péči, či pravomocných rozsudků. Automatizované rozhodovací procesy mohou prohlubovat rozdíly ve společnosti. U některých algoritmů pro přijímání zaměstnanců byl například zjištěn předpojatý přístup k ženám.
Ochrana spotřebitelů v éře AI
Vývoj umělé inteligence a procesů automatizovaného rozhodování také zasahuje do důvěry a spokojenosti spotřebitelů. Pokud přijdou do kontaktu s rozhodovacími systémy založenými na algoritmech, měli by být spotřebitelé řádně obeznámeni s tím, jak fungují.
Jak to vidí Parlament
V usnesení pléna z 13. února poslanci vyzývají Evropskou komisi, aby přezkoumala, zda je potřeba zavést dodatečná opatření k ochraně spotřebitelů. Chtějí silný soubor práv pro spotřebitele v oblasti AI a automatizovaného rozhodování.
Komise by podle nich měla objasnit, co plánuje udělat, aby zaručila:
- ochranu spotřebitelů před nekalými a / nebo diskriminačními obchodními praktikami, nebo riziky, které představují služby využívající AI
- větší transparentnost v těchto procesech
- využití jen vysoce kvalitních a nezkreslených souborů dat v rozhodovacích systémech založených na algoritmech
„Musíme zajistit, aby byla zachována ochrana a důvěra spotřebitelů a aby evropské normy týkající se bezpečnosti a odpovědnosti za produkty a služby odpovídaly požadavkům digitálního věku,“ vysvětluje předsedkyně výboru pro vnitřní trh Petra De Sutter.
Další postup
Usnesení pléna bude předáno Radě EU (členským státům) a Komisi. Komise se chystá předložit své plány ohledně evropského přístupu k umělé inteligenci 19. února 2020.