Wykorzystanie sztucznej inteligencji przez policję: posłowie przeciw masowej inwigilacji  

Komunikat prasowy 
Sesja plenarna 
 
 

Udostępnij tę stronę: 

Posłowie zaniepokojeni wpływem technologii wspomaganej sztuczną inteligencją na prawo do prywatności ©AdobeStock/DedMityay  
  • Ludzie powinni nadzorować systemy sztucznej inteligencji (AI), a algorytmy powinny być otwarte
  • Zakazanie prywatnych baz danych rozpoznawania twarzy, policji behawioralnej i oceny obywateli
  • Automatyczne rozpoznawanie nie powinno być wykorzystywane do kontroli granicznej ani w przestrzeni publicznej

Aby walczyć z dyskryminacją i zapewnić prawo do prywatności, posłowie domagają się silnych zabezpieczeń w przypadku stosowania narzędzi sztucznej inteligencji w egzekwowaniu prawa.

W rezolucji przyjętej 377 głosami do 248 przy 62 wstrzymujących się od głosu, posłowie wskazują na ryzyko stronniczości algorytmów w zastosowaniach AI i podkreślają, że ludzki nadzór i silne uprawnienia prawne są potrzebne, aby zapobiec dyskryminacji przez AI, zwłaszcza w kontekście egzekwowania prawa lub przekraczania granic. Zdaniem posłów, ostateczne decyzje muszą zawsze podejmować ludzie, a osoby monitorowane przez systemy oparte na AI muszą mieć dostęp do środków odwoławczych.


Obawy przed dyskryminacją


Zgodnie z tekstem, systemy identyfikacji oparte na sztucznej inteligencji już teraz częściej błędnie identyfikują mniejszościowe grupy etniczne, osoby LGBTI, seniorów i kobiety, co jest szczególnie niepokojące w kontekście egzekwowania prawa i sądownictwa. Aby zapewnić przestrzeganie praw podstawowych przy stosowaniu tych technologii, algorytmy powinny być przejrzyste, możliwe do prześledzenia i wystarczająco udokumentowane, apelują posłowie. Tam, gdzie to możliwe, władze publiczne powinny używać oprogramowania open-source w celu zapewnienia większej przejrzystości.

Kontrowersyjne technologie

W celu poszanowania prywatności i godności ludzkiej, posłowie wnoszą o wprowadzenie stałego zakazu automatycznego rozpoznawania osób w przestrzeni publicznej, zauważając, że obywatele powinni być monitorowani tylko w przypadku podejrzenia o popełnienie przestępstwa. Parlament wzywa do zakazania korzystania z prywatnych baz danych do rozpoznawania twarzy (takich jak Clearview AI system, który jest już w użyciu) oraz prewencyjnych działań policji na podstawie danych behawioralnych.


Posłowie są również przeciwni wszelkim systemom klasyfikacji, które starają się oceniać, czy obywatel jest godny zaufania na podstawie jego zachowania lub osobowości.


Wreszcie, Parlament niepokoi użycie danych biometrycznych do identyfikowania ludzi na odległość. Na przykład bramki kontroli granicznej, które wykorzystują automatyczne rozpoznawanie oraz projekt iBorderCtrl ("inteligentny system wykrywania kłamstw" dla podróżnych wjeżdżających do UE) powinny zostać usunięte przez używające je państwa członkowskie, twierdzą posłowie, którzy wzywają Komisję do wszczęcia postępowania w sprawie uchybienia zobowiązaniom państwa członkowskiego, jeśli okaże się to konieczne.

Cytat

Sprawozdawca Petar Vitanov (S&D, BG) powiedział: „Prawa podstawowe są bezwarunkowe. Po raz pierwszy w historii wzywamy do wprowadzenia moratorium na stosowanie systemów rozpoznawania twarzy do celów egzekwowania prawa, ponieważ technologia ta okazała się nieskuteczna i często prowadzi do dyskryminujących wyników. Wyraźnie sprzeciwiamy się uprzedzającym działaniom policji w oparciu o wykorzystanie sztucznej inteligencji, jak również wszelkiemu przetwarzaniu danych biometrycznych, które prowadzi do masowej inwigilacji