RAPPORT dwar l-intelliġenza artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u mill-awtoritajiet ġudizzjarji f'materji kriminali

13.7.2021 - (2020/2016(INI))

Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern
Rapporteur: Petar Vitanov

MOZZJONI GĦAL RIŻOLUZZJONI TAL-PARLAMENT EWROPEW

dwar l-intelliġenza artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u mill-awtoritajiet ġudizzjarji f'materji kriminali

(2020/2016(INI))

Il-Parlament Ewropew

– wara li kkunsidra t-Trattat dwar l-Unjoni Ewropea (TUE), b'mod partikolari l-Artikoli 2 u 6 tiegħu, u t-Trattat dwar il-Funzjonament tal-Unjoni Ewropea (TFUE), b'mod partikolari l-Artikolu 16 tiegħu,

– wara li kkunsidra l-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea (il-Karta), b'mod partikolari l-Artikoli 6, 7, 8, 11, 12, 13, 20, 21, 24 u 47 tagħha,

– wara li kkunsidra l-Konvenzjoni għall-Protezzjoni tad-Drittijiet tal-Bniedem u tal-Libertajiet Fundamentali,

– wara li kkunsidra l-Konvenzjoni tal-Kunsill tal-Ewropa għall-Protezzjoni ta' Individwi fir-rigward tal-Ipproċessar Awtomatiku ta' Data Personali (STKE 108), u l-protokoll emendatorju tagħha (il-Konvenzjoni 108+),

– wara li kkunsidra l-Karta Ewropea tal-Etika dwar l-użu tal-intelliġenza artifiċjali fis-sistemi ġudizzjarji u l-ambjent tagħhom tal-Kummissjoni Ewropea għall-Effikaċja tal-Ġustizzja (CEPEJ) tal-Kunsill tal-Ewropa,

– wara li kkunsidra l-komunikazzjoni tal-Kummissjoni tat-8 ta' April 2019 intitolata "Nibnu l-Fiduċja fl-Intelliġenza Artifiċjali Ċċentrata Fuq il-Bniedem" (COM(2019)0168),

– wara li kkunsidra l-Linji Gwida dwar l-Etika għal AI Affidabbli ppubblikati mill-Grupp ta' Esperti ta' Livell Għoli tal-Kummissjoni dwar l-Intelliġenza Artifiċjali fit-8 ta' April 2019,

– wara li kkunsidra l-White Paper tal-Kummissjoni tad-19 ta' Frar 2020 "L-Intelliġenza Artifiċjali – Approċċ Ewropew għall-eċċellenza u għall-fiduċja" (COM(2020)0065),

– wara li kkunsidra l-komunikazzjoni tal-Kummissjoni tad-19 ta' Frar 2020 bit-titolu "Strateġija Ewropea għad-data" (COM(2020)0066),

– wara li kkunsidra r-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali u dwar il-moviment liberu ta' tali data, u tħassar id-Direttiva 95/46/KE (Regolament Ġenerali dwar il-Protezzjoni tad-Data)[1],

– wara li kkunsidra d-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni ta' persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali mill-awtoritajiet kompetenti għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta' reati kriminali jew l-eżekuzzjoni ta' pieni kriminali, u dwar il-moviment liberu ta' tali data, u li tħassar id-Deċiżjoni Qafas tal-Kunsill 2008/977/ĠAI[2],

– wara li kkunsidra r-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill tat-23 ta' Ottubru 2018 dwar il-protezzjoni ta' persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali mill-istituzzjonijiet, korpi, uffiċċji u aġenziji tal-Unjoni u dwar il-moviment liberu ta' tali data, u li jħassar ir-Regolament (KE) Nru 45/2001 u d-Deċiżjoni Nru 1247/2002/KE[3],

– wara li kkunsidra d-Direttiva 2002/58/KE tal-Parlament Ewropew u tal-Kunsill tat-12 ta' Lulju 2002 dwar l-ipproċessar tad-data personali u l-protezzjoni tal-privatezza fis-settur tal-komunikazzjoni elettronika (Direttiva dwar il-privatezza u l-komunikazzjoni elettronika)[4],

– wara li kkunsidra r-Regolament (UE) 2016/794 tal-Parlament Ewropew u tal-Kunsill tal-11 ta' Mejju 2016 dwar l-Aġenzija tal-Unjoni Ewropea għall-Kooperazzjoni fl-Infurzar tal-Liġi (Europol) u li jissostitwixxi u jħassar id-Deċiżjonijiet tal-Kunsill 2009/371/ĠAI, 2009/934/ĠAI, 2009/935/ĠAI, 2009/936/ĠAI u 2009/968/ĠAI[5],

– wara li kkunsidra r-riżoluzzjoni tiegħu tad-19 ta' Ġunju 2020 dwar il-protesti kontra r-razziżmu wara l-mewt ta' George Floyd[6],

– wara li kkunsidra r-riżoluzzjoni tiegħu tal-14 ta' Marzu 2017 dwar l-implikazzjonijiet tal-Big Data fuq id-drittijiet fundamentali: il-privatezza, il-protezzjoni tad-data, in-nondiskriminazzjoni, is-sigurtà u l-infurzar tal-liġi[7],

– wara li kkunsidra s-seduta ta' smigħ fil-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern (LIBE) fl-20 ta' Frar 2020 dwar l-intelliġenza artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u l-awtoritajiet ġudizzjarji f'materji kriminali,

 

– wara li kkunsidra r-rapport tal-missjoni LIBE lill-Istati Uniti fi Frar 2020,

– wara li kkunsidra l-Artikolu 54 tar-Regoli ta' Proċedura tiegħu,

– wara li kkunsidra l-opinjonijiet tal-Kumitat għas-Suq Intern u l-Ħarsien tal-Konsumatur u tal-Kumitat għall-Affarijiet Legali,

– wara li kkunsidra r-rapport tal-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern (A9-0232/2021),

A. billi t-teknoloġiji diġitali b'mod ġenerali u l-proliferazzjoni tal-ipproċessar u l-analitika tad-data mwettqa mill-intelliġenza artifiċjali (IA) b'mod partikolari jġibu magħhom potenzjalità u riskji straordinarji; billi l-iżvilupp fl-IA għamel avvanzi kbar fis-snin reċenti, u b'hekk saret waħda mit-teknoloġiji strateġiċi tas-seklu 21, bil-potenzjal li tiġġenera benefiċċji sostanzjali fl-effiċjenza, il-preċiżjoni u l-konvenjenza, u għalhekk iġġib bidla pożittiva fl-ekonomija u s-soċjetà Ewropej, iżda wkoll riskji kbar għad-drittijiet fundamentali u d-demokraziji bbażati fuq l-istat tad-dritt; billi l-IA m'għandhiex titqies bħala għan aħħari fiha nnifisha, iżda bħala għodda għas-servizz tal-persuni, bl-għan aħħari li żżid il-benesseri tal-bniedem, il-kapaċitajiet tal-bniedem u s-sikurezza;

B. billi minkejja l-avvanzi kontinwi fil-veloċità tal-ipproċessar tal-kompjuter u l-kapaċità tal-memorja, s'issa għad m'hemm l-ebda programm li jista' jlaħħaq mal-flessibbiltà tal-bniedem fuq oqsma usa' jew f'kompiti li jirrikjedu fehim tal-kuntest jew analiżi kritika; billi, xi applikazzjonijiet tal-IA kisbu l-livelli ta' prestazzjoni ta' esperti umani u professjonisti fit-twettiq ta' ċerti kompiti speċifiċi (eż. teknoloġija legali), u jistgħu jipprovdu riżultati f'veloċità drastikament ogħla u fuq skala ikbar;

C. billi xi pajjiżi, inklużi bosta Stati Membri, jagħmlu aktar użu mill-applikazzjonijiet tal-IA, jew sistemi tal-IA integrati, fl-infurzar tal-liġi u fil-ġudikatura minn oħrajn, li huwa parzjalment dovut għal nuqqas ta' regolamentazzjoni u differenzi regolatorji li jippermettu jew jipprojbixxu l-użu tal-IA għal ċerti skopijiet; billi l-użu dejjem akbar tal-IA fil-qasam tal-liġi kriminali huwa bbażat b'mod partikolari fuq il-wegħdiet li din tnaqqas ċerti tipi ta' kriminalità u twassal għal deċiżjonijiet aktar oġġettivi; billi dawn il-wegħdiet, madankollu, mhux dejjem huma veri;

D. billi d-drittijiet u l-libertajiet fundamentali minquxa fil-Karta jenħtieġ li jiġu ggarantiti tul iċ-ċiklu tal-ħajja tal-IA u t-teknoloġiji relatati, b'mod partikolari matul id-disinn, l-iżvilupp, l-introduzzjoni u l-użu tagħhom, u jenħtieġ li japplikaw għall-infurzar tal-liġi fiċ-ċirkostanzi kollha;

E. billi t-teknoloġija tal-IA jenħtieġ li tiġi żviluppata b'tali mod li tpoġġi lin-nies fiċ-ċentru tagħha, tkun jistħoqqilha l-fiduċja tal-pubbliku u dejjem taħdem għas-servizz tal-bniedem; billi s-sistemi tal-IA jenħtieġ li jkollhom il-garanzija finali li jiġu mfassla b'tali mod li jkunu jistgħu jintfew dejjem minn operatur uman;

F. billi s-sistemi tal-IA jeħtieġ li jiġu mfassla għall-protezzjoni u l-benefiċċju tal-membri kollha tas-soċjetà (inkluża l-kunsiderazzjoni tal-persuni vulnerabbli u dawk marġinalizzati fit-tfassil tagħhom), ikunu nondiskriminatorji, sikuri, id-deċiżjonijiet tagħhom ikunu jistgħu jiġu spjegati u trasparenti, u jirrispettaw l-awtonomija tal-bniedem u d-drittijiet fundamentali sabiex ikunu affidabbli, kif deskritt fil-Linji Gwida dwar l-Etika tal-Grupp ta' Esperti ta' Livell Għoli dwar l-Intelliġenza Artifiċjali;

G. billi l-Unjoni, flimkien mal-Istati Membri, għandha r-responsabbiltà kritika li tiżgura li d-deċiżjonijiet li għandhom x'jaqsmu maċ-ċiklu tal-ħajja u l-użu tal-applikazzjonijiet tal-IA fil-qasam tal-ġudikatura u tal-infurzar tal-liġi jsiru b'mod trasparenti, jissalvagwardjaw bis-sħiħ id-drittijiet fundamentali, u b'mod partikolari ma jippermettux it-tkomplija tad-diskriminazzjoni, il-preferenzi jew il-preġudizzji fejn dawn jeżistu; billi l-għażliet ta' politika rilevanti jenħtieġ li jirrispettaw il-prinċipji tan-neċessità u tal-proporzjonalità sabiex jiggarantixxu l-kostituzzjonalità u sistema ġudizzjarja ġusta u umana;

H. billi l-applikazzjonijiet tal-IA jistgħu joffru opportunitajiet tajbin ħafna fil-qasam tal-infurzar tal-liġi, b'mod partikolari fit-titjib tal-metodi ta' ħidma tal-aġenziji tal-infurzar tal-liġi u l-awtoritajiet ġudizzjarji, u fil-ġlieda kontra ċerti tipi ta' kriminalità b'mod aktar effiċjenti, b'mod partikolari l-kriminalità finanzjarja, il-ħasil tal-flus u l-finanzjament tat-terroriżmu, l-abbuż tat-tfal online u l-isfruttament tat-tfal kif ukoll ċerti tipi ta' ċiberkriminalità, u b'hekk jikkontribwixxu għas-sikurezza u s-sigurtà taċ-ċittadini tal-UE, filwaqt li fl-istess ħin jistgħu jinvolvu riskji sinifikanti għad-drittijiet fundamentali tan-nies; billi kwalunkwe applikazzjoni ġenerali tal-IA għall-fini ta' sorveljanza tal-massa tkun sproporzjonata;

I. billi l-iżvilupp u l-operazzjoni ta' sistemi tal-IA għall-pulizija u l-awtoritajiet ġudizzjarji jinvolvu l-kontribut ta' diversi individwi, organizzazzjonijiet, komponenti tal-magni, algoritmi tas-software, u utenti umani f'ambjenti ta' spiss kumplessi u li joħolqu sfida; billi l-applikazzjonijiet tal-IA fl-infurzar tal-liġi u l-ġudikatura huma fi stadji differenti ta' żvilupp, li jvarjaw minn kunċettwalizzazzjoni permezz ta' prototipi jew evalwazzjoni sa użu ta' wara l-approvazzjoni; billi possibbiltajiet ġodda għal użu jistgħu jinħolqu fil-futur hekk kif it-teknoloġiji jimmaturaw aktar minħabba r-riċerka xjentifika għaddejja li qed issir madwar id-dinja;

J. billi huwa imperattiv li jiġi stabbilit mudell ċar għall-assenjazzjoni tar-responsabbiltà legali għall-effetti potenzjali ta' ħsara tas-sistemi tal-IA fil-qasam tal-liġi kriminali; billi d-dispożizzjonijiet regolatorji f'dan il-qasam għandhom dejjem iżommu r-responsabbiltà umana u għandhom jimmiraw, l-ewwel u qabel kollox, li jevitaw li jibdew kwalunkwe effetti ta' ħsara;

K. billi fl-aħħar mill-aħħar hija r-responsabbiltà tal-Istati Membri li jiggarantixxu r-rispett sħiħ tad-drittijiet fundamentali meta jintużaw sistemi tal-IA fil-qasam tal-infurzar tal-liġi u tal-ġudikatura;

L. billi r-relazzjoni bejn il-protezzjoni tad-drittijiet fundamentali u policing effettiv għandha dejjem tkun element essenzjali fid-diskussjonijiet dwar jekk l-IA għandhiex tintuża mis-settur tal-infurzar tal-liġi u kif għandha tintuża, fejn id-deċiżjonijiet jista' jkollhom konsegwenzi dejjiema fuq il-ħajja u l-libertà tal-individwi; billi dan huwa partikolarment importanti peress li l-IA għandha l-potenzjal li tkun parti permanenti mill-ekosistema tal-ġustizzja kriminali tagħna billi tipprovdi analiżi investigattiva u assistenza;

M. billi l-IA li qed tintuża mill-infurzar tal-liġi tinkludi applikazzjonijiet bħat-teknoloġiji tar-rikonoxximent tal-wiċċ, pereżempju biex jiġu mfittxija bażijiet tad-data ta' persuni suspettati u jiġu identifikati vittmi ta' traffikar tal-bnedmin jew ta' sfruttament u abbuż sesswali tat-tfal, tar-rikonoxximent awtomatizzat tal-pjanċi, tal-identifikazzjoni tal-kelliem, tal-identifikazzjoni tad-diskors, teknoloġiji tal-qari tax-xufftejn, is-sorveljanza tas-sinjali akustiċi (jiġifieri algoritmi ta' detezzjoni ta' sparaturi), ir-riċerka u l-analiżi awtonomi ta' bażijiet tad-data identifikati, it-tbassir (l-analitika tal-policing predittiv u tal-hotspots tal-kriminalità), għodod għad-detezzjoni tal-imġiba, għodod avvanzati għall-awtopsja virtwali biex jgħinu jiddeterminaw il-kawża tal-mewt, għodod awtonomi għall-identifikazzjoni tal-frodi finanzjarji u tal-finanzjament tat-terroriżmu, il-monitoraġġ tal-midja soċjali (scraping u ħsad tad-data għal konnessjonijiet ta' estrazzjoni), u sistemi ta' sorveljanza awtomatizzati li jinkorporaw kapaċitajiet differenti ta' detezzjoni (bħad-detezzjoni tat-taħbit tal-qalb u l-kameras termali); billi l-applikazzjonijiet imsemmija hawn fuq, flimkien ma' applikazzjonijiet oħra potenzjali jew futuri tat-teknoloġija tal-IA fl-infurzar tal-liġi, jista' jkollhom gradi li jvarjaw ħafna ta' affidabbiltà u ta' preċiżjoni u impatt fuq il-protezzjoni tad-drittijiet fundamentali u fuq id-dinamika ta' sistemi tal-ġustizzja kriminali; billi ħafna minn dawn l-għodod jintużaw f'pajjiżi mhux fl-UE iżda jkunu illegali taħt l-acquis u l-ġurisprudenza tal-protezzjoni tad-data tal-Unjoni; billi l-implimentazzjoni ta' rutina tal-algoritmi, anke b'rata żgħira ta' pożittivi foloz, tista' tirriżulta f'ħafna aktar twissijiet żbaljati minn twissijiet korretti;

N. billi l-għodod u l-applikazzjonijiet tal-IA jintużaw ukoll mill-ġudikatura f'bosta pajjiżi madwar id-dinja kollha, inkluż biex jappoġġaw deċiżjonijiet dwar arrest preventiv (qabel is-smigħ tal-kawża), fl-għoti ta' pieni, fil-kalkolu tal-probabbiltajiet għar-reċidività u fid-determinazzjoni tal-probation, fis-soluzzjoni tat-tilwim online, fil-ġestjoni tal-ġurisprudenza u fil-provvediment ta' aċċess iffaċilitat għal-liġi; billi dan wassal għal tfixkil u tnaqqis fl-opportunitajiet għal nies b'kulur tal-ġilda differenti u minoranzi oħra; billi fil-preżent fl-UE, bl-eċċezzjoni ta' xi Stati Membri, l-użu tagħhom huwa limitat prinċipalment għal kwistjonijiet ċivili;

O. billi l-użu tal-IA fl-infurzar tal-liġi jinvolvi għadd ta' riskji potenzjalment kbar, u f'xi każijiet inaċċettabbli, riskji għall-protezzjoni tad-drittijiet fundamentali tal-individwi, bħat-teħid ta' deċiżjonijiet mhux trasparenti, tipi differenti ta' diskriminazzjoni u żbalji inerenti fl-algoritmu sottostanti li jistgħu jiġu msaħħa bi ċrieki ta' feedback, kif ukoll b'riskji għall-protezzjoni tal-privatezza u tad-data personali, għall-protezzjoni tal-libertà ta' espressjoni u ta' informazzjoni, għall-preżunzjoni ta' innoċenza, għad-dritt għal rimedju effettiv u għal proċess imparzjali, kif ukoll ir-riskji għal-libertà u s-sigurtà tal-individwi;

P. billi s-sistemi tal-IA użati mill-infurzar tal-liġi u l-ġudikatura huma wkoll vulnerabbli għall-attakki li għandhom il-kapaċità tal-IA kontra s-sistemi ta' informazzjoni jew l-avvelenament tad-data, fejn sett ta' data ħażin jiġi inkluż bl-iskop li jipproduċi riżultati preġudikati; billi f'dawn is-sitwazzjonijiet il-ħsara li tirriżulta hija potenzjalment saħansitra aktar sinifikanti, u tista' tirriżulta f'livelli esponenzjalment ogħla ta' dannu kemm għall-individwi kif ukoll għall-gruppi;

Q. billi l-użu tal-IA fil-qasam tal-infurzar tal-liġi u tal-ġudikatura ma għandux jitqies bħala sempliċi fattibbiltà teknika, iżda pjuttost bħala deċiżjoni politika dwar it-tfassil u l-objettivi tal-infurzar tal-liġi u tas-sistemi tal-ġustizzja kriminali; billi l-liġi kriminali moderna hija bbażata fuq l-idea li l-awtoritajiet jirreaġixxu għal reat wara li jkun sar, mingħajr ma tassumi li n-nies kollha huma perikolużi u jeħtieġu jiġu mmonitorjati b'mod kostanti sabiex tiġi evitata mġiba ħażina potenzjali; billi t-tekniki ta' sorveljanza bbażati fuq l-IA jisfidaw ħafna dan l-approċċ u jagħmluha urġenti li l-leġiżlaturi madwar id-dinja jivvalutaw bir-reqqa l-konsegwenzi li jippermettu l-użu ta' teknoloġiji li jnaqqsu r-rwol tal-bnedmin fl-infurzar tal-liġi u fl-aġġudikazzjoni;

1. Itenni li, peress li l-ipproċessar ta' kwantitajiet kbar ta' data personali huwa fil-qalba tal-IA, id-dritt għall-protezzjoni tal-ħajja privata u d-dritt għall-protezzjoni tad-data personali japplikaw għall-oqsma kollha tal-IA, u li l-qafas ġuridiku tal-Unjoni għall-protezzjoni tad-data u għall-privatezza jrid jiġi osservat bis-sħiħ; ifakkar, għalhekk, li l-UE diġà stabbiliet standards ta' protezzjoni tad-data għall-infurzar tal-liġi, li jiffurmaw il-pedament għal kwalunkwe regolament futur fl-IA għall-użu tal-infurzar tal-liġi u l-ġudikatura; ifakkar li l-ipproċessar ta' data personali għandu jkun legali u ġust, l-iskopijiet tal-ipproċessar għandhom jiġu speċifikati, ikunu espliċiti u leġittimi, l-ipproċessar għandu jkun adegwat, rilevanti u mhux eċċessiv fir-rigward tal-għan li għalih jiġi pproċessat, għandu jkun preċiż, miżmum aġġornat u data mhux preċiża għandha, sakemm ma jkunux japplikaw restrizzjonijiet, tiġi kkoreġuta jew imħassra, id-data ma għandhiex tinżamm għal aktar żmien milli jkun meħtieġ, għandhom jiġu stabbiliti limiti ta' żmien ċari u xierqa għat-tħassir jew għal rieżami perjodiku tal-ħtieġa għall-ħżin ta' tali data, u għandha tiġi pproċessata b'mod sigur; jissottolinja wkoll li l-identifikazzjoni possibbli ta' individwi permezz ta' applikazzjoni tal-IA bl-użu ta' data li qabel kienet anonimizzata, għandha tiġi evitata;

2. Jafferma mill-ġdid li s-soluzzjonijiet kollha tal-IA għall-infurzar tal-liġi u l-ġudikatura jeħtieġ ukoll li jirrispettaw bis-sħiħ il-prinċipji tad-dinjità tal-bniedem, tan-nondiskriminazzjoni, tal-libertà tal-moviment, tal-preżunzjoni tal-innoċenza u tad-dritt għad-difiża, inkluż id-dritt li wieħed jibqa' sieket, tal-libertà tal-espressjoni u ta' informazzjoni, tal-libertà ta' għaqda u ta' assoċjazzjoni, tal-ugwaljanza quddiem il-liġi, tal-prinċipju ta' opportunitajiet ugwali għall-partijiet u tad-dritt għal rimedju effettiv u għal proċess ġust, bi qbil mal-Karta u l-Konvenzjoni Ewropea dwar id-Drittijiet tal-Bniedem; jisħaq li l-użu tal-applikazzjonijiet tal-IA jrid jiġi pprojbit meta jkun inkompatibbli mad-drittijiet fundamentali;

3. Jirrikonoxxi li l-ħeffa li biha l-applikazzjonijiet tal-IA qed jiġu żviluppati madwar id-dinja ma tippermettix elenkar eżawrjenti tal-applikazzjonijiet u għalhekk teħtieġ mudell ta' governanza ċar u koerenti li jiggarantixxi kemm id-drittijiet fundamentali tal-individwi kif ukoll iċ-ċarezza legali għall-iżviluppaturi, meta titqies l-evoluzzjoni kontinwa tat-teknoloġija; iqis, madankollu, minħabba r-rwol u r-responsabbiltà tal-pulizija u l-awtoritajiet ġudizzjarji, u l-impatt tad-deċiżjonijiet li jieħdu għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta' reati kriminali jew l-eżekuzzjoni ta' pieni kriminali, li l-użu tal-applikazzjonijiet tal-IA għandu jiġi kategorizzat bħala riskju għoli f'każijiet fejn hemm il-potenzjal li jaffettwaw b'mod sinifikanti l-ħajja tal-individwi;

4. Iqis, f'dan ir-rigward, li kwalunkwe għodod tal-IA żviluppati jew użati fl-infurzar tal-liġi jew mill-ġudikatura għandhom, bħala minimu, ikunu sikuri, robusti, siguri u adatti għall-iskop tagħhom, jirrispettaw il-prinċipji tal-ekwità, il-minimizzazzjoni tad-data, ir-responsabbiltà, it-trasparenza, in-nondiskriminazzjoni u l-ispjegabbiltà, u li l-iżvilupp, l-implimentazzjoni u l-użu tagħhom għandhom ikun soġġetti għal valutazzjoni tar-riskju u ttestjar strett tan-neċessità u tal-proporzjonalità, meta salvagwardji jeħtieġu jkunu proporzjonali mar-riskji identifikati; jenfasizza li l-fiduċja fost iċ-ċittadini fl-użu tal-IA żviluppata, implimentata u użata fl-UE tiddependi mit-twettiq sħiħ ta' dawn il-kriterji;

5. Jirrikonoxxi l-kontribut pożittiv ta' ċerti tipi ta' applikazzjonijiet tal-IA għall-ħidma tal-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji madwar l-Unjoni; jenfasizza, bħala eżempju, il-ġestjoni msaħħa tal-ġurisprudenza miksuba permezz ta' għodod li jippermettu għażliet ta' tfittxija addizzjonali; jemmen li hemm firxa ta' użi potenzjali oħra għall-IA għall-infurzar tal-liġi u għall-ġudikatura li jistgħu jiġu esplorati filwaqt li jitqiesu l-ħames prinċipji tal-Karta Etika dwar l-użu tal-intelliġenza artifiċjali fis-sistemi ġudizzjarji u l-ambjent tagħhom, adottata mis-CEPEJ, u b'attenzjoni partikolari għall-"użi li għandhom jitqiesu bl-iktar riżerva estrema", identifikati mis-CEPEJ;

6. Jissottolinja li kwalunkwe teknoloġija tista' terġa' tingħata skop ġdid u għalhekk jitlob kontroll u sorveljanza indipendenti demokratiċi stretti ta' kwalunkwe teknoloġija abilitata bl-IA li tintuża mill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji, speċjalment dawk li jistgħu jerġgħu jingħataw skop ġdid għas-sorveljanza tal-massa jew għat-tfassil ta' profili tal-massa; jinnota, għalhekk, bi tħassib kbir il-potenzjal ta' ċerti teknoloġiji tal-IA użati fis-settur tal-infurzar tal-liġi għal skopijiet ta' sorveljanza tal-massa; jenfasizza r-rekwiżit legali li tiġi evitata s-sorveljanza tal-massa permezz tat-teknoloġiji tal-IA, li skont id-definizzjoni ma tissodisfax il-prinċipji tan-neċessità u tal-proporzjonalità, u li jiġi pprojbit l-użu ta' applikazzjonijiet li jistgħu jirriżultaw fiha;

7. Jenfasizza li l-approċċ meħud f'xi pajjiżi mhux tal-UE rigward l-iżvilupp, l-implimentazzjoni u l-użu ta' teknoloġiji ta' sorveljanza tal-massa jinterferixxi b'mod sproporzjonat mad-drittijiet fundamentali u għalhekk ma għandux jiġi segwit mill-UE; għalhekk, huwa tal-fehma li s-salvagwardji kontra l-użu ħażin tat-teknoloġiji tal-IA mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji wkoll jeħtieġ li jiġu rregolati b'mod uniformi madwar l-Unjoni;

8. Jenfasizza li hemm il-potenzjal li mill-użu tal-applikazzjonijiet tal-IA bħat-tagħlim awtomatiku jinħolqu l-preġudizzju u d-diskriminazzjoni, inklużi algoritmi fuq liema huma bbażati tali applikazzjonijiet; jinnota li l-preġudizzji jistgħu jkunu inerenti fis-settijiet ta' data sottostanti, speċjalment meta tkun qed tintuża data storika, introdotta mill-iżviluppaturi tal-algoritmi, jew iġġenerata meta s-sistemi jiġu implimentati f'ambjenti reali; jirrimarka li r-riżultati pprovduti mill-applikazzjonijiet tal-IA huma neċessarjament influwenzati mill-kwalità tad-data użata, u li tali preġudizzji inerenti huma inklinati li jiżdiedu gradwalment u b'hekk ikomplu jippermettu u jamplifikaw id-diskriminazzjoni eżistenti, b'mod partikolari għall-persuni li jappartjenu għal ċerti gruppi etniċi jew komunitajiet razzjalizzati;

9. Jissottolinja l-fatt li ħafna teknoloġiji ta' identifikazzjoni li jaħdmu bl-algoritmi, li attwalment qed jintużaw b'mod sproporzjonat, jidentifikaw u jikklassifikaw ħażin u għalhekk jikkawżaw ħsara lil persuni razzjalizzati, individwi li jappartjenu għal ċerti komunitajiet etniċi, persuni LGBTI, tfal u anzjani, kif ukoll lin-nisa; ifakkar li l-individwi mhux biss għandhom id-dritt li jiġu identifikati b'mod korrett, iżda għandhom ukoll id-dritt li ma jiġu identifikati bl-ebda mod, sakemm ma jkunx rikjest mil-liġi għal interessi pubbliċi konvinċenti u leġittimi; jenfasizza li l-previżjonijiet tal-IA bbażati fuq karatteristiċi ta' grupp speċifiku ta' persuni jispiċċaw ikabbru u jirriproduċu forom eżistenti ta' diskriminazzjoni; iqis li għandhom isiru sforzi qawwija biex jiġu evitati d-diskriminazzjoni u l-preġudizzju awtomatizzati; jitlob salvagwardji addizzjonali robusti meta sistemi tal-IA fl-infurzar tal-liġi jew fil-ġudikatura jintużaw fuq jew fir-rigward ta' minorenni;

10. Jenfasizza l-asimmetrija tal-poter bejn dawk li jħaddmu t-teknoloġiji tal-IA u dawk li huma soġġetti għalihom; jisħaq li huwa imperattiv li l-użu tal-IA mill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji ma jsirx fattur ta' inugwaljanza, ksur jew esklużjoni soċjali; jissottolinja l-impatt tal-użu tal-għodod tal-IA fuq id-drittijiet tad-difiża tal-persuni suspettati, id-diffikultà biex tinkiseb informazzjoni sinifikanti dwar il-funzjonament tagħhom u d-diffikultà konsegwenti biex jiġu kkontestati r-riżultati tagħhom fil-qorti, b'mod partikolari minn individwi li qed jiġu investigati;

11. Jieħu nota tar-riskji relatati b'mod partikolari mal-iżvelar illeċitu tad-data, il-ksur tas-sigurtà tad-data u aċċess mhux awtorizzat għal data personali u informazzjoni oħra relatata ma', pereżempju, investigazzjonijiet kriminali jew kawżi tal-qorti li tiġi pproċessata mis-sistemi tal-IA; jissottolinja li l-aspetti tas-sigurtà u s-sikurezza tas-sistemi tal-IA użati fl-infurzar tal-liġi u mill-ġudikatura jeħtieġ li jiġu kkunsidrati bir-reqqa, u jkunu robusti u reżiljenti biżżejjed biex jipprevjenu l-konsegwenzi potenzjalment katastrofiċi ta' attakki malizzjużi fuq is-sistemi tal-IA; jisħaq fuq l-importanza tas-sigurtà mid-disinn, kif ukoll ta' sorveljanza umana speċifika qabel ma joperaw ċerti applikazzjonijiet kritiċi u għalhekk jitlob li l-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji jużaw biss applikazzjonijiet tal-IA li jaderixxu mal-prinċipju tal-privatezza u l-protezzjoni tad-data mid-disinn sabiex tiġi evitata estensjoni indebita tal-użu tad-data ("function creep");

12. Jisħaq li l-ebda sistema tal-IA użata fl-infurzar tal-liġi jew mill-ġudikatura m'għandha tiġi attivata biex tkun ta' dannu għall-integrità fiżika tal-bnedmin, u lanqas biex tqassam id-drittijiet jew timponi obbligi legali fuq individwi;

13. Jirrikonoxxi l-isfidi għal-lokalizzazzjoni korretta tar-responsabbiltà jew obbligu legali għal ħsara potenzjali, minħabba l-kumplessità tal-iżvilupp u l-operat tas-sistemi tal-IA; iqis li huwa meħtieġ li jinħoloq reġim ċar u ġust għall-assenjament tar-responsabbiltà u l-obbligu għall-konsegwenzi negattivi potenzjali li jinħolqu minn dawn it-teknoloġiji diġitali avvanzati; jissottolinja, madankollu, li l-ewwel u qabel kollox, l-għan għandu jkun li jiġi evitat li kwalunkwe tali konsegwenza ssir realtà; jitlob, għalhekk, li jiġi applikat il-prinċipju ta' prekawzjoni għall-applikazzjonijiet kollha tal-IA fil-kuntest tal-infurzar tal-liġi; jissottolinja li r-responsabbiltà u l-obbligu legali jridu dejjem ikunu f'idejn persuna fiżika jew ġuridika, li dejjem trid tiġi identifikata għal deċiżjonijiet meħuda bl-appoġġ tal-IA; jenfasizza, għalhekk, il-ħtieġa li tiġi żgurata t-trasparenza tal-istrutturi korporattivi li jipproduċu u jimmaniġġjaw is-sistemi tal-IA;

14. Iqis li huwa essenzjali, kemm għall-effettività tal-eżerċitar tad-drittijiet tad-difiża kif ukoll għat-trasparenza tas-sistemi nazzjonali tal-ġustizzja kriminali, li qafas legali speċifiku, ċar u preċiż jirregola l-kundizzjonijiet, il-modalitajiet u l-konsegwenzi tal-użu tal-għodod tal-IA fil-qasam tal-infurzar tal-liġi u fil-ġudikatura, kif ukoll id-drittijiet ta' persuni fil-mira, u proċeduri effettivi u faċilment disponibbli għat-tressiq ta' lmenti u tar-rimedju, inkluż ir-rimedju ġudizzjarju; jissottolinja d-dritt tal-partijiet fi proċediment kriminali li jkollhom aċċess għall-proċess tal-ġbir tad-data u l-valutazzjonijiet relatati magħmula minn jew miksuba permezz tal-użu tal-applikazzjonijiet tal-IA; jenfasizza l-ħtieġa li l-awtoritajiet ta' eżekuzzjoni involuti fil-kooperazzjoni ġudizzjarja, meta jiddeċiedu dwar talba għal estradizzjoni (jew konsenja) lejn Stat Membru ieħor jew pajjiż mhux fl-UE, jivvalutaw jekk l-użu ta' għodod tal-IA fil-pajjiż rikjedenti jistax jikkomprometti b'mod ċar id-dritt fundamentali għal proċess ġust; jistieden lill-Kummissjoni toħroġ linji gwida dwar kif għandha titwettaq valutazzjoni bħal din fil-kuntest tal-kooperazzjoni ġudizzjarja fi kwistjonijiet kriminali; jinsisti li l-Istati Membri, f'konformità mal-liġijiet applikabbli, għandhom jiżguraw li l-individwi jiġu infurmati meta jkunu soġġetti għall-użu tal-applikazzjonijiet tal-IA mill-awtoritajiet tal-infurzar tal-liġi jew mill-ġudikatura;

15. Jirrimarka li jekk il-bnedmin jiddependu biss mid-data, il-profili u r-rakkomandazzjonijiet iġġenerati mill-magni, mhumiex se jkunu jistgħu jagħmlu valutazzjoni indipendenti; jenfasizza l-konsegwenzi negattivi potenzjalment gravi, b'mod speċifiku fil-qasam tal-infurzar tal-liġi u l-ġustizzja, meta l-individwi jafdaw wisq fin-natura apparentement oġġettiva u xjentifika tal-għodod tal-IA u jonqsu milli jikkunsidraw il-possibbiltà li r-riżultati tagħhom huma skorretti, inkompleti, irrelevanti jew diskriminatorji; jenfasizza d-dipendenza eċċessiva fuq ir-riżultati pprovduti mis-sistemi tal-IA għandha tiġi evitata, u jisħaq fuq il-ħtieġa li l-awtoritajiet jibnu l-fiduċja u l-għarfien biex jiddubitaw rakkomandazzjoni algoritmika jew jinjorawha; iqis li huwa importanti li jkun hemm aspettattivi realistiċi dwar soluzzjonijiet teknoloġiċi bħal dawn u li ma jitwiegħdux soluzzjonijiet perfetti tal-infurzar tal-liġi u l-identifikazzjoni tar-reati kollha mwettqa;

16. Jissottolinja li fil-kuntesti ġudizzjarji u ta' infurzar tal-liġi, id-deċiżjoni li għandha effett legali jew simili dejjem jeħtieġ li tittieħed minn bniedem, li jista' jinżamm responsabbli għad-deċiżjonijiet meħuda; iqis li dawk soġġetti għal sistemi li jaħdmu bl-IA jrid ikollhom rikors għal rimedju; ifakkar li, skont il-liġi tal-UE, persuna għandha d-dritt li ma tkunx soġġetta għal deċiżjoni li tipproduċi effetti legali li tikkonċernahom jew li taffettwahom b'mod sinifikanti u hija bbażata biss fuq ipproċessar awtomatizzat tad-data; jenfasizza wkoll li t-teħid ta' deċiżjonijiet individwali awtomizzat m'għandux ikun ibbażat fuq kategoriji speċjali ta' data personali, sakemm ma jkunux fis-seħħ miżuri xierqa biex jiġu mħarsa d-drittijiet u l-libertajiet u l-interessi leġittimi tas-suġġett tad-data; jisħaq li l-liġi tal-UE tipprojbixxi t-tfassil ta' profil li jirriżulta f'diskriminazzjoni kontra persuni fiżiċi abbażi ta' kategoriji speċjali ta' data personali; jenfasizza li d-deċiżjonijiet fil-qasam tal-infurzar tal-liġi huma kważi dejjem deċiżjonijiet li jkollhom effett legali fuq il-persuna kkonċernata, minħabba n-natura eżekuttiva tal-awtoritajiet tal-infurzar tal-liġi u l-azzjonijiet tagħhom; jinnota li l-użu tal-IA jista' jinfluwenza d-deċiżjonijiet tal-bniedem u jkollu impatt fuq il-fażijiet kollha tal-proċeduri kriminali; huwa tal-fehma, għalhekk, li l-awtoritajiet li jagħmlu użu mis-sistemi tal-IA jeħtieġ li jżommu standards legali estremament għoljin u jiżguraw l-intervent tal-bniedem, speċjalment meta janalizzaw data li tirriżulta minn tali sistemi; jirrikjedi għalhekk li jiġu rrispettati d-diskrezzjoni sovrana tal-imħallfin u t-teħid ta' deċiżjonijiet abbażi ta' każ b'każ; jitlob il-projbizzjoni fuq l-użu tal-IA u teknoloġiji relatati għall-proposti ta' deċiżjonijiet ġudizzjarji;

17. Jitlob li jkun hemm spjegabbiltà, trasparenza, traċċabbiltà u verifika algoritmiċi bħala parti neċessarja tas-sorveljanza, sabiex jiġi żgurat li l-iżvilupp, l-implimentazzjoni u l-użu ta' sistemi tal-IA għall-ġudikatura u l-infurzar tal-liġi jkunu konformi mad-drittijiet fundamentali, u jkunu fdati miċ-ċittadini, kif ukoll sabiex jiġi żgurat li r-riżultati ġġenerati mill-algoritmi tal-IA jkunu jistgħu jsiru intelliġibbli għall-utenti u għal dawk soġġetti għal dawn is-sistemi, u li jkun hemm trasparenza dwar is-sors tad-data u dwar kif is-sistema waslet għal ċerta konklużjoni; jirrimarka li sabiex jiġu żgurati t-trasparenza, ir-robustezza, u l-preċiżjoni tekniċi, tali għodod u sistemi biss għandhom jitħallew jinxtraw mill-awtoritajiet tal-infurzar tal-liġi jew ġudizzjarji fl-Unjoni li l-algoritmi u l-loġika tagħhom jistgħu jiġu awditjati u aċċessibbli tal-inqas għall-pulizija u għall-ġudikatura kif ukoll għall-awdituri indipendenti, biex jippermettu l-evalwazzjoni, l-awditjar u l-iskrutinju tagħhom, u li ma għandhomx jingħalqu jew jiġu ttikkettati bħala proprjetarji mill-bejjiegħa; jirrimarka li, barra minn hekk, dik id-dokumentazzjoni għandha tiġi pprovduta b'lingwaġġ ċar u li jinftiehem dwar in-natura tas-servizz, l-għodod żviluppati, il-prestazzjoni u l-kundizzjonijiet li bihom jista' jkun mistenni li jiffunzjonaw u r-riskji li jistgħu jikkawżaw; jistieden għalhekk lill-awtoritajiet ġudizzjarji u tal-infurzar tal-liġi jipprevedu trasparenza proattiva u sħiħa dwar kumpaniji privati li jipprovdulhom sistemi tal-IA għall-finijiet tal-infurzar tal-liġi u tal-ġudikatura; jirrakkomanda għalhekk l-użu ta' software b'sors miftuħ fejn possibbli;

18. Iħeġġeġ lill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji jidentifikaw u jivvalutaw l-oqsma fejn xi soluzzjonijiet tal-IA mfassla apposta jistgħu jkunu ta' benefiċċju u jiskambjaw l-aħjar prattiki dwar l-implimentazzjoni tal-IA; jitlob li l-Istati Membri u l-aġenziji tal-UE jadottaw proċessi xierqa ta' akkwist pubbliku għas-sistemi tal-IA meta jintużaw f'kuntest ġudizzjarju jew ta' infurzar tal-liġi, sabiex tiġi żgurata l-konformità tagħhom mad-drittijiet fundamentali u mal-leġiżlazzjoni applikabbli, inkluż l-iżgurar li d-dokumentazzjoni tas-software u l-algoritmi jkunu disponibbli u aċċessibbli għall-awtoritajiet kompetenti u superviżorji għal rieżami; jitlob, b'mod partikolari, li jkun hemm regoli vinkolanti li jirrikjedu żvelar pubbliku dwar sħubijiet, kuntratti u akkwisti pubbliċi-privati u l-iskop li għalih jiġu akkwistati; jisħaq fuq il-ħtieġa li l-awtoritajiet jiġu pprovduti bil-finanzjament meħtieġ, kif ukoll li jgħammruhom bl-għarfien espert meħtieġ biex jiggarantixxu konformità sħiħa mar-rekwiżiti etiċi, legali u tekniċi marbuta mal-implimentazzjoni tal-IA;

19. Jitlob li jkun hemm traċċabbiltà tas-sistemi tal-IA u l-proċess tat-teħid tad-deċiżjonijiet li tispjega l-funzjonijiet tagħhom, tiddefinixxi l-kapaċitajiet u l-limitazzjonijiet tas-sistemi, u li żżomm rekord ta' minn fejn ikunu oriġinaw l-attributi definittivi għal deċiżjoni, permezz ta' dokumentazzjoni obbligatorja; jissottolinja l-importanza li tinżamm dokumentazzjoni sħiħa tad-data dwar it-taħriġ, il-kuntest, l-għan, il-preċiżjoni u l-effetti sekondarji tagħha, kif ukoll l-ipproċessar tagħha minn dawk li jibnu u jiżviluppaw l-algoritmi u l-konformità tagħha mad-drittijiet fundamentali; jenfasizza li dejjem irid ikun possibbli li l-komputazzjonijiet ta' sistema tal-IA jiġu ridotti għal forma li tinftiehem mill-bniedem;

20. Jitlob li, qabel ma tiġi implimentata jew varata kwalunkwe sistema tal-IA għall-infurzar tal-liġi jew għall-ġudikatura, issir valutazzjoni obbligatorja tal-impatt fuq id-drittijiet fundamentali ħalli jiġi vvalutat kwalunkwe riskju potenzjali għad-drittijiet fundamentali; ifakkar li l-valutazzjoni minn qabel tal-impatt fuq il-protezzjoni tad-data hija obbligatorja għal kwalunkwe tip ta' proċessar, b'mod partikolari, bl-użu ta' teknoloġiji ġodda, li x'aktarx tirriżulta f'riskju għoli għad-drittijiet u l-libertajiet ta' persuni fiżiċi u huwa tal-fehma li dan huwa l-każ għall-biċċa l-kbira tat-teknoloġiji tal-IA fil-qasam tal-infurzar tal-liġi u l-ġudikatura; jissottolinja l-għarfien espert tal-awtoritajiet għall-protezzjoni tad-data u tal-aġenziji tad-drittijiet fundamentali fil-valutazzjoni ta' dawn is-sistemi; jisħaq li dawn il-valutazzjonijiet tal-impatt tad-drittijiet fundamentali għandhom jitwettqu b'mod kemm jista' jkun miftuħ u bl-involviment attiv tas-soċjetà ċivili; jitlob li l-valutazzjonijiet tal-impatt jiddefinixxu wkoll b'mod ċar is-salvagwardji meħtieġa biex jiġu indirizzati r-riskji identifikati u li dawn isiru, kemm jista' jkun possibbli, disponibbli għall-pubbliku qabel l-implimentazzjoni ta' kwalunkwe sistema tal-IA;

21. Jisħaq li governanza Ewropea robusta tal-IA b'evalwazzjoni indipendenti biss tista' tippermetti l-operazzjonalizzazzjoni meħtieġa tal-prinċipji tad-drittijiet fundamentali; jitlob li jsir awditjar perjodiku obbligatorju tas-sistemi kollha tal-IA li jintużaw mill-infurzar tal-liġi u mill-ġudikatura, fejn hemm il-potenzjal li dawn jaffettwaw b'mod sinifikanti l-ħajja ta' individwi, minn awtorità indipendenti, biex jiġu ttestjati u evalwati sistemi algoritmiċi, fil-kuntest, l-iskop, il-preċiżjoni, il-prestazzjoni u l-iskala tagħhom u, ladarba jkunu qed joperaw, sabiex jiġu identifikati, investigati, dijanjostikati u rettifikati kwalunkwe effett mhux mixtieq u kwalunkwe effett negattiv u jiġi żgurat li s-sistemi tal-IA qed jaħdmu kif maħsub; jitlob għalhekk li jkun hemm qafas istituzzjonali ċar għal dan il-għan, inkluża sorveljanza regolatorja u superviżorja xierqa, biex tiġi żgurata implimentazzjoni sħiħa u biex jiġi garantit dibattitu demokratiku infurmat bis-sħiħ dwar in-neċessità u l-proporzjonalità tal-IA fil-qasam tal-ġustizzja kriminali; jissottolinja li r-riżultati ta' dan l-awditjar għandhom isiru disponibbli fir-reġistri pubbliċi sabiex iċ-ċittadini jkunu jafu s-sistemi tal-IA li qed jiġu implimentati u liema miżuri qed jittieħdu biex jiġi rimedjat kwalunkwe ksur tad-drittijiet fundamentali;

22. Jisħaq li s-settijiet tad-data u s-sistemi algoritmiċi li jintużaw meta jsiru l-klassifikazzjonijiet, il-valutazzjonijiet u l-previżjonijiet fl-istadji differenti tal-ipproċessar tad-data fl-iżvilupp tal-IA u teknoloġiji relatati jistgħu jirriżultaw ukoll fi trattament differenzjali u diskriminazzjoni diretta kif ukoll indiretta ta' gruppi ta' persuni, speċjalment peress li data użata biex jiġu mgħallma algoritmi ta' policing predittiv tirrifletti prijoritajiet ta' sorveljanza għaddejja bħalissa u konsegwentement tista' tirriżulta fir-riproduzzjoni u l-amplifikazzjoni ta' preġudizzji attwali; jenfasizza għalhekk li t-tekonoloġiji tal-IA, speċjalment meta jiġu implimentati għall-użu tal-infurzar tal-liġi u l-ġudikatura, jirrikjedu riċerka u kontribut interdixxiplinarji, inkluż mill-oqsma ta' studji xjentifiċi u teknoloġiċi, studji kritiċi ta' razez, studji dwar id-diżabbiltà, u dixxiplini oħra adattati għall-kuntest soċjali, filwaqt li jinkludu l-mod ta' kif inhi mibnija d-differenza, ix-xogħol ta' klassifikazzjoni, u l-konsegwenzi tagħha; jisħaq għalhekk fuq il-ħtieġa għal investiment b'mod sistematiku fl-integrazzjoni ta' dawn id-dixxiplini fl-istudju u fir-riċerka tal-IA fil-livelli kollha; jisħaq ukoll fuq l-importanza li t-timijiet li jfasslu, jiżviluppaw, jittestjaw, iżommu, jimplimentaw u jakkwistaw dawn is-sistemi tal-IA għall-infurzar tal-liġi u l-ġudikatura, jirriflettu fejn possibbli d-diversità tas-soċjetà b'mod ġenerali bħala mezz mhux tekniku biex jitnaqqsu r-riskji ta' diskriminazzjoni;

23. Jenfasizza wkoll li l-obbligu ta' rendikont u r-responsabbiltà xierqa jirrikjedu taħriġ speċjalizzat sinifikanti fir-rigward tad-dispożizzjonijiet etiċi, il-perikli potenzjali, il-limitazzjonijiet, u l-użu xieraq tat-teknoloġija tal-IA, speċjalment għall-persunal tal-pulizija u tal-ġudikatura; jenfasizza li taħriġ professjonali u kwalifiki xierqa għandhom jiżguraw li dawk li jieħdu d-deċiżjonijiet ikunu mħarrġa dwar il-potenzjal għal preġudizzju, peress li s-settijiet ta' data jistgħu jkunu bbażati fuq data diskriminatorja u preġudikata; jappoġġja t-twaqqif ta' inizjattivi ta' sensibilizzazzjoni u edukattivi biex jiġi żgurat li individwi li jaħdmu fl-infurzar tal-liġi jew il-ġudikatura jkunu konxji u jifhmu l-limitazzjonijiet, il-kapaċitajiet u r-riskji li jinvolvi l-użu tas-sistemi tal-IA, inkluż ir-riskju ta' preġudizzju ta' awtomatizzazzjoni; ifakkar li l-inklużjoni ta' settijiet ta' data ta' taħriġ dwar l-IA ta' każijiet ta' razziżmu mill-forzi tal-pulizija fit-twettiq tad-dmirijiet tagħhom inevitabbilment se twassal għal preġudizzju razzista f'sejbiet, punteġġi u rakkomandazzjonijiet iġġenerati mill-IA; itenni għalhekk it-talba tiegħu lill-Istati Membri biex jippromovu politiki kontra d-diskriminazzjoni u biex jiżviluppaw pjanijiet ta' azzjoni nazzjonali kontra r-razziżmu fil-qasam tal-policing u tas-sistema tal-ġustizzja;

24. Jinnota li l-policing predittiv huwa fost l-applikazzjonijiet tal-IA użati fil-qasam tal-infurzar tal-liġi, iżda jwissi li filwaqt li policing predittiv jista' janalizza s-settijiet ta' data mogħtija għall-identifikazzjoni ta' mudelli u korrelazzjonijiet, ma jistax iwieġeb għall-mistoqsija tal-kawżalità u ma jistax jagħmel predizzjonijiet affidabbli dwar l-imġiba individwali, u għalhekk ma jistax jikkostitwixxi l-unika bażi għal intervent; jirrimarka li diversi bliet fl-Istati Uniti temmew l-użu tagħhom ta' sistemi ta' policing predittiv wara li saru awditi; ifakkar li matul il-missjoni tal-Kumitat LIBE fl-Istati Uniti fi Frar 2020, il-Membri ġew infurmati mid-dipartimenti tal-pulizija tal-Belt ta' New York u Cambridge, Massachusetts, li gradwalment huma kienu eliminaw il-programmi ta' policing predittiv tagħhom minħabba nuqqas ta' effettività, l-impatt diskriminatorju u l-falliment fil-prattika, u minflok bdew jużaw is-sorveljanza tal-komunità; jinnota li dan wassal għal tnaqqis fir-rati ta' kriminalità; jopponi, għalhekk, l-użu tal-IA mill-awtoritajiet tal-infurzar tal-liġi biex isiru previżjonijiet komportamentali fuq individwi jew gruppi abbażi ta' data storika u mġiba fil-passat, sħubija fi grupp, post, jew kwalunkwe karatteristika oħra bħal din, u b'hekk jipprova jidentifika persuni li x'aktarx iwettqu reat;

25. Jinnota t-tipi differenti ta' użu tar-rikonoxximent tal-wiċċ, bħal, iżda mhux limitat għal, verifika/awtentikazzjoni (jiġifieri tqabbil ta' wiċċ dirett ma' ritratt f'dokument tal-identità, eż. fruntiera intelliġenti), identifikazzjoni (jiġifieri tqabbil ta' ritratt ma' sett ta' bażi tad-data ta' ritratti) u detezzjoni (jiġifieri l-identifikazzjoni ta' uċuħ f'ħin reali minn sorsi bħal filmati tas-CCTV, u t-tqabbil tagħhom ma' bażijiet tad-data, eż. sorveljanza f'ħin reali), li kull wieħed minnhom għandu implikazzjonijiet differenti għall-protezzjoni tad-drittijiet fundamentali; jemmen bis-sħiħ li l-implimentazzjoni ta' sistemi ta' rikonoxximent tal-wiċċ mill-infurzar tal-liġi għandu jkun limitat għal skopijiet iġġustifikati b'mod ċar b'rispett sħiħ tal-prinċipji tal-proporzjonalità u n-neċessità u l-liġi applikabbli; jafferma mill-ġdid li bħala minimu, l-użu tat-teknoloġija ta' rikonoxximent tal-wiċċ irid ikun konformi mar-rekwiżiti ta' minimizzazzjoni tad-data, il-preċiżjoni tad-data, il-limitazzjoni tal-ħażna, is-sigurtà tad-data u r-responsabbiltà, kif ukoll għandu jkun legali, ġust u trasparenti, u jsegwi skop speċifiku, espliċitu u leġittimu li huwa ddefinit b'mod ċar fil-liġi tal-Istati Membri jew fil-liġi tal-Unjoni; huwa tal-opinjoni li s-sistemi ta' verifika u awtentikazzjoni jistgħu jkomplu jiġu implimentati u jintużaw b'suċċess biss jekk l-effetti avversi tagħhom jistgħu jittaffew u jiġu ssodisfati l-kriterji ta' hawn fuq;

26. Jitlob, barra minn hekk, il-projbizzjoni permanenti tal-użu ta' analiżi awtomatizzata u/jew rikonoxximent fi spazji aċċessibbli għall-pubbliku ta' karatteristiċi umani oħra, bħall-mod kif wieħed jimxi, il-marki tas-swaba', id-DNA, il-vuċi, u sinjali bijometriċi u komportamentali oħra;

27. Jitlob, madankollu, għal moratorju fuq l-implimentazzjoni ta' sistemi ta' rikonoxximent tal-wiċċ għall-finijiet tal-infurzar tal-liġi li għandhom il-funzjoni tal-identifikazzjoni, sakemm jintużaw biss għall-finijiet tal-identifikazzjoni ta' vittmi ta' kriminalità, sa meta l-istandards tekniċi jkunu jistgħu jitqiesu li huma konformi bis-sħiħ mad-drittijiet fundamentali, ir-riżultati miksuba ma jkunux preġudikati u diskriminatorji, il-qafas legali jipprovdi salvagwardji stretti kontra l-użu ħażin u kontroll demokratiku u sorveljanza stretti, u jkun hemm evidenza empirika fuq in-neċessità u l-proporzjonalità għall-implimentazzjoni ta' dawn it-teknoloġiji; jinnota li fejn il-kriterji ta' hawn fuq ma jiġux issodisfati, is-sistemi m'għandhomx jintużaw jew jiġu implimentati;

28. Jesprimi t-tħassib serju tiegħu dwar l-użu ta' bażijiet tad-data privati ta' rikonoxximent tal-wiċċ minn atturi tal-infurzar tal-liġi u servizzi tal-intelligence, bħal Clearview AI, bażi tad-data ta' aktar minn tliet biljun stampa li nġabru illegalment minn fuq in-networks soċjali u partijiet oħra tal-internet, inkluż minn ċittadini tal-UE; jistieden lill-Istati Membri jobbligaw l-atturi tal-infurzar tal-liġi biex jiżvelaw jekk humiex qed jużaw it-teknoloġija Clearview AI, jew teknoloġiji ekwivalenti minn fornituri oħrajn; ifakkar fl-opinjoni tal-Bord Ewropew għall-Protezzjoni tad-Data (EDPB) li l-użu ta' servizz bħal Clearview AI mill-awtoritajiet tal-infurzar tal-liġi fl-Unjoni Ewropea "x'aktarx ma jkunx konsistenti mar-reġim ta' protezzjoni tad-data tal-UE"; jitlob li jiġi pprojbit l-użu ta' bażijiet tad-data privati ta' rikonoxximent tal-wiċċ fl-infurzar tal-liġi;

29. Jieħu nota tal-istudju ta' fattibbiltà tal-Kummissjoni dwar bidliet possibbli fid-Deċiżjoni ta' Prüm[8], inkluż rigward l-istampi tal-wiċċ; jieħu nota ta' riċerka preċedenti li m'hemmx identifikaturi potenzjali ġodda, pereżempju rikonoxximent tal-iris jew tal-wiċċ, ikunu daqshekk affidabbli f'kuntest forensiku bħad-DNA jew il-marki tas-swaba'; ifakkar lill-Kummissjoni li kwalunkwe proposta leġiżlattiva għandha tkun ibbażata fuq l-evidenza u tirrispetta l-prinċipju tal-proporzjonalità; iħeġġeġ lill-Kummissjoni ma testendix il-qafas tad-Deċiżjoni ta' Prüm sakemm ikun hemm evidenza xjentifika soda tal-affidabbiltà tar-rikonoxximent tal-wiċċ f'kuntest forensiku meta mqabbel mad-DNA jew il-marki tas-swaba', wara li tkun wettqet valutazzjoni sħiħa tal-impatt, u filwaqt li jitqiesu r-rakkomandazzjonijiet tal-Kontrollur Ewropew għall-Protezzjoni tad-Data (EDPS) u l-EDPB;

30. Jisħaq li l-użu ta' data bijometrika huwa relatat b'mod aktar wiesa' mal-prinċipju tad-dritt għad-dinjità tal-bniedem li jifforma l-bażi tad-drittijiet fundamentali kollha ggarantiti mill-Karta; iqis li l-użu u l-ġbir ta' kwalunkwe data bijometrika għal skopijiet ta' identifikazzjoni remota, pereżempju billi jitwettaq rikonoxximent tal-wiċċ f'postijiet pubbliċi, kif ukoll fi dħul ta' kontroll awtomatiku fil-fruntieri li jintuża għall-verifiki fil-fruntieri fl-ajruporti, jistgħu joħolqu riskji speċifiċi għad-drittijiet fundamentali, li l-implikazzjonijiet tagħhom jistgħu jvarjaw b'mod konsiderevoli skont ir-raġuni, il-kuntest u l-iskop tal-użu; jenfasizza wkoll il-validità xjentifika kkontestata tat-teknoloġija tar-rikonoxximent emozzjonali, bħal kameras li jidentifikaw il-movimenti tal-għajnejn u l-bidliet fid-daqs tal-ħabba tal-għajn, f'kuntest tal-infurzar tal-liġi; huwa tal-fehma li l-użu ta' identifikazzjoni bijometrika fil-kuntest tal-infurzar tal-liġi u tal-ġudikatura għandu dejjem jitqies bħala "riskju għoli" u għalhekk għandu jkun soġġett għal rekwiżiti addizzjonali, skont ir-rakkomandazzjonijiet tal-Grupp ta' Esperti ta' Livell Għoli tal-Kummissjoni dwar l-IA;

31. Jesprimi tħassib kbir dwar il-proġetti ta' riċerka ffinanzjati taħt Orizzont 2020 li jimplimentaw l-intelliġenza artifiċjali fuq fruntieri esterni, bħall-proġett iBorderCtrl, "sistema intelliġenti li tidentifika l-gideb" li tfassal profili ta' vjaġġaturi abbażi ta' intervista awtomatizzata bil-kompjuter meħuda mill-webcam tal-vjaġġatur qabel il-vjaġġ, u analiżi bbażata fuq l-intelliġenza artifiċjali ta' 38 sinjal mikro, ittestjati fl-Ungerija, il-Latvja u l-Greċja; jistieden lill-Kummissjoni, għalhekk, timplimenta, permezz ta' mezzi leġiżlattivi u mhux leġiżlattivi, u jekk ikun meħtieġ permezz ta' proċedimenti ta' ksur, projbizzjoni fuq kwalunkwe pproċessar ta' data bijometrika inklużi stampi tal-wiċċ, għall-finijiet tal-infurzar tal-liġi li twassal għal sorveljanza tal-massa fi spazji aċċessibbli għall-pubbliku; jistieden ukoll lill-Kummissjoni twaqqaf il-finanzjament tar-riċerka bijometrika jew tal-implimentazzjoni ta' programmi li jistgħu jirriżultaw fis-sorveljanza indiskriminata tal-massa fi spazji pubbliċi; jenfasizza, f'dan il-kuntest, li għandha tingħata attenzjoni speċjali, u għandu jiġi applikat qafas strett, għall-użu tad-droni fl-operazzjonijiet tal-pulizija;

32. Jappoġġja r-rakkomandazzjonijiet tal-Grupp ta' Esperti ta' Livell Għoli tal-Kummissjoni dwar l-IA favur il-projbizzjoni tal-punteġġ tal-individwi abilitat bl-IA fuq skala enormi; iqis li kwalunkwe forma ta' punteġġ taċ-ċittadini normattiv fuq skala enormi mill-awtoritajiet pubbliċi, b'mod partikolari fil-qasam tal-infurzar tal-liġi u l-ġudikatura, iwassal għat-telf tal-awtonomija, jipperikola l-prinċipju tan-nondiskriminazzjoni u ma jistax jitqies konformi mad-drittijiet fundamentali, b'mod partikolari d-dinjità tal-bniedem, kif kodifikat fil-liġi tal-UE;

33. Jitlob li jkun hemm aktar trasparenza ġenerali sabiex ikun hemm fehim komprensiv rigward l-użu tal-applikazzjonijiet tal-IA fl-Unjoni; jitlob lill-Istati Membri jipprovdu informazzjoni komprensiva dwar l-għodod użati mill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji tagħhom, it-tipi ta' għodda li jintużaw, l-iskopijiet li għalihom jintużaw, it-tipi ta' reati għal liema jiġu applikati, u l-ismijiet tal-kumpaniji jew l-organizzazzjonijiet li żviluppaw dawk l-għodod; jistieden lill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji biex jinfurmaw lill-pubbliku u jipprovdu trasparenza suffiċjenti dwar l-użu tagħhom tal-IA u teknoloġiji relatati meta jimplimentaw is-setgħat tagħhom, inkluż l-iżvelar ta' rati pożittivi foloz u negattivi foloz tat-teknoloġija inkwistjoni; jitlob li l-Kummissjoni tiġbor u taġġorna l-informazzjoni f'post wieħed; jistieden lill-Kummissjoni tippubblika u taġġorna wkoll informazzjoni dwar l-użu tal-IA mill-aġenziji tal-Unjoni inkarigati b'kompiti ta' infurzar tal-liġi u dawk ġudizzjarji; jistieden lill-EDPB jivvaluta l-legalità ta' dawn it-teknoloġiji u l-applikazzjonijiet tal-IA li qed jintużaw mill-awtoritajiet tal-infurzar tal-liġi u mill-ġudikatura;

34. Ifakkar li l-applikazzjonijiet tal-IA, inklużi dawk li jintużaw fil-kuntest tal-infurzar tal-liġi u tal-ġudikatura, qed jiġu żviluppati globalment b'pass mgħaġġel; iħeġġeġ lill-partijiet interessati Ewropej kollha, inklużi l-Istati Membri u l-Kummissjoni, jiżguraw, permezz tal-kooperazzjoni internazzjonali, l-involviment tas-sħab barra mill-UE sabiex jgħollu l-istandards fil-livell internazzjonali u jsibu qafas legali u etiku komuni u komplementari għall-użu tal-IA, b'mod partikolari għall-infurzar tal-liġi u l-ġudikatura, li jirrispetta bis-sħiħ il-Karta, l-acquis Ewropew dwar il-protezzjoni tad-data u d-drittijiet tal-bniedem b'mod aktar wiesa';

35. Jitlob lill-Aġenzija tal-UE għad-Drittijiet Fundamentali, f'kollaborazzjoni mal-EDPB u l-EDPS, tabbozza linji gwida, rakkomandazzjonijiet u l-aħjar prattiki komprensivi sabiex tispeċifika aktar il-kriterji u l-kundizzjonijiet għall-iżvilupp, l-użu u l-implimentazzjoni tal-applikazzjonijiet u s-soluzzjonijiet tal-IA għall-użu mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji; jimpenja ruħu li jwettaq studju dwar l-implimentazzjoni tad-Direttiva dwar l-Infurzar tal-Liġi[9] sabiex jidentifika kif il-protezzjoni tad-data personali ġiet żgurata f'attivitajiet ta' pproċessar mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji, b'mod partikolari meta jkunu qed jiżviluppaw jew jużaw teknoloġiji ġodda; jistieden lill-Kummissjoni, barra minn hekk, tikkunsidra jekk hijiex meħtieġa azzjoni leġiżlattiva speċifika dwar l-ispeċifikazzjoni ulterjuri tal-kriterji u l-kundizzjonijiet għall-iżvilupp, l-użu u l-implimentazzjoni tal-applikazzjonijiet u s-soluzzjonijiet tal-IA mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji;

36. Jagħti istruzzjonijiet lill-President tiegħu biex jgħaddi din ir-riżoluzzjoni lill-Kunsill u lill-Kummissjoni.

 

NOTA SPJEGATTIVA

L-intelliġenza artifiċjali (IA) hija waħda mit-teknoloġiji strateġiċi tas-seklu 21, li tiġġenera benefiċċji sostanzjali fl-effiċjenza, il-preċiżjoni, u l-konvenjenza, u b'hekk tikkontribwixxi b'mod pożittiv għall-ekonomija Ewropea. Fost ħwejjeġ oħra, l-applikazzjonijiet tal-IA tejbu l-kura tas-saħħa, żiedu l-effiċjenza tal-biedja, ikkontribwew għall-mitigazzjoni u l-adattament għat-tibdil fil-klima, u tejbu l-effiċjenza tal-produzzjoni.

 

L-IA hija waħda mill-prijoritajiet ewlenin tal-Kummissjoni attwali. Il-President tal-Kummissjoni, Ursula von der Leyen, ħabbret fil-linji gwida politiċi tagħha approċċ Ewropew ikkoordinat dwar l-implikazzjonijiet umani u etiċi tal-IA kif ukoll riflessjoni dwar l-użu aħjar tal-big data għall-innovazzjoni. L-approvazzjoni tal-IA bħala kwistjoni fil-livell tal-UE ġiet akkumpanjata minn riflessjoni dwar kif għandha tiġi ggarantita l-fiduċja fit-teknoloġiji tal-IA, u kif għandu jiġi żgurat li l-IA ma tikkompromettix id-drittijiet fundamentali tal-UE.

 

Madankollu, l-IA ġiet indirizzata mill-Parlament Ewropew għadd ta' snin qabel ma l-Kummissjoni ddeċidiet li tagħtiha prijorità għolja. Diversi riżoluzzjonijiet dwar il-big data, ir-robotika u l-intelliġenza artifiċjali, adottati mill-Parlament mill-2016 'il hawn, juru l-importanza li l-Parlament jagħti lil dan is-suġġett. Ir-riżoluzzjonijiet ħarsu lejn l-implikazzjonijiet differenti li tqajmu mill-IA u kif din taffettwa l-benesseri, l-edukazzjoni, it-teknoloġija, id-drittijiet legali u fundamentali kif ukoll l-industrija inġenerali. Dawn ir-riżoluzzjonijiet enfasizzaw il-ħtieġa li jiġi adottat approċċ "iċċentrat fuq il-bniedem" ibbażat fuq ir-rispett tad-drittijiet fundamentali, jiġifieri l-Karta tal-UE u l-qafas tal-UE dwar il-protezzjoni tad-data.

 

Bħala "kollezzjoni ta' teknoloġiji li jgħaqqdu d-data, l-algoritmi u l-potenza komputazzjonali", l-"avvanzi komputazzjonali u d-disponibbiltà dejjem ikbar tad-data huma għalhekk muturi ewlenin taż-żieda qawwija attwali fl-IA"[10]. Fil-qalba tal-IA hemm il-fatt li hija bbażata fuq il-ġbir, l-analiżi u l-akkumulazzjoni rikorrenti ta' ammonti kbar ta' data, inkluża data personali, minn varjetà ta' sorsi, li huma soġġetti għall-ipproċessar awtomatizzat b'algoritmi tal-kompjuter u tekniki avvanzati ta' pproċessar tad-data. Dawn it-tekniki jużaw kemm data maħżuna kif ukoll data trażmessa direttament permezz ta' streaming sabiex jiġġeneraw ċerti korrelazzjonijiet, tendenzi u xejriet (analitika tal-big data). Id-data użata għall-IA ma tiġix biss mill-individwi nfushom; L-applikazzjonijiet tal-IA fil-biċċa l-kbira tagħhom jużaw data ġejja mill-industrija, min-negozju u mis-settur pubbliku, ipproċessata għal varjetà ta' skopijiet differenti. Anki jekk id-data użata mill-applikazzjonijiet tal-IA xi drabi tkun data mhux personali, spiss ħafna l-attività tal-IA tinvolvi l-ipproċessar ta' data personali, peress li ħafna drabi l-attività tal-IA twassal għal deċiżjonijiet awtomatizzati li jkollhom effett dirett fuq l-individwi. Dawn il-karatteristiċi tal-IA għalhekk jitolbu minna li nagħtu attenzjoni partikolari f'dan il-qasam lir-rispett tal-prinċipji bażiċi tal-protezzjoni tad-data u l-privatezza.

 

L-IA toffri opportunitajiet kbar ukoll fil-qasam tal-infurzar tal-liġi u fil-ġustizzja kriminali, b'mod partikolari fit-titjib tal-metodi ta' ħidma tal-aġenziji tal-infurzar tal-liġi u l-awtoritajiet ġudizzjarji u fil-ġlieda kontra ċerti tipi ta' reati b'mod aktar effiċjenti, speċjalment fil-qasam tal-kriminalità finanzjarja, il-ħasil tal-flus u l-finanzjament tat-terroriżmu, u ċerti tipi ta' ċiberkriminalità. F'dan is-settur, l-applikazzjonijiet tal-IA jinkludu, inter alia, t-teknoloġiji tar-rikonoxximent tal-wiċċ, tar-rikonoxximent awtomatizzat tal-pjanċi, tal-identifikazzjoni tal-kelliem, tal-identifikazzjoni tad-diskors, teknoloġiji tal-qari tax-xufftejn, is-sorveljanza tas-sinjali akustiċi (jiġifieri algoritmi ta' detezzjoni ta' sparaturi), ir-riċerka u l-analiżi awtonomi ta' bażijiet tad-data identifikati, it-tbassir (l-analitika tal-policing predittiv u tal-hotspots tal-kriminalità), għodod għad-detezzjoni tal-imġiba, għodod awtonomi għall-identifikazzjoni tal-frodi finanzjarji u tal-finanzjament tat-terroriżmu, il-monitoraġġ tal-midja soċjali (scraping u ħsad tad-data biex tiġi estratta għal konnessjonijiet), interċettaturi tal-identità internazzjonali tal-abbonati tal-mowbajl (IMSI), u sistemi ta' sorveljanza awtomatizzati li jinkorporaw kapaċitajiet differenti ta' detezzjoni (bħad-detezzjoni tat-taħbit tal-qalb u l-kameras termali). Fil-ġudikatura, l-għodod tal-IA jistgħu jintużaw fil-kalkolu tal-probabbiltajiet għar-reċidività u biex tiġi determinata l-probation jew biex tittieħed deċiżjoni dwar l-għoti ta' sentenza.

 

Minkejja l-benefiċċji li ġġib magħha l-IA, il-fatt huwa li fl-istess ħin l-IA tinvolvi għadd ta' riskji potenzjali, bħat-teħid ta' deċiżjonijiet mhux trasparenti, tipi differenti ta' diskriminazzjoni, intrużjoni fil-ħajja privata tagħna, sfidi għall-protezzjoni tad-data personali, għad-dinjità tal-bniedem, u għal-libertà tal-espressjoni u tal-informazzjoni. Dawn ir-riskji potenzjali huma aggravati fis-settur tal-infurzar tal-liġi u l-ġustizzja kriminali, peress li jistgħu jaffettwaw il-preżunzjoni tal-innoċenza, id-drittijiet fundamentali għal-libertà u għas-sigurtà tal-individwu u għal rimedju effettiv u proċess ġust.

 

Dan ir-rapport għandu l-għan li jindirizza l-kwistjonijiet imqajma mill-użu tal-IA fil-Liġi Kriminali u mill-użu tagħha mill-Awtoritajiet Ġudizzjarji u tal-Pulizija f'Materji Kriminali. Filwaqt li jirrikonoxxi l-opportunitajiet u l-vantaġġi potenzjali li l-IA tista' timplika, huwa jenfasizza wkoll ir-riskji u l-effetti sinifikanti li l-IA tista' tinvolvi.

 

Ir-rapport jenfasizza l-ħtieġa li jiġu rispettati bis-sħiħ id-drittijiet fundamentali kif minquxa fil-Karta tad-Drittijiet Fundamentali tal-UE, fil-liġi tal-Unjoni dwar il-privatezza u l-protezzjoni tad-data, jiġifieri d-Direttiva (UE) 2016/680 (id-Direttiva dwar il-Pulizija), u l-ħtieġa li jiġu implimentati għadd ta' prinċipji ewlenin fiċ-ċiklu tal-ħajja tal-IA, bħall-ispjegabbiltà algoritmika u t-trasparenza, it-traċċabbiltà, it-twettiq ta' valutazzjonijiet obbligatorji tal-impatti fuq id-drittijiet fundamentali qabel l-implimentazzjoni jew l-użu ta' kwalunkwe sistema tal-IA u l-awditjar obbligatorju. Dawn ir-rekwiżiti kollha mhux biss huma meħtieġa biex tiġi żgurata l-legalità tas-sistemi tal-IA iżda wkoll biex tinkiseb il-fiduċja tal-individwi rigward l-użu tagħhom mill-awtoritajiet tal-infurzar tal-liġi u minn dawk ġudizzjarji kriminali.

 

Fl-aħħar nett ir-rapporteur tiegħek jitlob li jkun hemm moratorju fuq l-implimentazzjoni tas-sistemi ta' rikonoxximent tal-wiċċ għal skopijiet ta' infurzar tal-liġi. Is-sitwazzjoni attwali ta' dawn it-teknoloġiji, l-impatti sinifikanti fuq id-drittijiet fundamentali, jitolbu dibattitu tas-soċjetà fil-fond u miftuħ sabiex jiġu kkunsidrati l-mistoqsijiet differenti ppreżentati u l-ġustifikazzjoni għall-implimentazzjoni tagħhom.

 

 

 

OPINJONI TAL-KUMITAT GĦAS-SUQ INTERN U L-ĦARSIEN TAL-KONSUMATUR (3.9.2020)

għall-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern

dwar l-Intelliġenza Artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u mill-awtoritajiet ġudizzjarji f'materji kriminali

(2020/2016(INI))

Rapporteur għal opinjoni: Marcel Kolaja

 

 

SUĠĠERIMENTI

Il-Kumitat għas-Suq Intern u l-Ħarsien tal-Konsumatur jistieden lill-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern, bħala l-kumitat responsabbli, biex jinkorpora s-suġġerimenti li ġejjin fil-mozzjoni għal riżoluzzjoni tiegħu:

A. billi, fid-dawl kemm tal-potenzjal soċjetali pożittiv kif ukoll tar-riskji inerenti tal-intelliġenza artifiċjali (IA), il-funzjonament tas-suq uniku diġitali għandu jkun imtejjeb bit-tisħiħ taċ-ċertezza legali għall-fornituri tal-IA, u anke bit-tisħiħ tal-fiduċja u tas-sikurezza tal-utenti billi jissaħħu s-salvagwardji li jiżguraw l-istat tad-dritt u r-rispett tad-drittijiet fundamentali, b'mod partikolari d-dritt għall-privatezza u l-protezzjoni tad-data personali, id-dritt għall-ugwaljanza u n-nondiskriminazzjoni, id-dritt għall-amministrazzjoni tajba, id-dritt għall-proċess ġust u d-dritt għal livell għoli ta' protezzjoni tal-konsumatur; billi huwa meħtieġ approċċ Ewropew komuni għall-IA u għar-regolamentazzjoni tal-użu tagħha f'materji kriminali mill-pulizija u l-infurzar tal-liġi sabiex tiġi evitata l-frammentazzjoni fis-Suq Uniku;

B. billi l-ittestjar u l-użu tal-IA mill-pulizija u mill-awtoritajiet ġudizzjarji huma mifruxa, jinvolvu tipi differenti ta' użi, konsegwenzi u riskji, jiġifieri sistemi tar-rikonoxximent tal-wiċċ, tfassil ta' profili tad-DNA, immappjar ta' previżjoni ta' reati, estrazzjoni ta' data mill-mobiles, magni tat-tiftix avvanzati tal-ġurisprudenza, soluzzjoni online għat-tilwim, u tagħlim awtomatiku għall-amministrazzjoni tal-ġustizzja;

C. billi l-użu tal-IA jista' jirrappreżenta bidla fundamentali fl-amministrazzjoni tal-ġustizzja kriminali;

D. billi skont ir-rapport tal-Aġenzija għad-Drittijiet Fundamentali bħalissa għad hemm biss informazzjoni limitata disponibbli dwar l-użu jew l-ittestjar possibbli tat-teknoloġiji tar-rikonoxximent tal-wiċċ fl-Istati Membri[11];

E. billi f'dawk l-Istati Membri fejn kienet disponibbli xi informazzjoni dwar l-użu tat-teknoloġiji tar-rikonoxximent tal-wiċċ, l-awtoritajiet tal-protezzjoni tad-data sabu li l-użu ta' dawn it-teknoloġiji ma kienx konformi mal-liġi dwar il-protezzjoni tad-data u ma kellux bażi legali għall-użu tagħhom;

F. billi fil-qasam tas-suq intern, permezz ta' riforma tal-proċeduri tal-akkwist pubbliku, l-Unjoni tista' tagħmel differenza fundamentali fl-allinjament tal-azzjonijiet u l-imġiba tal-gvern mal-objettivi ta' politika sekondarja bħall-protezzjoni tad-data u n-nondiskriminazzjoni;

G. billi fit-teħid ta' deċiżjonijiet algoritmiku bbażat fuq id-data tista' sseħħ diskriminazzjoni matul il-fażi tad-disinn, tal-ittestjar u tal-implimentazzjoni, permezz tal-preġudizzji li huma inkorporati fis-settijiet tad-data jew fl-algoritmi;

H. billi huma meħtieġa l-iżvilupp u l-applikazzjoni tekniċi bbażati fuq il-prinċipji tal-IA biex tiġi żgurata l-konformità mad-drittijiet tal-bniedem u dawk fundamentali;

I. billi fl-4 ta' Diċembru 2018, il-Kummissjoni Ewropea għall-Effiċjenza tal-Ġustizzja tal-Kunsill tal-Ewropa ppubblikat il-Karta Etika għall-Użu tal-Intelliġenza Artifiċjali fis-Sistemi Ġudizzjarji, li tistabbilixxi prinċipji etiċi għall-użu tal-IA fis-sistemi ġudizzjarji;

J. billi ċerti użi tat-teknoloġiji tal-IA huma partikolarment sensittivi u suxxettibbli għall-abbuż, u minħabba f'hekk xi kumpaniji tat-teknoloġija ddeċiedew li jieqfu joffru software relatat;

1. Iqis li l-IA użata mill-pulizija u mill-awtoritajiet ġudizzjarji trid tiġi kategorizzata bħala ta' riskju għoli u ttrattata bl-akbar kura u bl-ogħla standards tal-protezzjoni tad-data, meta jitqies ir-rwol ta' dawn l-awtoritajiet fid-difiża tal-interess pubbliku u fid-dawl tan-natura tar-responsabbiltajiet tagħhom; iqis li hemm ħtieġa urġenti ta' qafas regolatorju komuni Ewropew għall-IA fis-suq intern; jemmen li l-UE għandha tkun minn ta' quddiem biex tistabbilixxi regolamentazzjoni fil-livell tal-Unjoni, inkluż dwar l-akkwist pubbliku, abbażi ta' regoli ċari u drittijiet fundamentali u etika, fl-iżvilupp u fl-użu tal-IA sabiex tiżgura l-istess livell għoli ta' protezzjoni tal-konsumatur u standards uniformi tal-industrija madwar l-UE, bil-ħsieb li tippermetti funzjonament aħjar tas-suq intern filwaqt li tinkoraġġixxi l-innovazzjoni u trawwem ċertezza legali għan-negozji, speċjalment l-SMEs; Jistieden lill-Kummissjoni teżamina bir-reqqa l-applikazzjoni tal-leġiżlazzjoni eżistenti u l-infurzar tagħha qabel ma tibda kwalunkwe proposta leġiżlattiva ġdida possibbli;

2. Jirrikonoxxi li l-użu tal-IA fil-qasam tal-ġustizzja jista' jgħin biex jittejbu l-effiċjenza u l-kwalità tal-proċedimenti; jenfasizza f'dan il-kuntest li b'mod partikolari huwa neċessarju li jiġu rispettati r-regoli stabbiliti fil-Konvenzjoni Ewropea għad-Drittijiet tal-Bniedem u fil-Konvenzjoni tal-Kunsill tal-Ewropa għall-Protezzjoni tal-Individwi fir-rigward tal-Ipproċessar Awtomatiku ta' Data Personali;

3. Jistieden lill-Kummissjoni tivvaluta t-teknoloġija tal-IA disponibbli fis-suq u l-livell ta' użu mill-awtoritajiet tal-pulizija u dawk ġudizzjarji fuq bażi ta' pajjiż b'pajjiż;

4. Jenfasizza li l-IA għandha tgħin biex tnaqqas il-piż amministrattiv fuq l-awtoritajiet pubbliċi, u żżid l-effiċjenza tat-teħid ta' deċiżjonijiet tagħhom, u li s-sistemi tal-IA għandhom iserħu fuq is-sorveljanza, il-kollaborazzjoni u l-koordinazzjoni tal-bniedem; f'dan ir-rigward, jenfasizza li l-bnedmin għandhom dejjem jerfgħu r-responsabbiltà aħħarija għal kwalunkwe teħid ta' deċiżjonijiet fi kwistjonijiet kriminali; jenfasizza l-importanza ta' settijiet ta' data preċiżi, meta dawn jintużaw biex jassistu l-proċessi relatati tal-gvern elettroniku u t-teħid ta' deċiżjonijiet amministrattivi madwar l-Unjoni;

5. Jenfasizza l-importanza li jiġu permessi l-innovazzjoni, it-trasparenza, it-traċċabbiltà u l-verifika; jenfasizza li l-IA b'sors miftuħ tista' tikkontribwixxi għal dan filwaqt li ssaħħaħ ukoll il-kooperazzjoni u trawwem kultura ta' skambju ta' ideat u esperjenzi relatati mal-użu u l-ħolqien ta' algoritmi;

6. Iqis li l-IA użata mill-pulizija u mill-infurzar tal-liġi f'materji kriminali għandha tiġi rilaxxata bħala software b'sors miftuħ fejn possibbli skont il-proċedura ta' akkwist pubbliku, f'konformità mal-leġiżlazzjoni applikabbli, inkluża d-Direttiva (UE) 2019/790 tal-Parlament Ewropew u tal-Kunsill tas-17 ta' April 2019 dwar id-drittijiet tal-awtur u drittijiet relatati fis-Suq Uniku Diġitali, u li d-dokumentazzjoni tas-software u l-algoritmi jkunu aċċessibbli biex b'hekk l-awtoritajiet kompetenti jkunu jistgħu jeżaminaw kif is-sistema tal-IA waslet għal konklużjoni partikolari; jenfasizza li awditjar tad-drittijiet fundamentali għandu jkun parti minn valutazzjoni tal-konformità minn qabel; jemmen li, filwaqt li jiġi żgurat ir-rispett għad-dritt u l-valuri tal-UE u r-regoli applikabbli dwar il-protezzjoni tad-data, u mingħajr ma jiġu pperikolati l-investigazzjonijiet jew il-prosekuzzjonijiet kriminali, l-algoritmi spjegabbli u imparzjali li jissodisfaw l-obbligu ta' trasparenza suffiċjenti, kif ukoll l-użu ta' data miftuħa għat-taħriġ f'konformità mal-leġiżlazzjoni applikabbli, inkluża d-Direttiva (UE) 2019/1024 dwar id-data miftuħa u l-użu mill-ġdid tal-informazzjoni tas-settur pubbliku mingħajr preġudizzju għar-Regolament (UE) 2016/679, huma essenzjali biex jiġi żgurat li n-negozji u ċ-ċittadini inklużi l-konsumaturi jkunu jistgħu jafdaw f'servizzi pubbliċi aħjar, aċċessibbli, mhux diskriminatorji u affidabbli bi spiża ġusta, u jibbenefikaw minnhom;

7. Jenfasizza li l-ġbir tad-data bbażat fuq l-IA u l-monitoraġġ tal-individwi għandhom ikunu limitati għas-suspettati kriminali u s-sorveljanza approvata mill-qorti skont il-liġijiet nazzjonali applikabbli, b'kont meħud tar-rispett għall-ħajja privata u l-preżunzjoni tal-innoċenza, inkluża dik ta' utenti u konsumaturi oħra li jistgħu jiġu affettwati involontarjament minn tali sistemi u prattiki; jenfasizza li fejn it-teħid ta' deċiżjonijiet ikun assistit minn kalkoli statistiċi, taħriġ professjonali u kwalifiki xierqa għandhom jiżguraw li dawk li jieħdu d-deċiżjonijiet ikunu mħarrġa dwar il-potenzjal għal preġudizzju, peress li s-settijiet ta' data jistgħu jkunu bbażati fuq data diskriminatorja u preġudikata; jenfasizza f'dan ir-rigward l-importanza tal-kwalità tal-algoritmi u tad-data oriġinali, u jfakkar li l-użu tal-IA jrid ikun ibbażat fuq il-prinċipju tan-nondiskriminazzjoni fid-dħul u l-analiżi tad-data; jitlob li l-proċeduri ta' akkwist għal tali applikazzjonijiet ikun fihom salvagwardji kontra preġudizzji possibbli; jitlob skambji ta' informazzjoni u tal-aħjar prattiki rigward l-applikazzjoni ta' tekniki u għodod tal-IA mill-awtoritajiet ġudizzjarji u tal-pulizija fl-Istati Membri, sabiex jiġi evitat approċċ frammentat fis-suq uniku u tiġi żgurata l-protezzjoni tal-konsumaturi u taċ-ċittadini madwar l-Unjoni;

8. Jinsisti li l-Istati Membri, f'konformità mal-liġijiet kriminali applikabbli, għandhom jiżguraw li ċ-ċittadini u l-konsumaturi jiġu infurmati meta jkunu soġġetti għall-użu tal-IA u li proċeduri ta' lment u rimedju sempliċi, effettivi u faċilment aċċessibbli, inkluż rimedju ġudizzjarju, għandhom ikunu disponibbli għaċ-ċittadini sabiex ikunu jistgħu jiddefendu d-drittijiet tagħhom b'mod effettiv;

9. Ifakkar fir-riskju għoli ta' ċerti tipi ta' IA, inklużi t-teknoloġiji tar-rikonoxximent tal-wiċċ f'postijiet pubbliċi, id-detezzjoni awtomatika ta' imġiba u t-tfassil ta' profili biex persuni jkunu maqsuma f'kategoriji ta' riskju fil-fruntieri, detezzjoni bijometrika u rikonoxximent għal sorveljanza tal-massa, punteġġ għaċ-ċittadini fuq skala kbira, u attivitajiet tal-pulizija ta' previżjoni, u jistieden lill-Kummissjoni tirregola l-akkwist u l-użu tiegħu sabiex telimina r-riskju ta' abbuż; jilqa', f'dan ir-rigward, il-ħidma li għaddejja tal-Kummissjoni biex tivvaluta l-użu tat-teknoloġiji bijometriċi u biex tikkunsidra għażliet regolatorji, inklużi approċċ ibbażat fuq ir-riskju u l-projbizzjoni tagħhom f'ċirkostanzi speċifiċi, kif ukoll biex tintroduċi salvagwardji neċessarji fejn l-użu tagħhom ikun ġustifikat;

10. Jissottolinja li d-diskrezjoni sovrana tal-imħallfin, u teħid ta' deċiżjonijiet każ b'każ iridu jinżammu biex tiġi evitata l-istandardizzazzjoni ta' deċiżjonijiet sempliċement abbażi ta' kalkoli statistiċi.

INFORMAZZJONI DWAR L-ADOZZJONI
FIL-KUMITAT LI JINTALAB JAGĦTI OPINJONI

Data tal-adozzjoni	3.9.2020
Riżultat tal-votazzjoni finali	+: –: 0:	40 4 0
Membri preżenti għall-votazzjoni finali	Alex Agius Saliba, Andrus Ansip, Alessandra Basso, Brando Benifei, Adam Bielan, Hynek Blaško, Biljana Borzan, Vlad-Marius Botoş, Markus Buchheit, Dita Charanzová, Deirdre Clune, David Cormand, Petra De Sutter, Carlo Fidanza, Evelyne Gebhardt, Sandro Gozi, Maria Grapini, Svenja Hahn, Virginie Joron, Eugen Jurzyca, Arba Kokalari, Marcel Kolaja, Kateřina Konečná, Andrey Kovatchev, Jean-Lin Lacapelle, Maria-Manuel Leitão-Marques, Morten Løkkegaard, Adriana Maldonado López, Antonius Manders, Beata Mazurek, Leszek Miller, Dan-Ștefan Motreanu, Kris Peeters, Anne-Sophie Pelletier, Christel Schaldemose, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Kim Van Sparrentak, Marion Walsmann, Marco Zullo
Sostituti preżenti għall-votazzjoni finali	Maria da Graça Carvalho, Anna Cavazzini, Krzysztof Hetman

 

 

VOTAZZJONI FINALI B'SEJĦA TAL-ISMIJIET
FIL-KUMITAT LI JINTALAB JAGĦTI OPINJONI

40	+
PPE	Maria da Graça Carvalho, Deirdre Clune, Krzysztof Hetman, Arba Kokalari, Andrey Kovatchev, Antonius Manders, Dan-Ștefan Motreanu, Kris Peeters, Andreas Schwab, Tomislav Sokol, Ivan Štefanec, Marion Walsmann
S&D	Alex Agius Saliba, Brando Benifei, Biljana Borzan, Evelyne Gebhardt, Maria Grapini, Maria-Manuel Leitão-Marques, Adriana Maldonado López, Leszek Miller, Christel Schaldemose
RENEW	Andrus Ansip, Vlad-Marius Botoş, Dita Charanzová, Sandro Gozi, Svenja Hahn, Morten Løkkegaard
ID	Hynek Blaško
GREENS/EFA	Anna Cavazzini, David Cormand, Petra De Sutter, Marcel Kolaja, Kim Van Sparrentak
ECR	Adam Bielan, Carlo Fidanza, Eugen Jurzyca, Beata Mazurek
EUL/NGL	Kateřina Konečná, Anne-Sophie Pelletier
NI	Marco Zullo

 

4	-
ID	Alessandra Basso, Markus Buchheit, Virginie Joron, Jean-Lin Lacapelle

 

0	0

 

Tifsira tas-simboli użati:

+ : favur

- : kontra

0 : astensjoni

 

 

 

 

 

OPINJONI TAL-KUMITAT GĦALL-AFFARIJIET LEGALI (15.9.2020)

għall-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern

dwar l-intelliġenza artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u l-awtoritajiet ġudizzjarji f'materji kriminali

(2020/2016(INI))

Rapporteur għal opinjoni: Angel Dzhambazki

 

 

SUĠĠERIMENTI

Il-Kumitat għall-Affarijiet Legali jistieden lill-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern, bħala l-kumitat responsabbli, biex jinkorpora s-suġġerimenti li ġejjin fil-mozzjoni għal riżoluzzjoni tiegħu:

A. billi d-dritt ta' proċess ġust huwa dritt fundamentali u ġuridikament vinkolanti minqux fil-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea u fil-Konvenzjoni Ewropea dwar id-Drittijiet tal-Bniedem għall-finijiet tal-infurzar tal-liġi; billi dan id-dritt japplika matul it-totalità tal-proċedimenti kriminali kollha, inkluż fl-infurzar tal-liġi, u r-regoli ta' salvagwardja tiegħu jeskludu, fl-istadji kollha tal-proċedura, it-teħid ta' miżuri, inklużi miżuri tekniċi, li l-konsegwenza diretta jew indiretta tagħhom tkun li d-drittijiet tad-difiża jiġu pprivati mis-sustanza tagħhom; billi l-garanziji marbuta ma' dan il-prinċipju, b'mod partikolari dawk ta' "qorti indipendenti", "ugwaljanza f'għajnejn il-liġi" u l-preżunzjoni tal-innoċenza, huma aktar stretti fil-qasam tal-liġi kriminali; billi dawn id-drittijiet iridu jiġu rispettati fiċ-ċirkostanzi kollha, b'mod partikolari fil-kuntest tal-użu tal-intelliġenza artifiċjali (IA), speċjalment fid-dawl tal-fatt li t-teknoloġiji bbażati fuq l-IA jista' jkollhom impatt fuq diversi drittijiet tal-bniedem;

B. billi l-protezzjoni tad-data personali, f'konformità mar-Regolament Ġenerali dwar il-Protezzjoni tad-Data (GDPR)[12] u leġiżlazzjoni rilevanti oħra fejn applikabbli, tapplika f'kull waqt;

C. billi l-IA u t-teknoloġiji relatati, inklużi l-kapaċitajiet tagħhom ta' awtotagħlim, dejjem jinvolvu ċertu livell ta' intervent uman;

D. billi l-IA għandha l-potenzjal li ssir parti permanenti tas-sistemi tal-liġi kriminali;

E. billi l-IA u t-teknoloġiji relatati huma prijorità għall-Unjoni, fid-dawl tal-avvanzi rapidi fis-settur tat-teknoloġija u l-importanza li wieħed ikun viġilanti dwar l-impatt attwali u futur tagħhom fuq is-sistema Ewropea unika tad-drittijiet tal-proprjetà intellettwali; billi diversi setturi diġà qed jimplimentaw l-IA u t-teknoloġiji relatati, bħas-setturi tar-robotika, tat-trasport u tal-kura tas-saħħa biex insemmu biss ftit minnhom;

F. billi teknoloġiji bħall-IA u t-teknoloġiji relatati jistgħu jintużaw fil-qasam tal-liġi kriminali bil-għan li jitnaqqsu r-rati ta' reati, jiġu ffaċilitati ċerti proċeduri permezz tal-użu tagħhom fl-analitika tad-data statistika fl-analiżi u l-prevenzjoni ta' reati u jiġu identifikati u investigati każijiet kriminali; billi l-Unjoni għandha tkompli tiżviluppa l-kapaċitajiet tagħha fir-rigward tas-software, il-ħżin tad-data u t-teknoloġiji tal-IA sabiex ittejjeb l-insuffiċjenzi fir-rigward tal-protezzjoni tad-data u l-privatezza;

G. billi dawn it-teknoloġiji jistgħu jintużaw biex joħolqu bażijiet ta' data statistiċi anonimizzati li jgħinu lill-awtoritajiet, lill-akkademiċi u lil-leġiżlaturi janalizzaw ċifri u jfasslu b'mod effiċjenti politiki għall-prevenzjoni tal-kriminalità u jgħinu lit-trasgressuri jerġgħu jintegraw sew fis-soċjetà;

H. billi l-qafas legali tal-IA u l-applikazzjoni tagħha għal-liġi kriminali għandhom jinkludu azzjonijiet leġiżlattivi fejn meħtieġ, li jibdew b'miżuri obbligatorji biex jipprevjenu prattiki li bla dubju jimminaw id-drittijiet u l-libertajiet fundamentali;

I. billi minħabba n-natura intrinsikament opaka tas-sistemi tal-IA, l-għodod ġodda użati f'kuntesti ta' ġustizzja kriminali jistgħu jidħlu f'kunflitt ma' ċerti libertajiet fundamentali;

J. billi r-riskji possibbli marbuta mal-applikazzjoni tas-sistemi tal-IA fi kwistjonijiet tal-ġustizzja kriminali jeħtieġ li jiġu evitati u mitigati sabiex jiġu salvagwardjati d-drittijiet fundamentali tal-persuni suspettati u akkużati fi proċedimenti kriminali;

1. Jenfasizza l-importanza kruċjali ta' valutazzjoni xierqa tar-riskji li jistgħu jirriżultaw mill-użu tas-sistemi tal-IA, bħad-diskriminazzjoni u l-ksur tal-privatezza, u tal-kunsiderazzjoni tal-implikazzjonijiet etiċi u operazzjonali kollha tal-użu tal-IA u t-teknoloġiji relatati fis-soċjetà tagħna, b'mod partikolari mill-awtoritajiet statali, il-pulizija u l-awtoritajiet ġudizzjarji fis-sistemi tal-ġustizzja kriminali, kif ukoll tar-responsabbiltà u kwistjonijiet probatorji fil-każ ta' żbalji potenzjali assoċjati mal-funzjonament tas-sistemi tal-IA; iqis li qafas regolatorju ċar huwa meħtieġ biex jiġu stabbiliti limiti u jiġu pprovduti s-salvagwardji meħtieġa; iqis li l-prinċipji etiċi, bħal dawk stabbiliti fil-Karta Ewropea tal-Etika tal-Kunsill tal-Ewropa dwar l-Użu tal-Intelliġenza Artifiċjali fis-Sistemi Ġudizzjarji u l-Ambjent tagħhom, għandhom jitqiesu u jiġu rispettati mill-entitajiet pubbliċi u privati responsabbli għat-tfassil u l-iżvilupp inizjali tal-għodod u s-servizzi tal-IA, sabiex il-partijiet interessati soċjali kollha jkunu jistgħu jkollhom informazzjoni komprensiva dwar l-istrutturi korporattivi tal-kumpaniji li jipproduċu programmi tal-IA; jenfasizza l-importanza tal-fattur uman, li dejjem irid ikun dak li jieħu d-deċiżjonijiet finali fl-użu tas-software bbażat fuq it-teknoloġija tal-IA u fi ħdan is-sistema kriminali, kemm fl-infurzar tal-pulizija kif ukoll fil-ġustizzja kriminali; itenni li s-software għar-rikonoxximent bijometriku għandu jintuża biss f'sitwazzjonijiet fejn ikun iġġustifikat b'mod ċar;

2. Jenfasizza l-ħtieġa li jiġi stabbilit u jinżamm bilanċ bejn l-użu tas-sistemi tal-IA fi proċedimenti kriminali u r-rispett għad-drittijiet fundamentali u l-garanziji proċedurali kollha previsti fil-liġi Ewropea u dik internazzjonali;

3. Jenfasizza l-importanza li l-IA tintuża f'konformità sħiħa mal-prinċipji tal-istat tad-dritt u l-indipendenza tal-ġudikatura fil-proċess deċiżjonali;

4. Jistieden lill-Kummissjoni tkompli tiċċara r-regoli dwar il-protezzjoni u l-kondiviżjoni tad-data miġbura permezz tal-IA u t-teknoloġiji relatati mill-awtoritajiet awtorizzati li jiġbru u/jew jipproċessaw tali data, inkluża data mhux personali u anonimizzata li direttament jew indirettament tidentifika individwi, b'rispett sħiħ għall-GDPR u għad-Direttiva dwar il-Privatezza Elettronika[13]; jissottolinja, barra minn hekk, li d-dritt għal proċess ġust għandu jinkludi d-dritt taċ-ċittadini u tal-partijiet f'kontroversja li jkollhom aċċess għal din id-data, speċjalment meta tinġabar mill-apparat jew mit-tagħmir personali tagħhom, b'mod konformi mal-GDPR, iżda wkoll għall-finijiet tad-dritt tad-difiża tagħhom hekk kif ir-responsabbiltà ġuridika tagħhom tkun involuta;

5. Jissottolinja l-importanza li tiżdied it-trasparenza tas-sistemi tal-IA li jintużaw fil-qasam tal-ġustizzja kriminali sabiex ikun hemm kontroll ġudizzjarju u jiġi żgurat li l-iżviluppaturi tal-IA u t-teknoloġiji relatati jipprovdu livell suffiċjenti ta' trasparenza tal-algoritmi u d-deċiżjonijiet algoritmiċi għall-benefiċċju tal-awtoritajiet kompetenti u ċ-ċittadini; jissottolinja d-dritt ġenerali tal-partijiet li jingħataw aċċess għal proċessi relatati mal-ġbir tad-data, il-valutazzjonijiet pronjostiċi użati għall-prevenzjoni ta' reati, l-ikkatalogar u l-evalwazzjoni ta' evidenza kriminali u d-determinazzjoni ta' jekk suspettat jistax ikun ta' periklu għas-soċjetà jekk ma jkunx ristrett mil-liġi fis-seħħ tal-UE, bħad-Direttiva (UE) 2016/680[14]; jissottolinja, barra minn hekk, l-importanza li jkun hemm aċċess għar-riżultati prodotti bl-IA jew miksuba bl-għajnuna tal-IA u, fl-aħħar mill-aħħar, li tiġi definita r-responsabbiltà għall-proċeduri ta' notifika u r-rwol tal-IA u tat-teknoloġiji relatati f'materji kriminali, b'mod partikolari fir-rigward tal-analiżi ta' ammonti kbar ta' evidenza f'investigazzjonijiet kriminali u l-identifikazzjoni ta' persuni suspettati b'reat jew vittmi ta' reat; ifakkar fl-importanza ta' kwistjonijiet relatati mal-governanza, id-drittijiet fundamentali u l-garanziji proċedurali, in-nondiskriminazzjoni, l-obbligu ta' rendikont, it-trasparenza, l-imparzjalità, l-ekwità u l-integrità intellettwali tal-IA u t-teknoloġiji relatati, filwaqt li jenfasizza l-ħtieġa li jiġi żgurat il-kontroll mill-bniedem f'kull waqt; jinsisti li l-awtoritajiet ġudizzjarji jeħtiġilhom ikunu obbligati jiġġustifikaw id-deċiżjonijiet tagħhom, inkluż meta jużaw elementi ta' prova pprovduti minn teknoloġiji assistiti mill-IA, li jirrikjedu livell għoli ta' skrutinju ġudizzjarju u kriterji stretti ta' ammissibbiltà, f'konformità mar-riżoluzzjoni tiegħu tas-16 ta' Frar 2017 dwar ir-robotika[15] li tenfasizza li għandu dejjem ikun possibbli li jiġi pprovdut ir-raġunament ta' kwalunkwe deċiżjoni meħuda bl-għajnuna tal-IA li jista' jkollha impatt fuq il-ħajja ta' persuna waħda jew aktar; ifakkar fid-distinzjoni bejn l-użu tal-IA u t-teknoloġiji relatati fil-prevenzjoni ta' reati u l-ġustizzja kriminali; jenfasizza li t-teknoloġiji tal-IA jridu jissodisfaw rwol subordinat f'kull ħin;

6. Ifakkar li l-aktar abbużi serji tal-IA u tat-teknoloġiji relatati, bħas-sorveljanza tal-massa, it-tfassil ta' profili u l-programmi ta' pulizija predittivi li jistgħu jivvalutaw fejn x'aktarx li jseħħ reat, fejn x'aktarx li jinstabu persuni suspettati, iċ-ċansijiet ta' persuna li tiġi vittimizzata, li tkun vulnerabbli, li tiġi rrappurtata nieqsa jew li tkun il-vittma jew l-awtur ta' vjolenza domestika jew reat sesswali, u ksur tad-drittijiet tad-difiża, jistgħu jiġu minn awtoritajiet pubbliċi li jkunu qed jaġixxu fl-ambitu tal-infurzar tal-liġi;

7. Jenfasizza l-importanza tal-użu ta' data ġġenerata awtomatikament fil-ġbir u l-analiżi tal-evidenza; ifakkar li, kemm fil-prevenzjoni ta' reati kif ukoll fil-ġustizzja kriminali, żbalji jew użu ħażin possibbli ta' analiżi tal-input u l-output tad-data, kif ukoll l-interpretazzjoni tagħhom, jistgħu jkunu msejsa fuq il-fattur uman involut u jitlob, għalhekk, approċċ kawt meta jiġu analizzati l-effikaċja u l-adegwatezza tal-użu tat-teknoloġiji tal-IA fil-proċessi deċiżjonali kollha;

8. Jistieden lill-awtoritajiet pubbliċi kompetenti kollha, b'mod partikolari lill-awtoritajiet tal-infurzar tal-liġi bħall-pulizija u l-ġudikatura, biex jinfurmaw lill-pubbliku dwar l-użu li huma jagħmlu mill-IA u t-teknoloġiji relatati u jiggarantixxu trasparenza suffiċjenti fir-rigward ta' tali użu meta jimplimentaw is-setgħat tagħhom, b'mod speċjali f'materji tal-liġi kriminali;

9. Iqis li huwa essenzjali li l-applikazzjoni tas-sistemi tal-IA fil-kuntest ta' proċedimenti kriminali tiżgura r-rispett għall-prinċipji fundamentali tal-proċedimenti kriminali, inkluż id-dritt għal proċess ġust, il-prinċipju tal-preżunzjoni tal-innoċenza u d-dritt għal rimedju effettiv, kif ukoll l-iżgurar ta' monitoraġġ u kontroll indipendenti tas-sistemi ta' teħid ta' deċiżjonijiet awtomatizzati;

10. Jissottolinja l-importanza tal-prinċipju human-in-command u l-verifika tar-riżultati prodotti bl-IA jew miksuba bl-għajnuna tal-IA; ifakkar fl-importanza tal-mistoqsijiet relatati mal-governanza, it-trasparenza, l-ispjegabbiltà u l-obbligu ta' rendikont biex jiġi żgurat ir-rispett għad-drittijiet fundamentali u jiġu evitati nuqqasijiet potenzjali fl-IA;

11. Jissottolinja l-approċċ kawt tiegħu fir-rigward tal-użu ta' software ta' rikonoxximent bijometriku; jenfasizza l-ambigwità li tirriżulta minn insuffiċjenza inerenti fir-rigward tal-protezzjoni tad-data, kif ukoll il-ksur tal-privatezza tad-data; jinnota bi tħassib l-amalgamazzjoni ta' data personali dwar iċ-ċittadini fl-Unjoni Ewropea minn pajjiżi barranin, permezz ta' żviluppaturi u fornituri tas-settur privat;

12. Ifakkar li, f'konformità mar-regoli attwali tal-UE dwar il-protezzjoni tad-data u l-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea, l-IA tista' tintuża biss għal finijiet ta' rikonoxximent bijometriku mill-bogħod, fejn tali użu jkun debitament ġustifikat, proporzjonat u soġġett għal salvagwardji adegwati; jilqa' r-rakkomandazzjonijiet tal-Grupp ta' Esperti ta' Livell Għoli tal-Kummissjoni dwar l-IA għal użu proporzjonat, meqjus u fondat fuq ir-riskji tat-teknoloġija ta' rikonoxximent bijometriku f'konfermità mal-leġiżlazzjoni dwar il-protezzjoni tad-data personali; jissuġġerixxi li l-applikazzjoni ta' tali teknoloġija trid tkun iġġustifikata b'mod ċar mil-liġijiet fis-seħħ u jissuġġerixxi li l-Kummissjoni tivvaluta kif tinkorpora b'mod effikaċi dawn ir-rakkomandazzjonijiet, b'mod partikolari fir-rigward tad-dritt għall-privatezza u l-protezzjoni tad-data personali;

13. Jemmen bis-sħiħ li d-deċiżjonijiet maħruġa mill-IA jew it-teknoloġiji relatati, speċjalment fl-oqsma tal-ġustizzja u l-infurzar tal-liġi, li għandhom impatt dirett u sinifikanti fuq id-drittijiet u l-obbligi ta' persuni fiżiċi jew ġuridiċi għandhom ikunu soġġetti għal verifika stretta mill-bniedem u proċess ġust;

14. Iqis li huwa neċessarju li jiġi analizzat jekk huwiex rakkomandabbli li d-deċiżjonijiet tal-infurzar tal-liġi jkunu parzjalment delegati lill-IA u jekk iva, f'liema kundizzjonijiet u f'liema ambiti tali użu tal-IA jista' jiġi permess; iqis li l-IA u t-teknoloġiji relatati li jistgħu jissostitwixxu d-deċiżjonijiet tal-awtoritajiet pubbliċi għandhom jiġu ttrattati bl-akbar prekawzjoni; jenfasizza l-ħtieġa li jiġu żviluppati prinċipji etiċi b'saħħithom u kodiċijiet ta' kondotta speċifiċi għat-tfassil u l-użu tal-IA biex jgħinu lill-infurzaturi tal-liġi u lill-awtoritajiet ġudizzjarji f'każ li d-deċiżjonijiet tal-infurzar tal-liġi jiġu ddelegati lill-IA; jirreferi għall-ħidma li għaddejja bħalissa fil-Kumitat għall-Affarijiet Legali

INFORMAZZJONI DWAR L-ADOZZJONI
FIL-KUMITAT LI JINTALAB JAGĦTI OPINJONI

Data tal-adozzjoni	10.9.2020
Riżultat tal-votazzjoni finali	+: –: 0:	22 3 0
Membri preżenti għall-votazzjoni finali	Manon Aubry, Gunnar Beck, Geoffroy Didier, Angel Dzhambazki, Ibán García Del Blanco, Jean-Paul Garraud, Esteban González Pons, Mislav Kolakušić, Gilles Lebreton, Karen Melchior, Jiří Pospíšil, Franco Roberti, Marcos Ros Sempere, Liesje Schreinemacher, Stéphane Séjourné, Raffaele Stancanelli, Marie Toussaint, Adrián Vázquez Lázara, Axel Voss, Marion Walsmann, Tiemo Wölken, Lara Wolters, Javier Zarzalejos
Sostituti preżenti għall-votazzjoni finali	Heidi Hautala, Emil Radev

 

VOTAZZJONI FINALI B'SEJĦA TAL-ISMIJIET FIL-KUMITAT LI JINTALAB JAGĦTI OPINJONI

22	+
EPP	Geoffroy Didier, Esteban González Pons, Jiří Pospíšil, Emil Radev, Axel Voss, Marion Walsmann, Javier Zarzalejos
S&D	Ibán García Del Blanco, Franco Roberti, Marcos Ros Sempere, Tiemo Wölken, Lara Wolters
RENEW	Karen Melchior, Liesje Schreinemacher, Stéphane Séjourné, Adrián Vázquez Lázara
ID	Gunnar Beck, Jean-Paul Garraud, Gilles Lebreton
ECR	Angel Dzhambazki, Raffaele Stancanelli
NI	Mislav Kolakušić

 

3	-
VERTS/ALE	Heidi Hautala, Marie Toussaint
GUE/NGL	Manon Aubry

 

0	0

 

Tifsira tas-simboli użati:

+ : favur

- : kontra

0 : astensjonijiet

 

 

 

 

 

 

INFORMAZZJONI DWAR L-ADOZZJONI FIL-KUMITAT RESPONSABBLI

Data tal-adozzjoni	29.6.2021
Riżultat tal-votazzjoni finali	+: –: 0:	36 24 6
Membri preżenti għall-votazzjoni finali	Magdalena Adamowicz, Konstantinos Arvanitis, Malik Azmani, Katarina Barley, Pernando Barrena Arza, Pietro Bartolo, Nicolas Bay, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Patrick Breyer, Saskia Bricmont, Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Damien Carême, Caterina Chinnici, Marcel de Graaff, Anna Júlia Donáth, Lena Düpont, Cornelia Ernst, Laura Ferrara, Nicolaus Fest, Jean-Paul Garraud, Maria Grapini, Sylvie Guillaume, Andrzej Halicki, Evin Incir, Sophia in ‘t Veld, Patryk Jaki, Marina Kaljurand, Fabienne Keller, Peter Kofod, Łukasz Kohut, Moritz Körner, Alice Kuhnke, Jeroen Lenaers, Juan Fernando López Aguilar, Lukas Mandl, Roberta Metsola, Nadine Morano, Javier Moreno Sánchez, Maite Pagazaurtundúa, Nicola Procaccini, Emil Radev, Paulo Rangel, Terry Reintke, Diana Riba i Giner, Ralf Seekatz, Michal Šimečka, Birgit Sippel, Sara Skyttedal, Martin Sonneborn, Tineke Strik, Ramona Strugariu, Annalisa Tardino, Tomas Tobé, Dragoş Tudorache, Milan Uhrík, Tom Vandendriessche, Bettina Vollath, Elissavet Vozemberg-Vrionidi, Jadwiga Wiśniewska, Elena Yoncheva, Javier Zarzalejos
Sostituti preżenti għall-votazzjoni finali	Tanja Fajon, Miguel Urbán Crespo

 

 

VOTAZZJONI FINALI B'SEJĦA TAL-ISMIJIET FIL-KUMITAT RESPONSABBLI

36		+
NI		Laura Ferrara, Martin Sonneborn
Renew		Malik Azmani, Anna Júlia Donáth, Sophia in ‘t Veld, Fabienne Keller, Moritz Körner, Maite Pagazaurtundúa, Michal Šimečka, Ramona Strugariu, Dragoş Tudorache
S&D		Katarina Barley, Pietro Bartolo, Caterina Chinnici, Tanja Fajon, Maria Grapini, Sylvie Guillaume, Evin Incir, Marina Kaljurand, Łukasz Kohut, Juan Fernando López Aguilar, Javier Moreno Sánchez, Birgit Sippel, Bettina Vollath, Elena Yoncheva
The Left		Konstantinos Arvanitis, Pernando Barrena Arza, Cornelia Ernst, Miguel Urbán Crespo
Verts/ALE		Patrick Breyer, Saskia Bricmont, Damien Carême, Alice Kuhnke, Terry Reintke, Diana Riba i Giner, Tineke Strik
24	-
ID	Nicolas Bay, Nicolaus Fest, Jean-Paul Garraud, Marcel de Graaff, Peter Kofod, Annalisa Tardino, Tom Vandendriessche
NI	Milan Uhrík
PPE	Magdalena Adamowicz, Vladimír Bilčík, Vasile Blaga, Ioan-Rareş Bogdan, Lena Düpont, Andrzej Halicki, Jeroen Lenaers, Lukas Mandl, Roberta Metsola, Nadine Morano, Paulo Rangel, Ralf Seekatz, Sara Skyttedal, Tomas Tobé, Elissavet Vozemberg-Vrionidi, Javier Zarzalejos
6	0
ECR	Joachim Stanisław Brudziński, Jorge Buxadé Villalba, Patryk Jaki, Nicola Procaccini, Jadwiga Wiśniewska
PPE	Emil Radev

 

Tifsira tas-simboli użati:

+ : favur

- : kontra

0 : astensjoni

 

 

• [1] ĠU L 119, 4.5.2016, p. 1.
• [2] ĠU L 119, 4.5.2016, p. 89.
• [3] ĠU L 295, 21.11.2018, p. 39.
• [4] ĠU L 201, 31.7.2002, p. 37.
• [5] ĠU L 135, 24.5.2016, p. 53.
• [6] Testi adottati, P9_TA(2020)0173.
• [7] ĠU C 263, 25.7.2018, p. 82.
• [8] Deċiżjoni tal-Kunsill 2008/615/ĠAI tat-23 ta' Ġunju 2008 dwar it-titjib tal-koperazzjoni transkonfinali, b'mod partikolari fil-ġlieda kontra t-terroriżmu u l-kriminalità transkonfinali. ĠU L 210, 6.8.2008, p. 1.
• [9] Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni ta' persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali mill-awtoritajiet kompetenti għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta' reati kriminali jew l-eżekuzzjoni ta' pieni kriminali, u dwar il-moviment liberu ta' tali data, u li tħassar id-Deċiżjoni Qafas tal-Kunsill 2008/977/ĠAI. ĠU L 119, 4.5.2016, p. 89.
• [10] COM(2020) 65 final.
• [11] Aġenzija tal-Unjoni Ewropea għad-Drittijiet Fundamentali: Facial recognition technology: fundamental rights considerations in the context of law enforcement, (Teknoloġija tar-rikonoxximent tal-wiċċ: kunsiderazzjonijiet tad-drittijiet fundamentali fil-kuntest tal-infurzar tal-liġi), (FRA Focus), 27 ta' Novembru 2019
  https://fra.europa.eu/sites/default/files/fra_uploads/fra-2019-facial-recognition-technology-focus-paper-1_en.pdf
• [12] Ir-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali u dwar il-moviment liberu ta' tali data, u li jħassar id-Direttiva 95/46/KE (ĠU L 119, 4.5.2016, p. 1).
• [13] Id-Direttiva 2002/58/KE tal-Parlament Ewropew u tal-Kunsill tat-12 ta' Lulju 2002 dwar l-ipproċessar tad-data personali u l-protezzjoni tal-privatezza fis-settur tal-komunikazzjoni elettronika (ĠU L 201, 31.7.2002, p. 37).
• [14] Id-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni ta' persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali mill-awtoritajiet kompetenti għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta' reati kriminali jew l-eżekuzzjoni ta' pieni kriminali, u dwar il-moviment liberu ta' tali data (ĠU L 119, 4.5.2016, p. 89).
• [15] Riżoluzzjoni tal-Parlament Ewropew tas-16 ta' Frar 2017 b'rakkomandazzjonijiet lill-Kummissjoni dwar Regoli ta' Dritt Ċivili dwar ir-Robotika (ĠU C 252, 18.7.2018, p. 239).