Το Ευρωπαϊκό Κοινοβούλιο,

–  έχοντας υπόψη τη Συνθήκη για την Ευρωπαϊκή Ένωση, ιδίως τα άρθρα 2 και 6, καθώς και τη Συνθήκη για τη λειτουργία της Ευρωπαϊκής Ένωσης, ιδίως το άρθρο 16,

–  έχοντας υπόψη τον Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ (ο «Χάρτης»), ιδίως τα άρθρα 6, 7, 8, 11, 12, 13, 20, 24 και 47,

–  έχοντας υπόψη τη Σύμβαση για την προάσπιση των δικαιωμάτων του ανθρώπου και των θεμελιωδών ελευθεριών,

–  έχοντας υπόψη τη Σύμβαση του Συμβουλίου της Ευρώπης για την προστασία των ατόμων σε σχέση με την αυτοματοποιημένη επεξεργασία πληροφοριών προσωπικού χαρακτήρα (ETS αριθ. 108) και το πρωτόκολλο για την τροποποίησή της («Σύμβαση 108+»),

–  έχοντας υπόψη τον ευρωπαϊκό χάρτη δεοντολογίας για τη χρήση της τεχνητής νοημοσύνης στα δικαστικά συστήματα και το περιβάλλον τους, τον οποίο ενέκρινε η Ευρωπαϊκή Επιτροπή για την Αποτελεσματικότητα της Δικαιοσύνης (CEPEJ) του Συμβουλίου της Ευρώπης,

–  έχοντας υπόψη την ανακοίνωση της Επιτροπής, της 8ης Απριλίου 2019, με τίτλο «Οικοδόμηση εμπιστοσύνης στην ανθρωποκεντρική τεχνητή νοημοσύνη» (COM(2019)0168),

–  έχοντας υπόψη τις κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη τεχνητή νοημοσύνη που δημοσίευσε η ομάδα εμπειρογνωμόνων υψηλού επιπέδου της Επιτροπής για την τεχνητή νοημοσύνη στις 8 Απριλίου 2019,

–  έχοντας υπόψη τη Λευκή Βίβλο της Επιτροπής, της 19ης Φεβρουαρίου 2020, με τίτλο «Τεχνητή νοημοσύνη – Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης» (COM(2020)0065),

–  έχοντας υπόψη την ανακοίνωση της Επιτροπής, της 19ης Φεβρουαρίου 2020, με τίτλο «Ευρωπαϊκή στρατηγική για τα δεδομένα» (COM(2020)0066),

–  έχοντας υπόψη τον κανονισμό (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της οδηγίας 95/46/ΕΚ (Γενικός Κανονισμός για την Προστασία Δεδομένων)(1),

–  έχοντας υπόψη την οδηγία (EΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα από αρμόδιες αρχές για τους σκοπούς της πρόληψης, διερεύνησης, ανίχνευσης ή δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της απόφασης-πλαίσιο 2008/977/ΔΕΥ του Συμβουλίου(2),

–  έχοντας υπόψη τον κανονισμό (ΕΕ) 2018/1725 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 23ης Οκτωβρίου 2018, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα από τα θεσμικά και λοιπά όργανα και τους οργανισμούς της Ένωσης και την ελεύθερη κυκλοφορία των δεδομένων αυτών, και για την κατάργηση του κανονισμού (ΕΚ) αριθ. 45/2001 και της απόφασης αριθ. 1247/2002/ΕΚ(3),

–  έχοντας υπόψη την οδηγία 2002/58/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 12ης Ιουλίου 2002, σχετικά με την επεξεργασία των δεδομένων προσωπικού χαρακτήρα και την προστασία της ιδιωτικής ζωής στον τομέα των ηλεκτρονικών επικοινωνιών (οδηγία για την προστασία ιδιωτικής ζωής στις ηλεκτρονικές επικοινωνίες)(4),

–  έχοντας υπόψη τον κανονισμό (ΕΕ) 2016/794 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 11ης Μαΐου 2016, για τον Οργανισμό της Ευρωπαϊκής Ένωσης για τη Συνεργασία στον Τομέα της Επιβολής του Νόμου (Ευρωπόλ) και την αντικατάσταση και την κατάργηση των αποφάσεων του Συμβουλίου 2009/371/ΔΕΥ, 2009/934/ΔΕΥ, 2009/935/ΔΕΥ, 2009/936/ΔΕΥ και 2009/968/ΔΕΥ(5),

–  έχοντας υπόψη το ψήφισμά του της 19ης Ιουνίου 2020 σχετικά με τις αντιρατσιστικές διαμαρτυρίες μετά τον θάνατο του George Floyd(6),

–  έχοντας υπόψη το ψήφισμά του της 14ης Μαρτίου 2017 σχετικά με τις επιπτώσεις των μαζικών δεδομένων στα θεμελιώδη δικαιώματα: ιδιωτική ζωή, προστασία δεδομένων, μη διακριτική μεταχείριση, ασφάλεια και επιβολή του νόμου(7),

–  έχοντας υπόψη την ακρόαση που πραγματοποιήθηκε στην Επιτροπή Πολιτικών Ελευθεριών, Δικαιοσύνης και Εσωτερικών Υποθέσεων (LIBE) στις 20 Φεβρουαρίου 2020 σχετικά με την τεχνητή νοημοσύνη στο ποινικό δίκαιο και τη χρήση της από τις αστυνομικές και δικαστικές αρχές σε ποινικές υποθέσεις,

–  έχοντας υπόψη την έκθεση της αποστολής της Επιτροπής LIBE στις Ηνωμένες Πολιτείες τον Φεβρουάριο του 2020,

–  έχοντας υπόψη το άρθρο 54 του Κανονισμού του,

–  έχοντας υπόψη τις γνωμοδοτήσεις της Επιτροπής Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών και της Επιτροπής Νομικών Θεμάτων,

–  έχοντας υπόψη την έκθεση της Επιτροπής Πολιτικών Ελευθεριών, Δικαιοσύνης και Εσωτερικών Υποθέσεων (A9-0232/2021),

Α.  λαμβάνοντας υπόψη ότι οι ψηφιακές τεχνολογίες εν γένει και η διάδοση της επεξεργασίας και της ανάλυσης δεδομένων που βασίζονται στην τεχνητή νοημοσύνη (ΤΝ) ειδικότερα είναι πολλά υποσχόμενες και, ταυτόχρονα, ενέχουν πολλούς κινδύνους· λαμβάνοντας υπόψη ότι η ανάπτυξη της ΤΝ έχει κάνει ένα μεγάλο άλμα προόδου τα τελευταία χρόνια, καθιστώντας την μία από τις στρατηγικές τεχνολογίες του 21ου αιώνα που δυνητικά αποφέρουν σημαντικά οφέλη όσον αφορά την αποδοτικότητα, την ακρίβεια και την ευκολία, και, ως εκ τούτου, επιφέρει μια θετική αλλαγή στην ευρωπαϊκή οικονομία και κοινωνία, αλλά και σημαντικούς κινδύνους για τα θεμελιώδη δικαιώματα και τις δημοκρατίες που βασίζονται στο κράτος δικαίου· λαμβάνοντας υπόψη ότι η ΤΝ δεν θα πρέπει να θεωρείται αυτοσκοπός, αλλά εργαλείο για την εξυπηρέτηση των ανθρώπων με απώτερο στόχο την ενίσχυση της ευημερίας, των δυνατοτήτων και της ασφάλειάς τους·

Β.  λαμβάνοντας υπόψη ότι, παρά τη συνεχή πρόοδο στην ταχύτητα υπολογιστικής επεξεργασίας και τη χωρητικότητα μνήμης, δεν υπάρχουν ακόμα προγράμματα που μπορούν να συναγωνιστούν την ανθρώπινη ευελιξία σε ευρύτερους τομείς ή σε εργασίες που απαιτούν κατανόηση γενικότερου πλαισίου ή κριτική ανάλυση· λαμβάνοντας υπόψη ότι ορισμένες εφαρμογές ΤΝ έχουν επιτύχει επίπεδα επιδόσεων αντίστοιχα εμπειρογνωμόνων και επαγγελματιών κατά την εκτέλεση ορισμένων συγκεκριμένων εργασιών (π.χ. νομική τεχνολογία) και μπορούν να παρέχουν αποτελέσματα σε σημαντικά μεγαλύτερη ταχύτητα και κλίμακα·

Γ.  λαμβάνοντας υπόψη ότι ορισμένες χώρες, συμπεριλαμβανομένων αρκετών κρατών μελών, χρησιμοποιούν περισσότερο εφαρμογές ΤΝ ή ενσωματωμένα συστήματα ΤΝ στον τομέα της επιβολής του νόμου και της δικαιοσύνης σε σύγκριση με άλλες, γεγονός που οφείλεται εν μέρει στην έλλειψη κανονιστικής ρύθμισης και στις κανονιστικές διαφορές που επιτρέπουν ή απαγορεύουν τη χρήση της ΤΝ για ορισμένους σκοπούς· λαμβάνοντας υπόψη ότι η αυξανόμενη χρήση της ΤΝ στον τομέα του ποινικού δικαίου βασίζεται ιδίως στις υποσχέσεις ότι μπορεί να περιορίσει ορισμένα είδη εγκλήματος και να οδηγήσει σε πιο αντικειμενικές αποφάσεις· λαμβάνοντας, ωστόσο, υπόψη ότι οι υποσχέσεις αυτές δεν είναι πάντοτε αληθείς·

Δ.  λαμβάνοντας υπόψη ότι τα θεμελιώδη δικαιώματα και οι ελευθερίες που κατοχυρώνονται στον Χάρτη θα πρέπει να διασφαλίζονται καθ’ όλη τη διάρκεια του κύκλου ζωής της ΤΝ και των συναφών τεχνολογιών, ιδίως κατά τον σχεδιασμό, την ανάπτυξη, την υλοποίηση και τη χρήση τους, και θα πρέπει να εφαρμόζονται στην επιβολή του νόμου σε όλες τις περιστάσεις·

Ε.  λαμβάνοντας υπόψη ότι η τεχνολογία ΤΝ θα πρέπει να αναπτυχθεί κατά τέτοιο τρόπο ώστε να θέτει τους ανθρώπους στο επίκεντρο, να αξίζει την εμπιστοσύνη του κοινού και να εξυπηρετεί πάντα το συμφέρον των ανθρώπων· λαμβάνοντας υπόψη ότι τα συστήματα ΤΝ θα πρέπει να παρέχουν την τελική εγγύηση ότι είναι σχεδιασμένα κατά τρόπο ώστε να μπορούν πάντα να απενεργοποιούνται από άνθρωπο-χειριστή·

ΣΤ.  λαμβάνοντας υπόψη ότι είναι αναγκαίο τα συστήματα ΤΝ να σχεδιάζονται κατά τρόπο ώστε να προστατεύουν και να ωφελούν όλα τα μέλη της κοινωνίας (συμπεριλαμβανομένων των ευάλωτων και περιθωριοποιημένων κοινοτήτων), να μην εισάγουν διακρίσεις και να είναι ασφαλή, οι αποφάσεις τους να είναι σαφείς και διαφανείς, και να σέβονται την ανθρώπινη αυτονομία και τα θεμελιώδη δικαιώματα, προκειμένου να είναι αξιόπιστα, όπως περιγράφεται στις κατευθυντήριες γραμμές δεοντολογίας της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη·

Ζ.  λαμβάνοντας υπόψη ότι η Ένωση, από κοινού με τα κράτη μέλη, έχει κρίσιμη ευθύνη να διασφαλίζει ότι οι αποφάσεις που αφορούν τον κύκλο ζωής και τη χρήση εφαρμογών ΤΝ στον τομέα της δικαιοσύνης και της επιβολής του νόμου λαμβάνονται με διαφανή τρόπο, προστατεύουν πλήρως τα θεμελιώδη δικαιώματα και, ιδίως, αποφεύγουν τις διακρίσεις, τις μεροληψίες ή τις προκαταλήψεις, όπου υπάρχουν· λαμβάνοντας υπόψη ότι οι σχετικές αποφάσεις πολιτικής θα πρέπει να σέβονται τις αρχές της αναγκαιότητας και της αναλογικότητας προκειμένου να διασφαλίζονται η συνταγματικότητα και ένα δίκαιο και ανθρώπινο σύστημα δικαιοσύνης·

Η.  λαμβάνοντας υπόψη ότι οι εφαρμογές ΤΝ μπορούν να προσφέρουν μεγάλες ευκαιρίες στον τομέα της επιβολής του νόμου, ιδίως όσον αφορά τη βελτίωση των μεθόδων εργασίας των υπηρεσιών επιβολής του νόμου και των δικαστικών αρχών, και την αποτελεσματικότερη καταπολέμηση ορισμένων μορφών εγκλήματος, ιδίως του οικονομικού εγκλήματος, της νομιμοποίησης εσόδων από παράνομες δραστηριότητες και της χρηματοδότησης της τρομοκρατίας, της σεξουαλικής κακοποίησης και εκμετάλλευσης παιδιών στο διαδίκτυο, καθώς και ορισμένων μορφών εγκλήματος στον κυβερνοχώρο, συμβάλλοντας έτσι στην ασφάλεια και την προστασία των πολιτών της ΕΕ, ενώ ταυτόχρονα ενδέχεται να συνεπάγονται σημαντικούς κινδύνους για τα θεμελιώδη δικαιώματα των ανθρώπων· λαμβάνοντας υπόψη ότι η αδιάκριτη χρήση της ΤΝ για σκοπούς μαζικής παρακολούθησης θα ήταν δυσανάλογη·

Θ.  λαμβάνοντας υπόψη ότι η ανάπτυξη και η λειτουργία συστημάτων ΤΝ για αστυνομικές και δικαστικές αρχές περιλαμβάνουν τη συμβολή διαφόρων ατόμων, οργανισμών, στοιχείων μηχανών, αλγορίθμων λογισμικού και ανθρώπων-χρηστών σε περιβάλλοντα που συχνά είναι περίπλοκα και απαιτητικά· λαμβάνοντας υπόψη ότι οι εφαρμογές ΤΝ στον τομέα της επιβολής του νόμου και της δικαιοσύνης βρίσκονται σε διαφορετικά στάδια ανάπτυξης, από τον σχεδιασμό και τη δημιουργία των πρωτοτύπων ή την αξιολόγηση έως τη χρήση μετά την έγκριση· λαμβάνοντας υπόψη ότι ενδέχεται να προκύψουν νέες δυνατότητες χρήσης στο μέλλον, καθώς οι τεχνολογίες καθίστανται πιο ώριμες λόγω της συνεχιζόμενης επιστημονικής έρευνας σε παγκόσμιο επίπεδο·

Ι.  λαμβάνοντας υπόψη ότι είναι επιτακτική η ανάγκη να θεσπιστεί ένα σαφές μοντέλο για τη στοιχειοθέτηση της νομικής ευθύνης για τις πιθανές επιβλαβείς επιπτώσεις των συστημάτων ΤΝ στον τομέα του ποινικού δικαίου· λαμβάνοντας υπόψη ότι οι κανονιστικές διατάξεις στον τομέα αυτό θα πρέπει πάντα να διατηρούν την ανθρώπινη λογοδοσία και πρέπει να έχουν ως πρωταρχικό στόχο την αποφυγή τυχόν επιβλαβών επιπτώσεων·

ΙΑ.  λαμβάνοντας υπόψη ότι τα κράτη μέλη φέρουν την τελική ευθύνη να διασφαλίζουν τον πλήρη σεβασμό των θεμελιωδών δικαιωμάτων όταν τα συστήματα ΤΝ χρησιμοποιούνται στον τομέα της επιβολής του νόμου και της δικαιοσύνης·

ΙΒ.  λαμβάνοντας υπόψη ότι η σχέση ανάμεσα στην προστασία των θεμελιωδών δικαιωμάτων και την αποτελεσματική αστυνόμευση πρέπει να αποτελεί πάντα ουσιώδες στοιχείο των συζητήσεων σχετικά με το αν και πώς θα πρέπει να χρησιμοποιείται η ΤΝ από τον τομέα της επιβολής του νόμου, όπου οι αποφάσεις μπορεί να έχουν μακροχρόνιες συνέπειες για τη ζωή και την ελευθερία ατόμων· λαμβάνοντας υπόψη ότι αυτό είναι ιδιαίτερα σημαντικό, καθώς η ΤΝ έχει τη δυνατότητα να αποτελέσει μόνιμο μέρος του οικοσυστήματος της ποινικής δικαιοσύνης παρέχοντας ανάλυση και συνδρομή στο πλαίσιο της δικαστικής έρευνας·

ΙΓ.  λαμβάνοντας υπόψη ότι η ΤΝ χρησιμοποιείται σε εφαρμογές στον τομέα της επιβολής του νόμου, όπως για παράδειγμα οι τεχνολογίες αναγνώρισης προσώπου, π.χ. για την αναζήτηση σε βάσεις δεδομένων υπόπτων και την αναγνώριση θυμάτων εμπορίας ανθρώπων ή σεξουαλικής εκμετάλλευσης και κακοποίησης παιδιών, η αυτόματη αναγνώριση πινακίδων αριθμού κυκλοφορίας, η ταυτοποίηση ομιλητή, η ταυτοποίηση ομιλίας, οι τεχνολογίες ανάγνωσης των χειλιών, η ηχητική επιτήρηση (δηλαδή οι αλγόριθμοι πυρανίχνευσης), η αυτόνομη έρευνα και ανάλυση ταυτοποιημένων βάσεων δεδομένων, η πρόβλεψη (προληπτική αστυνόμευση και ανάλυση δεδομένων εγκληματικότητας), τα εργαλεία ανίχνευσης συμπεριφοράς, τα προηγμένα εργαλεία εικονικής νεκροψίας που βοηθούν στον προσδιορισμό της αιτίας θανάτου, τα αυτόνομα εργαλεία για τον εντοπισμό οικονομικής απάτης και χρηματοδότησης της τρομοκρατίας, η παρακολούθηση των μέσων κοινωνικής δικτύωσης (απόσπαση και συλλογή δεδομένων για τη διερεύνηση συνδέσεων), και τα αυτοματοποιημένα συστήματα επιτήρησης που ενσωματώνουν διάφορες ικανότητες ανίχνευσης (όπως κάμερες ανίχνευσης καρδιακών παλμών και θερμικές κάμερες). λαμβάνοντας υπόψη ότι οι προαναφερθείσες εφαρμογές, παράλληλα με άλλες δυνητικές ή μελλοντικές εφαρμογές της τεχνολογίας ΤΝ στην επιβολή του νόμου, μπορεί να έχουν πολύ διαφορετικό βαθμό αξιοπιστίας και ακρίβειας, καθώς και αντίκτυπο στην προστασία των θεμελιωδών δικαιωμάτων και στη δυναμική των συστημάτων ποινικής δικαιοσύνης· λαμβάνοντας υπόψη ότι πολλά από τα εργαλεία αυτά χρησιμοποιούνται σε τρίτες χώρες αλλά θα ήταν παράνομα δυνάμει του κεκτημένου της Ένωσης για την προστασία των δεδομένων και της νομολογίας· λαμβάνοντας υπόψη ότι η συνήθης χρήση αλγορίθμων, ακόμη και αν το ψευδοθετικό ποσοστό είναι χαμηλό, μπορεί να έχει ως αποτέλεσμα ο αριθμός των εσφαλμένων προειδοποιήσεων να υπερβαίνει κατά πολύ τον αριθμό των σωστών προειδοποιήσεων·

ΙΔ.  λαμβάνοντας υπόψη ότι τα εργαλεία και οι εφαρμογές TN χρησιμοποιούνται επίσης από το δικαστικό σώμα σε αρκετές χώρες σε ολόκληρο τον κόσμο, μεταξύ άλλων, για τη στήριξη αποφάσεων σχετικά με την προσωρινή κράτηση, την επιβολή ποινών, την εκτίμηση της πιθανότητας υποτροπής και τον προσδιορισμό της περιόδου αναστολής, την ηλεκτρονική επίλυση διαφορών, τη διαχείριση της νομολογίας και τη διευκόλυνση της πρόσβασης στη νομοθεσία· λαμβάνοντας υπόψη ότι αυτό έχει επιφέρει στρέβλωση και μείωση των ευκαιριών για τα έγχρωμα άτομα και τις άλλες μειονότητες· λαμβάνοντας υπόψη ότι επί του παρόντος στην ΕΕ, με εξαίρεση ορισμένα κράτη μέλη, η χρήση τους περιορίζεται κυρίως σε αστικές υποθέσεις·

ΙΕ.  λαμβάνοντας υπόψη ότι η χρήση της ΤΝ στην επιβολή του νόμου συνεπάγεται ορισμένους δυνητικά υψηλούς και, σε ορισμένες περιπτώσεις, απαράδεκτους κινδύνους για την προστασία των θεμελιωδών δικαιωμάτων των ατόμων, όπως η αδιαφανής λήψη αποφάσεων, διάφορα είδη διακρίσεων και σφάλματα εγγενή στον υποκείμενο αλγόριθμο που μπορεί να επιτείνονται από βρόγχους ανάδρασης, κινδύνους για την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, την προστασία της ελευθερίας της έκφρασης και της πληροφόρησης, το τεκμήριο αθωότητας, το δικαίωμα πραγματικής προσφυγής και δίκαιης δίκης, καθώς και κινδύνους για την ελευθερία και την ασφάλεια των ατόμων·

ΙΣΤ.  λαμβάνοντας υπόψη ότι τα συστήματα ΤΝ που χρησιμοποιούνται στον τομέα της επιβολής του νόμου και της δικαιοσύνης είναι επίσης ευάλωτα σε επιθέσεις κατά συστημάτων πληροφοριών ή δηλητηρίαση δεδομένων με τη βοήθεια ΤΝ, στο πλαίσιο των οποίων εισάγεται ένα εσφαλμένο σύνολο δεδομένων με σκοπό την παραγωγή μεροληπτικών αποτελεσμάτων· λαμβάνοντας υπόψη ότι, στις περιπτώσεις αυτές, η ζημία που προκαλείται ενδέχεται να είναι ακόμη πιο σημαντική, μπορεί δε να οδηγήσει σε εκθετική αύξηση της βλάβης που υφίστανται τόσο μεμονωμένα άτομα όσο και ομάδες·

ΙΖ.  λαμβάνοντας υπόψη ότι η ανάπτυξη της ΤΝ στον τομέα της επιβολής του νόμου και της δικαιοσύνης δεν θα πρέπει να θεωρείται απλή τεχνική σκοπιμότητα, αλλά μάλλον πολιτική απόφαση που αφορά τον σχεδιασμό και τους στόχους της επιβολής του νόμου και των συστημάτων ποινικής δικαιοσύνης· λαμβάνοντας υπόψη ότι το σύγχρονο ποινικό δίκαιο βασίζεται στην ιδέα ότι οι αρχές αντιδρούν σε ένα αδίκημα μετά τη διάπραξή του, χωρίς να υποθέτει ότι όλοι οι άνθρωποι είναι επικίνδυνοι και πρέπει να παρακολουθούνται συνεχώς προκειμένου να αποτρέπονται πιθανά παραπτώματα· λαμβάνοντας υπόψη ότι οι τεχνικές παρακολούθησης που βασίζονται στην ΤΝ θέτουν σε σοβαρό κίνδυνο την προσέγγιση αυτή και καθιστούν επιτακτική την ανάγκη να αξιολογήσουν ενδελεχώς οι νομοθέτες σε παγκόσμιο επίπεδο τις συνέπειες της δυνατότητας ανάπτυξης τεχνολογιών που μειώνουν τον ρόλο των ανθρώπων στην επιβολή του νόμου και στην εκδίκαση υποθέσεων·

1.  επαναλαμβάνει ότι, δεδομένου ότι η επεξεργασία μεγάλων όγκων προσωπικών δεδομένων βρίσκεται στον πυρήνα της ΤΝ, το δικαίωμα στην προστασία της ιδιωτικής ζωής και το δικαίωμα στην προστασία των δεδομένων προσωπικού χαρακτήρα ισχύουν σε όλους τους τομείς της ΤΝ, και ότι πρέπει να τηρείται πλήρως το ενωσιακό νομοθετικό πλαίσιο για την προστασία των δεδομένων και την ιδιωτικότητα· υπενθυμίζει, ως εκ τούτου, ότι η ΕΕ έχει ήδη θεσπίσει πρότυπα προστασίας δεδομένων για την επιβολή του νόμου, τα οποία αποτελούν τη βάση για κάθε μελλοντική ρύθμιση της ΤΝ προς χρήση στον τομέα της επιβολής του νόμου και της δικαιοσύνης· υπενθυμίζει ότι η επεξεργασία δεδομένων προσωπικού χαρακτήρα θα πρέπει να είναι σύννομη και δίκαιη, ότι οι σκοποί της επεξεργασίας θα πρέπει να προσδιορίζονται, να είναι σαφείς και νόμιμοι, ότι η επεξεργασία θα πρέπει να είναι κατάλληλη, συναφής και όχι υπερβολική σε σχέση με τον σκοπό για τον οποίο διενεργείται, καθώς και ακριβής και επικαιροποιημένη, ότι τα ανακριβή δεδομένα, εκτός εάν ισχύουν περιορισμοί, θα πρέπει να διορθώνονται ή να διαγράφονται, ότι τα δεδομένα δεν θα πρέπει να διατηρούνται για μεγαλύτερο χρονικό διάστημα από ό,τι είναι αναγκαίο, ότι θα πρέπει να καθορίζονται σαφείς και κατάλληλες προθεσμίες για τη διαγραφή ή την περιοδική επανεξέταση της ανάγκης αποθήκευσης των δεδομένων αυτών, και ότι τα δεδομένα θα πρέπει να υποβάλλονται σε επεξεργασία με ασφαλή τρόπο· υπογραμμίζει επίσης ότι θα πρέπει να αποφεύγεται η πιθανή ταυτοποίηση ατόμων μέσω εφαρμογής ΤΝ με τη χρήση δεδομένων που είχαν προηγουμένως ανωνυμοποιηθεί·

2.  επαναλαμβάνει ότι όλες οι λύσεις ΤΝ στον τομέα της επιβολής του νόμου και της δικαιοσύνης πρέπει επίσης να σέβονται πλήρως τις αρχές της ανθρώπινης αξιοπρέπειας, της απαγόρευσης των διακρίσεων και της ελεύθερης κυκλοφορίας, το τεκμήριο της αθωότητας και τα δικαιώματα της υπεράσπισης, συμπεριλαμβανομένων του δικαιώματος σιωπής, της ελευθερίας έκφρασης και πληροφόρησης, της ελευθερίας του συνέρχεσθαι και του συνεταιρίζεσθαι, της ισότητας ενώπιον του νόμου, καθώς και το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, σύμφωνα με τον Χάρτη και την Ευρωπαϊκή Σύμβαση Δικαιωμάτων του Ανθρώπου· τονίζει ότι η χρήση εφαρμογών ΤΝ πρέπει να απαγορεύεται, όταν είναι ασύμβατη με τα θεμελιώδη δικαιώματα·

3.  αναγνωρίζει ότι η ταχύτητα με την οποία αναπτύσσονται οι εφαρμογές ΤΝ ανά τον κόσμο δεν επιτρέπει την κατάρτιση εξαντλητικού καταλόγου των εφαρμογών και, ως εκ τούτου, απαιτεί ένα σαφές και συνεκτικό μοντέλο διακυβέρνησης που να εγγυάται τόσο τα θεμελιώδη δικαιώματα των ατόμων όσο και τη νομική σαφήνεια για τους προγραμματιστές, λαμβανομένης υπόψη τη συνεχούς εξέλιξης της τεχνολογίας· θεωρεί, ωστόσο, δεδομένων του ρόλου και της ευθύνης των αστυνομικών και δικαστικών αρχών, καθώς και του αντικτύπου των αποφάσεων που λαμβάνουν για τους σκοπούς της πρόληψης, της διερεύνησης, της ανίχνευσης ή της δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων, ότι η χρήση εφαρμογών ΤΝ πρέπει να χαρακτηρίζεται ως υψηλού κινδύνου όταν υπάρχει πιθανότητα να επηρεάσει σημαντικά τη ζωή των ατόμων·

4.  θεωρεί, στο πλαίσιο αυτό, ότι τα εργαλεία ΤΝ που αναπτύσσονται ή χρησιμοποιούνται στους τομείς της επιβολής του νόμου ή της δικαιοσύνης θα πρέπει, τουλάχιστον, να είναι ασφαλή, ισχυρά, προστατευμένα και κατάλληλα για τον σκοπό για τον οποίο προορίζονται, να τηρούν τις αρχές της δικαιοσύνης, της ελαχιστοποίησης των δεδομένων, της λογοδοσίας, της διαφάνειας, της αποφυγής διακρίσεων και της εξηγησιμότητας, και ότι η ανάπτυξη, η υλοποίηση και η χρήση τους θα πρέπει να υπόκεινται σε αξιολόγηση κινδύνου και σε αυστηρό έλεγχο αναγκαιότητας και αναλογικότητας, όπου οι διασφαλίσεις πρέπει να είναι αναλογικές προς τους εντοπισθέντες κινδύνους· επισημαίνει ότι η εμπιστοσύνη των πολιτών στη χρήση της ΤΝ που αναπτύσσεται, υλοποιείται και χρησιμοποιείται στην ΕΕ εξαρτάται από την πλήρη εκπλήρωση αυτών των κριτηρίων·

5.  αναγνωρίζει ότι ορισμένοι τύποι εφαρμογών ΤΝ συμβάλλουν θετικά στο έργο των αρχών επιβολής του νόμου και των δικαστικών αρχών σε ολόκληρη την Ένωση· επισημαίνει, ως παράδειγμα, τη βελτιωμένη διαχείριση της νομολογίας, η οποία επιτυγχάνεται μέσω εργαλείων που παρέχουν επιπρόσθετες επιλογές αναζήτησης· θεωρεί ότι υπάρχουν ορισμένες άλλες πιθανές χρήσεις της ΤΝ στον τομέα της επιβολής του νόμου και της δικαιοσύνης, οι οποίες θα μπορούσαν να διερευνηθούν λαμβάνοντας παράλληλα υπόψη τις πέντε αρχές του χάρτη δεοντολογίας για τη χρήση της τεχνητής νοημοσύνης στα δικαστικά συστήματα και το περιβάλλον τους, ο οποίος εγκρίθηκε από τη CEPEJ, και δίνοντας ιδιαίτερη προσοχή στις χρήσεις που πρέπει να εξεταστούν με τη μέγιστη δυνατή επιφυλακτικότητα, όπως αυτές έχουν προσδιοριστεί από τη CEPEJ·

6.  υπογραμμίζει ότι οποιαδήποτε τεχνολογία μπορεί να επαναχρησιμοποιηθεί και, ως εκ τούτου, ζητεί αυστηρό δημοκρατικό έλεγχο και ανεξάρτητη εποπτεία οποιασδήποτε τεχνολογίας που βασίζεται στην ΤΝ και χρησιμοποιείται από τις αρχές επιβολής του νόμου και τις δικαστικές αρχές, ιδίως εκείνων που μπορούν να επαναχρησιμοποιηθούν για μαζική παρακολούθηση ή κατάρτιση προφίλ· επισημαίνει, ως εκ τούτου, με μεγάλη ανησυχία το δυναμικό ορισμένων τεχνολογιών ΤΝ που χρησιμοποιούνται στον τομέα της επιβολής του νόμου για σκοπούς μαζικής παρακολούθησης· επισημαίνει τη νομική απαίτηση να αποτρέπεται η μαζική παρακολούθηση μέσω τεχνολογιών ΤΝ, η οποία εξ ορισμού δεν πληροί τις αρχές της αναγκαιότητας και της αναλογικότητας, και να απαγορεύεται η χρήση εφαρμογών που θα μπορούσαν να οδηγήσουν σε αυτήν·

7.  τονίζει ότι η προσέγγιση που ακολουθείται σε ορισμένες τρίτες χώρες όσον αφορά την ανάπτυξη, την υλοποίηση και τη χρήση τεχνολογιών μαζικής παρακολούθησης παραβιάζει δυσανάλογα τα θεμελιώδη δικαιώματα και, ως εκ τούτου, δεν πρέπει να υιοθετείται από την ΕΕ· επισημαίνει, ως εκ τούτου, ότι οι διασφαλίσεις κατά της κατάχρησης των τεχνολογιών ΤΝ από τις αρχές επιβολής του νόμου και τις δικαστικές αρχές πρέπει επίσης να ρυθμίζονται ομοιόμορφα σε ολόκληρη την Ένωση·

8.  τονίζει ότι η χρήση εφαρμογών ΤΝ, όπως η μηχανική μάθηση, συμπεριλαμβανομένων των αλγορίθμων στους οποίους βασίζονται οι εν λόγω εφαρμογές, ενέχει τον κίνδυνο μεροληψίας και εισαγωγής διακρίσεων· επισημαίνει ότι η μεροληψία μπορεί να είναι εγγενής σε υποκείμενα σύνολα δεδομένων, ιδίως εάν χρησιμοποιούνται ιστορικά δεδομένα που εισάγονται από τους φορείς ανάπτυξης των αλγορίθμων ή παράγονται όταν τα συστήματα εφαρμόζονται σε πραγματικά περιβάλλοντα· επισημαίνει ότι τα αποτελέσματα που παρέχουν οι εφαρμογές ΤΝ επηρεάζονται αναγκαστικά από την ποιότητα των δεδομένων που χρησιμοποιούνται και ότι αυτές οι εγγενείς προκαταλήψεις τείνουν να αυξάνονται σταδιακά και, ως εκ τούτου, διαιωνίζουν και ενισχύουν τις υφιστάμενες διακρίσεις, ιδίως σε βάρος ατόμων που ανήκουν σε ορισμένες εθνοτικές ομάδες ή κοινότητες αντιμετωπίζουν φυλετικές διακρίσεις·

9.  υπογραμμίζει το γεγονός ότι πολλές αλγοριθμικές τεχνολογίες ταυτοποίησης χρησιμοποιούνται επί του παρόντος δυσανάλογα πραγματοποιούν εσφαλμένες ταυτοποιήσεις και ταξινομήσεις και, ως εκ τούτου, προκαλούν βλάβη σε άτομα που αντιμετωπίζουν φυλετικές διακρίσεις, άτομα που ανήκουν σε ορισμένες εθνοτικές κοινότητες, άτομα ΛΟΑΤΚΙ+, παιδιά και ηλικιωμένους, καθώς και γυναίκες· υπενθυμίζει ότι τα φυσικά πρόσωπα δεν έχουν μόνο το δικαίωμα να ταυτοποιούνται σωστά, αλλά και το δικαίωμα να μην ταυτοποιούνται καθόλου, εκτός εάν απαιτείται από τον νόμο για επιτακτικούς και νόμιμους λόγους δημόσιου συμφέροντος· τονίζει ότι οι προβλέψεις της ΤΝ που βασίζονται στα χαρακτηριστικά μιας συγκεκριμένης ομάδας ατόμων καταλήγουν στην ενίσχυση και την αναπαραγωγή υφιστάμενων μορφών διακρίσεων· θεωρεί ότι θα πρέπει να καταβληθούν σημαντικές προσπάθειες για την αποφυγή αυτοματοποιημένων διακρίσεων και μεροληψιών· ζητεί ισχυρές επιπρόσθετες διασφαλίσεις στην περίπτωση που τα συστήματα ΤΝ στον τομέα της επιβολής του νόμου ή της δικαιοσύνης χρησιμοποιούνται για ή σε σχέση με ανηλίκους·

10.  επισημαίνει την ασυμμετρία ισχύος μεταξύ εκείνων που χρησιμοποιούν τεχνολογίες ΤΝ και εκείνων που υπόκεινται σε αυτές· τονίζει ότι είναι επιτακτική ανάγκη η χρήση των εργαλείων ΤΝ από τις αρχές επιβολής του νόμου και τις δικαστικές αρχές να μην καταστεί παράγοντας ανισότητας, κοινωνικής διαίρεσης ή αποκλεισμού· υπογραμμίζει τον αντίκτυπο της χρήσης εργαλείων ΤΝ στα δικαιώματα υπεράσπισης των υπόπτων, τη δυσκολία απόκτησης ουσιαστικών πληροφοριών σχετικά με τη λειτουργία τους και τη συνακόλουθη δυσκολία αμφισβήτησης των αποτελεσμάτων τους στο δικαστήριο, ιδίως από τα υποκείμενα σε έρευνα άτομα·

11.  σημειώνει τους κινδύνους που σχετίζονται ιδίως με διαρροές δεδομένων, παραβιάσεις της ασφάλειας των δεδομένων και μη εξουσιοδοτημένη πρόσβαση σε δεδομένα προσωπικού χαρακτήρα και άλλες πληροφορίες που αφορούν, για παράδειγμα, ποινικές έρευνες ή δικαστικές υποθέσεις που υποβάλλονται σε επεξεργασία από συστήματα ΤΝ· υπογραμμίζει ότι οι πτυχές της ασφάλειας και της προστασίας των συστημάτων ΤΝ που χρησιμοποιούνται στον τομέα της επιβολής του νόμου και της δικαιοσύνης πρέπει να εξεταστούν προσεκτικά, καθώς τα εν λόγω συστήματα πρέπει να είναι επαρκώς εύρωστα και ανθεκτικά, ώστε να αποτρέπονται οι δυνητικά καταστροφικές συνέπειες των κακόβουλων επιθέσεων εναντίον τους· τονίζει τη σημασία της ασφάλειας ήδη από τον σχεδιασμό, καθώς και της ειδικής εποπτείας από άνθρωπο πριν από τη λειτουργία ορισμένων κρίσιμων εφαρμογών και, ως εκ τούτου, ζητεί από τις αρχές επιβολής του νόμου και τις δικαστικές αρχές να χρησιμοποιούν μόνο εφαρμογές ΤΝ που συμμορφώνονται με την αρχή της προστασίας της ιδιωτικής ζωής και των δεδομένων ήδη από τον σχεδιασμό, προκειμένου να αποφεύγεται ο κίνδυνος αποκλίνουσας εφαρμογής·

12.  τονίζει ότι κανένα σύστημα ΤΝ που χρησιμοποιείται στον τομέα της επιβολής του νόμου ή της δικαιοσύνης δεν θα πρέπει να είναι σε θέση να βλάπτει τη σωματική ακεραιότητα των ανθρώπων ούτε να διανέμει δικαιώματα ή να επιβάλλει νομικές υποχρεώσεις στα άτομα·

13.  αναγνωρίζει τις προκλήσεις που θέτει η πολυπλοκότητα της ανάπτυξης και της λειτουργίας των συστημάτων ΤΝ σε σχέση με την ορθή κατανομή της νομικής ευθύνης και την υποχρέωση αποζημίωσης για πιθανές ζημίες· θεωρεί ότι είναι αναγκαίο να θεσπιστεί ένα σαφές και δίκαιο σύστημα για τη θεμελίωση της νομικής ευθύνης και της υποχρέωσης αποζημίωσης για τις πιθανές αρνητικές συνέπειες που προκαλούνται από τις εν λόγω προηγμένες ψηφιακές τεχνολογίες· υπογραμμίζει, ωστόσο, ότι ο πρωταρχικός στόχος πρέπει να είναι η αποφυγή τέτοιων συνεπειών· ζητεί, ως εκ τούτου, την εφαρμογή της αρχής της προφύλαξης σε όλες τις εφαρμογές της ΤΝ στο πλαίσιο της επιβολής του νόμου· υπογραμμίζει ότι η νομική ευθύνη και η υποχρέωση αποζημίωσης πρέπει πάντα να βαρύνουν ένα φυσικό ή νομικό πρόσωπο, το οποίο πρέπει πάντα να προσδιορίζεται για αποφάσεις που λαμβάνονται με την υποστήριξη της ΤΝ· τονίζει, ως εκ τούτου, την ανάγκη να διασφαλιστεί η διαφάνεια των εταιρικών δομών που παράγουν και διαχειρίζονται συστήματα ΤΝ·

14.  θεωρεί απαραίτητο, τόσο για την αποτελεσματική άσκηση των δικαιωμάτων υπεράσπισης όσο και για τη διαφάνεια των εθνικών συστημάτων ποινικής δικαιοσύνης, να θεσπιστούν ένα ειδικό, σαφές και ακριβές νομικό πλαίσιο που θα ρυθμίζει τις προϋποθέσεις, τις λεπτομέρειες και τις συνέπειες της χρήσης εργαλείων ΤΝ στον τομέα της επιβολής του νόμου και της δικαιοσύνης, καθώς και τα δικαιώματα των στοχευόμενων προσώπων, και αποτελεσματικές και εύκολα διαθέσιμες διαδικασίες υποβολής καταγγελιών και άσκησης προσφυγής, συμπεριλαμβανομένης της δικαστικής προσφυγής· υπογραμμίζει το δικαίωμα των μερών σε ποινικές διαδικασίες να έχουν πρόσβαση στη διαδικασία συλλογής δεδομένων και στις σχετικές αξιολογήσεις που πραγματοποιούνται ή λαμβάνονται μέσω της χρήσης εφαρμογών ΤΝ· υπογραμμίζει την ανάγκη οι αρχές εκτέλεσης που συμμετέχουν στη δικαστική συνεργασία, όταν αποφασίζουν σχετικά με αίτηση έκδοσης (ή παράδοσης) σε άλλο κράτος μέλος ή σε τρίτη χώρα, να αξιολογούν κατά πόσον η χρήση εργαλείων ΤΝ στην αιτούσα χώρα θα μπορούσε να θέσει προδήλως σε κίνδυνο το θεμελιώδες δικαίωμα σε δίκαιη δίκη· καλεί την Επιτροπή να εκδώσει κατευθυντήριες γραμμές σχετικά με τον τρόπο διενέργειας μιας τέτοιας αξιολόγησης στο πλαίσιο της δικαστικής συνεργασίας σε ποινικές υποθέσεις· εμμένει στην άποψη ότι τα κράτη μέλη, σύμφωνα με την ισχύουσα νομοθεσία, θα πρέπει να διασφαλίζουν ότι τα άτομα ενημερώνονται όταν υπόκεινται στη χρήση εφαρμογών ΤΝ από τις αρχές επιβολής του νόμου ή τις δικαστικές αρχές·

15.  επισημαίνει ότι, εάν οι άνθρωποι βασίζονται μόνο στα δεδομένα, στα προφίλ και στις συστάσεις που παράγονται από μηχανές, δεν θα είναι σε θέση να διενεργήσουν μια ανεξάρτητη αξιολόγηση· επισημαίνει τις δυνητικά σοβαρές αρνητικές συνέπειες, ιδίως στον τομέα της επιβολής του νόμου και της δικαιοσύνης, όταν τα άτομα εμπιστεύονται υπερβολικά τον φαινομενικά αντικειμενικό και επιστημονικό χαρακτήρα των εργαλείων ΤΝ και δεν εξετάζουν το ενδεχόμενο τα αποτελέσματά τους να είναι λανθασμένα, ελλιπή, άσχετα ή μεροληπτικά· τονίζει ότι θα πρέπει να αποφεύγεται η υπερβολική εξάρτηση από τα αποτελέσματα που παρέχουν τα συστήματα ΤΝ, και τονίζει ότι οι αρχές πρέπει να οικοδομήσουν εμπιστοσύνη και γνώσεις για να αμφισβητήσουν ή να παρακάμψουν μια αλγοριθμική σύσταση· θεωρεί σημαντικό να υπάρχουν ρεαλιστικές προσδοκίες για τέτοιες τεχνολογικές λύσεις και να μην υποσχόμαστε τέλειες λύσεις για τη δίωξη και τον εντοπισμό όλων των διαπραχθέντων εγκλημάτων·

16.  τονίζει ότι, στο πλαίσιο της δικαιοσύνης και της επιβολής του νόμου, η απόφαση που παράγει έννομα ή παρόμοια αποτελέσματα πρέπει πάντα να λαμβάνεται από πρόσωπο που μπορεί να λογοδοτεί για τις αποφάσεις που λαμβάνονται· θεωρεί ότι όσοι υπόκεινται σε συστήματα βασιζόμενα στην ΤΝ πρέπει να έχουν τη δυνατότητα προσφυγής· υπενθυμίζει ότι, σύμφωνα με το δίκαιο της ΕΕ, ένα πρόσωπο έχει το δικαίωμα να μην υπόκειται σε απόφαση η οποία παράγει έννομα αποτελέσματα έναντι αυτού ή το επηρεάζει σημαντικά και βασίζεται αποκλειστικά στην αυτοματοποιημένη επεξεργασία δεδομένων· υπογραμμίζει περαιτέρω ότι η αυτοματοποιημένη ατομική λήψη αποφάσεων δεν πρέπει να βασίζεται σε ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα, εκτός εάν έχουν θεσπιστεί κατάλληλα μέτρα για τη διασφάλιση των δικαιωμάτων, των ελευθεριών και των έννομων συμφερόντων του υποκειμένου των δεδομένων· τονίζει ότι το ενωσιακό δίκαιο απαγορεύει την κατάρτιση προφίλ που έχει ως αποτέλεσμα διακρίσεις κατά φυσικών προσώπων με βάση ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα· επισημαίνει ότι οι αποφάσεις στον τομέα της επιβολής του νόμου είναι σχεδόν πάντα αποφάσεις που παράγουν έννομα αποτελέσματα για το ενδιαφερόμενο πρόσωπο, λόγω του εκτελεστικού χαρακτήρα των αρχών επιβολής του νόμου και των ενεργειών τους· σημειώνει ότι η χρήση ΤΝ δύναται να επηρεάζει τις αποφάσεις των ανθρώπων και να έχει αντίκτυπο σε όλα τα στάδια των ποινικών διαδικασιών· θεωρεί, ως εκ τούτου, ότι οι αρχές που χρησιμοποιούν συστήματα ΤΝ πρέπει να τηρούν εξαιρετικά υψηλά νομικά πρότυπα και να εξασφαλίζουν την ανθρώπινη παρέμβαση, ιδίως κατά την ανάλυση δεδομένων που προέρχονται από τέτοια συστήματα· ζητεί, ως εκ τούτου, να διατηρηθούν η κυρίαρχη διακριτική ευχέρεια των δικαστών και η λήψη αποφάσεων κατά περίπτωση· ζητεί να απαγορευτεί η χρήση της ΤΝ και των συναφών τεχνολογιών για την υποβολή προτάσεων δικαστικών αποφάσεων·

17.  ζητεί αλγοριθμική εξηγησιμότητα, διαφάνεια, ιχνηλασιμότητα και επαλήθευση ως απαραίτητο μέρος της εποπτείας, προκειμένου να διασφαλιστεί ότι η ανάπτυξη, η υλοποίηση και η χρήση συστημάτων ΤΝ στον τομέα της δικαιοσύνης και της επιβολής του νόμου συνάδουν με τα θεμελιώδη δικαιώματα και εμπνέουν εμπιστοσύνη στους πολίτες, καθώς και ότι τα αποτελέσματα που παράγονται από τους αλγόριθμους ΤΝ μπορούν να καταστούν κατανοητά στους χρήστες και σε όσους υπόκεινται στα εν λόγω συστήματα, και ότι υπάρχει διαφάνεια όσον αφορά τα δεδομένα πηγής και τον τρόπο με τον οποίο το σύστημα καταλήγει σε κάποιο συμπέρασμα· επισημαίνει ότι, προκειμένου να διασφαλιστούν η τεχνική διαφάνεια, η ανθεκτικότητα και η ακρίβεια, οι αρχές επιβολής του νόμου και οι δικαστικές αρχές στην Ένωση θα πρέπει να μπορούν να αποκτούν μόνο εργαλεία και συστήματα των οποίων οι αλγόριθμοι και η λογική μπορούν να ελεγχθούν και διατίθενται τουλάχιστον στην αστυνομία, το δικαστικό σώμα και τους ανεξάρτητους ελεγκτές, ώστε να μπορούν να αξιολογούνται, να ελέγχονται και να επαληθεύονται, και ότι δεν πρέπει να κλειδώνονται ούτε να επισημαίνονται ως ιδιόκτητα από τους εμπόρους· επισημαίνει, επιπλέον, ότι η τεκμηρίωση θα πρέπει να παρέχεται σε σαφή και κατανοητή γλώσσα σχετικά με τη φύση της υπηρεσίας, τα εργαλεία που αναπτύσσονται, τις επιδόσεις και τις συνθήκες υπό τις οποίες αναμένεται να λειτουργούν και τους κινδύνους που ενδέχεται να προκαλέσουν· καλεί, ως εκ τούτου, τις δικαστικές αρχές και τις αρχές επιβολής του νόμου να εξασφαλίσουν προορατική και πλήρη διαφάνεια όσον αφορά τις ιδιωτικές εταιρείες που τους παρέχουν συστήματα ΤΝ για τους σκοπούς της επιβολής του νόμου και της απονομής δικαιοσύνης· συνιστά, ως εκ τούτου, τη χρήση λογισμικού ανοικτής πηγής, όπου αυτό είναι δυνατόν·

18.  ενθαρρύνει τις αρχές επιβολής του νόμου και τις δικαστικές αρχές να εντοπίσουν και να αξιολογήσουν τους τομείς στους οποίους ορισμένες ειδικά προσαρμοσμένες λύσεις ΤΝ θα μπορούσαν να είναι επωφελείς, και να ανταλλάσσουν βέλτιστες πρακτικές σχετικά με την ανάπτυξη της ΤΝ· ζητεί από τα κράτη μέλη και τους οργανισμούς της ΕΕ να εγκρίνουν κατάλληλες διαδικασίες σύναψης δημόσιων συμβάσεων για συστήματα ΤΝ όταν χρησιμοποιούνται σε πλαίσιο επιβολής του νόμου ή σε δικαστικό πλαίσιο, προκειμένου να διασφαλίζεται η συμμόρφωσή τους με τα θεμελιώδη δικαιώματα και την ισχύουσα νομοθεσία, συμπεριλαμβανομένης της διασφάλισης ότι η τεκμηρίωση λογισμικού και οι αλγόριθμοι είναι στη διάθεση των αρμόδιων αρχών και των εποπτικών αρχών για σκοπούς επανεξέτασης· ζητεί, ειδικότερα, να θεσπιστούν δεσμευτικοί κανόνες που να απαιτούν τη δημοσιοποίηση πληροφοριών σχετικά με τις συμπράξεις δημόσιου και ιδιωτικού τομέα, τις συμβάσεις και τις εξαγορές, καθώς και τον σκοπό για τον οποίο ανατίθενται· τονίζει την ανάγκη να δοθεί στις αρχές η απαραίτητη χρηματοδότηση, καθώς και να αποκτήσουν την απαραίτητη εμπειρογνωμοσύνη, ώστε να διασφαλιστεί η πλήρης συμμόρφωση με τις δεοντολογικές, νομικές και τεχνικές απαιτήσεις που συνδέονται με την υλοποίηση της ΤΝ·

19.  ζητεί να εξασφαλιστεί η ιχνηλασιμότητα των συστημάτων ΤΝ και της διαδικασίας λήψης αποφάσεων, ώστε να προσδιορίζονται οι ικανότητες και οι περιορισμοί των συστημάτων και να ανιχνεύεται, μέσω υποχρεωτικής τεκμηρίωσης, η προέλευση των καθοριστικών χαρακτηριστικών μιας απόφασης· υπογραμμίζει ότι είναι σημαντικό να διατηρείται πλήρης τεκμηρίωση των δεδομένων κατάρτισης, του πλαισίου, του σκοπού, της ακρίβειας και των παρενεργειών τους, καθώς και της επεξεργασίας τους από τους κατασκευαστές και τους φορείς ανάπτυξης των αλγορίθμων, και της συμμόρφωσής τους με τα θεμελιώδη δικαιώματα· επισημαίνει ότι πρέπει πάντα να είναι δυνατή η μείωση των υπολογισμών ενός συστήματος ΤΝ σε μορφή κατανοητή για τον άνθρωπο·

20.  ζητεί να διενεργείται υποχρεωτική εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα πριν από την εφαρμογή ή υλοποίηση οποιουδήποτε συστήματος ΤΝ για τους σκοπούς της επιβολής του νόμου ή της απονομής δικαιοσύνης, προκειμένου να αξιολογούνται οι πιθανοί κίνδυνοι για τα θεμελιώδη δικαιώματα· υπενθυμίζει ότι η εκ των προτέρων εκτίμηση επιπτώσεων σχετικά με την προστασία των δεδομένων είναι υποχρεωτική για κάθε είδος επεξεργασίας, ιδίως εάν περιλαμβάνει χρήση νέων τεχνολογιών, η οποία είναι πιθανόν να οδηγήσει σε υψηλό κίνδυνο για τα δικαιώματα και τις ελευθερίες των φυσικών προσώπων, και είναι της γνώμης ότι αυτό ισχύει για τις περισσότερες τεχνολογίες ΤΝ στον τομέα της επιβολής του νόμου και της δικαιοσύνης· υπογραμμίζει τη σημασία που έχει η εμπειρογνωμοσύνη των αρχών προστασίας δεδομένων και των οργανισμών θεμελιωδών δικαιωμάτων για την αξιολόγηση αυτών των συστημάτων· τονίζει ότι αυτές οι εκτιμήσεις επιπτώσεων στα θεμελιώδη δικαιώματα θα πρέπει να διενεργούνται όσο το δυνατόν πιο ανοικτά και με την ενεργό συμμετοχή της κοινωνίας των πολιτών· ζητεί οι εκτιμήσεις επιπτώσεων να ορίζουν επίσης με σαφήνεια τις διασφαλίσεις που απαιτούνται για την αντιμετώπιση των εντοπισθέντων κινδύνων και να δημοσιοποιούνται, στον μέγιστο δυνατό βαθμό, πριν από την υλοποίηση οποιουδήποτε συστήματος ΤΝ·

21.  τονίζει ότι μόνο μια ισχυρή ευρωπαϊκή διακυβέρνηση της ΤΝ μπορεί να καταστήσει δυνατή την αναγκαία εφαρμογή των αρχών των θεμελιωδών δικαιωμάτων· ζητεί τη διενέργεια περιοδικού υποχρεωτικού ελέγχου όλων των συστημάτων ΤΝ, όπου μπορούν να έχουν σημαντικό αντίκτυπο στη ζωή των ατόμων, από ανεξάρτητο φορέα, με σκοπό την επαλήθευση και την αξιολόγηση των αλγοριθμικών συστημάτων, του πλαισίου, του σκοπού, της ακρίβειας, της απόδοσης και της κλίμακας τους και, κατά τη λειτουργία των συστημάτων, τον εντοπισμό, την ανάλυση, τη διάγνωση και την εξάλειψη τυχόν ανεπιθύμητων και αρνητικών επιπτώσεών τους, και τη διασφάλιση ότι τα συστήματα ΤΝ λειτουργούν όπως προβλέπεται· ζητεί, ως εκ τούτου, να θεσπιστεί ένα σαφές θεσμικό πλαίσιο για τον σκοπό αυτό, το οποίο θα περιλαμβάνει κατάλληλη ρυθμιστική και εποπτική επίβλεψη, προκειμένου να διασφαλιστεί η πλήρης εφαρμογή και να εξασφαλιστεί ένας πλήρως ενημερωμένος δημοκρατικός διάλογος σχετικά με την αναγκαιότητα και την αναλογικότητα της ΤΝ στον τομέα της ποινικής δικαιοσύνης· υπογραμμίζει ότι τα αποτελέσματα των εν λόγω ελέγχων θα πρέπει να είναι διαθέσιμα σε δημόσια μητρώα, ώστε οι πολίτες να γνωρίζουν τα συστήματα ΤΝ που χρησιμοποιούνται και τα μέτρα που λαμβάνονται για την επανόρθωση οποιασδήποτε παραβίασης θεμελιωδών δικαιωμάτων·

22.  τονίζει ότι τα σύνολα δεδομένων και τα αλγοριθμικά συστήματα που χρησιμοποιούνται κατά τη διενέργεια ταξινομήσεων, αξιολογήσεων και προβλέψεων στα διάφορα στάδια της επεξεργασίας δεδομένων κατά την ανάπτυξη της ΤΝ και των συναφών τεχνολογιών μπορεί επίσης να οδηγήσουν σε διακριτική μεταχείριση, καθώς και σε άμεσες και έμμεσες διακρίσεις σε βάρος ομάδων ατόμων, ιδίως επειδή τα δεδομένα που χρησιμοποιούνται για την κατάρτιση αλγορίθμων προληπτικής αστυνόμευσης αντικατοπτρίζουν τις τρέχουσες προτεραιότητες επιτήρησης και, κατά συνέπεια, ενδέχεται να οδηγήσουν στην αναπαραγωγή και την ενίσχυση των υφιστάμενων μεροληπτικών προσεγγίσεων· τονίζει επομένως ότι οι τεχνολογίες ΤΝ, ιδίως όταν υλοποιούνται για χρήση στον τομέα της επιβολής του νόμου και της δικαιοσύνης, απαιτούν διεπιστημονική έρευνα και συμβολή, μεταξύ άλλων από επιστημονικές και τεχνολογικές μελέτες, φυλετικές μελέτες, μελέτες για την αναπηρία και άλλους επιστημονικούς κλάδων που ασχολούνται με το κοινωνικό πλαίσιο, συμπεριλαμβανομένων του τρόπου με τον οποίο δομείται η διαφορά, του έργου της ταξινόμησης και των συνεπειών της· τονίζει ότι είναι, επομένως, αναγκαία η συστηματική επένδυση στην ενσωμάτωση αυτών των κλάδων σε όλα τα επίπεδα μελέτης και έρευνας για την ΤΝ· τονίζει επίσης ότι είναι σημαντικό οι ομάδες που σχεδιάζουν, αναπτύσσουν, δοκιμάζουν, διατηρούν, υλοποιούν και προμηθεύουν τα εν λόγω συστήματα ΤΝ για την επιβολή του νόμου και τη δικαιοσύνη να αποτυπώνουν, όπου είναι δυνατόν, την ποικιλομορφία της κοινωνίας εν γένει, ως ένα μη τεχνικό μέσο για τη μείωση των κινδύνων διακρίσεων·

23.  επισημαίνει περαιτέρω ότι, για την κατάλληλη λογοδοσία, ευθύνη και υποχρέωση αποζημίωσης, απαιτείται σημαντική εξειδικευμένη κατάρτιση όσον αφορά τις διατάξεις που αφορούν θέματα δεοντολογίας, τους δυνητικούς κινδύνους, τους περιορισμούς και την ορθή χρήση τεχνολογίας ΤΝ, ιδιαίτερα για το αστυνομικό και το δικαστικό προσωπικό· τονίζει ότι οι υπεύθυνοι λήψης αποφάσεων θα πρέπει να λαμβάνουν κατάλληλη επαγγελματική κατάρτιση και να αποκτούν τα κατάλληλα επαγγελματικά προσόντα, προκειμένου να διασφαλίζεται ότι εκπαιδεύονται ώστε να έχουν επίγνωση του κινδύνου μεροληψίας, δεδομένου ότι τα σύνολα δεδομένων μπορεί να βασίζονται σε μεροληπτικά δεδομένα που εισάγουν διακρίσεις· υποστηρίζει την καθιέρωση πρωτοβουλιών ευαισθητοποίησης και εκπαίδευσης, ώστε να εξασφαλιστεί ότι τα άτομα που εργάζονται στον τομέα της επιβολής του νόμου ή της δικαιοσύνης γνωρίζουν και κατανοούν τους περιορισμούς, τις δυνατότητες και τους κινδύνους που συνεπάγεται η χρήση συστημάτων ΤΝ, συμπεριλαμβανομένου του κινδύνου μεροληψίας λόγω της αυτοματοποίησης· υπενθυμίζει ότι η συμπερίληψη περιπτώσεων ρατσισμού από τις αστυνομικές δυνάμεις κατά την εκτέλεση των καθηκόντων τους στα σύνολα δεδομένων κατάρτισης στον τομέα της ΤΝ θα οδηγήσει αναπόφευκτα σε ρατσιστικές μεροληψίες στα πορίσματα, τις αξιολογήσεις και τις συστάσεις που προκύπτουν από την ΤΝ· επαναλαμβάνει, ως εκ τούτου, την έκκλησή του προς τα κράτη μέλη να προωθήσουν πολιτικές για την καταπολέμηση των διακρίσεων και να αναπτύξουν εθνικά σχέδια δράσης κατά του ρατσισμού στον τομέα της αστυνόμευσης και της δικαιοσύνης·

24.  σημειώνει ότι η προληπτική αστυνόμευση συγκαταλέγεται στις εφαρμογές ΤΝ που χρησιμοποιούνται στον τομέα της επιβολής του νόμου, αλλά προειδοποιεί ότι, ενώ η προληπτική αστυνόμευση μπορεί να αναλύσει τα εν λόγω σύνολα δεδομένων για τον εντοπισμό μοτίβων και συσχετίσεων, δεν μπορεί να απαντήσει στο ερώτημα της αιτιώδους συνάφειας και δεν μπορεί να προβεί σε αξιόπιστες προβλέψεις σχετικά με την ατομική συμπεριφορά και, ως εκ τούτου, δεν μπορεί να αποτελέσει τη μοναδική βάση μιας παρέμβασης· επισημαίνει ότι αρκετές πόλεις των Ηνωμένων Πολιτειών έχουν σταματήσει να χρησιμοποιούν συστήματα προληπτικής αστυνόμευσης μετά από ελέγχους· υπενθυμίζει ότι, κατά τη διάρκεια της αποστολής της επιτροπής LIBE στις Ηνωμένες Πολιτείες τον Φεβρουάριο του 2020, οι βουλευτές ενημερώθηκαν από τα αστυνομικά τμήματα της Νέας Υόρκης, του Κέιμπριτζ και της Μασαχουσέτης ότι είχαν καταργήσει σταδιακά τα οικεία προγράμματα προληπτικής αστυνόμευσης λόγω έλλειψης αποτελεσματικότητας, διακρίσεων και πρακτικής αποτυχίας, και ότι, αντ’ αυτού, στράφηκαν στην αστυνόμευση σε επίπεδο κοινότητας· σημειώνει ότι αυτό έχει οδηγήσει σε μείωση των ποσοστών εγκληματικότητας· αντιτίθεται, ως εκ τούτου, στη χρήση της ΤΝ από τις αρχές επιβολής του νόμου για την πρόβλεψη της συμπεριφοράς ατόμων ή ομάδων με βάση ιστορικά δεδομένα και παρελθούσα συμπεριφορά, συμμετοχή σε ομάδα, τοποθεσία ή άλλα παρόμοια χαρακτηριστικά, με στόχο τον εντοπισμό προσώπων που ενδέχεται να διαπράξουν ποινικό αδίκημα·

25.  λαμβάνει υπό σημείωση τους διάφορους τύπους χρήσης της αναγνώρισης προσώπου, όπως, μεταξύ άλλων, εξακρίβωση/επαλήθευση ταυτότητας (δηλ. αντιστοίχιση ενός ζωντανού προσώπου με φωτογραφία σε ένα έγγραφο ταυτότητας, π.χ. έξυπνα σύνορα), ταυτοποίηση (δηλ. σύγκριση φωτογραφίας με μια σειρά δεδομένων φωτογραφιών) και ανίχνευση (δηλ. ανίχνευση προσώπων σε πραγματικό χρόνο από πηγές όπως CCTV, και αντιστοίχισή τους με βάσεις δεδομένων, π.χ. παρακολούθηση σε πραγματικό χρόνο), καθένα από τα οποία έχει διαφορετικές επιπτώσεις για την προστασία των θεμελιωδών δικαιωμάτων· πιστεύει ακράδαντα ότι η υλοποίηση συστημάτων αναγνώρισης προσώπου στον τομέα της επιβολής του νόμου θα πρέπει να περιορίζεται σε σαφώς δικαιολογημένους σκοπούς που σέβονται πλήρως τις αρχές της αναλογικότητας, της αναγκαιότητας και του εφαρμοστέου δικαίου· επιβεβαιώνει ότι, κατ’ ελάχιστον, η χρήση της τεχνολογίας αναγνώρισης προσώπου πρέπει να πληροί τις απαιτήσεις της ελαχιστοποίησης των δεδομένων, της ακρίβειας των δεδομένων, του περιορισμού της αποθήκευσης, της ασφάλειας των δεδομένων και της λογοδοσίας, καθώς και να γίνεται με σύννομο, δίκαιο και διαφανή τρόπο, και για έναν συγκεκριμένο, ρητό και θεμιτό σκοπό, ο οποίος ορίζεται ρητώς στο δίκαιο του κράτους μέλους ή το ενωσιακό δίκαιο· είναι της γνώμης ότι τα συστήματα επαλήθευσης και ταυτοποίησης μπορούν να συνεχίσουν να υλοποιούνται και να χρησιμοποιούνται επιτυχώς μόνον εάν μπορούν να μετριαστούν οι δυσμενείς επιπτώσεις τους και να εκπληρωθούν τα ανωτέρω κριτήρια·

26.  ζητεί, επιπλέον, να απαγορευθεί μόνιμα η χρήση, σε δημοσίως προσβάσιμους χώρους, αυτοματοποιημένης ανάλυσης και/ή αναγνώρισης άλλων ανθρώπινων χαρακτηριστικών, όπως βάδισμα, δακτυλικά αποτυπώματα, DNA, φωνή και άλλα βιομετρικά και συμπεριφορικά σήματα·

27.  ζητεί ωστόσο να επιβληθεί μορατόριουμ στην υλοποίηση συστημάτων αναγνώρισης προσώπου για σκοπούς της επιβολής του νόμου, τα οποία έχουν ως λειτουργία την ταυτοποίηση, εκτός εάν χρησιμοποιούνται αποκλειστικά για την ταυτοποίηση θυμάτων εγκληματικών πράξεων, έως ότου τα τεχνικά πρότυπα να μπορούν να θεωρηθούν πλήρως συμβατά με τα θεμελιώδη δικαιώματα, τα αποτελέσματα που προκύπτουν να μην εισάγουν μεροληψία και διακρίσεις, το νομικό πλαίσιο να παρέχει αυστηρές διασφαλίσεις έναντι της κατάχρησης και αυστηρό δημοκρατικό έλεγχο και εποπτεία, και να διασφαλιστούν εμπειρικά αποδεικτικά στοιχεία όσον αφορά την αναγκαιότητα και την αναλογικότητα της υλοποίησης των εν λόγω τεχνολογιών· σημειώνει ότι, στις περιπτώσεις που δεν πληρούνται τα ανωτέρω κριτήρια, τα συστήματα δεν θα πρέπει να χρησιμοποιούνται ούτε να υλοποιούνται·

28.  εκφράζει την έντονη ανησυχία του όσον αφορά τη χρήση ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπου από φορείς επιβολής του νόμου και υπηρεσίες πληροφοριών, όπως η Clearview AI, μια βάση δεδομένων άνω των τριών δισεκατομμυρίων εικόνων που έχουν συλλεχθεί παράνομα από τα μέσα κοινωνικής δικτύωσης και άλλα μέρη του διαδικτύου, μεταξύ άλλων από πολίτες της ΕΕ· ζητεί από τα κράτη μέλη να υποχρεώσουν τους φορείς επιβολής του νόμου να γνωστοποιούν κατά πόσον χρησιμοποιούν την τεχνολογία Clearview AI ή ισοδύναμες τεχνολογίες άλλων παρόχων· υπενθυμίζει τη γνώμη του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων (ΕΣΠΔ), σύμφωνα με την οποία η χρήση μιας υπηρεσίας όπως αυτής της Clearview AI από τις αρχές επιβολής του νόμου στην Ευρωπαϊκή Ένωση «ενδέχεται να μη συνάδει με το καθεστώς προστασίας δεδομένων που ισχύει στην ΕΕ»· ζητεί να απαγορευθεί η χρήση ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπου στον τομέα της επιβολής του νόμου·

29.  σημειώνει τη μελέτη σκοπιμότητας της Επιτροπής σχετικά με πιθανές αλλαγές στην απόφαση Prüm(8), συμπεριλαμβανομένων των εικόνων προσώπου· σημειώνει ότι προγενέστερες έρευνες έχουν καταλήξει στο συμπέρασμα ότι κανένα δυνητικό νέο αναγνωριστικό στοιχείο, π.χ. αναγνώριση ίριδας ή προσώπου, δεν θα είναι τόσο αξιόπιστο στον τομέα της εγκληματολογίας όσο το DNA ή τα δακτυλικά αποτυπώματα· υπενθυμίζει στην Επιτροπή ότι οποιαδήποτε νομοθετική πρόταση πρέπει να βασίζεται σε αποδεικτικά στοιχεία και να σέβεται την αρχή της αναλογικότητας· προτρέπει την Επιτροπή να μην επεκτείνει το πλαίσιο της απόφασης Prüm, εκτός εάν υπάρχουν βάσιμα επιστημονικά στοιχεία για την αξιοπιστία της αναγνώρισης προσώπου σε εγκληματολογικό πλαίσιο σε σύγκριση με το DNA ή τα δακτυλικά αποτυπώματα, αφού διενεργήσει πλήρη εκτίμηση επιπτώσεων και λαμβάνοντας υπόψη τις συστάσεις του Ευρωπαίου Επόπτη Προστασίας Δεδομένων (ΕΕΠΔ) και του ΕΣΠΔ·

30.  τονίζει ότι η χρήση βιομετρικών δεδομένων συνδέεται ευρύτερα με την αρχή του δικαιώματος στην ανθρώπινη αξιοπρέπεια, που αποτελεί τη βάση όλων των θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη· θεωρεί ότι η χρήση και η συλλογή οποιωνδήποτε βιομετρικών δεδομένων για σκοπούς εξ αποστάσεως ταυτοποίησης, για παράδειγμα μέσω της αναγνώρισης προσώπου σε δημόσιους χώρους, καθώς και σε αυτόματες πύλες συνοριακού ελέγχου που χρησιμοποιούνται για συνοριακούς ελέγχους σε αερολιμένες, ενδέχεται να ενέχουν συγκεκριμένους κινδύνους για τα θεμελιώδη δικαιώματα, οι επιπτώσεις των οποίων θα μπορούσαν να ποικίλλουν σημαντικά ανάλογα με τον σκοπό, το πλαίσιο και το πεδίο χρήσης· τονίζει, επιπλέον, την αμφιλεγόμενη επιστημονική εγκυρότητα της τεχνολογίας αναγνώρισης συναισθημάτων, όπως οι κάμερες που ανιχνεύουν τις κινήσεις των οφθαλμών και τις αλλαγές στο μέγεθος της ίριδας, σε πλαίσιο επιβολής του νόμου· είναι της άποψης ότι η χρήση της βιομετρικής ταυτοποίησης στο πλαίσιο της επιβολής του νόμου και της απονομής δικαιοσύνης θα πρέπει πάντα να θεωρείται «υψηλού κινδύνου» και, ως εκ τούτου, να υπόκειται σε πρόσθετες απαιτήσεις, σύμφωνα με τις συστάσεις της ομάδας εμπειρογνωμόνων υψηλού επιπέδου της Επιτροπής για την ΤΝ·

31.  εκφράζει έντονη ανησυχία σχετικά με τα ερευνητικά έργα που χρηματοδοτούνται στο πλαίσιο του προγράμματος «Ορίζων 2020» τα οποία εφαρμόζουν τεχνητή νοημοσύνη στα εξωτερικά σύνορα, όπως το έργο iBorderCtrl, ένα «έξυπνο σύστημα ανίχνευσης ψεύδους» που καταρτίζει προφίλ ταξιδιωτών με βάση μια αυτοματοποιημένη συνέντευξη μέσω υπολογιστή η οποία λαμβάνεται από την κάμερα υπολογιστή του ταξιδιώτη πριν από το ταξίδι και ανάλυσης, βάσει τεχνητής νοημοσύνης, 38 μικροχειρονομιών, το οποίο έχει τεθεί σε δοκιμή στην Ουγγαρία, τη Λετονία και την Ελλάδα· καλεί την Επιτροπή να εφαρμόσει, με τη χρήση νομοθετικών και μη νομοθετικών μέσων και, εάν είναι αναγκαίο, μέσω διαδικασιών επί παραβάσει, την απαγόρευση οποιασδήποτε επεξεργασίας βιομετρικών δεδομένων, συμπεριλαμβανομένων εικόνων προσώπου, για σκοπούς επιβολής του νόμου που οδηγεί σε μαζική παρακολούθηση σε δημοσίως προσβάσιμους χώρους· καλεί επίσης την Επιτροπή να σταματήσει τη χρηματοδότηση της βιομετρικής έρευνας ή ανάπτυξης ή προγραμμάτων που ενδέχεται να οδηγήσουν σε μαζική παρακολούθηση χωρίς διακρίσεις σε δημόσιους χώρους· τονίζει, στη συνάρτηση αυτή, ότι θα πρέπει να δοθεί ιδιαίτερη προσοχή και να εφαρμοστεί ένα αυστηρό πλαίσιο στη χρήση μη επανδρωμένων αεροσκαφών σε αστυνομικές επιχειρήσεις·

32.  υποστηρίζει τις συστάσεις της ομάδας εμπειρογνωμόνων υψηλού επιπέδου της Επιτροπής για την ΤΝ που υποστηρίζουν την απαγόρευση της μαζικής βαθμολόγησης ατόμων βάσει ΤΝ· φρονεί ότι κάθε μορφή κανονιστικής βαθμολόγησης πολιτών σε μεγάλη κλίμακα από τις δημόσιες αρχές, ιδίως στον τομέα της επιβολής του νόμου και της δικαιοσύνης, οδηγεί σε απώλεια αυτονομίας, θέτει σε κίνδυνο την αρχή της απαγόρευσης των διακρίσεων και δεν μπορεί να θεωρηθεί ότι συνάδει με τα θεμελιώδη δικαιώματα, ιδίως την ανθρώπινη αξιοπρέπεια, όπως έχουν κωδικοποιηθεί στο δίκαιο της ΕΕ·

33.  ζητεί να αυξηθεί η συνολική διαφάνεια προκειμένου να διαμορφωθεί μια ολοκληρωμένη κατανόηση όσον αφορά τη χρήση των εφαρμογών ΤΝ στην Ένωση· ζητεί από τα κράτη μέλη να παρέχουν ολοκληρωμένες πληροφορίες σχετικά με τα εργαλεία που χρησιμοποιούν οι αρχές επιβολής του νόμου και οι δικαστικές αρχές τους, τα είδη των χρησιμοποιούμενων εργαλείων, τους σκοπούς για τους οποίους χρησιμοποιούνται, τα είδη εγκλημάτων για τα οποία εφαρμόζονται και τα ονόματα των εταιρειών ή των οργανισμών που ανέπτυξαν τα εν λόγω εργαλεία· καλεί τις αρχές επιβολής του νόμου και τις δικαστικές αρχές να ενημερώνουν επίσης το κοινό και να παρέχουν επαρκή διαφάνεια όσον αφορά τη χρήση της ΤΝ και των συναφών τεχνολογιών κατά την άσκηση των αρμοδιοτήτων τους, συμπεριλαμβανομένης της γνωστοποίησης των ψευδώς θετικών και ψευδώς αρνητικών αποτελεσμάτων της επίμαχης τεχνολογίας· ζητεί από την Επιτροπή να συγκεντρώνει και να επικαιροποιεί τις πληροφορίες σε έναν μόνο τόπο· καλεί την Επιτροπή να δημοσιεύσει και να επικαιροποιήσει επίσης πληροφορίες σχετικά με τη χρήση της ΤΝ από τους οργανισμούς της Ένωσης που είναι επιφορτισμένοι με καθήκοντα επιβολής του νόμου και δικαστικά καθήκοντα· καλεί το ΕΣΠΔ να αξιολογήσει τη νομιμότητα αυτών των τεχνολογιών και εφαρμογών ΤΝ που χρησιμοποιούνται από τις αρχές επιβολής του νόμου και το δικαστικό σώμα·

34.  υπενθυμίζει ότι οι εφαρμογές ΤΝ, συμπεριλαμβανομένων εκείνων που χρησιμοποιούνται στο πλαίσιο της επιβολής του νόμου και της απονομής δικαιοσύνης, αναπτύσσονται παγκοσμίως με γοργούς ρυθμούς· παροτρύνει όλους τους ευρωπαϊκούς ενδιαφερόμενους φορείς, συμπεριλαμβανομένων των κρατών μελών και της Επιτροπής, να διασφαλίσουν, μέσω της διεθνούς συνεργασίας, τη δέσμευση εταίρων εκτός της ΕΕ, προκειμένου να αναβαθμιστούν τα πρότυπα σε διεθνές επίπεδο και να εξευρεθεί κοινό και συμπληρωματικό νομικό και δεοντολογικό πλαίσιο για τη χρήση της ΤΝ, ιδίως για την επιβολή του νόμου και τη δικαιοσύνη, το οποίο θα σέβεται πλήρως τον Χάρτη, το ευρωπαϊκό κεκτημένο για την προστασία των δεδομένων και τα ανθρώπινα δικαιώματα γενικότερα·

35.  καλεί τον Οργανισμό Θεμελιωδών Δικαιωμάτων της ΕΕ, σε συνεργασία με το ΕΣΠΔ και τον ΕΕΠΔ, να εκπονήσει ολοκληρωμένες κατευθυντήριες γραμμές, συστάσεις και βέλτιστες πρακτικές προκειμένου να προσδιοριστούν περαιτέρω τα κριτήρια και οι προϋποθέσεις για την ανάπτυξη, τη χρήση και την υλοποίηση εφαρμογών και λύσεων ΤΝ προς χρήση από τις αρχές επιβολής του νόμου και τις δικαστικές αρχές· αναλαμβάνει να εκπονήσει μελέτη σχετικά με την εφαρμογή της οδηγίας για την επιβολή του νόμου(9), προκειμένου να προσδιοριστεί ο τρόπος με τον οποίο έχει διασφαλιστεί η προστασία των δεδομένων προσωπικού χαρακτήρα στις δραστηριότητες επεξεργασίας από τις αρχές επιβολής του νόμου και τις δικαστικές αρχές, ιδίως κατά την ανάπτυξη ή την εφαρμογή νέων τεχνολογιών· καλεί, επιπλέον, την Επιτροπή να εξετάσει κατά πόσον απαιτείται να αναληφθεί ειδική νομοθετική δράση από τις αρχές επιβολής του νόμου και τις δικαστικές αρχές για τον περαιτέρω προσδιορισμό των κριτηρίων και των προϋποθέσεων για την ανάπτυξη, τη χρήση και την υλοποίηση εφαρμογών και λύσεων ΤΝ·

36.  αναθέτει στον Πρόεδρό του να διαβιβάσει το παρόν ψήφισμα στο Συμβούλιο και στην Επιτροπή.

(1) ΕΕ L 119 της 4.5.2016, σ. 1. (2) ΕΕ L 119 της 4.5.2016, σ. 89. (3) ΕΕ L 295 της 21.11.2018, σ. 39. (4) ΕΕ L 201 της 31.7.2002, σ. 37. (5) ΕΕ L 135 της 24.5.2016, σ. 53. (6) ΕΕ C 362 της 8.9.2021, σ. 63. (7) ΕΕ C 263 της 25.7.2018, σ. 82. (8) Απόφαση 2008/615/ΔΕΥ του Συμβουλίου, της 23ης Ιουνίου 2008, σχετικά με την αναβάθμιση της διασυνοριακής συνεργασίας, ιδίως όσον αφορά την καταπολέμηση της τρομοκρατίας και του διασυνοριακού εγκλήματος (ΕΕ L 210 της 6.8.2008, σ. 1). (9) Οδηγία (EΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 27ης Απριλίου 2016, για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα από αρμόδιες αρχές για τους σκοπούς της πρόληψης, διερεύνησης, ανίχνευσης ή δίωξης ποινικών αδικημάτων ή της εκτέλεσης ποινικών κυρώσεων και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της απόφασης-πλαίσιο 2008/977/ΔΕΥ του Συμβουλίου (ΕΕ L 119 της 4.5.2016, σ. 89).