Index 
 Vorige 
 Volgende 
 Volledige tekst 
Procedure : 2020/2013(INI)
Stadium plenaire behandeling
Documentencyclus : A9-0001/2021

Ingediende teksten :

A9-0001/2021

Debatten :

Stemmingen :

Aangenomen teksten :

P9_TA(2021)0009

Aangenomen teksten
PDF 187kWORD 67k
Woensdag 20 januari 2021 - Brussel
Artificiële intelligentie: kwesties betreffende de interpretatie en toepassing van het internationaal recht
P9_TA(2021)0009A9-0001/2021

Resolutie van het Europees Parlement van 20 januari 2021 inzake artificiële intelligentie: kwesties betreffende de interpretatie en toepassing van het internationaal recht, voor zover dit van toepassing is op de EU, op het gebied van civiel en militair gebruik en staatsgezag buiten de werkingssfeer van het strafrecht (2020/2013(INI))

Het Europees Parlement,

–  gezien de preambule en de artikelen 2, 3, 10, 19, 20, 21, 114, 167, 218, 225 en 227 van het Verdrag van de Europese Unie,

–  gezien het petitierecht zoals verankerd in de artikelen 20 en 227 van het Verdrag betreffende de werking van de Europese Unie,

–  gezien het Handvest van de grondrechten van de Europese Unie,

–  gezien Richtlijn 2000/43/EG van de Raad van 29 juni 2000 houdende toepassing van het beginsel van gelijke behandeling van personen ongeacht ras of etnische afstamming(1) (richtlijn inzake rassengelijkheid),

–  gezien Richtlijn 2000/78/EG van de Raad van 27 november 2000 tot instelling van een algemeen kader voor gelijke behandeling in arbeid en beroep(2) (richtlijn inzake gelijke behandeling in arbeid),

–  gezien Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming)(3) (AVG), en Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad(4),

–  gezien Verordening (EU) 2018/1488 van de Raad van 28 september 2018 tot oprichting van de Gemeenschappelijke Onderneming Europese high-performance computing(5),

–  gezien het voorstel voor een verordening van het Europees Parlement en de Raad van 6 juni 2018 tot vaststelling van het programma Digitaal Europa voor de periode 2021-2027 (COM(2018)0434),

–  gezien zijn resolutie van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica(6),

–  gezien zijn resolutie van 1 juni 2017 over de digitalisering van de Europese industrie(7),

–  gezien zijn resolutie van 12 september 2018 over autonome wapensystemen(8),

–  gezien zijn resolutie van 11 september 2018 over taalgelijkheid in het digitale tijdperk(9),

–  gezien zijn resolutie van 12 februari 2019 inzake een alomvattend Europees industriebeleid inzake artificiële intelligentie en robotica(10),

–  gezien de mededeling van de Commissie van 11 december 2019 aan het Europees Parlement, de Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s over de Europese Green Deal (COM(2019)0640),

–  gezien het witboek van de Commissie van 19 februari 2020 over kunstmatige intelligentie – een Europese benadering op basis van excellentie en vertrouwen (COM(2020)0065),

–  gezien de mededeling van de Commissie aan het Europees Parlement, de Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s van 19 februari 2020 over een Europese datastrategie (COM(2020)0066),

–  gezien de mededeling van de Commissie aan het Europees Parlement, de Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s van 19 februari 2020 getiteld “De digitale toekomst van Europa vormgeven” (COM(2020)0067),

–  gezien het verslag van 8 april 2019 van de door de Commissie in juni 2018 opgerichte deskundigengroep op hoog niveau inzake artificiële intelligentie getiteld “Ethische richtsnoeren voor betrouwbare artificiële intelligentie”,

–  gezien het Kaderverdrag inzake de bescherming van nationale minderheden van de Raad van Europa, het Twaalfde Protocol bij het Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden, en het Europees Handvest voor regionale talen of talen van minderheden,

–  gezien het Europees Ethisch Handvest over het gebruik van kunstmatige intelligentie in gerechtelijke systemen en hun omgeving, dat in december 2018 door de werkgroep Efficiëntie in Justitie van de Raad van Europa (CEPEJ-GT-QUAL) is goedgekeurd,

–  gezien de aanbeveling van de Raad van de OESO inzake artificiële intelligentie die op 22 mei 2019 is aangenomen,

–  gezien artikel 54 van zijn Reglement,

–  gezien de adviezen van de Commissie buitenlandse zaken, de Commissie interne markt en consumentenbescherming, de Commissie vervoer en toerisme en de Commissie burgerlijke vrijheden, justitie en binnenlandse zaken,

–  gezien het verslag van de Commissie juridische zaken (A9-0001/2021),

Inleiding

A.  overwegende dat artificiële intelligentie (AI), robotica en aanverwante technologieën snel worden ontwikkeld en rechtstreekse gevolgen hebben op alle aspecten van onze samenlevingen, met inbegrip van elementaire sociale en economische beginselen en waarden;

B.  overwegende dat AI een revolutie ontketent op het gebied van militaire doctrine en uitrusting door een grondige wijziging van de manier waarop legers te werk gaan, vooral door de integratie en het gebruik van nieuwe autonome technologieën en systemen;

C.  overwegende dat het mensen zijn die zogenaamde “artificiële intelligentie”, robotica en aanverwante technologieën ontwikkelen en ontwerpen en dat hun keuzes bepalen of de mogelijkheden van de technologie ten goede komen aan de samenleving;

D.  overwegende dat een gemeenschappelijk Uniekader betrekking moet hebben op de ontwikkeling, de uitrol en het gebruik van AI, robotica en aanverwante technologieën en de eerbiediging van de menselijke waardigheid en mensenrechten moet waarborgen, zoals verankerd in het Handvest van de grondrechten van de Europese Unie;

E.  overwegende dat de Unie en haar lidstaten een bijzondere verantwoordelijkheid hebben om ervoor te zorgen dat AI, robotica en aanverwante technologieën - aangezien deze grensoverschrijdend kunnen worden gebruikt - op de mens gericht zijn, d.w.z. dat zij in wezen bedoeld zijn voor gebruik ten dienste van de mensheid en het algemeen welzijn, teneinde een bijdrage te leveren aan het welzijn van hun burgers en het algemeen belang; overwegende dat de Unie de lidstaten, met name degene die al hebben nagedacht over de mogelijke ontwikkeling van juridische normen of wetswijzigingen op dit gebied, moet helpen om dit te bewerkstelligen;

F.  overwegende dat de Europese burgers baat kunnen hebben bij een passend, doeltreffend, transparant en samenhangend regelgevingskader op het niveau van de Unie, met dusdanig duidelijke voorwaarden dat bedrijven in staat zijn toepassingen en bedrijfsmodellen te ontwikkelen, en tegelijkertijd te waarborgen dat de Unie en de lidstaten de controle behouden over de vast te stellen regelingen en niet gedwongen zijn door andere partijen opgestelde normen in te voeren of te accepteren;

G.  overwegende dat ethische richtsnoeren, zoals de beginselen die zijn goedgekeurd door de deskundigengroep op hoog niveau inzake artificiële intelligentie, een goed uitgangspunt vormen maar niet toereikend zijn om ervoor te zorgen dat bedrijven eerlijk handelen en doeltreffende consumentenbescherming garanderen;

H.  overwegende dat deze bijzondere verantwoordelijkheid inhoudt dat met name gekeken moet worden naar alle aspecten in verband met de interpretatie en toepassing van het internationaal recht waar deze betrekking hebben op de actieve deelname van de EU aan internationale onderhandelingen, voor zover de EU gevolgen ondervindt van de civiele en militaire toepassingen van dit soort AI, robotica en aanverwante technologieën, en dat aspecten in verband met het staatsgezag over dergelijke technologieën buiten de werkingssfeer van het strafrecht vallen;

I.  overwegende dat het van essentieel belang is een passend en alomvattend rechtskader te bieden met betrekking tot de ethische aspecten van deze technologieën en de regels inzake aansprakelijkheid, transparantie en verantwoordingsplicht (met name ten aanzien van AI, robotica en de daarmee samenhangende technologieën die een verhoogd risico met zich meebrengen); overwegende dat dit kader de intrinsieke Europese en universele humanistische waarden moet weerspiegelen en van toepassing zijn op de hele waardeketen van ontwikkeling, toepassing en gebruik van AI; overwegende dat dit ethisch kader van toepassing moet zijn op de ontwikkeling (met inbegrip van onderzoek en innovatie), de uitrol en het gebruik van AI, met volledige inachtneming van het Unierecht en de in het Handvest van de grondrechten van de Europese Unie vastgelegde waarden;

J.  overwegende dat het doel hierbij moet zijn vast te stellen óf, en in welke mate, de regels van het internationaal publiek- én privaatrecht en het EU-recht geschikt zijn voor deze technologieën, alsmede voor het voetlicht te brengen welke uitdagingen en risico’s de technologieën in kwestie vormen voor het staatsgezag, zodat zij op correcte en evenredige wijze kunnen worden beheerd;

K.  overwegende dat de Europese Commissie de militaire aspecten van het gebruik van artificiële intelligentie in haar witboek niet aankaart;

L.  overwegende dat een geharmoniseerde Europese benadering op dit gebied alleen mogelijk is na de voorafgaande vaststelling van een gemeenschappelijke definitie van AI en indien maatregelen worden genomen om ervoor te zorgen dat de fundamentele waarden van de Europese Unie, de beginselen van het Handvest van de grondrechten van de Europese Unie en het internationaal humanitair recht worden gerespecteerd;

M.  overwegende dat AI ongekende kansen biedt om de prestaties in de vervoerssector te verbeteren, omdat AI kan worden gebruikt om uitdagingen in verband met de gestegen vraag naar reizen evenals veiligheids- en milieukwesties aan te pakken, en om alle vervoerswijzen slimmer, efficiënter en gebruiksvriendelijker te maken;

N.  overwegende dat toepassing van AI op defensiegebied op EU-niveau onontbeerlijk is voor de ontwikkeling van de capaciteiten van de EU in deze sector;

Definitie van artificiële intelligentie

1.  is van oordeel dat er een gemeenschappelijk Europees rechtskader dient te worden vastgesteld met geharmoniseerde definities en gemeenschappelijke ethische beginselen, met inbegrip van het gebruik van AI voor militaire doeleinden; verzoekt de Commissie derhalve de volgende definities vast te stellen:

   “AI-systeem”: een door software gestuurd of een in hardware geïntegreerd systeem dat intelligent gedrag vertoont, onder meer door het verzamelen en verwerken van gegevens, het analyseren en interpreteren van zijn omgeving, en het – met een zekere mate van autonomie – ondernemen van actie om specifieke doelstellingen te verwezenlijken;
   “autonomie”: een AI-systeem dat werkt door bepaalde input te interpreteren en door een reeks vooraf vastgestelde instructies te gebruiken, zonder tot deze instructies beperkt te zijn, hoewel het gedrag van het systeem wordt beperkt door en gericht is op het verwezenlijken van de opgedragen doelstelling en andere relevante door zijn ontwikkelaar gemaakte ontwerpkeuzen;

2.  benadrukt dat het veiligheids- en defensiebeleid van de Europese Unie en haar lidstaten gebaseerd is op de beginselen die zijn verankerd in het Handvest van de grondrechten van de Europese Unie en in het VN-Handvest – in dat laatste worden alle staten verzocht zich in hun onderlinge betrekkingen te onthouden van dreiging met, of gebruik van geweld – en op het internationaal recht, op de beginselen van de mensenrechten en de eerbiediging van de menselijke waardigheid, en op een gemeenschappelijk begrip van de universele waarden van de onschendbare en onvervreemdbare rechten van de mens, vrijheid, democratie, gelijkheid en de rechtsstaat; benadrukt dat alle defensiegerelateerde activiteiten binnen het kader van de Unie deze universele waarden in acht moeten nemen en tegelijkertijd vrede, stabiliteit, veiligheid en vooruitgang in Europa en in de wereld moeten bevorderen;

Internationaal publiek recht en militair gebruik van artificiële intelligentie

3.  is van mening dat elk militair en civiel gebruik van AI onder beduidende controle van de mens moet plaatsvinden, zodat de mens te allen tijden in staat is de technologie te corrigeren, een halt toe te roepen of uit te schakelen in het geval van onvoorzien gedrag, onvoorziene interventie, cyberaanvallen of inmenging door derden met op AI gebaseerde technologie of indien derden dergelijke technologie aanschaffen;

4.  is van oordeel dat de eerbiediging van het internationaal publiekrecht, met name het humanitair recht, dat ondubbelzinnig van toepassing is op alle wapensystemen en hun operatoren, een fundamentele vereiste is waar de lidstaten aan moeten voldoen, met name bij het beschermen van de burgerbevolking of het nemen van voorzorgsmaatregelen in het geval van een aanval, zoals een militaire of cyberaanval;

5.  benadrukt dat AI en de daarmee samenhangende technologieën ook een rol kunnen spelen bij irreguliere of niet-conventionele oorlogsvoering; oppert dat onderzoek, ontwikkeling en gebruik van AI in deze gevallen onderworpen moeten zijn aan dezelfde voorwaarden die bij conventionele conflicten gelden;

6.  benadrukt dat het gebruik van AI de mogelijkheid biedt om de veiligheid van de Europese Unie en haar burgers te versterken en dat het voor de EU van essentieel belang is om in toekomstige internationale debatten over dit onderwerp een geïntegreerde benadering te hanteren;

7.  dringt er bij de AI-onderzoeksgemeenschap op aan dit beginsel te integreren in alle hierboven genoemde op AI gebaseerde systemen die bedoeld zijn voor militair gebruik; is van mening dat geen enkele autoriteit een afwijking van deze beginselen kan toestaan of een dergelijk systeem kan certificeren;

8.  herhaalt dat autonome besluitvorming de mens niet van zijn verantwoordelijkheid mag ontslaan en dat mensen altijd de eindverantwoordelijkheid moeten dragen voor beslissingen zodat er een verantwoordelijke voor elke beslissing kan worden aangewezen;

9.  benadrukt dat de lidstaten, partijen bij een conflict en individuen bij het gebruik van AI voor militaire doeleinden te allen tijde hun verplichtingen uit hoofde van het toepasselijke internationaal recht moeten nakomen en ter verantwoording moeten kunnen worden geroepen voor handelingen die voortvloeien uit het gebruik van dergelijke systemen; benadrukt dat de verwachte, onvoorziene of ongewenste handelingen en gevolgen die voortvloeien uit het gebruik van op AI gebaseerde systemen, te allen tijde de verantwoordelijkheid van de lidstaten, partijen bij een conflict en individuen blijven;

10.  is verheugd over de mogelijkheden voor het gebruik van AI-systemen bij opleiding en oefeningen, en stelt dat dit potentieel niet onderschat mag worden, met name gezien het feit dat de EU oefeningen van een zowel civiele als militaire aard uitvoert;

11.  benadrukt dat tijdens het ontwerp, de ontwikkeling, de tests, de uitrol en het gebruik van op AI gebaseerde systemen te allen tijde terdege rekening moet worden gehouden met de potentiële risico’s, met bijzondere aandacht voor incidentele burgerslachtoffers en letsel, het niet bedoelde verlies van van mensenlevens en schade aan civiele infrastructuur, alsook met risico’s die verband houden met onbedoeld gebruik, manipulatie, proliferatie, cyberaanvallen, inmenging door derden met op AI gebaseerde autonome technologie of verwerving door derden van dergelijke technologie;

12.  herinnert eraan dat het beginsel van nieuwheid, overeenkomstig het advies van het Internationale Gerechtshof van 8 juli 1996, niet kan worden ingeroepen ter ondersteuning van een afwijking betreffende de naleving van de huidige normen van het internationaal humanitair recht;

13.  is van mening dat AI niet alleen militaire operaties ten goede zal komen, maar ook het militair personeel, omdat op grote schaal gezondheidsgegevens kunnen worden verwerkt, het toezicht op de gezondheid kan worden uitgebreid, risicofactoren kunnen worden geïdentificeerd met betrekking tot hun omgeving en arbeidsomstandigheden, en passende waarborgen kunnen worden voorgesteld om de gevolgen voor de gezondheid van militair personeel te beperken;

14.  benadrukt dat de regelgevende maatregelen moeten worden ondersteund door beduidende certificatie- en monitoringsystemen, evenals mechanismen voor duidelijke controleerbaarheid, verklaarbaarheid, verantwoordingsplicht en traceerbaarheid, teneinde ervoor te zorgen dat het regelgevingskader als gevolg van technologische ontwikkelingen niet achterloopt;

15.  benadrukt dat de Europese Unie in een uiterst geconnecteerde wereld betrokken moet zijn bij de opzet van een internationaal rechtskader voor het gebruik van artificiële intelligentie: dringt er bij de EU op aan de leiding te nemen en, samen met de Verenigde Naties en de internationale gemeenschap, een actieve rol aan te nemen in de bevordering van dit mondiale kader voor het gebruik van AI voor militaire en andere doeleinden, en te waarborgen dat dit gebruik binnen de strikte grenzen blijft die zijn vastgesteld in het internationaal recht en het internationaal humanitair recht, in het bijzonder de Verdragen van Genève van 12 augustus 1949; wijst erop dat dit kader nooit inbreuk mag plegen op de eisen van het publieke geweten en de menselijkheid uit hoofde van de Martens-clausule en in overeenstemming moet zijn met de veiligheidsvoorschriften en vereisten met betrekking tot de consumentenbescherming; dringt er bij de EU en de lidstaten op aan robuuste bewakings- en evaluatiesystemen voor de ontwikkeling van AI-technologieën op te stellen, met name degene die worden gebruikt voor militaire doeleinden in autoritaire staten;

16.  benadrukt dat robotica het niet alleen mogelijk maakt dat militair personeel op afstand kan opereren, maar ook in betere zelfbescherming voorziet, bijvoorbeeld bij werkzaamheden op verontreinigde terreinen, het blussen van branden, het ruimen van mijnen te land of ter zee, en verdediging tegen droneaanvallen;

17.  benadrukt dat bij de ontwikkeling, de uitrol, het gebruik en het beheer van AI de in de EU-Verdragen verankerde grondrechten, waarden en vrijheden moeten worden geëerbiedigd, en roept de lidstaten op geen risicovolle AI-systemen in te zetten die een bedreiging vormen voor de grondrechten; neemt kennis van de publicatie van het Witboek van de Commissie over kunstmatige intelligentie en spoort aan tot diepgaander onderzoek naar het potentiële risico voor de grondrechten die voortvloeien uit het gebruik van AI door overheidsinstanties en agentschappen, organen en instellingen van de Europese Unie;

18.  verzoekt de Commissie onderzoek naar en discussies over mogelijkheden om AI te gebruiken voor noodhulp, crisispreventie en vredeshandhaving aan te jagen;

19.  is ingenomen met de oprichting van een VN-groep van regeringsdeskundigen (GGE) inzake het bevorderen van verantwoordelijk gedrag van staten in de cyberruimte in de context van de internationale veiligheid, en verzoekt de EU volledig deel te nemen aan de werkzaamheden van deze groep;

20.  verzoekt de vicevoorzitter van de Commissie/de hoge vertegenwoordiger van de Unie voor buitenlandse zaken en veiligheidsbeleid (HV/VV) het pad te effenen voor mondiale onderhandelingen met het oog op de invoering van een regeling voor de beheersing van op AI gebaseerde wapens en de actualisering van alle bestaande verdragsinstrumenten inzake wapenbeheersing, ontwapening en non-proliferatie om rekening te houden met op AI gebaseerde systemen bij oorlogsvoering; dringt erop aan dat in het gemeenschappelijk standpunt van de Raad tot vaststelling van gemeenschappelijke voorschriften voor de controle op de uitvoer van militaire goederen en technologie ten volle rekening wordt gehouden met en wordt voorzien in op AI gebaseerde wapensystemen;

21.  herhaalt dat deze voorschriften te allen tijde de beginselen, als bedoeld in het verdrag van Rome van 17 juli 1998, inzake een verbod op volkerenmoord, misdaden tegen de menselijkheid en oorlogsmisdaden in acht moeten nemen;

22.  wijst op het duidelijke risico dat gepaard gaat met door mensen genomen beslissingen als deze uitsluitend zijn gebaseerd op gegevens, profielen en aanbevelingen die door machines zijn gegenereerd; wijst erop dat het algemeen ontwerp van AI-systemen ook richtsnoeren voor menselijk toezicht en menselijke controle moet omvatten; dringt aan op een verplichting inzake transparantie en verklaarbaarheid van AI-toepassingen en op het feit dat menselijke tussenkomst noodzakelijk is, evenals andere maatregelen, zoals onafhankelijke audits en specifieke stresstests, om de naleving te faciliteren en af te dwingen; benadrukt dat dergelijke audits periodiek door een onafhankelijke autoriteit moeten worden verricht die toezicht houdt op risicovolle AI-toepassingen die door overheidsinstanties of het leger worden gebruikt;

23.  benadrukt dat het belangrijk is na te gaan hoe risicovolle AI-technologieën tot besluiten komen; herinnert eraan dat de beginselen van non-discriminatie en evenredigheid in acht moeten worden genomen en dat vragen betreffende oorzakelijk verband, aansprakelijkheid, verantwoordelijkheid, transparantie, verantwoordingsplicht en verklaarbaarheid moeten worden verduidelijkt om te bepalen of en in welke mate de staat als actor in het internationaal publiekrecht, maar ook bij de uitoefening van zijn eigen gezag, kan handelen met de ondersteuning van op AI gebaseerde systemen met een zekere autonomie, zonder verplichtingen uit hoofde van het internationaal recht, zoals een eerlijke rechtsbedeling, te schenden;

24.  benadrukt dat het belangrijk is te investeren in menselijke vaardigheden, met inbegrip van digitale vaardigheden, om zich aan te passen aan de wetenschappelijke vooruitgang op het gebied van op AI gebaseerde oplossingen voor uitoefenaars van gereglementeerde beroepen, met inbegrip van activiteiten in verband met de uitoefening van staatsgezag, zoals de rechtsbedeling; verzoekt de lidstaten en de Commissie hier bij de tenuitvoerlegging van Richtlijn 2005/36/EG(11) terdege rekening mee te houden;

25.  dringt erop aan dat AI-systemen altijd moeten voldoen aan de beginselen van verantwoordelijkheid, billijkheid, bestuurbaarheid, voorzorg, verantwoordingsplicht, toerekenbaarheid, voorspelbaarheid, traceerbaarheid, degelijkheid, betrouwbaarheid, transparantie, verklaarbaarheid, het vermogen om mogelijke veranderingen in de omstandigheden en de operationele omgeving op te sporen, het onderscheid tussen strijders en niet-strijders, en evenredigheid; wijst erop dat het laatste beginsel de rechtmatigheid van militair optreden ondergeschikt maakt aan de eerbiediging van een evenwicht tussen het doel en de gebruikte middelen, en dat het beoordelen van deze evenredigheid altijd door een mens moet gebeuren;

26.  benadrukt dat bij het gebruik van op AI gebaseerde systemen op het gebied van veiligheid en defensie alomvattende situatiekennis van de menselijke operator, de voorspelbaarheid, betrouwbaarheid en veerkracht van het op AI gebaseerde systeem, evenals het vermogen van de menselijke operator om mogelijke veranderingen in de omstandigheden en de operationele omgeving op te sporen, en zijn vermogen om tussen te komen in een aanval of deze te beëindigen, nodig zijn om ervoor te zorgen dat de beginselen van het internationaal humanitair recht, met name onderscheidingsvermogen, evenredigheid en voorzorgsmaatregelen bij een aanval, volledig worden toegepast in de hele commando- en controlestructuur; benadrukt dat op AI gebaseerde systemen de verantwoordelijke persoon in staat moeten stellen betekenisvolle controle uit te oefenen, volledige verantwoordelijkheid voor de systemen op zich te nemen en zich voor elke inzet ervan te verantwoorden; verzoekt de Commissie de dialoog, nauwere samenwerking en synergie tussen de lidstaten, onderzoekers, academici, het maatschappelijk middenveld en de particuliere sector, met name toonaangevende bedrijven, en de strijdkrachten te bevorderen zodat wordt gewaarborgd dat de besluitvormingsprocessen voor regelingen in verband met defensiegerelateerde AI inclusief zijn;

27.  wijst erop dat het Parlement heeft aangedrongen op het opstellen en vaststellen, op korte termijn, van een gemeenschappelijk standpunt over dodelijke autonome wapensystemen (LAWS) om de ontwikkeling, de productie en het gebruik van LAWS te voorkomen waarmee aanvallen kunnen worden uitgevoerd zonder beduidende menselijke controle, en op het openen van doeltreffende onderhandelingen over een verbod op dergelijke systemen; herinnert in dat opzicht aan zijn resolutie van 12 september 2018 over autonome wapensystemen; wijst erop dat de term “dodelijke autonome wapensystemen” (LAWS) verwijst naar wapensystemen die zonder beduidende menselijke controle in staat zijn kritische functies uit te voeren, zoals het selecteren en aanvallen van individuele doelen; benadrukt dat het besluit om een doelwit te kiezen en door middel van wapensystemen met een bepaalde mate van autonomie dodelijke actie te ondernemen altijd moet worden genomen door menselijke operatoren die betekenisvolle controle en toezicht en het vereiste beoordelingsvermogen hanteren overeenkomstig de beginselen van evenredigheid en noodzakelijkheid; benadrukt dat op AI-systemen op dit gebied in geen geval menselijke besluitvorming mogen vervangen;

28.  constateert voorts dat er op internationaal niveau gediscussieerd en overeenstemming bereikt moet worden over autonome wapensystemen als een bijzondere categorie van AI op militair gebied, met name in het VN-forum inzake het conventionelewapensverdrag; vestigt de aandacht op het feit dat er tot op heden in het kader van het lopende internationale debat over LAWS geen overeenstemming is bereikt over de regulering van opkomende militaire technologieën; wijst erop dat de EU er pas onlangs ermee heeft ingestemd de gevolgen van AI-ontwikkelingen en digitalisering voor de defensiesector te bespreken; is van mening dat de EU een cruciale rol kan spelen bij het helpen harmoniseren van de standpunten van de lidstaten ten aanzien van militaire AI, om het internationale debat te kunnen leiden;

29.  benadrukt het belang van een EU-brede strategie tegen LAWS en een verbod op zogenaamde “killer robots”;

30.  benadrukt dat de AI die wordt gebruikt in een militaire context moet voldoen aan een minimale reeks vereisten, zo moet AI het onderscheid kunnen maken tussen strijders en niet-strijders en strijders op het slagveld, kunnen herkennen wanneer een strijder zich overgeeft of buiten gevecht is, mag AI geen willekeurige effecten hebben, geen onnodig menselijk lijden veroorzaken, niet partijdig zijn en niet met opzettelijk onvolledige gegevens zijn getraind, en moet AI worden toegepast in overeenstemming met de beginselen van het internationaal humanitair recht, het beginsel van militaire noodzaak en het beginsel van voorzorg vóór interventie;

31.  is van mening dat de inzet van dodelijke autonome wapensystemen fundamentele ethische en juridische vragen opwerpt met betrekking tot de mate van controle die mensen over deze systemen kunnen uitoefenen, en vereist dat op AI gebaseerde technologieën geen autonome beslissingen mogen maken die betrekking hebben op de beginselen van onderscheid, evenredigheid en voorzorg;

32.  dringt aan op transparante, risicobeperkende maatregelen op internationaal niveau voor de ontwikkeling en het gebruik van militaire AI, met name ten aanzien van de beginselen van territoriale integriteit en niet-interventie en het gebruik van geweld; benadrukt dat het van belang is ook de militaire aspecten in aanmerking te nemen bij het aanpakken van juridische en ethische kwesties in het Europees kader voor AI; herinnert aan zijn standpunt over een verbod op de ontwikkeling, de productie en het gebruik van LAWS; betreurt dat er geen specifieke mondiale verdragen betreffende het gebruik van deze wapens bestaan;

33.  is zich ervan bewust dat de moderne wapenwedloop die is ontstaan doordat de belangrijkste militaire natiestaten die LAWS ontwikkelen vooruitlopen op de vorderingen met betrekking tot en de effectieve, universele toepassing en handhaving van gemeenschappelijke regels en rechtskaders, omdat de informatie over de ontwikkeling en de uitrol van deze systemen geclassificeerd is en de natiestaten een inherent belang hebben bij het creëren van de snelste en meest doeltreffende offensieve capaciteit, ongeacht de huidige en eventuele toekomstige rechtskaders of beginselen;

34.  is van oordeel dat LAWS alleen als laatste redmiddel mogen worden ingezet en alleen indien zij onderworpen zijn aan een voldoende strenge menselijke controle die inhoudt dat een mens te allen tijde de bediening ervan kan overnemen, aangezien beduidende menselijke interventie en menselijk toezicht van essentieel belang zijn voor het nemen van beslissingen met mogelijk dodelijke gevolgen, en aangezien mensen altijd verantwoordelijk moeten zijn voor beslissingen die een zaak van leven of dood betreffen; is van mening dat systemen die volledig aan menselijke controle (“human off the loop”) en menselijk toezicht onttrokken zijn, zonder uitzondering en te allen tijde verboden moeten worden;

35.  dringt er bij de HV/VV, de lidstaten en de Europese Raad op aan met spoed een gemeenschappelijk standpunt vast te stellen inzake dodelijke autonome wapensystemen, met waarborgen betreffende beduidende menselijke controle over de kritische functies van wapensystemen, waaronder tijdens de inzet daarvan, en op desbetreffende fora met één stem te spreken en dienovereenkomstig te handelen; verzoekt de HV/VV, de lidstaten en de Raad in deze context beste praktijken uit te wisselen en advies in te winnen bij deskundigen, academici en het maatschappelijk middenveld, overeenkomstig het standpunt inzake autonome wapensystemen van 12 september 2018, waarin wordt gesteld dat aanvallen altijd moeten worden uitgevoerd met beduidende menselijke controle;

36.  spoort alle landen aan te beoordelen of en hoe autonome militaire toestellen aan hun nationale veiligheid hebben bijgedragen en wat hun nationale veiligheid kan winnen bij op AI gebaseerde wapensystemen, met name bij het potentieel van dergelijke technologie om menselijke beslissingen in overeenstemming met het internationaal humanitair recht en de beginselen daarvan te ondersteunen en te verbeteren; herinnert eraan dat de werking van LAWS of van wapens met een hoge mate van autonomie verstoord kan raken als gevolg van slecht geschreven codes of na een door een vijandelijke staat of niet-statelijke actor uitgevoerde cyberaanval;

37.  dringt er met klem op aan het gebruik van LAWS alleen toe te staan in nauwkeurig afgebakende situaties en in overeenstemming met gedetailleerde, voorafgaand en schriftelijk vastgelegde autorisatieprocedures, die de staat in kwestie - ongeacht of deze lid van de Noord-Atlantische Verdragsorganisatie is of niet - ter kennisneming ter beschikking stelt aan het grote publiek, of in ieder geval aan zijn nationale parlement;

38.  is van oordeel dat LAWS in overeenstemming moeten zijn met het verdrag van 10 oktober 1980 inzake bepaalde conventionele wapens, in het bijzonder het verbod op het veroorzaken van “buitensporig leed”;

39.  stelt voor dat LAWS, teneinde een ongecontroleerde verspreiding ervan te voorkomen, moeten worden opgenomen op de lijst van wapens die onderworpen zijn aan de bepalingen van het verdrag inzake de wapenhandel van 2 april 2013 (artikel 2);

40.  dringt aan op een verbod op de “vermenselijking” van LAWS, teneinde elke verwarring tussen een mens en een robot te vermijden;

41.  is ingenomen met de overeenkomst van de Raad en het Parlement om dodelijke autonome wapens waarmee aanvallen kunnen worden uitgevoerd “zonder beduidende menselijke controle op het kiezen van doelwitten en het inzetten van een aanval”, uit te sluiten van maatregelen die uit het Europees Defensiefonds worden gefinancierd;herhaalt zijn standpunt dat het gebruik, de ontwikkeling of de productie van LAWS zonder beduidende menselijke controle niet in aanmerking komt voor financiering in het kader van het Europees Defensiefonds;

42.  verzoekt de Commissie haar steun te verlenen in het kader van onderzoek, ontwikkeling, uitrol en gebruik van AI voor de handhaving van de vrede en het voorkomen van conflicten;

43.  merkt op dat het mondiaal AI-ecosysteem wordt gedomineerd door grote Amerikaanse en Chinese digitale bedrijven die zich bezighouden met de ontwikkeling van binnenlandse capaciteit en het opkopen van grote aantallen veelbelovende bedrijven; is er derhalve stellig van overtuigd dat de EU een beter evenwicht moet creëren tussen fundamenteel onderzoek en industriële toepassingen teneinde achterstanden op het gebied van AI-technologieën te voorkomen, en tegelijkertijd comparatieve strategische voordelen te ontwikkelen door het eigen potentieel en de eigen middelen verder uit te breiden;

44.  benadrukt dat, voor zover zij onder de in Richtlijn 2006/42/EG(12) vervatte definitie van machines vallen, robots moeten worden ontworpen en geassembleerd in overeenstemming met de daarin vervatte normen en veiligheidsmaatregelen;

45.  herinnert aan de ambitie van de EU om zich in te zetten voor de vrede in de wereld en dringt erop aan dat de EU haar rol op het gebied van ontwapening en inspanningen op het gebied van non-proliferatie versterkt en wenst dat de EU zich met haar optreden en beleid inzet voor de handhaving van de internationale vrede en veiligheid, de eerbiediging van het internationaal humanitair recht en het internationaal recht inzake de mensenrechten en de bescherming van de burgers en de civiele infrastructuur;

46.  benadrukt dat het van belang is de mogelijke impact te onderzoeken van AI als strategische factor voor het gemeenschappelijk veiligheids- en defensiebeleid van de EU (GVDB), met name bij militaire en civiele missies en operaties, alsook de ontwikkeling van de capaciteiten van de EU;

47.  herinnert eraan dat onze bondgenoten binnen een nationaal kader, de NAVO of de EU zelf bezig zijn AI in hun militaire systemen op te nemen; is van mening dat de interoperabiliteit met onze bondgenoten in stand moet worden gehouden door middel van gemeenschappelijke normen, die van essentieel belang zijn voor de uitvoering van operaties in coalitieverband; herinnert eraan dat er daarnaast samenwerking op het gebied van AI moet plaatsvinden in een Europees kader, dat het enige relevante kader is waarin daadwerkelijk krachtige synergieën tot stand kunnen worden gebracht, zoals voorgesteld in de AI-strategie van de EU;

48.  is van mening dat de EU de gevolgen van ontwikkelingen op het gebied van AI voor defensie en oorlogsvoering – met inbegrip van mogelijk destabiliserende ontwikkelingen en vormen van gebruik – nauwlettend moet volgen en evalueren en ethisch verantwoord onderzoek en ontwerp aan moet sturen teneinde de integriteit van persoonsgegevens en individuele toegang en controle te waarborgen, alsmede rekening moet houden met economische en humanitaire vraagstukken;

49.  herinnert aan zijn standpunt van 12 september 2018 inzake autonome wapensystemen, waarin wordt gesteld dat geen aanvallen mogen worden uitgevoerd zonder beduidende menselijke interventie; verzoekt de VV/HV, de lidstaten en de Europese Raad een gemeenschappelijk standpunt inzake autonome wapensystemen vast te stellen, met waarborgen betreffende beduidende menselijke controle over de kritieke functies van wapensystemen, waaronder tijdens de inzet daarvan; herhaalt zijn steun voor de werkzaamheden inzake LAWS van de VN-groep van regeringsdeskundigen van de hoge verdragsluitende partijen bij het Verdrag inzake het verbod of de beperking van het gebruik van bepaalde conventionele wapens, die het relevante internationale forum blijft voor besprekingen en onderhandelingen over de juridische uitdagingen van autonome wapensystemen; dringt aan op intensivering van alle huidige multilaterale inspanningen op dit gebied, zodat de normatieve en regelgevingskaders niet worden ingehaald door technologische ontwikkelingen en nieuwe methoden van oorlogsvoering; verzoekt de VV/HV in het kader van de lopende besprekingen over de internationale regulering van LAWS door de staten die partij zijn bij het CWV, zich voluit te blijven inzetten en onverwijld bij te dragen aan de inspanningen om een nieuw mondiaal normatief kader en een wettelijk bindend instrument te ontwikkelen, met speciale aandacht voor definities, concepten en kenmerken van opkomende technologieën op het gebied van LAWS, ethische en wettelijke kwesties betreffende menselijke controle, met name ten aanzien van kritieke functies daarvan zoals de selectie en aanval van een doelwit, het behoud van de menselijke verantwoordelijkheid en verantwoordingsplicht en de vereiste mate van interactie tussen mens en machine, met inbegrip van het concept menselijke controle en menselijke beoordeling; roept op ervoor te zorgen dat deze inspanningen tijdens de verschillende fasen van de levenscyclus van een op AI gebaseerd wapen de eerbiediging van het internationaal humanitair recht en het recht inzake de mensenrechten waarborgen, teneinde overeenstemming te bereiken over concrete aanbevelingen voor de verduidelijking, overweging en ontwikkeling van aspecten van het normatieve kader inzake opkomende technologieën op het gebied van LAWS;

50.  is van mening dat een doeltreffend mechanisme voor de handhaving van de regels inzake non-proliferatie van LAWS en van alle toekomstige offensieve, op AI gebaseerde technologieën van het allergrootste belang is voor de veiligheid in de wereld;

Staatsgezag: voorbeelden uit civiele domeinen, waaronder gezondheidszorg en justitie

51.  is van oordeel dat de lidstaten doelmatig moeten optreden teneinde hun afhankelijkheid van buitenlandse gegevens te verminderen en er, zonder aanzienlijke marktverstoring, op toe moeten zien dat het in bezit hebben, door sterke particuliere groeperingen, van hoogwaardige AI-technologieën niet leidt tot het in twijfel trekken van het staatsgezag of zelfs tot vervanging daarvan door particuliere entiteiten, met name indien deze particuliere groeperingen behoren tot een derde staat buiten de Europese Unie;

52.  benadrukt dat het gebruik van AI-systemen in de besluitvormingsprocessen van overheidsinstanties kan leiden tot vooringenomen beslissingen met negatieve gevolgen voor burgers en dat dit gebruik derhalve moet worden gecontroleerd aan de hand van strike controlecriteria met betrekking tot onder meer veiligheid, transparantie, verantwoordingsplicht, non-discriminatie, en maatschappelijke en ecologische verantwoordelijkheid; dringt er bij de lidstaten op aan de risico’s te beoordelen die zijn verbonden aan op AI gebaseerde beslissingen met betrekking tot de uitoefening van staatsgezag, en te zorgen voor waarborgen, zoals beduidend menselijk toezicht, transparantievereisten en de mogelijkheid om in beroep te gaan tegen dergelijke beslissingen;

53.  dringt er bij de lidstaten op aan de risico’s te beoordelen die zijn verbonden aan door AI gestuurde technologieën alvorens activiteiten te automatiseren die verband houden met de uitoefening van het staatsgezag, zoals de rechtsbedeling; roept de lidstaten op te beoordelen of het noodzakelijk is om te voorzien in waarborgen zoals toezicht door een deskundige en strikte regels inzake beroepsethiek;

54.  onderstreept het belang van optreden op Europees niveau om te helpen de broodnodige investeringen, gegevensinfrastructuur, onderzoek – met inbegrip van onderzoek naar het gebruik van artificiële intelligentie door overheidsinstanties – en een gemeenschappelijk ethisch kader te bevorderen;

55.  benadrukt dat de Europese Unie moet streven naar strategische weerbaarheid zodat zij nooit meer onvoorbereid is op een crisis, en beklemtoont dat dit van cruciaal belang is, met name voor artificiële intelligentie en de militaire toepassingen ervan; benadrukt dat toeleveringsketens voor militaire AI-systemen die tot technologische afhankelijkheid kunnen leiden, moeten worden geëvalueerd en dat die afhankelijkheid geleidelijk moet worden afgebouwd; dringt aan op meer investeringen in Europese AI voor defensie en in de kritieke infrastructuur die daarvoor nodig is;

56.  verzoekt de Commissie de gevolgen van een moratorium op het gebruik van gezichtsherkenningssystemen te beoordelen en, afhankelijk van de resultaten van die beoordeling, een moratorium te overwegen op het gebruik van deze systemen door overheidsinstanties in openbare ruimten en op plaatsen die bestemd zijn voor onderwijs en gezondheidszorg, alsmede op het gebruik van gezichtsherkenningssystemen door rechtshandhavingsinstanties in semi-openbare ruimten zoals luchthavens, totdat de technische normen als volledig in overeenstemming met de grondrechten kunnen worden beschouwd, de verkregen resultaten niet-bevoordeeld en niet-discriminerend zijn, en op voorwaarde dat er strikte waarborgen zijn tegen misbruik van deze technologieën en dat het gebruik ervan noodzakelijk en evenredig is;

57.  benadrukt het belang van cyberbeveiliging voor AI, zowel in offensieve als defensieve scenario’s; wijst in dit verband op het belang van internationale samenwerking en van de publicatie en uitwisseling van kwetsbaarheden en oplossingen op het gebied van IT-beveiliging; dringt aan op internationale samenwerking op het gebied van cyberbeveiliging met het oog op de doeltreffende inzet en gebruik van AI en op waarborgen tegen misbruik van AI en cyberaanvallen; wijst voorts op het tweeledige karakter van IT-systemen (d.w.z. gebruik voor civiele en militaire doeleinden) en van AI, en dringt aan op een effectieve regulering ervan;

58.  is van mening dat de lidstaten AI-technologieën moeten bevorderen die werken voor mensen en dat personen ten aanzien waarvan een overheidsdienst een beslissing heeft genomen op basis van informatie van een AI-systeem, daarvan op de hoogte moeten worden gesteld en zo snel mogelijk de in de voorgaande paragraaf bedoelde informatie moeten krijgen, de mogelijkheid moeten hebben om in beroep te gaan tegen die beslissing en ervoor moeten kunnen kiezen dat dit zonder tussenkomst van een AI-systeem wordt opgelost; verzoekt de lidstaten te overwegen of het nodig is de waarborgen te bieden waarin Richtlijn (EU) 2018/958(13) voorziet, zoals toezicht door gekwalificeerde beroepsbeoefenaars en regels inzake beroepsethiek;

59.  benadrukt dat het doen van voorspellingen op basis van het delen van, de toegang tot en het gebruik van gegevens moet gebeuren volgens de kwaliteits-, integriteits-, transparantie-, veiligheids-, privacy- en controlevereisten; benadrukt dat tijdens het gehele proces van ontwikkeling, inzet en gebruik van AI, robotica en aanverwante technologieën het rechtskader van de EU inzake gegevensbescherming en bescherming van de persoonlijke levenssfeer moet worden geëerbiedigd, om de veiligheid van de burgers en het vertrouwen in deze technologieën te vergroten;

60.  wijst op de snelle ontwikkeling van AI-toepassingen die unieke kenmerkende eigenschappen, zoals gezichtskenmerken, bewegingen en gedragingen, herkennen; waarschuwt voor inbreuken op de persoonlijke levenssfeer, non-discriminatie en de bescherming van persoonsgegevens in verband met het gebruik van toepassingen voor geautomatiseerde herkenning;

61.  benadrukt dat elk besluit betreffende een natuurlijke persoon dat uitsluitend op geautomatiseerde gegevensverwerking is gebaseerd, met inbegrip van profilering, en dat voor de betrokkene nadelige rechtsgevolgen heeft of hem in aanmerkelijke mate treft, krachtens de algemene verordening gegevensbescherming (AVG) verboden is, tenzij het betrokken besluit is toegestaan krachtens het Unierecht of het recht van een lidstaat dat voorziet in passende maatregelen om de rechten, vrijheden en gerechtvaardigde belangen van de betrokkene te vrijwaren;

62.  dringt aan op de verklaarbaarheid van algoritmen, transparantie en regelgevend toezicht bij het gebruik van artificiële intelligentie door overheidsinstanties, en op het uitvoeren van effectbeoordelingen voordat instrumenten die AI-technologieën gebruiken door de overheid worden ingezet; roept de Commissie en het Europees Comité voor gegevensbescherming op richtsnoeren en aanbevelingen op te stellen en goede praktijken te ontwikkelen om de criteria en voorwaarden voor op profilering gebaseerde besluiten en het gebruik van AI door de overheid nader te specificeren;

63.  stelt vast dat artificiële intelligentie - met name dankzij diagnoseondersteunende algoritmes, door robots ondersteunde chirurgie, intelligente protheses, gepersonaliseerde behandelingswijzen op basis van 3D-beelden van het lichaam van patiënten, sociale robots voor bijstand aan ouderen, digitale therapieën ter verbetering van de autonomie van bepaalde categorieën geesteszieken, prognostische geneeskunde en software voor het anticiperen op epidemieën - een steeds belangrijkere rol zal gaan spelen in de gezondheidszorg;

64.  vindt overigens dat bij elk gebruik van AI in de gezondheidszorg de regels inzake bescherming van de persoonsgegevens van de patiënt in acht moeten worden genomen en dat deze gegevens niet ongecontroleerd mogen worden gedeeld;

65.  pleit ervoor dat bij elk gebruik van AI in de gezondheidszorg het beginsel van gelijke benadeling van patiënten wat betreft de toegang tot zorg in acht moet worden genomen, de arts-patiëntrelatie moet zijn gewaarborgd, en te allen tijde de eed van Hippocrates moet worden gerespecteerd, zodat de arts altijd de mogelijkheid heeft om af te wijken van de door AI aangeboden oplossing en de verantwoordelijkheid draagt voor een dergelijke beslissing;

66.  wijst erop dat het gebruik van AI bij de bestrijding van criminaliteit en cybercriminaliteit een breed scala aan mogelijkheden en kansen kan bieden; bevestigt tegelijkertijd dat het beginsel moet blijven gelden dat wat offline illegaal is ook online illegaal is;

67.  stelt vast dat ook op het vlak van justitie steeds vaker gebruik wordt gemaakt van AI, teneinde sneller beslissingen te kunnen nemen die rationeler zijn en meer in overeenstemming met het geldende recht; is blij dat de gerechtelijke procedures door het gebruik van AI naar verwachting sneller zullen verlopen;

68.  acht het nodig te verduidelijken of het passend is dat besluiten inzake rechtshandhaving deels worden overgelaten aan AI-systemen, waarbij de mens het laatste woord heeft;

69.  benadrukt dat het gebruik van AI op het gebied van justitie de analyse en verzameling van gegevens en de bescherming van slachtoffers kan verbeteren, en dat dit kan worden nagegaan door onderzoek en ontwikkeling in combinatie met effectbeoordelingen, met name met betrekking tot waarborgen voor een eerlijk proces en tegen vooroordelen en discriminatie, waarbij het voorzorgsbeginsel wordt toegepast; herinnert er evenwel aan dat dit niet in de plaats mag komen van menselijke betrokkenheid bij het vellen van vonnissen of in besluitvorming;

70.  herinnert aan het belang van de beginselen van governance, transparantie, onpartijdigheid, verantwoordingsplicht, eerlijkheid en intellectuele integriteit bij het gebruik van AI in het strafrecht;

71.  verzoekt de lidstaten dringend te beoordelen welke risico’s gepaard gaan met door AI gestuurde technologieën alvorens activiteiten te automatiseren die verband houden met de uitoefening van staatsgezag, met name op het gebied van justitie; roept hen op te beoordelen of er moet worden voorzien in waarborgen zoals toezicht door een deskundige en regels inzake beroepsethiek;

72.  merkt op dat bepaalde AI-technologieën de automatisering van informatieverwerking en handelingen op ongekende schaal mogelijk maken, bijvoorbeeld grootschalige controle op civiel en militair gebied, wat een bedreiging vormt voor de grondrechten en de weg vrijmaakt voor schending van de nationale soevereiniteit; pleit voor toezicht op grootschalige controleactiviteiten op grond van het internationaal recht, onder meer met betrekking tot kwesties van jurisdictie en handhaving; spreekt zijn ernstige bezorgdheid uit over de ontwikkeling van een aantal zeer indringende sociale scoringtoepassingen, aangezien deze een ernstig gevaar vormen voor de eerbiediging van de grondrechten; dringt aan op een expliciet verbod op grootschalige sociale scoring door overheidsinstanties om de rechten van burgers te beperken; pleit ervoor de verantwoordingsplicht van particuliere actoren onder het internationaal recht te versterken met het oog op de decisionele hegemonie en controle van bepaalde particuliere actoren over de ontwikkeling van die technologieën; verzoekt de Commissie, de Raad en de lidstaten in dit kader bijzondere aandacht te besteden aan het onderhandelen over en sluiten en ratificeren van internationale overeenkomsten die betrekking hebben op grensoverschrijdende familierechtelijke zaken, zoals gevallen van internationale kinderontvoering, en te waarborgen dat AI-systemen altijd onder doeltreffend menselijk toezicht worden toegepast met waarborging van een goede rechtsgang in de EU en in de landen die partij zijn bij deze overeenkomsten;

73.  verlangt dat het publiek in kennis wordt gesteld van het gebruik van AI op het gebied van justitie, en dat dit gebruik geen aanleiding geeft tot discriminatie op basis van programmering; benadrukt dat het recht van elke persoon op toegang tot een overheidsambtenaar moet worden geëerbiedigd, en dat dit ook geldt voor het recht van overheidsambtenaren om een beslissing te nemen en af te wijken van de uit AI ontvangen informatie indien zij dat gezien de details van de desbetreffende zaak noodzakelijk achten; beklemtoont dat de verweerder het recht heeft om overeenkomstig het nationaal recht in beroep te gaan zonder dat de rechter ooit van zijn verantwoordelijkheid wordt ontslagen;

74.  pleit er derhalve voor informatie over al deze toepassingen in de publieke en administratieve sfeer als informatie in het publieke domein aan te merken en discriminatie op basis van programmering te vermijden;

75.  benadrukt dat het belangrijk is te zorgen voor een degelijke invoering en een degelijk gebruik van AI; verzoekt de lidstaten hun civiel en militair personeel een passende opleiding te geven zodat zij discriminatie en vooroordelen in datasets nauwkeurig kunnen identificeren en voorkomen;

76.  is ten zeerste bezorgd over “deepfake”-technologieën die steeds realistischere vervalsingen van foto’s en van, geluids- en beeldfragmenten mogelijk maken die kunnen worden gebruikt voor chantage, het maken van valse nieuwsberichten, het ondermijnen van het publiek vertrouwen en het beïnvloeden van het openbaar debat; is van mening dat dergelijke praktijken het potentieel hebben om landen te ontwrichten, desinformatie te verspreiden en verkiezingen te beïnvloeden; dringt daarom aan op een verplichting waarbij de maker voor alle deepfake-materialen of andere realistisch ogende synthetische video’s moet vermelden dat zij “niet origineel” zijn, alsook op een strikte beperking voor het gebruik ervan voor verkiezingsdoeleinden en op een robuuste handhaving; pleit voor adequaat onderzoek op dit gebied om ervoor te zorgen dat technologieën om deze fenomenen te bestrijden gelijke tred houden met het slecht bedoeld gebruik van AI;

Vervoer

77.  neemt nota van het aanzienlijke economische potentieel van AI-toepassingen, onder meer voor de optimalisering van langetermijnprestaties, onderhoud, storingsvoorspelling en het plannen van de aanleg van vervoersinfrastructuur en gebouwen, alsmede voor veiligheid, energie-efficiëntie en kosten; verzoekt de Commissie daarom AI-onderzoek en de uitwisseling van goede praktijken op het gebied van vervoer te blijven bevorderen;

78.  wijst op de noodzaak om AI te stimuleren ter bevordering van de multimodaliteit, interoperabiliteit en energie-efficiëntie van alle vervoerswijzen teneinde de vervoersstromen van goederen en passagiers efficiënter te organiseren en te beheren, beter gebruik te maken van infrastructuur en middelen in het kader van het trans-Europees vervoersnetwerk (TEN‑T) en de belemmeringen voor de verwezenlijking van een echte interne Europese vervoersruimte aan te pakken;

79.  herinnert aan de voordelen van het Europees beheersysteem voor het spoorverkeer (ERTMS) – een naadloos systeem voor automatische treinbewaking, en ondersteunt de ontwikkeling en internationale standaardisatie van de automatisering van het treinverkeer;

80.  is ingenomen met de werkzaamheden van het onderzoeksproject betreffende het beheer van het luchtverkeer in het gemeenschappelijk Europees luchtruim (Sesar) op het gebied van drones en luchtverkeersbeveiligingssystemen, zowel civiel als militair;

81.  herinnert eraan dat autonome voertuigen een groot potentieel hebben om de mobiliteit en de veiligheid te verbeteren en gunstig zijn voor het milieu, en verzoekt de Commissie en de lidstaten te zorgen voor samenwerking tussen regelgevende instanties en alle partijen die betrokken zijn bij de invoering van geautomatiseerde voertuigen in het wegverkeer in de EU;

82.  wijst erop dat de mondiale scheepvaartindustrie ingrijpend is veranderd door de integratie van AI gedurende de afgelopen jaren; herinnert aan de huidige uitgebreide besprekingen in de Internationale Maritieme Organisatie over de doeltreffende integratie in haar regelgevingskader van nieuwe en opkomende technologieën, zoals autonome schepen;

83.  benadrukt dat intelligente vervoerssystemen de verkeerscongestie temperen, de veiligheid en toegankelijkheid verhogen en bijdragen aan meer efficiëntie en betere mobiliteitsoplossingen; vestigt de aandacht op de toegenomen blootstelling van traditionele vervoersnetwerken aan cyberdreigingen; herinnert aan het belang van voldoende middelen en verder onderzoek naar veiligheidsrisico’s bij het waarborgen van de veiligheid van geautomatiseerde systemen en de gegevens daarvan; is verheugd over de intentie van de Commissie om cyberveiligheid op te voeren als regulier agendapunt op vergaderingen van internationale organisaties op het gebied van vervoer;

84.  is ingenomen met de inspanningen om AI-systemen in de publieke sector in te voeren en zal de verdere besprekingen over de invoering van AI in het vervoer ondersteunen; verzoekt de Commissie een evaluatie van het gebruik van AI en vergelijkbare technologieën in de vervoerssector te verrichten en een niet-limitatieve lijst op te stellen van risicovolle segmenten in AI-systemen die besluiten in het kader van de voorrechten van het openbaar gezag op dit gebied vervangen;

85.  wijst erop dat het Europees Defensiefonds en de permanente gestructureerde samenwerking de samenwerking tussen de lidstaten en de Europese defensie-industrie moeten stimuleren om nieuwe Europese defensiecapaciteit op het gebied van AI te ontwikkelen en de voorzieningszekerheid te waarborgen, met inachtneming van ethische overwegingen; benadrukt dat versnippering moet worden voorkomen door bruggen te slaan tussen de verschillende actoren en toepassingsgebieden, door compatibiliteit en interoperabiliteit op alle niveaus te bevorderen en door zich te richten op gemeenschappelijke werkzaamheden op het gebied van architectuur en platformoplossingen; herinnert er bovendien aan dat de volgende Connecting Europe Facility, die ook slimme infrastructuur bevordert, zal voorzien in een fonds voor de aanpassing en ontwikkeling van civiele of militaire vervoersinfrastructuur voor tweeërlei gebruik in TEN‑T met het oog op de vergroting van synergieën tussen behoeften op civiel en defensiegebied en de verbetering van de militaire mobiliteit in de Unie; benadrukt daarom dat er op Europees niveau behoefte is aan meer investeringen, onderzoek en leiderschap in technologieën die een grote impact op de economische groei hebben en een aanzienlijk potentieel voor duaal gebruik;

86.  benadrukt dat veel investeringen in nieuwe technologieën voor vervoer en mobiliteit marktgedreven zijn, maar dat kant-en-klare commerciële technologieën en producten voor duaal gebruik vaak op een innoverende manier worden gebruikt voor militaire doeleinden; benadrukt daarom dat er rekening moet worden gehouden met het potentieel van duaal gebruik van op AI gebaseerde oplossingen bij de vaststelling van normen voor gebruik van AI op verschillende gebieden in commerciële en militaire sectoren; dringt aan op strenge ethische normen en streng ethisch beleid bij de ontwikkeling van defensietechnologieën, -producten en -besturingssystemen;

87.  wijst erop dat het effectieve vervoer van goederen, munitie, wapentuig en troepen een essentieel onderdeel is van een succesvolle militaire operatie; benadrukt dat AI naar verwachting een cruciale rol zal spelen in militaire logistiek en militair vervoer en op dat gebied talrijke mogelijkheden zal creëren; wijst erop dat landen overal ter wereld, waaronder EU-lidstaten, van AI gebruikmaken in hun wapens en andere systemen op platforms te land, ter zee en in de lucht; herinnert eraan dat AI-toepassingen in de vervoerssector nieuwe mogelijkheden kunnen bieden en nieuwe tactieken mogelijk kunnen maken, zoals de combinatie van veel systemen als drones, onbemande vaartuigen of tanks in een onafhankelijke en gecoördineerde operatie;

Internationaal privaatrecht

88.  merkt op dat de internationalisering van het menselijk handelen (zowel online, als in de reële wereld) tot een toename van het aantal rechtszaken in het kader van het internationaal privaatrecht leidt en dat AI kan helpen bij het oplossen van geschillen door het ontwikkelen van modellen voor het in elke zaak identificeren van de bevoegde jurisdictie en het toepasselijke recht, maar ook voor het in kaart brengen van de meest gevoelige wetsconflicten en het formuleren van voorstellen om deze op te lossen;

89.  is overigens van oordeel dat het grote publiek op passende wijze over elk gebruik van AI op het vlak van het internationaal privaatrecht moet worden geïnformeerd, dat discriminatie op basis van programmering, die ertoe zou leiden dat stelselmatig de voorkeur wordt gegeven aan het nationale recht van één bepaald land in plaats van het nationaal recht van een ander land, moet worden vermeden, en dat het recht op een bij wet aangewezen rechter, het rechtsmiddel en het recht van elke rechter om de door AI voorgestelde oplossing af te wijzen, moeten worden geëerbiedigd;

90.  beklemtoont dat voor het gebruik van zelfrijdende auto’s in de Europese Unie, dat tot een zeer groot aantal geschillen op het vlak van het internationaal privaatrecht kan gaan leiden, specifieke Europese regelgeving moet worden ontwikkeld, met aanduiding van het toepasselijke rechtskader in het geval van schade tussen voertuigen uit twee verschillende rechtsgebieden;

91.  wijst erop dat de EU, gezien het toegenomen belang van onderzoek en ontwikkeling in de privésector en enorme investeringen uit derde landen, zware concurrentie ondervindt; schaart zich derhalve achter de inspanningen van de EU om haar concurrentievoordelen verder te vergroten en is van oordeel dat de EU moet streven naar een voortrekkersrol bij het vaststellen van regels voor AI in een uiterst geconnecteerde wereld, door een doeltreffende strategie ten aanzien van haar externe partners te ontwikkelen en zich meer inspanningen te getroosten om op internationaal niveau tot mondiale ethische normen voor AI te komen die aansluiten bij de vereisten inzake veiligheid en consumentenbescherming en bij de Europese waarden en burgerrechten, met inbegrip van de grondrechten; acht dit ook van cruciaal belang voor het concurrentievermogen en het voortbestaan van het Europese bedrijfsleven; verzoekt de Commissie en de lidstaten de samenwerking met derde landen en internationale organisaties als de VN, OESO, G7 en G20 te versterken en een ruimere dialoog aan te gaan om de uitdagingen aan te pakken die voortvloeien uit de ontwikkeling van deze snel veranderende technologie; is van mening dat met deze inspanningen met name moet worden gestreefd naar het vaststellen van gemeenschappelijke normen en het verbeteren van de interoperabiliteit van door AI aangestuurde systemen; verzoekt de Commissie de dialoog, nauwere samenwerking en synergie tussen de lidstaten, onderzoekers, academici, het maatschappelijk middenveld en de particuliere sector, met name toonaangevende bedrijven, en de strijdkrachten te bevorderen zodat wordt gewaarborgd dat de besluitvormingsprocessen voor regelingen in verband met defensiegerelateerde AI inclusief zijn;

Leidende beginselen

92.  is van oordeel dat AI-technologieën en -netwerksystemen moeten streven naar het bieden van rechtszekerheid voor burgers; onderstreept derhalve dat de regels inzake wets- en jurisdictieconflicten van toepassing moeten blijven, rekening houdend met de belangen van de burgers en de noodzaak om het risico op forumshopping te beperken; herinnert eraan dat AI in het rechterlijke proces geen mensen kan vervangen wanneer uitspraak moet worden gedaan of een besluit moet worden genomen, aangezien besluiten altijd door een mens moet worden genomen en moeten zijn onderworpen aan strikt menselijk toezicht met waarborging van een goede rechtsgang; dringt erop aan dat de rechterlijke instanties, wanneer zij gebruikmaken van bewijs dat wordt geleverd door op AI gebaseerde technologieën, moeten worden verplicht hun beslissingen te motiveren;

93.  geeft aan dat AI, een voorbeeld van wetenschappelijke vooruitgang, niet tot een uitholling van het recht mag leiden, maar juist aan wettelijke regels (in de Europese Unie aan door de Europese instellingen en haar lidstaten vastgestelde wetgeving) moet zijn onderworpen, en dat het gebruik van AI, robotica en aanverwante technologieën onder geen beding in strijd mag zijn met de grondrechten, de democratie of de rechtstaat;

94.  benadrukt dat AI die wordt gebruikt voor defensiedoeleinden verantwoord, billijk, traceerbaar, betrouwbaar en beheersbaar moet zijn;

95.  is van mening dat artificiële intelligentie, robotica en aanverwante technologieën, met inbegrip van de door deze technologieën gebruikte of geproduceerde software, algoritmen en gegevens, ongeacht in welke sector deze worden gebruikt, op een veilige en technisch verantwoorde wijze moeten worden ontwikkeld;

o
o   o

96.  verzoekt zijn Voorzitter deze resolutie te doen toekomen aan de Raad en de Commissie.

(1) PB L 180 van 19.7.2000, blz. 22.
(2) PB L 303 van 2.12.2000, blz. 16.
(3) PB L 119 van 4.5.2016, blz. 1.
(4) PB L 119 van 4.5.2016, blz. 89.
(5) PB L 252 van 8.10.2018, blz. 1.
(6) PB C 252 van 18.7.2018, blz. 239.
(7) PB C 307 van 30.8.2018, blz. 163.
(8) PB C 433 van 23.12.2019, blz. 86.
(9) PB C 433 van 23.12.2019, blz. 42.
(10) PB C 449 van 23.12.2020, blz. 37.
(11) Richtlijn 2005/36/EG van het Europees Parlement en de Raad van 7 september 2005 betreffende de erkenning van beroepskwalificaties (PB L 255 van 30.9.2005, blz. 22).
(12) Richtlijn 2006/42/EG van het Europees Parlement en de Raad van 17 mei 2006 betreffende machines en tot wijziging van Richtlijn 95/16/EG (PB L 157 van 9.6.2006, blz. 24).
(13) Richtlijn (EU) 2018/958 van het Europees Parlement en de Raad van 28 juni 2018 betreffende een evenredigheidsbeoordeling voorafgaand aan een nieuwe reglementering van beroepen (PB L 173 van 9.7.2018, blz. 25).

Laatst bijgewerkt op: 22 april 2021Juridische mededeling - Privacybeleid