Index 
 Vorige 
 Volgende 
 Volledige tekst 
Procedure : 2020/2266(INI)
Stadium plenaire behandeling
Documentencyclus : A9-0088/2022

Ingediende teksten :

A9-0088/2022

Debatten :

PV 03/05/2022 - 3
CRE 03/05/2022 - 3

Stemmingen :

PV 03/05/2022 - 8.13
CRE 03/05/2022 - 8.13

Aangenomen teksten :

P9_TA(2022)0140

Aangenomen teksten
PDF 326kWORD 127k
Dinsdag 3 mei 2022 - Straatsburg
Artificiële intelligentie in het digitale tijdperk
P9_TA(2022)0140A9-0088/2022

Resolutie van het Europees Parlement van 3 mei 2022 over artificiële intelligentie in het digitale tijdperk (2020/2266(INI))

Het Europees Parlement,

–  gezien de artikelen 4, 16, 26, 114, 169, 173, 179, 180, 181 et 187 van het Verdrag betreffende de werking van de Europese Unie,

–  gezien het Handvest van de grondrechten van de Europese Unie,

–  gezien het VN-Verdrag inzake de rechten van het kind en algemene opmerking nr. 25 van het VN-Comité inzake de rechten van het kind van 2 maart 2021 over de rechten van kinderen in verband met de digitale omgeving,

–  gezien de aanbeveling van de Organisatie van de Verenigde Naties voor Onderwijs, Wetenschap en Cultuur (Unesco) over de ethiek van artificiële intelligentie, aangenomen door de Algemene Conferentie van de Unesco tijdens haar 41e zitting op 24 november 2021,

–  gezien het Interinstitutioneel Akkoord over beter wetgeven van 13 april 2016(1) en de richtsnoeren voor betere regelgeving van de Commissie,

–  gezien de mededeling van de Commissie van 24 maart 2021 over de EU-strategie voor de rechten van het kind (COM(2021)0142),

–  gezien zijn resolutie van 7 oktober 2021 over de stand van de cyberdefensievermogens van de EU(2),

–  gezien zijn resolutie van 15 december 2021 over de uitdagingen en vooruitzichten voor multilaterale regelingen inzake wapenbeheersing en ontwapening met betrekking tot massavernietigingswapens(3),

–  gezien Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens, en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming – AVG)(4),

–  gezien Verordening (EU) 2021/694 van het Europees Parlement en de Raad van 29 april 2021 tot oprichting van het programma Digitaal Europa en tot intrekking van Besluit (EU) 2015/2240(5),

–  gezien Verordening (EU) 2021/695 van het Europees Parlement en de Raad van 28 april 2021 tot vaststelling van Horizon Europa – het kaderprogramma voor onderzoek en innovatie, tot vaststelling van de regels voor deelname en verspreiding en tot intrekking van Verordeningen (EU) nr. 1290/2013 en (EU) nr. 1291/2013(6),

–  gezien het voorstel voor een verordening van het Europees Parlement en de Raad van 21 april 2021 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021)0206),

–  gezien het voorstel voor een verordening van het Europees Parlement en de Raad betreffende Europese datagovernance (datagovernanceverordening) van 25 november 2020 (COM(2020)0767),

–  gezien Verordening (EU) 2018/1807 van het Europees Parlement en de Raad van 14 november 2018 inzake een kader voor het vrije verkeer van niet-persoonsgebonden gegevens in de Europese Unie(7),

–  gezien Verordening (EU) 2021/697 van het Europees Parlement en de Raad van 29 april 2021 tot oprichting van het Europees Defensiefonds en tot intrekking van Verordening (EU) 2018/1092(8),

–  gezien Richtlijn (EU) 2019/770 van het Europees Parlement en de Raad van 20 mei 2019 betreffende bepaalde aspecten van overeenkomsten voor de levering van digitale inhoud en digitale diensten(9),

–  gezien Verordening (EU) 2021/1173 van de Raad van 13 juli 2021 tot oprichting van de Gemeenschappelijke Onderneming Europese high-performance computing en tot intrekking van Verordening (EU) 2018/1488(10),

–  gezien de mededeling van de Commissie van 25 april 2018 getiteld “Kunstmatige intelligentie voor Europa” (COM(2018)0237),

–  gezien de mededeling van de Commissie van 7 december 2018 met als titel “Gecoördineerd plan inzake kunstmatige intelligentie” (COM(2018)0795),

–  gezien de mededeling van de Commissie van 8 april 2019 met als titel “Vertrouwen kweken in mensgerichte kunstmatige intelligentie” (COM(2019)0168),

–  gezien het witboek van de Commissie van 19 februari 2020, getiteld “Kunstmatige intelligentie – een Europese benadering op basis van excellentie en vertrouwen” (COM(2020)0065),

–  gezien het groenboek van de Commissie van 27 januari 2021 over de vergrijzing, getiteld “Bevorderen van intergenerationele solidariteit en verantwoordelijkheid” (COM(2021)0050),

–  gezien de mededeling van de Commissie van 19 februari 2020, getiteld “Een Europese datastrategie” (COM(2020)0066),

–  gezien de mededeling van de Commissie van 19 februari 2020 getiteld “De digitale toekomst van Europa vormgeven” (COM(2020)0067),

–  gezien de mededeling van de Commissie van 10 maart 2020 over een nieuwe industriestrategie voor Europa (COM(2020)0102) en van 5 mei 2021 met als titel “Actualisering van de nieuwe industriestrategie van 2020: een sterkere eengemaakte markt tot stand brengen voor het herstel van Europa” (COM(2021)0350),

–  gezien de mededeling van de Commissie van 30 september 2020 getiteld “Actieplan voor digitaal onderwijs 2021-2027 – Onderwijs en opleiding herbronnen voor het digitale tijdperk” (COM(2020)0624),

–  gezien de mededeling van de Commissie van 9 maart 2021 met als titel “Digitaal kompas 2030: de Europese aanpak voor het digitale decennium” (COM(2021)0118),

–  gezien het voorstel voor een besluit van het Europees Parlement en de Raad van 15 september 2021 tot vaststelling van het beleidsprogramma 2030 “Traject naar het digitale decennium” (COM(2021)0574),

–  gezien de studie van de Commissie van 28 juli 2020 met als titel “Enquête onder Europese bedrijven inzake het gebruik van op kunstmatige intelligentie gebaseerde technologieën”,

–  gezien de studie van de Commissie van 26 november 2020, getiteld “Energy-efficient Cloud Computing Technologies and Policies for an Eco-friendly Cloud Market”,

–  gezien het verslag van de Commissie aan het Europees Parlement, de Raad en het Europees Economisch en Sociaal Comité van 19 februari 2020 over de gevolgen van kunstmatige intelligentie, het internet der dingen en robotica op het gebied van veiligheid en aansprakelijkheid (COM(2020)0064),

–  gezien de conclusies van de Raad van 22 maart 2021 over de EU-strategie inzake cyberbeveiliging voor het digitale tijdperk,

–  gezien het verslag van 8 april 2019 van de deskundigengroep op hoog niveau inzake kunstmatige intelligentie getiteld “Ethische richtsnoeren voor betrouwbare KI”,

–  gezien het verslag van 8 april 2019 van de deskundigengroep op hoog niveau inzake kunstmatige intelligentie getiteld “Een definitie van KI: de belangrijkste capaciteiten en wetenschappelijke disciplines”,

–  gezien het verslag van 26 juni 2019 van de deskundigengroep op hoog niveau inzake kunstmatige intelligentie getiteld “Policy and investment recommendations for trustworthy AI”,

–  gezien de Unesco-publicatie van maart 2019 getiteld “I’d blush if I could: closing gender divides in digital skills through education”,

–  gezien het verslag van het Bureau voor de grondrechten van de Europese Unie van 14 december 2020 getiteld “Op het juiste pad voor de toekomst – Artificiële intelligentie en de grondrechten”,

–  gezien de aanbeveling van de Raad van de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO) van 22 mei 2019 over artificiële intelligentie,

–  gezien het VN-platform voor dialoog over artificiële intelligentie: AI for Good Global Summit,

–  gezien de AI-beginselen van de G20 van 9 juni 2019,

–  gezien het rapport van de Wereldgezondheidsorganisatie van 28 juni 2021 over artificiële intelligentie in de gezondheidszorg, met daarin zes leidende beginselen voor het ontwerp en het gebruik van artificiële intelligentie,

–  gezien het initiatiefadvies van het Europees Economisch en Sociaal Comité van 31 mei 2017 getiteld “Kunstmatige intelligentie – De gevolgen van kunstmatige intelligentie voor de (digitale) eengemaakte markt, de productie, consumptie, werkgelegenheid en samenleving”(11),

–  gezien het verslag van 21 november 2019 van de deskundigengroep op hoog niveau voor aansprakelijkheid en nieuwe technologieën getiteld “Liability for Artificial Intelligence and other emerging digital technologies”,

–  gezien de publicatie van het ad-hoccomité voor artificiële intelligentie (CAHAI) van de Raad van Europa van december 2020 getiteld “Towards Regulation of AI systems – Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law”,

–  gezien het werkdocument van het European University Institute van oktober 2020 getiteld “Models of Law and Regulation for AI”,

–  gezien het gezamenlijk rapport van Trend Micro Research, het Interregionaal criminologisch en gerechtelijk onderzoeksinstituut van de VN en Europol van 19 november 2020, getiteld “Malicious Uses and Abuses of Artificial Intelligence”,

–  gezien de politieke beleidslijnen van de Commissie voor 2019-2024 getiteld “Een Unie die de lat hoger legt: Mijn agenda voor Europa”,

–  gezien het arrest van het Hof van Justitie van de Europese Unie van 16 juli 2020 in zaak C-311/18 (Schrems II),

–  gezien zijn resolutie van 16 februari 2017 met aanbevelingen aan de Commissie over civielrechtelijke regels inzake robotica(12),

–  gezien zijn resolutie van 1 juni 2017 over de digitalisering van de Europese industrie(13),

–  gezien zijn resolutie van 6 oktober 2021 over het EU-beleidskader voor verkeersveiligheid 2021-2030 – Volgende stappen op weg naar “Vision Zero”(14),

–  gezien zijn resolutie van 12 september 2018 over autonome wapensystemen(15),

–  gezien zijn resolutie van 12 februari 2019 inzake een alomvattend Europees industriebeleid inzake artificiële intelligentie en robotica(16),

–  gezien zijn resolutie van 12 februari 2020 getiteld “Geautomatiseerde besluitvormingsprocessen: waarborging van consumentenbescherming en vrij verkeer van goederen en diensten”(17),

–  gezien zijn resolutie van 20 oktober 2020 met aanbevelingen aan de Commissie betreffende het civielrechtelijk aansprakelijkheidsstelsel voor kunstmatige intelligentie(18),

–  gezien zijn resolutie van 20 oktober 2020 over intellectuele-eigendomsrechten voor de ontwikkeling van technologieën op het gebied van artificiële intelligentie(19),

–  gezien zijn resolutie van 20 oktober 2020 met aanbevelingen aan de Commissie betreffende een kader voor ethische aspecten van artificiële intelligentie, robotica en aanverwante technologieën(20),

–  gezien zijn resolutie van 20 januari 2021 over artificiële intelligentie: kwesties betreffende de interpretatie en toepassing van het internationaal recht, voor zover dit van toepassing is op de EU, op het gebied van civiel en militair gebruik en staatsgezag buiten de werkingssfeer van het strafrecht(21),

–  gezien zijn resolutie van 20 mei 2021 getiteld “De digitale toekomst van Europa vormgeven: belemmeringen voor de werking van de digitale eengemaakte markt wegnemen en het gebruik van AI voor Europese consumenten verbeteren”(22),

–  gezien zijn resolutie van 25 maart 2021 over een Europese datastrategie(23),

–  gezien zijn resolutie van 19 mei 2021 over kunstmatige intelligentie in het onderwijs en in de culturele en audiovisuele sector(24),

–  gezien zijn resolutie van 6 oktober 2021 over artificiële intelligentie in het strafrecht en het gebruik ervan door politiële en gerechtelijke instanties in strafzaken(25),

–  gezien de studie van zijn directoraat-generaal Intern Beleid (DG IPOL) van juni 2021 met als titel “Artificial Intelligence diplomacy – Artificial Intelligence governance as a new European Union external policy tool”,

–  gezien de studie van DG IPOL van mei 2021 met als titel “Challenges and limits of an open source approach to Artificial Intelligence”,

–  gezien de studie van DG IPOL van mei 2021 met als titel “Artificial Intelligence market and capital flows – AI and the financial sector at crossroads”,

–  gezien de studie van DG IPOL van juni 2021 met als titel “Improving working conditions using Artificial Intelligence”,

–  gezien de studie van DG IPOL van mei 2021 met als titel “The role of Artificial Intelligence in the European Green Deal”,

–  gezien de studie van DG IPOL van juli 2021 met als titel “Artificial Intelligence in smart cities and urban mobility”,

–  gezien de studie van DG IPOL van juli 2021 met als titel “Artificial Intelligence and public services”,

–  gezien de studie van DG IPOL van juli 2021 met als titel “European Union data challenge”,

–  gezien de studie van DG IPOL van juni 2020 met als titel “Opportunities of Artificial Intelligence”,

–  gezien de studie van DG IPOL van oktober 2021 met als titel “Europe’s Digital Decade and Autonomy”,

–  gezien de studie van DG IPOL van januari 2022 met als titel “Identification and assessment of existing and draft EU legislation in the digital field”,

–  gezien de studie van de Onderzoeksdienst van het Europees Parlement (EPRS) van september 2020 met als titel “Civil liability regime for artificial intelligence – European added value assessment”,

–  gezien de studie van de afdeling Wetenschappelijke Toekomstverkenningen van de EPRS van december 2020 met als titel “Data subjects, digital surveillance, AI and the future of work”,

–  gezien de studie van de EPRS van september 2020 met als titel “European framework on ethical aspects of artificial intelligence, robotics and related technologies”,

–  gezien de studie van de EPRS van maart 2020 met als titel “The ethics of artificial intelligence: Issues and initiatives”,

–  gezien de studie van de EPRS van juni 2020 met als titel “Artificial Intelligence: How does it work, why does it matter, and what can we do about it?”,

–  gezien de studie van de EPRS van juli 2020 met als titel “Artificial Intelligence and Law enforcement – Impact on Fundamental Rights”,

–  gezien de studie van de EPRS van juni 2020 met als titel “The impact of the General Data Protection Regulation (GDPR) on artificial intelligence”,

–  gezien de studie van de EPRS van april 2020 met als titel “The White Paper on Artificial Intelligence”,

–  gezien de studie van de EPRS van september 2021 met als titel “Regulating facial recognition in the EU”,

–  gezien de studie van de EPRS van februari 2021 met als titel “The future of work: Trends, challenges and potential initiatives”,

–  gezien de studie van de EPRS van juni 2021 met als titel “Robo-advisors: How do they fit in the existing EU regulatory framework, in particular with regard to investor protection?”,

–  gezien de studie van de EPRS van september 2021 met als titel “China’s ambitions in artificial intelligence”,

–  gezien de studie van de EPRS van juni 2021 met als titel “What if we chose new metaphors for artificial intelligence?”,

–  gezien de studie van de EPRS van januari 2018 met als titel “Understanding artificial intelligence”,

–  gezien de studie van de EPRS van juli 2021 met als titel “Tackling deepfakes in European Policy”,

–  gezien het werkdocument van de Bijzondere Commissie artificiële intelligentie in het digitale tijdperk (AIDA) van februari 2021 getiteld “Artificial Intelligence and Health”,

–  gezien het werkdocument van AIDA van maart 2021 getiteld “Artificial Intelligence and the Green Deal”,

–  gezien het werkdocument van AIDA van maart 2021 getiteld “The External Policy Dimensions of AI”,

–  gezien het werkdocument van AIDA van mei 2021 getiteld “AI and Competitiveness”,

–  gezien het werkdocument van AIDA van juni 2021 getiteld “AI and the Future of Democracy”,

–  gezien het werkdocument van AIDA van juni 2021 getiteld “AI and the Labour Market”,

–  gezien artikel 54 van zijn Reglement,

–  gezien het verslag van de Bijzondere Commissie artificiële intelligentie in het digitale tijdperk (A9-0088/2022),

1.Inleiding

1.  merkt op dat de wereld aan de vooravond staat van de vierde industriële revolutie; wijst erop dat, vergeleken met de drie voorgaande golven, die in gang werden gezet door de toepassing van stoom, elektriciteit en daarna computers, de vierde golf kracht put uit een overvloed aan gegevens gecombineerd met sterke algoritmen en een grote rekencapaciteit; benadrukt dat de huidige digitale revolutie wordt bepaald door haar wereldwijde omvang, snelle convergentie en de enorme gevolgen van opkomende technologische doorbraken voor staten, economieën, samenlevingen, internationale betrekkingen en het milieu; wijst erop dat deze radicale en grote veranderingen uiteenlopende gevolgen hebben in verschillende geledingen van de samenleving, en dat hierbij de doelstellingen, geografische ligging en sociaaleconomische context een rol spelen; benadrukt dat in het kader van de digitale transitie de grondrechten ten volle geëerbiedigd moeten worden en dat gewaarborgd moet worden dat digitale technologieën de mensheid ten goede komen;

2.  merkt op dat de digitale revolutie tegelijkertijd een wereldwijde concurrentie op gang heeft gebracht als gevolg van de enorme economische waarde en technologische capaciteiten die gegenereerd zijn in economieën die de meeste middelen inzetten voor onderzoek, ontwikkeling en marketing op het gebied van toepassingen van artificiële intelligentie (AI); merkt op dat digitaal concurrentievermogen en open strategische autonomie in verscheidene landen een centrale beleidsdoelstelling zijn geworden; benadrukt het groeiende besef onder beleidsmakers dat opkomende technologieën de geopolitieke machtsstatus van gehele landen kunnen beïnvloeden;

3.  wijst erop dat Europa, dat eeuwenlang de norm heeft bepaald, de technologische vooruitgang heeft gedomineerd en het voortouw heeft genomen op het gebied van hoogwaardige productie en toepassing, daardoor achterop is geraakt en veel minder heeft ontwikkeld en geïnvesteerd dan leidende economieën als de VS of China op de digitale markt, maar wel relatief concurrerend is als het gaat om het aantal publicaties op het gebied van onderzoek naar AI; erkent het risico dat de Europese actoren worden gemarginaliseerd bij de ontwikkeling van mondiale normen en de vooruitgang van de technologie en dat de Europese waarden in het gedrang komen;

4.  benadrukt ten eerste dat digitale instrumenten steeds vaker voor manipulatie en misbruik gebruikt worden, zowel door sommige ondernemingen als door autocratische regeringen, met als doel democratische politieke systemen te ondermijnen, hetgeen tot een botsing tussen politieke systemen zou kunnen leiden; legt uit dat digitale spionage, sabotage, kleinschalige oorlogvoering en desinformatiecampagnes een uitdaging vormen voor democratische samenlevingen;

5.  wijst erop dat digitale bedrijfsmodellen gekenmerkt worden door een grote mate van schaalbaarheid en bovendien sterke netwerkeffecten mogelijk maken; wijst erop dat op veel digitale markten sprake is van een hoge mate van marktconcentratie, waardoor een klein aantal technologieplatforms, die momenteel vooral in de VS gevestigd zijn, het voortouw kunnen nemen bij de commercialisering van baanbrekende technologische innovaties, de beste ideeën, talenten en bedrijven kunnen aantrekken en buitengewoon winstgevend kunnen worden; waarschuwt ervoor dat actoren die een dominante marktpositie hebben in de data-economie waarschijnlijk ook een dominante marktpositie zullen kunnen verwerven in de opkomende AI-economie; wijst erop dat slechts acht van de digitale ondernemingen in de huidige top-200 van digitale ondernemingen in de EU gevestigd zijn; benadrukt dat de voltooiing van een echte digitale eengemaakte markt in dit verband van het grootste belang is;

6.  benadrukt dat de wereldwijde concurrentie om het leiderschap op technologisch gebied daardoor een prioriteit in de EU is geworden; benadrukt dat als de EU niet snel en moedig optreedt, zij uiteindelijk de regels en normen van anderen zal moeten volgen en dat dit schadelijke gevolgen kan hebben voor de politieke stabiliteit, de sociale zekerheid, de grondrechten, de individuele vrijheden en het economisch concurrentievermogen;

7.  stelt dat AI een van de belangrijkste opkomende technologieën is binnen de vierde industriële revolutie; merkt op dat AI de digitale economie voedt, omdat het de introductie van innovatieve producten en diensten mogelijk maakt, de keuze voor de consument kan vergroten en productieprocessen efficiënter kan maken; stelt vast dat de bijdrage van AI aan de wereldeconomie in 2030 naar verwachting meer dan 11 biljoen EUR zal bedragen; benadrukt tegelijkertijd dat AI-technologieën het risico inhouden dat de menselijke invloed afneemt; wijst erop dat AI een op de mens gerichte, betrouwbare technologie moet blijven en de menselijke autonomie niet mag verdringen en niet mag leiden tot afname van individuele vrijheid; benadrukt dat ervoor gezorgd moet worden dat deze vierde industriële revolutie inclusief is en dat niemand aan zijn lot wordt overgelaten;

8.  suggereert dat er een wereldwijde strijd is om AI-leiderschap; wijst erop dat economieën die op winstgevende wijze AI-technologieën ontwikkelen of produceren of deze op succesvolle wijze toepassen naar verwachting enorme winsten zullen kunnen behalen en dat ook de landen waar dergelijke waardecreatie plaatsvindt daarvan de vruchten zullen plukken; onderstreept dat AI geen almachtige technologie is, maar een doeltreffende reeks hulpmiddelen en technieken die ten dienste van de samenleving kunnen worden gesteld; legt uit dat hoe technologieën werken afhangt van hoe wij ze ontwerpen; wijst erop dat de EU heeft verklaard voornemens te zijn een pioniersfunctie te vervullen bij het opzetten van een regelgevingskader inzake AI; benadrukt niettemin dat het van cruciaal belang is dat de EU de reglementerende benadering kan bepalen, met inbegrip van de bescherming van de grondrechten en fundamentele vrijheden, en op mondiaal gebied het voortouw moet nemen voor wat de vaststelling van normen betreft; benadrukt derhalve het belang van het Europese concurrentievermogen op het gebied van AI en het vermogen van de EU om op internationaal niveau vorm te geven aan het regelgevingslandschap; benadrukt dat bepaalde toepassingen van AI individuele en maatschappelijke risico’s kunnen inhouden die de grondrechten in gevaar kunnen brengen en derhalve door beleidsmakers moeten worden aangepakt, zodat AI daadwerkelijk een instrument kan worden dat ten dienste staat van de mens en de samenleving en het algemeen welzijn en het algemeen belang nastreeft;

9.  merkt op dat een duidelijk regelgevingskader, politiek engagement en een proactievere instelling, waaraan het momenteel vaak ontbreekt, nodig zijn opdat de Europese actoren succesvol kunnen zijn in het digitale tijdperk en technologische leiders kunnen worden op het gebied van AI; concludeert dat op basis van een dergelijke aanpak zowel de burgers als het bedrijfsleven in de EU profijt kunnen trekken van AI en van de grote kans die deze biedt om het concurrentievermogen te versterken, ook met betrekking tot welvaart en welzijn; onderstreept dat de regelgevingskaders zodanig moeten worden vormgegeven dat zij geen ongerechtvaardigde belemmeringen opwerpen die Europese actoren verhinderen succesvol te zijn in het digitale tijdperk, met name voor start-ups en kleine en middelgrote ondernemingen (kmo’s); benadrukt dat particuliere en publieke investeringen aanzienlijk moeten worden verhoogd om een klimaat te scheppen waarin meer Europese succesverhalen op ons continent ontstaan en zich ontwikkelen;

10.  benadrukt dat de snelle technologische vooruitgang die door AI wordt ingevoerd, steeds meer onlosmakelijk verbonden is met de meeste gebieden van menselijke activiteit en ook gevolgen zal hebben voor de bestaansmiddelen van iedereen die niet over de nodige vaardigheden beschikt om zich snel genoeg aan deze nieuwe technologieën aan te passen; wijst erop dat, hoewel het bereiken van digitale geletterdheid door bij- en omscholing veel van de daaruit voortvloeiende sociaaleconomische problemen kan helpen oplossen, deze effecten ook moeten worden aangepakt in de context van socialezekerheidsstelsels, stedelijke en plattelandsinfrastructuur, en democratische processen;

11.  benadrukt dat de doelstellingen en belangen van vrouwen en kwetsbare groepen bij de digitale transitie in aanmerking moeten worden genomen; benadrukt in dit verband dat in 2018 slechts 22 % van de personen die werkzaam waren op het gebied van AI in de wereld vrouw was, een probleem dat stereotypen en vooroordelen alleen maar in stand houdt en verankert; erkent dat het recht op gelijkheid voor de wet, het recht op privacy, het recht op vrijheid van meningsuiting en het recht op deelname aan het culturele en politieke leven bij het gebruik van AI-technologieën moeten worden gevrijwaard, met name voor minderheidsgemeenschappen;

2. Mogelijke kansen, risico’s en belemmeringen bij het gebruik van AI: zes casestudy’s die zijn onderzocht door de commissie AIDA

12.  herinnert eraan dat AI gebaseerd is op software die gebruikmaakt van waarschijnlijkheidsmodellen en algoritmische voorspellingen om een reeks specifieke doelstellingen te bereiken; wijst erop dat de term AI een overkoepelende term is waaronder een breed scala aan oude en nieuwe technologieën, technieken en benaderingen valt, ook aan te duiden als “artificiële-intelligentiesystemen”, waarmee alle op machines gebaseerde systemen worden bedoeld die vaak weinig meer gemeen hebben dan het feit dat ze geleid worden door een bepaald aantal door mensen vastgestelde doelstellingen, met een variërende mate van autonomie in hun handelingen, en dat zij op basis van beschikbare gegevens voorspellingen of aanbevelingen kunnen doen of besluiten kunnen nemen; merkt op dat sommige van deze technologieën weliswaar al breed worden gebruikt, maar andere nog worden ontwikkeld of zelfs pas speculatieve concepten zijn die in de toekomst al dan niet zullen bestaan;

13.  wijst erop dat er een aanzienlijk verschil bestaat tussen symbolische AI, de belangrijkste benadering van AI van de jaren vijftig tot negentig van de vorige eeuw, en machinaal leren en gegevensgestuurde AI, die overheersten sinds de jaren nul; verduidelijkt dat AI tijdens de eerste golf werd ontwikkeld door de kennis en ervaring van deskundigen te coderen als een reeks regels die vervolgens door een machine werd uitgevoerd;

14.  merkt op dat in de tweede golf de geautomatiseerde leerprocessen van algoritmen op basis van de verwerking van een grote hoeveelheid gegevens, het vermogen om input van meerdere verschillende bronnen samen te brengen en complexe weergaven van een bepaalde omgeving te vormen, en de identificatie van patronen AI-systemen complexer, autonomer en ondoorzichtiger hebben gemaakt, wat kan leiden tot minder verklaarbare uitkomsten; benadrukt dat de bestaande AI derhalve uiteenvalt in veel verschillende onderliggende domeinen en technieken, waarbij deep learning bijvoorbeeld een deelgebied vormt van machinaal leren, hetgeen weer een deelgebied is van AI;

15.  merkt op dat, hoewel de huidige AI veel effectiever en krachtiger is geworden dan de symbolische AI, dankzij de aanzienlijke toename van de rekencapaciteit, zij nog altijd alleen duidelijk gedefinieerde taken kan oplossen in domeinspecifieke niches zoals schaken of beeldherkenning en dat de programmering ervan niet tot doel heeft de acties die het AI-systeem uitvoert ten volle te herkennen; benadrukt dat Ai-systemen – in tegenstelling tot wat hun naam doet vermoeden – geen “intelligentie” in menselijke zin hebben; wijst erop dat zij derhalve “beperkte” of “zwakke” AI wordt genoemd en nog steeds niet meer is dan een instrument dat leidt tot aanbevelingen en voorspellingen; merkt bijvoorbeeld op dat zelfrijdende auto’s functioneren aan de hand van een combinatie van verschillende AI-systemen met één taak die samen een driedimensionale kaart kunnen vormen van de omgeving van het voertuig zodat het besturingssysteem beslissingen kan nemen;

16.  benadrukt dat veel angsten in verband met AI gebaseerd zijn op hypothetische concepten zoals algemene AI, artificiële superintelligentie en singulariteit die er in theorie toe kunnen leiden dat machine-intelligentie op veel gebieden beter presteert dan menselijke intelligentie; beklemtoont dat er twijfel bestaat over de vraag of deze speculatieve AI wel tot stand kan worden gebracht met onze technologieën en natuurwetenschappelijke wetten; is niettemin van mening dat de huidige risico’s die momenteel verbonden zijn aan op AI gebaseerde besluitvorming door de wetgevers moeten worden aangepakt, aangezien het aantoonbaar duidelijk is dat schadelijke gevolgen, zoals discriminatie op grond van ras en geslacht, reeds zijn toe te schrijven aan bepaalde gevallen waarin AI zonder waarborgen is ingezet;

17.  onderstreept dat het leeuwendeel van de momenteel gebruikte AI-systemen weinig risico’s met zich meebrengt; verwijst bijvoorbeeld naar automatische vertaling, “Eureka machines”, speelautomaten en robots die repetitieve productieprocessen uitvoeren; concludeert dat sommige gebruikssituaties als riskant kunnen worden aangemerkt en dat voor dergelijke situaties regelgevende maatregelen en doeltreffende waarborgen nodig zijn, indien deze nog niet ingesteld zijn;

18.  moedigt een publiek debat aan over de vraag hoe het enorme potentieel van AI kan worden verkend op basis van fundamentele Europese waarden, de beginselen van transparantie, verklaarbaarheid, eerlijkheid, verantwoordingsplicht, verantwoordelijkheid en betrouwbaarheid, alsmede het beginsel dat AI en robotica op de mens gericht moeten zijn en ontwikkeld moeten worden om de kennis en vaardigheden van mensen aan te vullen; benadrukt dat AI op een aanzienlijk aantal gebieden van het menselijk leven, van duurzaamheid tot gezondheidszorg, voordelen kan bieden als een hulpmiddel voor gebruikers en professionals, waardoor de capaciteiten van mensen worden verbeterd zonder dat daarbij het vermogen van mensen om vrij te handelen en te beslissen in de weg wordt gestaan; benadrukt dat de overeengekomen ethische beginselen en vereisten voor AI in alle domeinen waarin AI wordt toegepast, moeten worden geoperationaliseerd, en dat daarbij de nodige waarborgen moeten worden ingebouwd, wat het vertrouwen van de burgers zal vergroten, waardoor ze de voordelen van AI zullen omarmen;

19.  onderstreept dat het risiconiveau van een bepaalde AI-toepassing aanzienlijk kan variëren afhankelijk van de waarschijnlijkheid en ernst van schade; benadrukt daarom dat de wettelijke vereisten hieraan moeten worden aangepast, in overeenstemming met een risicogebaseerde benadering en, indien gerechtvaardigd, naar behoren rekening houdend met het voorzorgsbeginsel; benadrukt dat in dergelijke lopende of toekomstige gevallen, waarin AI-systemen in een bepaalde gebruikssituatie grote risico’s met zich meebrengen voor de grondrechten en de mensenrechten, volledig menselijk toezicht en maatregelen van regelgevende aard nodig zijn en dat, gezien de snelheid van de technologische ontwikkeling, de regelgeving voor risicovolle AI-systemen flexibel en toekomstbestendig moet zijn;

20.  licht toe dat het huidige verslag ingaat op de details van zes casestudy’s, met een overzicht van de kansen die door AI worden geboden in de respectieve sector, de risico’s die moeten worden aangepakt en de belemmeringen waardoor Europa de voordelen van AI niet ten volle kan benutten; benadrukt dat de casestudy’s een aantal van de gebruikssituaties voor AI beschrijven die vandaag het belangrijkste zijn en, tegelijkertijd, enkele van de belangrijkste thema’s beschrijven van de openbare hoorzittingen die de commissie AIDA tijdens haar mandaat heeft georganiseerd, namelijk gezondheid, de Green Deal, buitenlands beleid en veiligheid, concurrentievermogen, de toekomst van de democratie en de arbeidsmarkt;

a) AI en gezondheid

21.  is van oordeel dat de methodologische analyse van grote hoeveelheden gegevens, onder meer door middel van AI, nieuwe oplossingen kan ontsluiten of bestaande technieken in de gezondheidssector kan verbeteren waardoor het wetenschappelijk onderzoek enorm kan worden versneld, mensenlevens kunnen worden gered en de patiëntenzorg kan worden verbeterd door innovatieve behandelingen en betere diagnoses aan te bieden en een ondersteunende omgeving voor een gezonde levensstijl te bevorderen; benadrukt dat AI-systemen ook kunnen bijdragen tot de toegankelijkheid, veerkracht en duurzaamheid van zorgstelsels, en tegelijkertijd een concurrentievoordeel kunnen opleveren voor de Europese ICT- en gezondheidszorgsectoren, mits de inherente risico’s op passende wijze worden beheerd;

22.  benadrukt dat het gebruik van AI in de gezondheidssector moet worden verankerd in strenge ethische eisen, zoals eerlijke toegang tot gezondheidszorg, privacy, aansprakelijkheid, transparantie, verklaarbaarheid, betrouwbaarheid, inclusiviteit en representativiteit van datasets, en voortdurend menselijk toezicht; benadrukt dat bij het ontwerpen van op AI gebaseerde systemen rekening moet worden gehouden met het risico dat aan personen ten onrechte middelen worden toegewezen op basis van foutieve of vertekende categorisering, prioritering of slecht functionerende technologie, met een verkeerde diagnose, slechte behandeling of helemaal geen behandeling als gevolg; is van mening dat de hoogste ethische normen van toepassing moeten zijn op alle toepassingen in de gezondheidszorg en dat ethische regels in een zeer vroeg stadium moeten worden vastgesteld in de ontwikkeling en het ontwerp ervan, dat wil zeggen ethisch ontwerp; onderstreept dat automatische besluitvorming bij toepassingen in de gezondheidszorg risico’s kan inhouden voor het welzijn en de grondrechten van patiënten, en benadrukt dat AI derhalve een ondersteunende rol moet spelen in de gezondheidszorg, waarbij professioneel menselijk toezicht altijd gehandhaafd moet blijven; dringt erop aan dat AI bij medische diagnoses in publieke gezondheidszorgstelsels de arts-patiëntrelatie in stand houdt en te allen tijde in overeenstemming is met de eed van Hippocrates; merkt echter op dat AI de nauwkeurigheid van medisch onderzoek verbetert en in verscheidene gevallen al beter scoort dan diagnoses van artsen; constateert dat de bestaande aansprakelijkheidskaders onvoldoende rechtszekerheid bieden en het recht van patiënten op schadeloosstelling in geval van verkeerde diagnoses en onjuiste behandeling door AI niet waarborgen; is in dit verband ingenomen met het komende wetgevingsvoorstel inzake de aansprakelijkheid van AI; merkt op dat het belangrijk is om gezondheidswerkers, als gebruikers van AI-systemen, en patiënten, als eindontvangers, te beschermen door hen voldoende en transparante informatie te verstrekken;

23.  benadrukt dat op AI gebaseerde oplossingen reeds in klinische omgevingen worden gebruikt of getest met het oog op ondersteuning van diagnose, prognose, behandeling en betrokkenheid van de patiënt, waardoor de behandeling wordt versneld en verbeterd en onnodige interventies worden verminderd; merkt bovendien op dat AI gepersonaliseerde geneeskunde en patiëntenzorg kan bevorderen; merkt op dat AI momenteel op een breed scala aan gezondheidsgebieden wordt toegepast, waaronder volksgezondheid, zorgdiensten, zelfzorg en zorgstelsels; merkt op dat gegevens een belangrijke rol spelen; constateert dat er veelbelovende toepassingen zijn voor AI bij het extraheren van informatie uit beelden en in andere medische apparatuur als input voor analyses in een later stadium, en merkt op dat ook verwacht wordt dat algoritmen voor deep learning een kwantitatieve sprong kunnen teweegbrengen in een reeks klinische taken;

24.  benadrukt dat AI-technologieën kunnen worden toegepast op onderzoek, ontwikkeling en massaproductie van geneesmiddelen en de ontwikkeling van nieuwe geneesmiddelen, behandelingen en vaccins tegen lagere kosten kunnen versnellen; stelt vast dat AI het resultaat van reacties op behandelingen kan helpen voorspellen en artsen in staat kan stellen therapeutische strategieën steeds nauwkeuriger af te stemmen op individuele genetische of fysiologische kenmerken als er hoogwaardige gegevens en deugdelijke aannames aan ten grondslag liggen, en aldus de doeltreffendheid van preventieve zorg te verbeteren, op voorwaarde dat wordt voldaan aan alle ethische vereisten met betrekking tot professioneel toezicht op de klinische validatie van AI, privacy, gegevensbescherming en geïnformeerde toestemming; merkt op dat big data in de gezondheidszorg kunnen worden geanalyseerd met behulp van AI om de verwerking ervan te versnellen; onderstreept dat het van belang is ervoor te zorgen dat high-performance computing interoperabel is met AI, aangezien belangrijke economische sectoren, waaronder de productiesector, de gezondheidssector en de geneesmiddelensector, afhankelijk zijn van high-performance computing;

25.  onderstreept dat met op AI gebaseerde oplossingen behandelingen en de ontwikkeling van geneesmiddelen kunnen worden afgestemd op de specifieke behoeften van de patiënt en de betrokkenheid van belanghebbenden en deelnemers in het gezondheidszorgstelsel kan worden versterkt; stelt vast dat AI en toegang tot relevante, geactualiseerde en hoogwaardige geanonimiseerde en representatieve datasets, die in overeenstemming zijn met de EU-regels inzake de bescherming van persoonsgegevens, gezondheidswerkers ondersteunt betere zorg te verlenen aan hun patiënten en meer gepersonaliseerde feedback, begeleiding en steun te bieden, waardoor de veiligheid van patiënten en de doeltreffendheid van behandelingen wordt bevorderd; benadrukt dat dit bijzonder nuttig kan zijn bij het selecteren en evalueren van de toenemende hoeveelheid wetenschappelijke kennis met het oog op het verzamelen van relevante inzichten voor gezondheidswerkers; benadrukt dat burgers uit alle lidstaten hun gezondheidsgegevens moeten kunnen delen met zorgaanbieders en gezondheidsinstanties van hun keuze; onderstreept in dit verband de noodzaak om stimulansen te creëren voor bijscholing, omscholing en herscholing voor werknemers in de gezondheidszorg;

26.  stelt vast dat de strijd tegen COVID-19 zowel het onderzoek naar als de inzet van nieuwe technologieën, met name toepassingen van AI, heeft versneld in de zoektocht naar een betere opsporing van gevallen, klinische zorg en therapeutisch onderzoek, en het nut van AI heeft aangetoond, alsook het belang van financiering en hoogwaardige gegevens om de verspreiding van uitbraken van besmettelijke ziekten efficiënt te monitoren en in kaart te brengen, overeenkomstig de wetgeving inzake gegevensbescherming; merkt echter op dat de ervaringen met AI-toepassingen tijdens COVID-19 een aantal beperkingen bij het gebruik van AI in de medische diagnostiek aan het licht hebben gebracht(26);

27.  wijst op het potentieel van AI-systemen om de lasten voor de gezondheidszorg en met name voor gezondheidswerkers te verlichten en bij te dragen tot oplossingen om zorg te verlenen aan snel vergrijzende bevolkingsgroepen in Europa en de wereld en hen te beschermen tegen gevaarlijke ziekten;

28.  benadrukt dat het gebruik van veilige en efficiënte AI-toepassingen voor administratieve taken waarvoor geen menselijk handelen vereist is veel tijd kan besparen voor gezondheidswerkers die in plaats daarvan kan worden besteed aan patiëntbezoeken;

29.  beklemtoont dat op AI gebaseerde gezondheidstoepassingen voor consumenten kunnen helpen de gezondheidstoestand van een persoon te volgen via alledaagse apparaten zoals smartphones, waardoor gebruikers vrijwillig gegevens kunnen verstrekken die de basis kunnen vormen voor vroegtijdige waarschuwingen met betrekking tot levensbedreigende ziekten zoals een beroerte of een hartstilstand; benadrukt dat op AI gebaseerde gezondheidstoepassingen ook gezond gedrag kunnen aanmoedigen en verantwoorde zelfzorg voor personen kunnen versterken door patiënten uit te rusten met extra middelen om hun eigen gezondheid en levensstijl te monitoren en door de nauwkeurigheid van medisch onderzoek door gezondheidswerkers te verbeteren; wijst echter op de bijzondere gevoeligheid van persoonlijke gezondheidsgegevens en het risico van gegevensinbreuken of -misbruik in dit verband, en onderstreept dat voor elke gezondheidstoepassing strenge normen voor cyberbeveiliging moeten gelden;

30.  beklemtoont dat AI in de gezondheidssector bijzonder afhankelijk is van grote hoeveelheden persoonsgegevens, gegevensuitwisseling, hoge gegevenskwaliteit, toegankelijkheid van gegevens en de interoperabiliteit van gegevens om het volledige potentieel van AI en gezondheid te benutten; benadrukt dat de koppeling van elektronische patiëntendossiers aan systemen voor elektronische recepten moet worden vergemakkelijkt, zodat gezondheidswerkers die betrokken zijn bij patiëntenzorg toegang krijgen tot de nodige patiënteninformatie, mits hij of zij daarmee instemt;

31.  is ingenomen met de totstandbrenging van een Europese ruimte voor gezondheidsgegevens om gegevens van zeer hoge kwaliteit te verzamelen voor gebruik in de gezondheidssector; is van mening dat de onderlinge koppeling en interoperabiliteit van de infrastructuur voor high-performance computing en de Europese ruimte voor gezondheidsgegevens, grote verzamelingen kwalitatief hoogwaardige gezondheidsgegevens beschikbaar kunnen maken die van belang zijn voor het onderzoeken en behandelen van aandoeningen, met name zeldzame ziekten en pediatrische aandoeningen;

32.  benadrukt dat vertrouwen moet worden opgebouwd door interoperabiliteit en meer samenwerking te bevorderen tussen verschillende gezondheidswerkers die betrokken zijn bij de zorg voor dezelfde patiënten; benadrukt dat opleidingen moeten worden aangeboden over AI-technieken en -benaderingen voor gezondheidswerkers; beklemtoont dat wantrouwen moet worden bestreden, bijvoorbeeld door het volledige potentieel van de anonimisering van gegevens en pseudonimisering te benutten en om burgers, gezondheidswerkers en beleidmakers beter te informeren over het gebruik, de voordelen en de risico’s van AI op het gebied van gezondheid, alsook de ontwikkelaars van AI over de uitdagingen en risico’s van de verwerking van gevoelige gegevens op dit gebied;

33.  is voorts van mening dat bindende en strenge ethische en wettelijke normen en afdwingbare rechtsmiddelen nodig zijn om een ecosysteem van vertrouwen onder de burgers te bevorderen en gezondheidsgegevens adequaat te beschermen tegen potentieel misbruik en onrechtmatige toegang; is het met de Commissie eens dat burgers veilig toegang moeten hebben tot een volledig elektronisch bestand met gegevens over hun gezondheid en de controle moeten behouden over persoonlijke gegevens inzake hun gezondheid en deze veilig moeten kunnen uitwisselen, met doeltreffende bescherming van persoonsgegevens en sterke cyberbeveiliging, met bevoegde derde partijen; benadrukt dat ongeautoriseerde toegang en verspreiding moeten worden verboden en dat de bescherming van de persoonsgegevens van patiënten moet worden gewaarborgd in overeenstemming met de wetgeving inzake gegevensbescherming;

34.  onderstreept in dit verband het risico van bevooroordeelde beslissingen die leiden tot discriminatie en schendingen van de mensenrechten; benadrukt derhalve de noodzaak van onpartijdige controles van de gebruikte algoritmen en datasets, en dat verder onderzoek naar de methoden van en vooroordelen in getrainde AI-systemen moet worden bevorderd om onethische en discriminerende conclusies op het gebied van gegevens over de menselijke gezondheid te voorkomen;

35.  beklemtoont dat een efficiënte en uniforme toepassing van de AVG in de hele EU noodzakelijk is om uitdagingen zoals rechtsonzekerheid en een gebrek aan samenwerking in de gezondheidssector het hoofd te bieden; benadrukt dat dergelijke uitdagingen in sommige gevallen leiden tot vertragingen bij wetenschappelijke ontdekkingen en bureaucratische rompslomp bij gezondheidsonderzoek; benadrukt dat de totstandbrenging van een Europese ruimte voor gezondheidsgegevens, waarmee de rechten van patiënten en de overdraagbaarheid van gegevens worden gewaarborgd, de samenwerking zou kunnen versterken en het delen van gegevens voor onderzoek en innovatie in de Europese gezondheidssector zou kunnen stimuleren;

36.  merkt op dat AI kan bijdragen tot de snelle vooruitgang van nieuwe technologieën, zoals hersenbeeldvorming, die reeds belangrijke toepassingen in de geneeskunde hebben, maar ook aanzienlijke risico’s inhouden voor de menselijke invloed en de uitoefening van grondrechten zonder dat daarvoor toestemming is vereist; uit zijn bezorgdheid over het gebrek aan wetgeving inzake neurologische gegevens en is van mening dat de EU ernaar moet streven wereldleider te worden bij de ontwikkeling van veilige neurologische technologieën;

b) AI en de Green Deal

37.  benadrukt dat de twee voornaamste prioriteiten van de Commissie voor de komende jaren “Een Europa dat klaar is voor het digitale tijdperk” en de Green Deal zijn; onderstreept dat ervoor moet worden gezorgd dat de digitale transitie bijdraagt tot de verwezenlijking van duurzame ontwikkeling en de groene transitie bevordert; meent dat innovatie daartoe moet worden versneld die verenigbaar is met de klimaatdoelstellingen en milieunormen van de EU; benadrukt dat toepassingen van AI milieutechnische en economische voordelen kunnen hebben en voorspellende mogelijkheden kunnen versterken die kunnen bijdragen aan de strijd tegen klimaatverandering en aan de verwezenlijking van de doelstellingen van de Europese Green Deal en het doel van de EU om uiterlijk in 2050 het eerste klimaatneutrale continent te worden; stelt vast dat het gebruik van AI de wereldwijde broeikasgasemissies tegen 2030 met maximaal 4 % kan verlagen(27); stelt vast dat ICT-technologieën volgens sommige ramingen tien keer meer broeikasgasemissies zouden kunnen terugdringen dan hun eigen voetafdruk(28), maar erkent dat hiervoor bewuste ontwerpkeuzen en regelgevende maatregelen nodig zijn; waarschuwt tegelijkertijd dat het verhoogde energieverbruik bij de opslag van de grote datasets die nodig zijn om AI-systemen te trainen, ook een negatief effect kan hebben; herinnert eraan dat dataverkeer en ICT-infrastructuur momenteel goed zijn voor zo’n 7 % van het mondiale elektriciteitsverbruik, een cijfer dat, zonder de juiste waarborgen, tegen 2030 naar verwachting zal stijgen tot 13 %; voegt daaraan toe dat het intensieve gebruik van grondstoffen voor het bouwen van microprocessoren en geavanceerde apparatuur die gebruikmaken van AI ook dit negatieve effect kan versterken; onderstreept dat, als we de “grote handafdruk maar kleine voetafdruk” van AI voor het milieu en het klimaat willen waarborgen, rekening moet worden gehouden met deze directe en indirecte negatieve milieueffecten en dat AI-systemen ontworpen moeten worden om duurzame consumptie te bevorderen, het gebruik van hulpbronnen en het energieverbruik te beperken, onnodige verwerkingsoperaties te vermijden en schade aan het milieu te voorkomen; beklemtoont dat voor de aanpak van de milieueffecten van de ICT-sector relevante informatie en gegevens nodig zijn;

38.  is bezorgd over het feit dat slechts zes lidstaten in hun inspanningen om de doelstellingen van de Green Deal te verwezenlijken sterk de nadruk leggen op toepassingen van AI; stelt vast dat AI gebruikt kan worden voor het verzamelen en ordenen van informatie die relevant is voor milieuplanning, besluitvorming en het beheer en de monitoring van de voortgang van milieubeleid, bijvoorbeeld gericht op schonere lucht, waar toepassingen van AI verontreiniging kunnen monitoren en kunnen waarschuwen voor risico’s; benadrukt dat dergelijke AI en digitale oplossingen in verschillende sectoren kunnen worden gebruikt om hulpbronnenefficiënte oplossingen uit te breiden;

39.  onderstreept het belang van op AI gebaseerde systemen bij de ontwikkeling van slimme steden en dorpen door het gebruik van hulpbronnen te optimaliseren en de veerkracht van de infrastructuur te vergroten, onder meer door verkeersvoorspelling en -vermindering, slim energiebeheer, noodhulp en afvalbeheer, zoals in diverse Europese steden en gemeenten al het geval is; beklemtoont dat op AI gebaseerde oplossingen verder kunnen bijdragen aan stedelijke planning, architectuur, bouw en techniek om uitstoot, bouwtijd, kosten en afval te verminderen;

40.  beklemtoont dat de energietransitie er niet zal komen zonder digitalisering; benadrukt dat AI energieverbruik en -productie kan monitoren, optimaliseren en verlagen, alsook de integratie van hernieuwbare energie in bestaande elektriciteitsnetwerken kan ondersteunen; onderstreept dat intelligente meters, efficiënte verlichting, cloudcomputing en gedistribueerde software het potentieel hebben om een radicale verandering teweeg te brengen in energieverbruikspatronen en om een verantwoord gebruik te bevorderen;

41.  benadrukt dat door de toenemende complexiteit van een energietransitiesysteem, met een sterkere fluctuatie bij de opwekking van hernieuwbare energie en veranderingen in het afnamebeheer, een meer geautomatiseerde besturing vereist is voor een zekere energievoorziening; beklemtoont dat AI bevorderlijk kan zijn voor de voorzieningszekerheid, met name bij de exploitatie, de monitoring, het onderhoud en het beheer van water-, gas- en elektriciteitsnetwerken; merkt echter op dat door AI ondersteunde netwerktechnologieën miljoenen intelligente onderdelen met gemeenschappelijke kwetsbaarheden zullen bevatten, waardoor een groot aantal potentiële aanvalspunten aan de energienetwerken wordt toegevoegd en de kwetsbaarheid van kritieke infrastructuur zal toenemen, indien niet in passende cyberbeveiligingsbepalingen wordt voorzien; stelt vast dat slimme netwerken verdere investeringen en onderzoek vergen;

42.  stelt vast dat AI en andere digitale toepassingen voor mobiliteit en vervoer verkeersstromen kunnen optimaliseren en de verkeersveiligheid kunnen verbeteren, onder andere door de efficiëntie van vervoerssystemen te verhogen; wijst erop dat AI kan bijdragen aan het ontwerp en energiebeheer van energie-efficiënte voertuigen; benadrukt dat de opties voor met een app oproepbare vervoersdiensten en carsharing aanzienlijk zijn toegenomen en dat er vaak gebruik wordt gemaakt van AI bij dergelijke mobiliteitsdiensten door middel van efficiënte routeplanning en selectie van opstappunten;

43.  is van mening dat AI een transformatieve rol kan spelen in de landbouwsector, door de opkomst van nieuwe oogstmethoden te ondersteunen, met inbegrip van oogstprognoses en beheer van landbouwmiddelen; beklemtoont dat landbouw een cruciale sector is, waarin AI kan helpen om de uitstoot en het gebruik van bestrijdingsmiddelen, meststoffen, chemische stoffen en water terug te dringen door het gebruik ervan te concentreren oftewel te beperken tot de juiste hoeveelheid en een kleiner gebied; beklemtoont verder dat AI een bijdrage kan leveren aan het herstel van biodiversiteit door bedreigde soorten te monitoren of ontbossingsactiviteiten op te sporen; wijst op de noodzaak om richtsnoeren voor de inzet en gestandaardiseerde beoordelingsmethoden te ontwikkelen om “groene AI” te ondersteunen op gebieden als slimme netwerken, precisielandbouw en slimme en duurzame steden en gemeenschappen; is van mening dat AI in de vorm van precisielandbouw het potentieel heeft om de voedselproductie op het landbouwbedrijf zelf alsook van het breder landbeheer door de ruimtelijke ordening te optimaliseren, veranderingen in landgebruik te voorspellen en de gezondheid van gewassen te bewaken, evenals het potentieel om de voorspellingen van extreme weersomstandigheden ingrijpend te veranderen;

44.  benadrukt dat AI kan bijdragen tot de circulaire economie door productie-, consumptie- en recyclingprocessen en -gedrag hulpbronnenefficiënter te maken en de transparantie van het gebruik van materialen te vergroten, bijvoorbeeld met betrekking tot de ethisch verantwoorde inkoop van grondstoffen, en minder afval; benadrukt dat AI het inzicht van bedrijven in hun emissies kan vergroten, ook in de waardeketens, en hen zo kan helpen bij het aanpassen en verwezenlijken van individuele emissiedoelstellingen; onderstreept dat digitale instrumenten bedrijven kunnen helpen om de nodige stappen te zetten in de richting van duurzamer gedrag, met name kmo’s die anders misschien niet over de middelen zouden beschikken;

45.  benadrukt dat het momenteel niet mogelijk is AI te gebruiken om milieueffecten volledig te meten; stelt vast dat er behoefte is aan meer studies over de rol van AI bij het verminderen van milieueffecten; beklemtoont dat er meer milieugegevens nodig zijn teneinde meer inzicht te krijgen en meer vooruitgang te boeken met behulp van AI-oplossingen; onderstreept dat er door het gebruik van AI om systematisch gegevens over CO2-uitstoot te koppelen aan gegevens over productie- en consumptiepatronen, toeleveringsketens en logistieke routes voor kan worden gezorgd dat activiteiten die positieve of negatieve gevolgen hebben, worden opgespoord;

c) Buitenlands beleid en de veiligheidsdimensie van AI

46.  herhaalt dat de EU aandringt op een mondiale overeenkomst over gemeenschappelijke normen voor een verantwoord gebruik van AI, hetgeen van het allergrootste belang is; gelooft echter in principe in het potentieel van gelijkgestemde democratieën om gezamenlijk vorm te geven aan het internationale debat over een AI-kader dat de mensenrechten en de rechtsstaat eerbiedigt, en samen te werken aan bepaalde gemeenschappelijke normen en beginselen, technische en ethische normen, en richtsnoeren voor verantwoordelijk gedrag van staten, met name in het kader van intergouvernementele organisaties zoals de VN en de OESO, en aldus multilateralisme, duurzame ontwikkeling, interoperabiliteit en gegevensuitwisseling in internationale fora te bevorderen; ondersteunt de werkzaamheden van de open werkgroep ICT en internationale veiligheid van de VN; onderstreept dat vertrouwenwekkende maatregelen van essentieel belang zijn om de dialoog en het vertrouwen te intensiveren; dringt derhalve aan op meer transparantie bij het gebruik van AI om te zorgen voor een sterkere verantwoordingsplicht;

47.  is ingenomen met de recente multilaterale initiatieven voor de ontwikkeling van richtsnoeren en normen voor een ethisch verantwoord gebruik van AI, zoals de OESO-beginselen inzake AI, het mondiale partnerschap inzake AI, de aanbeveling van de Unesco inzake de ethiek van AI, de AI for Good Global Summit, de aanbevelingen van de Raad van Europa voor een mogelijk rechtskader inzake AI, en de beleidsrichtsnoeren van Unicef inzake AI voor kinderen; is ingenomen met de lopende werkzaamheden op internationaal niveau met betrekking tot AI-normen en met de vooruitgang die is geboekt met de normen van de Internationale Organisatie voor Normalisatie inzake de bestuurlijke implicaties van AI;

48.  juicht voorts de oprichting en operationalisering van de Raad voor handel en technologie van de EU en de VS toe; spreekt zijn waardering uit voor het resultaat van de eerste vergadering van de Raad voor handel en technologie in Pittsburgh; is van mening dat de Raad voor handel en technologie kan bijdragen aan de wereldwijde coördinatie tussen de Europese Unie en de Verenigde Staten met het oog op de vaststelling van mondiale regels voor AI en mondiale technologische normen die onze gemeenschappelijke waarden veiligstellen, met het oog op de bevordering van gezamenlijke investeringen, onderzoek en ontwikkeling, en met het oog op nauwere politieke coördinatie binnen de internationale instellingen op het gebied van technologie en AI;

49.  wijst op de sleutelrol die de EU kan spelen bij het vaststellen van mondiale normen, door als eerste blok ter wereld wetgeving inzake AI vast te stellen; benadrukt dat het rechtskader van de Unie inzake AI van Europa een wereldleider in de sector kan maken en dat dit rechtskader dan ook wereldwijd moet worden bevorderd door middel van samenwerking met alle internationale partners, terwijl de kritische en op ethiek gebaseerde dialoog met derde landen die over alternatieve governancemodellen en normen op het gebied van AI beschikken, moet worden voortgezet;

50.  merkt op dat de Chinese regering normen en samenwerkingsovereenkomsten heeft ondertekend met 52 landen door middel van haar “Belt and Road”-initiatief; waarschuwt dat, aangezien verschillende van deze normen, waaronder die inzake AI-technologieën en met name die met betrekking tot overheidstoezicht en individuele vrijheden, niet stroken met de mensenrechten en met de waarden van de EU, China’s activiteiten op het gebied van normen een uitdaging vormen voor de EU;

51.  beklemtoont dat AI-technologieën, met name die welke niet zijn ontworpen en ontwikkeld met inachtneming van de uitdrukkelijke controleprocedures, en die oneigenlijk en zonder toezicht worden gebruikt in militaire commandocentra of in voorzieningen voor raketlanceringen, bijzonder grote risico’s met zich meebrengen en een geautomatiseerd wederkerig conflict kunnen doen escaleren;

52.  merkt op dat het gebruik van AI-systemen in defensiegerelateerde ontwikkelingen wordt beschouwd als een revolutie voor militaire operaties door de analyse van gegevens, het vermogen om een grotere situationele complexiteit weer te geven, het potentieel om de nauwkeurigheid van doelen te verbeteren, de logistiek te optimaliseren en gewapende conflicten aan te gaan met een verminderd risico op lichamelijk letsel van de burgerbevolking en het eigen militaire personeel, alsmede het gebruik van gegevens voor de ontwikkeling van actievormen, zoals het naspelen van oorlogsscenario’s; waarschuwt evenwel dat dit kan leiden tot een lagere drempel voor het gebruik van geweld, en dus tot meer conflicten; bevestigt dat machines en robots niet in staat zijn om menselijke beslissingen te nemen en dus geen rekening kunnen houden met het onderscheid tussen militaire en burgerdoelwitten, het evenredigheidsbeginsel of het voorzorgsbeginsel; bekrachtigt dat mensen de controle moeten houden over het besluit om wapens in te zetten en te gebruiken, en dat zij verantwoordelijk moeten blijven voor het gebruik van dodelijk geweld en voor beslissingen over leven en dood; is van mening dat op AI gebaseerde wapensystemen moeten worden onderworpen aan mondiale normen en een internationale ethische gedragscode ter ondersteuning van de inzet van AI-technologieën bij militaire operaties, met volledige inachtneming van het internationaal humanitair recht en het recht inzake de mensenrechten, en in overeenstemming met het recht en de waarden van de Unie;

53.  maakt zich zorgen over de militaire onderzoeks- en technologische ontwikkelingen die in sommige landen plaatsvinden met betrekking tot dodelijke autonome wapensystemen zonder reële menselijke controle; merkt op dat dodelijke autonome wapensystemen momenteel al worden gebruikt in militaire conflicten; herinnert eraan dat het Parlement herhaaldelijk heeft aangedrongen op een internationaal verbod op de ontwikkeling, de productie en het gebruik van dodelijke autonome wapensystemen en op doeltreffende onderhandelingen over het verbod ervan; benadrukt dat op AI gebaseerde systemen in geen geval de menselijke besluitvorming mogen vervangen, waarbij rekening wordt gehouden met de juridische beginselen van onderscheidingsvermogen, evenredigheid en voorzorg;

54.  merkt met name op dat AI-technologie als middel om verschillende vormen van hybride oorlogvoering en buitenlandse inmenging na te streven potentiële risico’s met zich mee kan brengen; geeft aan dat AI bijvoorbeeld kan worden ingezet om desinformatie op gang te brengen door bots of nepaccounts op sociale media te gebruiken, de onderlinge afhankelijkheid als wapen te gebruiken, waardevolle informatie te verzamelen of tegenstanders toegang tot het netwerk te ontzeggen, verstoringen van de economische en financiële systemen van andere landen te veroorzaken, het politieke debat te vervuilen en extremistische groeperingen te bevoordelen, of verkiezingen te manipuleren met het oog op het destabiliseren van democratieën;

55.  benadrukt dat AI-technologieën ook door AI aangedreven malware kunnen omvatten, evenals identiteitsdiefstal, datavergiftiging of andere vormen van vijandig machinaal leren waardoor andere AI-systemen input verkeerd zullen interpreteren; wijst met name op de opmars van deepfakes, die niet noodzakelijkerwijs cyberaanvallen zijn, maar die leiden tot twijfel over de authenticiteit van alle digitale inhoud, met inbegrip van video’s, en die daarom bijzondere aandacht vereisen in termen van transparantievereisten; waarschuwt dat deepfakes kunnen leiden tot een versterking van het brede klimaat van wantrouwen jegens AI bij het publiek en de politiek-maatschappelijke polarisering in onze samenleving;

56.  licht toe dat het gebruik van AI-systemen in een aanzienlijk deel van de cruciale kritieke infrastructuur, zoals energie- en vervoersnetwerken, de ruimtesector, de voedselketen, bancaire en financiële infrastructuur en ziekenhuisfaciliteiten, nieuwe zwakke plekken heeft doen ontstaan die solide cyberbeveiligingsmaatregelen vereisen om dreigingen te voorkomen; wijst in dit verband op het belang van samenwerking en informatie-uitwisseling en maatregelen, zowel op EU-niveau als tussen de lidstaten; onderstreept hoe belangrijk het is kritieke entiteiten beter bestand te maken tegen hybride dreigingen;

57.  waarschuwt dat de mogelijkheden van AI ook veiligheidsrisico’s met zich mee kunnen brengen, omdat ze ertoe kunnen leiden dat mensen zoveel vertrouwen stellen in AI dat ze minder vertrouwen op hun eigen beoordeling; merkt op dat een “human-in-the-loop”-benadering als correctiemechanisme niet in alle gevallen haalbaar is; merkt op dat experimenten hebben aangetoond dat daardoor de autonomie van AI kan toenemen en verder kan gaan dan de ondersteunende rol waarvoor AI oorspronkelijk is bedoeld en het betekent dat mensen minder kansen hebben om ervaring op te doen en hun vaardigheden en kennis op het gebied van AI-systemen bij te schaven; benadrukt daarom dat ingebouwde veiligheid en reëel menselijk toezicht op basis van passende opleiding, alsmede passende beveiligings- en privacywaarborgen in risicovolle AI-systemen vereist zijn om een dergelijke “automation bias” te ondervangen;

58.  benadrukt echter dat AI kan worden gebruikt om met grote nauwkeurigheid stroomstoringen te voorspellen en onderhoudsbehoeften vast te stellen; geeft bovendien aan dat de technologie kan worden gebruikt om grote hoeveelheden gegevens samen te voegen via geautomatiseerde informatie-extractie of geautomatiseerde informatierubricering en om specifieke patronen bloot te leggen; beklemtoont dat hierdoor een betere voorspelling en inschatting van het dreigingsniveau en de kwetsbaarheden van het systeem, een sneller besluitvormingsproces, een betere reactiviteit en een doeltreffendere beveiliging van eindpuntapparaten mogelijk worden;

59.  onderstreept met name het potentieel om rechtshandhavingsinstanties in staat te stellen criminele activiteiten, die worden ondersteund door AI-technologie, te identificeren en te bestrijden; onderstreept dat voor dergelijke AI-gerelateerde rechtshandhavingsactiviteiten echter wel volledige eerbiediging van de grondrechten, streng democratisch toezicht, duidelijke transparantievoorschriften, een krachtige IT-infrastructuur, menselijk toezicht, hooggekwalificeerde werknemers en toegang tot relevante en hoogwaardige gegevens benodigd zijn;

d) AI en concurrentievermogen

60.  merkt op dat in de nabije toekomst meer en meer producten en diensten in de hele waardeketen met elkaar verbonden zullen zijn, waarbij AI en automatisering een belangrijke rol zullen spelen in veel productieprocessen, werkzaamheden en bedrijfsmodellen; onderstreept het cruciale belang van fundamenteel onderzoek voor de ontwikkeling van industriële ecosystemen voor AI, alsmede van aanzienlijke investeringen ter bevordering van digitale overheidsdiensten en uitbreiding van de digitale infrastructuur;

61.  merkt op dat, ondanks de aanzienlijke toename van durfkapitaal en andere aanloopfinanciering in de afgelopen twee jaar, veel Europese sectoren achteroplopen en dat de huidige financieringsniveaus in de EU nog steeds te laag zijn en aanzienlijk moeten worden opgevoerd om aan de dynamiek te kunnen voldoen van toonaangevende AI-ecosystemen zoals Silicon Valley en elders; wijst op de ongewone clusternetwerkstructuur van het innovatie-ecosysteem van de EU, in tegenstelling tot gecentraliseerde (en door de overheid gesteunde) innovatie-ecosystemen;

62.  onderstreept dat AI een revolutie betekent voor het concurrentievermogen van de bedrijfstakken in de EU en het potentieel heeft om de productiviteit te verhogen, innovatie te versnellen, productieprocessen te verbeteren en de veerkracht van de Europese toeleveringsketens te helpen bewaken;

63.  wijst op het risico van verstoring van toeleveringsketens als gevolg van economische ontkoppeling of rampzalige gebeurtenissen zoals pandemieën of klimaatgerelateerde verschijnselen; benadrukt dat het gebruik van AI kan helpen om verstoringspatronen in toeleveringsketens op te sporen en voorspellend onderhoud te verrichten, wat de diversificatie van leveranciers zou kunnen ondersteunen;

64.  merkt op dat ondernemingen die een digitale verstoring in gang hebben gezet, vaak zijn beloond met een aanzienlijke groei van hun marktaandeel; merkt op dat in recente studies erop wordt gewezen dat dit patroon zich waarschijnlijk op nog drastischere wijze zal herhalen, aangezien ondernemingen die AI toepassen vaak grote hoeveelheden gegevens verzamelen, wat hun concurrentiepositie doorgaans verbetert; is bezorgd over de daaruit voortvloeiende risico’s van marktconcentratie ten nadele van kmo’s en start-ups;

65.  benadrukt dat dit vooruitzicht bijzonder zorgwekkend is, aangezien de grootste gevestigde technologiebedrijven die waarschijnlijk ook de AI-technologieën zullen beheersen, poortwachters zijn voor markten, waarbij zij tegelijkertijd het leeuwendeel van de gecreëerde waarde in de wacht slepen; beklemtoont dat de gegevens die de motor vormen van de AI-sector hoofdzakelijk worden vergaard door dezelfde grote technologiebedrijven, die toegang bieden tot diensten in ruil voor gegevens en blootstelling aan gerichte reclame, en hun bestaande marktoverwicht daardoor waarschijnlijk zelf weer een drijvende kracht zal worden voor verdere overheersing van de markt; wijst erop dat veel van deze technologiebedrijven hun hoofdkantoor buiten de EU hebben, maar dat zij de waarde die wordt gegenereerd door gegevens over Europese klanten in de wacht kunnen slepen en zo concurrentievoordeel behalen;

66.  is ingenomen met de recente mededeling van de Commissie waarin wordt opgeroepen tot actualisering van de mededingingsregels om ze geschikt te maken voor het digitale tijdperk(29) en benadrukt de sleutelrol van maatregelen vooraf, met inbegrip van de toekomstige wet inzake digitale markten, bij het tegengaan van concentraties voordat zij zich voordoen; onderstreept bovendien de rol die normalisatie en samenwerking op regelgevingsgebied kunnen spelen bij de aanpak van dit probleem, door de wereldwijde ontwikkeling van producten en diensten ongeacht hun fysieke locatie te vergemakkelijken;

67.  onderstreept dat kmo’s en start-ups een centrale rol spelen bij de invoering van AI-technologieën binnen de EU, aangezien zij het leeuwendeel van de bedrijven in de EU uitmaken en een cruciale bron van innovatie zijn; merkt echter op dat veelbelovende start-ups op het gebied van AI te kampen hebben met aanzienlijke belemmeringen om in Europa te groeien als gevolg van de onvolledige digitale interne markt en de verschillen in regelgeving tussen veel lidstaten, of, wanneer zij wel opschalen, worden overgenomen door grote technologiebedrijven; betreurt dat kmo’s vaak te kampen hebben met een gebrek aan financiering, ingewikkelde administratieve procedures en een tekort aan adequate vaardigheden en toegang tot informatie; merkt op dat de Europese mededingingsautoriteiten in het verleden de meeste buitenlandse overnames van Europese ondernemingen die actief zijn op het gebied van AI en robotica hebben toegestaan;

68.  beklemtoont dat het intensieve gebruik van algoritmen, bv. voor prijsstelling, ook kan leiden tot volledig nieuwe aan AI gebonden problemen op de interne markt; merkt op dat het voor mededingingsautoriteiten bijvoorbeeld moeilijk kan zijn om het bestaan van prijsafspraken tussen AI-gestuurde systemen voor prijsstelling te bewijzen; voegt daar bovendien aan toe dat de weinige aanbieders van AI die al deelnemen aan de handel in aandelen een systeemrisico kunnen vormen voor de financiële markten, onder meer door kartelvorming; benadrukt dat kartelvorming van algoritmen zeer moeilijk kan worden vastgesteld, aangezien op AI gebaseerde systemen niet met elkaar hoeven te communiceren zoals mensen dat doen voor heimelijke praktijken, waardoor het onmogelijk kan zijn heimelijk collusieoogmerk aan te tonen; onderstreept het risico dat dit met zich meebrengt voor de marktstabiliteit en de noodzaak voor de Europese en nationale mededingingsautoriteiten om passende strategieën en instrumenten te ontwikkelen; wijst daarnaast op het systeemrisico voor financiële markten als gevolg van het wijdverbreide gebruik van algoritmische handelsmodellen en -systemen zonder menselijke interactie, die in het verleden de marktbewegingen aanzienlijk hebben versterkt en dat in de toekomst waarschijnlijk opnieuw zullen doen;

69.  merkt op dat veel AI-bedrijven in de EU momenteel worden geconfronteerd met rechtsonzekerheid over de manier waarop zij hun producten en diensten met een gerust hart kunnen ontwikkelen als gevolg van bureaucratische obstakels, een overlapping tussen bestaande sectorspecifieke wetgeving en het ontbreken van gevestigde standaarden en normen voor AI;

70.  wijst op de uitdaging voor AI-bedrijven op het gebied van kwaliteitscontrole en consumentenbescherming; concludeert dat transparantie en betrouwbaarheid van essentieel belang zijn om ervoor te zorgen dat EU-bedrijven een concurrentievoordeel hebben, aangezien dergelijke overwegingen in de toekomst zullen bepalen of een product of dienst uiteindelijk door de markt wordt aanvaard;

71.  merkt op dat hoewel 26 % van de hoogwaardige onderzoekspublicaties over AI uit Europa afkomstig is, slechts vier van de top-30 aanvragers (13 %) en 7 % van de bedrijven die wereldwijd bezig zijn met het octrooieren van AI, van Europese herkomst zijn;

72.  is van mening dat het intellectuele-eigendomsrecht van de EU moet worden geharmoniseerd en op duidelijke en transparante wijze moet worden gehandhaafd, en dat er een evenwichtig, afdwingbaar en voorspelbaar kader moet komen om Europese ondernemingen, en met name kmo’s en start-ups, in staat te stellen bescherming te verkrijgen voor intellectuele eigendom;

73.  is bezorgd dat het gebruik van kmo’s van bescherming van intellectuele eigendom gering blijft, omdat kmo’s er vaak geen gebruik van maken, aangezien zij zich niet volledig bewust zijn van hun rechten en niet over voldoende middelen beschikken om deze rechten te doen gelden; wijst op het belang van informatie en statistieken over bescherming van intellectuele eigendom onder kmo’s die actief zijn in kennisintensieve sectoren, en verwelkomt inspanningen, waaronder vereenvoudigde registratieprocedures en lagere administratieve kosten, om kmo’s en start-ups betere kennis te verschaffen en hun toegang tot bescherming van intellectuele eigendom te vergemakkelijken; merkt op dat de positie van de EU als mondiale normbepaler moet worden versterkt om EU-bedrijven te helpen hun intellectuele-eigendomsrechten voor AI te beschermen; benadrukt dat concurrentievermogen en aantrekkelijkheid op internationaal niveau zijn geworteld in een sterke en veerkrachtige interne markt, waaronder in de bescherming en handhaving van intellectuele eigendom;

74.  stelt vast dat gegevensanalyse alsook toegang tot, uitwisseling van en hergebruik van niet-persoonsgebonden gegevens vandaag de dag al essentieel zijn voor veel gegevensgestuurde producten en diensten, maar belangrijk zal zijn voor de ontwikkeling en uitrol van toekomstige AI-systemen; beklemtoont echter dat zolang de interne markt voor gegevens nog in ontwikkeling is, veel niet-persoonsgebonden gegevens die in de EU gegenereerd worden tot op heden niet worden gebruikt;

75.  wijst op het belang van het vergemakkelijken van de toegang tot en het delen van gegevens, evenals open normen en openbrontechnologie als een manier om investeringen te verbeteren en innovatie in AI-technologieën in de EU te stimuleren; geeft aan dat betere harmonisatie van de interpretaties door nationale gegevensbeschermingsautoriteiten, alsook van richtsnoeren inzake gemengde gegevens en anonimiseringstechnieken nuttig zou zijn voor ontwikkelaars van AI;

76.  benadrukt de rol die AI kan spelen bij de ondersteuning van het handhavingsoptreden van Europese en nationale autoriteiten, met name op het gebied van douane en markttoezicht; is van mening dat handels- en douaneprocedures efficiënter en kosteneffectiever kunnen worden gemaakt door middel van AI, door de naleving te verbeteren en ervoor te zorgen dat alleen veilige producten de interne markt binnenkomen; wijst op het voorbeeld van het Assessment and Revenue Management (CARM)-systeem van de Canada Border Services Agency, dat de invoer- en uitvoerprocedures aanzienlijk vereenvoudigt middels het gebruik van deskundige AI-risicobeoordeling en gestroomlijnd gedigitaliseerd informatiebeheer, waardoor tijdrovende inspecties minder nodig worden;

e) AI en de arbeidsmarkt

77.  merkt op dat AI meer invloed begint uit te oefenen op de arbeidsmarkt, de werkplek en het sociale domein en dat de gevolgen van technologische verandering op arbeid en werkgelegenheid veelzijdig zijn; benadrukt dat het gebruik van AI op dit gebied heeft geleid tot een aantal ethische, juridische, en met werkgelegenheid verband houdende uitdagingen; is bezorgd dat, met betrekking tot de arbeidsmarkt, digitalisering kan leiden tot een hervorming van het personeelsbestand en het wegvallen van bepaalde sectoren van het beroepsleven; is van mening dat het gebruik van AI, indien dat wordt gecombineerd met de nodige ondersteunende infrastructuur, onderwijs en opleiding, de kapitaal- en arbeidsproductiviteit, innovatie, duurzame groei en werkgelegenheid zou kunnen verhogen;

78.  beklemtoont dat AI weliswaar een aantal taken kan vervangen, met inbegrip van repetitieve, zware, arbeidsintensieve of gevaarlijke taken, maar het ook kan helpen om vaardigheden te verbeteren, de kwaliteit van het werk te verhogen en nieuwe banen met een hogere toegevoegde waarde te creëren, waardoor er meer tijd overblijft voor het bevorderen van taken en loopbaanontwikkeling; beklemtoont dat AI op dit moment reeds bij een aantal onderdelen van taken mensen vervangt of aanvult, maar dat dit nog geen aantoonbare aanzienlijke geaggregeerde gevolgen heeft voor de arbeidsmarkt(30); beklemtoont echter dat de mogelijkheid bestaat dat de inkomensongelijkheid vergroot als beroepen voor hooggeschoolden toenemen en beroepen voor laaggeschoolden vervangen worden door AI; voegt daaraan toe dat de daaruit voortvloeiende economische en sociale gevolgen moeten worden beperkt door gepaste maatregelen, onderzoek en vooruitziendheid, en dat er voorbereidingen moeten worden getroffen door te investeren in omscholing en bijscholing van het personeelsbestand met een focus op ondervertegenwoordigde groepen zoals vrouwen en minderheden, die wellicht het meest getroffen worden door deze transitie, en door diversiteit in alle fasen van de ontwikkeling van AI-systemen te bevorderen; is bezorgd dat AI zou kunnen zorgen voor het afleren van vaardigheden en laagbetaald werk met weinig autonomie kan creëren en verankeren en atypisch, flexibel (of klus-) werk uitbreidt; benadrukt dat het beheer van algoritmen kan leiden tot onevenwichtige machtsverhoudingen tussen management en werknemers en ondoorzichtige besluitvorming;

79.  benadrukt dat het gebruik van AI een kans biedt om aanzienlijke culturele veranderingen binnen organisaties te bevorderen, onder meer door een betere veiligheid op het werk, een beter evenwicht tussen werk en privéleven, en het aanbieden van het recht om offline te zijn en doeltreffendere opleidingsmogelijkheden en begeleiding aan werknemers; wijst in dit verband op de aanbevelingen van de OESO, waarin wordt benadrukt dat automatisering ook kan leiden tot een verkorting van de arbeidstijd, wat bevorderlijk is voor de levensomstandigheden en de gezondheid van de werknemers; is van mening dat toepassingen van AI waarbij mensen meer mogelijkheden krijgen ook nieuwe arbeidsmogelijkheden kunnen creëren, met name voor degenen die zich tot nu toe, wegens beperkingen zoals handicaps of leefomstandigheden, moesten beperken tot minder gekwalificeerde banen; wijst op de nood om AI-ondersteuning te gebruiken op de werkvloer om mensen tijd te geven om de kwaliteit van hun output te verbeteren in plaats van alleen de werklast te verhogen;

80.  veroordeelt het toenemend gebruik van door AI aangedreven toezicht op de werkplek, dat vaak plaatsvindt zonder dat de werknemers daarvan op de hoogte zijn, laat staan dat zij ermee instemmen, met name ook in de context van telewerken; is van mening dat deze praktijk niet mag worden toegestaan, aangezien ze een ernstige inbreuk vormt op het fundamentele recht op privacy, gegevensbescherming en menselijke waardigheid van de werknemer, alsmede op de sociale en arbeidsrechten, en tevens negatieve gevolgen heeft voor de geestelijke gezondheid van werknemers vanwege de mate van inmenging, het algemene of willekeurige effect ervan, en het ontbreken van waarborgen voor de getroffen personen;

81.  is bezorgd dat een soortgelijk risico van toezicht ook aanwezig is in de schoolomgeving, met het toenemend gebruik van AI-systemen in scholen, die de grondrechten van kinderen ondermijnen; merkt op dat de gevolgen die AI heeft voor de privacy en veiligheid van kinderen onder een breed spectrum vallen, van voordelen met betrekking tot de mogelijkheid om bedreigingen voor kinderen meer specifiek en accuraat te begrijpen tot risico’s rond onbedoelde inbreuken op de privacy; benadrukt dat zowel de positieve als negatieve gevolgen voor de privacy en veiligheid van kinderen nauwkeurig onderzoek en daarbij horende waarborgen vereisen; wijst er verder op dat bij de ontwikkeling van AI-systemen bijzondere aandacht en bescherming moet worden gegeven aan kinderen, vanwege hun bijzonder gevoelige aard en specifieke kwetsbaarheden;

82.  benadrukt dat het van het grootste belang is personen in alle levensfasen uitgebreide programma’s voor de ontwikkeling van vaardigheden aan te bieden, zodat zij productief kunnen blijven in een voortdurend veranderende werkomgeving en om te voorkomen dat ze worden uitgesloten van de arbeidsmarkt; is van mening dat de aanpassing van de beroepsbevolking wat betreft onderwijs, een leven lang leren en omscholing van cruciaal belang is; benadrukt dat de actuele concepten van leren en werken nog steeds te sterk bepaald worden door de tijd toen de wereld nog niet digitaal was, hetgeen bijdraagt tot een toenemende vaardighedenkloof en een nieuwe digitale kloof voor burgers die geen toegang hebben tot een veilige digitale ruimte; beklemtoont dat het verbeteren van de digitale geletterdheid een bijdrage levert aan het verwezenlijken van de VN-doelstellingen voor duurzame ontwikkeling, met name de doelstellingen met betrekking tot onderwijs, menselijk kapitaal en infrastructuur; benadrukt de toename van kennis over nieuwe vormen van werken en leren als gevolg van de COVID-19-crisis, die verder zouden kunnen worden verkend;

83.  onderstreept dat de Unie om ten volle van digitalisering te kunnen profiteren werk moet maken van digitale geletterdheid en ervoor moet zorgen dat iedereen over digitale vaardigheden beschikt; is van mening dat digitale geletterdheid een voorwaarde is voor het vertrouwen van de burgers in en de publieke bewustwording van de gevolgen van AI; benadrukt het belang van het opnemen van een basisopleiding in digitale vaardigheden en AI in de nationale onderwijsstelsels; is van mening dat de toepassing en ontwikkeling van AI-technologie op het gebied van minderheidstalen zou kunnen leiden tot een toename van de kennis en het gebruik van deze talen; beklemtoont dat meer dan 70 % van de bedrijven aangeeft dat een gebrek aan personeel met voldoende digitale en AI-gerelateerde vaardigheden een obstakel vormt voor investeringen; is bezorgd over het feit dat er in 2019 7,8 miljoen ICT-specialisten waren in de EU en de jaarlijkse groei tot dan toe 4,2 % bedroeg, hetgeen ver achterblijft bij de 20 miljoen deskundigen die volgens de prognose van de Commissie op belangrijke gebieden zoals gegevensanalyse nodig zijn;

84.  maakt zich zorgen over het ernstige genderonevenwicht op dit domein, waar slechts één op de zes ICT-specialisten en één op de drie afgestudeerden op het gebied van wetenschap, technologie, techniek en wiskunde (STEM) vrouwen zijn(31); stelt met bezorgdheid vast dat er een genderkloof blijft bestaan, met name op het gebied van start-ups, waar in 2019 van elke 100 USD die in Europese technologiebedrijven werden geïnvesteerd, 92 USD gingen naar teams die volledig uit mannen bestonden; beveelt gerichte initiatieven aan ter ondersteuning van vrouwen in STEM-beroepen om de algemene vaardigheidskloof in deze sector te dichten; wijst erop dat dit onevenwicht onvermijdelijk leidt tot vertekende algoritmen; benadrukt het belang van de empowerment van meisjes en hun te motiveren voor STEM-loopbanen en het uitbannen van de genderkloof op dit gebied;

f) AI en de toekomst van de democratie

85.  stelt vast dat AI enerzijds kan helpen bij het opbouwen van een transparantere en efficiëntere overheidssector, maar dat anderzijds de technische ontwikkelingen op het gebied van AI zeer snel en dynamisch verlopen, vaak gedreven door een logica van groei en winst, waardoor het voor beleidsmakers moeilijk is om voldoende inzicht in huis te hebben over de manier waarop nieuwe AI-toepassingen werken en welke resultaten deze toepassingen kunnen voortbrengen, hoewel zij de plicht hebben een kader te verschaffen om ervoor te zorgen dat AI in overeenstemming is met de grondrechten en ten voordele van de samenleving kan worden gebruikt; wijst erop dat de prognoses van deskundigen over de toekomstige impact van AI ook uiteenlopen, wat erop wijst dat het zelfs voor hen moeilijk kan zijn om de resultaten van de invoering van nieuwe AI-technologieën te voorspellen; stelt daarom dat deze onzekerheid het voor wetgevers noodzakelijk maakt om bij de regulering van AI naar behoren rekening te houden met het voorzorgsbeginsel; is van mening dat het van cruciaal belang is om deskundigen met uiteenlopende deskundigheid en achtergronden te raadplegen om solide, werkbare en toekomstbestendige wetgeving tot stand te brengen; waarschuwt dat rechtsonzekerheid een van de grootste belemmeringen voor innovatie kan zijn; wijst in dit verband op het belang van het bevorderen van AI-geletterdheid bij burgers, met inbegrip van verkozen vertegenwoordigers en nationale autoriteiten;

86.  waarschuwt dat wetgevingscycli derhalve vaak geen gelijke tred houden met de vooruitgang van de technologie, waardoor beleidsmakers worden gedwongen hun achterstand in te lopen en de voorkeur te geven aan regulering van reeds op de markt aanwezige gebruiksgevallen; wijst erop dat een gedegen regelgevingsbenadering voor AI moet worden voorafgegaan door een grondige analyse van evenredigheid en noodzaak, om te voorkomen dat innovatie en het concurrentievermogen van EU-bedrijven worden belemmerd;

87.  benadrukt dat het gebruik van AI om biometrische gegevens te verwerven zowel opdringerig als schadelijk of juist gunstig kan zijn voor individuen, alsook voor het publiek in het algemeen;

88.  merkt met bezorgdheid op dat dergelijke AI-technologieën cruciale ethische en juridische vragen kunnen opwerpen; merkt op dat bepaalde AI-technologieën de automatisering van informatieverwerking op ongekende schaal mogelijk maken, wat de weg vrijmaakt voor grootschalige controle en andere onwettige inmenging en een bedreiging vormt voor de grondrechten, met name de rechten op privacy en gegevensbescherming;

89.  beklemtoont dat veel autoritaire regimes AI-systemen gebruiken om hun burgers te controleren, massale surveillance uit te oefenen, te bespioneren, te monitoren en te rangschikken, of om de bewegingsvrijheid te beperken; beklemtoont dat elke vorm van het toekennen van normatieve scores aan burgers door overheidsinstanties, met name op het gebied van wetshandhaving, grenscontrole en politiële of gerechtelijke instanties, maar ook het gebruik ervan door particuliere ondernemingen of personen, tot verlies van autonomie en privacy leidt, risico’s van discriminatie met zich meebrengt en niet in overeenstemming is met Europese waarden; herinnert eraan dat technologieën zoals cybersurveillance en biometrische herkenning, die voor deze doeleinden kunnen worden gebruikt, onder de EU-verordening inzake controle op de uitvoer van producten vallen; is zeer bezorgd over en veroordeelt gevallen van EU-bedrijven die biometrische systemen die in de EU niet legaal mochten worden gebruikt, verkopen aan autoritaire regimes in derde landen;

90.  merkt op dat dominante technologieplatforms vandaag de dag niet alleen aanzienlijke zeggenschap hebben over de toegang tot informatie en de verdeling daarvan, maar ook AI-technologieën gebruiken om meer informatie te vergaren over de identiteit en het gedrag van een persoon en kennis van de beslissingsgeschiedenis; is van oordeel dat dergelijke profilering risico’s inhoudt voor democratische stelsels en voor de instandhouding van grondrechten en de autonomie van burgers; beklemtoont dat dit een machtsonevenwicht creëert en een systematisch risico inhoudt dat de democratie kan beïnvloeden;

91.  wijst erop dat digitale platforms, onder meer via AI-gestuurde marketingtoepassingen, kunnen worden gebruikt voor buitenlandse inmenging en om desinformatie en deepfakes te verspreiden, waarbij zij fungeren als netwerken voor propaganda, trollen en intimidatie teneinde verkiezingsprocessen te ondermijnen; beklemtoont dat machinaal leren met name de gerichte aanwending van persoonsgegevens mogelijk maakt om onbewuste kiezers te manipuleren, door gepersonaliseerde en overtuigende berichten samen te stellen; wijst op het belang van goede transparantieverplichtingen die doeltreffend worden toegepast;

92.  onderstreept dat AI echter ook kan worden gebruikt om antidemocratische en onethische activiteiten op platforms terug te dringen en eveneens als middel kan worden ingezet om de verspreiding van nepnieuws en haatzaaiende uitlatingen te beperken, ook al hebben tests van het vermogen ervan om contextspecifieke inhoud te begrijpen tot nu toe slechte resultaten opgeleverd; is bezorgd dat tot verdeeldheid leidend taalgebruik kan leiden tot meer betrokkenheid van gebruikers, waardoor het verwijderen van dergelijk taalgebruik rechtstreeks indruist tegen het bedrijfsmodel van dergelijke platforms, dat gebaseerd is op het maximaliseren van de betrokkenheid van gebruikers; is van mening dat door AI aangedreven oplossingen gebaseerd moeten zijn op volledige eerbiediging van de vrije meningsuiting, en op sterk in hun voordeel werkend bewijs, alvorens zij uiteindelijk kunnen worden gebruikt;

93.  beklemtoont dat de vertekening (bias) in AI-systemen, vooral wat deeplearningsystemen betreft, vaak optreedt wegens een gebrek aan diverse en hoogwaardige trainings- en testdata, bijvoorbeeld wanneer gegevensreeksen worden gebruikt die niet voldoende representatief zijn voor kwetsbare groepen, of wanneer de taakomschrijving of vaststelling van eisen zelf een vertekening omvat; merkt op dat vertekening ook kan optreden door een mogelijk gebrek aan diversiteit in ontwikkelingsteams wat intrinsieke vertekeningen versterkt, door een beperkte hoeveelheid trainings- en testdata, of wanneer een vooringenomen AI-ontwikkelaar het algoritme schade heeft toegebracht; wijst erop dat gemotiveerde differentiatie ook met opzet wordt veroorzaakt om de leerprestaties van AI onder bepaalde omstandigheden te verbeteren;

94.  wijst erop dat structurele vertekeningen in onze samenleving niet moeten worden herhaald of zelfs versterkt door middel van gegevensreeksen van lage kwaliteit; geeft in dit verband aan dat algoritmen leren net zo discriminatoir te zijn als de gegevens waarmee ze werken, en als gevolg van trainingsdata van lage kwaliteit of waargenomen vertekeningen of discriminatie in de samenleving, op beslissingen kan wijzen die inherent discriminerend zijn, hetgeen discriminatie in de samenleving versterkt; merkt echter op dat vertekeningen door AI soms kunnen worden verholpen; concludeert dat het derhalve noodzakelijk is om technische middelen toe te passen en verschillende controlelagen op AI-systemen vast te stellen, met inbegrip van de software, algoritmen en gegevens die door de systemen worden gebruikt en geproduceerd teneinde dit risico te beperken; stelt dat AI kan en moet worden gebruikt om vertekeningen en discriminatie te verminderen en gelijke rechten en positieve sociale verandering te bevorderen in onze samenlevingen, waaronder door middel van normatieve voorschriften inzake gegevensreeksen die worden gebruikt om AI-systemen te trainen; wijst erop dat één van de meest doeltreffende manieren om vertekening in AI-systemen te verminderen, is om ervoor te zorgen, voor zover mogelijk krachtens het Unierecht, dat de maximale hoeveelheid niet-persoonsgegevens beschikbaar is voor trainingsdoeleinden en machinaal leren;

g) Herhaaldelijk terugkomende bevindingen in alle zes casestudy’s

95.  merkt op dat de invoering van AI-technologieën duidelijke maatschappelijke voordelen en kansen biedt, die alleen kunnen worden benut indien transversale hindernissen in de EU worden aangepakt, in overeenstemming met de grondrechten, waarden en wetgeving; stelt vast dat overlapping van wetgeving, marktfragmentatie, bureaucratische obstakels, een gebrek aan toegankelijke digitale infrastructuur en digitale vaardigheden in de bredere samenleving, en ontoereikende investeringen in onderzoek en ontwikkeling met name kunnen worden beschouwd als belemmeringen voor de succesvolle toepassing van betrouwbare AI op alle geanalyseerde gebieden;

96.  concludeert voorts aan de hand van de bestudeerde casestudy’s dat er bepaalde gebruikssituaties zijn die risico’s inhouden of schadelijk zijn, maar dat het niet per se om specifieke AI-technologieën zelf gaat, maar om hun toepassingsgebieden; erkent dat de toekomstige regelgeving tegemoet moet komen aan de terechte bezorgdheid in verband met deze risico’s, willen AI-technologieën in de EU een brede toepassing vinden;

97.  stelt vast dat hoewel het belangrijk is om mogelijke risico’s als gevolg van AI te bestuderen en in te delen, uit de casestudy’s bleek dat AI-technologieën ons kunnen voorzien van doeltreffende tegenmaatregelen om die risico’s te beperken of weg te nemen; onderstreept dat, aangezien AI nog altijd in de kinderschoenen staat binnen een breder kader van opkomende technologieën, het volledige potentieel ervan, alsook de risico’s niet zeker zijn; wijst erop dat niet alleen moet worden gekeken naar de risico’s voor individuen, maar ook naar de bredere maatschappelijke en de niet-materiële individuele schade; benadrukt de aanzienlijke onevenwichtigheden in marktpositie die aanwezig zijn op datamarkten en de aangrenzende AI-economie; benadrukt dat eerlijke concurrentie en het verwijderen van obstakels voor de concurrentie voor start-ups en kmo’s van essentieel belang zijn om de mogelijke voordelen van AI op economisch en maatschappelijk gebied eerlijk te verdelen, die zowel in de EU als wereldwijd aanzienlijk lijken te zijn;

3.De plek van de EU in de wereldwijde concurrentie op het gebied van AI

98.  neemt hevige wereldwijde AI-concurrentie waar, waarbij de EU haar ambities nog niet heeft verwezenlijkt; neemt in de volgende delen het wereldwijde concurrentievermogen van de EU met betrekking tot AI onder de loep door het te vergelijken met dat van China en de VS, waarbij drie kernelementen centraal staan: regelgevingsbenadering, marktpositie en investeringen; erkent echter dat transnationale markten en bedrijven niet eenvoudig kunnen worden afgebakend over de nationale grenzen, aangezien de meeste technologiebedrijven klanten, aandeelhouders, werknemers en leveranciers in veel verschillende landen hebben;

a) Regelgevingsbenadering

99.  merkt op dat de VS op digitaal gebied nog geen horizontale wetgeving heeft ingevoerd en zich tot dusver heeft gericht op sectorspecifieke wetten en het faciliteren van investeringen, onder meer door middel van belastingmaatregelen voor innovatie van de particuliere sector, met name bij zijn technologiereuzen en vooraanstaande universiteiten; merkt op dat, ondanks recente ontwikkelingen die wijzen op een actievere beleidsbepalende rol, de Amerikaanse benadering tot dusverre vooral gericht is geweest op het bieden van juridische begeleiding aan bedrijven, het investeren in onderzoeksprojecten en het wegnemen van waargenomen belemmeringen voor innovatie;

100.  beklemtoont dat de Amerikaanse “AI Initiative Act” uit 2019 een beperkte herschikking heeft ingeleid, aangezien de Amerikaanse regering, naast een nieuwe toewijzing van financiering, de omscholing van werknemers en de versterking van digitale infrastructuur, ook de ontwikkeling van gemeenschappelijke normen voor betrouwbare AI aankondigde; merkt echter op dat de tien beginselen die daaruit voortvloeiden zeer breed geformuleerd waren om elke overheidsinstantie in staat te stellen sectorspecifieke regelgeving op te stellen; verwacht dat hoewel de huidige Amerikaanse regering van plan is in 2022 een nieuwe Bill of Rights voor te stellen om de schade berokkend door AI te beperken, de benadering van de VS marktgedreven zal blijven;

101.  benadrukt dat de Chinese president Xi Jinping al in 2013 de nadruk legde op het belang van technologie in de geopolitiek, de rol van overheidsbeleid bij het opstellen van doelstellingen op de lange termijn en het feit dat AI-technologieën een kans bieden om zijn militaire macht nieuw leven in te blazen; beklemtoont voorts dat de Chinese regering vervolgens in 2015 het “Made in China 2025”-plan en in 2017 het “Next Generation AI Development”-plan heeft voorgelegd, die elk duidelijke doelstellingen bevatten om tegen 2030 van China de wereldleider op het gebied van AI te maken; merkt op dat in het Chinese witboek inzake normalisatie voor AI uit 2018 verder werd toegelicht hoe de socialistische markteconomie internationale normen kan ontwikkelen en op strategische wijze actief kan zijn in internationale organisaties voor normalisatie; neemt nota van de invoering van regels inzake aanbevelingssystemen en van een gedragscode inzake AI in China;

102.  merkt op dat China op het wereldwijde toneel internationale partnerschappen op het gebied van AI actief bevordert als middel om zijn eigen op AI gebaseerde toezichtpraktijken, zijn stelsel van sociale scores en censuurstrategieën te exporteren; benadrukt dat in het kader van het initiatief voor een digitale Zijderoute ook gebruik wordt gebruikt van grote investeringen in het buitenland als middel om de Chinese invloed en zijn AI-technologie wereldwijd te verspreiden, hetgeen verreikende gevolgen kan hebben die verder gaan dan het opleggen van technologische normen of het handhaven van het technologisch concurrentievermogen; concludeert dat de aanpak van de Chinese overheid er derhalve op gestoeld is AI in te zetten in het eigen land en eveneens AI-technologieën uit te voeren die functioneren op basis van vooraf vastgestelde normen die in overeenstemming zijn met de ideologie van de Chinese overheid;

103.  merkt op dat de Commissie in 2018 is begonnen met haar werk inzake de reglementering van AI door de bekendmaking van de Europese AI-strategie, de oprichting van een deskundigengroep op hoog niveau en de invoering van een gecoördineerd plan(32) om in Europa gemaakte AI te bevorderen; merkt op dat in het witboek inzake AI uit 2020 talrijke maatregelen en beleidsopties voor toekomstige regelgeving op het gebied van AI zijn voorgesteld, hetgeen uiteindelijk heeft geleid tot de horizontale wet op de artificiële intelligentie(33), die in mei 2021 samen met een herzien gecoördineerd plan inzake AI(34) werd voorgesteld; wijst erop dat in juni 2021 twintig lidstaten nationale AI-strategieën hadden gepubliceerd en nog eens zeven lidstaten de laatste voorbereidende stappen zetten ter vaststelling van hun strategieën;

104.  benadrukt dat uitgebreide aandacht voor de ontwikkeling van een Europese digitale interne markt, maar ook ethische overwegingen overeenkomstig kernwaarden met betrekking tot mensenrechten en democratische beginselen centraal staat in de regelgevingsbenadering van de EU; erkent dat de vaststelling van het eerste regelgevingskader voor AI in de wereld de EU macht en een pioniersvoordeel kan geven bij het opstellen van internationale normen voor AI op basis van grondrechten, alsook voor het over de hele wereld succesvol uitvoeren van mensgerichte, “betrouwbare AI”; benadrukt dat deze benadering moet worden ondersteund door coördinatie van de regelgeving en overeenstemming met internationale partners;

b) Marktsituatie

105.  merkt op dat veel van de 100 toonaangevende AI-bedrijven in de wereld hun hoofdkantoor in de VS hebben, terwijl er maar weinig in de EU zijn gevestigd; merkt op dat de VS ook de lijst van het totale aantal startende AI-ondernemingen aanvoert;

106.  wijst erop dat verscheidene Europese digitale ondernemingen de afgelopen jaren zijn overgenomen door Amerikaanse technologiereuzen; is verheugd over de ambitie van de Commissie om het hoofd te bieden aan overnames die een aanzienlijke impact kunnen hebben op de daadwerkelijke mededinging op de digitale markt en om “killer acquisitions” te beperken; wijst er echter op dat overname in sommige gevallen een hoofddoel kan zijn van oprichters van startende ondernemingen en hun financiers, als een legitieme methode om voordeel te halen uit hun ideeën;

107.  beklemtoont dat de VS en China weliswaar proberen het gebruik van AI-technologie in de publieke en particuliere sector te versnellen, maar de toepassing van AI binnen de EU achterblijft; stelt vast dat in 2020 slechts 7 % van de ondernemingen in de EU met ten minste 10 werknemers AI-technologieën gebruikte, met aanzienlijke verschillen tussen de lidstaten en tussen de verschillende bedrijfstakken;

108.  is bezorgd dat hoewel de VS en China elk beschikken over een eengemaakte digitale markt met een samenhangend geheel van regels, de digitale interne markt van de EU nog altijd niet compleet is en er nog steeds ongerechtvaardigde belemmeringen zijn; beklemtoont dat de ontwikkeling van AI-producten en -diensten verder kan worden vertraagd door de lopende werkzaamheden aan 27 verschillende nationale AI-strategieën;

109.  wijst ook op het feit dat inconsistenties in het EU-recht, overlapping van verschillende wetgevingsinitiatieven, tegenstrijdigheden tussen het EU-recht en het nationale recht, verschillen in juridische interpretaties en een gebrek aan handhaving in de lidstaten allemaal een gelijk speelveld in de weg staan en rechtsonzekerheid kunnen creëren voor Europese bedrijven, aangezien ze moeite kunnen hebben te bepalen of hun innovaties op het gebied van AI in overeenstemming zijn met het EU-recht;

110.  merkt op dat de marktfragmentatie voor AI-bedrijven nog wordt verergerd door een gebrek aan gemeenschappelijke standaarden en normen in sommige sectoren, onder meer inzake gegevensinteroperabiliteit; betreurt het regelgevingsrisico dat voortvloeit uit de vertraging van wetgeving, zoals de e-privacyverordening; draagt als voorbeeld aan dat ontwikkelaars van AI in de EU te maken hebben met een uitdaging op het gebied van gegevens, hetgeen voor hun Amerikaanse of Chinese tegenhangers geen probleem vormt als gevolg van de onvolledige Europese digitale interne markt; merkt op dat zij vaak niet beschikken over voldoende hoogwaardige gegevens om hun algoritmen te trainen en te testen, en worstelen met een gebrek aan sectorale gegevensruimten en sectoroverschrijdende interoperabiliteit, alsook met beperkingen op grensoverschrijdende gegevensstromen;

c) Investeringen

111.  merkt op dat Europese bedrijven en overheden veel minder investeren in AI-technologieën dan de VS of China; wijst erop dat hoewel particuliere investeringen in de AI-sector van de EU aanzienlijk toenemen, de EU nog steeds veel te weinig in AI investeert in vergelijking met andere leidende regio’s, aangezien de VS en China meer dan 80 % voor hun rekening nemen van de jaarlijkse 25 miljard EUR aan kapitaalinvesteringen in AI en blockchain, terwijl het aandeel van de EU slechts 7 % of ongeveer 1,75 miljard EUR bedraagt; beklemtoont dat de liquiditeit van de financieringsmarkten voor technologiebedrijven in de EU nog steeds niet de omvang heeft van vergelijkbare markten in de VS; merkt op dat de VS ook bovenaan staat met betrekking tot de financiering van risicokapitaal en private equity, hetgeen bijzonder belangrijk is voor start-ups op het gebied van AI, met 12,6 miljard EUR in 2019 tegenover 4,9 miljard EUR voor China en 2,8 miljard EUR voor de EU; merkt op dat Europese ondernemers op het gebied van AI daardoor de Atlantische Oceaan oversteken om hun ondernemingen door te laten groeien in de VS;

112.  stelt vast dat de geraamde jaarlijkse overheidsinvesteringen van de EU in AI, 1 miljard EUR(35), veel lager liggen dan de 5,1 miljard EUR die jaarlijks wordt geïnvesteerd in de VS en het bedrag van maximaal 6,8 miljard EUR aan investeringen in China(36); stelt echter vast dat in de EU de overheidsfinanciering voor onderzoek en innovatie op het gebied van AI tussen 2017 en 2020 toenam met 70 % in vergelijking met de vorige periode, en dat de EU in 2019 tussen 7,9 en 9 miljard EUR heeft geïnvesteerd in AI, hetgeen 39 % meer was dan in het voorgaande jaar; erkent en verwelkomt de plannen van de Commissie om de investeringen verder op te voeren via het programma Digitaal Europa, Horizon Europa, InvestEU, de Europese structuur- en investeringsfondsen, het Europees Investeringsfonds, de Connecting Europe Facility in Telecom en diverse programma’s in het kader van het cohesiebeleid, die verder zullen worden aangevuld en als hefboom zullen worden gebruikt door het streefcijfer van minimaal 20 % voor uitgaven voor de digitale transitie in de nationale herstel- en veerkrachtplannen, zoals door de Commissie en de lidstaten is overeengekomen in het kader van de herstel- en veerkrachtfaciliteit; onderstreept echter het recente rapport van de Europese Investeringsbank, waarin wordt gesteld dat de EU een investeringskloof op het gebied van AI- en blockchaintechnologieën heeft te overbruggen van 5 à 10 miljard EUR per jaar;

113.  benadrukt dat AI-ondernemingen binnen de EU te maken krijgen met sterke concurrentie voor gekwalificeerd personeel, wat nog wordt verergerd doordat 42 % van de EU-bevolking niet over digitale basisvaardigheden beschikt; benadrukt de noodzaak om een aanzienlijk groter aantal goed opgeleide afgestudeerden, met inbegrip van vrouwen, op te leiden en aan te trekken om in de digitale sector te werken;

114.  merkt op dat de EU weliswaar nog altijd een uitstekende gemeenschap van AI-onderzoekers heeft, maar dat de kennisvlucht van onderzoekers in de EU een probleem blijft; benadrukt dat maatregelen nodig zijn om gezaghebbende onderzoekers aan te trekken; merkt op dat de EU slechts 2,32 % van haar bbp heeft uitgegeven aan onderzoek en ontwikkeling in 2020, terwijl de VS daaraan 3,08 % heeft besteed; wijst erop dat de lidstaten hun toezegging gestand moeten doen om 3 % van hun bbp in onderzoek en ontwikkeling te investeren teneinde de strategische autonomie van de Unie op digitaal gebied te waarborgen;

115.  merkt op dat de digitale infrastructuur van de EU grondig moet worden bijgewerkt, aangezien slechts 25 % van de mensen in de EU verbinding kan maken met een 5G-netwerk, vergeleken met 76 % van de mensen in de VS; merkt op dat het de EU ontbreekt aan voldoende hoogwaardige digitale infrastructuur met interoperabele gegevensruimten, hoge overdrachtssnelheden en -volumes, betrouwbaarheid en korte vertragingen; benadrukt dat Europese AI-ecosystemen moeten worden ondersteund met clusters van uitmuntendheid;

d) Conclusie

116.  concludeert dat de VS de algemene koploper is op het gebied van AI, aangezien het land in veel categorieën vooroploopt, met in de VS gevestigde bedrijven die de technologische ontwikkeling leiden op gebieden zoals cloudcomputing en capaciteiten inzake high-performance computing, en ook wat betreft investeringen, het aantrekken van AI-talent, onderzoek en infrastructuur; benadrukt echter dat China een paar jaar geleden met betrekking tot alle indicatoren nog een aanzienlijke achterstand had op de VS, maar bezig is met een snelle inhaalbeweging; erkent dat beide landen het voordeel hebben dat zij beschikken over een eengemaakte interne markt en een sterker engagement om een voortrekkersrol te blijven vervullen op het gebied van AI;

117.  benadrukt dat ondanks de sterke positie van de EU op het gebied van industriële software en robotica, EU-actoren in veel categorieën nog steeds achterlopen op hun Amerikaanse en Chinese collega’s; onderstreept dat de EU een ambitieus plan moet ontwikkelen voor mensgerichte Europese AI; merkt op dat de EU echter vooropgaat met betrekking tot de regelgevingsbenadering; wijst erop dat een haalbare strategie van de EU om het concurrentievermogen inzake AI te verbeteren inhoudt dat de nadruk wordt gelegd op onderzoek en innovatie, vaardigheden, infrastructuur en investeringen, en tegelijkertijd wordt getracht een toekomstgericht, horizontaal en innovatievriendelijk regelgevingskader voor de ontwikkeling en aanwending van AI vast te stellen, en er tevens voor te zorgen dat de grondrechten van EU-burgers en de rechtsstaat worden gewaarborgd;

118.  benadrukt dat Brexit een negatief effect heeft gehad op de inspanningen van de EU om haar wereldwijde AI-voetafdruk te vergroten, aangezien het VK een van de meest toonaangevende EU-landen was op het gebied van AI; wijst er echter op dat het VK een gewaardeerde partner moet blijven van de EU die het concurrentievermogen van beide partners versterkt en gedeelde regelgevende vooruitzichten in mondiale normalisatie bevordert;

119.  concludeert dat de EU momenteel nog ver verwijderd is van haar ambitie om op mondiaal niveau concurrerend te worden op het gebied van AI, en in sommige categorieën nog verder achterop dreigt te raken; blijft van mening dat snelle actie met betrekking tot het hieronder geschetste stappenplan van de EU voor AI een kans biedt om verandering in deze situatie te brengen;

120.  geeft aan dat, aangezien de EU niet de wetgevende bevoegdheden heeft om alle punten in het stappenplan van de EU voor AI aan te pakken, de Bijzondere Commissie voorstelt verdere besprekingen op hoog niveau en politieke processen tussen de EU-instellingen en de lidstaten voort te zetten teneinde aan te dringen op een meer geharmoniseerde aanpak van AI en de lidstaten te helpen hun inspanningen te coördineren; verwijst in dit opzicht naar de Lissabon-agenda van de EU uit 2000 die, ondanks de kritiek, een belangrijke rol heeft gespeeld door 20 jaar lang de beleidsoriëntatie te sturen en de druk op de lidstaten om te hervormen hoog te houden;

4. “Europa dat klaar is voor het digitale tijdperk” – Stappenplan om een wereldleider te worden

a) Gunstig regelgevingskader

i. Regelgeving

121.  verzoekt de Commissie om voor nieuwe digitale wetgeving op gebieden zoals AI alleen wetgevingshandelingen in de vorm van verordeningen voor te stellen, omdat de digitale interne markt een proces van echte harmonisatie moet doormaken; is ervan overtuigd dat wegens de snelle ontwikkeling van technologie, digitale wetgeving altijd flexibel, op beginselen gebaseerd, technologieneutraal, toekomstbestendig en evenredig moet zijn en tegelijkertijd waar nodig een risicogebaseerde aanpak moet volgen, gebaseerd op eerbiediging van de grondrechten, en onnodige extra administratieve lasten voor kmo’s, start-ups, de academische wereld en onderzoek moet vermijden; beklemtoont bovendien het belang van een hoge mate van rechtszekerheid en bijgevolg de noodzaak van robuuste, praktische en ondubbelzinnige criteria voor toepasselijkheid, definities en verplichtingen in alle wetteksten met betrekking tot de verkoop, het gebruik of de ontwikkeling van AI-technologieën;

122.  meent dat de agenda voor betere regelgeving essentieel is voor een succesvolle AI-strategie van de EU; beklemtoont dat de nadruk moet worden gelegd op de beoordelings-, aanpassings-, uitvoerings- en handhavingsmechanismen van reeds bestaande wetten alvorens nieuwe wetgevingshandelingen voor te stellen;

123.  dringt er bij de Commissie op aan diepgaande effectbeoordelingen vooraf met adequate prognose en risicoanalyse uit te voeren alvorens nieuwe digitale voorstellen inzake gebieden zoals AI in te dienen; benadrukt dat effectbeoordelingen relevante bestaande wetgeving op systematische wijze in kaart moeten brengen en evalueren teneinde overlappingen of conflicten te voorkomen;

124.  stelt voor dat nieuwe wetten op gebieden als AI worden aangevuld met de bevordering van door belanghebbenden ontwikkelde Europese normen; is van mening dat de EU ernaar moet streven versnippering te voorkomen en dat internationale normen als een nuttige referentie kunnen dienen, maar dat de EU prioriteit moet geven aan de ontwikkeling van haar eigen normen; benadrukt dat dergelijke normen het resultaat moeten zijn van een proces van eerlijke concurrentie voor de beste normen binnen de EU, waarop de EU en normalisatieorganisaties vervolgens moeten inspelen; merkt op dat technische normen en ontwerpinstructies vervolgens kunnen worden gecombineerd met etiketteringsregelingen als een manier om het consumentenvertrouwen op te bouwen door betrouwbare diensten en producten aan te bieden; benadrukt de rol van normalisatieorganisaties van de EU bij de ontwikkeling van geavanceerde technische normen; verzoekt de Commissie sneller normalisatiemandaten te verstrekken aan de Europese normalisatieorganisaties overeenkomstig Verordening (EU) nr. 1025/2012 van het Europees Parlement en de Raad van 25 oktober 2012 betreffende Europese normalisatie(37);

125.  legt uit dat een open certificeringsplatform een ecosysteem van vertrouwen tot stand kan brengen waarbij regeringen, het maatschappelijk middenveld, bedrijven en andere belanghebbenden betrokken zijn;

126.  roept het Parlement, de Commissie en de Raad op om hun vermogen om interne bevoegdheidsconflicten aan te pakken te verbeteren, wat betreft overkoepelende onderwerpen zoals AI, omdat dergelijke conflicten de wetgevingsprocedure kunnen vertragen, met repercussies wat betreft de inwerkingtreding van de wetgeving;

ii. Governance en handhaving

127.  roept op tot een samenhangende EU-brede coördinatie, uitvoering en handhaving van AI-gerelateerde wetgeving;

128.  legt uit dat op belanghebbenden gebaseerde overlegfora zoals de Europese Raad voor data-innovatie, die zal worden opgericht bij de datagovernanceverordening, of de Europese AI-alliantie, waarin ook publiek-private partnerschappen zoals de Europese alliantie voor industriële gegevens, edge en cloud vertegenwoordigd zijn, een veelbelovende governancebenadering vormen; voegt daaraan toe dat het met deze benadering mogelijk is de beginselen, waarden en doelstellingen van het AI-ecosysteem van de EU te operationaliseren en rekening te houden met maatschappelijke belangen op het niveau van de softwarecode;

129.  benadrukt dat het probleem van “pacing” speciale aandacht vereist voor effectieve ex-posthandhaving door rechtbanken en regelgevende agentschappen, alsook voor ex-antebenaderingen om de juridische uitdagingen van opkomende technologieën het hoofd te bieden; is daarom voorstander van het gebruik van testomgevingen voor regelgeving, die AI-ontwikkelaars de unieke gelegenheid zouden bieden om op een snelle, flexibele en gecontroleerde manier te experimenteren onder toezicht van de bevoegde instanties; merkt op dat deze testomgevingen voor regelgeving een experimentele ruimte zouden bieden waarin AI-systemen en nieuwe bedrijfsmodellen onder reële omstandigheden in een gecontroleerde omgeving kunnen worden getest voordat zij op de markt komen;

iii. Rechtskader voor AI

130.  benadrukt dat een onderliggende doelstelling van de digitale strategie van de EU en eveneens van de AI-strategie inhoudt een “Europese aanpak” te creëren in een gedigitaliseerde wereld; verduidelijkt dat deze aanpak mensgericht, betrouwbaar, geleid door ethische beginselen en gebaseerd moet zijn op het concept van de sociale markteconomie; onderstreept dat het individu en de bescherming van diens grondrechten altijd centraal moeten blijven staan in alle politieke en wetgevingsgerelateerde overwegingen;

131.  stemt in met de conclusie die de Commissie trekt in haar witboek over artificiële intelligentie van 2020, namelijk dat er een risicogebaseerd rechtskader voor AI moet worden vastgelegd, waarin met name hoogwaardige ethische normen op basis van transparantie, controleerbaarheid en verantwoordingsplicht zijn opgenomen, in combinatie met bepalingen inzake productveiligheid, passende aansprakelijkheidsregels en sectorspecifieke bepalingen, en ondernemingen en gebruikers tegelijkertijd voldoende flexibiliteit en rechtszekerheid en een gelijk speelveld wordt geboden om de invoering van AI en AI-innovaties te bevorderen;

132.  wijst op de leidende toegevoegde waarde van het overnemen van de door de OESO ontwikkelde concepten, terminologie en normen als inspiratiebron voor de definitie van AI in wetgeving; beklemtoont dat die werkwijze de EU een voordeel zou verschaffen bij het vormgeven van een toekomstig internationaal governancesysteem van AI;

133.  is ervan overtuigd dat AI niet altijd als technologie moet worden gereglementeerd, maar dat het niveau van regelgevende maatregelen in verhouding moet staan tot het soort individueel en/of maatschappelijk risico dat ontstaat bij het gebruik van een AI-systeem; onderstreept in dit verband dat het van belang is onderscheid te maken tussen gebruikssituaties van AI met een hoog en een laag risico; concludeert dat voor de eerste categorie strikte aanvullende wettelijke waarborgen nodig zijn, terwijl voor gebruikssituaties met een laag risico in veel gevallen transparantievereisten voor eindgebruikers en consumenten nodig kunnen zijn;

134.  specificeert dat de kwalificatie van AI-systemen als “hoog risico” moet gebeuren op basis van het concrete gebruik ervan en de context, aard, waarschijnlijkheid, ernst en potentiële onomkeerbaarheid van de schade die naar verwachting zal optreden in strijd met de grondrechten en de gezondheids- en veiligheidsvoorschriften als vastgelegd in het Unierecht; benadrukt dat deze kwalificatie vergezeld moet gaan van richtsnoeren en de bevordering van de uitwisseling van beste praktijken voor AI-ontwikkelaars; benadrukt dat het recht op privacy te allen tijde moet worden geëerbiedigd en dat AI-ontwikkelaars volledige naleving met de regels inzake gegevensbescherming moeten garanderen;

135.  onderstreept dat AI-systemen die waarschijnlijk zullen interageren met kinderen of anderszins gevolgen zullen hebben voor kinderen, rekening moeten houden met hun rechten en kwetsbaarheden en moeten voldoen aan de hoogste beschikbare normen op het gebied van veiligheid, beveiliging en privacy door ontwerp en door standaardinstellingen;

136.  merkt op dat de omgevingen waarin AI-systemen werken, kunnen verschillen wanneer bedrijven zaken doen met bedrijven (B2B) of bedrijven met consumenten (B2C); wijst erop dat consumentenrechten bij wet moeten worden beschermd door middel van wetgeving inzake consumentenbescherming; benadrukt dat bedrijven aansprakelijkheidskwesties en andere juridische uitdagingen weliswaar sneller en kosteneffectiever rechtstreeks kunnen oplossen door middel van contracten met zakenpartners, maar dat wetgeving nodig kan zijn om kleinere ondernemingen te beschermen tegen misbruik van marktmacht door dominante spelers door middel van commerciële of technologische lock-in, belemmeringen voor markttoegang of problemen in verband met asymmetrische informatie; wijst erop dat het tevens noodzakelijk is rekening te houden met de behoeften van kmo’s en start-ups met complexe vereisten, om te voorkomen dat zij in een nadelige positie zouden belanden ten opzichte van grotere ondernemingen, die over de middelen beschikken om omvangrijke juridische en complianceafdelingen in stand te houden;

137.  onderstreept dat er een op beginselen gebaseerde benadering moet worden gehanteerd voor open ethische vraagstukken die de kop opsteken door nieuwe technologische mogelijkheden die voortvloeien uit de verkoop en het gebruik van AI-toepassingen, onder meer via het gebruik van fundamentele, verplichte beginselen, zoals het beginsel om geen schade te berokkenen, het beginsel van eerbiediging van de menselijke waardigheid en de grondrechten, en het beschermen van het democratische proces; merkt op dat goede praktijken op het gebied van AI-ontwikkeling, zoals mensgerichte AI, verantwoord bestuur en de beginselen van transparantie en verklaarbaarheid, alsook beginselen inzake duurzame AI die volledig zijn afgestemd op de Agenda 2030 voor duurzame ontwikkeling van de VN, andere belangrijke componenten zijn voor het vormgeven van de AI-economie;

138.  erkent dat het niet altijd mogelijk is om de vertekening volledig te schrappen uit AI-algoritmen, aangezien het ideale doel van foutloze gegevens zeer moeilijk of bijna onmogelijk te verwezenlijken is; merkt op dat zelfs een getest AI-systeem onvermijdelijk geconfronteerd zal worden met scenario’s in reële omstandigheden die vertekende resultaten kunnen opleveren wanneer zij worden ingezet in een omgeving die verschilt van de samenstelling van de training- en testgegevens; benadrukt dat de EU ernaar moet streven de transparantie van datasets en algoritmen te verbeteren, zeer nauw samen te werken met ontwikkelaars van AI om een tegenwicht te bieden tegen structurele maatschappelijke vertekeningen en te verminderen, en in een vroeg stadium van de ontwikkeling verplichte zorgvuldigheidseisen inzake mensenrechten te overwegen;

139.  licht toe dat zinvolle verplichtingen inzake transparantie of verklaarbaarheid van AI-systemen weliswaar nuttig kunnen zijn in veel gevallen, maar niet in alle gevallen toepasbaar zijn; merkt op dat intellectuele-eigendomsrechten en handelsgeheimen moeten worden beschermd tegen illegale praktijken zoals industriële spionage;

140.  stelt vast dat AI-innovatoren in het kader van het wetgevingskader inzake intellectuele eigendom voortdurend moeten worden gestimuleerd en beschermd door hun octrooien toe te kennen als beloning voor het ontwikkelen en uitgeven van hun creaties; constateert dat de bestaande wetgeving grotendeels toekomstbestendig is, maar stelt bepaalde aanpassingen voor, met inbegrip van openbronelementen, alsook het gebruik van openbare aanbestedingen om, waar passend, openbronsoftware voor AI-oplossingen verplicht te stellen; stelt nieuwe vormen van octrooilicenties voor om ervoor te zorgen dat deze instrumenten verkrijgbaar zijn voor regio’s en initiatieven waarvoor ze anders niet binnen bereik lagen;

141.  is van mening dat verplichte ex-anterisicobeoordelingen op basis van duidelijke regels en normen, alsmede gegevensbeschermingseffectbeoordelingen, aangevuld met conformiteitsbeoordelingen door een derde partij met relevante en passende CE-markering, in combinatie met ex-posthandhaving door markttoezicht, nuttig kunnen zijn om ervoor te zorgen dat AI-systemen op de markt veilig en betrouwbaar zijn; is van mening dat om te voorkomen dat kmo’s van de markt worden verdrongen, normen en richtsnoeren voor de naleving van de wetgeving inzake AI moeten worden ontwikkeld met de nauwe betrokkenheid van kleine ondernemingen, een zo groot mogelijke internationale afstemming en kosteloze beschikbaarheid;

142.  merkt op dat, teneinde de productveiligheid te verhogen en de foutdetectie te verbeteren, de ontwikkelaars van AI met een hoog risico moeten waarborgen dat toegankelijke logbestanden over de activiteiten van algoritmen veilig worden beheerd; is van mening dat ontwikkelaars, waar relevant, AI-systemen met een hoog risico moeten ontwerpen waarbij mechanismen zijn ingebed, “stopknoppen”, zodat mensen kunnen ingrijpen en de geautomatiseerde activiteiten op elk moment veilig en efficiënt stil kunnen leggen, en moeten zorgen voor een “human-in-the-loop”-benadering; is van mening dat de output en de redenering van het AI-systeem altijd begrijpelijk moeten zijn voor mensen;

143.  erkent de juridische uitdagingen die verband houden met AI-systemen en dat het nodig is een herziening van specifieke delen van de bestaande aansprakelijkheidsregels te overwegen; kijkt in dit verband uit naar de presentatie door de Commissie van haar wetgevingsvoorstel inzake de aansprakelijkheid van AI; beklemtoont dat de productaansprakelijkheidsrichtlijn(38) en de nationale schuldaansprakelijkheidsregelingen in beginsel de hoofdwetgeving kunnen blijven om de meeste schade die wordt toegebracht door AI tegen te gaan; onderstreept dat er in sommige gevallen sprake kan zijn van ongepaste resultaten, maar waarschuwt dat er bij een herziening rekening moet worden gehouden met de bestaande wetgeving inzake productveiligheid en dat die herziening gebaseerd mag zijn op duidelijk geïdentificeerde leemten, en dat deze toekomstbestendig moet zijn, een doeltreffende tenuitvoerlegging mogelijk moet maken en de bescherming van personen in de EU moet waarborgen;

144.  onderstreept dat het rechtskader kinderen niet mag onderwerpen aan dezelfde mate van persoonlijke verantwoordelijkheid als volwassenen voor het begrijpen van risico’s;

145.  merkt op dat bepaalde wijzigingen van de wettelijke definities van “product”, met inbegrip van geïntegreerde softwaretoepassingen, digitale diensten en onderlinge afhankelijkheid tussen producten, en “producent”, met inbegrip van de backendoperator, dienstverlener en dataleverancier, kunnen worden overwogen om ervoor te zorgen dat er vergoeding beschikbaar is voor schade die wordt veroorzaakt door deze technologieën; beklemtoont echter dat een te ruime of uitermate enge benadering ten opzichte van de definitie van “product” moet worden vermeden;

146.  wijst erop dat er, wegens de kenmerken van AI-systemen, zoals hun complexiteit, connectiviteit, ondoorzichtigheid, kwetsbaarheid, vermogen om te worden gewijzigd door middel van actualiseringen, zelflerend vermogen en potentiële autonomie, alsmede het grote aantal actoren dat betrokken is bij de ontwikkeling, de uitrol en toepassing ervan, aanzienlijke uitdagingen zijn voor de doeltreffendheid van de uniale en nationale kaderbepalingen inzake aansprakelijkheid; is derhalve van oordeel dat, hoewel een volledige herziening van goed functionerende aansprakelijkheidsregelingen niet nodig is, specifieke en gecoördineerde aanpassingen van de Europese en nationale aansprakelijkheidsregelingen noodzakelijk zijn om te voorkomen dat mensen die schade ondervinden of wier eigendom beschadigd wordt, geen schadevergoeding ontvangen; geeft aan dat, hoewel AI-systemen met een hoog risico moeten worden onderworpen aan strikte aansprakelijkheidswetgeving, in combinatie met een verplichte verzekeringsdekking, voor alle andere activiteiten, apparaten of processen die door AI-systemen worden aangestuurd en schade veroorzaken, een schuldaansprakelijkheid moet blijven gelden; is van mening dat de betrokken persoon niettemin het voordeel moet hebben van een vermoeden van schuld van de operator, tenzij deze operator kan aantonen dat hij heeft voldaan aan zijn zorgplicht;

iv. De uitdaging van de EU op het gebied van gegevens

147.  neemt kennis van de conclusies die de Commissie trekt in haar mededeling uit 2020 met als titel “Een Europese datastrategie” en het Parlement in zijn resolutie van 25 maart 2021 over hetzelfde onderwerp, waarin wordt gesteld dat de totstandbrenging van een gemeenschappelijke Europese gegevensruimte, vergezeld van de ontwikkeling van sectorale gegevensruimten en aandacht voor gemeenschappelijke normen, cruciaal is om te zorgen voor een snelle schaalbaarheid van AI-oplossingen in de EU en daarbuiten, en om de open strategische autonomie en economische welvaart van de EU te waarborgen; herinnert aan het essentiële verband tussen de beschikbaarheid van hoogwaardige gegevens en de ontwikkeling van AI-toepassingen; benadrukt in dit verband dat binnen de EU robuuste, betrouwbare en interoperabele clouddiensten moet worden ingezet, alsook oplossingen die een hefboomeffect hebben op gedecentraliseerde gegevensanalyse en architecturen voor edgecomputing; verzoekt de Commissie duidelijkheid te scheppen omtrent het recht op toegang tot en het gebruik en de uitwisseling van gegevens door houders van gezamenlijk gecreëerde, niet-persoonsgebonden gegevens; benadrukt dat gegevenstoegang technisch mogelijk moet worden gemaakt, onder meer door middel van interoperabele gestandaardiseerde interfaces en interoperabele software; benadrukt dat belemmeringen voor het delen van gegevens leiden tot minder innovatie, verminderde concurrentie en de bevordering van oligopolide marktstructuren, die een groot risico lopen zich te bestendigen op de verwante markt voor AI-toepassingen;

148.  benadrukt dat het van cruciaal belang is gegevenssilo’s te openen en de toegang tot gegevens voor AI-onderzoekers en -ondernemingen te stimuleren, zoals uiteengezet in de resolutie van het Parlement over de Europese datastrategie; benadrukt dat een verstoord marktevenwicht als gevolg van toenemende gegevensbeperking door particuliere ondernemingen de drempels voor markttoegang verhogen en de toegang tot en het gebruik van gegevens op ruimere schaal verminderen, waardoor het met name moeilijk wordt voor start-ups en onderzoekers om de gegevens te verwerven of in licentie te geven die zij nodig hebben om hun algoritmen te trainen; onderstreept dat het noodzakelijk is de vereiste rechtszekerheid en interoperabele technische infrastructuur tot stand te brengen, en tegelijkertijd houders van gegevens in Europa te motiveren hun grote hoeveelheden ongebruikte gegevens ter beschikking te stellen; is van mening dat vrijwillige uitwisseling van gegevens tussen bedrijven op basis van eerlijke contractuele regelingen bijdraagt tot het bereiken van dit doel; erkent echter dat contractuele overeenkomsten tussen bedrijven niet noodzakelijk een adequate toegang tot gegevens voor kmo’s garanderen door de ongelijke onderhandelingsmacht of deskundigheid; wijst erop dat open datamarktplaatsen het delen van gegevens vergemakkelijken door AI-ondernemingen en -onderzoekers te helpen gegevens te verwerven of in licentie te geven van degenen die gegevens willen aanbieden op dergelijke marktplaatsen, die bestaan uit gegevenscatalogi, en die de houders en gebruikers van gegevens in staat stellen te onderhandelen over transacties voor het delen van gegevens; is in dit verband ingenomen met de regels voor gegevensbemiddelingsdiensten in de datagovernanceverordening;

149.  is ingenomen met de initiatieven van de European Cloud Federation, zoals de Europese alliantie voor industriële gegevens, edge en cloud, en het GAIA-X-project, die gericht zijn op de ontwikkeling van een gefedereerde gegevensinfrastructuur en de totstandbrenging van een ecosysteem dat schaalbaarheid, interoperabiliteit en zelfbeschikking van gegevensverstrekkers mogelijk maakt; stelt vast dat een “rulebook voor de cloud” van de EU, waarin bestaande wetgeving en initiatieven voor zelfregulering zijn bijeengebracht, ook van nut zou zijn voor het omzetten van gemeenschappelijke EU-beginselen en -waarden in toepasbare processen en checks voor technische professionals;

150.  beveelt aan de gegevensinteroperabiliteit verder te versterken en gemeenschappelijke normen vast te stellen om de gegevensstroom tussen verschillende machines en entiteiten te vergemakkelijken, de uitwisseling van gegevens tussen landen en sectoren te verbeteren en de totstandbrenging van hoogwaardige datasets op grote schaal mogelijk te maken; merkt op dat het aanmoedigen van open normen, opensourcesoftware, Creative Commons-licenties en open applicatieprogramma-interfaces (API’s) ook een belangrijke rol zou kunnen spelen bij het versnellen van de gegevensuitwisseling; beklemtoont de rol van gemeenschappelijke Europese dataruimten voor het vergemakkelijken van het vrij verkeer van gegevens in de Europese data-economie;

151.  verzoekt de Commissie en de lidstaten erop toe te zien dat binnen het kader van de mededingingsregels beter de hand wordt gehouden aan billijke contractuele voorwaarden teneinde iets te doen aan de ongelijke machtshoudingen op de markt, zonder evenwel de contractvrijheid op ongerechtvaardigde wijze aan te tasten, en dat antitrustautoriteiten over de nodige toerusting en middelen beschikken om tendensen op het gebied van gegevensconcentratie tegen te gaan; onderstreept dat Europese gegevensruimten ondernemingen in staat zouden stellen nauwer met elkaar samen te werken, en is derhalve van mening dat meer richtsnoeren en juridische duidelijkheid voor ondernemingen nodig zijn inzake mededingingsrecht en samenwerking bij het uitwisselen en bundelen van gegevens; benadrukt dat samenwerking op het gebied van gegevens, onder meer voor het trainen van AI-toepassingen of in de sector van het internet der dingen (Internet of Things, IoT), in geen geval de vorming van kartels mag vergemakkelijken of belemmeringen mag opwerpen voor nieuwkomers op een markt; benadrukt dat het belangrijk is duidelijkheid te verschaffen over de contractuele rechten van AI-ontwikkelaars en bedrijven die bijdragen aan het genereren van gegevens middels het gebruik van algoritmen of IoT-machines, met name over het recht van toegang tot gegevens, de meeneembaarheid van gegevens, het recht andere partijen te verzoeken te stoppen met het gebruik van de gegevens, en het recht gegevens te corrigeren of te wissen;

152.  verzoekt de lidstaten – met betrekking tot gegevens die in het bezit zijn van overheden – snel uitvoering te geven aan de opendatarichtlijn(39) en de verordening inzake datagovernance, en hoogwaardige datasets idealiter gratis en in machineleesbare formats en API’s beschikbaar te maken; benadrukt dat dit initiatief de kosten van verspreiding en hergebruik van hun gegevens voor overheden zou reduceren, en onderzoekers en ondernemingen in de EU enorm zou helpen bij het verbeteren van hun digitale technologieën op gebieden zoals AI;

153.  dringt aan op uniforme implementatie van de AVG in de hele EU middels een doeltreffende en snelle toepassing van het consistentiemechanisme, alsmede op afstemming van de diverse nationale interpretaties van de verordening; vindt daarnaast dat de gegevensbeschermingsautoriteiten beter moeten worden uitgerust, waaronder met technische expertise;

154.  neemt kennis van de praktische richtsnoeren van de Commissie van 2019 betreffende de verwerking van gemengde datasets; wijst erop dat het niet delen van datasets vaak de beste optie blijft voor AI-onderzoekers en bedrijven vanwege de onzekerheid met betrekking tot de vraag of de data voldoende geanonimiseerd zijn;

155.  beschouwt Advies 05/2014 van 10 april 2014 van de Groep gegevensbescherming artikel 29 inzake technieken voor anonimisering als een nuttig overzicht, dat verder kan worden uitgewerkt; verzoekt het Europees Comité voor gegevensbescherming (EDPB) richtlijnen vast te stellen op basis van specifieke gebruiksgevallen en relevante situaties voor verschillende soorten verwerkingsverantwoordelijken en verwerkingssituaties, inclusief een checklist met alle vereisten waaraan moet worden voldaan om gegevens voldoende anoniem te maken; stelt evenwel vast dat anonimiseringstechnieken momenteel de volledige en complete bescherming van de privacy niet kunnen waarborgen, aangezien experimenten hebben aangetoond dat moderne AI-systemen een persoon opnieuw kunnen identificeren;

156.  verzoekt het Europees Comité voor gegevensbescherming onderzoekers en bedrijven op gebieden zoals AI beter te adviseren over het buiten de EU effectief verwerken van persoonsgegevens op een wijze die strookt met de AVG;

157.  stelt voor financiering te geven voor nader onderzoek naar standaardisering van “privacy by design”-benaderingen, alsmede bevordering van cryptografische oplossingen en machineleren waarbij de privacy wordt gewaarborgd, aangezien het essentieel is kwalitatief hoogwaardige gegevens te kunnen gebruiken voor het produceren van algoritmen en het uitvoeren van AI-taken zonder inbreuk te plegen op de privacy; stelt vast dat datatrusts, certificeringen voor AI-toepassingen met een hoog risico, systemen voor het beheer van persoonlijke informatie en het gebruik van synthetische gegevens veelbelovend zijn;

158.  spoort de EU en haar lidstaten aan het onlangs gestarte OESO-project inzake de toegang van betrouwbare overheden tot door de particuliere sector beheerde persoonsgegevens als referentie te gebruiken voor beleidsmakers wereldwijd voor een internationale oplossing en regelgevingsconvergentie van goede praktijken op dit gebied; benadrukt in dit verband dat het vrij verkeer van data en metadata over internationale grenzen heen, met volledige inachtneming van het EU-acquis op het gebied van gegevensbescherming, een “conditio sine qua non” is voor digitale innovatie in Europa; verzoekt de Commissie dan ook af te zien van het opleggen van vereisten inzake gegevenslokalisatie, behalve wanneer dit nodig is om de grondrechten te beschermen, met inbegrip van gegevensbescherming, of in beperkte, evenredige en gerechtvaardigde gevallen wanneer een dergelijke maatregel in het belang van de EU is of noodzakelijk voor het handhaven van Europese normen;

159.  verzoekt de Commissie te reageren op de uitspraak van het Hof van Justitie van de Europese Unie (HvJ-EU) dat het EU-VS-privacyschild ongeldig is, door alle nodige maatregelen te nemen om ervoor te zorgen dat elk nieuw adequaatheidsbesluit met betrekking tot de VS volledig in overeenstemming is met de AVG, met het Handvest van de grondrechten van de Europese Unie, en met elk aspect van het arrest van het HvJ-EU, en tegelijkertijd de trans-Atlantische gegevensstromen te vereenvoudigen; verzoekt de Commissie door te gaan met haar gesprekken met andere niet-EU-landen over de adequaatheid van gegevens, aangezien dit de beste manier is om het gegevensbeschermingsbeleid van de EU te promoten en de internationale uitwisseling van gegevens te faciliteren;

b) Voltooiing van de digitale interne markt

i. Nationale AI-strategieën

160.  verzoekt de lidstaten hun nationale AI-strategieën te herzien, aangezien een aantal daarvan nog altijd vaag is en geen duidelijke doelstellingen omvat, waaronder met betrekking tot digitaal onderwijs voor de samenleving als geheel, alsook geavanceerde kwalificaties voor specialisten; beveelt aan dat de lidstaten tastbare, kwantificeerbare en specifieke acties formuleren en tegelijkertijd proberen onderlinge synergieën tot stand te brengen;

161.  verzoekt de Commissie de lidstaten te helpen bij het vaststellen van prioriteiten en het zoveel mogelijk onderling afstemmen van hun nationale AI-strategieën en -regelgeving teneinde in de hele EU voor samenhang en consistentie te zorgen; geeft aan dat, hoewel verschillende nationale benaderingen een prima manier zijn om goede praktijken te ontwikkelen, AI-ontwikkelaars en -onderzoekers grote moeilijkheden zouden ondervinden indien zij in elk van de 27 lidstaten met divergerende functioneringsparameters en regelgevingsverplichtingen zouden worden geconfronteerd;

ii. Marktbelemmeringen

162.  roept de Commissie met klem op haar werk inzake het wegnemen van ongerechtvaardigde belemmeringen voor de voltooiing van de digitale interne markt voort te zetten, met inbegrip van onrechtmatige discriminatie gebaseerd op land, de onvolledige wederzijdse erkenning van beroepskwalificaties, overdreven omslachtige procedures voor markttoegang, onnodig hoge kosten voor naleving van de regelgeving en uiteenlopende procedures voor conformiteitsbeoordeling, alsook het veelvuldige gebruik van afwijkingen aan te pakken, hetgeen leidt tot uiteenlopende regels in verschillende rechtsgebieden in de lidstaten; onderstreept dat een grensoverschrijdende omgeving met EU-brede regels inzake AI, in tegenstelling tot een versnipperde, van land tot land verschillende benadering, een welkome ontwikkeling is die bij zal dragen tot Europees leiderschap bij de ontwikkeling en de uitrol van AI;

163.  verzoekt de Commissie de totstandbrenging van een daadwerkelijke kapitaalmarktenunie te versnellen; benadrukt dat de toegang tot financiering moet worden vergemakkelijkt, met name voor kmo’s, start-ups en scale-ups;

164.  onderstreept dat de onderhandelingen over nog niet opgeloste wetgevingsdossiers voor de voltooiing van de digitale interne markt snel moeten worden afgerond;

165.  verzoekt de Commissie te zorgen voor een consequente handhaving van de regels van de interne markt;

166.  stelt vast dat het nieuwe wetgevingskader zorgvuldig moet worden geactualiseerd en aangepast aan digitale producten en diensten; stelt voor de nadruk te leggen op modernisering en vereenvoudiging van de nalevingsprocedures door digitale alternatieven voor bestaande analoge en papieren middelen in te voeren om voor ondernemingen, bijvoorbeeld door gebruik te maken van een digitaal CE-merk, elektronische etikettering of gedigitaliseerde veiligheidsinstructies mogelijk te maken;

167.  spoort de Commissie aan om offlineondernemingen te steunen die online willen gaan opereren; moedigt verdere voorlichtingscampagnes aan die gericht zijn op kmo’s en start-ups, vooruitlopend op nieuwe en toekomstige EU-wetgeving op dit gebied, alsook een versterkte handhaving van de markttoezichtregels als middel om het vertrouwen van Europese consumenten te vergroten;

iii. Gelijke mededingingsvoorwaarden

168.  is ervan overtuigd dat de huidige nationale en Europese mededingings- en antitrustkaders moeten worden hervormd om gerichter op te treden tegen misbruik van marktmacht en kartelvorming van algoritmen in de digitale economie en kwesties gerelateerd aan datacumulatie, alsook de risico’s van nieuwe opkomende monopolies beter aan te pakken zonder dat de innovatie in het gedrang komt; verwelkomt de aanstaande goedkeuring van de wet inzake digitale markten; dringt erop aan in het bijzonder oog te hebben voor mogelijke concurrentiekwesties op het gebied van AI;

169.  stelt vast dat bij een dergelijke hervorming de op bewijzen gebaseerde benadering moet worden versterkt en in grotere mate rekening moet worden gehouden met de waarde van data en de implicaties van netwerkeffecten, en tegelijkertijd heldere regels voor platforms met een dominante marktpositie moeten worden vastgesteld en voor meer rechtszekerheid voor samenwerking in de digitale economie moet worden gezorgd;

170.  is in dit verband van oordeel dat de Commissie haar praktijken voor het definiëren van markten moet aanpassen, teneinde markten accurater en meer in overeenstemming met de moderne marktrealiteiten in de digitale sector te definiëren, en dynamische analyses moet uitvoeren en een langetermijnbenadering moet ontwikkelen voor het beoordelen van concurrentiedruk;

171.  verzoekt de Commissie en de nationale mededingingsautoriteiten meer te doen om continu toezicht op digitale markten uit te oefenen, en zo beperkingen van en problemen bij de mededinging in kaart te brengen, en vervolgens vaker corrigerende maatregelen te treffen tegen ondernemingen die misbruik maken van hun dominante positie of zich aan mededingingsverstorende gedragingen schuldig maken;

172.  verzoekt de lidstaten de financiering voor en de technische capaciteit van de mededingingsautoriteiten substantieel te verhogen teneinde ervoor te zorgen dat de mededingingsregels in de snelle en complexe digitale economie doeltreffend en snel worden gehandhaafd; onderstreept dat de mededingingsautoriteiten de inbreukprocedures moeten versnellen en indien nodig voorlopige maatregelen moeten treffen om eerlijke concurrentie te behouden en te bevorderen, waarbij wel tegelijkertijd de rechten van verdediging van ondernemingen moeten worden gerespecteerd;

c) Digitale groene infrastructuur

i. Connectiviteit en rekenkracht

173.  verzoekt de Commissie werk te maken van haar ambitie om tegen 2030 75 % van de Europese ondernemingen ertoe aan te zetten gebruik te maken van cloudcomputingdiensten, big data en AI teneinde wereldwijd te kunnen blijven concurreren en haar doelstellingen inzake klimaatneutraliteit te versnellen om ervoor te zorgen dat deze tegen 2050 worden bereikt; stelt vast dat de toewijzing van 2,07 miljard EUR aan middelen voor digitale infrastructuur in het kader van de Connecting Europe Facility ontoereikend is;

174.  beklemtoont dat de verschuiving van volumes en verwerking van gegevens voor AI ook de ontwikkeling en toepassing vereist van nieuwe gegevensverwerkingstechnologieën voor gebruik in de edge, waarbij wordt afgestapt van gecentraliseerde cloudgebaseerde infrastructuurmodellen ten voordele van een toegenomen decentralisatie van gegevensverwerkingscapaciteiten; dringt aan op versterking van investeringen en onderzoek in gedistribueerde computerclusters, edge nodes en initiatieven voor digitale microcontrollers; merkt op dat de overstap naar een wijdverbreid gebruik van edge-oplossingen wellicht hulpbronnenintensiever is, aangezien de voordelen van optimalisering van pooling verloren gaan, en benadrukt dat de kosten/baten voor het milieu van edge-infrastructuren in een Europese cloudstrategie op een systemisch niveau moeten worden geïnventariseerd, onder meer om het energieverbruik van AI te optimaliseren;

175.  beklemtoont dat voor AI krachtige hardware nodig is om verfijnde algoritmen te kunnen gebruiken, met inbegrip van high performance computing, kwantumcomputing en het internet der dingen; dringt aan op voortdurende verhogingen van de gerichte publieke en particuliere financiering voor innovatieve oplossingen die het energieverbruik verminderen, inclusief ecodesign van software; dringt aan op de ontwikkeling van normen voor het meten van het gebruik van hulpbronnen door digitale infrastructuur op EU-niveau op basis van goede praktijken; maakt zich zorgen over de wereldwijde microprocessorcrisis en verwelkomt in dit verband het voorstel van de Commissie voor een chipswet, teneinde de huidige afhankelijkheid van de EU van externe leveranciers te reduceren; waarschuwt echter voor de toekomstige risico’s van overcapaciteit op de markt en maant tot een zorgvuldige afweging van de investeringscyclus;

176.  benadrukt dat een werkende en snelle infrastructuur voor AI gebaseerd moet zijn op eerlijke en veilige digitale snelle connectiviteit, waarvoor tegen 2030 de uitrol van 5G benodigd is in alle stedelijke gebieden, alsook brede toegang tot ultrasnelle breedbandnetwerken en spectrumbeleid met licentievoorwaarden die voorspelbaarheid garanderen, langetermijninvesteringen bevorderen en geen concurrentieverstoring veroorzaken; dringt er bij de lidstaten op aan de uitvoering van de 5G-toolbox verder toe te passen; pleit ervoor dat de richtlijn verlaging kosten voor breedband(40) in de praktijk wordt gebracht om de uitrol van het netwerk te vergemakkelijken; roept de Commissie op een milieueffectbeoordeling van 5G uit te voeren; onderstreept het belang van het tegengaan van desinformatie over 5G-netwerken met een EU-communicatiestrategie; wijst er in dit verband op dat een breed en inclusief debat uiteindelijk zal bijdragen aan het kweken van vertrouwen onder burgers betreffende de verdere ontwikkeling van mobiele netwerken;

177.  verzoekt de Commissie tijdschema’s voor de lidstaten, steden, regio’s en sectoren vast te stellen en de administratieve goedkeuringsprocessen voor 5G te verbeteren; verlangt dat er meer middelen ter beschikking worden gesteld in regio’s waar de uitrol wordt uitgevoerd door de publieke sector, teneinde in afgelegen gemeenschappen voor hogesnelheidsconnectiviteit te zorgen en bij te dragen tot het dichten van de digitale kloof; verzoekt om steun voor breedband- en connectiviteitsprojecten uit hoofde van het meerjarig financieel kader, met gemakkelijkere toegang voor lokale overheden teneinde de onderbenutting van overheidsmiddelen te voorkomen;

178.  verzoekt de Commissie een beoordeling te verrichten van de interactie tussen AI en de volgende golf digitale infrastructuur, om Europa in staat te stellen het voortouw te nemen bij de volgende generatie netwerken, waaronder 6G;

179.  pleit voor een duidelijke strategie voor de uitrol van glasvezelnetwerken en breedband op het platteland, hetgeen ook cruciaal is voor gegevensintensieve technologieën zoals AI; dringt in dit verband aan op grotere steun van de Europese Investeringsbank voor connectiviteitsprojecten op het platteland;

180.  beklemtoont dat de aanzienlijke investeringen die nodig zijn voor de uitrol van het netwerk en een snelle uitrol om de doelstellingen van het digitaal kompas te verwezenlijken, overeenkomsten over het medegebruik van infrastructuur vereisen, die ook essentieel zijn voor het bevorderen van de duurzaamheid en het verlagen van het energieverbruik; beklemtoont dat deze inspanningen zich nog in de kinderschoenen bevinden en verder moeten worden opgevoerd;

ii. Duurzaamheid

181.  dringt er bij de EU op aan de leiding te nemen wat betreft het klimaatneutraal en energie-efficiënt maken van groene digitale infrastructuur tegen 2030, overeenkomstig de doelstellingen van de Overeenkomst van Parijs en geïntegreerd in het beleidsprogramma van de Europese Green Deal; waaronder middels inventarisatie van de milieueffecten van de grootschalige uitrol van op AI gebaseerde systemen, gezien de grotere energiebehoefte als gevolg van de ontwikkeling en het gebruik van AI; pleit voor gecoördineerd mondiaal multilateraal optreden om AI in te zetten in de strijd tegen klimaatverandering en milieu- en ecologische vervuiling, alsook verlies van biodiversiteit;

182.  dringt aan op het gebruik van AI om het energieverbruik in gemeenten te monitoren en energie-efficiëntiemaatregelen te ontwikkelen;

183.  onderkent het data- en hulpbronnenintensieve karakter van sommige grootschalige AI-toepassingen en hun respectieve gevolgen voor het milieu; herinnert eraan dat Europese AI alleen duurzaam en milieuvriendelijk kan zijn indien bij het ontwerp, de ontwikkeling en de uitrol van AI-systemen rekening wordt gehouden met het doel van het realiseren van de groene transitie, klimaatneutraliteit en een circulaire economie;

184.  verzoekt de Commissie het gebruik te stimuleren van energie-efficiënte datacentra die koolstofneutraliteit kunnen ondersteunen;

185.  benadrukt dat de huidige gebrekkige uitwisseling van gegevens in datacentra verhindert dat overheden passende maatregelen kunnen nemen en een vergelijkend overzicht hebben van de milieuprestatie van datacentra; dringt aan op een aanzienlijke toename van het aantal milieueffectbeoordelingen van de ontwikkeling van AI; dringt aan op de ontwikkeling van vereisten die waarborgen dat passende bewijzen beschikbaar zijn om de milieuvoetafdruk van grootschalige AI-toepassingen te meten; wijst op het belang van heldere regels en richtsnoeren voor milieueffectbeoordelingen van AI, met inbegrip van levenscyclusbeoordelingen op basis van meerdere criteria; dringt aan op open toegang tot de milieukernprestatie-indicatoren van datacentra, de vaststelling van EU-normen, en de ontwikkeling van EU-labels voor groene cloudcomputing;

186.  dringt aan op een circulaire-economieplan voor digitale technologieën en AI en benadrukt dat de EU een krachtige ICT-recyclingketen moet waarborgen;

187.  beveelt aan het gebruik van op AI gebaseerde oplossingen te bevorderen, in overeenstemming met de groene en digitale dubbele transities in alle sectoren, voor coördinatie met betrekking tot duurzame normen voor ondernemingen te zorgen, en de voorwaarden te scheppen voor toezicht op energie-efficiëntie en het verzamelen van informatie over emissies en de levenscyclus van producten;

188.  verzoekt de Commissie wedstrijden en opdrachten uit te schrijven voor AI-oplossingen die gericht zijn op het aanpakken van specifieke milieuproblemen, en deze component in Horizon Europa en het programma Digitaal Europa te versterken; herinnert eraan dat projecten die verband houden met het potentieel van AI om iets aan de punten van zorg op milieugebied te doen, moeten worden uitgevoerd aan de hand van verantwoord en ethisch onderzoek en innovatie;

189.  verzoekt de Commissie milieucriteria te ontwikkelen en de toewijzing van de EU-gelden en -financiering, en opdrachten voor AI te koppelen aan hun milieuprestatie;

190.  verzoekt de Commissie slimme steden te bevorderen die slimme gebouwen, slimme netwerken, verbonden voertuigen, mobiliteitsplatforms, publieke diensten en logistiek omvatten; ondersteunt de ontwikkeling van een gemeenschappelijke verzameling van beste praktijken voor projecten en toepassingen; benadrukt dat slimme steden een goede samenwerking vergen tussen nationale en lokale overheden, alsook tussen hun instanties en particuliere partijen;

191.  benadrukt dat er beginselen moeten worden vastgesteld om ervoor te zorgen dat relevante klimaat- en duurzaamheidsgegevens kunnen worden geïntegreerd bij het opzetten van nieuwe dataruimten voor duurzaamheid;

192.  verzoekt de Commissie met de lidstaten en de particuliere sector samen te werken bij het opzetten en ondersteunen van testfaciliteiten waar AI-toepassingen kunnen worden getest op hun duurzaamheidsprestaties, en om richtsnoeren te geven voor het verbeteren van de milieuvoetafdruk van deze toepassing; moedigt de aanpassing van bestaande testfaciliteiten aan om te focussen op praktijkvoorbeelden van circulaire productie;

193.  verzoekt de Commissie een duurzame vervoersinfrastructuur te bevorderen die gebruik maakt van AI met het oog op meer efficiëntie, minder verontreiniging en een groter aanpassingsvermogen aan de behoeften van de gebruikers;

d) Ecosysteem van uitmuntendheid

i. Talent

194.  verzoekt de Commissie een AI-vaardighedenkader voor personen tot stand te brengen, voortbouwend op het digitale competentiekader, om burgers, werknemers en ondernemingen zo relevante opleidings- en leermogelijkheden op het gebied van AI te bieden en de uitwisseling van kennis, beste praktijken en media- en datageletterdheid tussen organisaties en ondernemingen te verbeteren, op zowel EU- als nationaal niveau; verzoekt de Commissie snel werk te maken van de totstandbrenging van een dergelijk competentiekader door voort te bouwen op bestaande AI-onderwijsprogramma’s; pleit voor het oprichten van een Europese ruimte voor vaardighedendata op het gebied van AI om de Europese vaardigheidstraining op sectoraal en regionaal niveau te ondersteunen in alle lidstaten; benadrukt dat het verwerven en onderwijzen van digitale en AI-vaardigheden voor iedereen toegankelijk moet zijn, met name voor vrouwen en kwetsbare groepen; dringt er bij de Commissie en de lidstaten op aan gratis onlinecursussen die de basisopleiding in AI verbeteren, te ondersteunen;

195.  dringt aan op investeringen in onderzoek om een beter inzicht te krijgen in de structurele AI-gerelateerde trends op de arbeidsmarkt, onder meer in de vaardigheden waarnaar in de toekomst meer vraag is of waaraan een tekort dreigt te ontstaan, met het oog op transitieregelingen voor werknemers;

196.  neemt met bezorgdheid nota van het gebrek aan gerichte en systematische maatregelen in de beroepsopleiding voor volwassenen; vraagt de Commissie en de lidstaten om beleid te ontwikkelen dat passende investeringen in de om- en bijscholing van de beroepsbevolking omvat, onder meer door burgers te informeren over de werking van algoritmen en hun impact op het dagelijks leven; vraagt om bijzondere aandacht voor mensen die hun baan hebben verloren of dreigen te verliezen als gevolg van de digitale transitie, om hen voor te bereiden op werken met AI- en ICT-gerelateerde technologieën; verzoekt de Commissie partnerschappen voor vaardigheden tussen diverse belanghebbenden te stimuleren en daarin te investeren om beste praktijken te testen; pleit ervoor de creatie van hoogwaardige AI-gerelateerde banen in de EU te monitoren;

197.  benadrukt dat bestaande digitale kloven alleen kunnen worden gedicht met gerichte en inclusieve maatregelen ten behoeve van zowel vrouwen als ouderen, en dringt daarom aan op aanzienlijke investeringen in gerichte bijscholings- en onderwijsmaatregelen om die digitale kloven te dichten; verzoekt de Commissie en de lidstaten in dit verband een cultuur en arbeidsomstandigheden te bevorderen waarin mannen en vrouwen gelijk zijn;

198.  verzoekt de Commissie gendergelijkheid te bevorderen in bedrijven die zich bezighouden met AI- en ICT-gerelateerde activiteiten, onder meer door de financiering van door vrouwen geleide projecten in de digitale sector en de bevordering van een minimumaantal vrouwelijke onderzoekers dat deelneemt aan oproepen voor financiering van onderzoek op het gebied van AI en ICT;

199.  benadrukt dat het tekort aan talent moet worden aangepakt door te zorgen voor de groei en het aantrekken en behouden van toptalent; dringt er bij de Commissie op aan werk te maken van haar doelstelling om in de EU 20 miljoen ICT-specialisten in dienst te hebben; benadrukt dat de EU, om toptalent op het gebied van AI te behouden en braindrain te voorkomen, concurrerende salarissen, betere arbeidsvoorwaarden, grensoverschrijdende samenwerking en concurrerende infrastructuur mogelijk moet maken;

200.  benadrukt de toegevoegde waarde van een vereenvoudigd en gestroomlijnd EU-kader voor het aantrekken van internationaal talent in de technologiesector, teneinde de doorstroming en de mobiliteit van talent binnen de EU en vanuit het buitenland mogelijk te maken, de toegang van internationaal talent tot de arbeidsmarkt van de Unie te verbeteren en werknemers en studenten op verzoek aan te trekken; benadrukt dat er nieuwe innovatieve instrumenten en wetgeving nodig zijn om werkgevers en potentiële ICT-werknemers aan elkaar te koppelen, tekorten op de arbeidsmarkt aan te pakken en de erkenning van internationale kwalificaties en vaardigheden te vergemakkelijken; beveelt aan een EU-talentenpool en ‑matchingplatform op te zetten als “één loket” voor internationaal talent dat in de EU wil solliciteren en voor werkgevers die in het buitenland naar potentiële werknemers zoeken; verzoekt de Commissie het toepassingsgebied van de Europese blauwe kaart uit te breiden om ervoor te zorgen dat Europa open blijft staan voor talent uit de hele wereld;

201.  verzoekt de Commissie tegemoet te komen aan de toegenomen vraag naar telewerken over de grenzen van de lidstaten heen, zodat EU- en internationale werknemers kunnen telewerken in een andere lidstaat dan die waar ze wonen; beveelt in dit verband aan om de wetgevings- en andere belemmeringen voor telewerken grondig te evalueren en die in latere wetgevingsvoorstellen aan te pakken;

202.  benadrukt dat de innovatiecohesie tussen de EU-regio’s en tussen de lidstaten moet worden versterkt, aangezien talent ongelijk verdeeld kan zijn;

203.  verzoekt de Commissie en de lidstaten passende bescherming te waarborgen van de rechten en het welzijn van werknemers, zoals non-discriminatie, privacy, autonomie en menselijke waardigheid bij het gebruik van AI en algoritmisch beheer, ook wat betreft onrechtmatige toezichtpraktijken; benadrukt dat wanneer AI wordt gebruikt op de werkvloer, werkgevers transparant moeten zijn over de wijze waarop het wordt gebruikt en de invloed ervan op de werkomstandigheden, en benadrukt dat werknemers altijd moeten worden geïnformeerd en geraadpleegd voordat op AI gebaseerde apparatuur en praktijken worden gebruikt; benadrukt het feit dat algoritmen altijd onder menselijk toezicht moeten staan en dat de beslissingen van algoritmen te verantwoorden, aanvechtbaar en, indien van toepassing, omkeerbaar moeten zijn; is van mening dat moet worden aangemoedigd dat ontwikkelaars van algoritmen opleiding krijgen omtrent vraagstukken op het gebied van ethiek, transparantie en discriminatiebestrijding;

204.  dringt aan op een Europese strategie voor een veilig gebruik van AI ten aanzien van kinderen, die erop gericht is kinderen te informeren over interactie met AI, met als doel hen te beschermen tegen risico’s en mogelijke schade;

205.  verzoekt de lidstaten digitale vaardigheden en geletterdheid tot een onderdeel van het basisonderwijs en een leven lang leren te maken; vraagt om een goed presterend AI-onderwijssysteem dat digitale geletterdheid, vaardigheden en digitale veerkracht vanaf een vroeg stadium bevordert, te beginnen met het basisonderwijs; benadrukt dat de ontwikkeling van doeltreffende curricula voor digitaal onderwijs politieke wil, voldoende middelen en wetenschappelijk onderzoek vereist; verzoekt de Commissie de invoering van cursussen AI- en computervaardigheden in alle Europese scholen, universiteiten en onderwijsinstellingen te bevorderen; benadrukt dat dergelijke vaardigheden zowel in het volwassenenonderwijs als in het lager of middelbaar onderwijs moeten worden ontwikkeld; dringt aan op een alomvattend en samenhangend beleidsinitiatief van de Commissie en de lidstaten inzake AI-vaardigheden en -educatie op EU-niveau, alsook op een wetgevingsinitiatief inzake AI op de werkplek;

206.  vestigt de aandacht op de noodzaak van multidisciplinaire universitaire curricula die gericht zijn op digitale en AI-vaardigheden, onder meer op het gebied van gezondheid, en van multidisciplinaire onderzoekscentra; is van mening dat er ook nadruk moet worden gelegd op trajecten naar voortgezette opleiding met het oog op specialisatie in AI (bijvoorbeeld master- en doctoraatsopleidingen en deeltijds onderwijs);

207.  verzoekt de lidstaten prioriteit te geven aan de ontwikkeling van innovatieve onderwijsmethoden en curricula op STEM-gebieden en programmering, met name om de kwaliteit van wiskunde en statistische analyse te verhogen om inzicht te krijgen in AI-algoritmen; verzoekt de Commissie en de lidstaten academische STEM-disciplines te bevorderen om het aantal studenten op deze gebieden te verhogen; benadrukt dat ook andere disciplines die met de STEM-disciplines in wisselwerking staan, van cruciaal belang zullen zijn voor de bevordering van digitale vaardigheden;

208.  moedigt de lidstaten aan om de deelname van vrouwen aan STEM-, ICT- en AI-gerelateerde studies en beroepen te bevorderen ter verwezenlijking van gendergelijkheid, onder meer door een streefcijfer te bepalen voor de deelname van vrouwelijke onderzoekers aan STEM- en AI-projecten;

209.  benadrukt dat digitale educatie ook moet leiden tot bewustmaking van aspecten van het dagelijks leven die mogelijk worden beïnvloed door machinaal leren, waaronder aanbevelingsmachines, gerichte reclame, socialemedia-algoritmen en deepfakes; benadrukt dat digitale veerkracht aanvullende media-educatie vereist om nieuwe digitale en AI-vaardigheden in een context te helpen plaatsen, en roept derhalve op tot steun voor en bekrachtiging van nieuwe en reeds bestaande toegankelijke cursussen voor AI-geletterdheid voor alle burgers;

210.  dringt aan op maatregelen om ervoor te zorgen dat elke onderwijsfaciliteit toegang heeft tot breedband en over een sterke digitale leerinfrastructuur beschikt; benadrukt de noodzaak om Europese universiteiten en hun netwerken te voorzien van de passende, steeds duurdere rekenkracht die nodig is om AI-modellen te trainen; benadrukt dat ervoor moet worden gezorgd dat leerkrachten over de nodige AI-vaardigheden en -instrumenten beschikken; roept op tot meer aandacht voor technische opleiding van leerkrachten en de ontwikkeling van innovatieve onderwijs- en leermiddelen;

211.  dringt aan op investeringen in initiatieven op het gebied van coderingsvaardigheden voor jongeren ter bevordering van AI-vaardigheden en kwalificaties op hoog niveau voor jongeren, met inbegrip van coderingsacademies, zomerschoolprogramma’s en specifieke AI-studiebeurzen; is van mening dat de “Digital Opportunity”-stages van de EU verder moeten worden uitgebreid tot de beroepsopleiding;

ii. Onderzoek

212.  verzoekt de EU meer te investeren in onderzoek naar AI en andere cruciale technologieën, zoals robotica, quantumcomputers, micro-elektronica, het internet der dingen, nanotechnologie en 3D-printen; verzoekt de Commissie een Europees stappenplan voor strategisch onderzoek op het gebied van AI te ontwikkelen en in stand te houden, waarin belangrijke interdisciplinaire uitdagingen worden aangepakt waarvoor AI een deel van de oplossing kan vormen; onderstreept dat investeringen gericht moeten zijn op gebruikssituaties die waarschijnlijk zullen leiden tot meer duurzame oplossingen, welzijn en inclusie in de samenleving;

213.  moedigt alle lidstaten ertoe aan een groter deel van hun bbp te besteden aan onderzoek naar digitale technologieën; dringt aan op de voortdurende versterking van het programma Horizon Europa, met name het partnerschap inzake AI, gegevens en robotica, en van de Europese Innovatieraad; dringt aan op uitbreiding van het programma Digitaal Europa en is van mening dat de toegewezen middelen van 7,6 miljard EUR moeten worden verhoogd;

214.  benadrukt dat op EU-niveau prioriteit moet worden gegeven aan onderzoek op het gebied van AI; verzoekt de Commissie de structuur van de financiering van onderzoek te vereenvoudigen, met inbegrip van de vereisten en procedures voor subsidieaanvragen; beklemtoont dat de kwaliteit en samenhang van een beoordeling van een aanvraag moeten worden verbeterd en de voorspelbaarheid van financieringsinstrumenten en hun timing ter ondersteuning van de planning op lange termijn moeten worden verbeterd met behulp van het Europese stappenplan voor onderzoek op het gebied van AI; verzoekt de Commissie meer toepassingen op het gebied van AI te financieren door verschillende instrumenten te combineren, zoals de Europese Onderzoeksraad, de Marie Curie-acties, de Europese Innovatieraad en het Europees Instituut voor innovatie en technologie;

215.  verzoekt de Commissie en de lidstaten prioriteit te geven aan de financiering van AI-onderzoek dat gericht is op duurzame en maatschappelijk verantwoorde AI, bij te dragen aan het vinden van oplossingen die de grondrechten beschermen en bevorderen, en financieringsprogramma’s te vermijden die een onaanvaardbaar risico voor deze rechten inhouden, met inbegrip van de financiering van systemen voor massale surveillance, sociale scoring en andere systemen die tot negatieve maatschappelijke gevolgen kunnen leiden, alsmede technologieën die bijdragen tot milieuschade;

216.  moedigt aan dat er aan Europese universiteiten meer op AI gerichte onderwijsplaatsen worden gecreëerd, passende salarissen worden geboden voor onderzoek naar AI en er meer openbare middelen worden uitgetrokken om de huidige en de volgende generatie onderzoekers en talent terdege op te leiden en te behouden en een kennisvlucht te voorkomen; beklemtoont dat de bureaucratische obstakels voor onderzoekers aan de universiteit om gemakkelijk toegang tot fondsen te krijgen moeten worden weggenomen en verzoekt de Commissie om instrumenten te voorzien om de digitale interconnectiviteit tussen universiteiten binnen en tussen de lidstaten te verbeteren; dringt aan op de ontwikkeling van horizontale netwerken voor AI aan Europese universiteiten, onderzoeksinstellingen en de particuliere sector, evenals op specifieke multidisciplinaire onderzoekscentra op het gebied van AI;

217.  beveelt aan dat universiteiten meer middelen uittrekken voor projecten voor toegepast onderzoek waarin rekening wordt gehouden met AI-aspecten;

218.  verzoekt de Commissie de kennisoverdrachten tussen AI-onderzoek en het publiek te verbeteren door zakelijke netwerken en contactpunten met rechtsbeoefenaren en bedrijfsadviseurs op poten te zetten binnen universiteiten, alsook door burgerpanels, wetenschaps- en maatschappelijke platforms op te richten en het publiek te betrekken bij het opstellen van AI-onderzoeksagenda’s; onderstreept het belang van een soepele overgang van de academische wereld naar het bedrijfsleven en de meerwaarde van de nabijheid tussen beide voor succesvolle en dynamische AI-ecosystemen en industriële centra;

219.  beklemtoont dat kennisoverdrachten van onderzoek en wetenschap naar toepassingen van AI in het bedrijfsleven en de overheidssector moet worden versneld in de EU; verwelkomt de oprichting van een specifiek publiek-privaat partnerschap inzake AI; verzoekt de Commissie om Europese AI-datacentra op te richten die gezamenlijk worden ontwikkeld met bedrijven en het maatschappelijk middenveld; benadrukt het belang van testlocaties voor AI; verwijst specifiek naar de Gemeenschappelijke Onderneming Europese high-performance computing, de Gemeenschappelijke Onderneming Digitale sleuteltechnologieën en de Gemeenschappelijke Onderneming Slimme netwerken en systemen;

220.  dringt aan op de oprichting van toonaangevende centra voor AI in het kader van Horizon Europa, voortbouwend op de bestaande en toekomstige netwerken van regionale AI-kenniscentra, met als doel een alliantie van sterke Europese onderzoeksorganisaties op te bouwen die een gemeenschappelijk stappenplan zullen delen om excellentie in fundamenteel en toegepast onderzoek te ondersteunen, nationale AI-inspanningen op elkaar af te stemmen, innovatie en investeringen te bevorderen, AI-talent aan te trekken en te behouden in Europa en synergieën en schaalvoordelen te creëren; is van mening dat het “gids”-concept het potentieel heeft om de knapste koppen uit het buitenland aan te trekken en aanzienlijke particuliere investeringen in Europa binnen te halen;

221.  voegt toe dat de toonaangevende centra voor AI, in samenwerking met andere onderzoeksinstellingen en de sector, voldoende financiering moeten krijgen; wijst op de voordelen van goed afgebakende testomgevingen voor regelgeving voor het testen van AI-producten, -diensten en -benaderingen in een gecontroleerde reële omgeving alvorens ze op de markt te brengen;

222.  wijst erop dat met de aanwijzing van Europese digitale-innovatiehubs (EDIH’s) in het kader van het programma Digitaal Europa een volgende belangrijke stap is gezet voor de ontwikkeling van een AI-ecosysteem van uitmuntendheid op basis van clusters van universiteiten en het bedrijfsleven; heeft echter kritiek op het feit dat de criteria voor de aanwijzing van EDIH’s vaag blijven en EDIH’s in Europa derhalve in mogelijkheden en ontwikkeling verschillen, en dat de wisselwerking met andere digitale hubs die door het Europees Instituut voor innovatie en technologie en in het kader van Horizon Europa zijn aangewezen onduidelijk blijft; stelt bijgevolg voor dat er meer coördinatie en inspanningen nodig zijn, alsook de invoering van een algemeen cluster van samenwerking tussen gedecentraliseerde AI-hubs op basis van een EU-breed kader voor juridische deskundigheid, gegevens, financiering en stimulansen; is ingenomen met de initiatieven van de Commissie om startersnetwerken op te zetten in de hele EU en ook daarbuiten, zoals Startup Europe en Startup Europe Mediterranean, om de uitwisseling van ideeën, zakelijke en netwerkmogelijkheden te bevorderen;

223.  stelt voor om bestaande initiatieven op te schalen en op elkaar af te stemmen, zoals het European Laboratory for Learning and Intelligent Systems en de Confederation of Laboratories for Artificial Intelligence Research in Europe, en vlaggenschipprojecten, zoals het HumanE AI Network en AI4EU, teneinde ambitieuze, collaboratieve en EU-brede doelstellingen voor onderzoek en ontwikkeling alsook projecten te bevorderen;

e) Ecosysteem van vertrouwen

i. De maatschappij en AI

224.  stelt voor dat, naast de voorgestelde opleiding inzake AI, de EU en haar lidstaten bewustmakingscampagnes opzetten, waaronder openbare discussies op lokaal niveau, als bijkomend middel om burgers te bereiken, voor te lichten en in staat te stellen om de mogelijkheden, risico’s en de maatschappelijke, juridische en ethische gevolgen van AI beter te begrijpen, om verder bij te dragen aan de betrouwbaarheid van AI en democratisering; is ervan overtuigd dat dit, samen met de totstandbrenging van een duidelijk en degelijk rechtskader voor mensgerichte en betrouwbare AI, zou bijdragen tot het verminderen van de zorgen van burgers die verband kunnen houden met wijdverbreid AI-gebruik in Europa;

225.  verzoekt de EU ervoor te zorgen dat bij de ontwikkeling, uitrol en toepassing van AI de democratische beginselen en de grondrechten volledig worden geëerbiedigd en de wet wordt nageleefd, zodat toezichtsmechanismen kunnen worden tegengegaan en verkiezingen niet op ongepaste wijze worden verstoord en niet wordt bijgedragen tot de verspreiding van desinformatie;

226.  benadrukt dat regeringen en bedrijven uitsluitend betrouwbare AI-systemen mogen uitrollen en aanschaffen die, waar relevant, zijn ontworpen om de rechten van werknemers te eerbiedigen en kwalitatief onderwijs en digitale geletterdheid te bevorderen, en die de genderkloof of discriminatie niet vergroten door gelijke kansen voor iedereen te voorkomen;

227.  is voorstander van aanpassingen van de wetgeving inzake consumentenbescherming als een andere manier om vertrouwen in AI op te bouwen, bijvoorbeeld door consumenten het recht te geven te weten of zij interactie hebben met een AI-agent, waardoor zij kunnen aandringen op menselijke toetsing van AI-beslissingen en door hun middelen te geven om commercieel toezicht of gepersonaliseerde prijsstelling tegen te gaan;

228.  benadrukt dat de invoering van bepaalde AI-technologieën op de werkplek, zoals technologieën waarbij gebruik wordt gemaakt van gegevens van werknemers, moet plaatsvinden in overleg met werknemersvertegenwoordigers en sociale partners; wijst erop dat werknemers en hun vertegenwoordigers bij werkgevers moeten kunnen verzoeken om informatie over welke gegevens worden verzameld, waar deze worden opgeslagen, hoe deze gegevens worden verwerkt en welke waarborgen er zijn om deze te beschermen;

229.  verzoekt de EU ervoor te zorgen dat AI-systemen de culturele diversiteit en meertaligheid van de EU weerspiegelen om vooroordelen en discriminatie te voorkomen; benadrukt dat om vooringenomenheid op het gebied van AI aan te pakken, diversiteit moet worden bevorderd in de teams die de risico’s van specifieke AI-toepassingen ontwikkelen, uitvoeren en beoordelen; benadrukt dat naar gender uitgesplitste gegevens moeten worden gebruikt om AI-algoritmen te evalueren en dat genderanalyse deel moet uitmaken van alle AI-risicobeoordelingen;

230.  onderstreept het belang van permanent onderzoek naar en monitoring van de gevolgen van AI voor diverse aspecten van de samenleving, zowel op nationaal als op EU-niveau; stelt voor Eurostat en andere EU-agentschappen hierbij te betrekken;

231.  benadrukt dat op basis van de resultaten van het monitoringsysteem kan worden overwogen een Europees transitiefonds op te richten om bijvoorbeeld het banenverlies in kwetsbare sectoren of regio’s te helpen aanpakken;

ii. Elektronisch bestuur

232.  verzoekt de lidstaten de verklaring van Tallinn inzake e-overheid om te zetten in daden, burgers bij diensten centraal te stellen en mechanismen op te zetten om alle burgers en bedrijven op alle overheidsniveaus op AI gebaseerde interoperabele, gepersonaliseerde, gebruikersvriendelijke volledig digitale overheidsdiensten te bieden over de grenzen heen; is van mening dat ernaar moet worden gestreefd de komende vijf jaar gedigitaliseerde en op AI gebaseerde e-overheidsdiensten aan burgers aan te bieden, zonder dat dit ten koste gaat van de menselijke interactie; herinnert eraan dat de fondsen van de herstel- en veerkrachtfaciliteit en de nationale plannen voor herstel en veerkracht in dit verband een sleutelrol zullen spelen; roept overheidsinstanties op AI in de overheidssector te ondersteunen en te ontwikkelen; is ingenomen met de herziening van de eIDAS-verordening(41) en de rol ervan bij het stimuleren van de levering van digitale overheidsdiensten; benadrukt dat niemand aan zijn lot mag worden overgelaten en dat er altijd offline alternatieven beschikbaar moeten zijn;

233.  verzoekt de Commissie het actieplan inzake e-overheid te vernieuwen en synergieën te creëren met het programma Digitaal Europa om overheidsdiensten te ondersteunen bij de toepassing van AI in overeenstemming met de Europese strategie voor opensourcesoftware;

234.  benadrukt dat e-overheid een belangrijke rol speelt bij de ontwikkeling van de data-economie en digitale innovatie op de digitale eengemaakte markt; merkt op dat samenwerking en het delen van goede praktijken tussen overheidsdiensten en over de grenzen heen essentiële onderdelen zijn van de uitrol van e-overheid in de hele EU; dringt aan op gestandaardiseerde, gestroomlijnde procedures van het openbaar bestuur met het oog op efficiëntere uitwisselingen tussen de EU-lidstaten en alle bestuursniveaus;

235.  merkt op dat er gekwalificeerde deskundigen nodig zijn voor de ontwikkeling van hoogwaardige onlinediensten; benadrukt dat het aanwervings- en opleidingsbeleid van de overheid voor digitaal geschoolde mensen met kennis van AI moet worden verscherpt;

236.  dringt erop aan vaart te zetten achter de invoering van één digitale toegangspoort en de ontwikkeling te bevorderen van interoperabele platforms die grensoverschrijdende diensten in de EU aanbieden, met inachtneming van gemeenschappelijke beveiligingsnormen in alle lidstaten; benadrukt dat een mogelijke uitbreiding die verder gaat dan de beperkte reeks diensten die momenteel is opgenomen in Verordening (EU) 2018/1724(42) tot oprichting van één digitale toegangspoort, moet worden overwogen;

237.  benadrukt dat de openbare raadplegingsplatforms van de instellingen van de EU en de lidstaten de betrokkenheid en toegang tot digitale informatie vergroten; pleit ervoor te investeren in verbeteringen op het gebied van bruikbaarheid en toegankelijkheid, zoals het verstrekken van samenvattingen en informatie in meerdere talen, alsook in specifieke marketing en gerichte voorlichting voor digitale platforms voor publieke betrokkenheid;

238.  bepleit interactieve en persoonlijke dialogen met EU-burgers te intensiveren door middel van online burgerraadplegingen, dialoogvormen met belanghebbenden of digitale mogelijkheden voor het becommentariëren van EU-wetgeving en -initiatieven;

iii. e-gezondheid

239.  pleit op het gebied van gezondheid voor een mensgericht ontwerp en een empirisch onderbouwde benadering van AI die geconcentreerd is op gepersonaliseerde, patiëntgerichte, kostenefficiënte en hoogwaardige gezondheidszorg, ontwikkeld in nauwe samenwerking met gezondheidswerkers en patiënten, met inachtneming van toezicht en besluitvorming door mensen; dringt aan op prioritering van financiering, de vaststelling van strategische doelstellingen, de bevordering van samenwerking en de inzet van AI-toepassingen in de gezondheidszorg als kritieke sector, waarin de door AI geboden mogelijkheden enorme voordelen kunnen opleveren voor de gezondheid en het welzijn van de burger, zolang de inherente risico’s naar behoren worden beheerd;

240.  benadrukt dat de invoering van AI binnen de gezondheidszorg moet worden bevorderd als een instrument om gezondheidswerkers te helpen en hun lasten te verlichten, zodat zij zich op klinische taken kunnen concentreren, en niet als vervanging voor gezondheidswerkers of als onafhankelijke actor binnen gezondheidssystemen; benadrukt dat een niveau van kwaliteit, veiligheid en beveiliging moet worden gewaarborgd dat vergelijkbaar is met het proces voor wettelijke goedkeuring voor geneesmiddelen, vaccins en medische hulpmiddelen; dringt aan op een op klinische tests gebaseerde methode om de geschiktheid van AI in klinische omgevingen te testen en toezicht te houden op de toepassing ervan; is van mening dat het nuttig zou zijn om te evalueren welke gezondheidsdiensten ethisch en verantwoord kunnen worden geautomatiseerd;

241.  is van mening dat billijke toegang tot gezondheidszorg als beginsel moet worden uitgebreid tot gezondheidsgerelateerde AI-toepassingen, met inbegrip van systemen voor de opsporing van ziekten, het beheer van chronische aandoeningen, de verstrekking van gezondheidsdiensten en de ontdekking van geneesmiddelen; benadrukt de noodzaak van passende maatregelen om gezondheidsgerelateerde risico’s aan te pakken met betrekking tot de digitale kloof, algoritmische vooringenomenheid en discriminatie, en de marginalisering van kwetsbare personen of culturele minderheden, die beperkte toegang hebben tot gezondheidszorg;

242.  herinnert aan het standpunt van het Parlement dat verzekeringsmaatschappijen of andere aanbieders van diensten die toegang hebben tot in e-gezondheidsapplicaties opgeslagen informatie die gegevens niet mogen gebruiken om te discrimineren bij de vaststelling van prijzen;

243.  is ervan overtuigd dat de huidige projecten en initiatieven van de EU, zoals EU4Health, de Europese ruimte voor gezondheidsgegevens en het Europees platform voor de registratie van zeldzame ziekten, stappen in de goede richting zijn, aangezien zij de lidstaten in staat stellen middelen te bundelen, de samenwerking tussen gezondheidsstelsels te verbeteren en de veilige en privacybeschermende uitwisseling van hoogwaardige gegevens voor onderzoek en innovatie mogelijk te maken;

244.  dringt aan op een passende juridische verankering en positionering van een kader voor AI in de gezondheidszorg op het niveau van de Unie; onderstreept dat veel risiconiveaus zich ontwikkelen in de tijd onder invloed van de vooruitgang van AI-technologieën;

245.  benadrukt dat er behoefte is aan meer richtsnoeren voor de verwerking van gezondheidsgegevens in het kader van de AVG, zodat het potentieel van AI ten volle kan worden benut ten behoeve van individuele personen, met inachtneming van de grondrechten; verzoekt de Commissie om de normen voor de verwerking, met inbegrip van de uitwisseling, anonimisering en interoperabiliteit van gezondheidsgegevens in de lidstaten sneller en beter te harmoniseren;

246.  verzoekt de Commissie de integratie van ethische regels bij elke stap van de ontwikkeling, het ontwerp en het gebruik van AI-toepassingen te bevorderen; benadrukt dat verder onderzoek naar de methoden en vooroordelen in een getraind AI-systeem moet worden bevorderd om onethische en discriminerende conclusies bij toepassing op gegevens over de menselijke gezondheid te voorkomen; bepleit de opstelling van een EU-gedragscode voor de verwerking van gezondheidsgegevens in volledige overeenstemming met de AVG;

247.  verzoekt de Commissie een initiatief inzake neurorechten te overwegen om het menselijk brein te beschermen tegen inmenging, manipulatie en controle door op AI gebaseerde neurotechnologie; moedigt de Commissie aan om op VN-niveau te pleiten voor een neurorechtenagenda om neurorechten op te nemen in de Universele Verklaring van de Rechten van de Mens, met name wat betreft het recht op identiteit, het recht op vrije wil, geestelijke privacy, gelijke toegang tot vooruitgang op het gebied van hersenfunctieverbetering en bescherming tegen algoritmische vooringenomenheid;

248.  verzoekt de Commissie zich te beraden op een rechtskader voor online medisch advies;

249.  benadrukt de noodzaak van maatregelen die gelijke toegang tot gezondheidszorg bevorderen en het gebruik van AI-oplossingen door zorgaanbieders stimuleren;

250.  verzoekt de Commissie de oprichting van een samenwerkingsmechanisme in de context en werking van een Europese ruimte voor gezondheidsgegevens te ondersteunen om de uitwisseling van gezondheidsgegevens te bevorderen en de ontwikkeling van elektronische patiëntendossiers te ondersteunen in overeenstemming met de toepasselijke wet- en regelgeving; dringt aan op een verbetering van de kwaliteit van de beschikbare gegevens voor elke EU-burger door digitale instrumenten in staat te stellen naar behoren te werken (bv. op basis van zelflerende algoritmen of analyse van big data); beveelt aan dat de overeenkomstig de AVG opgeslagen gegevens beschikbaar zijn voor verder onderzoek, evenals voor de ontwikkeling van nieuwe geneesmiddelen en op het individu afgestemde behandelingen;

251.  onderstreept dat digitale en AI-vaardigheden deel moeten uitmaken van de scholing van gezondheidswerkers, evenals kennis over de EU-wetgeving inzake gegevensbescherming en de omgang met gevoelige gegevens, met inbegrip van de bevordering van de anonimisering van gegevens;

252.  dringt aan op richtsnoeren met betrekking tot de toepasselijkheid van aansprakelijkheidskaders en geharmoniseerde goedkeuringsregelingen voor op AI gebaseerde medische toepassingen en geneesmiddelen die zijn ontwikkeld of getest via AI en machinaal leren; benadrukt dat bij elke toekomstige hervorming van de regelgeving aandacht moet worden besteed aan schade als gevolg van een ontoereikende toewijzing van middelen of een gebrek aan zorgverlening door middel van AI-aanbevelingssystemen in de gezondheidszorgsector; benadrukt dat passende beste praktijken, normen en criteria nodig zijn om zorgtoepassingen te certificeren en goed te keuren in overeenstemming met aansprakelijkheidsrisico’s;

253.  verzoekt de Commissie te voorzien in en gebruik te maken van mensgerichte voorspellende modellen voor pandemieën, waarin diverse datasets in real time samenkomen om de besluitvorming te onderbouwen;

f) Industriestrategie

i. Strategische planning en investeringen

254.  is ervan overtuigd dat de EU AI en de data-economie centraal moet stellen in een ambitieuze digitale industriestrategie, met als doel innovatieve bedrijven en ondernemers in staat te stellen te concurreren voor de beste technologische en bedrijfsmodelinnovaties in Europa en de wereld, en de open strategische autonomie van de EU te versterken waarbij tegelijkertijd gedegen juridische, ethische, technologische en beveiligingsnormen worden vastgesteld voor alle AI-systemen en -componenten die bedoeld zijn om te worden gebruikt op de interne markt van de EU;

255.  moedigt de Commissie aan gebruik te maken van AI-analyse van big data om te helpen bij het uitvoeren van stresstests om de veerkracht van waardeketens te beoordelen en afhankelijkheden in kaart te brengen;

256.  dringt er bij de Commissie op aan een uitgebreide analyse van sterke en zwakke punten uit te voeren om de kwetsbaarheden van de EU vast te stellen, kritieke gebieden en afhankelijkheden met een hoog risico te identificeren, realistische technische en economische verwachtingen met betrekking tot AI vast te stellen en effecten in alle sectoren van de Europese industrie te beoordelen; onderstreept dat de Commissie daartoe met relevante belanghebbenden moet samenwerken;

257.  stelt voor dat de EU, op basis van deze analyse, een langetermijnstrategie voor de AI-sector moet formuleren en goedkeuren met een duidelijke visie voor de komende tien jaar, als uitbreiding van het digitaal kompas; legt uit dat deze strategie moet worden aangevuld met een monitoringsysteem met kernprestatie-indicatoren en jaarlijkse actualiseringen; benadrukt echter dat het grote aantal afzonderlijke initiatieven van de Commissie ter ondersteuning van de AI-sector van de EU moeten worden geconsolideerd en gestroomlijnd voordat deze worden opgenomen in deze nieuwe strategie voor de AI-sector;

258.  verzoekt de Commissie na te gaan hoe de algemene industriestrategie kan worden aangevuld met gerichte overheidsinvesteringen; wijst er evenwel op dat buitensporige ongerichte investeringsprogramma’s voor complexe technologieën in sommige gevallen de efficiënte allocatie van kapitaal dreigen te verstoren en kunnen leiden tot mislukte investeringen; benadrukt in dit verband dat het versterken van de positie van bedrijven, ondernemers en onderzoekers om op particulier initiatief gebaseerde AI-technologische oplossingen te ontwikkelen en op de markt te brengen een kernonderdeel vormt van de industriële strategie van de EU, onder meer door het handhaven van een gelijk speelveld en het voltooien van de digitale interne markt en de kapitaalmarktenunie; stelt voor de toegang tot financiering, met name risicofinancieringsinstrumenten, te vergemakkelijken, in het bijzonder voor aanloopfinanciering; is van mening dat het aandeel van de middelen dat via InvestEU en het programma Digitaal Europa aan AI wordt besteed, moet worden herzien en, waar nodig, aanzienlijk moet worden verhoogd;

259.  benadrukt de noodzaak van een snelle tenuitvoerlegging van het onlangs vastgestelde EU-kader voor de screening van buitenlandse directe investeringen(43) en de onlangs herziene verordening betreffende de EU-regeling voor de controle op de uitvoer van producten voor tweeërlei gebruik(44); stelt dat AI, evenals robotica en andere digitale infrastructuur, als een kritieke sector moet worden beschouwd; merkt op dat de bescherming van intellectuele-eigendomsrechten en de uitstroom van kritieke technologieën aan een strengere handhaving moeten worden onderworpen;

260.  benadrukt dat het van cruciaal belang is dat Europa zorgt voor de nodige instrumenten met een adequate digitale infrastructuur; is ingenomen met initiatieven zoals het European Processor Initiative, de onlangs voorgestelde chipswet en de Gemeenschappelijke Onderneming Europese high-performance computing;

ii. Kmo’s en start-ups

261.  stelt voor om op EU- en overheidsniveau steun te verlenen aan AI-start-ups door toegang tot particulier kapitaal en geschoolde werknemers, de mogelijkheid om hoogwaardige datasets aan te kopen om algoritmen te trainen en de mogelijkheid om over de grenzen van de lidstaten door te groeien; benadrukt voorts dat een doeltreffend instrument van overheidsbeleid ter ondersteuning van een start-upeconomie de doeltreffende handhaving van het mededingingsrecht is om misbruik van dominante marktposities te voorkomen en belemmeringen voor markttoegang tegen te gaan; onderstreept in dit opzicht dat de EU meer inspanningen moet leveren om kmo’s en start-ups ontwikkelingstrajecten en -diensten aan te bieden; is van mening dat dit ook de invoering kan omvatten van een buddysysteem dat ervaren, op AI-gerichte bedrijven verbindt met kleinere bedrijven die de technologie willen toepassen; benadrukt dat de onmogelijkheid voor start-ups en ondernemers om omvangrijke juridische teams in te zetten vaak een belemmering vormt voor het betreden van complexe regelgevingskaders; onderstreept dat kmo’s toegang moeten hebben tot specifieke juridische en technische ondersteuning; benadrukt tevens de noodzaak om partnerschappen te bevorderen waarbij AI-aangestuurde bedrijven en degenen die de markt betreden kunnen samenwerken; roept de Commissie en de lidstaten met klem op betere begeleiding en concretere ondersteuning te bieden via netwerken, digitale hubs, AI-opleiders, bedrijfsmentorschap, bezoeken ter plaatse en rechtswinkels; onderstreept het belang van interpersoonlijke uitwisselingsprogramma’s, zoals Erasmus voor jonge ondernemers, en dat deze verder moeten worden ontwikkeld en aangemoedigd;

262.  stelt voor de administratieve lasten voor kmo’s en start-ups op het gebied van AI te verlichten, bijvoorbeeld door de verslagleggings-, informatie- of documentatieverplichtingen te stroomlijnen en door richtsnoeren te verstrekken voor gemeenschappelijke procedurele civielrechtelijke normen die op nationaal niveau moeten worden aangenomen; dringt aan op de snelle invoering van één digitale toegangspoort om één EU-onlineportaal in verschillende talen op te zetten met alle procedures en formaliteiten die nodig zijn om in een ander EU-land te kunnen opereren; benadrukt dat alle op nationaal niveau opgerichte één-loketten gemakkelijk toegankelijk moeten zijn via één digitale toegangspoort en informatie moeten verstrekken en administratieve diensten moeten aanbieden in de lidstaten, ook met betrekking tot btw-voorschriften en informatie over de vereisten voor het verlenen van diensten, met gebruikmaking van toegankelijke terminologie en met volledige beschikbaarheid, waarbij opgeleid helpdeskpersoneel doeltreffende en gebruiksvriendelijke ondersteuning biedt;

263.  merkt op dat mogelijke manieren waarop de EU-lidstaten kmo’s en start-ups kunnen ondersteunen, bestaan uit: belastingvoordelen voor diepgaand onderzoek, betere toegang tot computercapaciteiten en hoogwaardige datasets en steun voor technologiescouting en opleiding, training en omscholing van werknemers op het gebied van AI;

264.  onderstreept dat kmo’s en start-ups op het gebied van AI betere toegang tot overheidsopdrachten nodig hebben; dringt er bij de Commissie op aan de inschrijvings- en aanvraagprocedures voor openbare aanbestedingen en EU-programmafinanciering te herzien om start-ups en kmo’s een eerlijke kans te geven om overheidsopdrachten en onderzoeks- en ontwikkelingssubsidies te verkrijgen; herinnert in dit verband aan de succesvolle GovTech-programma’s die de betrokkenheid van kleine ondernemingen bij digitale overheidsopdrachten hebben ondersteund; benadrukt dat ook aandelenoptieregelingen voor AI-start-ups in heel Europa moeten worden bevorderd;

iii. Internationaal niveau

265.  wijst erop dat de EU een sterk, internationaal, op kernwaarden gebaseerd technologieverbond moet smeden en daarbinnen het goede voorbeeld moet geven, door samen te werken met gelijkgestemde partners teneinde gemeenschappelijke regelgevingsnormen vast te stellen, te profiteren van beste praktijken op het gebied van AI, privacyrechten, gegevensstromen en mededingingsregels, en strategische kwetsbaarheden te verhelpen door voort te bouwen op elkaars troeven en middelen te bundelen op domeinen waar dat een wederzijds voordeel oplevert; onderstreept dat de EU ook actief steun moet verlenen aan versterkte internationale samenwerking op het gebied van ethische, betrouwbare en mensgerichte AI in relevante multilaterale en bilaterale fora, bijvoorbeeld binnen het systeem van de VN, de OESO, de Raad van Europa, de Wereldhandelsorganisatie, het Wereld Economisch Forum en de G20; is met name ingenomen met de oprichting van de Handels- en Technologieraad EU-VS, die samenwerking inzake AI-normen als een absolute prioriteit aanmerkt, en is van mening dat de Raad voor handel en technologie, gezien het strategisch potentieel ervan, moet worden versterkt met een interparlementaire dimensie, waarbij het Europees Parlement en het Amerikaanse Congres worden betrokken;

266.  stelt voor om ook een specifieke trans-Atlantische werkgroep inzake AI op te richten, met vertegenwoordigers van overheden, normalisatieorganisaties, de particuliere sector en het maatschappelijk middenveld, om te werken aan gemeenschappelijke normen en ethische richtsnoeren voor AI; stelt voor een langetermijnplatform op te zetten voor uitwisseling over AI en andere belangrijke digitale en handelskwesties geënt op de huidige Handels- en Technologieraad, samen met andere gelijkgestemde partners;

267.  onderstreept dat de EU een maatschappelijk verantwoord en ethisch gebruik van AI moet bevorderen en moet samenwerken met internationale normalisatie-instellingen om de normen op het gebied van ethiek, veiligheid, betrouwbaarheid, interoperabiliteit en beveiliging verder te verbeteren; is ingenomen met recente normalisatie-initiatieven die zijn gelanceerd door actoren zoals het Gezamenlijk Technisch Comité van de Internationale Organisatie voor Normalisatie en de Internationale Elektrotechnische Commissie, die streven naar de wereldwijde harmonisatie van uiteenlopende AI-codes; benadrukt voorts dat Europa normen moet bevorderen en ontwikkelen, onder meer op het gebied van slimme productie, het internet der dingen, robotica en gegevensanalyse; stelt voor te voorzien in betere steun voor academici, het maatschappelijk middenveld en kmo’s voor deelname aan normalisatiefora;

268.  steunt het initiatief van de Wereldhandelsorganisatie inzake elektronische handel om een inclusief, hoogwaardig, commercieel zinvol, empirisch onderbouwd en gericht beleid te ontwikkelen om belemmeringen voor digitale handel beter aan te pakken; onderstreept dat de overeenkomst ook de beginselen van goed bestuur moet weerspiegelen en regeringen in staat moet stellen digitaal protectionisme tegen te gaan en tegelijkertijd het consumentenvertrouwen te beschermen en te bevorderen en echte waarde voor de wereldeconomie te creëren;

269.  stelt voor dat de Commissie ongerechtvaardigde handelsbelemmeringen, met name niet-tarifaire belemmeringen of markttoegangsbeperkingen voor Europese AI-bedrijven in derde landen, blijft aanpakken; benadrukt dat het handels-, nabuurschaps- en ontwikkelingsbeleid ook actief moet worden gebruikt om vorm te geven aan het internationale debat over AI en om Europese ethische beginselen inzake AI te bevorderen;

g) Veiligheid

i. AI en rechtshandhaving

270.  benadrukt het belang van het vermogen van rechtshandhavingsinstanties om criminele activiteiten, met behulp van AI-technologie, te identificeren en te bestrijden;

271.  benadrukt het potentieel van misbruik van AI bij rechtshandhaving om schade te berokkenen, met inbegrip van geautomatiseerde discriminatie en onrechtmatige behandeling van burgers, met slechts weinig rechtsmiddelen; dringt er bij de lidstaten op aan zinvolle vereisten inzake menselijk toezicht toe te passen en rechtsmiddelen te garanderen voor degenen die onderworpen zijn aan door AI genomen beslissingen;

272.  stelt voor dat de EU gebruikmaakt van de zachtewetgevingsbenaderingen die zijn ontwikkeld door het Interregionaal criminologisch en gerechtelijk onderzoeksinstituut van de VN, dat operationele AI-toolkits heeft ontwikkeld en een partnerschap is aangegaan met Interpol in de vorm van een uniek forum voor dialoog en samenwerking op het gebied van AI tussen rechtshandhavingsinstanties, bedrijven, academici en het maatschappelijk middenveld, volledig in overeenstemming met het EU-acquis inzake gegevensbescherming en privacy;

273.  wijst op de rol van Europol bij de ontwikkeling, verfijning en validering van AI-instrumenten voor de bestrijding van georganiseerde criminaliteit, terrorisme en cybercriminaliteit, in partnerschap met de Europese Toezichthouder voor gegevensbescherming en met volledige inachtneming van de fundamentele waarden van de EU, met name non-discriminatie en het vermoeden van onschuld;

274.  verzoekt de Commissie de financiële en personele middelen van de Europese innovatiehub voor interne veiligheid uit te breiden; is ingenomen met de inspanningen van Eurojust, het Bureau van de Europese Unie voor de grondrechten en Europol om een instrumentarium van universele verantwoordingsbeginselen uit te werken voor het gebruik van AI door professionals op het gebied van justitie en interne veiligheid (het AP4AI-kader); verzoekt de Commissie specifieke financiële steun te verlenen aan dit initiatief om de verantwoordingsnormen en -waarden van de EU op het gebied van AI te bevorderen;

ii. Cyberbeveiliging

275.  vraagt de lidstaten de samenwerking op het gebied van cyberbeveiliging op Europees niveau te versterken zodat de EU en de lidstaten hun middelen beter kunnen bundelen, nationaal cyberbeveiligingsbeleid efficiënter kunnen coördineren en stroomlijnen, de capaciteitsopbouw en bewustmaking inzake cyberbeveiliging verder kunnen verbeteren en snel kennis over cyberbeveiliging en technische bijstand kunnen bieden aan kmo’s en aan andere traditionelere sectoren;

276.  moedigt de EU aan het voortouw te nemen bij de ontwikkeling van krachtige cryptografie en andere vormen van beveiliging die vertrouwen in en interoperabiliteit van AI-systemen mogelijk maken; benadrukt dat er zoveel mogelijk moet worden voortgebouwd op en rekening moet worden gehouden met bestaande internationale normen, zodat er op het gebied van ICT-risicotoezicht internationale convergentie tot stand wordt gebracht;

277.  stelt voor horizontale cyberbeveiligingsvereisten in te voeren op basis van bestaande wetgeving en, waar nodig, van nieuwe horizontale wetgevingshandelingen, teneinde versnippering te voorkomen en te zorgen voor een coherente benadering van cyberbeveiliging voor alle productgroepen; merkt op dat AI-producten op de digitale interne markt die de CE-markering dragen, in de toekomst zowel een hoog niveau van fysieke veiligheid als een aan de risico’s aangepast niveau van bestendigheid tegen cyberaanvallen kunnen bieden en naleving van de relevante EU-wetgeving duidelijk kunnen maken;

278.  stelt voor dat de lidstaten cyberbeveiligingsvereisten voor AI-systemen stimuleren middels hun beleid inzake overheidsopdrachten, onder meer door bepaalde ethische, beveiligings- en veiligheidsbeginselen verplicht te stellen voor de aankoop van AI-toepassingen, met name in kritieke sectoren;

279.  verzoekt het Agentschap van de Europese Unie voor cyberbeveiliging (Enisa) sectorale veiligheidsrisicobeoordelingen uit te voeren, te beginnen met sectoren, zowel publieke als private, die betrokken zijn bij de meest risicovolle en gevoelige toepassingen van AI en met AI-toepassingen die het grootste risico bieden op negatieve gevolgen voor de menselijke gezondheid, de veiligheid en de grondrechten; benadrukt dat Enisa, samen met het Europees kenniscentrum voor cyberbeveiliging en het netwerk van nationale coördinatiecentra, cyberbeveiligingsincidenten moet beoordelen, met als doel lacunes en nieuwe kwetsbaarheden in kaart te brengen en de EU-instellingen tijdig te adviseren over passende corrigerende maatregelen;

280.  moedigt bedrijven die op AI gebaseerde systemen gebruiken, ontwikkelen of inzetten en actief zijn op de digitale interne markt ertoe aan om op basis van hun eigen risicosituatie een duidelijke en onafhankelijk geëvalueerde cyberbeveiligingsstrategie te ontwikkelen; pleit voor de opname van AI-systemen in dreigingsmodellen en veiligheidsrisicobeheer; stelt voor dat de Commissie, Enisa en de nationale instanties dit proces ondersteunen;

281.  stelt dat cyberveiligheidsvereisten voor AI-producten de gehele levenscyclus van deze producten moeten bestrijken; benadrukt dat het ook duidelijk moet zijn dat elk bedrijf in de toeleveringsketen de taak heeft bij te dragen aan de totstandbrenging van resistente AI-producten; wijst erop dat de nieuwe vereisten gebaseerd moeten zijn op het met de producten verbonden risico in de specifieke productgroep en op de mate van impact inzake risiconiveau, zodat onevenredige lasten voor kmo’s en start-ups worden voorkomen;

282.  stelt voor om bij de ontwikkeling van een in de hele EU geldende certificeringsregeling voor betrouwbare AI rekening te houden met reeds bestaande initiatieven in bepaalde lidstaten, zoals de Duitse catalogus met criteria voor op AI gebaseerde clouddiensten en het Maltese AI-certificeringsprogramma;

iii. Cyberdefensie

283.  verzoekt de lidstaten met klem actief beleid gericht op Europese cyberdiplomatie te voeren door vanuit het buitenland ondersteunde en door AI aangedreven cyberaanvallen te veroordelen en toe te schrijven, en tegelijkertijd het volledige arsenaal van de diplomatie van de EU in te zetten; verheugt zich over het feit dat dit arsenaal op het vlak van cyberdiplomatie de beëindiging van financiële steun en sancties omvat tegen landen of gevolmachtigden die zich bezighouden met kwaadaardige cyberactiviteiten of hybride aanvallen uitvoeren, inclusief desinformatiecampagnes, of cybercriminaliteit steunen; erkent dat door AI aangedreven cyberdefensie tot op zekere hoogte doeltreffender is als zij ook een aantal offensieve middelen en maatregelen omvat, mits het gebruik ervan in overeenstemming is met het internationaal recht;

284.  stelt verder voor de cyberbeveiligingscapaciteiten binnen het Europees Defensieagentschap te versterken, onder meer door gebruik te maken van op AI gebaseerde systemen ter ondersteuning van een gecoördineerde en snelle reactie op cyberaanvallen; beveelt aan toezicht te houden op de uitvoering van het cyberdefensiebeleid in elke lidstaat en de toewijzing van relevante middelen binnen de EU te beoordelen;

285.  beklemtoont dat de impact van AI op de Europese veiligheid moet worden geanalyseerd en dat aanbevelingen moeten worden ontwikkeld voor de aanpak van deze nieuwe veiligheidsuitdagingen op EU-niveau, in samenwerking met de lidstaten, de particuliere sector, onderzoekers, wetenschappers en het maatschappelijk middenveld;

286.  moedigt de lidstaten ertoe aan maatregelen te nemen om het opsporen van kwetsbaarheden te belonen en audits van op AI gebaseerde producten, systemen en processen te ondersteunen;

iv. Militair gebruik van AI

287.  merkt op dat elk gebruik van militaire AI onderworpen moet zijn aan strikte menselijke controle- en toezichtmechanismen en ethische beginselen, en volledig in overeenstemming moet zijn met de internationale mensenrechten en het humanitair recht; merkt voorts op dat de EU samen met haar gelijkgestemde partners moet werken aan een internationaal kader voor veilig onderzoek naar alsook veilige ontwikkeling en veilig gebruik van door AI-ondersteunde wapens dat het internationaal humanitair recht versterkt, ook in de context van het oorlogsrecht; herinnert aan de geldende internationale normen en beginselen, zoals het beginsel van evenredigheid, die moeten worden geëerbiedigd bij de ontwikkeling en het gebruik van nieuwe militaire technologieën;

288.  merkt op dat op AI gebaseerde technologieën een steeds belangrijker onderdeel vormen van militaire uitrusting en militaire strategieën; benadrukt dat toepassingen van AI die uitsluitend voor militair gebruik of voor de nationale veiligheid worden aangewend strikt moeten worden onderscheiden van civiel gebruik; wijst erop dat kwesties in verband met opkomende technologieën op militair gebied, inclusief kwesties in verband met AI, worden behandeld door de groep van regeringsdeskundigen inzake nieuwe technologieën op het gebied van dodelijke autonome wapensystemen, waarin de EU-lidstaten zijn vertegenwoordigd;

289.  is ingenomen met het toekomstige strategisch kompas van de EU, dat een kader moet bieden en bepaalde eisen moet instellen voor de benadering van de veiligheids- en defensieaspecten van AI; herinnert eraan dat de permanente gestructureerde samenwerking in het kader van het gemeenschappelijk veiligheids- en defensiebeleid en het Europees Defensiefonds de lidstaten en de Unie in staat zal stellen hun investeringen, capaciteiten en interoperabiliteit op het gebied van nieuwe technologieën, waaronder AI, te verbeteren;

290.  stelt dat de EU AI moet beschouwen als een cruciaal onderdeel van de Europese technologische soevereiniteit;

291.  concludeert dat de lidstaten hun militair personeel zodanig moeten blijven opleiden dat zij over de nodige digitale vaardigheden beschikken om AI te gebruiken in controle-, operationele en communicatiesystemen; is ingenomen met de benadering van het Europees Defensiefonds inzake dodelijke autonome wapensystemen en met artikel 10, lid 6; benadrukt het belang van het Europees Defensiefonds voor de ondersteuning van grensoverschrijdende samenwerking tussen EU-landen op het gebied van militair AI-onderzoek, de ontwikkeling van geavanceerde defensietechnologie en de opbouw van de nodige infrastructuur, met name datacentra met grote cybercapaciteiten;

292.  verzoekt de Raad een gemeenschappelijk standpunt inzake autonome wapensystemen vast te stellen, met waarborgen betreffende zinvolle menselijke controle over hun kritieke functie; dringt erop aan internationale onderhandelingen te beginnen over een juridisch bindend instrument dat volledig autonome wapensystemen verbiedt; stelt dat in een dergelijke internationale overeenkomst moet worden bepaald dat alle dodelijke AI-wapens onderworpen moeten zijn aan reële menselijke controle, wat betekent dat de wapens door mensen worden bediend, en daarom de uiteindelijke verantwoordelijkheid voor de beslissing om een doelwit te selecteren en dodelijke actie te ondernemen, bij mensen ligt;

293.  dringt aan op nauwere samenwerking met de NAVO op het gebied van cyberdefensie en roept de NAVO-bondgenoten op de multilaterale inspanningen ter regulering van het militaire gebruik van AI te ondersteunen;

5.Conclusie: een dringende oproep om actie te ondernemen!

294.  is van mening dat de huidige digitale transformatie, waarin AI een cruciale rol speelt, heeft geleid tot een wereldwijde concurrentiestrijd om technologisch leiderschap; benadrukt dat de EU tot op heden achterop is geraakt, met als gevolg dat toekomstige technologische normen dreigen te worden ontwikkeld zonder voldoende input van de EU, vaak door niet-democratische spelers, hetgeen een uitdaging vormt voor de politieke stabiliteit en het economisch concurrentievermogen; concludeert dat de EU op mondiaal gebied het voortouw moet nemen voor wat de vaststelling van normen voor AI betreft;

295.  benadrukt dat AI, ofschoon vaak afgeschilderd als een onvoorspelbare bedreiging, een krachtig digitaal instrument kan zijn en revolutionair op vele belangrijke punten, onder meer door innovatieve producten en diensten aan te bieden, de keuzemogelijkheden voor consumenten te verbeteren en bij te bijdrage aan de efficiëntie van productieprocessen; merkt op dat de invoering van AI-technologieën duidelijke voordelen en kansen biedt voor de gehele samenleving, onder meer op het gebied van gezondheidszorg, duurzaamheid, veiligheid en concurrentievermogen; wijst erop dat AI-technologieën tegelijkertijd het risico in zich dragen dat zij de menselijke invloed verminderen en de menselijke autonomie verdringen; beklemtoont dat zowel deze voordelen als risico’s richting en duiding moeten geven aan regelgeving en openbare mededelingen inzake AI;

296.  benadrukt dat de EU het internationale debat inzake AI vorm kan geven en wereldwijd toonaangevende gemeenschappelijke regels en normen kan ontwikkelen, ter bevordering van een mensgerichte, betrouwbare en duurzame benadering van AI, volledig in overeenstemming met de grondrechten; benadrukt echter dat de kans om een dergelijke afzonderlijke Europese benadering van AI op het internationale niveau te bestendigen snelle actie vereist, en dat de EU daarom spoedig een overeenkomst moet bereiken over een gemeenschappelijke AI-strategie en een regelgevingskader; benadrukt dat het vormen van internationale technologische normen en standaarden nauwere coördinatie en samenwerking met gelijkgestemde democratische partners vereist;

297.  benadrukt dat de EU momenteel nog ver verwijderd is van haar ambitie om op wereldniveau concurrerend te worden op het gebied van AI; benadrukt in dit verband het belang van het bieden van geharmoniseerde regels en normen, rechtszekerheid en een gelijk speelveld om de invoering van AI en AI-innovaties te bevorderen, onder meer door onnodige administratieve obstakels voor start-ups, kmo’s en het maatschappelijk middenveld weg te nemen; wijst erop dat deze radicale en grote veranderingen een verschillende uitwerking hebben in verschillende geledingen van de samenleving, en benadrukt dat de digitale transitie volledig in overeenstemming moet zijn met de grondrechten; verzoekt de Commissie, de lidstaten en het Parlement, met inbegrip van de relevante comités, gevolg te geven aan de aanbevelingen in het stappenplan van de EU voor AI;

298.  roept op tot een regelgevingskader voor AI dat voorziet in doeltreffend bestuur en bescherming van grondrechten, en tegelijkertijd concurrerende toegang tot digitale markten voor actoren van elke omvang vergemakkelijkt, teneinde innovatie en economische groei te bevorderen ten voordele van allen; onderstreept dat een concurrerende, toegankelijke en eerlijke data-economie, gebaseerd op gemeenschappelijke normen, een voorwaarde is voor de gepaste ontwikkeling en training van AI; wijst in dit verband op het risico dat marktconcentratie in de data-economie zich uitbreidt naar de economie voor AI-toepassingen;

299.  concludeert dat als de EU haar digitale ambities op gebieden zoals AI naar boven toe wil bijstellen, er veel meer integratie en harmonisatie nodig is in de digitale interne markt, zodat grensoverschrijdende uitwisseling wordt bevorderd en er wordt gewaarborgd dat in de hele EU dezelfde regels en normen gelden; beklemtoont in dit verband dat de EU-instellingen misbruik van marktmacht moeten bestrijden teneinde een gelijker speelveld tot stand te brengen;

300.  concludeert dat de nodige stappen moeten worden genomen om ervoor te zorgen dat de digitale transitie de groene transitie bevordert en niet belemmert; concludeert dat AI-systemen grote capaciteiten inzake infrastructuur en connectiviteit vereisen; beklemtoont dat digitale groene infrastructuur die in overeenstemming is met de Green Deal gericht zal zijn op alle sectoren en waardeketens en de beginselen van een circulaire economie moet volgen; beklemtoont dat AI echter niet functioneel zal zijn zonder een gepaste inzet van digitale infrastructuur, waaronder breedband, glasvezel, edge nodes en 5G; benadrukt dat het van belang is het toenemende energieverbruik en het gebruik van hulpbronnen te verminderen om tegen 2030 een klimaatneutrale digitale infrastructuur tot stand te brengen;

301.  benadrukt dat de snelle technologische vooruitgang in verband met AI ook gevolgen zal hebben voor het levensonderhoud van iedereen die niet over de vaardigheden beschikt om zich snel genoeg aan deze nieuwe technologieën aan te passen; merkt op dat bijscholing en omscholing veel van de voortvloeiende sociaaleconomische problemen kunnen helpen aanpakken, maar benadrukt dat deze gevolgen ook moeten worden aangepakt in de context van socialezekerheidsstelsels, stedelijke en plattelandsinfrastructuur en democratische processen; concludeert dat, teneinde de verspreiding van innovaties in AI te bevorderen, de inburgering van op AI gebaseerde toepassingen te vergroten, en te vermijden dat er mensen worden uitgesloten, mensen moeten kunnen beschikken over de middelen om digitale vaardigheden te verwerven; beklemtoont dat ICT- en STEM-gebaseerd onderwijs al op jonge leeftijd moet beginnen en in alle levensfasen toegankelijk moet blijven om de digitale geletterdheid en veerkracht te verbeteren; stelt vast dat initiatieven om AI-ecosystemen van uitmuntendheid tot stand te brengen, talenten op het gebied van AI naar de EU aan te trekken en kennisvlucht tegen te gaan van cruciaal belang zijn;

302.  benadrukt dat het van belang is AI-gestuurde uitdagingen op het gebied van grondrechten aan te pakken, zodat AI daadwerkelijk een instrument kan worden dat mensen en de samenleving dient en het algemeen welzijn en het algemeen belang nastreeft; concludeert dat, teneinde het vertrouwen in AI bij burgers aan te wakkeren, hun grondrechten in alle aspecten van het leven moeten worden beschermd, ook in de context van het gebruik van AI in de publieke sfeer en op de werkplek; benadrukt met name dat de rechten, doelstellingen en belangen van vrouwen en minderheden bij de digitale transitie in aanmerking moeten worden genomen; benadrukt dat overheidsdiensten en hun administratieve structuren het goede voorbeeld moeten geven; benadrukt dat de EU de invoering van op AI gebaseerde systemen en elektronisch bestuur moet versnellen om een veilig gebruik van AI in overheidsdiensten te bevorderen; benadrukt voorts dat AI nieuwe oplossingen in de gezondheidszorgsector kan ontsluiten, mits de risico’s op passende wijze worden beheerd en billijke toegang tot de gezondheidszorg als beginsel volledig wordt uitgebreid tot gezondheidsgerelateerde AI-toepassingen;

303.  concludeert dat in de AI-strategie van de EU de overwegingen en zorgen op militair en veiligheidsgebied die voortvloeien uit de wereldwijde toepassing van AI-technologie niet over het hoofd mogen worden gezien; beklemtoont dat internationale samenwerking met gelijkgestemde partners moet worden versterkt teneinde de grondrechten te beschermen en nieuwe technologische dreigingen zo veel mogelijk te beperken;

o
o   o

304.  verzoekt zijn Voorzitter deze resolutie te doen toekomen aan de Raad en de Commissie.

(1) PB L 123 van 12.5.2016, blz. 1.
(2) PB C 132 van 24.3.2022, blz. 102.
(3) Aangenomen teksten, P9_TA(2021)0504.
(4) PB L 119 van 4.5.2016, blz. 1.
(5) PB L 166 van 11.5.2021, blz. 1.
(6) PB L 170 van 12.5.2021, blz. 1.
(7) PB L 303 van 28.11.2018, blz. 59.
(8) PB L 170 van 12.5.2021, blz. 149.
(9) PB L 136 van 22.5.2019, blz. 1.
(10) PB L 256 van 19.7.2021, blz. 3.
(11) PB C 288 van 31.8.2017, blz. 1.
(12) PB C 252 van 18.7.2018, blz. 239.
(13) PB C 307 van 30.8.2018, blz. 163.
(14) PB C 132 van 24.3.2022, blz. 45.
(15) PB C 433 van 23.12.2019, blz. 86.
(16) PB C 449 van 23.12.2020, blz. 37.
(17) PB C 294 van 23.7.2021, blz. 14.
(18) PB C 404 van 6.10.2021, blz. 107.
(19) PB C 404 van 6.10.2021, blz. 129.
(20) PB C 404 van 6.10.2021, blz. 63.
(21) PB C 456 van 10.11.2021, blz. 34.
(22) PB C 15 van 12.1.2022, blz. 204.
(23) PB C 494 van 8.12.2021, blz. 37.
(24) PB C 15 van 12.1.2022, blz. 28.
(25) PB C 132 van 24.3.2022, blz. 17.
(26) Roberts, M., Driggs, D., Thorpe, M. et al., “Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans”, Nature Machine Intelligence, 3, blz. 199-217, 15 maart 2021.
(27) Studie van DG IPOL, Opportunities of Artificial Intelligence, juni 2020.
(28) Werkdocument van AIDA, Artificial Intelligence and the Green Deal, maart 2021.
(29) Mededeling van de Commissie van 18 november 2021 getiteld “A competition policy fit for new challenges” (COM(2021)0713).
(30) Acemoglu, D., et al., AI and Jobs: Evidence from Online Vacancies, National Bureau of Economic Research, december 2020.
(31) Mededeling van de Commissie van 9 maart 2021 met als titel “Digitaal kompas 2030: de Europese aanpak voor het digitale decennium” (COM(2021)0118).
(32) Gecoördineerd plan inzake kunstmatige intelligentie (COM(2018)0795).
(33) Voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021)0206).
(34) Mededeling van de Commissie aan het Europees Parlement, de Europese Raad, de Raad, het Europees Economisch en Sociaal Comité en het Comité van de Regio’s – Bevordering van een Europese benadering van artificiële intelligentie (COM(2021)0205).
(35) Gegevens uit 2018.
(36) Koerner, K., (How) will the EU become an AI superstar?, Deutsche Bank, maart 2020.
(37) PB L 316 van 14.11.2012, blz. 12.
(38) Richtlijn 85/374/EEG van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der lidstaten inzake de aansprakelijkheid voor producten met gebreken (PB L 210 van 7.8.1985, blz. 29).
(39) Richtlijn (EU) 2019/1024 van het Europees Parlement en de Raad van 20 juni 2019 inzake open data en het hergebruik van overheidsinformatie (PB L 172 van 26.6.2019, blz. 56).
(40) Richtlijn 2014/61/EU van het Europees Parlement en de Raad van 15 mei 2014 inzake maatregelen ter verlaging van de kosten van de aanleg van elektronischecommunicatienetwerken met hoge snelheid (PB L 155 van 23.5.2014, blz. 1).
(41) Verordening (EU) nr. 910/2014 van het Europees Parlement en de Raad van 23 juli 2014 betreffende elektronische identificatie en vertrouwensdiensten voor elektronische transacties in de interne markt en tot intrekking van Richtlijn 1999/93/EG (PB L 257 van 28.8.2014, blz. 73).
(42) PB L 295 van 21.11.2018, blz. 1.
(43) PB L 79 I van 21.3.2019, blz. 1.
(44) PB L 206 van 11.6.2021, blz. 1.

Laatst bijgewerkt op: 26 augustus 2022Juridische mededeling - Privacybeleid