Ausführliche Sitzungsberichte

Dienstag, 3. Mai 2022 - Straßburg

3. Künstliche Intelligenz im digitalen Zeitalter (Aussprache)

  Der Präsident. – Als nächster Punkt der Tagesordnung folgt die Aussprache über den Bericht von Axel Voss im Namen des Sonderausschusses zu künstlicher Intelligenz im digitalen Zeitalter über künstliche Intelligenz im digitalen Zeitalter (2020/2266(INI)) (A9-0088/2022).

Ich weise Sie darauf hin, dass mit Ausnahme der ersten beiden Reihen, die den Fraktionsvorsitzenden vorbehalten sind, freie Sitzplatzwahl besteht und daher alle Kolleginnen und Kollegen sich in die Nähe des Redners bewegen können.

Sie können mithilfe Ihres Abstimmungsgeräts spontane Wortmeldungen beantragen und blaue Karten einsetzen, nachdem Sie Ihre Abstimmungskarte eingeschoben haben. Ich bitte Sie daher, stets Ihre Abstimmungskarte mitzubringen. Anleitungen liegen im Plenarsaal aus.

Wenn Sie sich für eine spontane Wortmeldung anmelden möchten, ersuche ich Sie, das bereits jetzt zu tun und nicht das Ende der Aussprache abzuwarten.

Im Einklang mit den Empfehlungen der Fokusgruppe beträgt die Redezeit für alle Wortmeldungen während der Aussprache zu Schwerpunktthemen mindestens zwei Minuten. Das gilt auch für spontane Wortmeldungen.

Außerdem möchte ich Sie darauf hinweisen, dass blaue Karten auch für eine kurze Wortmeldung hochgehalten werden können und dass danach eine Anschlussfrage zulässig ist.

Ich weise Sie auch darauf hin, dass Wortmeldungen im Plenarsaal weiterhin vom zentralen Rednerpult aus erfolgen. Dies gilt allerdings nicht für spontane Wortmeldungen, blaue Karten und Wortmeldungen zur Geschäftsordnung. Ich ersuche Sie daher, die Rednerliste im Blick zu behalten und sich kurz vor Beginn Ihrer Redezeit zum Rednerpult zu begeben.

Das musste ich deshalb sagen, weil das Neuerungen über die Fokusgruppe sind und weil zweitens natürlich noch nicht alle Kolleginnen und Kollegen unseres Hauses diese Usancen bereits leben konnten, weil wir zwei Jahre Pandemie und Sonderregelungen hinter uns haben.

  Axel Voss, Berichterstatter. – Herr Präsident! Ich danke auch dafür, dass Sie hier das alles noch mal so gut erklären können, und ich finde es gut, dass Sie da sind. Aber auch Ihnen, Frau Vizepräsidentin, recht herzlichen Dank für Ihr Kommen, und liebe Kolleginnen und Kollegen, recht herzlichen Dank für das, was wir hier jetzt erreicht haben, und natürlich auch dem Sekretariat und unseren Assistenten. Wir haben viel erreicht, aber wir hätten auch noch mutiger oder revolutionärer eigentlich sein können, denn die künstliche Intelligenz ist eine Schlüsseltechnologie. Es ist die Schlüsseltechnologie, im Grunde eine Art Booster der Digitalisierung, und hat für uns hohe strategische Relevanz.

Jeder Bereich unseres Lebens wird von diesem technologischen Wandel erfasst werden, und die Konsequenzen für unsere Wettbewerbsfähigkeit, für unseren Wohlstand, für unsere Sicherheit sind dabei eben nicht zu unterschätzen. Und ich finde, wir müssen uns eigentlich hier bei dieser schnelllebigen Entwicklung die Frage stellen: Wie wollen wir eigentlich als EU, als Europa überleben in einer digitalen und datengetriebenen Welt? Wie wollen wir mithalten mit anderen Regionen in der Welt, die weitaus konsequenter und gezielter Forschung und Entwicklung voranbringen, investieren, Talente ausbilden, die viel Geld in die Hand nehmen und viel flexibler auf neue Entwicklungen reagieren können?

Wir haben doch als Europa der Welt auch was zu bieten, indem wir eben unsere Werte verbinden mit einer Technologie. Und das gibt es in diesen anderen Regionen so nicht. Nur muss das in unserer doch auch sehr komplexen Struktur in einer Geschwindigkeit passieren, dass wir die ersten sind, die mit neuen Ideen rauskommen, dass wir künftig auch Entwicklungen schon antizipieren können. Das Beharren auf das, was einmal geschaffen wurde, ist der falsche Weg. Wir müssen uns eigentlich jeden Abend neu hinsetzen und uns überlegen, wie wir morgen besser sein können.

Das soll uns alles keine Angst einjagen, sondern sollte uns Mut machen, denn dieser Wandel hat riesige Chancen für uns zum Wohl der gesamten Gesellschaft, ob das der Gesundheitsbereich ist, ob das die Nachhaltigkeit ist – das sollen ja nur einige Beispiele sein. All diese Chancen gilt es zu nutzen. Die haben wir aufgeführt in diesem Bericht, und mit unserem menschenzentrierten, vertrauenswürdigen Ansatz für die KI, der auch auf den Grundrechten, auf den europäischen Werten beruht, können wir eben all denjenigen Risiken auch entsprechend begegnen, die unsere Freiheit und Sicherheit infrage stellen. Social Scoring, Desinformation, automatisierte Waffen oder weniger drastische Beispiele: Das ist natürlich das, was wir nicht wollen.

Mit diesem europäischen Ansatz haben wir aber die Chance, globale Standards zu setzen. Da müssen wir aktiver werden. Und diese Chance würden wir vertun, wenn wir im globalen Wettbewerb nicht weltweit führend sind. Sonst fallen unsere Standards zurück, und stattdessen enden wir als eine Art digitale Kolonie genau bei den Kräften, die unsere Werte dann nicht teilen.

Aktuell fällt die Europäische Union im Wettbewerb zurück, und uns fehlt es an Marktmacht, an Forschung, an Kompetenz. Und genau hier setzt der Bericht an: Was muss noch geschehen, damit wir möglicherweise besser vorankommen? Welche Schritte müssen in den nächsten Jahren gegangen werden, um KI mitzugestalten und nicht passiv zuzuschauen? Künstliche Intelligenz bringt den Wendepunkt in dieser digitalen Revolution in Europa, und dieser Bericht soll auch der Wendepunkt sein.

Leider ist meine Zeit schon abgelaufen. Ich hätte gerne noch was zum Inhalt gesagt, aber das kann man vielleicht nachher noch nachholen. Ich möchte aber noch einmal allen recht herzlich danken, um dieses Ergebnis hier dann auch gebührend zu begehen.

  Margrethe Vestager, Executive Vice-President of the Commission. – Mr President, thank you very much for this debate. I find it very important that we are here today. And, first of all, I want to congratulate all members of the AIDA Committee. The report is very comprehensive; it draws, I think, a rich picture of the landscape of artificial intelligence in Europe.

Artificial intelligence can be a precious tool, solving some of the biggest challenges in our time, or at least helping us solve some of the biggest challenges. Because artificial intelligence, as any other technology, is a tool for humans and no matter the technology, our societies will be no better or no worse than the choices we make as humans.

But we have choices to make because some citizens are still left out when it comes to health, and we are all still not quite there when it comes to fighting climate change.

We see many synergies in the AIDA report and the Commission approach to artificial intelligence. Our approach to AI also recognises the two sides of the AI mettle that we just heard of, providing enormous opportunities in terms of economic growth, to our well-being.

But using AI for certain applications, well, it also carries risks, risk of something fundamental that are the building blocks of our society and our democracy. And there you have use cases that should be tackled with legislation.

We want artificial intelligence to flourish, to reap the benefits but, of course, also to make sure that we address any possible concern to ensure what is trustworthy technology, what is technology used in a way that puts the human at the centre and that respects Europe’s social market model.

We want to make Europe a global leader in adapting these latest technologies and in developing these technologies, seizing the benefits, promoting the development of this technology. Our ambition is to increase public and private investment to a total of EUR 20 billion per year over the course of this coming decade.

Well, currently we stand at about EUR 14 billion per year of combined public and private investment in artificial intelligence throughout Europe. For the Commission side, we’re investing 50 billion in Horizon Europe to create a network of AI excellence centres, to bring together excellence, because we know that talent attracts talent, and if we want the best to come here, we need to invest.

And we are also investing in industrial research. We just set up a public—private partnership on artificial intelligence to deal with data and robotics, strengthening the use of artificial intelligence when it comes to our industrial needs, and of course, also how we can make our societies more sustainable.

And in the context of the AI Act, we foresee a number of measures that ensure that startups and SMEs are encouraged and not discouraged from developing their technologies within the European Union. Foremost is the creation of regulatory sandboxes, which will ensure an environment in which business and regulators can cooperate in ensuring the development of AI is in compliance.

But I think the most important thing here is that, as legislators, we are not suggesting you to regulate technology. We are suggesting you to regulate the use of technology in order for that to be future-proof, in order not for making the next developer, the next researcher, the legislator look as if we were in the past. But to regulate in the use cases, and I think that is how to create trust, that elected representatives as you are thinking about something that is indeed future-proof, that preserves the fundamentals while at the same time enabling this technology to serve us at our best when we want to fight climate change, increase cohesion and make sure that all the other use cases they can be as prosperous as possible.

I think together we can achieve this, and Parliament has already put forward suggestions for civil liability regimes for AI and we will follow up on this with legislative proposals later this year, to create the necessary synergies between the AI Act and AI liability rules to develop an overall regulatory framework for AI, because that is part of creating trust – that, if damaged, you can get compensation.

Together, I think we can achieve this. I have been enjoying and I’ve been learning from the cooperation with the European Parliament in these many months, and I look forward for our continued cooperation.

  Eva Maydell, on behalf of the PPE Group. – Mr President, Executive Vice-President, Rapporteur, dear colleagues, ladies and gentlemen, in the past, whoever ruled the waves ruled the world. In the future, I believe whoever rules artificial intelligence will dominate the world. And this is where I believe Europe’s challenge lies. Just as we seek to use AI for the betterment of society, we see autocracies seeking ways to weaponise it. They do so by trying to create a digital dystopia. What we notice is that when it comes to the spread of disinformation, mass hacks, the dark web, cyberattacks and autonomous weapons systems, all these phenomena can be aided by artificial intelligence.

If the West loses the race to gain the social, economic and security benefits of AI, there will be a fundamental shift in global order, and this is why I believe this report seeks to shape AI in our democratic image. And it is precisely to build trust, to create an ethical framework for innovation; we have to try and be the champions for a future that ensures AI is the vessel for those ground—breaking innovations when it comes to health outcomes, when it comes to effective cybersecurity or scientific discovery or greater sustainability.

We cannot let authoritarian states such as China and Russia beat us to this technological punch. And I believe if we have enough political will, which I hope we show in this report, enough financial investment and legal certainty, I believe we could attract the so much needed investment, but also be able to foster world—leading innovation.

So I would like to congratulate my colleague Axel Voss on this report, because I believe technology and democracy have to go hand in hand. And I think with this report, we set the right path in achieving that.

  Brando Benifei, a nome del gruppo S&D. – Signor Presidente, onorevoli colleghi, vicepresidente Vestager, l'intelligenza artificiale presenta numerose opportunità e potenziali benefici in moltissimi campi, se utilizzata in conformità con i nostri valori fondamentali, nel rispetto della dignità umana e dell'ambiente, per il bene della società. Questo è il nostro modello europeo.

Un anno e mezzo di lavori della commissione speciale ci ha consentito di esplorare gli aspetti fondamentali di queste tecnologie e l'impatto nei vari settori economici, le ricadute sociali, le implicazioni geopolitiche. Implicazioni che rendono necessario un ruolo di leadership dell'Europa nell'affermare il proprio modello per l'intelligenza artificiale, nel lavoro sugli standard globali, perché quello tecnologico sarà uno dei principali teatri su cui si giocherà il futuro assetto delle relazioni internazionali.

Ciò richiede un mercato interno unito e competitivo, in cui tutti siano in condizioni di poter innovare nel rispetto delle regole, dalla privacy alla concorrenza. Ed è per questo che stiamo lavorando sul regolamento – che anche Lei vicepresidente ha ricordato prima – il quale sarà un tassello fondamentale per lo sviluppo di una vera industria europea in questo campo.

Tra i vari spunti contenuti nella relazione, cito in particolare la proposta di un'iniziativa legislativa sull'uso dell'intelligenza artificiale nei luoghi di lavoro. Il telelavoro ha infatti accelerato e reso più evidenti non solo i vantaggi in termini di efficienza, ma anche gli effetti potenzialmente dannosi dell'impiego di queste tecnologie sui lavoratori. Monitorarne la performance senza il loro consenso o a loro insaputa, senza una previa consultazione dei loro rappresentanti, come purtroppo vediamo accadere, non deve essere consentito in Europa.

Allo stesso tempo dovremo contrastare i possibili abusi del riconoscimento biometrico in tempo reale nei luoghi pubblici per ragioni di sicurezza. Non vogliamo una società della sorveglianza. Ringrazio dunque i relatori e tutti i colleghi per le discussioni costruttive degli scorsi mesi che hanno portato a un testo equilibrato e denso di proposte, molto utile per il lavoro legislativo che ci aspetta.

  Andrus Ansip, on behalf of the Renew Group. – Mr President, first of all, I would like to thank our rapporteur, Axel Voss, and all the shadow rapporteurs for their good work and excellent cooperation.

I consider this report a good vision paper which describes our ambitions and how to reach them. Our aim is to build human—centric artificial intelligence, which will serve our people while respecting their privacy. The report encourages us to use more solutions based on artificial intelligence. The report is carried out by the sense of urgency.

The European Union must significantly increase its investments in artificial intelligence so we have competitive solutions.

The European Union must also significantly improve the access to data, but bearing in mind that the only legal basis for the processing of data is the General Data Protection Regulation. I hope this report will lead the way in the development of artificial intelligence in Europe.

  Damian Boeselager, on behalf of the Verts/ALE Group. – Mr President, Executive Vice—President, dear colleagues, first of all, I also want to thank you for the great collaboration. I think we had long hours trying to figure out what the best use of AI in Europe is.

But let me go one step back. When we hear AI, I think – and this is thanks to the movie industry – we often think of bots and of holograms of all of us, MEPs, of the Executive Vice—President to be just replaced by AI in this kind of futuristic scenario. But that’s not what AI really is about. In all seriousness, it’s about an objective function. It’s about probabilistic models, and very often our companies are still trying to grapple with what AI is about. So they’re making their way from a very analogue life to an AI—based business model.

In this struggle, we see that we have some issues. For example, one is that there’s a strong tendency to market dominance, and that is just the case because you still need a lot of data to train your AI algorithms. I think Europe is trying to find its way in this struggle, and we’ve seen that if you give too much market dominance, there can be abuses of that. We need to find ways to counter that. And we have seen that, for example, maybe in the Chinese model, AI is used to control society. We have to also fight against that.

So what can help us to make these steps correct? I think it’s crucial that we make our algorithmic function focus on human agency, and this has been said before. So we need to safeguard fundamental rights, but we also need to find markets concentration. That can be done if we enable our start—ups, our companies, to enter these markets so there’s no closed markets, and there’s no market dominance. I think this is a struggle that is worth fighting and that is also very much represented in the report.

Let us continue the struggle, in the Data Act and all other files that are still being discussed in the AI world, so that we create a European way of looking at AI and make it possible for our companies to thrive.

  Alessandra Basso, a nome del gruppo ID. – Signor Presidente, onorevoli colleghi, Commissaria, intanto ringrazio tutti per il lavoro svolto. Questo lavoro ha toccato temi di grande impatto nella vita dei cittadini, dai trasporti alla sanità, all'agricoltura, fino all'uso dell'intelligenza artificiale nel settore militare.

L'obiettivo era di analizzare le varie prospettive per fornire le fondamenta per una futura legislazione dell'Unione in questo settore. Non so se ci siamo riusciti, dato l'alto tasso di innovazione di questo settore, ci troviamo davanti a tante opportunità, ma anche ad altrettanti rischi.

Vediamo tanti miglioramenti del benessere e della vita dei cittadini, ma anche enormi rischi per quanto riguarda le libertà personali e il rischio di errori, con conseguenze anche sociali catastrofiche: penso a quella piattaforma di compravendita immobiliare che per un errore dell'algoritmo ha acquistato case ad un prezzo superiore al valore di mercato, subendo perdite finanziarie e trovandosi costretta a licenziare il 25 per cento dei dipendenti. Durante i lavori, il nostro gruppo ha presentato emendamenti indirizzati a minimizzare questi rischi, sfortunatamente non condivisi da tutti.

Per i nostri cittadini è fondamentale che ci sia il minor numero di rischi possibile. In campo medico, l'attenzione deve essere massima perché anche in questo caso ci siamo trovati davanti ad algoritmi che segnalavano solo pazienti bianchi e l'intelligenza artificiale deve essere esente da pregiudizi di ogni tipo.

E soprattutto in campo militare, consideriamo fondamentale che l'intelligenza artificiale non abbia il sopravvento sull'uomo nei processi decisionali. È essenziale che la libertà di parola e di espressione non venga messa a rischio da sistemi che usano l'intelligenza artificiale, costringendoci ad usare il cosiddetto "algospeak", un linguaggio in codice per aggirare gli algoritmi e la censura online.

Non ci opponiamo al progresso, non pensiamo ad una rivolta di stampo luddista. Non vogliamo distruggere le macchine, vogliamo semplicemente un futuro di questa tecnologia che sia guidato dall'etica e dalla volontà di proteggere i nostri cittadini.

  Kosma Złotowski, w imieniu grupy ECR. – Sztuczna inteligencja rozpala wyobraźnię zarówno entuzjastów technologii, jak i przeciwników coraz szybszej automatyzacji w gospodarce i życiu społecznym. Pogodzenie tych dwóch podejść i zbudowanie szerokiego kompromisu to zadanie trudne, ale możliwe. Niestety w naszej opinii w przypadku tego sprawozdania nie do końca się to powiodło. Doceniamy wysiłek i zaangażowanie sprawozdawcy włożone w pracę nad sprawozdaniem, ale jako ECR wstrzymamy się od głosu. Brakuje w końcowym tekście jednoznacznego, spójnego i silnego komunikatu, że Europa chce na poważnie dołączyć do globalnego wyścigu technologicznego i być miejscem, gdzie innowacje nie tylko się konsumuje, ale przede wszystkim tworzy.

Sztuczna inteligencja to ogromna szansa dla naszych firm, także małych i średnich, które mogą opracowywać nowoczesne produkty i usługi, jeśli otrzymają właściwe wsparcie. Dlatego tak ważne są nakłady na badania i rozwój oraz ścisła współpraca w zakresie standardów etycznych, prawnych i technicznych z partnerami międzynarodowymi, którzy mogą i chcą dzielić się z nami swoją wiedzą i doświadczeniem w zakresie AI. Nie możemy pozwolić, aby nasza strategia w zakresie rozwijania sztucznej inteligencji i gospodarki opartej na danych padła ofiarą długich i jałowych dyskusji. Zwłaszcza że przed nami prace nad rozporządzeniem AI Act, które przede wszystkim powinno stworzyć ramy prawne przyjazne innowacjom. Mam nadzieję, że wykorzystamy tę szansę i nie zbudujemy kolejnego gorsetu biurokratycznego dla firm, także europejskich, działających w sektorze nowych technologii.

  Pernando Barrena Arza, on behalf of The Left Group. – Mr President [...] (start of speech off mic) works of the AIDA Committee. It took a lot of effort and a lot of mutual understanding as well. I have to say that we are highly critical about the main ideas of the final draft. I have to admit that some progress was made in the course of the procedure and that some slight positive elements were introduced as regards artificial intelligence and the labour market, health and data privacy and digital skills literacy as a component of basic education. Beyond those points, the report acknowledges that it’s not possible to devise artificial intelligence algorithms, as our group pointed to.

However, our group cannot share the overall flexible and risk-based business approach of artificial intelligence and the dramatic one on the European Union at risk, including a bold narrative of a pro-United States and anti-China approach throughout the report, instead of a broader, multilateral and collaborative global vision.

We particularly regret that our proposal to include a multilateral approach for artificial intelligence cooperation with third countries, using international organisations such as the United Nations, was not accepted in the committee. The final report lacks relevant points, like the absence of regulation for high—risk cases and no strong message on the environmental impact of uncontrolled development of artificial intelligence as regards raw materials, CO2 emissions and energy consumption.

The report acknowledges the gender gap, but falls short on making clear policy recommendations for increasing the role of women in artificial intelligence research and development.

The worst part is the one concerning law enforcement and defence, where it calls for closer cooperation with NATO in cyber defence and calls on NATO allies to regulate the military use of artificial intelligence. No ban on the deployment of facial recognition and no ban on all autonomous weapons systems.

These are key points for a civil liberties—compliant development of artificial intelligence. Therefore, we are left with a report with no clear goals except for flexible regulation for business, aligning with NATO and the US in foreign AI policy, and stressing on China’s standard setting of artificial intelligence posing as an evil challenge for the European Union.

These issues are crucial for our group and I encourage you all to support our amendments on NATO’s role and on the implementation of AI in the field of the development of European minority languages. But may I call your attention to our amendments, particularly regarding the banning of facial recognition and autonomous weaponry. As I said before, these aspects should be taken on board in a sensitive document like this.

  Geoffroy Didier (PPE). – Monsieur le Président, mon collègue Axel Voss a vu juste: l’intelligence artificielle constitue une chance à saisir. Les bienfaits de cette technologie sont très nombreux. Ils peuvent s’appliquer par exemple à la médecine et aider à sauver bien des vies.

La machine n’a pourtant de sens que si l’homme en garde l’absolue maîtrise. Les réflexes, que les technologies les plus avancées permettent de programmer, vaudront toujours moins que le discernement, le libre arbitre et la sensibilité inhérents à l’être humain. Tout est une question d’usage.

Exemple d’un bon usage de l’intelligence artificielle: la régulation d’Internet à l’aide d’algorithmes pour mettre fin à l’anarchie qui y règne. Nous venons d’aboutir à un accord politique historique en Europe: le DSA (Digital Services Act, législation sur les services numériques) va permettre de combattre les dérives les plus inadmissibles des réseaux sociaux. Le principe? Il est simple: tout ce qui est illégal hors ligne doit le devenir en ligne. Pas plus, pas moins. Non, les messages de haine et de harcèlement ne constituent pas des opinions qui feraient partie de la liberté d’expression. Ils en sont même le contraire, car ils imposent le silence à tous ceux qui craignent d’en devenir les victimes. Ceux qui ont harcelé et appelé au meurtre sur Internet de Samuel Paty, sont-ils, étaient-ils, des vecteurs de liberté d’expression? Poser la question, c’est déjà y apporter une réponse.

Telle qu’elle a été prévue, cette nouvelle réglementation devra s’appliquer aux moteurs de recherche et à tous les plus grands réseaux sociaux. Et aussi génial et innovant soit-il, Elon Musk, devra y soumettre Twitter comme n’importe quel géant du numérique.

Protéger les citoyens de la haine en ligne, voici un bel usage des technologies les plus avancées. Et voici aussi un usage très approprié de l’Union européenne.

  Ibán García Del Blanco (S&D). – Señor presidente, estamos debatiendo un informe que, efectivamente, es clave, que concluye un trabajo de dieciocho meses, y que supone también un ejercicio muy notable de diálogo en el Parlamento Europeo.

Quiero agradecer especialmente a los coordinadores de esta Comisión Especial, también al presidente y a la Mesa, la tarea realizada, en particular los numerosos debates y conferencias y un total catorce audiencias públicas y ocho seminarios. Un trabajo conjunto, en definitiva, de todo el Parlamento Europeo, que abarca desde el transporte a la agricultura, a la salud y la lucha contra el cáncer, la economía, la competitividad, las finanzas, el Pacto Verde y la Estrategia de Datos. Y también hemos hablado del impacto en la democracia, la desinformación, de los riesgos de los derechos fundamentales, de la discriminación, incluida la igualdad de género, y del papel que las mujeres deben desempeñar también en el desarrollo de la inteligencia artificial europea.

Hay dos aspectos que cabe destacar: en primer lugar, que este ha sido un debate plenamente democrático. Se han defendido diversos puntos de vista con la participación de las partes interesadas de la industria, de la sociedad civil, del mundo académico y también de los usuarios, así como de los Parlamentos nacionales. En segundo lugar, ha habido un equilibrio necesario para favorecer la innovación y limitar los riesgos en la inteligencia artificial.

Desde el Grupo de Socialistas y Demócratas quiero agradecer también la tarea de los ponentes y ponentes alternativos en la articulación del informe, que es un informe muy equilibrado, con más de mil enmiendas, muchas de ellas, por cierto, del Grupo de Socialistas y Demócratas, que responde perfectamente a la tarea que se nos encomendó. Indica una posición mayoritaria del Parlamento Europeo en todos los aspectos relativos al desarrollo y la difusión de la inteligencia artificial en Europa. Hace hincapié, además en aspectos muy concretos, con ejemplos, en cada caso, de los potenciales beneficios o riesgos que puede presentar el uso de la inteligencia artificial. Por poner algunos ejemplos, en la salud, resalta los beneficios en el tratamiento de enfermedades y nuevos medicamentos; en el Pacto Verde, resalta la necesidad de crear una inteligencia artificial para que sea sostenible y apoye la transición medioambiental; en la política exterior y de seguridad, hace un análisis geoestratégico; en la competitividad, resaltamos la necesidad de mejorar nuestra investigación y el apoyo de las pequeñas y medianas empresas; en el mercado de trabajo, pedimos una iniciativa legislativa específica que pueda regular el uso en el trabajo y que respete los derechos de trabajadores y trabajadoras y acabe con la vigilancia en los lugares de trabajo; también en la escuela, fomentando la ilustración digital.

En fin, creo que este es un informe que va a ser sobre todo muy útil para el trabajo en el futuro y quiero dar las gracias a todos los que han participado en él.

  Dragoş Tudorache (Renew). – Mr President, first and foremost, my congratulations to you, Axel Voss, and to the shadow rapporteurs for the very important work that you’ve done with this report. It was my privilege to serve as Chair of the AIDA Committee for the duration of this mandate, and I am very proud about the way in which we have achieved our objectives.

As Chair, and even before, when negotiating the mandate of the committee, I imagined AIDA as a place where we, as Parliament, think politically about the future of artificial intelligence, a place where we have an honest, introspective and forward—looking assessment of our technological competitiveness on the global stage, and a place where we think beyond the status quo, where we look at the next steps to 2030 and even past that threshold.

The AIDA report captures this vision. So here are three main points I will take away from our work in the AIDA Committee and from this report.

First, artificial intelligence is no longer a technical subject. AI is a political or rather – as I have said many times – a geopolitical issue. I am happy that in our work in AIDA and in this report, we did not shy away from making this point very clearly. We need closer cooperation with our like—minded democratic partners in setting the rules of the digital future. We need to make strategic choices based on our values, and this may come at odds with how other players on the global stage view the role and future of AI in their societies.

Second, artificial intelligence is, no doubt about it, an opportunity. It is not only an opportunity to improve efficiency in every sector of our economy, it is an important opportunity for us to correct historical biases and discrimination in our societies and, quite literally, build a better future.

This leads me to the last, but very important, conclusion. At the end of the AIDA mandate and after working on this report, Parliament is better equipped to regulate the use of technology to work on acts such as the Artificial Intelligence Act, the first legislation of its kind worldwide. We have explored, we have learned and we have defined our political vision. Now it’s time to write the laws.

Once again, congratulations to you, rapporteur, to the coordinators and to the shadow rapporteurs for the work we’ve done together.

  Alexandra Geese (Verts/ALE). – Herr Präsident, Frau Kommissarin, liebe Kolleginnen und Kollegen! Künstliche Intelligenz wird ja von vielen, auch von mir, in vielen Bereichen als Versprechen für eine bessere Zukunft gesehen.

Aber ohne klare Regeln riskieren wir einen „Zurück-in-die-Zukunft“-Effekt, so wie Marty, der Filmheld, der 1985 mit seiner Zukunftsmaschine ambitioniert in die Zukunft startet und dann im Jahr 1955 landet. Und das ist das, was wir heute erleben: Wenn nämlich zum Beispiel bei Apple Pay der Kreditrahmen des Mannes bei gleicher Kreditwürdigkeit und gleichem Einkommen 20 Mal größer ist als der seiner Frau. Das hat nichts mit Intelligenz, mit Innovation oder mit Fortschritt zu tun, denn das ist künstliche Intelligenz ohne kluge Regeln, eine Technologie, die auf Daten der Vergangenheit basiert und uns deswegen nicht von selbst in die Zukunft trägt.

Und damit sie ihr Potential wirklich entfalten kann, brauchen wir klare Regeln, klare Ex-ante-Regeln gegen Diskriminierung. Das bedeutet hochwertige Datensätze, gemischte Teams und vor allen Dingen Überprüfbarkeit. Und deswegen muss der AI-Act, also die jetzige Regulierung, die auf dem Tisch liegt, für künstliche Intelligenz einen Quantensprung machen. Es reicht nicht, eine Produktzertifizierungs- oder Produktsicherheitsregulierung zu haben. Was wir brauchen, ist ein wahres Gesetz zur Umsetzung von Grundrechten im Zeitalter der künstlichen Intelligenz.

Und genau das kann auch ein Wettbewerbsvorteil für europäische Unternehmen sein, denn das können die Unternehmen, die Tech-Giganten, die gerade den Markt dominieren, nicht. Und was auch bemerkenswert ist an diesem Bericht, ist die Anerkennung, dass das Geschäft mit der auf Datenprofilen basierenden Onlinewerbung die Grundlage für die Marktdominanz der großen Big-Tech-Unternehmen – der gleichen Unternehmen, die wir gerade im DSA und DMA regulieren – auch im Bereich künstliche Intelligenz ist. Und da wünsche ich mir, dass die Europäische Union den Boden – denn die Daten sind auch der Boden, auf dem die digitale Wirtschaft gedeiht und wächst – dass sie diesen Boden nicht mehr ausverkauft, sondern endlich selbst bestellt.

  Gilles Lebreton (ID). – Monsieur le Président, chers collègues, une révolution technologique est en train de s’opérer. Le développement de l’intelligence artificielle va transformer nos vies dans des proportions que la plupart des hommes et des femmes a encore peine à imaginer. L’Union européenne doit encourager cette nouvelle manifestation de la créativité humaine, car elle est une formidable promesse de progrès économique. Il en est plus que temps, car face à la concurrence des États-Unis et de la Chine, nous, Européens, avons déjà pris beaucoup de retard. Si nous ne voulons pas devenir une colonie numérique de puissances extérieures, nous devons soutenir la recherche européenne, favoriser l’émergence de start-ups dans nos États membres et éviter la concentration du marché en assurant l’accès des PME à l’économie de l’intelligence artificielle. Je remercie le rapporteur, M. Axel Voss, d’avoir veillé à rappeler ces priorités.

Bien sûr, l’intelligence artificielle n’est pas sans danger. Entre les mains de régimes autoritaires, elle peut conduire à une surveillance de masse et à une grave restriction des libertés, dont la généralisation discutable du passe sanitaire nous a donné une première idée.

C’est pourquoi il faut réglementer son utilisation en l’obligeant à respecter les droits de l’homme, et notamment les droits des patients en matière de santé. En tant qu’auteur du rapport du 20 janvier 2021 sur l’utilisation de l’intelligence artificielle dans les domaines militaires et régaliens, je tiens aussi à réaffirmer la nécessité de réglementer, sous l’égide de l’ONU, l’utilisation des systèmes d’armes létales autonomes, appelés plus communément robots tueurs. Là encore, le rapport de M. Voss a le mérite de le rappeler.

Le groupe Identité et Démocratie insiste particulièrement sur les risques de censure et de négation du pluralisme que cette technologie pourrait favoriser. En aucun cas, l’utilisation de l’intelligence artificielle, notamment pour filtrer les contenus en ligne, ne devrait entraver la liberté d’expression, en particulier la liberté d’expression politique. Comme le disait un célèbre révolutionnaire français: «les orages des discussions politiques ne sont que les douleurs de l’enfantement de la liberté».

Un dernier danger réside dans la tentation d’utiliser l’intelligence artificielle pour aggraver la ségrégation sociale dont les habitants des campagnes sont victimes dans plusieurs États membres, comme la France, au profit des habitants des métropoles. Pour y parer, il faudra exiger un déploiement équitable de la 5G dans l’ensemble de nos territoires: l’enjeu est fondamental, car si nous y parvenons, nous pourrons même, grâce à cette démocratisation de l’accès à l’intelligence artificielle, diminuer les inégalités et faire de cette technologie un instrument de progrès social.

  Assita Kanko (ECR). – Voorzitter, in 2020 heeft de EU haar doelstelling om drie procent van het bbp aan onderzoek en ontwikkeling te besteden niet gehaald. De recente cijfers met betrekking tot privéinvesteringen zijn zeer alarmerend: tachtig procent in de VS en in China ten opzichte van minder dan vijf procent in de EU.

De strategische relevantie van artificiële intelligentie (AI) kan niet worden ontkend. De EU moet dan ook meer ambitie tonen om AI te stimuleren en Europese bedrijven kansen te bieden. We moeten talent aantrekken om gelijke tred te houden met de VS en China om de braindrain naar de VS te voorkomen en om te groeien en nieuwe technologieën te ontsluiten voor onze burgers en bedrijven.

Namens Geert Bourgeois, die voor dit verslag schaduwrapporteur is, wil ik rapporteur Voss bedanken voor het goede werk dat hij geleverd heeft. Wij steunen de inspanningen om een rechtskader tot stand te brengen voor veilige, verantwoordelijke, ethische en betrouwbare AI. Daarbij moeten we een redelijke en evenredige aanpak hanteren die gericht is op hogerisicosystemen en ons in staat stelt trouw te blijven aan onze normen en ons volledige potentieel te bereiken.

Op dit moment gaan te veel EU-middelen naar kleine, kortlopende en dikwijls elkaar overlappende projecten. De EU moet zich richten op de lange termijn en op de samenwerking tussen de lidstaten en moet gerichte investeringen doen op een aantal strategische gebieden. Bovendien mag de EU zichzelf niet buitenspel zetten door te rigide regelgeving vast te stellen en moet zij zich bewust zijn van de noodzaak van internationale samenwerking. Ook het risico op vooringenomenheid en discriminatie dat AI met zich meebrengt, moet worden aangepakt. De klemtoon is echter vooral op grondrechten en regelgeving komen te liggen in plaats van op het geheel.

Ten slotte zijn de toegang tot en het delen van gegevens van cruciaal belang voor de ontwikkeling van AI. De AVG is vastgesteld voordat AI op de radar verscheen en leidt momenteel tot te veel onzekerheid bij ondernemingen, omdat deze niet vooruitstrevend genoeg is. Wij pleiten voor een pragmatische en vooruitstrevende no-nonsense-aanpak, aangezien deze volgens ons zal leiden tot groei, innovatie en open strategische autonomie. Te veel en te rigide regelgeving zal daarentegen bedrijven afschrikken en ons ervan weerhouden een koploper te worden op het wereldtoneel.

  Deirdre Clune (PPE). – Mr President, I want to thank Axel Voss and the chair of the committee for bringing us to this point. We look forward to dealing with the regulation on artificial intelligence. ‘What is it and what is it about’ is a topic that has so many answers and so many approaches, but it does have so many potential benefits for our societies, for our economy and for development.

Climate can be addressed there, and how we can help to meet our green targets and green ambitions, how to make more efficient decisions based on high—quality inputs. In agriculture, again, efficient approaches measuring inputs to maximise outputs, improving levels and quality of food production. In health we have seen the benefits in the development of the COVID-19 vaccine, and also in appropriate care and treatments for patients.

So we’ve seen much activity in areas such as the DSA and the DMA – and thanks to the Commissioner for leadership in that area – and they regulate current practices. Now we move to the opportunity to shape AI and its future so we can use it in the way that we want, which is trustworthy, if we are to gain citizens’ confidence. We need human oversight with transparency and strong regulatory bodies. We need clear standards for a human—centred approach to AI that is based on our core European ethical standards. We don’t want to stop AI, we want to use it and harnesses it for its enormous potential. Investment from public to encourage private sector in artificial intelligence needs to be encouraged. We need to send a message that Europe is a place to invest, to innovate and to know that you can do so with legal certainty, to know that there is a regulation in place in Europe that applies across the Union.

The proposed AI regulation will put Europe at the forefront internationally in the area of artificial intelligence. We’d be the first to regulate it and other nations will follow. So we have done so with our leadership before and we can now do it again. So the proposed legislation would be future—proofed, which I think is really important, with the ability to react so that we’re not always coming from behind, but we are prepared to deal with this very important technology as it evolves.

  Miapetra Kumpula-Natri (S&D). – Mr President, dear Commissioner, dear colleagues, getting artificial intelligence right is one of the key questions for the future – also for the European Union. This technology will shape the way value is created in our economy and who wields the power in our societies. We cannot look away from this development and just let it happen. That became clear from our work. We need to sail not drift in technological development.

The work of the AIDA Committee was a European push to get artificial intelligence right. I had the honour to serve as the first vice—chair, and I thank the chair and the rapporteurs for this work. I think we worked hard and I am proud of the results.

For 18 months, AIDA organised 12 public hearings on different aspects of AI, from tackling the bias of the data to the role of AI in achieving the Green Deal objectives. We debated, different political groups worked together to bring the whole spectrum of AI—based values on the table. Like we condemned AI surveillance in the working place and are concerned that is happening in schools also.

In the end, we delivered. The report we are voting on today is a good report that takes steps towards the European approach to AI. We consider, for example, that the imbalance in powers might have negative effects for democracies.

If there’s one conclusion I can draw from this work, it is that AI can only be a tool, not an end itself. We should not focus on the specific technologies, but we should focus on what kind of societies we want to see.

It is crucial that we see AI as a stepping stone towards inclusive, socially responsible and environmentally sustainable societies. This requires a political effort in directing technological developments towards these goals and help investing in them. I see the report as a sign of Europe taking an active role in the global development of AI. The current AI Act gives the world’s first legal framework for the development of AI, and Parliament has now shown a sign, a strong signal where we want to go.

In terms of AI, Europe will no longer be a bystander. Europe will no longer be a battleground. In the future, the EU will be an ecosystem of excellence, trust and purpose that delivers AI to take us to the future we want.

  Svenja Hahn (Renew). – Herr Präsident, verehrte Kollegen! Der Abschlussbericht des Sonderausschusses legt nicht weniger als eine Vision für künstliche Intelligenz für Europa vor. Das ist so wichtig, wenn wir in der ersten Tech-Liga mitspielen wollen. Denn wir sollten nicht immer nur über worst-case-Szenarien hyperventilieren, sondern die EU ganz, ganz dringend aus dem Dornröschenschlaf wecken. Wir müssen unseren europäischen Weg in die technologische Zukunft finden, einen Weg jenseits des totalitären Überwachungsstaates à la China und des durchaus auch riskanten anything goes eines in vielerlei Hinsicht unregulierten US-Marktes.

Der Rahmen für die Nutzung von künstlicher Intelligenz müssen immer unsere Grundrechte sein. Staatliche Massenüberwachung oder Diskriminierung sind inakzeptabel, vor allem wenn wir unsere europäischen Demokratien wetterfest für die Zukunft machen wollen. Dann legen wir die Grundlage für den Innovationskontinent Europa, und dann können wir auch ein unglaubliches Potenzial für unsere Gesellschaft abrufen und unseren Unternehmen ganz neue Freiräume für Ideen eröffnen: Erforschung neuer Medikamente, die smart cities von morgen, eine moderne Industrie. Das Potenzial von KI ist so groß, das können wir uns heute kaum vorstellen.

Daher muss uns auch der politische Spagat – möchte ich fast sagen – gelingen, nicht zu überregulieren, was bereits da ist, und vor allem nicht kaputt zu regulieren, was morgen da sein könnte. Denn zuallererst brauchen wir Mut. Mehr Mut, um Chancen zu sehen und um die zu fördern, die sie auch ergreifen, um unseren Entwicklern keine stumbling stones in den Weg zu legen, sondern stepping stones zu bauen.

Ich will, dass die EU zu einem weltweiten Innovationsführer im Tech-Bereich wird. Künstliche Intelligenz braucht dafür den digitalen Binnenmarkt, wie übrigens viele andere Technologien auch. Wenn dabei unsere Bürgerrechte der Grundpfeiler sind, dann geben wir der digitalen Zukunft das Gesicht Europas und der Demokratie.

Danke an den Berichterstatter Voss und meinem Fraktionskollegen Andrus Ansip für ihre Arbeit und unserem Vorsitzenden Dragoș Tudorache für seine Führung.

VORSITZ: EVELYN REGNER
Vizepräsidentin

  Kim Van Sparrentak (Verts/ALE). – Madam President, today we as a Parliament send a strong signal. We need a legislative proposal to protect workers when AI is deployed at work. And it’s about time we had legislation to protect workers from becoming robots.

For too long, when talking about AI and the future of work, we worried about humans going to be replaced by technology. But the reality is that technology hasn’t replaced people; it is used to push people to work at a machine-like pace. Employers are tracking employees’ every move – how many emails you send, how much time you spend at your keyboard, and even your emotions – to evaluate your performance.

Amazon workers delivering packages have several tracking devices in their vans to not only track if they are reaching their targets, but also whether they look happy or tired while on the road. Zara shop assistants’ locations are continuously monitored and they are given automated orders in their earpieces and call centre workers are evaluated with emotion—recognition technologies based on how chirpy they sound while talking with customers.

AI-driven surveillance at work is already a reality, and this endangers health and safety, mental health and fundamental rights. We must not treat AI like a magical tool for efficiency and productivity. Rather, we need clear rules to protect workers when there are issues at work. A new legislative proposal can help AI make our work easier and more pleasant, and this is what makes people productive at work.

We need laws to empower workers and make sure technology is used to promote workers’ rights instead of allowing our bosses to continuously stalk, evaluate and exploit us. And this is why Parliament sends a strong signal with broad support. We need a legislative proposal to protect workers’ rights when AI is deployed at work.

  Riho Terras (PPE). – Austatud istungi juhataja, head kolleegid!

Eelmisel aastal ellu kutsutud parlamendi erikomisjon, mis analüüsis ja tegi ettepanekuid tehistaibu [tehisintellekti] küsimuses, on oma tööle täna joone alla tõmmanud. Mina hindan kõrgelt seda initsiatiivi, mille parlament erikomisjoni loomisega võttis. Tehistaip ning selle kasutamisest lähtuv tehnoloogia areng on äärmiselt kiire ning ilmselgelt on tehistaibuga seotud palju olulisi küsimusi, millega ka antud raport tegeles.

Minu hinnangul peame tulevikku vaadates silmas pidama järgmisi olulisi tegureid seoses tehistaibu rakendamise ja selle kasutamise reguleerimisega.

Vajame ka tasakaalustatud lähenemist seadusandlusele ning peame vältima ülereguleerimist, mis pärsib innovatsiooni ja tehistaibu kasutuselevõtmist julgeoleku- ja kaitsevaldkonnas. Ülereguleerimine piirab meie võimalusi tehistaibu tehnoloogilisel arendamisel, eriti peame silmas seda, et meie konkurentidel puuduvad piirangud.

Kindlasti tuleb tähelepanu pöörata tihedale transatlantilisele koostööle tehistaibu valdkonnas. USA on Euroopa Liidu tõsiseim koostööpartner selles valdkonnas. Peame vältima regulatsioone, mis meie omavahelist koostööd segavad.

Olen veendunud, et Euroopa Komisjonil tuleb tehistaibu valdkonda planeerida rohkem ressursse. Igasugune tehnoloogia areng nõuab märkimisväärseid investeeringuid.

 

Minu hinnangul võiksid kujundamisjärgus ja murrangulised tehnoloogiad üldiselt, sealhulgas tehistaip, saada Euroopa Liidu ja NATO ühiseks töövaldkonnaks. NATO tegeleb kaitsevaldkonna tehistaibu strateegia väljatöötamisega. Euroopa Liidult ootaksin eelkõige tehistaibu kaitsevaldkonna rakendamise rahastamist läbi kaitsefondi ja muude asjakohaste finantsinstrumentide.

 

Ma soovin veelkord tänada oma kolleege tehistaibu erikomisjonist. Ja loodan väga, et komisjoni järeldused ja ka minu poolt rõhutatud küsimused saavad Euroopa Liidus ka tulevikus piisavalt tähelepanu. Tehistaibu teemal peame kindlasti oma konkurentidega sammu pidama ja vältima mahajäämist – see on meie konkurentsivõime küsimus.

  Alex Agius Saliba (S&D). – Sinjura President, Kummissarju, aħna bnedmin u mhux biss numri. Għalkemm l-intelliġenza artifiċjali ħolqot diversi opportunitajiet, żiedet il-kapital, il-produttività, l-innovazzjoni, l-iżvilupp sostenibbli, ikkreat numru ta’ impjiegi ġodda, ma rridux ninjoraw numru ta’ diffikultajiet. Diffikultajiet etiċi, legali, diffikultajiet relatati anke mad-dinja tax-xogħol, mad-drittijiet tal-ħaddiema tagħna.

It-teknoloġiji diġitali qegħdin jaffettwaw il-kwalità tal-ħajja tal-ħaddiema tagħna u qegħdin joħolqu żbilanċ. Żbilanċ li qed jaffettwa l-iktar dawk il-ħaddiema li huma vulnerabbli. L-AI u t-teknoloġiji diġitali irriorganizzaw, b’mod partikolari, il-futur tad-dinja tax-xogħol tagħna u qegħdin ukoll jheddu numru ta’ setturi tax-xogħol partikolari, minħabba outsourcing, minħabba wkoll numru ta’ realtajiet oħrajn. Huma kkreaw ukoll numru ta’ għodod ġodda kif jispijjaw fuq il-ħaddiema tagħna, jispijjaw fuq il-ħajja personali tagħhom, l-użu li jagħmlu min numru ta’ pjattaformi diġitali, u dan qed joħloq ukoll diversi realtajiet. Realtajiet relatati wkoll ma’ prattiċi abbużivi illi ħafna drabi jkunu qegħdin iseħħu mingħajr ma l-ħaddiema jkunu jafu; dan mingħajr l-ebda standard morali, mingħajr l-ebda standard etiku.

Il-kumpaniji u dawn l-għodod diġitali wkoll qegħdin jikkontrollaw ukoll il-mod kif il-ħaddiema jaħdmu wkoll u dan qed isir ukoll fuq livell Ewropew. U għalhekk huwa importanti, huwa fundamentali li naraw li l-AI tintuża b’mod li fl-aħħar mill-aħħar tkun imdawra wkoll mad-drittijiet fundamentali tal-bnedmin tagħna, tkun iktar human centric, u għalhekk jiena nemmen li dan ir-rapport huwa pass fid-direzzjoni t-tajba sabiex isejjaħ għal att leġiżlattiv fuq livell Ewropew biex jikkontrolla dawn ir-realtajiet li qegħdin jaffettwaw ukoll lid-dinja tax-xogħol tagħna. Għalhekk huwa importanti li dawn ir-realtajiet fl-aħħar mill-aħħar nieħdu konjizzjoni tagħhom tad-dinja tax-xogħol, sabiex naraw u nassiguraw li jkollna verament bilanċ, work-life balance, u kif ukoll drittijiet oħra wkoll rispettati, fost l-oħrajn, dak tar-right to disconnect.

Għalhekk huwa importanti li naġixxu llum qabel għada u nemmen li dan huwa pass fid-direzzjoni t-tajba illi għandu jwassalna wkoll għall-att dwar l-Intelliġenza Artifiċjali. Grazzi ħafna.

  Susana Solís Pérez (Renew). – Señora presidenta, querida vicepresidenta Vestager, compañeros, corremos el riesgo de que los valores europeos sean reemplazados globalmente, nuestras empresas queden marginadas y nuestros estándares de vida se vean drásticamente reducidos. Estas, como saben, no son mis palabras, sino las que recoge el informe que aprobamos hoy tras meses de trabajo en la Comisión Especial sobre Inteligencia Artificial.

Luchar por el liderazgo tecnológico de la Unión Europea no es una opción. No solo porque de ello depende nuestra competitividad, sino porque no podemos correr el riesgo de que otros que no comparten nuestros valores acaben imponiéndonos las normas. Europa es valiente y está marcando los estándares globales de la inteligencia artificial: ética confiable, al servicio de los ciudadanos y centrada en nuestros valores democráticos.

El reto lo tendremos en no sobrerregular, en evitar duplicidades y en un sistema de gobernanza que evite un mercado fragmentado con veintisiete interpretaciones diferentes. Nuestras empresas, especialmente las pequeñas, necesitan un mercado único, sin burocracia, que les permita innovar y crecer en Europa.

Dicho esto, el informe que hoy aprobamos es más que un toque de atención. Es una hoja de ruta con propuestas claras que deben acompañar la legislación si queremos competir por el liderazgo. Hablo, por ejemplo, de la creación de una bolsa de valores parecida al Nasdaq, que ayuda a que nuestras empresas digitales puedan financiarse rápidamente con capital europeo. Hablo de aumentar las inversiones públicas y privadas para alcanzar al menos los 20 000 millones de euros anuales. Hablo de invertir en formación para reducir la escasez de personal cualificado, pero también para que los trabajadores sepan integrar la tecnología en su día a día y librarles de trabajos repetitivos que puedan hacer las máquinas. Y, sobre todo, hablo de un espacio europeo de datos interoperables que nos libere de dependencias extranjeras.

Urge recuperar el tiempo perdido para asegurar que los enormes avances de la inteligencia artificial benefician a toda la sociedad. Y hoy damos un gran paso.

  Angelika Niebler (PPE). – Frau Präsidentin, Frau Vizepräsidentin der Europäischen Kommission, liebe Kolleginnen, liebe Kollegen! Künstliche Intelligenz kann eine große Bereicherung für unsere Gesellschaft und für unsere Wirtschaft sein.

Heute stellen wir ja schon fest, dass künstliche Intelligenz im Alltag ganz vielfältig im Einsatz ist: Bei Musikstreaming -Plattformen beispielsweise wird künstliche Intelligenz eingesetzt, bei Onlinesprachübersetzern ist künstliche Intelligenz im Einsatz. Allein wenn Sie in die Medizin schauen: Welche Fortschritte gibt es im diagnostischen Bereich durch den Einsatz von künstlicher Intelligenz und Big Data! Bilddaten werden ausgewertet, Krankheitsmuster werden frühzeitiger erkannt. Auch für den Klimaschutz gibt es eine Vielzahl von Möglichkeiten, Geodaten zu nutzen. Die Landwirtschaft kann mithilfe von KI-Systemen hier gezielter arbeiten, und auch im Haushalt: Was es da an Effizienzsteigerungen geben kann – ungemein.

Es ist ganz, ganz wichtig, dass wir uns mit dem Thema „Künstliche Intelligenz“ beschäftigen. Künstliche Intelligenz ist die Zukunft und hat ein riesengroßes Potenzial. Aber: Wo es Chancen gibt, gibt es meist auch große Risiken. Ich sage immer: Fluch und Segen zugleich. Das Thema „Social Scoring“ ist beispielsweise angesprochen worden, die Angst davor, dass doch auch mithilfe von KI-Systemen hier flächendeckende Überwachungen durchgeführt werden, sei es im Arbeitsbereich oder sonstwo. Deshalb, glaube ich, müssen wir uns gut überlegen, wie wir hier Regulatorik auch künftig gestalten.

Ich denke, für uns als Europäer ist es wichtig, dass bei allem, was wir in Sachen Regulierung jetzt überlegen – und die Vorschläge liegen ja auf dem Tisch –, die digitalen Technologien immer dem Menschen dienen müssen. Also der Mensch muss bei uns bei der Frage, wie hier reguliert wird, im Mittelpunkt stehen. Das ist das Allerwichtigste, damit wir Diskriminierung und anderes verhindern.

Ich möchte dem Kollegen Axel Voss für seinen großartigen Bericht danken und allen Kolleginnen und Kollegen, die in diesem Sonderausschuss wirklich über viele Monate sich mit den vielfältigsten Fragen in Sachen KI-Einsatz beschäftigt haben. Und ich freue mich jetzt auch auf die weiteren Diskussionen und Debatten, wenn es dann um die konkreten Regulierungsvorschläge geht.

Ich glaube, wir Europäer können hier wirklich eine weitere Duftmarke setzen und in diesem digitalen Umfeld hier doch eine Regulierung schaffen, die am Ende des Tages unseren Bürgerinnen und Bürgern in ganz Europa dient.

  Christel Schaldemose (S&D). – Fru formand! Kolleger, kommissær! Hvad ser I for jer, når I hører begrebet kunstig intelligens? Robotter, der overtager verden? En dystopi af orwellske dimensioner? Eller måske en app, der kan diagnosticere hudkræft ligeså nøjagtigt som eksperter? Eller maskinen Bluedot, der forudså covid-19-pandemien, før WHO gjorde det? Kunstig intelligens har, ligesom alt andet, mindst to sider. Hvis det bruges ansvarligt, kan det komme os alle til gavn. Men hvis det misbruges, kan det få katastrofale konsekvenser. Derfor er det vigtigt, at vi i EU bliver førende, når det gælder udviklingen af kunstig intelligens, for vi har en helt unik tilgang til teknologisk udvikling. Vi har mennesket i centrum og insisterer på, at teknologi skal være pålidelig. Det går hånd i hånd med høj innovation, økonomisk vækst og større konkurrenceevne.

Men lige nu er det altså USA og Kina, som har taget førertrøjen, og hvis ikke vi indhenter dem, så bliver det dem, der kommer til at sætte standarden for, hvordan kunstig intelligens skal være og skal bruges. Sådan skal det ikke være! Der er virkelig brug for, at det er EU, der gør det. De udfordringer, der er med kunstig intelligens i dag, må ikke gøres til maskinstormere. De må ikke blive en undskyldning for at være imod fremskridt og imod teknologisk udvikling. Det afgørende er, at vi stiller nogle krav til den kunstige intelligens. Den skal udvikles og bruges på en gennemsigtig, på en etisk og på en ansvarlig måde. Det er det, der er den europæiske vej. Her har vi mulighed for at tage førertrøjen tilbage.

Jeg syntes, at AIDA-betænkningen er rigtig god, fordi den netop finder denne balance. Vi øger investeringerne i kunstig intelligens, vi sørger for, at den europæiske lovgivning harmoniseres, og vi adresserer de risici, der helt naturligt er ved brugen af kunstig intelligens. Jeg håber, vi i fremtiden kan bruge kunstig intelligens mere i Europa. Men det forudsætter, at den er menneskecentreret, og at vi har en lovgivning, som sikrer pålidelighed i den måde, vi bruger kunstig intelligens på. Med det hilser jeg betænkningen hjertelig velkommen.

  Pilar del Castillo Vera (PPE). – Señora presidenta, señora vicepresidenta, enhorabuena al ponente Axel Voss y a los ponentes alternativos y también al presidente, que ha desempeñado un papel fundamental en el desarrollo de esta Comisión Especial.

La inteligencia artificial se ha convertido en un motor clave para cualquier economía que quiera ser competitiva globalmente y, por lo tanto, tiene una importancia estratégica decisiva. Su impacto es económico y también social y, desde luego, geopolítico. Por eso, este informe que debatimos hoy nos ofrece una visión omnicomprensiva sobre el potencial, las necesidades y los riesgos que plantea la inteligencia artificial. Analiza aspectos centrales para su desarrollo, los principios éticos y, en especial, la centralidad que deben tener las personas, la necesidad de aumentar nuestra inversión en I+D, la ciberseguridad, la capacidad de formar y retener el talento en Europa o el futuro del empleo.

Me voy a referir específicamente a dos condiciones que son sine qua non para su desarrollo: los datos y la infraestructura. Es fundamental eliminar la fragmentación legislativa en materia de datos y promover el acceso a esos datos en condiciones de igualdad. Unos datos seguros, unos datos fiables, unos datos que se puedan compartir. En ese sentido, hemos aprobado recientemente el Reglamento relativo a la gobernanza europea de datos y en ese sentido empezamos a discutir ahora también la Ley de Datos, cuyo foco está en la internet de las cosas y los datos industriales. Pero, además, debemos poner fin a nuestras carencias en infraestructuras digitales en la Unión Europea. Seguimos dependiendo no solo en materia de procesadores de terceros países, sino que, además, el mercado de la infraestructura en nube está en manos de cinco proveedores no europeos.

En fin, el desarrollo de la inteligencia artificial en Europa va a tener un gran impacto en la capacidad competitiva de nuestra economía y en el progreso de la sociedad en todos los ámbitos: educación, sanidad, transportes, energía, etc. Es una oportunidad que debemos aprovechar bien y tenemos en ello, en la Unión Europea, una enorme responsabilidad.

  Maria-Manuel Leitão-Marques (S&D). – Senhora Presidente, no mundo só cerca de 22 % dos profissionais de inteligência artificial são mulheres. Infelizmente, esta desigualdade de género reflete-se também aqui no Parlamento Europeu. Todos os responsáveis por este relatório dos vários grupos políticos foram homens. Deve ser muito importante...

Existem, contudo, várias mulheres interessadas neste tema, como se vê até neste debate, que submeteram alterações e, felizmente, na sua versão final, o relatório reconhece a importância de adotar uma perspetiva de género quando falamos de inteligência artificial.

Temos que evitar que os dados na base dos quais se constroem os algoritmos sejam enviesados e discriminatórios. Mas a inteligência artificial também pode ser usada para combater esta discriminação. Por exemplo, a inteligência artificial permite tornar os processos de recrutamento mais objetivos, baseando as decisões em critérios pré—definidos e reduzindo o espaço para análises subjetivas que, muitas vezes, discriminam mulheres jovens pelo risco de virem a engravidar.

Temos que investir na requalificação e na melhoria das competências, colocando ênfase nos grupos sub-representados, como são as mulheres. A forma como usamos a inteligência artificial tem que ser baseada em valores democráticos e assegurar que homens e mulheres beneficiam igualmente desta tecnologia.

  Radosław Sikorski (PPE). – Pani Marszałek, Wysoka Izbo. Sztuczna inteligencja to wspaniały wynalazek, ale – jak każdy wynalazek – może służyć dobru lub złu. Może służyć wykrywaniu raka albo inwigilacji, bezpieczniejszej jeździe samochodem albo autonomicznemu zabijaniu, także przy pomocy broni masowego rażenia. Może poszerzać naszą wiedzę albo tworzyć deepfake’i i manipulować całymi społeczeństwami.

Jako Unia nie jesteśmy liderem tej technologii, ale liderzy nie zawsze robią to dobrze. Rosja na przykład przy pomocy botów stworzyła czy wspierała ruch antyszczepionkowy podczas ostatniej pandemii. W Chinach system jest tak zaawansowany, że można dostawać punkty społeczne za płacenie rachunków w terminie, przechodzenie przez jezdnię na pasach. Całe życie może być regulowane przy pomocy takich punktów jak u nas w Europie punkty za jazdę samochodem. Koszmar. W Stanach Zjednoczonych z kolei te technologie są własnością wielkich korporacji, które uzyskują niebotyczne zyski i mają taki wpływ na Kongres Stanów Zjednoczonych, że sensowna regulacja jest prawie niemożliwa.

A więc to my w tej izbie jesteśmy jedyną nadzieją ludzkości na sensowną regulację tej technologii, na zrównoważenie interesów przemysłu z ludzką potrzebą życia w prywatności, odpowiedzialności za słowo i po prostu życia w cywilizowanym społeczeństwie. Potrzebujemy więcej inwestycji w tę technologię, ale także lepszych regulacji. I dlatego chciałbym pogratulować autorom naszego sprawozdania.

  Ernő Schaller-Baross (NI). – Madam President, the report of the AIDA Special Committee set out the direction of the EU’s approach to artificial intelligence. On an unparalleled scale, Europe can establish its own leadership in the area of AI by creating a regulatory environment that gives both private and business users the most appropriate and complete rights and the widest possible protection. This report can be – and confidentially will be – used as a compass during the AI-related process ahead.

Faced with the rapid technological development of AI and a global policy context where more and more countries are investing heavily in AI, the EU must act to harness the many opportunities and address the challenges of AI in a future-proof manner. We have to set the appropriate standards – neither more nor less than is necessary to achieve our goals. We can pave the way to ethical technology worldwide and ensure that the EU remains competitive all along the way.

On artificial intelligence, trust is not an option but a must. That is what human-centred artificial intelligence is all about. The primary purpose of the development and the use of algorithms, sensors and robots is not to produce technology or create scientific knowledge, but to support the quality of human life, the preservation of health and the organisation of social relations. AI should be used at the service of people, families and businesses, and not the other way around.

I would like to thank Mr Axel Voss for his excellent work and congratulate him on this very good report.

Spontane Wortmeldungen

  Eugen Tomac (PPE). – Doamnă președintă, vreau și eu să felicit raportorul. Cred că este un subiect extrem de important, în primul rând pentru că avansul tehnologic ne-a oferit o nouă lume digitală care ne-a transformat fundamental viața. Și, odată cu această transformare, s-au creat oportunități extraordinare care trebuie să servească în primul rând oamenilor, cetățenii noștri. Însă, în același timp, trebuie să privim și către riscuri și tocmai de aceea cred că regulile pe care le pregătim trebuie să fie extrem de clare, astfel încât ele să inspire încredere. Și, aici, este rolul Comisiei să aibă grijă astfel încât investițiile în inteligență artificială să fie consistente, astfel încât să putem recupera distanța care există între noi și celelalte state, pentru că doar așa putem redeveni și ocupa locul pe care îl merităm pe glob.

  Karlo Ressler (PPE). – Poštovana predsjedavajuća, poštovana povjerenice, kolegice i kolege, umjetna inteligencija već danas nas okružuje čak i više nego što smo toga svjesni, u mnogim svakodnevnim aplikacijama, primjenama i uslugama, od društvenih mreža i internetskih tražilica pa do medicinske dijagnostike ili pametnog transporta.

U svakom slučaju, umjetna inteligencija već je danas središnja tehnologija nove digitalne ere koja ima potencijal promijeniti i transformirati naša društva iz temelja. Jasno je, isto tako, da njezina široka primjena ne dolazi bez opasnosti. O zaštiti temeljnih prava građana mnogo smo slušali i čuli i danas u ovoj debati te je potpuno jasno da od novih tehnologija moramo očekivati da poštuju prije svega ljudsko dostojanstvo i da poštuju sve one demokratske europske vrijednosti u koje vjerujemo.

Istodobno, naš razvoj ovisi o sposobnosti prilagođavanja novim, često i okrutnim vremenima, okrutnom vremenu u kojem živimo. Zato trebamo pristup koji potiče na usvajanje, koji potiče na europsku konkurentnost i na brže i bolje usvajanje novih tehnologija. Novim generacijama dužni smo ponuditi upravo to, da u Europi bude moguće kvalitetno, dobro živjeti. To nije moguće bez primjene novih tehnologija, to nije moguće bez primjene umjetne inteligencije. Istodobno, dužni smo im i odgovornost u upravljanju našim društvom i upravljanju budućnošću.

Zato, u svakom slučaju podržavamo pravu, učinkovitu, bolju, kvalitetniju primjenu umjetne inteligencije, ali uz sve one osigurače koji će osigurati da čovjek ostane u središtu njezine primjene i da imamo jedan normalni, europski, uravnoteženi pristup između onih ekstrema koje nažalost vidimo kada promatramo globalnu situaciju.

  Juan Fernando López Aguilar (S&D). – Señora presidenta, después de un año y medio de trabajos, la Comisión Especial sobre Inteligencia Artificial concluye con este documento que hoy examina el Parlamento Europeo y que impacta a todas las materias y bases jurídicas sobre las que legisla el Parlamento Europeo de contenido relativo a la industria, la energía, el comercio y, por supuesto, el empleo.

Este documento también debe respetar el estándar europeo de protección de los derechos fundamentales, que resulta ser el más alto del mundo, establecido no solamente en el Reglamento de protección de datos, sino también en la Directiva dirigida a las agencias que investigan los delitos, las agencias de law enforcement. Ese estándar tiene que estar muy presente en la legislación, que debe colocar a la Unión Europea a la cabeza de la referencia en normativa sobre inteligencia artificial.

Cuando hablamos de predictive policing tenemos que saber que impacta sobre la presunción de inocencia. Cuando hablamos de reconocimiento biométrico tenemos que saber que impacta sobre el principio de no discriminación consagrado por la Carta de Derechos Fundamentales de la Unión Europea. Y cuando hablamos de contenido potencialmente tan abrasivo sobre los derechos fundamentales como el que tiene que ver con el manejo de los datos personales, el estándar europeo de protección de datos tiene que ser respetado.

Por tanto, ese es el compromiso: colocar a la Unión Europea en la cabeza de la legislación sobre inteligencia artificial, pero no ceder en ningún caso a los cantos de sirenas que pretenden que esto estaría en contradicción con el mantenimiento del estándar europeo de protección de datos personales y de respeto a los derechos fundamentales.

Por tanto, enhorabuena, sí, a los ponentes. Pero, sobre todo, alerta ante la legislación europea sobre inteligencia artificial para que mantenga el respeto a los derechos fundamentales protegidos por la Carta.

  Clare Daly (The Left). – Madam President, I think there’s no doubt about it that AI has the potential to positively transform the situation for humankind. We see this particularly in the fields of medicine and scientific research, but if maintained in the hands of private companies for private profit, then that societal gain is very much limited. These are the circumstances which give rise to the undermining of workers’ rights outlined by colleagues or the massive invasion of privacy which we have already experienced.

I think we have to proceed with caution. The report, in fairness, I think, is very unhelpfully dramatic in its tone. I mean, to label the tech race as the fight for the survival of the EU and its battles against China, to be honest I think undermines it. Human survival is not at risk in Europe. Calling AI the fifth element after water, earth, fire and air actually delegitimises the report a little bit, in my opinion. I think we could have put a lot more stronger message if we dealt more with the environmental impact of the uncontrolled and unlimited development of AI, which it has on raw materials, and which does impact on our fight for survival.

I think one of the key weaknesses is the area of dealing with the threat of emerging great powers, so-called, such as China and Russia, where there’s supposedly little oversight for the deployment of lethal offensive weaponry. The response of the report to that is to hand it over to NATO, to align more closely with NATO and to have NATO execute counter strikes against those performing cyberattacks – so, if you like, an eye for an eye ... and suddenly the world is blind.

In this report there should be a very strong call for no place for AI in autonomous weapons, a very strong guarding influence in terms of facial recognition, and so on. We live in a global world and these issues should be dealt with multilaterally in the global field, and not geo—politicised.

  Sandra Pereira (The Left). – Senhora Presidente, a inteligência artificial, como representação dos avanços tecnológicos e científicos a que assistimos, deve ser posta ao serviço da melhoria das condições de vida dos trabalhadores e dos povos. Deve estar ao serviço da paz, do desenvolvimento, da criação de riqueza e de bem-estar.

Mas não é isto que este relatório defende. Pelo contrário, põe o foco no sacrossanto mercado com o objetivo de colocar estes avanços ao serviço do lucro de uns poucos, com o aumento da exploração e da deterioração das condições de vida e de trabalho de muitos outros. Coloca os desenvolvimentos da ciência ao serviço do militarismo e da guerra e não da paz.

Afastamo-nos desta visão mercantilista e belicista e defendemos que os avanços na inteligência artificial devem promover, nomeadamente, a redução do horário de trabalho sem perda de rendimento, a diminuição da penosidade no trabalho e devem ser direcionados para sectores primordiais, como os da saúde.

Consideramos que a inteligência artificial deve contribuir para o progresso social e não ser o motor e o álibi para mais exploração e para retrocessos sociais e laborais.

(Ende der spontanen Wortmeldungen)

  Margrethe Vestager, Executive Vice-President of the Commission. – Madam President, thank you very, very much for this very rich and interesting debate.

As, I think, many of you have mentioned, with this work the European Union is pioneering: we are the first to take this endeavour upon us, to make this comprehensive legislative framework and to promote trust in a very promising technology. But the thing is that promoting trustworthy AI is a global endeavour. It is not something that can be done in Europe alone. This is why we must complement our legislative work with an ambitious external agenda everywhere we go. We need to influence global standards so that they reflect democratic values – because fighting for that is also fighting for democracy as such.

This is what we have done in several international forums, such as the OECD and UNESCO, and what we are now taking forward bilaterally with our like—minded partners, such as through the EU—US Trade and Technology Council. There is one thing I think very characteristic for the debate today, and it is that Dragoş Tudorache was very right in his first takeaway from the work of the AIDA Committee. AI is not about technology; AI is politics. The way we deal with technology reflects how we want our societies to develop.

So it has indeed been a pleasure to be part of this, I think, very passionate, debate – a debate about how we would want to create societies that are inclusive, where people feel seen and heard and counted in, where we can live with the freedom of not being discriminated against or not being under surveillance by machines, in our lives, in our workplaces.

I think this is a very promising starting point for the next chapter of our legislative procedure, but also for Europe assessing itself in these global endeavours to be the creators of a human—centric, trustworthy, artificial intelligence. And, in that, I feel very encouraged with the debate today, so thank you very much.

  Axel Voss, Berichterstatter. – Frau Präsidentin, liebe Frau Vizepräsidentin Vestager! Im Grunde, glaube ich, merken wir alle eins: Wir wollen nicht in Schönheit hier sterben. Werte sind wichtig, aber sie müssen ausbalanciert werden zu den Neuerungen auch einer Technologie, und das ist das, worauf es ankommt. Wir wollen eigentlich für den digitalen Bereich nur noch Verordnungen sehen, hier vorgeschlagen von der Kommission. Wir brauchen den besseren Zugang zu Daten, und damit meine ich auch personenbezogene Daten, weil nicht jede künstliche Intelligenz ohne personenbezogene Daten auskommen wird.

Wir brauchen den einheitlichen Binnenmarkt – also viele Hausaufgaben, die wir Ihnen mitgeben. Wir brauchen die stärkere, robuste digitale Infrastruktur, was Sie erwähnt hatten, das Ökosystem der Exzellenz, das Ökosystem des Vertrauens, eine KI—Industriestrategie mit den nachhaltigen Investitionen, aber auch klare Regelungen für KI im Bereich von Sicherheit und stärkerer Kooperation, auch Cybersicherheit etc.

Wir brauchen natürlich aber auch den unbedingten Willen, digital als Europa, als Europäische Union überleben zu wollen und damit auch führend werden zu wollen. Wir brauchen eine Strategie, einen Plan, Konzeption und deren Umsetzung. Wir brauchen viel Geld, Talente, die Cybersicherheit, die Bündelung unserer Kräfte in Europa, damit wir auch zu einer Größe gelangen, europäische Projekte und am Ende natürlich Rechtssicherheit.

Eine Aneinanderreihung von Rechtsakten, die jeder für sich genommen richtig sind, aber das macht aus meiner Sicht noch keinen Plan, noch keine Strategie für die Zukunft, für die Wettbewerbssituation, der wir ausgesetzt sind. Wir brauchen die Aufbruchsstimmung unserer Gesellschaft, und dazu brauchen wir politische Führung, die auch auf Ihren Schultern ruht. Und wir brauchen aber auch Mitgliedstaaten, die ihre Gesamtverantwortung auch endlich einmal wahrnehmen.

Jedenfalls: Ich bedanke mich noch einmal recht herzlich bei allen Beteiligten, die dies ermöglicht haben, und hoffe, dass nachher die Abstimmung auch entsprechend das signalisiert, was wir alles wollen und was wir Ihnen mitgeben, sozusagen zur Umsetzung.

  Die Präsidentin. – Die Aussprache ist geschlossen.

Die Abstimmung findet am Dienstag, 3. Mai 2022, statt.

Schriftliche Erklärungen (Artikel 171)

  Adam Bielan (ECR), na piśmie. – Sztuczna inteligencja odgrywa coraz bardziej istotną rolę w gospodarce i w demokracji. Z rozwiązaniami opartymi na sztucznej inteligencji spotykamy się coraz częściej w naszej codziennej pracy i życiu. Zastosowanie tej technologii może w przyszłości znacznie poprawić wydajność, zwiększyć innowacje oraz napędzić wzrost gospodarczy wielu państw europejskich.

Podczas tego mandatu będziemy po raz pierwszy horyzontalnie regulować sztuczną inteligencję, a sprawozdanie posła Vossa, które jest wynikiem prac komisji specjalnej powołanej w celu rozważenia przyszłych potrzeb politycznych Unii w tej dziedzinie, to kolejny krok naprzód. Niemniej jednak chciałbym zaznaczyć, że potrzebujemy podejścia jeszcze bardziej sprzyjającego innowacjom, które uznaje rolę ochrony praw własności intelektualnej, a także podejścia eksperymentalnego, takiego jak dedykowane środowiska regulacyjne.

Jednocześnie musimy zapewnić równowagę między koniecznością wdrażania nowych technologii a realizacją polityki ochrony środowiska. Wierzę, że Zielony Ład i polityka w dziedzinie technologii powinny się wzajemnie uzupełniać. Przyjęcie z góry, że Zielony Ład powinien przeważać nad wszystkim, nie jest rozsądnym rozwiązaniem, ponieważ takie założenie zagraża przyszłości naszych gospodarek i ogólnej zdolności do osiągnięcia naszych celów, zarówno w dziedzinie technologii, jak i ekologii.

Wierzę, że w niedalekiej przyszłości będziemy w stanie wypracować takie przepisy, które będą dążyły do maksymalizacji możliwości korzystania z tej technologii, zarazem chroniąc obywateli przed związanymi z nią zagrożeniami.

  Milan Brglez (S&D), pisno. – Umetna inteligenca se razvija z izjemno hitrostjo in bo v prihodnosti vplivala na vsa področja našega življenja, zato je ključnega pomena, v katero smer bo šel razvoj te tehnologije in ne nazadnje, kdo bo delovanje in uporabo te tehnologije nadzoroval. Tako bi lahko povzeli glavno sporočilo končnega poročila Posebnega odbora Evropskega parlamenta za umetno inteligenco v digitalni dobi, ki smo ga poslanci sprejeli na majskem plenarnem zasedanju.

V poročilu so zapisana priporočila in usmeritve, ki jim bo morala Evropska unija slediti, če bo želela pri razvoju umetne inteligence dohiteti trenutno vodilni tehnološki velesili – Kitajsko in Združene države Amerike. Področij, na katerih nam lahko umetna inteligenca izboljša življenje, je ogromno; od boja proti podnebnim spremembam in hitrejših ter natančnejših diagnoz v medicini, do izboljšanja delavskih standardov ter pospešitve inovacij.

A zavedati se moramo, da razvoj novih tehnologij prinaša tudi nove nevarnosti. Avtokratski režimi umetno inteligenco že izkoriščajo za množični nadzor prebivalstva in sistemsko kratenje človekovih pravic. Zato je ključno, da bo v prihodnosti Evropska unija tista, ki bo postavljala normativni okvir na področju umetne inteligence in s tem zagotavljala, da se bo ta razvijala in uporabljala v skladu z evropskimi načeli.

  Urmas Paet (Renew), kirjalikult. – Eesmärk on luua inimkeskne tehisintellekt, mis teenib meie inimesi, austades samas nende privaatsust. Raportis julgustame kasutama rohkem tehisintellektil põhinevaid lahendusi. Tehisintellekt pakub hulgaliselt võimalusi tervishoiu, sealhulgas personaalse meditsiini edendamiseks, aitab parandada elukeskkonda ja -tingimusi (näiteks võidelda pandeemiate ja näljahädadega) ning ohjeldada kliimamuutusi. Ühtlasi aitab tehisintellekt koos vajaliku tugitaristu, hariduse ja koolitusega panustada jätkusuutlikku majanduskasvu. Euroopa Liit peab aga kiiremas korras oluliselt suurendama oma investeeringuid tehisintellekti, et püsiksime konkurentsivõimelistena.

  Edina Tóth (NI), írásban. – A digitális versenyben Európa komoly hátrányban van Kínával és az Egyesült Államokkal szemben. Szomorúan látjuk, hogy az uniós gazdaság és ipar digitalizálása továbbra sincs megfelelő szinten kezelve. A mesterséges intelligencia szabályozása terén jelenleg jelentős elmaradás tapasztalható, amelyet hatékonyabb és célzottabb uniós beruházásokkal kellene orvosolni e technológia előnyeinek teljes mértékű kihasználása érdekében. A globális versenyhátrány leküzdésének egyedüli kulcsa az erős, nemzetállamokra épülő digitális unió megteremtése, amely biztosítja a tagállamok nyújtotta lehetőségek megvalósítását. Végezetül pedig nem szabad elfeledkezni polgárainkról sem: a technológia célja az emberek szolgálata kell, hogy legyen! Ezért a mesterséges intelligencia terén nem csupán szerencsés, ha megvan a bizalom, hanem egyenesen elengedhetetlen. Nekünk pedig az a feladatunk, hogy ezt biztosítsuk mindenki számára!

  Tom Vandenkendelaere (PPE), schriftelijk. – Artificiële intelligentie (AI) is geen sciencefiction meer, maar is vandaag al realiteit – ook in het dagelijks leven. AI-toepassingen bepalen welke muziek je beluistert en welke filmpjes je online te zien krijgt. Ze zorgen ervoor dat de voeding die je eet niet onnodig met pesticiden is behandeld en beslissen mee over de lening voor je droomhuis en de vaststelling van jouw kankerdiagnose.

AI heeft, met grote hoeveelheden gegevens als brandstof, sterke algoritmen en een grote rekencapaciteit, in nagenoeg elke sector het potentieel om antwoorden te bieden op de uitdagingen waarvoor we ons vandaag de dag gesteld zien: op sociale media, in de landbouw, bij de verlening van financiële diensten, in de gezondheidszorg en voor politie en justitie.

Uiteraard moeten we ons bewust zijn van de mogelijke neveneffecten. We kunnen niet blind vertrouwen op een algoritme dat onvoldoende kan worden uitgelegd, waarop geen toezicht kan worden gehouden en dat gevoed wordt met uiterst gebrekkige of duidelijk foute gegevens en mogelijk tot discriminatie kan leiden. AI zal pas slagen met een evenwichtig rechtskader dat AI-systemen toelaat zich te ontwikkelen en te verfijnen met behulp van grote hoeveelheden gegevens en tegelijkertijd voorziet in waarborgen die ons in staat stellen om te gaan met de mogelijke negatieve neveneffecten.

(Die Sitzung wird um 11.16 Uhr unterbrochen)

PRESIDENZA: ROBERTA METSOLA
President