Resoconto integrale delle discussioni

Lunedì 19 ottobre 2020 - Bruxelles

15. Legge sui servizi digitali: migliorare il funzionamento del mercato unico - Legge sui servizi digitali: adeguare le norme di diritto commerciale e civile per i soggetti commerciali che operano online - Atto sui servizi digitali e questioni sollevate in materia di diritti fondamentali - Quadro relativo agli aspetti etici dell'intelligenza artificiale, della robotica e delle tecnologie correlate - Regime di responsabilità civile per l'intelligenza artificiale - Diritti di proprietà intellettuale per lo sviluppo di tecnologie di intelligenza artificiale (discussione)

  Elnök asszony. – Jó napot kívánok, sok szeretettel üdvözlöm önöket a mai vitán. A következő napirendi pont a digitális szolgáltatásokról és a mesterséges intelligenciáról szóló közös vita. A hét jelentés Agius Saliba, Wölken, Peeters, García Del Blanco, Voss és Séjourné rapportőrök, jelentéstevőknek a riportja. Először szeretném megadni a szót Agius Salibának, a jelentés egyik előadójának. Öné a szó, képviselő úr.

  Alex Agius Saliba, rapporteur. – Madam President, first of all, may I remark that it is very symbolic today that the first discussion being undertaken by this Parliament by digital means, to give access to all our Members to participate, will be held on the Digital Services Act (DSA).

After months of negotiations, more than 1 000 amendments in the Committee on the Internal Market and Consumer Protection (IMCO) and a lot of hard work, this Committee agreed on a progressive and robust report on the Digital Services Act.

First of all, I would like to thank all the shadow rapporteurs working with me on the IMCO report for their transparency and also for their cooperation. I do not think that we would have been able to achieve this tangible positive result without all the support, which I hope you can confirm in tomorrow’s vote in the same way that you did during the negotiations and the vote in the Committee on the Internal Market and Consumer Affairs.

Today we are discussing all three DSA reports. Despite the fact that they are interlinked, they all have different scopes. The IMCO report is the one that deals with the comprehensive revision of the 20-year-old e-Commerce Directive and the first—ever internal market ex—ante instrument in the digital sector. The e—Commerce Directive is one of the most essential pieces of Union legislation and the foundation of the digital single market as we know it today. Digital transformation has profoundly changed the functioning of the global economy and of our societies, which requires an update to improve the situation in several areas. The Digital Services Act will be this first update to the legal framework on online services after 20 years. The report therefore sets the internal market and consumer protection priorities on how digital services, including online platforms and marketplaces, should be – and must be – regulated in the future.

The Committee recommendations touch upon a range of issues. However, some of the fundamental points and measures that the Commission must, and should, introduce in the DSA are as follows. First of all, introduce the principle that what is illegal offline should also be illegal online, together with consumer protection and also user—safety principles. The second point is to extend the scope of the DSA to companies established outside Europe, mainly the ones targeting our European market, our European consumers and our European citizens. The third point is that the online harmful business models’ manipulation and discriminatory practices, designed to maximise user attention dedicated to the platform based on illegal or sensationalist content, must be addressed through privacy and accountability measures such as the ‘Know Your Business Customer’ principle. The ‘Know Your Business Customer’ is a new obligation on platforms to check and stop fraudulent companies from using their services. Such a measure would reduce the number of illegitimate traders and illegal activities online.

The Commission must promote transparent advertising practices that do not track our consumers and users through the Net. To this end, the DSA should include stricter measures on harmful advertising practices, digital nudging, microtargeting, recommended systems for advertisement, and also preferential treatment.

Another essential element in my report is targeted measures on online marketplaces and here we have dedicated a whole chapter in our report targeting online marketplaces such as Amazon and Alibaba. Consumers should be equally safe when shopping online or in stores and the Commission must, and should, address and reinforce liability for online marketplaces.

The report also deals with the e-Commerce Directive’s fundamental parts, dealing with the liability regime when removing illegal content online. Finally, we are also proposing, for the first time in the digital sector, ex—ante rules to tackle the digital players’ uncompetitive practice. The Commission must, and should, introduce this as a separate instrument from competition policy.

I would like to conclude by saying that I am hopeful that we can get your support for the IMCO report in tomorrow’s vote and that this institution will send a strong message to the Commission on the measures to be included in the DSA.

  Tiemo Wölken, Berichterstatter. – Frau Präsidentin! Sehr geehrte Frau Kommissarin, in den letzten Wochen war die Dokumentation „The social dilemma“ durchgehend in den Top Ten der meistgesehenen Filme auf Netflix. Die Botschaft des Films oder der Dokumentation ist angsteinflößend und sehr eindringlich zugleich.

Soziale Medienplattformen sind längst kein simples Kommunikationsinstrument mehr, sondern riesige Profitmaschinen, die den öffentlichen Diskurs maßgeblich mit beeinflussen. Das tun sie, indem sie nicht nur darüber entscheiden, welche Informationen wir angezeigt bekommen, sondern auch darüber entscheiden, welche Inhalte überhaupt angezeigt werden dürfen und welche nicht – leider oft auch im Widerspruch zum Recht. Ich will aber gerade nicht, dass die Meinungsfreiheit der Nutzerinnen und Nutzer in Europa in den Händen von privaten Unternehmen liegt, die sich als Hilfssheriffs aufführen und Entscheidungen treffen, die eigentlich nur Gerichte treffen dürfen.

Wenn wir sagen, dass das Recht online genauso wie offline gelten soll, dann muss Schluss sein mit Eingriffen in die Meinungsfreiheit durch overblocking und willkürliche Löschung durch Plattformen. Deswegen schlägt der JURI—Bericht vor, klare Verfahrensregeln für das Notice—and—Action—System im Umgang mit illegalen Inhalten festzulegen. Das ist wichtig, weil es Rechtssicherheit schafft einerseits für die Plattformen, aber eben auch Rechtssicherheit schafft für Nutzerinnen und Nutzer und deren Grundrechte respektiert.

Außerdem fordert unser Bericht eine starke europäische Aufsichtsbehörde, die auf die Einhaltung der Regeln achten kann und vor allem die nötigen Durchsetzungsbefugnisse hat, um die gebotene Transparenz sicherzustellen. Eine Online-Plattform darf keine Blackbox sein. Ihr Handeln muss transparent, begründet und nachvollziehbar sein, insbesondere wenn sie so wichtige Entscheidungen über die Meinungsfreiheit der Nutzerinnen und Nutzer trifft.

Und das führt mich dann zu einem Punkt, auf den ich besonders stolz bin in unserem Bericht, dass wir vorgeschlagen haben, dass wir ein System installieren, das ohne Vorabkontrolle hochgeladener Inhalte auskommt. Tatsächlich schreiben wir der Kommission ausdrücklich vor, dass der Digital Services Act Plattformen nicht dazu anhalten darf, Uploadfilter einzusetzen. Auch der freiwillige Einsatz technischer Hilfsmittel durch Plattformen darf nicht dazu führen, dass Inhalte zum Zeitpunkt des Uploads gescannt und geblockt werden. Und ich glaube, das ist ein riesiger Erfolg nach der Debatte im letzten Jahr und ein Schritt zu einem Internet ohne weitere Uploadfilter.

Daneben gibt es Inhalte, die zwar legal sind, aber trotzdem großen gesellschaftlichen Schaden anrichten können. Für solche Inhalte wie fake news, Desinformationen, Hassrede und Propaganda können nicht die gleichen Regeln gelten wie im Umgang mit illegalen Inhalten, da solche Inhalte zwar oftmals unter der Geschmacksgrenze liegen, aber eben von der Meinungsfreiheit geschützt sind. Und das Problem, das wir mit solchen Inhalten haben, ist also nicht so sehr, dass es sie überhaupt gibt, sondern dass sie sich wie ein Lauffeuer durch das Internet verbreiten und von Plattformen bevorzugt in die Timelines der Nutzerinnen und Nutzer gespült werden, weil Algorithmen glauben, dass Aufmerksamkeit haschende Inhalte wichtiger sind als demokratische Auseinandersetzung zum Beispiel. Somit können Plattformen ihren eigentlichen Kunden – das sind nicht wir als Nutzerinnen und Nutzer, sondern die Werbetreibenden – eine besonders effektive Unterbreitung von gezielter personalisierter Werbung versprechen.

Wenn aber Algorithmen die menschliche Neugierde für Aufmerksamkeit erregende Inhalte aus Profitgründen ausnutzen und fake news, Hass und Hetze das Geschenkpapier dafür sind, in dem online personalisierte Werbung verpackt wird, dann müssen wir als Gesetzgeber einschreiten und gegen dieses Geschäftsmodell vorgehen. Deswegen fordern wir in dem Bericht, dass die user mehr Kontrolle über ihre Inhalte bekommen. Sie müssen entscheiden, welche Inhalte ihnen angezeigt werden, und sie müssen entscheiden, ob sie überhaupt gezielte Online-Werbung angezeigt bekommen wollen.

Wir dürfen nicht zulassen, dass user Algorithmen ausgeliefert sind, die unsere gemeinsame gesellschaftliche Informationsbasis erodieren und unsere Demokratie gefährden. Wenn das der Preis dafür sein soll, dass Unternehmen aus dem Silicon Valley mehr Profite mit personalisierter Werbung machen können, dann ist dieser Preis eindeutig zu hoch, und dieses Geschäftsmodell hat in unserem digitalen Binnenmarkt nichts zu suchen. Deswegen werbe ich ausdrücklich dafür, bei der morgigen Abstimmung trotz des beantragten split vote zur Werbung eindeutig beim Text des Rechtsausschusses zu bleiben. Der split vote zu Ziffer siebzehn will nämlich den Schutz vor eben diesen schädlichen Geschäftspraktiken untergraben – und für uns ist klar, dass das nicht kommen darf, die Geschäftsinteressen der Werbeindustrie dürfen nicht vor den Interessen der Bürgerinnen und Bürger stehen.

Wir sind zwar – liebe Kolleginnen und Kollegen – in der Europäischen Union noch keine Spitzenreiter, was die Entwicklung von KI angeht, aber mit der Diskussion, die wir hier heute führen, sind wir sowohl China als auch dem Silicon Valley einen großen Schritt voraus. In Europa haben künstliche Intelligenz und digitale Dienste unseren Grundsätzen, unseren Werten und unseren Grundrechten zu folgen und nicht andersherum.

  Kris Peeters, rapporteur. – Madam President, online services are everywhere, from the way we inform ourselves to the way we keep in touch with friends; from the way we buy books and clothes to the way we travel; from the way we eat to the way we make a date. Some people born in a different time, like myself, might want to go back to how it was before, because it seems like a simpler time. But we can’t. We simply cannot put the genie back into the bottle. The online world with digital services, with artificial intelligence – it’s all here to stay. The future will be more digital, not less, and it brings incredible progress that we, as policymakers, should embrace. But... it also brings dangers that we cannot ignore anymore.

Let us be honest with each other, colleagues. The EU has done more to regulate the online world than any other continent. Yet, even here, it is still the Wild West! Over the past decades, we have not followed up on illegal content and illegal activities online with the same rigour as we have illegal activities offline. We have not achieved any meaningful transparency over how algorithms push content to users on a massive scale. We have not grasped the impact of it on our democracies, our culture and our fundamental rights. Instead, we have focused on voluntary cooperation, which is good, but not good enough. Not nearly good enough.

So as this European Parliament discusses these six reports on the Digital Services Act (DSA) and artificial intelligence (AI), I have one overarching message: these digital files matter a great deal more than many people think. We cannot leave this to the private sector without oversight and enforcement. We must keep this in the public debate as a priority and we must regulate, no matter how technical these files are. The difficult challenge before us is to find the balance between digital progress and respect for fundamental rights.

As rapporteur for the Committee on Civil Liberties, Justice and Home Affairs (LIBE) DSA report, I’m raising a few issues right now. The value of lawmaking is the real change it effects. If we start off with conflicting regulations and directives that undermine each other instead of complementing each other, we have lost the battle before it starts. We must respect the scope of each digital file.

Secondly, the fundamentals of the e-commerce Directive were great, but its greatest issue was transparency. We must improve and enforce meaningful transparency, and I call for a clear mandate from this Parliament.

Thirdly, we all agree on the importance of notice and action mechanisms to remove illegal content online, but it places the burden almost entirely on users. We therefore should complement notice and action with clear and appropriate obligations to remove illegal content, and it’s the public authorities who should provide the funding to follow up on this.

Finally, I would like of course personally to thank all the shadow rapporteurs and all my colleagues on the LIBE DSA report for their excellent cooperation.

  Marcos Ros Sempere, ponente suplente. – Señora presidenta, voy a tomar la palabra en nombre de mi compañero y ponente de este informe, Ibán García del Blanco, que no puede estar hoy aquí en el Pleno y a quien hay que agradecerle el inmenso trabajo realizado.

El marco de principios éticos aplicables a la inteligencia artificial es el primer informe de iniciativa legislativa en el paquete sobre inteligencia artificial, elaborado en el Parlamento. La posición del Parlamento Europeo que aprobaremos esta semana será sin duda alguna esencial en la futura normativa europea.

El informe es el resultado de largas y complejas negociaciones entre todos los grupos políticos, que partían de posiciones muy alejadas, y también del trabajo realizado con las siete comisiones parlamentarias que han emitido opiniones. De parte del ponente, Ibán García del Blanco, quiero agradecerles a todos su trabajo y su compromiso para lograr una normativa totalmente novedosa, que sitúa a Europa en la vanguardia de la creación de una regulación que permita que los avances tecnológicos se transformen en beneficios para todos.

El informe legislativo contiene una propuesta de Resolución con recomendaciones destinadas a la Comisión y una propuesta de Reglamento europeo que establece los principios éticos aplicables al desarrollo, la implementación y el uso de la inteligencia artificial, la robótica y las tecnologías conexas en la Unión.

La inteligencia artificial se nos presenta como una tecnología con el potencial de cambiar el mundo tal y como lo conocemos, ofrece grandes oportunidades y conlleva grandes riesgos. Nuestra propuesta es un equilibrio para, por un lado, garantizar la confianza y la seguridad de los ciudadanos en las nuevas tecnologías y, por otro, apoyar la innovación en Europa. Es una propuesta respetuosa con la neutralidad tecnológica y proporciona un marco de futuro adecuado para responder con solvencia y responsabilidad a la rapidez de los cambios.

Nuestro informe se apoya en la creación de un marco regulador de principios éticos que sea de obligado cumplimiento para los programas informáticos, algoritmos y datos incluidos en la inteligencia artificial, la robótica y las tecnologías conexas que se desarrollen, se implementen o se utilicen en la Unión Europea.

Todas las tecnologías que operen en Europa deberán respetar esta perspectiva antropocéntrica. La dignidad humana, la autonomía y la seguridad de los ciudadanos no puede ser puesta en entredicho y, del mismo modo, debemos garantizar el cumplimiento de los derechos fundamentales y la legalidad de la Unión. Las tecnologías que impliquen una violación de estos principios no podrán operar en Europa, sin importar dónde se producen ni si tienen soporte o están en la nube.

En segundo lugar, hemos acordado una aproximación en función de los riesgos que pueden presentar. Serán consideradas de alto riesgo aquellas tecnologías que puedan tener un riesgo significativo de causar un daño o perjuicio ⸺tanto a los ciudadanos como a la sociedad en su conjunto⸺, violar derechos fundamentales o quebrantar las leyes de la Unión. Para valorar estos riesgos hemos establecido criterios objetivos, atendiendo al sector, a los usos o propósitos y a la severidad de los daños o perjuicios que puedan causar. Esta definición pretende evitar que se produzcan vacíos legales.

También se incluye una lista exhaustiva de los sectores y de los usos que se consideran de alto riesgo, como la educación, la salud, el empleo y reclutamiento de trabajadores, las finanzas y la concesión de créditos, el transporte automático de vehículos, las decisiones de la administración pública o las cuestiones medioambientales.

Cuando una aplicación o tecnología sea considerada de alto riesgo, debe asegurar el cumplimiento de una serie de requisitos y obligaciones legales: garantizar el control humano, estrictas normas de seguridad, transparencia, explicabilidad y responsabilidad, fiabilidad de los datos, la no discriminación y la eliminación de sesgos en los algoritmos y los resultados de las decisiones automáticas, con garantías de privacidad muy estrictas en el caso de los reconocimientos remotos con datos biométricos y la exigencia de aplicación de los más rigurosos estándares de gobernanza.

En el Parlamento queremos garantizar, además, una inteligencia artificial sostenible medioambientalmente y con responsabilidad social, porque una inteligencia artificial ética es democrática, igualitaria, respeta a los trabajadores y a la propiedad intelectual, la diversidad cultural y el derecho a la ilustración digital. Y por ello apelamos a los Estados miembros y a la Unión para que las inversiones en investigación se dirijan a aquellos proyectos que ofrezcan un beneficio social o medioambiental.

Para asegurar el desarrollo democrático de las tecnologías, tanto las autoridades europeas como las nacionales deberán mantener un diálogo con las partes interesadas, incluyendo la sociedad civil, sindicatos, el establecimiento de los parámetros y estándares de gobernanza, así como prestar apoyo a pymes y empresas emergentes.

Además de establecer los principios, hemos de controlar el cumplimiento de estas obligaciones. Nuestro modelo refuerza la coordinación europea y enumera las tareas que deben realizarse, entre otras, establecer directrices obligatorias para la evaluación de la conformidad con los principios éticos.

Cuando se hayan probado, se otorga un certificado europeo de conformidad con los principios éticos. Esta garantía o sello de calidad será voluntaria para aquellas tecnologías que no sean de alto riesgo.

Cada Estado miembro nombrará una autoridad independiente encargada de aplicar dichas directrices, conceder el certificado europeo y realizar una supervisión continua de cumplimiento con los principios éticos, dotándola de medios y recursos suficientes.

La Comisión debe evaluar qué organismos y agencias existentes o futuros pueden cumplir con estas tareas.

Con el ponente, en mi Grupo consideramos que una agencia europea para la inteligencia artificial supondrá un valor añadido para conseguir un objetivo común, compartido por todos los miembros de la Cámara: hacer que la Unión Europea lidere en el mundo una inteligencia artificial ética, que sitúe al ser humano en el centro de su desarrollo y que garantice nuestros principios y valores.

  Stéphane Séjourné (Renew). – Madame la Présidente, puisque nous parlons de l’intelligence artificielle et des nouvelles technologies, merci beaucoup au Parlement européen et également au bureau de Paris d’avoir donné aux parlementaires la possibilité d’intervenir depuis les bureaux! Merci également au Président du Parlement.

Madame la Présidente, nous parlons d’intelligence artificielle: celle-ci est présente dans notre vie quotidienne, avec les réseaux sociaux évidemment, avec des algorithmes de tous les jours, et dans notre économie aussi, bien sûr. D’ici 2022, 42 % des tâches seront effectuées par des algorithmes, contre 29 % aujourd’hui: c’est une mesure exponentielle. Deux entreprises sur trois utilisent déjà l’intelligence artificielle au quotidien.

Deux rapports ont déjà été présentés sur la responsabilité et sur l’éthique. Je voudrais remercier d’abord M. Voss pour son rapport important, car il aborde concrètement la question de la responsabilité, ainsi que la manière de réguler les grandes technologies d’avenir, comme la voiture autonome. Il permet aussi d’avoir un droit qui ne se morcelle pas et d’avoir une législation et une jurisprudence qui soient justement unifiées au niveau européen. Je voudrais remercier aussi M. García Del Blanco, qui lui non plus n’a pas pu être avec vous, pour ses travaux sur la question de l’éthique, qui est une question d’abord de confiance, et à cet égard la transparence n’est pas une fin en soi, c’est un outil de la confiance. Je vais prendre l’exemple de la reconnaissance par l’image: utilisée par les smartphones, la reconnaissance est, quand elle fonctionne, un bon outil, mais il peut y avoir des dérives, comme lorsqu’on voit un certain nombre d’États policiers utiliser cette technologie.

Mon rapport, Madame la Présidente, constitue lui aussi un élément de protection. Après la protection de l’éthique, après la protection de la responsabilité, il y a aussi la protection des innovations, qui doivent être protégées via la propriété intellectuelle. Nous recommandons à la Commission de revoir cette question et de faire un reset à ce sujet. Jamais la planète n’a eu autant d’idées, puisque 3,3 millions de demandes de brevet ont été déposées l’année dernière, et c’est en perpétuelle augmentation. La question de ce rapport est de savoir qui détient le droit de propriété intellectuelle d’un travail intellectuel entièrement généré par l’intelligence artificielle. Mon rapport, sans vouloir décourager la création humaine, donne un certain nombre de préconisations.

J’en citerai trois. Nous recommandons justement de ne pas reconnaître la personnalité juridique à une intelligence artificielle. Nous recommandons aussi de distinguer la création qui a été aidée par l’intelligence artificielle d’une création qui a été entièrement générée par l’intelligence artificielle. Il faudra également se doter d’une grande stratégie des données. Je sais que Margrethe Vestager et Thierry Breton sont très sensibles à ces questions. Cette stratégie est nécessaire, nous avons besoin des grands ensembles de données pour qu’un système d’intelligence artificielle puisse se développer et également développer des idées.

Je finirai, Madame la Présidente, par un point d’actualité qui est peut-être en dehors du champ de mon rapport, mais qui s’inscrit lui aussi dans ce débat conjoint sur la législation sur les services numériques (DSA). L’actualité française nous montre aussi à quel point nous allons devoir réfléchir collectivement à la régulation des données: je parle du drame que nous avons vécu en France avec la décapitation d’un enseignant qui avait été lynché sur les réseaux sociaux pendant des semaines. Pour ma part, je pense qu’il faut mettre fin à l’autorégulation des réseaux sociaux et fin au contenu haineux. Il faut sortir de l’hypocrisie sur cette question-là. Qui peut accepter que des comptes Twitter fassent l’apologie du terrorisme pendant des semaines sans que personne ne fasse rien? À mon avis, personne! Qui peut accepter un tel déversement de haine sur tous les réseaux, sur Facebook? Personne. Qui peut accepter le lynchage en public d’un enseignant qui ne faisait que son travail? Personne. Madame la Présidente, il s’agit de prendre nos responsabilités, avec nos collègues, avec toute la représentation européenne, avec la Commission et en son soutien. Il en va de nos valeurs, de nos valeurs européennes, de nos valeurs de démocratie. Il s’agit de réguler les réseaux sociaux et d’aller un peu plus loin que la seule question des contenus illicites en abordant celle des contenus préjudiciables. Je pense que c’est un bon moyen d’action.

Merci beaucoup de nous avoir permis d’intégrer cette réflexion depuis le bureau de Paris et depuis d’autres bureaux pour d’autres collègues. J’interviendrai de nouveau s’il le faut dans le débat.

  Axel Voss, Berichterstatter. – Frau Präsidentin, liebe Frau Vizepräsidentin Vestager! Zunächst einmal handelt mein Bericht jetzt von Haftung und künstlicher Intelligenz, und ich möchte zunächst einmal den Schattenberichterstattern recht herzlich danken, weil wir hier einen sehr kooperativen spirit hatten, der uns weiter nach vorne gebracht hat, der aber letztlich auch ein starkes Signal sendet, sowohl an die Kommission als auch an die Mitgliedsstaaten. Die Digitalisierung insgesamt ist natürlich für die Gesellschaft, für die Wirtschaft von extrem großer Bedeutung und Herausforderung, aber es geht meines Erachtens eben auch um unser wirtschaftliches Überleben.

Die künstliche Intelligenz nimmt in diesem Zusammenhang einen besonderen Stellenwert ein und stellt eine besondere Herausforderung dar und ist von strategischer Relevanz für unsere wirtschaftliche Entwicklung insgesamt. Wir werden den Wettbewerb nur wirklich aufnehmen können, wenn wir tatsächlich auch einen digitalen Binnenmarkt hinbekommen, weil wir sonst anderen Regionen dieser Welt einfach zu fragmentiert gegenüberstehen.

Und deshalb, meine ich, müssen die Mitgliedsstaaten hier auch in sich gehen und auch mal über ihre Kompetenzen hinausgehen und sagen, das ist zum Wohl aller, wenn wir uns über zivilrechtliche Haftung auch entsprechend unterhalten. Da kann man nicht einfach blockieren und dann sagen, das ist unsere Kompetenz. Nein, hier geht es um einen digitalen Binnenmarkt, um unser aller Vorankommen. Folgerichtig fordern wir diesbezüglich im Grunde auch eine Verordnung, und wir meinen das auch wirklich ernst, gerade im Hinblick auf diesen digitalen Binnenmarkt.

Was hat uns eigentlich dazu geleitet, das zu machen? Wir wollen, dass der Einzelne auch eine Entschädigung erhält wie nach dem normalen nationalen Deliktsrecht. Wir wollen aber auch, dass er nicht darlegen muss, ob es jetzt die Software, die Hardware, die falsche Betreibung oder falsche Algorithmen waren. Wir wollen einfach, dass er entschädigt wird. Wir wollen auch existierenden Haftungsregelungen aus den Mitgliedsstaaten entsprechen. Wir wollen keine Verhinderung von künstlicher Intelligenz und deren System, und wir wollen zukunftsorientiert nach vorne gehen.

Warum meinen wir, dass das wichtig ist? Wir sitzen jetzt in dieser Zeit da dran, das zu entwickeln. Wir brauchen deshalb eine klare Sicht auf die Dinge, eine Rechtssicherheit, eine Rechtsklarheit, einen voll harmonisierten Rahmen, keine Fragmentierung, um hier die unterschiedlichen Anwendungen im Binnenmarkt auch auszuschließen. Wir wollen auch Klarheit haben – nicht erst durch höchstinstanzliche Gerichte nach fünf bis acht Jahren –, und wir wollen Rechtslücken füllen.

Deshalb aber gibt es am Ende keine Überregulierung, deshalb ist das Ganze keine Revolution, sondern lediglich das Verbinden von entsprechenden risikoreichen künstlichen Intelligenzsystemen zu dem, was schon existiert, und diese Verbindung zu dem existierenden Recht halten wir auch für vernünftig. Deshalb müssen wir immer nochmal beachten, dass wir als Rechtsausschuss im Moment auch kein kohärentes System bieten können, weil wir internen Regelungen folgend bestimmte Dinge einfach nicht berücksichtigen können.

Das Ziel ist es hier eigentlich, sich auch nur auf Hochrisikoanwendungen zu beschränken, weil wir denken, nur das macht eigentlich dann auch Sinn, das mit einer entsprechenden Haftung zu versehen. Andere Risiko-KI-Systeme werden ohnehin den normalen Rechtsfolgen von Haftung entsprechend unterzogen.

Wir wollen wegen der Rechtsklarheit eine klare Liste haben, welches KI—System darunter fällt, und wir wollen als Gesetzgeber flexibel agieren, dass wir auch schnell auf rasante Veränderungen hinweisen können, indem wir der Kommission delegierte Rechtsakte anheimstellen. Darüber hinaus ist auch der immaterielle Schadensersatz angesprochen, und da bitten wir die Kommission zu prüfen, ob es auch hier Harmonisierungsbedarf gibt.

  Dita Charanzová, rapporteur for the opinion of the Committee on the Internal Market and Consumer Protection. – Madam President, the Internet is a vital part of our lives and our economy. Because of this, we all should want an Internet that reflects our European values, while being a fair single market for businesses to compete in. This is what the Renew Europe Group wants and this is what is in the Committee on the Internal Market and Consumer Protection (IMCO) report, and for this, I thank the rapporteur.

Renew Europe wants any future European regulation to respect what makes the Internet great, which is the freedom to speak your mind, to upload your creations and to, at the click of a button, share new innovations and new business models which change the world. We don’t want to over-regulate. The reason why we have this Internet we love is because we set down very basic rules in Europe and then got out of the way. We let the Internet grow organically. We let innovation and start-ups run free, and here we are 20 years later.

Governments should not get in the way of a global system that is working well. Governments should especially not get in the way of the freedom of speech online. This must be equally true for the EU as a whole.

At the same time, a lot of things in the digital world have changed in 20 years – just look at where this debate is happening. One of these changes is the growth of Internet giants. The Renew Europe group is not against such companies that millions of users use and trust. Nevertheless, we must make sure they play fairly with other companies and take a greater role in social responsibility.

We, however, don’t want to force actions where they are not needed – regulation for the sake of regulation. Artificial barriers to foreign companies and the creation of false European champions are not the answer to a strong digital single market in Europe. This is why we call on the Commission to keep this balanced approach as we work on the Digital Services Act and the Digital Market Act.

  Alexandra Geese, Verfasserin der Stellungnahme des mitberatenden Ausschusses für Binnenmarkt und Verbraucherschutz. – Frau Präsidentin, Frau Vizepräsidentin Vestager! Das Internet war und ist ein Ort der Freiheit, insbesondere in autokratischen Staaten, und diese Freiheit zu bewahren, das ist unsere wichtigste Aufgabe. Aber heute ist die Sorge darum riesig: Falschinformationen verbreiten sich mit atemberaubender Geschwindigkeit, Hass und Hetze verdrängen Frauen und Minderheiten aus dem öffentlichen digitalen Diskurs, und auch das bedroht die Meinungsfreiheit.

Aber wie konnte das geschehen in den letzten 20 Jahren? Heute sind es wenige monopolartige Unternehmen, die maßgeblich darüber entscheiden, was Menschen im Internet überhaupt zu sehen bekommen. Deswegen brauchen wir jetzt eine neue Gesetzgebung für digitale Dienste und neue Regeln für den Wettbewerb.

Was sind dabei die dringendsten Aufgaben? Wir müssen zunächst einmal einem Werbegeschäftsmodell ein Ende setzen, das Menschen ausspioniert und ihr Verhalten manipuliert. Diese Chance müssen wir auch nutzen, um die Finanzierung der Qualitätspresse wieder auf sichere Füße zu stellen, denn wir brauchen sie so dringend in Zeiten der Unsicherheit. Heute gehen nämlich drei Viertel der digitalen Werbeeinnahmen – in Frankreich und Deutschland zum Beispiel – an Google und Facebook.

Zweitens: Online-Plattformen müssen offenlegen, nach welchen Grundsätzen sie Beiträge priorisieren. Wir müssen hier Licht ins Dunkel dieser Plattformen bringen, und Nutzerinnen und Nutzer müssen die Möglichkeiten haben, ihre Timelines nach eigenen Wünschen zu gestalten.

Drittens brauchen wir ganz klare Regeln für den Umgang mit illegalen Inhalten, das heißt detaillierte und verbindliche Notice-und-Action-Verfahren. Transparenz und demokratische Kontrolle also, das sind auch unsere Leitwerte für künstliche Intelligenz. Künstliche Intelligenz muss den europäischen Prioritäten dienen, und das ist im Moment zuallererst der European Green Deal, denn unsere dringendste Aufgabe ist immer noch der Klimaschutz.

Aber wenn es um Menschen geht, dann brauchen wir strenge Regeln, denn wir wissen, dass künstliche Intelligenz ein guter Diener ist, aber ein schlechter Herr. Wir wissen, dass künstliche Intelligenz Schieflagen aus der Vergangenheit wie Rassismus oder die Benachteiligung von Frauen in die Zukunft projiziert und uns deshalb in der Vergangenheit verankert, und das wollen wir nicht.

Zuletzt müssen wir europäische Grundrechte auch bei künstlicher Intelligenz wirksam durchsetzen, und das wird nur mit einer europäischen Stelle gehen, die die Interessen der europäischen Bürgerinnen und Bürger auf Augenhöhe mit den global agierenden digitalen Unternehmen vertreten kann.

  Josianne Cutajar, Rapporteur għal opinjoni tal-Kumitat għat-Trasport u t-Turiżmu. – Tkellimna ħafna fl-aħħar xhur fuq kif l-Ewropa trid tikseb awtonomija teknoloġika. Ir-rapport li qed niddiskutu llum huwa pass importanti f'din id-direzzjoni. Is-suq globali ddominat mill-ġganti itellef lill-kumpaniji żgħar Ewropej waqt li jimpatta ħażin lill-konsumaturi.

B'mod li nirrikonoxxu n-natura diġitali tal-pjattaformi jeħtieġ li nżidu r-responsabbiltajiet li għandhom iġorru. Biex nipproteġu aħjar lill-konsumatur jeħtieġ li l-pjattaformi diġitali jkunu mistennija jivverifikaw l-identità ta' dawk li jipprovdu s-servizz tagħhom. Mhux biss, imma neħtieġu protokoll ċar għall-pjattaformi biex jieħdu azzjoni fuq kontenut illegali fl-ispazji tagħhom.

It-turisti u l-passiġġieri jixraqilhom trattament tajjeb. Dan ifisser servizz trasparenti u li l-konsumatur ikun infurmat biżżejjed biex jagħmel l-aħjar għażliet għalih. Ikollna suq ġust biss jekk kulħadd igawdi mid-data li niġġeneraw il-ħin kollu.

Huma dawn l-elementi li neħtieġu għal suq inqas frammentat u iktar konsolidat li jipproteġi lill-aktar vulnerabbli u jħares id-drittijiet.

  Izaskun Bilbao Barandica, ponente de opinión de la Comisión de Transportes y Turismo. – Señora presidenta, comisaria, el desarrollo de la computación, del Big Data y de los algoritmos han propiciado que la inteligencia artificial sea hoy estratégica. Pero solo las personas podemos garantizar que valores como el pluralismo, la solidaridad y la democracia nos vacunen contra los errores y abusos que pueden convertir esta oportunidad en una pandemia de «negligencia artificial». Necesitamos una legislación clara, sencilla, flexible y común que no perjudique la competitividad de nuestros emprendedores en el mercado global y evite la fragmentación, que controle los procesos de generación y funcionamiento de estas herramientas, detecte riesgos y corrija disfunciones mediante la evaluación permanente y que garantice una participación estructurada de las y los usuarios.

Este plan global debe animar una intensa actuación local, centrada en coordinar y conocer mejor las capacidades tecnológicas, promocionar talento y apoyar el intraemprendimiento y la creación de nuevas empresas. Así, aportando conocimiento y valor al sistema industrial local, regiones como Euskadi, recientemente señalada como ejemplo de innovación por la presidenta Von der Leyen, deben ayudar a la Unión a ganar competitividad global.

La inteligencia artificial necesita principios éticos para prevenir sesgos en los algoritmos, clarificar aspectos industriales y jurídicos y establecer fórmulas para determinar y depurar la responsabilidad civil derivada de hechos en los que la influencia de la inteligencia artificial sea clave.

Este es un aspecto crucial en el ámbito de la movilidad. Desde la Comisión de Transportes y Turismo apostamos por la inteligencia artificial para ofrecer servicios integrados, mejor adaptados a los usuarios y más verdes. Pero advertimos que, sin inversión en infraestructuras para que los datos se recojan y circulen adecuadamente, la tecnología no bastará.

Los cambios que vienen exigen una visión holística del transporte urbano e interurbano e innovación y formación para consolidar los nuevos oficios que demanda ya la movilidad inteligente.

  Petra Kammerevert, Verfasserin der Stellungnahme des mitberatenden Ausschusses für Kultur und Bildung. – Frau Präsidentin, sehr geehrte Kolleginnen und Kollegen! Die bisherigen Debatten zum Digital Services Act haben mir gezeigt, dass wir noch nicht hinreichend verinnerlicht haben, was es eigentlich bedeutet, dass die EU seit nunmehr 15 Jahren Rechtssubjekt der UNESCO-Konvention zum Schutz und zur Förderung der kulturellen Vielfalt und der kulturellen Ausdrucksformen ist.

Das zufällige Vorhandensein vieler bunter Videos im Netz mag vielleicht unterhaltsam sein, ist aber mitnichten die Sicherung kultureller Vielfalt oder gar von Medienvielfalt. Kulturelle und mediale Vielfalt sind erst dann sichergestellt, wenn wir alle wesentlichen Akteure verpflichten, die Auffindbarkeit journalistischer Inhalte sowie Inhalte der kulturellen Bildung jenseits wirtschaftlicher Interessen ohne Wenn und Aber zu garantieren.

Dafür braucht es mutige Regulierung, die ansetzt, bevor große Dienstanbieter wichtig oder gar Gatekeeper sind. Dafür braucht es besondere Regelung, weil Medien eben nicht nur Wirtschaftsgut, sondern auch Kulturgut sind und deshalb anders zu behandeln sind als Butter oder Schrauben.

Nicht die Vielfalt bunter Videos, sondern das Vorhandensein glaubwürdiger und qualitativ hochwertiger Informationsangebote, die für jedermann leicht erreichbar sind, ist die Grundvoraussetzung, um in einer digitalisierten Welt eine sinnstiftende öffentliche Debatte zu ermöglichen, die das Fundament einer freien, demokratischen Gesellschaft bildet. Weil dies so wichtig ist, braucht es insbesondere im Bereich kultureller und medialer Vielfalt besondere Regulierungen.

Und in einer Welt, in der Big Data und algorithmische Entscheidungen eine immer größere Rolle spielen, stehen wir gleichsam vor einem Paradox: Für die Intermediäre selbst werden die Meinungsbildungsprozesse durch Daten, die ihnen zugänglich sind, immer transparenter. Die Öffentlichkeit aber weiß immer weniger darüber, welche Mechanismen und Einflüsse die politische Meinungsbildung prägen.

Sie sehen selbst, dass hierfür die Offenlegung von Algorithmen allein nicht ausreichen wird. Es bedarf mutiger und vor allen Dingen vorabgestaltender Vielfaltssicherung und darüber hinaus auch neuer politischer Initiativen für die Sicherung eines unabhängigen Qualitätsjournalismus in der EU. Ich glaube, in dieser Hinsicht haben wir noch eine ganze Menge Arbeit vor uns.

  Patrick Breyer, rapporteur for the opinion of the Committee on Legal Affairs. – Madam President, the digital age we live in today permeates our daily lives and even more so our children’s lives.

Can we accept that algorithms created by international corporations decide on what we can say and read online, what human rights defenders can say, what dissidents and whistle—blowers can publish?

Do you know that YouTube’s filters suppressed a parliamentary debate on torture because they confused it with violence online? Many constitutions ban ex—ante censorship. It is high time we take back control and do the same with censorship machines used by digital platforms.

Secondly, let’s tackle the predominant business model of surveillance capitalism. Major platforms are tracking our every click, everything we read and write online, to analyse our personalities, our likes, our weaknesses, our illnesses.

We cannot accept this permanent surveillance of users online, and therefore we need to make sure that we are not subject to pervasive tracking.

Likewise, the right to anonymity is essential to safeguard our identity online and prevent abuses and data losses and sales.

Finally, let’s address the gated communities on the internet. Let’s make sure consumers can choose which platform to use to ensure competition and to ensure interaction across platforms, to break the dependency and the user lock—in that is predominant on the internet. Let’s make sure we take back control of our digital lives.

Let me add one aspect regarding the AI reports. There is some mention here of biometrics surveillance that has nothing to do with the report on AI and IPR protection. Let’s make sure that we do not confuse artificial intelligence with surveillance. This language on biometrics surveillance needs to be deleted.

  Assita Kanko, rapporteur for the opinion of the Committee on Civil Liberties, Justice and Home Affairs. – Madam President, we are in the midst of a global tech race. Technology should empower us all, but we see everyday how it can be deployed for malign purposes, from deep-fake videos undermining democracy to the challenge of fully autonomous weapon systems.

The EU is a regulatory power, but we must also be a tech superpower, not only for regulation but also for promoting technology and supporting it. That means developing metadata skills and partnerships with like-minded allies. The only way to ensure ethical development of AI is for the world’s democracies to win the global tech race and set the global standards. If China comes first, our ethical frameworks will be nothing more than well-intentioned empty words, and that cannot be.

  Marina Kaljurand, rapporteur for the opinion of the Committee on Civil Liberties, Justice and Home Affairs. – Madam President, as the S&D shadow, first of all, I’d like to thank our rapporteur Kris Peeters and all the other shadows for the constructive work and I’d like to congratulate us all on a balanced and forward—looking report.

This topic is very close to my heart. I come from Estonia, a country where we have had the privilege of enjoying the benefits of online services for almost 30 years and I will continue in Estonian.

COVID-19 kriis tõestas kogu maailmale seda, mida meie Eestis oleme teadnud digiühiskonnast juba ligi kolmkümmend aastat. Me oleme harjunud võimalustega, mida digiteenused pakuvad, ja me teame väljakutseid ning ohte, mida digiteenuste kasutamine kaasa toob.

Olen veendunud, et toimiv digitaalne ühisturg toob majanduslikku ja ühiskondlikku kasu igale inimesele, igale liikmesriigile – Euroopa Liidule tervikuna. Ja mul on hea meel, et oleme jõudnud digiteenuseid reguleeriva korra ülevaatamiseni ja kaasajastamiseni Euroopa Liidu tasemel. E-kaubanduse direktiiv võeti vastu kakskümmend aastat tagasi. See vajab kaasajastamist. Ootan huviga komisjoni digiteenuste õigusakti ettepanekut ja loodan, et see arvestab meie raportis tehtud ettepanekutega, mis keskenduvad eelkõige põhiõigustele ja andmekaitsele. Nimetan neist olulisemaid. Digiteenused peavad tuginema kehtivatele Euroopa Liidu õigusaktidele, kaasa arvatud isikuandmete kaitse üldmäärusele ja e-privaatsuse direktiivile. Peab olema tagatud õiglane digitaalne ökosüsteem, kus järgitakse põhiõigusi, eelkõige väljendus- ja teabevabadust, ning igasugune diskrimineerimine on välistatud. See, mis on ebaseaduslik väljaspool internetti, peab olema ebaseaduslik ka veebis ning kõrvaldatud. Digiteenuste osutajatele, sh veebiplatvormidele peavad olema kehtestatud selged ja konkreetsed kohustused ebaseadusliku sisu kõrvaldamiseks. Paranema peab koostöö teenustepakkujate ja liikmesriikide ametiasutuste vahel. Jätkuvalt peab olema keelatud üldine järelevalvekohustus, mis on täna sätestatud e-kaubanduse direktiivis. Seejuures tuleb rõhutada, et tänaste automaatsete vahenditega ei ole võimalik piisavalt analüüsida ja mõista veebisisu ning lõpliku otsuse tegemine peab jääma inimesele.

Olen veendunud, et digiteenuste turg ei saa olla täielik ja täiuslik ilma üleeuroopalise kehtiva digitaalse ID-ta. Loodan, et komisjon kiirendab tegevusi elektroonilise identifitseerimise määruse jõustamiseks üle kogu Euroopa Liidu territooriumi, sest praeguse tempoga ei saa rahul olla. Ning tunnustan Euroopa Liidu Nõukogu käesoleva aasta oktoobri järeldusi, milles rõhutatakse isikute turvalise identifitseerimise vajadust läbi Euroopa Liidu ülese raamistiku. Tahan rõhutada ka küberjulgeoleku aspekte, nii tavainimese – tarbija aspektist kui ka teenuste pakkumise aspektist. Me kõik vajame koolitust, me kõik vajame pädevat tarbijat.

Head kolleegid, kutsun teid kõiki üles hääletama kõigi kolme raporti poolt.

  Margrethe Vestager, Executive Vice—President of the Commission. – Madam President, I think it is kind of strange: we are few here because this is a digital debate, and yet the energy and the enthusiasm is to be felt. I think that comes from the fact that the work done is truly impressive, because it’s work that has involved so many colleagues in this assembly, so many colleagues who have done the effort to study the subjects, to form opinions and to discuss. Even though it will be, I think, a truly amazing debate today, it will in no way do justice to what has gone before this debate, because it is truly a thing that includes the entire Parliament. This is also why it’s a bit unfair to start thanking some rapporteurs and leaders in this, but I would say to Alex Saliba, Tiemo Wölken and Kris Peeters that this is outstanding work.

We will respond to your initiatives with two legislative proposals: the Digital Services Act and the Digital Markets Act, and this will reflect ideas. Fundamentally we share the same goals. I think that is most obvious. We want to better protect citizens when they use the internet, whether that is in protection against illegal goods, services, content online. As it was put, we need to make sure that as we feel safe offline we should feel safe online.

Also, to better secure the freedom of expression online. This of course, as you have heard already, is a tricky balance to strike. To achieve this, we need to lay down a solid and impactful EU—wide accountability framework. Obviously that has to come with enforcement, because words alone will not do it; then it would be just window dressing. The balance we will have to strike here is of course that we will have to say to some of the gatekeepers, the largest platforms, that things will change.

Europe is open and we will do this in full compliance with our international obligations, also because we would want to work with the rest of the world to set new standards. In order to do so, we intend to break down legal barriers in the internal market and combat unfair practices by gatekeeper platforms. This will help European innovators, small businesses, to scale, to grow, to be able to compete for our attention, to compete for our business.

With the Digital Services Act I think two things have stood the test of time: no general monitoring of user content is one; and, second, a well—balanced system of liability, and the internal market as the core.

But things have changed, so obviously we also need to set out in law the responsibilities that platforms must have in relation to their role as societal and economic impactors, as they are. This is one of the reasons why we’re working on this Digital Markets Act in parallel with the Digital Services Act. This regulation will specifically target large digital gatekeepers defined by objective criteria, setting out a clear list of ‘dos and don’ts’ in full compliance again, of course, with international obligations. It will also provide for a market investigation framework to address digital markets that may be prone to market failure and prone to the creation of new gatekeepers.

On artificial intelligence, let me thank also MEP Ibán García Del Blanco for the intense work. I really welcome Parliament’s contribution here. This is ground—breaking, this has not been done before. We share the same ambition to create a sound and future—proof legal framework for trustworthy artificial intelligence in Europe so that people can benefit from AI—driven products and services that are safe and that respect European fundamental rights and values. For this we need an AI framework that creates new opportunities for European businesses to innovate, to scale up. We ought to be the global hub for AI Made in Europe and set the global standard for trustworthy AI.

We want to fully leverage the potential of AI while mitigating associated risks, and I think we all recognise that this is the balance. We will be discussing this back and forth and back and forth, because it is indeed a balance to be struck as not every AI implies a risk. High—risk applications of AI should be put under intense scrutiny. However, we should not define high—risk AI so broadly that it creates legal uncertainty and disproportionately overburdens businesses or hampers innovation. We need to form a framework that is future—proof, and I expect that we will engage in this very intensely because it is indeed a balance.

We also welcome the report for dealing with liability for AI, and here Axel Voss has done outstanding work. It’s very impressive, and we agree that the current liability rules are challenged by AI characteristics.

Our institutions also agree on the objective for liability aiming for the same level of protection for victims of AI—related damages, and victims of damages of other technologies. I think that is a very sound and straightforward principle. For what concerns the Product Liability Directive, the Commission appreciates the Parliament report. We will carefully consider it and then we will discuss.

On the Parliament report on intellectual property (IP) rights, I think that shows the pivotal role of IP rights for the EU to become a leader in artificial intelligence. Without this, it will not happen, and we want to thank also MEP Stéphane Séjourné for his excellent work. We need an EU IP framework that enables innovations in the field of AI technologies. Companies in the European Union, must be able to efficiently protect but also to share their inventions in the field of AI technologies. That is what will create excellence in artificial intelligence. Thank you again also for this ground—breaking work.

Last, but not least, I think this will be an amazing debate. We have started it, I think, already in the best possible manner. One of the delights is to see how there is convergence between the different reports, between the thinking of the Commission and what Parliament is proposing here. I think that is very strong because that shows citizens that what we want to create is a society where technology serves humans, where humans are empowered, where humans are in control. We don’t want a society where people feel estranged, feel that there is the risk that some machine will take some decision in complete transparency without knowing if their rights are actually being fulfilled. We have one generation to do this. This is now, it is happening, and I do hope that you will recognise many of these valuable points in what we suggest. I’m looking forward not only to the debate today, not only to the proposals, but also to the debate that we will have to make sure that we get a strong European regulatory framework that can actually be enforced in real life.

  Lina Gálvez Muñoz, ponente de opinión de la Comisión de Empleo y Asuntos Sociales. – Señora presidenta, como ponente de la opinión de la Comisión de Empleo y Asuntos Sociales sobre el informe relativo a los aspectos éticos de la inteligencia artificial, elaborado por Ibán García del Blanco en la Comisión de Asuntos Jurídicos, me gustaría subrayar la trascendencia que este expediente tiene para la dignidad y los derechos de los trabajadores.

La mayor flexibilidad o eficiencia que puedan traer el uso de estas tecnologías no puede ser sinónimo de formas más sofisticadas de explotación o de supervisión de los trabajadores. Como resultado, la ley, nuestro marco legislativo, debe avanzar en una normativa que proteja a los trabajadores contra mecanismos de supervisión y métrica que vulneren su privacidad, su reputación o sus posibilidades de promoción o de permanecer en su puesto de trabajo.

Debemos asegurar que los datos de los trabajadores pertenezcan a los trabajadores, incluso cuando la relación laboral haya terminado. El desarrollo de esta tecnología debe estar libre de sesgos discriminatorios y de la reproducción de estereotipos de género, de raza, de clase o en función de las preferencias sexuales.

Esta iniciativa es simplemente un primer paso y debe estar seguida de legislación específica para los temas laborales.

  Adam Bielan, autor projektu opinii Komisji Rynku Wewnętrznego i Ochrony Konsumentów. – Pani Przewodnicząca! Działania Unii Europejskiej na rzecz pogłębienia jednolitego rynku usług cyfrowych, które zwiększą suwerenność i konkurencyjność cyfrową Europy, powinny być dla nas – szczególnie teraz, po doświadczeniach epidemii koronawirusa – sprawą priorytetową, jednym z najważniejszych zadań dla tej izby.

Dlatego z zadowoleniem przyjmuję zobowiązania i postępy Komisji przy wprowadzaniu zharmonizowanego podejścia dotyczącego obowiązków dostawców usług cyfrowych, w tym pośredników internetowych, w celu uniknięcia podziału rynku wewnętrznego i niespójnego egzekwowania przepisów. Wprowadzając nowe przepisy, musimy jednak pamiętać, że obciążanie małych i średnich przedsiębiorstw niepotrzebnymi nowymi obowiązkami może zahamować ich rozwój i uniemożliwić im zdobycie pozycji na rynku.

Kodeks usług cyfrowych musi być również zgodny z podstawowymi prawami użytkowników i konsumentów, takimi jak ochrona prywatności i niedyskryminacja, a przede wszystkim nie może osłabiać wolności słowa – wielkiej zdobyczy internetu. Chciałbym także podkreślić znaczenie poszanowania odmiennych tradycji narodowych, tak abyśmy walcząc z nielegalnymi treściami, nie narzucali tych samych zasad w całej Europie, na przykład w przypadku budzących kontrowersje wypowiedzi. Dlatego opowiadam się za utrzymaniem zakazu ogólnego obowiązku monitorowania treści i uważam, że należy zapewnić nadzór nad systemem moderowania treści, tak aby nie stał się narzędziem cenzury oddanej w ręce prywatnych firm.

Kodeks usług cyfrowych może ingerować jedynie w treści nielegalne, nie może być mowy o żadnych kompromisach w kwestii obrony wolności słowa.

  Svenja Hahn, Verfasserin der Stellungnahme des mitberatenden Ausschusses für Binnenmarkt und Verbraucherschutz. – Frau Präsidentin! Künstliche Intelligenz ist Alltag für uns. Zum Beispiel, wenn unsere Musikstreaming-App uns neue Songs vorschlägt, basierend auf unseren Hörgewohnheiten. Andere Bereiche sind für die meisten von uns vielleicht weniger alltäglich, aber haben das Potenzial, Produkte, Branchen, ja unser ganzes Leben zu verändern – in der Medizin, in der Mobilität oder in der Landwirtschaft.

Die EU hat sich nun zum Ziel gesetzt, ein einheitliches Regelwerk zu schaffen. Das ist Pionierarbeit, und man muss auch einfach sagen, es bietet eine echte wirtschaftliche und gesellschaftliche Chance und kann zu einem großen Standortvorteil werden.

Dabei gibt es drei Punkte, auf die wir besonders achten müssen: Erstens: Wir müssen Innovationen fördern statt bremsen. Wir sollten bei jeder Art von Regulierung technologieoffen bleiben und auf unbürokratische Regeln setzen.

Zweitens: Bürgerrechte sind nicht verhandelbar. Der Schutz von Grundrechten steht für mich ganz oben auf der Agenda. Massenüberwachung durch automatische Gesichtserkennung darf es genauso wenig geben wie Verpflichtung zu Uploadfiltern.

Drittens: Die Harmonisierung im Binnenmarkt. Die Chance von künstlicher Intelligenz für Menschen und Wirtschaft heben wir eben nur mit einheitlichen Regeln für den gesamten Binnenmarkt. Denn das schafft größtmögliche Rechtssicherheit für Unternehmen und Verbraucherinnen und Verbraucher.

Doch dafür müssen wir das Rad nicht neu erfinden. In vielen Bereichen haben wir bereits bestehende Regelungen, zum Beispiel in der Frage der Haftung, in der Frage des geistigen Eigentums. Aber wir müssen genau hinsehen: In welchen Punkten brauchen wir vielleicht Updates, die den Charakteristika von künstlicher Intelligenz entsprechen? Denn unser Ziel muss es sein, einen Rahmen zu setzen, der smart, technologieoffen und nachhaltig ist und auf ethischen Grundsätzen und europäischen Grundwerten basiert. Dann können wir es schaffen, dann kann die Europäische Union es an die Weltspitze schaffen, an die Weltspitze der Innovation.

  Cláudia Monteiro de Aguiar, relatora de parecer da Comissão dos Transportes e do Turismo. – Senhor Presidente, o desejo de construir máquinas que substituam as atividades do ser humano existe há séculos. O que antes era considerado o futuro agora faz parte do nosso quotidiano com o nome de inteligência artificial. A inteligência artificial é, pois, um modelo baseado em dados e estes dados são o principal catalisador para a inovação na atual era digital e tecnológica.

No que respeita aos transportes, seja nos veículos automatizados, nas infraestruturas ou nas soluções inteligentes de gestão de tráfego para mercadorias ou, simplesmente, para a mobilidade, os níveis de automatização e inteligência artificial, além de distintos, são bastante desenvolvidos neste setor face a outros setores.

O nosso papel enquanto colegisladores é garantir que a União crie princípios comuns adaptados a esta realidade, que no quadro da responsabilidade civil na Europa sejam garantidos os mesmos níveis de proteção aos consumidores quando se trata da utilização na inteligência artificial no espaço físico ou virtual, assegurando confiança nestes sistemas, apoiando a inovação tecnológica sem criar burocracias desnecessárias ao tecido empresarial que tenciona inovar. Julgo que é neste sentido, pois, que todos devemos e temos de trabalhar.

  Andor Deli, rapporteur for the opinion of the Committee on Transport and Tourism. – Madam President, as the draftsperson for the Committee on Transport and Tourism opinion on Intellectual property (IP), I can say that the role of AI in these sectors will be crucial.

Traffic safety and security in all transport modes, automated driving, navigation, car manufacturing, the hostility sector – these need access not only to big data but also to standard-essential patents (SEP) and other intellectual property under equal and fair conditions throughout the EU internal market.

But with AI it became obvious that intellectual property protection strategies of the past cannot work. We must develop flexible copyright, patent, trademark design protection and even trade secret rules that will accommodate all these new aspects.

Europe needs these legal instruments fast. We need the IP and AI framework that incentivises innovation and protects Europe’s pole position in car manufacturing and in tourism, for example. There is no time to waste, so I am urging the Commission to act as fast as possible.

  Łukasz Kohut, rapporteur for the opinion of the Committee on Culture and Education. – Madam President , while the advantages of AI for society as a whole are indisputable, we need to make sure that everyone benefits from it. Digital social exclusion: without the know-how on the ever-progressing digital tools, many of our citizens will not be able to benefit from them, especially senior citizens. But, not only that, they might also be excluded from certain public spaces completely, if the only way to participate is digitally and they have no such competence.

Education is key. We need custom-tailored digital education at all levels. Education is also paramount for fighting AI-related conspiracy theories, which feed the agenda of those who want to politically cash in on people’s fears. Let me just mention 5G or chemtrails conspiracies. So, once again, education is essential for this process to be successful.

  Pablo Arias Echeverría, en nombre del Grupo PPE. – Señora presidenta, señora vicepresidenta Vestager. En primer lugar, quería agradecer al ponente, el señor Saliba, y a todos los ponentes alternativos el esfuerzo y el espíritu de colaboración para llegar a los consensos durante las negociaciones de este informe. Creo que entre todos hemos hecho un buen trabajo y llegado a acuerdos que lanzan un mensaje claro a la Comisión sobre cómo debe abordarse la Ley de servicios digitales.

La Ley de servicios digitales debe aspirar a crear un mercado único digital más seguro, justo y transparente para todos: ciudadanos, consumidores y empresas, especialmente nuestras pymes. Para ello es importante elaborar una legislación equilibrada ajustada a los retos que nos llegan desde la constante evolución del ámbito digital.

La Comisión Europea ha establecido tres pilares sobre los que cimentar su estrategia: el pilar digital, el pilar medioambiental ⸺o el Pacto Verde⸺ y el modo de vida europeo. Este informe de la Comisión de Mercado Interior y Protección del Consumidor se basa, por su naturaleza, en el ámbito digital. También reflejamos la importancia del Pacto Verde: el comercio electrónico debe tener en cuenta el impacto medioambiental y actuar en consecuencia, siempre y cuando su práctica no lastre la competitividad de nuestras empresas.

A lo largo de su historia, nuestros valores y nuestra manera de vivir nos han hecho diferenciarnos del resto del mundo. Nos ha convertido en un ejemplo a seguir en muchos ámbitos. Nosotros no somos ni chinos ni estadounidenses. Aquí tenemos una alta consideración de nuestra privacidad y protección de los datos, no se los cedemos ni a los gobiernos ni a las empresas de cualquier manera. Nos importa la transparencia, queremos saber por qué, cómo y para qué se recopilan nuestros datos y quién se los queda. Cada empresa extranjera que opere aquí debe cumplir con nuestra manera de hacer las cosas.

En definitiva, tenemos que encontrar nuestra propia manera de regular el ecosistema digital, encontrando un equilibrio que, a la larga, será sin duda una ventaja competitiva para nuestras pymes, nuestros ciudadanos y en general para la Unión Europea.

Por todo ello, creo que es importante recoger el modo de vida europeo. Sin este tercer pilar el informe queda incompleto. La enmienda que presento en nombre de mi Grupo va en esta dirección, no va en contra de nadie; más bien al contrario, va a favor de todos y cada uno de los europeos y pretende reflejar los valores que nos unen. Solo siendo fieles a los mismos nos convertiremos en un actor relevante en la carrera global digital.

  Christel Schaldemose, for S&D-Gruppen. – Tak fru formand og fru kommissær! Vi har en meget bred debat i dag med en lang række aspekter omkring digitalisering og kunstig intelligens, og jeg synes, den er rigtig nyttig. Men jeg vil med min taletid i dag prioritere at kigge på det, der handler om det indre marked og forbrugerbeskyttelsesområdet. Mit budskab i dag til Kommissionen, er ganske kort: Det er, at vi i den fremtidige lovgivning skal sikre, at det, der er ulovligt offline, også fortsætter med at være ulovligt online. Derfor er det også dejligt at høre, at kommisæren allerede har tilkendegivet, at det også er tilgangen fra Kommissionen med den kommende lovgivning, det er rigtig vigtigt. Men vi har set en lang række eksempler på farlige babyrangler, giftige legetøjsfigurer, ubrugelige ansigtsmasker osv. – ting, der bliver solgt i dag online, som er farlige for forbrugerne, noget, vi ikke ville acceptere lå på hylderne i de fysiske butikker. Det er vigtigt at få gjort noget ved det, også når vi får revideret e-handelsdirektivet. Vi skal nemlig sørge for, at forbrugersikkerheden er i top, også når vi handler online, og derfor er jeg også glad for, at den betænkning, vi har lavet i IMCO, lige præcis lægger vægt på dette. Forbrugerne skal være lige så sikre, når de handler online, som når de handler offline.

Det er også vigtigt – og det sender vi også et signal om i betænkningen – at de virksomheder, som vil sælge varer til de europæiske forbrugere, selv om de kommer uden for Europa – altså virksomhederne – skal overholde de europæiske regler. Hvis de vil have glæde af det europæiske marked, så skal de overholde det, og vi skal sørge for, at det kan ske. Og så synes jeg også, at det er vigtigt at understrege, at forbrugerinformation også er et centralt punkt, når folk handler og agerer online. Vi skal sørge for, at virksomhederne informerer forbrugerne, hvis et produkt bliver fjernet fra deres platform. Så det der sker offline på det almindelige marked i dag, skal i virkeligheden også være noget vi overfører til onlinevirksomhederne i fremtiden. På den måde kan vi sikre, at forbrugerne kan være trygge, og jeg ser frem til, at Kommissionen også tager det med i den kommende lovgivning.

  Karen Melchior, for Renew-Gruppen. – Tak fru formand og fru kommissær! Kære kolleger! Jeg taler til jer fra Europa-Parlamentets hus her i København. Jeg vil først spørge jer: Kan I huske de gode gamle dage helt tilbage i 2010, dengang vi stadig troede på, at det nye og fantastiske internet af sig selv ville åbne og demokratisere den offentlige debat, give alle mulighed for at komme til orde, gøre underkuede befolkninger i stand til at organisere sig og vælte diktatorer. De dage kan jeg godt huske. En drøm om et åbent internet for en åben og fri verden. Men sådan blev det desværre ikke. Vi tog fejl!

En stor del af den offentlige debat er flyttet til de online platforme, og det har givet dem en enorm indflydelse på vores demokrati – og desværre nok ikke for det bedre. Vi har set, hvordan platformenes forretningsmodel har gødet jorden for konspirationsteorier og polarisering, fordi det netop er den type indhold, der skaber interaktion og får dig til at blive bare lidt længere. Det er ikke en forretningsmodel, der har vores offentlige debat og demokratiets velvære for øje. Derfor er vi nødt til at lovgive og stille krav til platformene. For det første skal platformene være gennemsigtige og åbne for samfundets kontrol. Platformene skal have regler for og løbende evaluere deres retningslinjer for indhold og indgå i en dialog om dem. For det andet skal platformene ikke blive til censurmaskiner med brug af uploadfiltre. Fjernelse af ulovligt indhold skal ske efter en transparent proces og med menneskelig kontrol, selvfølgelig med undtagelse af klart ulovligt materiale som opfordringer til terrorisme. For det tredje og sidste skal ansvaret for at afgøre tvister mellem brugere og platform ikke ligge hos platformene selv. Vi sætter heller ikke ræven til at vogte gæs! Onlineplatforme har givet os utallige muligheder, men vi skal adressere de udfordringer, de stiller os overfor og tackle udfordringerne rigtigt. Og det er akkurat det, Retsudvalgets betænkning handler om. Derfor skal vi turde stille krav til platformene med størst magt.

Som Pippi Langstrømpe ville have sagt: Når man er ekstra stor, har man en ekstra forpligtelse til at være fair over for andre. Jeg håber, Kommissionen lytter og vælger at følge vores anbefalinger, for så er europæerne et skridt nærmere et mere frit og et mere åbent internet. Tak for ordet!

  Gilles Lebreton, au nom du groupe ID. – Madame la Présidente, l’intelligence artificielle est une chance à saisir car elle va améliorer l’efficacité de la plupart des activités humaines. Elle est aussi une formidable source d’emplois et de développement économique, notamment pour les start-up et les petites et moyennes entreprises.

Il faut toutefois être vigilant, car elle peut également constituer un danger. C’est pour y faire face que les trois rapports Voss, García Del Blanco et Séjourné ont été rédigés. Globalement, ces trois rapports ont atteint leur objectif en exigeant que l’intelligence artificielle reste toujours sous contrôle humain pour en éviter les éventuelles dérives les plus liberticides.

J’approuve particulièrement le rapport Voss, qui a le mérite d’éviter toute centralisation excessive en demandant de confier les dommages causés par l’intelligence artificielle aux régimes nationaux de responsabilité civile pour faute. Ce n’est, à juste titre, que pour les systèmes d’intelligence artificielle à haut risque qu’il préconise un nouveau régime de responsabilité reposant sur l’obligation faite à leur déployeur de souscrire une assurance responsabilité civile, afin de garantir à leurs victimes d’obtenir une indemnisation.

Tout n’est cependant pas parfait et je déplore notamment que certains rapports persistent à envisager la création d’une nouvelle agence européenne dédiée à l’intelligence artificielle. De mon point de vue, il y a déjà trop d’agences.

Je regrette aussi que le rapport García Del Blanco envisage d’utiliser l’intelligence artificielle pour censurer les discours de haine et les fausses informations: ce sont des incriminations trop floues qui ouvriront la voie à des abus à l’encontre de la liberté d’expression. Il faudrait les préciser, en dégageant par exemple l’infraction d’incitation au terrorisme islamiste.

Enfin, en ce qui concerne le rapport Wölken sur les services numériques, j’approuve ses principales orientations, notamment l’idée que la légalité des contenus générés par leurs utilisateurs doit être déterminée par une autorité judiciaire nationale et non par une entité commerciale privée. J’approuve aussi le principe du respect de la liberté d’expression des utilisateurs des plateformes, ainsi que la volonté de lutter contre les formes de publicité ciblée les plus intrusives.

En définitive, je suis heureux d’avoir contribué à élaborer ces quatre rapports et remercie les rapporteurs d’avoir retenu certaines de mes suggestions.

  Sergey Lagodinsky, im Namen der Verts/ALE-Fraktion. – Frau Präsidentin! Die Bundesregierung hat gerade einen Chat—Bot vorgestellt, der uns allen in diesen schwierigen Covid—Zeiten Orientierung bieten sollte – ein Beispiel für künstliche Intelligenz im Kleinen.

Ich habe den Bot gerade ausprobiert und eine Sache festgestellt: Eine normale menschenähnliche Kommunikation ist abseits von Stichwort—Bingo nicht möglich. Ein Chat-Bot der Bundesregierung ist natürlich kein Spiegelbild der atemberaubenden Entwicklungen, vor denen wir stehen, aber eines zeigt er deutlich: Es kann keine KI ohne Menschen als Schöpfer geben, aber auch ohne Menschen als Endadressaten.

Unsere Strategien für künstliche Intelligenz müssen menschenzentriert gedacht werden. Und mit diesen Berichten machen wir den ersten richtigen Schritt in diese Richtung. Wir schreiben menschliche Verantwortung für KI fest. Wir schreiben aber auch fest: Verantwortung für Menschen.

Die Intelligenz mag künstlich sein, aber nur mit echten, nicht künstlichen Grundrechten kommen wir weiter. Und deswegen begrüßen wir ausdrücklich, dass es im Bericht über die Ethik nicht nur um das Philosophieren über abstrakte ethische Grundsätze geht, sondern dies eine Grundlage ist für verbindliche europäische Regelungen und für Grundrechte.

Da, wo Algorithmen Schäden verursachen – und das begrüßen wir auch in dem anderen Bericht –, soll es nicht nur um Eigentum gehen, das geschützt wird, sondern auch um Persönlichkeitsrechte, um Menschenwürde, um Gleichheit. Wenn der Mensch den Chat—Bot der Bundesregierung nicht versteht, dann ist die Technologie gescheitert. Wenn der Mensch durch Algorithmen diskriminiert wird, dann ist die Technologie gescheitert. Wenn die künstliche Intelligenz das Habitat der Menschen bis zur Unkenntlichkeit verändert und unser Klima zerstört, dann ist die Technologie gescheitert. Und das ist kein Appel für Pessimismus, sondern für den Optimismus des Fortschritts. Das ist das wichtigste für uns.

Schließlich darf KI ohne eine grüne Bilanzierung nicht gedacht werden. Natürlich brauchen wir die KI für unseren grünen Wandel, aber wir können sie uns nicht vorstellen, ohne auf die Schäden der künstlichen Intelligenz zu schauen. In Frankfurt alleine entstehen 20 % der Energiekosten durch Rechenzentren. Internet verbraucht in Deutschland mehr an CO2—Kosten als Flugverkehr. Das müssen wir ändern, das müssen wir in die grüne Bilanzierung der KI hineinstellen – nur so kommen wir weiter. Keine KI—Technologie ohne Grundrechte und ohne Umweltschutz.

  Kosma Złotowski, w imieniu grupy ECR. – Szanowna Pani Przewodnicząca! Szanowna Pani Komisarz! Tworzenie regulacji prawnych w obszarze nowych technologii to wyścig z czasem. Innowacyjne systemy, które wymykają się standardowym definicjom, budzą ogromne nadzieje, ale także liczne społeczne obawy. Dlatego w centrum transformacji cyfrowej musi zawsze znajdować się człowiek, jego godność i prawa. Nie może on być traktowany jako nieświadomy, bierny użytkownik lub – co gorsza – wyłącznie jako źródło danych.

Pełne wykorzystanie potencjału rewolucji cyfrowej będzie możliwe tylko, jeśli właściwie i transparentnie zdefiniujemy szanse i zagrożenia, jakie niesie ze sobą pełna automatyzacja wielu dziedzin naszego życia. Żadna technologia nie jest jednak niezawodna. Zmiana istniejących przepisów w takich obszarach jak egzekwowanie odpowiedzialności za wypadki i awarie wywołane przez systemy oparte o sztuczną inteligencję jest konieczna. Proces dochodzenia roszczeń i odszkodowań musi być przejrzysty, a identyfikacja podmiotu odpowiedzialnego za wypłaty zadośćuczynienia nie może stanowić problemu.

Obowiązki w tym zakresie należy rozłożyć adekwatnie do zdolności do kontrolowania ryzyka przez producentów, operatorów i użytkowników systemów wykorzystujących sztuczną inteligencję. To bardzo istotne przy tworzeniu właściwych produktów ubezpieczeniowych, na przykład dla pojazdów autonomicznych. Jestem przekonany, że sprawozdanie pana posła Vossa dobrze definiuje wyzwania w tym obszarze i sugeruje właściwe rozwiązania prawne. Mam nadzieję, że Komisja przychyli się do naszej rekomendacji.

PRESIDÊNCIA: PEDRO SILVA PEREIRA
Vice-Presidente

  Emmanuel Maurel, au nom du groupe GUE/NGL. – Monsieur le Président, quel est, au fond, l’enjeu de ces différents textes dont nous discutons ce soir? La question est la suivante: peut-on reprendre le contrôle sur nos vies numériques ? Et est-il possible, est-on capable d’inventer un modèle européen qui soit différent de celui des États-Unis, où on remarque vraiment la recherche du profit à tout prix, et qui soit aussi différent du modèle chinois, où on voit bien que la technologie est mise au service de la surveillance de masse pour que la dictature perdure?

Je crois que c’est possible, à condition d’être respectueux d’un certain nombre de principes fondamentaux, d’être capable de fixer des limites et de fixer un cadre. Il y a au moins deux points sur lesquels nous pouvons, selon moi, aller plus loin.

Le premier, c’est celui de la reconnaissance faciale. Je partage les doutes qui ont été exprimés par les nombreuses organisations de défense des droits de l’homme, qui ont averti de l’utilisation de la vidéosurveillance pilotée par l’intelligence artificielle, qui va limiter de manière totalement disproportionnée les possibilités de mouvement anonyme et qui constitue une intrusion insupportable dans la vie privée avec, en plus, des risques, parce que l’IA est incapable d’éviter les erreurs d’identification fondée sur le genre, l’âge ou l’origine ethnique. C’est un vrai problème et il faut un moratoire européen sur la vidéosurveillance ou, en tout cas, sur la reconnaissance faciale.

Le deuxième point, c’est celui de la protection des consommateurs. Il faut veiller au respect de la propriété intellectuelle, ce qui n’est pas le cas aujourd’hui. Des plateformes comme Amazon ou Alibaba commercialisent des produits contrefaits. Près de deux tiers des produits aujourd’hui, selon le Bureau européen des consommateurs, sont des produits illégaux. Et là, l’Europe doit sévir, parce que ce n’est pas aux plateformes de déterminer ce qui est permis et ce qui ne l’est pas.

Enfin, permettez-moi, car je m’exprime depuis Paris, de vous dire qu’il faut absolument que les droits des citoyens, le respect de la dignité et le respect des droits humains soient assurés par les plateformes, pour que nous échappions à ce déferlement de haine numérique qui a abouti, avant-hier en France, à ce meurtre abominable d’un enseignant qui était réellement poursuivi par une fatwa. Cela fait aussi partie du débat sur la récupération de notre souveraineté numérique et le respect des droits des citoyens européens.

  Sabrina Pignedoli (NI). – Signor Presidente, onorevoli colleghi, innanzitutto ringrazio i relatori per il loro grande lavoro. Giustamente, il punto di partenza è una riflessione etica da cui devono scaturire leggi adeguate. Non possiamo permettere che la soglia etica dei sistemi di IA scenda sotto quella umana.

L'intelligenza artificiale porrà molte sfide. Uno scenario da valutare riguarda il suo uso improprio da parte di organizzazioni criminali e terroristiche. C'è il rischio che i software che gestiscono l'IA vengano sabotati o manomessi.

Sarebbe da ingenui pensare che il cybercrime e il terrorismo informatico non compiranno un salto di qualità con l'evolversi dei sistemi di intelligenza artificiale. Furto e contrabbando di dati, hackeraggio, violazione di copyright industriale, sabotaggio e presa in ostaggio di sistemi di IA. Non stiamo parlando di fantascienza, è già successo. Se da un lato dobbiamo proteggere i brevetti che gestiscono i sistemi, dall'altro lato sarà necessario rendere accessibili questi sistemi a chi conduce le indagini, come magistrati e forze di polizia.

Si è già visto in passato come le aziende detentrici di sistemi di criptaggio abbiano ostacolato o addirittura rifiutato l'accesso a chi indagava su gruppi terroristici e organizzazioni criminali. Voglio dunque che il testo della Commissione sugli aspetti etici dell'IA rappresenti il giusto equilibrio fra trasparenza dei sistemi, diritto alla riservatezza dei cittadini, necessità investigative per la lotta alle organizzazioni criminali e tutela del copyright.

  Geoffroy Didier (PPE). – Monsieur le Président, depuis l’assassinat sauvage d’un enseignant français, Samuel Paty, tué pour n’avoir fait que son métier, ce n’est pas seulement la France qui pleure, c’est le cœur épris de liberté de chaque individu qui saigne. Vendredi, ce sont les valeurs de notre civilisation européenne qui ont été poignardées. Des individus islamistes ont permis ce crime en dévoilant sur les réseaux sociaux le nom et l’adresse de l’enseignant. Un compte Facebook peut devenir une arme létale. Les GAFA ne peuvent plus regarder ailleurs et s’en laver les mains. L’Europe est la bonne échelle pour contraindre les GAFA. Je saisis donc la Commission européenne de trois mesures concrètes.

Je propose que les comptes sociaux recueillent, à chaque ouverture d’un compte, une copie de la carte d’identité de son titulaire. Je crois à la possibilité d’utiliser des pseudonymes sur internet, mais il faut que la personne puisse être identifiable en cas de violation de la loi.

Je propose que chaque réseau social soit contraint d’afficher sur sa page d’accueil un lien vers une pré-plainte en ligne, lorsqu’il y a lieu, pour créer une véritable capacité de riposte des victimes.

Je propose, enfin, un nouveau statut pour les réseaux sociaux car il est indécent qu’ils se réfugient derrière leur statut d’hébergeur pour, en fait, s’exonérer de leur responsabilité. Demain, avec ce nouveau statut, ils pourront être considérés comme complice au regard de la loi en cas d’inertie ou de refus de coopérer.

Le temps des petites bougies et des grands discours est terminé. Ce que je propose, c’est une offensive européenne contre la haine sur internet. Nous ne rendrons pas la vie à Samuel Paty, mais l’action n’est plus une option, sinon nous disparaîtrons.

  Sylvie Guillaume (S&D). – Monsieur le Président, notre débat sur les textes qui préfigurent la législation sur les services numériques (DSA) a en effet lieu dans un contexte bien particulier aujourd’hui, à la suite de l’attaque terroriste islamiste survenue vendredi en France.

La liberté d’expression défendue par ce professeur de collège lui a valu une mise à mort atroce organisée par des obscurantistes. Les réseaux sociaux ont manifestement tenu un rôle fondamental dans cet attentat, puisque s’y sont épanouis des appels à la haine. Certes, les contenus préjudiciables et les incitations à la haine sur internet ne sont pas exactement notre sujet aujourd’hui, mais comment ne pas avoir en tête cette question hautement sensible des outils dont on se dote – ou pas – pour défendre les libertés fondamentales tout en combattant les criminels?

Aujourd’hui, les textes portent sur l’acte sur les services numériques. Ils énoncent des pistes d’amélioration sans précédent pour combler les lacunes actuelles de l’environnement en ligne et établir un internet plus sûr pour ses utilisateurs. Je note particulièrement le principe selon lequel ce qui est illégal hors ligne doit également être illégal en ligne, mais aussi un mécanisme contraignant de notification et d’action pour lutter contre les contenus illégaux en ligne, tout en protégeant les droits fondamentaux des utilisateurs.

Le texte de mon collègue, Alex Agius Saliba, ambitionne de garantir une meilleure protection des consommateurs en ligne en rendant les places de marché en ligne plus responsables. Celles-ci devront dévoiler l’identité de leurs vendeurs, couvrir toutes les entités qui proposent des services et des produits aux consommateurs, y compris lorsqu’elles sont établies en dehors de l’Union. Elles devront retirer les produits identifiés illégaux mais aussi ceux identifiés comme dangereux dans les 48 heures après notification, et informer les consommateurs de tout problème de sécurité. C’est un premier pas plus que nécessaire au vu des problèmes rencontrés, notamment dans le contexte de crise sanitaire actuelle.

  Liesje Schreinemacher (Renew). – Voorzitter, soms ben je weleens op zoek naar een nieuwe oplader of een cadeautje voor je jarige neefje. En dan kom je online spullen tegen voor zulke lage prijzen dat je je afvraagt hoe dit zo goedkoop kan zijn. Het is bijna te mooi om waar te zijn. En dat is het ook!

Meer dan twee derde van de producten die op buitenlandse onlinemarktplaatsen worden gekocht, zijn illegaal of voldoen niet aan de Europese veiligheidsvereisten. Hun producenten zijn meestal niet gevestigd binnen de EU, waardoor consumenten ook nog eens met hun klacht naar het buitenland moeten. En nu we online werken, leren en winkelen, groeit de elektronische handel in Europa hard. Dat is goed, maar het is wel belangrijk dat mensen op de kwaliteit en veiligheid van hun producten aan kunnen, zeker omdat onze Europese marktplaatsen en producenten zich – een uitzondering daargelaten – wél netjes aan de regels houden.

Ik ben dan ook blij dat de Europese regels voor de onlinedienstverlening worden herzien zodat consumenten beter worden beschermd en onze bedrijven niet op achterstand blijven staan. Dat betekent ook dat als je actief bent in de EU, je een aanspreekpunt in de EU moet hebben wanneer producten of diensten niet voldoen aan de Europese normen. Kortom, ook buitenlandse bedrijven moeten zich op onze markt aan onze regels houden.

Door de coronacrisis hebben we ook het potentieel van nieuwe technologieën gezien. Zo helpt artificiële intelligentie artsen bij de zoektocht naar een vaccin en het monitoren van patiënten. Willen we AI op grotere schaal gaan gebruiken, dan is vertrouwen van mensen en bedrijven daarvoor cruciaal. Daar kunnen duidelijke en transparante regels bij helpen.

Gelukkig is AI niet nieuw en wordt dit al door verschillende wetten gereguleerd. Ik pleit er dan ook voor dat we bij de introductie van nieuwe regels ervoor zorgen dat die regels in verhouding staan tot de impact van de toepassing. Want een slimme thermostaat voor de verwarming in huis is nu eenmaal niet te vergelijken met een algoritme dat nepnieuws via sociale media verspreidt. De digitale markt is bij uitstek een internationale markt en onze ontwikkelaars moeten wat mij betreft de ruimte krijgen om onze Europese ambities waar te maken.

  Alessandra Basso (ID). – Signor Presidente, onorevoli colleghi, ringrazio la sede di Milano per questo collegamento. Il DSA dovrebbe rafforzare il regime di responsabilità e sicurezza delle piattaforme Internet dei servizi e dei mercati online e di tutela dei consumatori, considerando anche la possibilità di regolamentare in modo più rigoroso le pubblicità che si basano sullo studio dei comportamenti, favorendo forme meno intrusive e che non richiedano un'ampia tracciabilità dell'utente rispetto ai contenuti che visualizza.

Il provvedimento in votazione chiede che il pacchetto DSA includa anche una proposta che imponga obblighi ex ante alle grandi piattaforme che hanno un ruolo di gatekeeper. L'obiettivo è quello di impedire monopoli e di aprire il mercato a nuovi operatori.

Inoltre, nel testo finale, vi è un riferimento esplicito all'obbligo di utilizzo dello strumento di opt-in anche per le pubblicità politiche. Questo può essere utile nel caso di pubblicità di prodotti o servizi, ma la pubblicità politica non è un servizio né un prodotto e ciascuno Stato membro ha la propria legislazione specifica in ambito di pubblicità politica, per cui questo riferimento per noi è inaccettabile.

Un altro punto in contestazione è stata l'idea della creazione di una nuova agenzia europea di vigilanza dotata di poteri di indagine e di esecuzione. Il compromesso per fortuna ha portato alla cancellazione della proposta iniziale, ma permane un forte accentramento del sistema di supervisione e controllo in capo all'Unione europea a danno della sovranità dei singoli Stati, che deve invece rimanere intatta.

Ritengo poi che sia stato mal contestualizzato il riferimento in materia di e-speech, di disinformazione e di fake news.

  Marcel Kolaja (Verts/ALE). – Mr President, I’d like to thank the rapporteur, Mr Saliba, for his work on the Committee on Internal Market and Consumer Protection (IMCO) report on the Digital Services Act (DSA) report, that gives clear political guidance on the Digital Services Act.

With this report, Parliament calls for an active, unified notice and action system, while insisting that the final decision about the illegality of content remains with the courts. This also means that there will be safeguards against notices in bad faith. People will also have the possibility to better understand the reasons why their content was removed and contest removals in an out—of—court dispute settlement mechanism.

At the same time, Parliament calls for interoperability rules that can help SMEs, start—ups or volunteer projects to provide alternatives to dominant platforms. However, transparency on removals, the possibility to contest removals and the possibility to choose alternative services is not enough because, if at the same time we encourage online platforms to use automated filters, we cannot ensure that completely legal speech doesn’t get systematically removed. The internet needs to remain a place where people can share time—sensitive information, have an open public debate or promote their products at the time of their choice, and this cannot be guaranteed with automated filters in place.

We ask the Commission to take these points into account in the upcoming legislation. I apologise that I cannot stay longer for the debate because of other commitments I have.

  Eugen Jurzyca (ECR). – Vážený pán predsedajúci, smernica o elektronickom obchode je platná už dvadsať rokov, takže mnohé princípy sa zrejme osvedčili. Napriek tomu diskutujme, ktoré nové európske pravidlá sú potrebné od oblasti online trhovísk až po dezinformácie.

Často hovoríme o prínosoch pre ochranu spotrebiteľa, ale nepovieme už to, aké náklady vzniknú spotrebiteľovi. Napríklad zakázať cielenú reklamu znie super. Aký to bude mať ale dopad na spotrebiteľa? Niektoré analýzy tvrdia, že príjmy vydavateľov pri zákaze cielenej reklamy klesnú o viac ako 50 %. Mne z toho vyplýva, že nielen služby, ktoré sú dnes kvázi zadarmo, budú platené, ale aj rôzne ďalšie služby môžu zdražieť. Musíme pri každom návrhu vedieť aj to, aké všetky náklady vzniknú spotrebiteľovi.

Preto je dobré, že sa do správy podarilo zaradiť, aby boli pravidlá prijímané s ohľadom na celkový dopad na spotrebiteľa (consumer welfare). Ak sa budeme tohto pravidla držať, verím, že pomôžeme nielen spotrebiteľovi, ale aj celému európskemu digitálnemu trhu.

  Kateřina Konečná (GUE/NGL). – Pane předsedající, jsem ráda, že se zde bavíme o tématu, které se bude tak významným způsobem podílet na podobě budoucího světa a Evropy – umělé inteligenci. Pronikání systémů umělé inteligence do výroby, služeb a všech odvětví hospodářství je nedílnou součástí průmyslové revoluce 4.0, která bude mít zásadní a širokosáhlé dopady. V konečném důsledku se nebude jednat o změnu technologickou, ale o komplexní proměnu kyberneticko-fyzicko-sociální. Rozvoj umělé inteligence bude mít dopad na celou společnost a na všechny součásti našich životů.

Umělá inteligence není pouze robot, jak bychom si mohli představit na základě hry Karla Čapka a sci-fi, ale také software – zjednodušeně algoritmus, což není často zcela zřejmé a může to způsobit problémy s důvěryhodností. Je přitom zcela zásadní, aby se v Evropě užívané systémy těšily zasloužené důvěryhodnosti i na základě dodržování principu legality a předpisů a etických zásad.

Dnes jistě mnohokrát zaznělo a ještě zazní, že musíme vytvořit rovnováhu – musíme mít jasná pravidla, avšak nesmíme přílišnými restrikcemi zničit šance evropských firem na trhu. S tímto přístupem lze samozřejmě částečně souhlasit. Také preferuji, abychom v Evropě využívali evropské systémy a technologie a stali se pomyslnými šampiony na světovém trhu. Ovšem nikdy se tak nesmí stát na úkor ochrany evropských spotřebitelů. Domnívám se, že je nutné, aby se v Evropské unii vyvíjely, zaváděly a používaly systémy umělé inteligence pouze, pokud dodržují etické zásady týkající se respektování lidské autonomie, předcházení újmám, spravedlnosti a vysvětlitelnosti.

Čtvrtá průmyslová revoluce nám nedává lehké výzvy, ale je nutné se s nimi co nejdříve popasovat. Platí totiž to, že každá příležitost je zároveň potencionální hrozbou, a v sázce je skutečně mnohé.

  Clara Ponsatí Obiols (NI). – Mr President, last July, the Guardian reported that many Catalan politicians, among them collaborators of MEP Carles Puigdemont i Casamajó, are being spied on illegally through Pegasus, a software that operates through WhatsApp and sells only to governments.

Since the confirmation that the Spanish Government uses Pegasus to illegally spy on political opponents, there has been no judicial investigation and no one has resigned over this scandal. After all, in Spain, using illegal means, including censorship of web pages, is a routine practice to prosecute Catalan dissidents.

What did the European Commission have to say about this scandal? Nothing. They feel they have the right to preach about fundamental rights all over the world: in Russia, in Belarus and even in the US, but when the abuse happens inside the EU, they selectively use the internal matter mantra and when it applies to Spain violating laws, the Commission is embarrassingly blind.

The Digital Services Act must prevent companies and governments that collude to store data illegally and must also punish Member States that abuse digital technology against citizens.

  Andreas Schwab (PPE). – Herr Präsident, Frau Vizepräsidentin, liebe Kolleginnen und Kollegen! Zunächst einmal möchte ich den Berichterstattern gratulieren zu den verschiedenen Berichten, die wir heute besprechen. Und im Kern, Herr Präsident, geht es um eines: Es geht darum, dass Unternehmen in Europa praktikabel und einfach arbeiten können und dass wir einen fairen Markt in Europa herstellen, auf dem europäische Anbieter genauso wie nichteuropäische Anbieter in ordentlicher Weise miteinander im Wettbewerb stehen.

Am ersten Prinzip wird das am einfachsten deutlich. Der Kollege Kris Peeters hat es vorher schon gesagt: Was illegal ist – was politisch entschieden wurde, dass es illegal ist – muss auch im Internet illegal sein. Die Entscheidung, was illegal ist, trifft die Politik – die können nicht die Plattform treffen. Das durchzusetzen, wird eine entscheidende Frage sein, die wir mit dem Digital Services Act angehen wollen.

Zum Zweiten, Herr Präsident: Natürlich lehnen wir gemeinsam in allen Berichten eine allgemeine Kontrolle der Nutzer auf Plattformen ab. Die Freiheit ist ein Kernprinzip des European Way of Life, den wir als EVP-Fraktion mit besonderem Nachdruck verteidigten.

Drittens, liebe Kolleginnen und Kollegen: faire Märkte. Der Kampf gegen Oligopole oder Monopole ist ein Kernprinzip der sozialen Marktwirtschaft, das im digitalen Umfeld leider ein Stück weit in Schieflage geraten ist.

Dies zu verteidigen, wird die Aufgabe des Europäischen Parlaments sein, der wir uns mit diesen Berichten gemeinsam verschreiben. Und deswegen, Herr Präsident, hoffe ich, dass der Bericht des Binnenmarktausschusses genauso wie der der anderen Kollegen morgen eine breite Mehrheit findet.

  Maria-Manuel Leitão-Marques (S&D). – Senhor Presidente, a inteligência artificial é uma palavra na moda. Alguns maravilham-se com os seus poderes, outros ficam apavorados. A verdade é que ela tanto pode servir para o diagnóstico de um cancro complexo, para prever diabetes, como esses mesmos dados permitirem seleção discriminatória por parte das empresas privadas, por exemplo, seguradoras. Qual destes dois extremos proliferará depende da nossa capacidade de encontrar a regulação adequada que, sem travar a inovação, dê confiança necessária aos cidadãos.

Este Parlamento apresentou, hoje, aqui, o seu contributo ao defendermos uma abordagem ética by design para a inteligência artificial. Pretendemos garantir que as suas aplicações são centradas nas pessoas e contribuem para o bem da Humanidade. Contudo, a ética já não é suficiente e, por isso, também discutimos hoje outros aspetos da regulação, desde a certificação à responsabilidade, para garantir que eventuais danos da inteligência artificial sejam mitigados e compensados, aos standards e à harmonização para termos um mercado único de serviços digitais a funcionar.

Num mundo de superpotências que usam a tecnologia como instrumento de poder estratégico, a Europa não pode recuar, Sra. Comissária, e ficar a ver passar a onda da inteligência artificial.

O Parlamento está aqui para garantir que faremos como a União sempre faz: desenvolve a inovação de ponta, mas no respeito pelos nossos valores básicos e pelos direitos do consumidor.

  Moritz Körner (Renew). – Herr Präsident, Frau Vizepräsidentin! Wir beraten heute über den Digital Services Act und wollen damit neue Regeln für die Digitalisierung setzen. Wir wollen die Freiheit im Internet schützen, Chancen, Innovationen nutzen, aber auch negative Effekte wie hate speech und fake news ansprechen.

Ich glaube ganz konkret, wenn wir in meinen Bericht, in den LIBE-Bericht, mit reinschauen, an dem ich mitschreiben durfte – ich bedanke mich auch bei dem Berichterstatter, Herrn Peeters –, haben wir dafür gesorgt, dass es mehr Transparenz gibt bei den Algorithmen, dass user mehr Möglichkeiten haben sollen, tatsächlich mitzubestimmen, was sie an Inhalten sehen, dass wir klare Regeln haben für notice und takedown und dass wir auch klarmachen – das haben schon viele gesagt – was illegal ist, das entscheiden auch im Internet Gerichte und das entscheidet am Ende nicht die Plattform.

Aber was allen drei Berichten auch gemeinsam ist – und ich finde, das ist ein wichtiges Zeichen –, alle drei Berichte sprechen sich klar gegen Uploadfilter aus, gegen jede Filterpflicht de jure und de facto. Ich finde, das ist ein gutes Zeichen, denn damit emanzipiert sich dieses Parlament heute auch ein Stück weit von einer Entscheidung der letzten Periode zu Artikel 13. Ich weiß, lieber Axel, da sind wir anderer Meinung, aber ich glaube, das setzt auch ein gutes Zeichen an all die jungen Leute da draußen, die auf den Straßen waren, die enttäuscht waren über die Entscheidung des Parlaments, aber die jetzt auch sehen, es macht Sinn, sich einzubringen in diese europäische Demokratie, weil wir diese Dinge auch wahrnehmen, aufnehmen und verbessern. Und das, finde ich, ist heute ein starkes Zeichen.

Aber wir setzen jetzt viele wichtige Regeln oder wir wollen viele wichtige Regeln mit diesem Digital Services Act setzen. Aber wir sollten auch mal daran arbeiten, dass wir in Europa besser werden, nicht nur Regeln aufzustellen, sondern sie auch durchzusetzen. Das sehen wir doch bei der Datenschutzgrundverordnung: Wir haben uns tolle Regeln einfallen lassen, und am Ende halten sich die großen Plattformen immer noch nicht daran.

Wir sollten also auch beim Digital Service Act ein besonderes Augenmerk darauf legen, kluge, richtige, realistische Regeln zu setzen, und wir sollten vor allem darauf achten, diese Regeln auch in Europa durchzusetzen. Darum geht es.

  Christine Anderson (ID). – Herr Präsident! Der Digital Services Act soll also das Patentrezept der EU sein, um Online-Plattformen an die Leine zu legen. Allerdings gibt es auch hier erhebliche Risiken und Nebenwirkungen.

Eine Nebenwirkung sind zum Beispiel die sogenannten Faktenchecker. Das Problem ist nur: Faktenchecker checken keine Fakten, sie checken Inhalte auf die richtige – politisch gewünschte – Gesinnung. In der Frankfurter Allgemeinen Zeitung wurde dazu treffend bilanziert – ich zitiere: „Das von Facebook als Anti-Fake-News-Brigade angeheuerte Journalistenbüro Correctiv sollte an sich dieselben Maßstäbe anlegen, die es an andere anlegt, auf keinem Auge blind sein und nicht nur in eine Richtung recherchieren.“

Der nächste Schritt zum Orwellschen Wahrheitsministerium sind die sogenannten Uploadfilter, die bewirken, dass politisch nicht erwünschte Meinungen gar nicht erst veröffentlicht werden. Wie das geht, haben wir letzte Woche in den USA bereits sehen können: Offenbar ist Präsidentschaftskandidat Joe Biden in einen handfesten Korruptionsskandal in der Ukraine verwickelt, was die New York Post in einer Veröffentlichung thematisieren wollte. Weil aber nicht sein kann, was nicht sein darf, wurde besagter Artikel auf Facebook und Twitter kurzerhand mittels Uploadfiltern blockiert. Und so erfährt die Welt eben nichts von Bidens Korruptionsskandal. Und da kann man wirklich nur hoffen, dass Trump tatsächlich wiedergewählt wird. Ich wünsche ihm jedenfalls dazu viel Erfolg.

Artikel 5 des Grundgesetzes garantiert die Meinungsfreiheit und sagt unmissverständlich: „Eine Zensur findet nicht statt.“ Aber eine Union, die die Verfassung ihrer Mitgliedsstaaten derart mit Füßen tritt, ist nicht nur nicht demokratisch, sie ist antidemokratisch, diktatorisch und totalitär. Als Deutsche und als Verfechterin des deutschen Grundgesetzes sage ich: Wir brauchen keinen Digital Services Act, wir brauchen keine EU, wir brauchen einen Exit. Je eher desto besser! Exit jetzt!

  Kim Van Sparrentak (Verts/ALE). – Mr President, what you and I get to see on the internet is based on what gives big tech companies the highest profits for their shareholders. Their algorithms decide what we get to see, based on clicks, manipulation and micro—targeting.

But the Digital Services Act is our opportunity to rethink and reclaim our internet. We see now that extreme content is often promoted and queer content is sometimes censored by big platforms, but we have no way of holding platforms accountable for these decisions. We can only protect the freedom of speech and the freedom of information if we know what is actually happening online and we regulate the players who control it. Online platforms must be transparent about what they show to whom and why, but also about what they delete from the internet. Only then can we hold online platforms accountable. We need to take the internet back from big corporations and put it back into the hands of the people.

  Geert Bourgeois (ECR). – Voorzitter, inzake artificiële intelligentie zijn de VS, China en Japan al aan de spurt bezig, terwijl de EU zich nog op gang moet trekken. We hebben te weinig innovatie, te weinig starters en ook te weinig octrooien. Daarom, mevrouw de vicevoorzitter, moeten wij massaal investeren in onderzoek. Wij zien onze beste onderzoekers en onze beste studenten weggehaald worden door het buitenland.

Stel concrete doelstellingen inzake het aantal te behalen octrooien, inzake starters en inzake implementatie van AI door bestaande bedrijven. Reguleren, collega’s, ja. Maar onderzoek van het Duitse Bondsministerie heeft aangegeven dat 60 % van de implementaties zonder risico is. Voor de overige 40 % bestaat al sectorreglementering. Het is dus zaak doelgericht te reglementeren en burgers en consumenten te beschermen, maar de ontwikkeling niet af te remmen.

  Sandra Pereira (GUE/NGL). – Senhor Presidente, hoje debatemos, com pertinência e atualidade, a inteligência artificial, os seus impactos no presente e a forma como pensamos que deverá impactar o futuro das nossas sociedades.

Se é certo que é pertinente que se discutam as questões éticas associadas ao desenvolvimento e produção de tecnologias de inteligência artificial, assim como as questões ligadas aos regimes de responsabilidade civil e a sua necessidade de adequação e adaptação às novas realidades, também é certo que, apesar de os documentos conterem alguns pontos positivos, esta discussão é feita num plano inclinado, um plano inclinado para o lado do capital, onde se visa, no essencial, desresponsabilizar os produtores e os fabricantes, onde as questões éticas se centram mais na promoção e desenvolvimento das tecnologias ligadas à guerra do que nos impactos da inteligência artificial na vida dos trabalhadores.

Num momento em que tanto se fala de desenvolvimento tecnológico, economia digital, inteligência artificial, indústria 4.0, para impor novos ataques aos direitos e a lei da selva nos horários de trabalho, mais importante se torna trazer a debate os impactos destes importantes avanços científicos e tecnológicos na vida dos trabalhadores.

A inteligência artificial e a robótica contribuem para incrementar a produtividade social do trabalho humano. O aumento da produtividade cria as condições para o aumento real dos salários e para uma vida melhor, mas essa potencialidade é permanentemente posta em causa na sociedade capitalista em prol da defesa e aumento dos lucros.

É nestes momentos que é necessário tomar partido. Queremos colocar as potencialidades da ciência e da tecnologia ao serviço do progresso e da justiça social ou, pelo contrário, ao serviço apenas da exploração e da acumulação de lucro de uma minoria.

Direitos dos trabalhadores e avanços científicos são aliados, não são inimigos, mesmo que os segundos sejam utilizados tantas vezes como ferramenta de pressão e de chantagem do patronato. A inteligência artificial tem de ser uma aliada da redução do horário de trabalho, do combate à precariedade e à penosidade do trabalho, sem que isso signifique perda de rendimentos para os trabalhadores. Tem de ser aliada na melhoria das condições de trabalho e de vida. É este o debate que trazemos e é nele que estamos empenhados.

  Λευτέρης Νικολάου-Αλαβάνος (NI). – Κύριε Πρόεδρε, οι νέες ψηφιακές τεχνολογίες και η τεχνητή νοημοσύνη συνιστούν σύγχρονους δρόμους εκτίναξης της κερδοφορίας των μονοπωλίων. Είναι σφοδρές οι αντιπαραθέσεις ευρωπαϊκών ομίλων με άλλους —κυρίως κινέζικους και αμερικανικούς— για την κυριαρχία στην αγορά, πάνω στο αβέβαιο έδαφος της καπιταλιστικής κρίσης. Τα ευρωπαϊκά μονοπώλια πριμοδοτούνται με δεκάδες δισεκατομμύρια ευρώ, από το Ταμείο Ανάκαμψης και το Πολυετές Δημοσιονομικό Πλαίσιο, που αποτελούν όλα χρήμα από τον μόχθο των λαών, για να βγουν κερδισμένα τα μονοπώλια.

Τα περί αυτοελέγχου των ομίλων, σεβασμού δικαιωμάτων, προσωπικών δεδομένων και ηθικής χρήσης των πληροφοριών που συγκεντρώνονται, μόνο με ανέκδοτο μοιάζουν. Η εντεινόμενη λογοκρισία αναρτήσεων —με ή χωρίς αλγόριθμους— ενάντια δήθεν στη ριζοσπαστικοποίηση αποδεικνύει ότι το καθεστώς των νέων τεχνολογιών υπαγορεύεται από τα συμφέροντα των ιδιοκτητών, δηλαδή από τους μεγάλους ομίλους που θησαυρίζουν.

Τα περί αποτροπής πολεμικών συρράξεων δεν πείθουν, καθώς ομολογείται ότι ήδη χρησιμοποιούνται νέου τύπου οπλικά συστήματα από το ΝΑΤΟ και την Ευρωπαϊκή Ένωση και γίνονται ιμπεριαλιστικές επεμβάσεις σε βάρος των λαών για την εξυπηρέτηση των γεωπολιτικών τους συμφερόντων, ενώ οι εκθέσεις προετοιμάζουν το έδαφος για να βγαίνουν λάδι σε κάθε περίπτωση τα μονοπώλια.

Στην κούρσα του ανελέητου καπιταλιστικού κέρδους, τα μεγάλα τεχνολογικά επιτεύγματα μετατρέπονται σε δεσμά, σε αύξηση της ανεργίας, της ανασφάλειας και της εκμετάλλευσης των εργαζομένων, όπως η τηλεργασία. Απογειώνεται το ευρωφακέλωμα, η μαζική συλλογή, αποθήκευση, επεξεργασία και εμπορία προσωπικών δεδομένων.

Πραγματική απελευθέρωση όλων των δυνατοτήτων τους μπορούν να εξασφαλίσουν μόνον οι σοσιαλιστικές σχέσεις παραγωγής, χωρίς εκμετάλλευση, μονοπώλια και καπιταλιστική κερδοφορία.

(O debate está suspenso.)