Ausführliche Sitzungsberichte

Mittwoch, 19. Mai 2021 - Brüssel

10. Digitale Zukunft Europas: digitaler Binnenmarkt und Einsatz von KI für europäische Verbraucher (Aussprache)

  Przewodnicząca. – Kolejnym punktem porządku dziennego jest sprawozdanie sporządzone przez Deirdre Clune w imieniu Komisji Rynku Wewnętrznego i Ochrony Konsumentów w sprawie kształtowania cyfrowej przyszłości Europy: usunięcie barier w funkcjonowaniu jednolitego rynku cyfrowego i lepsze wykorzystywanie AI z korzyścią dla europejskich konsumentów (2020/2216(INI)) (A9-0149/2021).

  Deirdre Clune, rapporteur. – Madam President, shaping the digital future, removing barriers to the functioning of the single market and improving the use of artificial intelligence for consumers – that’s what we’ve been working on for a number of months now and I want to thank my fellow shadows and their offices, and those committees who have contributed opinions to this report. We’ve had strong cooperation, resulting in a balanced report that clearly identifies areas we believe can and should be acted on to improve the functioning of our single market in the digital area.

The last 12 months and more have demonstrated to us the value of digitalisation and how it can contribute to bringing people together, to connecting businesses to consumers and connecting business to business. But we can do more to make our single market work better for citizens and businesses, make European SMEs, micro-businesses and larger companies more competitive, and improve their potential to compete globally.

As always, we need to remove unnecessary and unjustified barriers that occur at national level and emphasise the need for a strong European approach that gives certainty to enterprise. European companies should engage with an EU approach to regulation and not have to engage with 27 Member State approaches. This certainty will encourage entrepreneurs and others who want to expand and establish themselves in the European Union, as they will know that the EU is a place where they can do this. They know for sure what’s expected of them. There will be no barriers, no borders, just a market of 450 million citizens and the support of European regulation that provides legal clarity. European regulation that is trustworthy, fully compliant with fundamental rights, consumer protection rules, data protection rules and is non-discriminatory. These are the traits Europe has established for itself and as a leader worldwide, and the traits we also want to embed in our digital rules.

Of course, this approach is always essential for our public services that support our citizens, regardless of where they reside. As we continue to deal with COVID and the fallout from the pandemic, as we face our ambition of implementing the EU Green Deal, and as we reorganise our healthcare services, digitalisation and emerging technologies such as AI can and will contribute to reaching these objectives.

It is really encouraging to see that 25% of the EU rescue fund is going to be earmarked for digital and we must not waiver from that. Funding for SMEs, innovation and tech entrepreneurs is vital if we are to facilitate the development of the EU tech space that we so badly need.

If we look at our global competitors in the AI sector, like the United States or China, we can see that more private sector investment is encouraged there than it is here in the European Union. Yes, we have our InvestEU, our Horizon EU and other programmes, and these are enormously successful, but we must also introduce policies that leverage private sector investment in terms of venture capital or seed capital.

We need that private sector investment to ensure that we don’t have scale-ups for sale here in Europe, and we don’t have start-ups that will scale up in third countries. We want EU successes. I really welcome the Commissioner’s recent proposals to support artificial intelligence through regulation, proposals designed to encourage its use and, importantly, to encourage consumer confidence. AI has enormous potential to address many of the challenges that we face today in the healthcare sector, agriculture and transport, and in developing our smart cities. The list is endless and it does go on, but AI is not without its drawbacks or its risks, such as lack of transparency or traceability, or lack of human oversight, bias decision-making, etc. These need to be addressed through regulation.

We already have our data protection rules, privacy rules, non-discrimination rules, but we need to protect consumers as we do with product safety and liability. We need the same protection online as offline, but there are gaps and these need to be addressed. We need to inform consumers on the use of artificial intelligence, where it is being used and when they are engaging with it. Consumers have a right to be adequately informed in a timely and easily accessible manner where AI exists and the possible outcomes, how the system is established, is checked, how it can be contested and how it can be corrected. This is a very important position that we have reflected in our report today, because we believe that these criteria are essential if we want to encourage consumer confidence, and they will in turn feed into an ecosystem that allows AI products and technologies to develop.

There are risks with artificial intelligence; I don’t deny that. In some areas of operation, the risks will be higher than in others. And we want to see a risk-based regulatory approach that would regulate the highest risk and, as consequence, for lower risks we would have less regulation.

There must be the possibility to also prohibit harmful or discriminatory practice. We don’t want to see a binary approach to risk evaluation that could become quickly obsolete, but rather a forward-looking approach that is not application-specific but that gives certainty to developers, certainty to investors and indeed confidence to consumers.

So artificial intelligence and the future regulation that we are going to be dealing with in this House are important. It will send out a message that Europe can be a leader in this area, as we were with the General Data Protection Regulation. There are gaps. I think it’s another ideal opportunity to lead internally but also to lead on a global basis in terms of how we can deal with AI and boost confidence, both for consumers and for business.

  Nicola Beer, Verfasserin der Stellungnahme des mitberatenden Ausschusses für Industrie, Forschung und Energie. – Frau Präsidentin, Herr Kommissar! Unser Ziel ist ein starker europäischer Sektor bei künstlicher Intelligenz. Das braucht Rechtssicherheit und Entwicklungsperspektiven gleichzeitig. Die Lösung ist ein risikobasierter Regelungsansatz, der die Hochrisikoanwendungen in den Blick nimmt. Lassen Sie uns diese jetzt definieren, ohne europäische Wettbewerbsfähigkeit zu beeinträchtigen. Lassen Sie uns beflügeln, nicht behindern!

Vertrauen der Anwender schaffen wir mit Transparenzregeln. Jeder soll wissen, wenn er es mit KI zu tun hat, beispielsweise am Telefon. Und ferner investieren wir: aus Digital Europe und Horizon Europe jährlich eine Milliarde Euro in künstliche Intelligenz, um hoffentlich jährlich bis zu 20 Milliarden Euro zusätzliche Investitionen von Privaten und aus den Mitgliedstaaten anzustoßen. Aus der RRF des Wiederaufbaufonds kommen weitere 134 Milliarden Euro für die Digitalisierung dazu – das wird ein Wendepunkt in unserem Bestreben nach Technologieführerschaft.

Jetzt müssen wir dafür die Anwendungen von morgen entwickeln. Dazu braucht es auch Spielwiesen zum Experimentieren wie die Sandbox-Umgebungen. Rechtssicherheit und Vertrauen, Investitionen und Innovation – so sind wir fit für die Herausforderungen von morgen und übermorgen. Zum Schluss noch Dank an alle Kolleginnen und Kollegen für die konstruktive Zusammenarbeit. Ich glaube, wir haben ein gutes Ergebnis erreicht.

  Kosma Złotowski, autor projektu opinii Komisji Transportu i Turystyki. – Pani Marszałek! Panie Komisarzu! Rozwiązania oparte na zaawansowanych algorytmach i wykorzystujące możliwości sztucznej inteligencji będą odgrywać kluczową rolę w procesie modernizacji europejskiego systemu transportowego. Dotyczy to nie tylko automatyzacji transportu, ale także tworzenia inteligentnych systemów zarządzania ruchem w miastach oraz rozwiązań poprawiających bezpieczeństwo pojazdów i kierowców. Bez skorzystania z potencjału rewolucji cyfrowej osiągnięcie celów dotyczących wizji zero będzie praktycznie niemożliwe. Jedną z kluczowych barier dla praktycznego wdrożenia technologii opartych na sztucznej inteligencji w sektorze transportu jest brak jasnych i spójnych zasad określania podziału odpowiedzialności w przypadku awarii lub wypadku.

Wyzwaniem jest także zapewnienie komunikującym się ze sobą pojazdom i infrastrukturze odpowiedniego poziomu cyberbezpieczeństwa. Na tę kwestię musimy położyć szczególny nacisk w pracach nad rozporządzeniem w sprawie sztucznej inteligencji. Żeby tworzyć innowacyjne produkty i usługi w sektorach transportu i turystyki, europejskie przedsiębiorstwa potrzebują ogromnych zasobów danych cyfrowych. Powinniśmy stworzyć system zachęt dla państw członkowskich do swobodnego i bezpłatnego udostępniania danych publicznych, w tym danych wchodzących w zakres infrastruktury informacji przestrzennej, takich jak dane geodezyjne i kartograficzne. Tylko w ten sposób nasz potencjał w dziedzinie sztucznej inteligencji przyniesie realne korzyści gospodarcze.

  Sabine Verheyen, Verfasserin der Stellungnahme des mitberatenden Ausschusses für Kultur und Bildung. – Frau Präsidentin, Herr Kommissar, liebe Kolleginnen und Kollegen! Im Namen des Kulturausschusses möchte ich der Berichterstatterin für die gute Zusammenarbeit und das Aufnehmen vieler Aspekte des Kulturausschusses in den Bericht danken.

Dennoch bedaure ich sehr, dass es wohl gelungen ist, einen Verweis auf die Abschaffung des Geoblockings in den Bericht aufzunehmen, der nicht nur unangebracht ist, da der Bericht sich zum großen Teil eigentlich auf künstliche Intelligenz beziehen sollte, sondern auch offensichtlich auf falschen Annahmen basiert. Die Überprüfung der Geoblocking-Verordnung genauso wie auch Erhebungen in der Eurobarometer-Studie sehen keinen erhöhten Bedarf und keine erhöhte Nachfrage in diesem Bereich für den audiovisuellen Sektor, das Geoblocking aufzuheben. Auch die Evaluierung der Kommission zur Geoblocking-Verordnung kam zu dem Schluss, dass die vorliegenden Erkenntnisse eine Änderung des Anwendungsbereichs nicht rechtfertigen. Die Lizenzierung und legitime Geoblocking-Praktiken, die den digitalen Binnenmarkt im audiovisuellen Bereich in Europa untermauern, seien weiterhin voll und ganz gerechtfertigt.

Ich möchte die Kollegen auch nochmal daran erinnern, dass die Portabilitätsverordnung bereits hier einen guten Weg aufgezeigt hat, wie Zugänglichkeit zu audiovisuellen Inhalten geschaffen werden kann. Ich bitte also darum, auch in Zukunft die Kompetenz des Kulturausschusses im Bereich des …

(Der Präsident entzieht der Rednerin das Wort.)

VORSITZ: RAINER WIELAND
Vizepräsident

  Marion Walsmann, Verfasserin der Stellungnahme des mitberatenden Rechtsausschusses. – Herr Präsident, sehr geehrter Herr Kommissar, liebe Kolleginnen und Kollegen! Wie kann unsere digitale Zukunft so gestaltet werden, dass der Einsatz von KI für Verbraucher verbessert wird? Ich finde: erstens Rechtsklarheit schaffen. Das heißt für mich, Rechtslücken schließen, aber das Rad nicht neu erfinden. Die bestehenden sektorspezifischen Regelungen dürfen dabei nicht ausgehebelt werden. Zweitens: Produzenten und Nutzer brauchen einen verlässlichen, einen klaren und zukunftssicheren Rechtsrahmen für KI, der Innovation ermöglicht und vor diskriminierenden Anwendungen schützt. Drittens: Die auf KI beruhende Robotik und das Internet der Dinge müssen sicher sein. Die Zulassung von Produkten auf dem Binnenmarkt sollte deshalb von dem mit der Anwendung einhergehenden Risiko abhängen. Und – last, but not least – die KMU und die Start-ups brauchen Unterstützung bei der Nutzung von KI und bei der Herstellung von Produkten, die KI beinhalten. Wenn wir diese vier Punkte beachten, werden wir einen wichtigen Schritt in Richtung KI made in Europe gehen können.

  Annalisa Tardino, relatrice per parere della commissione per le libertà civili, la giustizia e gli affari interni. – Signor Presidente, signor Commissario, onorevoli colleghi, l'intelligenza artificiale è una delle sfide più importanti dei nostri giorni. Lo sviluppo di tecnologie e infrastrutture digitali europee deve consentire all'Europa di essere competitiva e ridurre la dipendenza nella fornitura dai paesi extra-UE, come la Cina.

Ma contestualmente dobbiamo dotarci di un quadro legislativo affidabile e sicuro che regoli l'impatto che l'intelligenza artificiale può avere sui diritti di tutti, dalla protezione dei dati personali alla sicurezza: tutela della privacy, della responsabilità civile, l'eventuale riconoscimento della personalità giuridica ai sistemi intelligenti sono solo alcuni dei temi.

In commissione LIBE abbiamo optato per un approccio antropocentrico, assicurandoci che si faccia sempre riferimento a un soggetto tradizionale, sia esso fisico o giuridico.

L'intelligenza artificiale sarà protagonista di un futuro più prossimo di quanto possiamo immaginare, in parte già presente nella nostra società. A noi il compito di decidere che ruolo riservarle.

  Margaritis Schinas, vice-président de la Commission. – Monsieur le Président, Madame la rapporteure, Mesdames et Messieurs les Députés, je tiens à vous remercier pour ce travail impressionnant et pour ce rapport qui arrive à point nommé. La pandémie n’a fait que confirmer l’importance du travail sur la priorité numérique, y compris l’intelligence artificielle; mais la pandémie n’est pas terminée et je suis persuadé que l’élan vers la numérisation va se poursuivre.

L’Europe est dans une position unique pour développer et utiliser les technologies numériques avancées, telles que l’intelligence artificielle, le big data et l’internet des objets, de manière ambitieuse, innovante et durable. L’intégration généralisée de ces technologies numériques est essentielle à la reprise économique de l’Europe. Notre devoir en tant que décideurs politiques européens est de faciliter et d’aider à accélérer ce processus. Pour ce faire, il faut supprimer les obstacles au marché unique numérique, donner aux gens les moyens d’utiliser une nouvelle génération de technologies à leur service, et remédier aux faiblesses stratégiques de nos infrastructures numériques.

Nous, à la Commission, nous sommes déterminés à faire de la décennie 2020 la décennie numérique de l’Europe. Nous voulons mener des politiques numériques qui renforcent l’autonomie des personnes et des entreprises et qui conduisent à un avenir numérique durable et prospère. Cette décennie numérique européenne doit reposer sur quatre points cardinaux: les talents, les infrastructures, la transformation des entreprises et la numérisation des administrations publiques. Pour chacun de ces quatre domaines, nous proposons aussi des objectifs chiffrés clairs à atteindre d’ici 2030, ainsi que des actions concrètes, y compris pour les PME et les start-ups. Après avoir écouté les parties prenantes, la Commission proposera un programme politique numérique et une déclaration solennelle de principes numériques. Nous comptons bien entendu sur le soutien et l’engagement de cette maison pour réaliser cette ambition.

Pour favoriser la transformation numérique, la Commission a déjà proposé d’importantes initiatives législatives qui sont sur votre table, telles que la législation sur les services numériques, la législation sur le marché numérique, une nouvelle stratégie européenne en matière de cybersécurité et l’acte sur la gouvernance des données. Elle a également noté que l’intelligence artificielle peut contribuer de manière stratégique et cruciale à ces objectifs. La clé pour débloquer les avantages de toutes ces données sera leur traitement grâce à des systèmes d’intelligence artificielle que nous allons proposer dans une nouvelle initiative législative, le Data Act, un peu plus tard cette année. Là encore, j’observe que nous partageons essentiellement les mêmes préoccupations.

Votre rapport souligne aussi que nous devons trouver un moyen de protéger les valeurs européennes, la sécurité, les droits fondamentaux et notre mode de vie européen, mais sans mettre en péril notre potentiel d’innovation. Vous soulignez aussi à plusieurs reprises l’importance de prendre en compte les besoins des PME. Le déploiement de l’IA par les seules grandes entreprises nous priverait effectivement en Europe de la plupart des avantages liés à ces technologies. Le paquet sur l’intelligence artificielle que nous venons de proposer le 21 avril dernier reflète exactement cette double approche, qui consiste à développer le potentiel de l’intelligence artificielle tout en s’attaquant aux problèmes que ces technologies peuvent causer.

La proposition de règlement sur l’IA est construite de sorte que tous les Européens puissent avoir confiance dans une gestion anthropocentrique de l’intelligence artificielle. Des règles proportionnelles et flexibles sont proposées pour répondre aux risques spécifiques posés par les systèmes d’IA dans certains contextes. Nous prévoyons également une définition technologiquement neutre et évolutive de la notion d’IA, dans la mesure où elle peut couvrir aussi des techniques et des approches qui ne sont pas encore connues ou développées. Elle interdit en outre l’utilisation des technologies d’intelligence artificielle particulièrement risquées, telles que la notation sociale. Pour le reste, elle est fondée sur une approche liée aux risques, puisqu’elle se concentre sur les cas d’utilisation de l’intelligence artificielle dits à hauts risques. Seuls ces cas doivent respecter un ensemble d’exigences spécifiquement conçues pour renforcer la transparence et réduire au maximum les risques pour la sécurité et nos droits fondamentaux.

Le plan coordonné publié conjointement à la proposition de règlement décrit quant à lui les politiques et les investissements nécessaires au niveau européen pour arriver à asseoir la prééminence européenne dans ce domaine. Nous visons à encourager les investissements des États membres et à stimuler les investissements privés, pour porter d’une manière progressive la totalité des investissement publics et privés dans le domaine de l’intelligence artificielle à hauteur de 20 milliards d’euros par an d’ici à la fin de la décennie. La Commission investira environ un milliard d’euros par an dans ce domaine, dans le contexte des programmes «Horizon Europe» et «Europe numérique» pour la période budgétaire des sept prochaines années, mais sans compter les investissements sur le programme de politique de cohésion, qui viendront s’ajouter à cette somme. Ces investissements visent à soutenir la recherche, l’innovation, les essais, l’expérimentation, le développement des compétences et l’utilisation de l’IA pour les PME.

L’Europe dispose de l’excellence en matière de recherche, d’une communauté de robotique dynamique et de secteurs industriels performants. Ensemble, ils contribuent à l’excellence européenne en matière d’intelligence artificielle et nous aident à profiter des avantages que ces technologies nous offrent. Enfin, nous avons inclus des mesures sur l’intelligence artificielle dans le domaine de la santé et sur le développement de l’intelligence verte.

Mesdames et Messieurs les Députés, permettez-moi de conclure en soulignant le rôle constructif que ce Parlement a joué, et sera encore amené à jouer, pour faire avancer cet ambitieux programme européen. Permettez-moi aussi de conclure en vous remerciant encore une fois pour votre travail impressionnant et en soulignant de plus combien nos approches sont convergentes et compatibles.

  Κωνσταντίνος Αρβανίτης, Εισηγητής της γνωμοδότησης της Επιτροπής Απασχόλησης και Κοινωνικών Υποθέσεων. – Κύριε Πρόεδρε, κύριε Επίτροπε, αγαπητοί συνάδελφοι, μας ικανοποιεί ιδιαίτερα η κοινή διαπίστωση ότι η ψηφιακή μετάβαση όχι μόνο δεν είναι το μέλλον, αλλά αντίθετα είναι το παρόν. Αν δεν την αντιμετωπίσουμε με τα εργαλεία που έχουμε στη διάθεσή μας, τότε θα έχουμε διαπράξει ένα πολύ μεγάλο λάθος. Είναι το φυσικό επακόλουθο της οικονομίας της πληροφορίας και ως τέτοιο πρέπει να συνοδεύεται από τα δικαιώματα. Να βελτιώνει τις εργασιακές συνθήκες και κυρίως να εξασφαλίζει τη μισθολογική αναβάθμιση, δηλαδή τη δίκαιη κατανομή της παραγόμενης υπεραξίας και του κόστους που εξοικονομείται από τις συνέργειες ανθρώπου και μηχανής, η οποία πρέπει να παραμένει, όπως είπαν και οι συνάδελφοι μου και ιδιαίτερα από τη LIBE, στην οποία επίσης είμαι μέλος, ανθρωποκεντρική, δηλαδή εργαλείο στα χέρια του ανθρώπου και όχι το εφιαλτικό αντίθετο.

Πρέπει να εξασφαλίζονται η προστασία των προσωπικών δεδομένων, η συνδικαλιστική παρουσία και δράση στο νέο ψηφιακό περιβάλλον, η δημοκρατία δηλαδή, η φορολόγηση πλατφόρμας και η εξάλειψη των διακρίσεων στην επιλογή των εργαζομένων. Ο αλγόριθμος είναι στόχος στην υπηρεσία του ανθρώπου, και όχι το εφιαλτικό αντίθετο. Μπορούμε να χτίσουμε τα θεμέλια για μια νέα πραγματικότητα. Πρόκειται για εξαιρετικά εργαλεία που δημιούργησε ο άνθρωπος, και ο άνθρωπος πρέπει να τα γευτεί.

  Иво Христов, докладчик по становището на комисията по земеделие и развитие на селските райони. – Г-н Председател, внедряването на изкуствения интелект носи очевидни ползи, но и ред предизвикателства. Изкуственият интелект не е поредната технологична революция, а мефистофелско изкушение – заложник, на което в бъдеще ще е самото ни съществуване като биологичен вид и човешко общество. Затова икономическите перспективи и конкурентният натиск не са достатъчен аргумент за бързото въвеждане на новите технологии.

Огромната пропаст между човешкото ни осъзнаване, от една страна, и големите технологични възможности, които вече притежаваме, от друга, крие рискове. Те изискват реално осмисляне не само с оглед интересите на бизнеса и потребителите, не само от икономисти и учени с технически профил, но и от хуманитаристи. Автоматизацията ще доведе до загуба на голям брой работни места. Цифровизацията създава нов тип дискриминация. Успехът на изкуствения интелект предполага адекватно образование, гарантирана защита на личните данни и най-вече набор от строги етични принципи, които защитават човека и биосферата.

  Maria da Graça Carvalho, relatora de parecer da Comissão dos Direitos da Mulher e da Igualdade dos Géneros. – Senhor Presidente, Senhor Comissário, quero antes de mais felicitar a relatora pelo excelente trabalho.

Acredito numa Europa digital que promova o mercado interno, com menos burocracia, seguido por altos padrões éticos centrados na pessoa humana.

Na qualidade de relatora do parecer da Comissão FEMM, considero que o futuro digital da Europa passa pelo envolvimento de todos, sem exceção. Isso implica reforçar o papel das mulheres como utilizadoras, investigadoras, engenheiras, técnicas e empreendedoras.

Atualmente, existe ainda um fosso no acesso à economia digital, que não prejudica apenas as mulheres, mas toda a Europa. Estamos a desperdiçar capital humano e isso afeta a competitividade europeia em face de outras economias.

É importante adotar medidas que contrariem essa realidade, tanto no plano da educação, como no emprego, nos financiamentos e na sensibilização da sociedade, em geral.

  Andreas Schwab, im Namen der PPE-Fraktion. – Herr Präsident, Herr Vizepräsident, liebe Kolleginnen und Kollegen! Der Bericht der Kollegin Deirdre Clune ist ein gelungener Beitrag, der zeigt, wie das Europäische Parlament Innovationen möglich machen soll durch die neuen Ideen künstlicher Intelligenz. Wir wollen die künstliche Intelligenz in der Europäischen Union fördern, und diese Förderung, liebe Kolleginnen und Kollegen, die kann nur gelingen, wenn wir im Binnenmarkt dafür einheitliche und die richtigen Grundlagen schaffen.

Im Einzelnen bedeutet das, dass wir ungerechtfertigte nationale Hindernisse beseitigen müssen. Gerade neue Ideen auch von kleineren und mittleren Unternehmen dürfen nicht mit Überregulierung im Keim erstickt werden. Mit Pauschalverboten einzelner Technologien müssen wir daher sehr vorsichtig sein, und hier unterscheidet sich der Bericht des Europäischen Parlaments sehr positiv von den jüngsten Vorschlägen, die wir von der Europäischen Kommission gesehen haben.

Zum Zweiten, liebe Kolleginnen und Kollegen, müssen wir Rechtsklarheit für Verbraucherinnen und Verbraucher und für Unternehmen schaffen – wir brauchen eine Regulierung für den gesamten Binnenmarkt. Damit robotergestützte Operationen oder Software, die Lebensläufe in einem Einstellungsprozess sortiert, nicht diskriminierend wirken, brauchen wir klare und einheitliche Regeln, die europäischen Maßstäben standhalten.

Und schließlich gilt es damit auch, Vertrauen zu schaffen, um sicherzustellen, dass künstliche Intelligenz und ihre Anwendungen nach unseren europäischen Standards funktionieren und im Interesse der Nutzerinnen und Nutzer, der Verbraucherinnen und Verbraucher einen Mehrwert bringen.

  Evelyne Gebhardt, im Namen der S&D-Fraktion. – Herr Präsident, liebe Kolleginnen, liebe Kollegen, lieber Herr Kommissar! Die künstliche Intelligenz erobert die ganze Gesellschaft. Die künstliche Intelligenz bietet großes Potenzial für die Gesellschaft, den Binnenmarkt, die Umwelt, findet sich in allen Bereichen unserer Welt. Und das gibt uns natürlich eine sehr große Verantwortung für das, was wir hier in diesem Bereich gestalten wollen.

Algorithmen steuern intelligente Staubsauger – da freuen wir uns natürlich sehr darüber –, aber sie locken auch Verbraucherinnen und Verbraucher zum Onlinekauf, treffen Entscheidungen in einer Personalabteilung oder über die Kreditwürdigkeit, ja, können sogar zur automatischen Massenüberwachung eingesetzt werden. Das sind dann die Probleme, an die wir herangehen müssen, um klarzumachen, dass wir eine Politik für die Menschen, im Sinne der Menschen, machen wollen, damit die positiven Potenziale dieser künstlichen Intelligenz genutzt werden können, aber gleichzeitig auch die Schäden, die dadurch entstehen können, auch tatsächlich eingegrenzt und verhindert werden. Das bedeutet, dass wir insbesondere die Verbraucherinnen und Verbraucher unterstützen müssen, schützen müssen, denn wenn ein Algorithmus fehlerhaft ist: Wie soll ein normaler Mensch – auch ich – überhaupt erkennen, woher die Probleme kommen, was der Grund für dieses Problem ist?

Wenn die Anwendungen von künstlicher Intelligenz dazu führen können, dass Grundrechte, Menschenrechte, Bürgerrechte angetastet werden, dann müssen wir auch an das Mittel des Verbotes herangehen, denn wir können nicht akzeptieren, dass solche Technologien angewandt werden. Ja, wir sollten alle Potenziale nutzen, aber ja, wir müssen dafür sorgen, dass der Schutz der Bürgerinnen und Bürger an vorderster Stelle steht.

  Svenja Hahn, im Namen der Renew-Fraktion. – Herr Präsident! Die wirtschaftliche Zukunft Europas hängt entscheidend davon ab, ob wir die digitale Veränderung anführen werden oder ihr weiter hinterherrennen. Ich will, dass wir die EU an die Weltspitze der Innovation führen. Dazu gehört vor allem, dass wir es ermöglichen, dass sich das Potenzial von künstlicher Intelligenz entfalten kann.

Zunächst brauchen wir fairen Wettbewerb zwischen kleinen und großen Playern, zwischen kleinen und mittleren Unternehmen und Tech-Giganten. Das geht mit klaren Regeln, die es dem Start-up einfach machen zu expandieren und die Anforderungen nach der Größe richten. Wir müssen Innovation fördern, statt sie zu bremsen. Das geht, wenn wir technologieoffen bleiben und einen risikobasierten Ansatz verfolgen. Denn die Anwendung und das entsprechende Risiko gehören in den Fokus. Am Beispiel Gesichtserkennung sehen wir das ganz schön, das ist praktisch zum Entsperren unseres Telefons, aber biometrische Überwachung im öffentlichen Raum ist eine Gefahr für unsere Bürgerrechte.

Als Europäer müssen wir die Digitalisierung selbstbewusst gestalten, aber eben nicht alleine. Unabhängigkeit darf kein Synonym für Protektionismus werden. Ganz im Gegenteil: Wenn wir wertebasierte Standards setzen wollen für den digitalen Raum, müssen wir das gemeinsam mit demokratischen Partnern tun. Von daher: Lasst uns eine KI-Allianz mit den USA starten!

Ich arbeite für einen Digitalraum Europa, in dem Lust auf Fortschritt das Credo ist, wo aus Start-ups Weltkonzerne werden können und in dem fairer Wettbewerb herrscht. Wir haben es jetzt in der Hand, einen politischen Rahmen zu schaffen für künstliche Intelligenz, in dem Zukunftswünsche Realität werden können. Lieber Herr Kommissar, liebe Kolleginnen und Kollegen, das ist unsere Aufgabe. Dieser Bericht ist ein Anfang – aber es ist nur ein Anfang, die Arbeit geht jetzt erst richtig los.

  Alessandra Basso, a nome del gruppo ID. – Signor Presidente, signor Commissario, onorevoli colleghi, siamo felici del risultato finale. Il testo va, con pragmatismo, nella giusta direzione nel creare un mercato digitale nell'Unione, comprendendo anche una traccia di regolamentazione nell'uso dell'intelligenza artificiale.

La realizzazione del mercato interno digitale è uno degli elementi che meglio potrà garantire la piena realizzazione del potenziale delle nuove tecnologie. Un mercato interno digitale funzionante è fondamentale per sostenere le PMI nel corso della loro trasformazione digitale. Il testo è un buon bilanciamento tra le esigenze delle PMI, che potranno espandere la loro attività grazie alla quantità e alla buona qualità dei dati che saranno a loro disposizione, e i diritti dei consumatori.

Fondamentale è l'obbligo di informare il consumatore che sta interagendo con un sistema di intelligenza artificiale; questo favorirà la tutela del consumatore e lo porterà a sentirsi più protetto, aumentando la fiducia in questi sistemi. La fiducia aumenta se si percepisce di essere tutelati.

Bene anche l'attenzione dedicata alle persone con disabilità, con il richiamo ad attuare senza ritardi l'atto europeo sulla accessibilità per garantire un'efficace inclusione. Resta fermo un punto fondamentale: garantire un efficace controllo umano sul processo decisionale, perché non possiamo farci dominare dalle macchine.

Ora si tratta di tradurre queste linee guida in atti coerenti con i principi dell'inclusione dei disabili, della protezione dei dati personali e della privacy, senza frenare il progresso ma ponendolo al servizio dell'essere umano.

  Marcel Kolaja, on behalf of the Verts/ALE Group. – Mr President, Europe’s digital future is in our hands. The Commission had a vision about a European society powered by digital solutions that are strongly rooted in our common values and that enrich the lives of all of us. A fair and competitive economy. A frictionless single market, where companies of all sizes and in any sector can compete on equal terms.

The Parliament had the opportunity to suggest improvements to this digital strategy. However, we missed the opportunity to make a meaningful change. Innovation can’t be a goal in itself. Public services should remain truly public services without artificial competitive pressure. Data protection must not be undermined by trade agreements. SMEs and other economic actors should benefit from cooperative business models such as free and open source software.

And finally, European citizens should be able to enjoy content in their language without being discriminated. For these reasons my group filed split votes and I ask you to consider them.

  Carlo Fidanza, a nome del gruppo ECR. – Signor Presidente, onorevoli colleghi, la digitalizzazione dell'Unione europea rappresenta un passaggio cruciale se vogliamo continuare a prosperare e a rimanere economicamente competitivi a livello globale.

Al fine di raggiungere questo obiettivo siamo chiamati a dover garantire la presenza di infrastrutture tecnologiche e reti di telecomunicazione adeguate su tutto il territorio europeo: gli investimenti per la banda larga e le nuove reti in fibra e 5G sono prioritari.

Dall'emergenza sanitaria abbiamo anche capito che è necessario costruire un ambiente normativo favorevole all'innovazione e ai consumatori, per evitare la frammentazione del mercato unico digitale ed eliminare eventuali ostacoli ingiustificati ancora esistenti nella promozione dell'intelligenza artificiale.

Sarà altresì fondamentale che l'Unione europea protegga e rafforzi la sua sovranità e la sua leadership digitale nelle catene del valore digitali, internazionali e strategiche, promuovendo al contempo la tutela dei consumatori, la protezione dei dati, il sostegno alle nostre imprese, il miglioramento della cibersecurity, tenendo sempre in debita considerazione il ruolo primario dell'uomo, che non può essere rimosso.

PŘEDSEDNICTVÍ: MARCEL KOLAJA
místopředseda

  Kateřina Konečná, za skupinu The Left. – Pane předsedající, pane komisaři, věřím, že Evropská unie by měla získat vedoucí postavení ve světě v oblasti důvěryhodných a bezpečných inovací orientovaných na člověka a kvalitu jeho života. Důvěryhodná AI však v EU nebude, pokud nedojde ke stanovení omezení pro způsoby využívání umělé inteligence a neakceptování využívání umělé inteligence, které ze své podstaty oslabuje základní práva.

Domnívám se, že je nutné, aby se v Evropské unii vyvíjely, zaváděly a používaly systémy umělé inteligence, pouze pokud dodržují etické zásady týkající se respektování lidské autonomie, předcházení újmám, spravedlnosti a vysvětlitelnosti.

Děkuji paní zpravodajce za inkluzivní způsob, díky kterému se do zprávy dostalo značné množství těchto principů. Domnívám se však, že jsme se měli silněji vymezit proti masovému biometrickému sledování, a proto jsem navrhla v pozměňovacím návrhu zmínit evropskou občanskou iniciativu Reclaim Your Face, která má stejný cíl. Doufám, že bude mít vaši podporu.

  Λευτέρης Νικολάου-Αλαβάνος (NI). – Κύριε Πρόεδρε, η τεχνητή νοημοσύνη και οι ψηφιακές τεχνολογίες αποτελούν για τους ευρωπαϊκούς επιχειρηματικούς ομίλους πεδίο μεγάλης κερδοφορίας και ταυτόχρονα σφοδρών ανταγωνισμών με τους αντιπάλους τους, κυρίως από Ηνωμένες Πολιτείες και Κίνα. Για να τους ενισχύσετε, Ευρωπαϊκή Ένωση και κυβερνήσεις, προορίζετε πακτωλό χρημάτων από το Ταμείο Ανάκαμψης και άλλα προγράμματα με χρήματα των εργαζομένων. Τα περί προστασίας των πολιτών και των δικαιωμάτων, δήθεν ρύθμισης των κινδύνων, στοχεύουν σε ευνοϊκότερες συνθήκες κερδοφορίας για τους Ευρωπαίους επιχειρηματίες. Πρόκειται για κάλπικες διακηρύξεις. Τα παραδείγματα πολλά: η τηλεργασία που απογειώνει την εντατικοποίηση, οι ψηφιακές πλατφόρμες, η αυτοματοποίηση και ο έλεγχος περιεχομένου με ή χωρίς αλγορίθμους σημαίνουν μαζικό φακέλωμα και συστηματική λογοκρισία κάθε ριζοσπαστική φωνής που αντιστέκεται στην αντιλαϊκή πολιτική.

Ηθική χρήση της τεχνολογίας, το κίνητρο αξιοποίησης της οποίας είναι η κερδοφορία του κεφαλαίου, δεν υπάρχει. Αντίθετα, εντείνει την εκμετάλλευση των εργαζομένων, ενώ καταπνίγει τα εργασιακά και κοινωνικά δικαιώματα και τις λαϊκές ελευθερίες. Η υπεράσπιση των λαϊκών δικαιωμάτων, επομένως, συνδέεται άρρηκτα με την πάλη για την ανατροπή του εκμεταλλευτικού συστήματος, που στο επίκεντρό του έχει τα συμφέροντα των ομίλων.

  Pablo Arias Echeverría (PPE). – Señor presidente, señor vicepresidente Schinas, muchas gracias por su presencia en este importante debate. En primer lugar, quiero felicitar a la ponente, la señora Clune, por este importante informe que, sin duda, sienta las bases sobre cómo debemos abordar la inteligencia artificial y las tecnologías que vienen.

La inteligencia artificial es una de las tecnologías que impulsará el desarrollo de nuestra industria, de nuestras pymes, pero no es la única. Está claro. Esto dará paso a tecnologías más desarrolladas, como la computación cuántica, con un potencial de capacidad informática multiplicada. Por eso es importante que la legislación que adoptemos ahora esté preparada para las tecnologías que vienen y no se quede obsoleta en pocos años.

La llegada de tecnologías como la computación cuántica permitirá abordar problemas más complejos, de manera más ágil que las actuales. Además, disminuirá el consumo energético, ayudando así a cumplir con los objetivos marcados por el Pacto Verde. Estas tecnologías tienen un gran potencial, pero también conllevan grandes riesgos, ya que se alimentan de datos. Por eso es muy importante asegurar la protección y calidad de esos datos, tanto personales como no personales. Existe una línea muy fina entre el uso de datos personales y no personales una vez entran en el sistema de la inteligencia artificial.

Por eso tenemos que ser muy rigurosos y cumplir con unas normas de transparencia claras que establezcan líneas rojas, si fuera necesario. Por ejemplo, debemos evitar prácticas abusivas o discriminatorias hacia los consumidores y empresas causadas por el uso sesgado de los datos en el proceso del aprendizaje automático. De otro modo, el consumidor o las pymes no confiarán en estas tecnologías y lastrarán su desarrollo. Como ha dicho la vicepresidenta Vestager, en inteligencia artificial, la confianza es imprescindible, no un lujo.

VORSITZ: RAINER WIELAND
Vizepräsident

  Christel Schaldemose (S&D). – Hr. formand! Kunstig intelligens har et enormt potentiale. Det kan gøre vores hverdag bedre, hvis vi stiller krav – og det gør vi! Vi kræver, at kunstig intelligens altid har mennesket i centrum, for vi skal kunne stole på teknologien. Det er kernebudskabet i vores betænkning om kunstig intelligens. For det første sikrer vi forbrugerbeskyttelsen. Du skal vide det, når du indtager med et system, der bygger på kunstig intelligens. For det andet sikrer vi en god balance mellem innovation og sund fornuft. Der skal være plads til innovation, uden at sikkerheden bliver sat over styr. Og for det tredje opfordrer vi til, at der bliver indført omvendt bevisbyrde, når ny teknologi forårsager skade. Alt dette bør Kommissionen tage med i deres overvejelser, når de reviderer direktivet om produktansvar og direktivet om produktsikkerhed i al almindelighed. Det, der er ulovligt offline, skal selvfølgelig også være ulovligt online, uanset om det er baseret på kunstig intelligens eller ej. Naturligvis!

  Sandro Gozi (Renew). – Monsieur le Président, l’intelligence artificielle est aujourd’hui partie prenante de notre marché unique. Elle permet de multiplier les possibilités, mais présente aussi de nombreux risques. Deux défis se présentent à nous. D’une part, l’intelligence artificielle doit nous pousser à surmonter les faiblesses de notre marché: fragmentation, barrières injustifiées, intégration insuffisante; de l’autre, elle doit nous encourager à développer une nouvelle autonomie industrielle.

Un véritable marché des données non personnelles en Europe est possible, mais surtout nécessaire; à nous de le bâtir. Nous devons établir des normes et des standards de référence, qui vont rayonner partout dans le monde. Surtout, nous devons le faire dans le respect de nos valeurs fondamentales, en nous assurant une présence humaine permanente pour contrôler les algorithmes.

Pour que les nouvelles technologies et l’innovation soient adoptées, elles ont besoin d’investissements et de confiance. Pour être digne de confiance, elles doivent avant tout être conformes aux droits fondamentaux et refléter nos valeurs européennes.

  Elena Lizzi (ID). – Signor Presidente, signor Commissario, onorevoli colleghi, per il concreto raggiungimento di un mercato dei dati attivo, come indicato nella prima parte della relazione, dobbiamo garantire un loro alto livello di controllo con regole chiare ed equilibrate.

Da relatrice ombra in commissione ITRE sul data governance act, ho approfondito il tema dell'accessibilità dei dati da parte delle micro, piccole e medie imprese, che trovano difficoltà ad avere le stesse opportunità delle grandi, concetto qui prima ribadito dal Commissario.

Dobbiamo rendere le piccole imprese più competitive ed evitare che le start-up europee, nate magari grazie al sostegno dei programmi quadro per la ricerca e l'innovazione, si rivolgano a mercati nei paesi terzi. La carenza di un'alta qualità o il mancato utilizzo dei dati renderebbe impossibile l'espansione delle micro e piccole imprese e rallenterebbe la transizione digitale, con evidenti danni su tutta la filiera in Europa.

Ribadiamo prudenza e progressività nelle scelte di applicazione delle intelligenze artificiali e di consentire solo quelle più sicure.

  Kim Van Sparrentak (Verts/ALE). – Mr President, this report was supposed to address how we shape our digital future and improve the use of AI for consumers, but unfortunately it fails to truly address some of the core issues we see with the use of AI.

Internet users are manipulated on a daily basis. Algorithms decide what we get to see online based on clicks, manipulation and micro—targeting. ‘Likes’, notifications and ‘nudges’ manipulate users into certain behaviour like staying on a platform for longer, watching extreme content or buying items they don’t need. It can even lead to addiction.

This report does not even mention the manipulation of consumers we witness online today, and even though the ample opinion clearly pointed out the health and safety dangers of being constantly monitored and tracked real—time at work, the report lacks any reference to surveillance of workers or exploitation by algorithmic management. It simply fails to protect the rights of workers.

We cannot ignore these crucial issues when we shape our digital future. And then, this report only contains weak texts on transparency and human oversight and vague texts on avoiding prohibited discrimination. We, as legislators, have the responsibility not just to avoid, but to ensure, that everyone is protected against discrimination by AI and that fundamental rights are protected at all times.

Looking at previous parliamentary positions, this text is an unnecessary step back. We, as the European Parliament, need to step up our game, because empty promises will not actually protect European consumers, workers or citizens. Clear rules and rights will.

  Beata Mazurek (ECR). – Panie Przewodniczący! Z roku na rok obserwujemy duży wzrost zainteresowania handlem i usługami na wspólnym rynku cyfrowym. Sztuczna inteligencja jest istotną technologią, która może przynieść korzyści konsumentom i przedsiębiorcom pod warunkiem przestrzegania ich podstawowych praw i wartości.

Jasne regulacje powinny zapewniać ochronę konsumentów m.in. innymi w rozwiązywaniu problemów nieuczciwych praktyk handlowych. Wykorzystanie sztucznej inteligencji na rynku e-commerce może pomóc w monitorowaniu produktów w sieci, co powinno uchronić klientów przed kupowaniem towarów nieznanych, w większości pochodzących z krajów trzecich. Aby sprawnie wdrażać sztuczną inteligencję, ważne jest budowanie zaufania do tego systemu wśród konsumentów i przedsiębiorców. Trzeba bowiem pamiętać, że wartością nadrzędną nad innowacyjnymi rozwiązaniami powinien być zawsze człowiek.

  Anne-Sophie Pelletier (The Left). – Monsieur le Président, le numérique est notre compagnon du quotidien. Avec ou sans consentement, nos données personnelles sont la matrice de l’intelligence artificielle. Sous le grand précepte du progrès de la médecine, nos données personnelles de santé sont absorbées. Sous le grand précepte du progrès, voilà qu’il faudrait de l’intelligence artificielle dans les services d’aide à la personne. Sous le grand précepte du progrès, il faudrait des caméras avec reconnaissance faciale dans les métros.

Même si ce texte tend à aller vers le bon sens, en plaçant l’humain au coeur de la décision, ce principe existentiel ne doit souffrir d’aucune exception ou passe-droit réglementaire. Posons-nous ces questions: cette fuite en avant qui impose l’intelligence artificielle sert-elle l’humain ou les logiques managériales qui l’asservissent? Là où l’humain est la quintessence d’un métier, l’intelligence artificielle saura-t-elle se substituer au savoir-être?

Pour finir, faire de nos données personnelles la substantifique moelle de l’intelligence artificielle, c’est nous dématérialiser. Nos émotions, nos envies et nos vies privées ne nous appartiendront plus. Il faut tirer des leçons de la pandémie: même si le numérique a permis à certains de garder des relations sociales, qu’ont fait les gens quand les restrictions de sortie ont été assouplies? Ils se sont rencontrés, parce que notre singularité, c’est celle d’être des êtres sociaux avant tout.

  Edina Tóth (NI). – Elnök Úr! Az elmúlt több mint egy év során felértékelődött a mesterséges intelligencián alapuló alkalmazásoknak a szerepe. Üdvözlöm az előterjesztett EP-jelentést, azonban szeretném felhívni a figyelmet, hogy Európa komoly versenyhátrányban van Kínával és az Egyesült Államokkal szemben. Az Unió csak akkor kerülhet vezető pozícióba, ha megfelelő pénzügyi forrásokkal előmozdítja az innovációt, beruházásokkal segíti a kis- és középvállalkozásokat.

Fontosnak tartom továbbá, hogy az új technológiák hozzájáruljanak a klímacélok eléréséhez és a digitális átalakuláshoz is. Mindezek mellett nem szabad megfeledkezni a polgárainkról sem. A technológia célja az emberek szolgálata kell hogy legyen, ezért a mesterséges intelligencia terén nem csupán szerencsés, ha megvan a bizalom, hanem egyenesen elengedhetetlen. Nekünk, EP-képviselőknek pedig az a feladatunk, hogy ezt biztosítsuk az állampolgáraink számára.

  Ivan Štefanec (PPE). – Pán predsedajúci, náš spoločný európsky trh je jednou z našich najväčších vymožeností, pretože prispieva k miliónom pracovných miest a hospodárskemu rastu, ale aj pandémia nám ukázala, že ho musíme reformovať, aby bol odolnejší. Musíme ho dokončiť najmä v oblasti služieb a musíme vybudovať spoločný digitálny trh, pretože práve pandémia ukázala význam digitalizácie.

Tá preniká do každej oblasti nášho života. V Európe potrebujeme vytvoriť také podmienky, aby sme udržali zdravé podnikateľské prostredie a zároveň chránili spotrebiteľov pred novými ohrozeniami.

Pre budúci úspech zohrá určite kľúčovú úlohu podpora rozvoja inovácií a výskumu aj prostredníctvom fondu obnovy či programu Horizont.

Inovatívne malé a stredné podniky musia mať dostatočný prístup k voľnému kapitálu a nesmieme ich zaťažovať ďalšou byrokraciou.

Potrebujeme posilniť ochranu duševného vlastníctva a patentov voči nekalým praktikám. Na druhej strane potrebujeme mať na mysli práva a ochranu spotrebiteľov. Práve spotrebiteľská ochrana je našou ďalšou významnou výsadou a v tomto ohľade aj vítam nový program pre spotrebiteľov zo strany Európskej komisie. Práve spotrebitelia musia byť hybnou silou transformácie na digitálne udržateľné prostredie.

Využitie umelej inteligencie má veľké možnosti aj v spotrebiteľskej ochrane, napríklad aj v stále aktuálnej téme dvojakej kvality výrobkov.

Každé takéto využitie musí byť orientované na človeka a zlepšenie života.

Chcem poďakovať aj kolegyni Deirdre Clune za veľmi dobrú správu.

  Josianne Cutajar (S&D). – Sur President, ninsabu fix-xifer ta' era ġdida diġitali. Huwa f'idejn l-atturi kollha involuti, miċ-ċittadini u n-negozji sal-leġiżlaturi, li jiżguraw li fis-Suq Uniku Diġitali l-ġdid il-valuri u l-prinċipji tal-Unjoni Ewropea mhux biss ikunu mħarsa iżda wkoll imsaħħa. Il-protezzjoni tal-konsumatur, il-privatezza tad-data, in-nondiskriminazzjoni u l-użu trasparenti tat-teknoloġija mhumiex negozjabbli.

Aħna u napplikaw l-intelliġenza artifiċjali fis-setturi diversi rridu nagħmlu dan b'mod li nżommu lill-bniedem fiċ-ċentru. Fis-settur tat-trasport qed naraw rivoluzzjoni teknoloġika, immexxija mill-IA, li tista' tkun ta' benefiċċju għas-soċjetà, li twassal għal inqas emissjonijiet, operazzjonijiet kosteffiċjenti u toroq aktar sikuri. Iktar importanti minn hekk, it-teknoloġija tista' tgħinna għal suq tal-mobilità inklużiv, inkluż għal persuni b'diżabilità.

Nagħlaq billi nsejjaħ għal programmi b'saħħithom li jgħinu lill-SMEs tagħna jgawdu u jaħsdu l-benefiċċji tal-bidla.

  Dragoş Tudorache (Renew). – Mr President, in this Parliament we called for legislation on AI anchored in European values able to strengthen our digital single market. We now have a proposal on the table, the first of its kind in the world, and I thank and congratulate the Commission for it.

We now need to work to ensure its success, and our mission is this: we need to secure the rights of all citizens and ensure AI does not lead to biases and discrimination. AI should be a force for good. We need to remove regulatory burdens to support innovation in our companies, big and small. AI should be a tool for prosperity and global competitiveness. We need to educate our citizens and train our specialists on AI. AI is as much about today as it is about the future.

We need to ensure that Member States will implement this AI regulation in a manner that strengthens the digital single market and doesn’t fragment it. AI should bring the Union closer together. And we need to work with the US and other democracies to ensure AI is developed according to democratic values worldwide. AI is a geopolitical subject and the EU is a geopolitical actor. We have a historic opportunity to show global leadership. Let’s use it wisely.

  Alexandra Geese (Verts/ALE). – Herr Präsident, verehrte Kolleginnen und Kollegen! Digitale Technologien wirken auf den ersten Blick sauber, schick und immateriell. Ganz anders als der in dieser Hinsicht ehrlichere Kohletagebau in meiner Heimat. Aber der erste Eindruck täuscht, denn der Ressourcen- und Energieverbrauch digitaler Technologie ist enorm und wächst rasant. Besonders bei künstlicher Intelligenz sehen wir einen Widerspruch: Sie wird Teil der Lösung sein bei der Rettung des Klimas mit Technik für intelligente Stromnetze und ressourcenschonende Fertigung, aber andererseits ist der Energieverbrauch bei maschinellem Lernen so hoch, dass wir klare Entscheidungen treffen müssen, welche KI-Anwendungen wir wollen.

Ein einziger Trainingszyklus für ein Sprachverarbeitungsmodell erzeugt genauso viel CO2 wie 125 Flüge von New York nach San Francisco. Um solche Entscheidungen informiert zu treffen und den Green Deal zum Erfolg zu führen, brauchen wir einen Standard, um die Umweltauswirkungen von digitalen Technologien zu messen. Dafür muss die EU-Kommission dringend einen Vorschlag vorlegen, damit digitale Technologien nicht zur Kohle, sondern zur Sonne der Zukunft werden.

  Krzysztof Jurgiel (ECR). – Panie Przewodniczący! Rewolucja cyfrowa jest często porównywana do rewolucji przemysłowej, jeśli chodzi o skok cywilizacyjny, który przyniosła. W rolnictwie sztuczna inteligencja nie jest jeszcze powszechnie wykorzystywana, a jej potencjał mógłby znacząco wpłynąć na wydajność sektora. Do 2050 roku liczba ludności ma przekroczyć 9 miliardów: z jednej strony trzeba będzie wyżywić ogromną populację, z drugiej strony działania Unii wynikające z ekologicznych polityk promują rolnictwo nieekstensywne, ekologiczne, o mniejszych możliwościach produkcyjnych.

Dlatego konieczne jest wdrożenie w rolnictwie innowacyjnych rozwiązań, które usprawnią praktyki produkcyjne i ograniczą zużycie zasobów. Należy w szczególności, zgodnie z rezolucją, zapewnić w pierwszej kolejności odpowiednie środki na transformację strefową dla małych i średnich gospodarstw, ograniczyć ryzyko utraty miejsc pracy na wsi związane z zastosowaniem nowych technologii oraz zapewnić, że środki z programu Horyzont Europa przeznaczone na rolnictwo będą sprawiedliwie podzielone między kraje zachodniej i wschodniej Europy.

  Ádám Kósa (NI). – Elnök Úr! A digitális átalakulás érinti az oktatás területét is, ami a tankötelezettség bevezetése óta az eddigi legjelentősebb változás előtt áll. Egyes becslések szerint a mai iskolások 65 százaléka végül olyan új munkakörben dolgozhat, ami egyelőre nem létezik, és ehhez a digitális írástudás létfontosságú lesz. A koronavírus-járvány idején a tanárok és diákok egyaránt új készségeket sajátítottak el az oktatás során. Bár ez sokszor nem volt könnyű, biztos vagyok benne, hogy a gyermekeink ezt a tudást a jövőben, a munkavállalás során is hasznosítani tudják majd. Így az úgynevezett Covid-generáció hosszú távon nem vesztese, hanem nyertese lehet a járványnak. Hiszem, és a saját életemmel is igazolom, hogy a kihívások kreatív megoldásokra ösztönöznek, és így végső soron a javunkra szolgálnak.

  Antonius Manders (PPE). – Voorzitter, commissaris, ik wil mijn collega Deirdre Clune bedanken voor dit geweldige resultaat. Kunstmatige intelligentie is ontzettend belangrijk voor de toekomst van Europa en van alle Europeanen en zal talloze kansen met zich meebrengen. Zo kunnen we onze vergrijzende samenleving met behulp van kunstmatige intelligentie bijvoorbeeld de emotie en identiteit meegeven om zich Europeser te voelen.

We hebben nu de kans om als Europese Unie wereldwijd de standaard te zetten en daarmee de Europese industrie te beschermen en onze normen en waarden uit te voeren, mits we de lat hoog genoeg leggen. Het is dan ook belangrijk dat de toekomstige wetgeving nog beter in verordeningen wordt verpakt, zodat een volledig geharmoniseerde wetgeving tot stand komt waarvan lidstaten niet kunnen afwijken om de hefboomwerking van de interne markt teniet te doen. De interne markt is wereldwijd namelijk het belangrijkste wapen dat Europa heeft en daarvan moeten we gebruikmaken. We moeten niet vervallen in de problemen die vaak door lidstaten worden gebruikt.

Voorts moeten we ervoor zorgen dat start-ups en kleine en middelgrote ondernemingen gemakkelijk toegang kunnen krijgen tot financiering, zodat zij de mogelijkheden die kunstmatige intelligentie te bieden heeft, ten volle te kunnen benutten. Bovendien moeten we ervoor zorgen dat we onze gegevens binnen Europa houden, zodat we niet afhankelijk worden van Google, Facebook en Alibaba.

Dit vormt een belangrijke stap naar de toekomst, waarvan mijn kinderen en kleinkinderen hopelijk gebruik zullen maken.

  Miapetra Kumpula-Natri (S&D). – Mr President, three key principles should guide the EU’s digital transition: innovation, values and security. To foster innovation, we need fair rules and fair competition in open markets; unjustified barriers to digital trade must be dismantled both within the EU and with respect to third countries. Reliable data governance is the key.

Regulation is needed to guide the digital market based on our values. The digital proposal on AI includes banning authoritarian Big Brother AI practices and sets rules to protect citizens. It shows that the EU leads the world on digital regulation. In the Committee on International Trade opinion, we see that the EU has to work for global rules on the digital economy – with the OECD, WTO, United Nations and standardisation bodies – in order to set a common understanding and global standards for AI. Digital rules should support democratic principles, human rights and sustainable development.

We also support the proposal to establish an EU-US trade and technology council. As digital technology becomes the new normal, security of course needs to be doubled, in both digital networks and the cybersecurity space.

  Vlad-Marius Botoş (Renew). – Herr Präsident, liebe Kollegen, Herr Kommissar! Digitalisierung ist mehr als nur ein abstraktes Konzept. Sie ist eine Möglichkeit, unser Leben zu erleichtern, eine neue Art zu kommunizieren, indem wir physische Entfernungen ignorieren. Im letzten Jahr haben wir das in vollen Zügen gespürt.

Die Digitalisierung bietet uns neue Instrumente zur Analyse aller Bereiche und zur Schaffung von Entwicklungsmodellen und -szenarien, die in die Praxis umgesetzt werden können. Wir alle kennen die immensen Vorteile, die die Digitalisierung unserer Gesellschaft und Wirtschaft bringen kann. Genau aus diesem Grund ist es wichtig, dass die Regeln klar sind und dass sie insbesondere die Regeln eines echten europäischen Binnenmarkts sind.

Ein weiterer wichtiger Punkt, den wir berücksichtigen müssen, ist, dass sowohl die Digitalisierung als auch die künstliche Intelligenz auf den Menschen, auf die Beachtung der Menschenrechte und Freiheiten und auf den Schutz der Verbraucherrechte auf der Ebene der Europäischen Union ausgerichtet sind.

  Markéta Gregorová (Verts/ALE). – Mr President, the European Union is trailing on cutting-edge AI developments. We are behind in semiconductor production and investment and we trail in the application of useful AI products behind our friends in the US, Japan and Korea, as well as we are behind our systemic rival, China. Most of the global companies that develop and employ modern artificial intelligence are not European.

It is our common task and my generation’s duty to change that and to bring the European Union and its Member States to the forefront of the most important technological race of our time. To achieve this task, we must guard and protect our citizens’ fundamental rights and freedoms. My group has made amendments to this effect and I hope you can support them.

  Joanna Kopcińska (ECR). – Panie Przewodniczący! Jesteśmy świadkami globalnej rywalizacji o przywództwo w zakresie technologii cyfrowych. Dlatego konieczne jest podjęcie skoordynowanych, horyzontalnych działań, które zdynamizują bezpieczny rozwój godnej zaufania, pomocnej człowiekowi sztucznej inteligencji w Europie. Z uwagi na skalę ekonomiczną wyzwania, jakim jest konieczność konkurowania z pozaunijnymi gospodarkami, niezmiernie ważne jest prawidłowe ułożenie ram regulacyjnych i inwestycyjnych, tak aby krajowe instytucje i przedsiębiorstwa mogły z pożytkiem pracować dla całości ekosystemu europejskiego, jak i gospodarek narodowych.

Podzielam stanowisko, że Unia Europejska powinna umocnić pozycję w ekosystemach i wzdłuż łańcuchów wartości dotyczących AI, począwszy od niektórych sektorów produkcji sprzętu poprzez oprogramowanie aż po usługi. Z tego powodu przyszłe regulacje w tym zakresie powinny budować klarowne i łatwe do zastosowania ramy. Jednym z kluczowych zadań jest dostarczenie regulacji, które wzbudzają zaufanie obywateli i zachęcają ich do korzystania z dobrodziejstw oferowanych przez AI.

  Tomislav Sokol (PPE). – Poštovani predsjedavajući, povjereniče, kolegice i kolege, umjetna inteligencija sve češće nalaze primjenu u europskom načinu života. 61 posto Europljana na nju pozitivno gleda. Ipak, 88 posto tvrdi da se njome treba pažljivo upravljati.

Dok raspravljamo o ovoj bitnoj temi u Hrvatskoj, nedaleko od Zagreba, započinje gradnja jednog od najnaprednijih tehnoloških kampusa u kojem će se među ostalim razvijati i tehnologija autonomnih vozila zasnovana na umjetnoj inteligenciji. Upravo takvi primjeri pokazuju da primjena umjetne inteligencije predstavlja budućnost europskog gospodarstva i da će ona u idućim desetljećima postati uobičajeni, sastavni dio tehnološki razvijene proizvodnje.

Upravo zbog toga ističem da sveobuhvatna europska pravila o umjetnoj inteligenciji su potrebna kako bi se s jedne strane poticao rast i razvitak i otklonile prepreke poslovanju, a s druge strane maksimalno zaštitio interes potrošača, posebno njihova sigurnost i privatnost.

Također, dozvolite mi da posebno ukažem na potencijal koji umjetna inteligencija ima u području zdravstva. Čak polovina naših građana smatra da je upravo zdravstveni sektor onaj u kojem umjetna inteligencija može ostvariti svoj najveći potencijal. Da je tome uistinu tako svjedoče i najnovija istraživanja koja pokazuju da algoritmi umjetne inteligencije identificiraju rak dojke s približno 90 posto točnosti u kombinaciji s analizom radiologa.

U okolnostima u kojima smo borbu protiv raka označili svojim prioritetom, pozivam europske institucije da nastave snažno podupirati razvoj umjetne inteligencije jer ona pruža mogućnost rane dijagnoze zloćudnih bolesti, a time daje i nadu pacijentima za njihovo uspješno izlječenje.

  Brando Benifei (S&D). – Signor Presidente, onorevoli colleghi, lo dice il titolo di questo dibattito: col lavoro che stiamo portando avanti in questi mesi, stiamo plasmando il modello per l'approccio europeo al digitale e all'intelligenza artificiale, pronto per le sfide del futuro.

Modello incentrato sulla persona, sui diritti, sulla protezione dei consumatori, in particolare dei più vulnerabili, ma senza dimenticare il sostegno all'innovazione e alle piccole e medie imprese, che oggi vedono uno spiraglio di luce, dopo la pandemia, e hanno bisogno di un supporto sia legislativo che in termini di risorse.

Dobbiamo dare certezza giuridica e pari condizioni a tutti, chiarendo che ciò che è illegale offline deve esserlo anche online e garantendo condizioni eque per la tassazione nell'economia digitale.

Apprezziamo che la Commissione abbia tenuto conto di molte richieste del Parlamento nella proposta sull'intelligenza artificiale, inclusa la proibizione di alcuni usi e la stretta regolazione di altri.

Ora siamo pronti a migliorarne alcuni aspetti, in particolare riguardo ai diritti e alle libertà fondamentali, per garantire sistemi di intelligenza artificiale al servizio della persona, affinché i cittadini e i consumatori la possano utilizzare con fiducia per migliorare le loro vite.

  Liesje Schreinemacher (Renew). – Voorzitter, Europa moet een plek zijn waar iedereen zich zowel offline als online vrij en veilig kan bewegen. Ik doel daarmee vooral op de jongste gebruikers onder ons: één op de drie internetgebruikers is namelijk kind. Zijn onze kinderen in de digitale wereld echter wel zo goed beschermd? Vinden we het normaal dat de gegevens van kinderen aan de hoogste bieder worden verkocht, dat adverteerders zich specifiek op kinderen richten en dat kinderen alcoholreclames krijgen voorgeschoteld? Dat lijkt me niet.

Kinderen moeten zich vrij en veilig kunnen bewegen zonder de rest van hun leven een digitale voetafdruk met zich mee te slepen die vele malen groter is dan hun eigen schoenmaat. Alles staat of valt natuurlijk met een goede leeftijdsverificatie. Dit betekent echter ook dat wij bij het opstellen van nieuwe regels, of het nu gaat om regels over kunstmatige intelligentie in onderwijstools of de eisen die we aan computerspelletjes stellen, concreet moeten kijken naar wat een kind wel en niet kan begrijpen en overzien, en daarbij niet de huidige zelfregulering, maar wetenschappelijke bevindingen als uitgangspunt moeten nemen. Jong geleerd is immers oud gedaan.

  Salvatore De Meo (PPE). – Signor Presidente, onorevoli colleghi, volevo ringraziare la relatrice per l'ottimo lavoro fatto, perché ha saputo coniugare le ambiziose sfide del futuro, che ormai sono divenute presenti, i diritti dei consumatori e le esigenze delle piccole e medie imprese.

L'innovazione tecnologica ha modificato la nostra vita e il futuro ci riserva ancora altre novità: sicuramente l'intelligenza artificiale costituisce la nuova frontiera di questo progresso tecnologico e, se regolarizzata e utilizzata in modo appropriato, garantirà lo sviluppo di tutte le aree della nostra economia, inclusa l'agricoltura nella quale c'è molto interesse da parte dei giovani e delle zone difficili, dove proprio grazie all'intelligenza sarà possibile produrre meglio e più facilmente. Infatti nel Libro bianco della Commissione sull'agricoltura e nella nuova Politica agricola comune l'intelligenza artificiale rappresenta una componente essenziale per il futuro del settore.

Le nuove tecnologie sviluppate dall'intelligenza artificiale saranno fondamentali anche per il raggiungimento degli obiettivi delle strategie "Dal produttore al consumatore" e sulla biodiversità, nell'interesse dei produttori e dei consumatori, favorendo una migliore qualità produttiva, ottimizzando le risorse naturali, garantendo il benessere animale, riducendo i pesticidi e i fertilizzanti, migliorando la tracciabilità dei prodotti.

Il mercato unico è sempre stato elemento fondante dell'Unione e in questo modo, con l'intelligenza artificiale, potrà rafforzare ulteriormente il processo di integrazione e determinare condizioni favorevoli di sviluppo e di economia.

  Alex Agius Saliba (S&D). – Sur President, il-manipulazzjoni u l-prattiki diskriminatorji mmirati lejn nies minħabba l-età, is-sess, ir-reliġjon, l-orjentazzjoni sesswali tagħhom, il-kulur tal-ġilda tagħhom jew sempliċement minħabba l-fatt li dawn ġew identifikati, permezz ta' algoritmi, bħala insiguri, bħala vulnerabbli, bla valuri, m'għandhom qatt ikunu permessi.

Kumpanniji kbar bħal Facebook u YouTube ġew attakkati fuq prattiki bħal dawn għal aktar minn darba. Għal dan il-għan, fl-Ewropa huwa meħtieġ qafas regolatorju etiku li jiffoka fuq il-bniedem, ibbażat fuq ir-riskju u li jibqa' validu għall-futur u jirrispetta bis-sħiħ id-drittijiet fundamentali taċ-ċittadini tagħna. U dan il-qafas għandu jiżgura tliet affarijiet: il-protezzjoni tal-konsumaturi, il-kontroll tal-bniedem fuq id-deċiżjonijiet algoritmiċi li jieħdu, mekkaniżmi xierqa u effettivi ta' rimedju, sistemi ta' algoritmi ta' intelliġenza artifiċjali mhux diskriminatorji u trasparenti, u informazzjoni xierqa lin-nies meta jinteraġixxu mal-intelliġenza artifiċjali.

Il-protezzjoni tan-nies u l-kumpanniji Ewropej minn mudelli tan-negozju online li jagħmlu ħsara... (Il-President irtira l-kelma lill-kelliem)

  Claudia Gamon (Renew). – Herr Präsident! Endlich legt die EU los und bringt neue Regeln für die digitale Welt auf Schiene, und wir haben wirklich keine Zeit zu verlieren. Während sich die Technologien in den letzten Jahren mit einem wirklich rasanten Tempo weiterentwickelt haben, müssen digitale Dienste und Marktplätze mit europäischen Regeln arbeiten, die aus dem Jahr 2000 stammen. Und wenn wir uns ein bisschen daran zurückerinnern: Damals war der heiße Scheiß online uboot.com – das werden nur noch die Älteren unter den Millennials kennen –, und Myspace gab es noch nicht einmal zu dieser Zeit.

Wir brauchen Regulierungen, die Innovation ermöglichen und dabei aber auch auf Themen wie Hass im Netz, Geoblocking oder auch die Übermacht von Google, Amazon, Facebook und Co. Antworten haben. Und für künstliche Intelligenz fehlen uns zum Beispiel überhaupt noch jegliche Leitlinien und Regulierungen. Da muss endlich was passieren, und eines ist klar: Die Zukunft wartet nicht auf uns.

  Henna Virkkunen (PPE). – Arvoisa puhemies, Euroopan unionissa on nyt digitalisaation osalta paljon meneillään ja niin täytyykin olla, sillä koronapandemia on kaikkialla maailmassa kiihdyttänyt digitalisaatiota. Jos haluamme olla kilpailukykyisiä tulevaisuudessa, Euroopan on nyt erityisesti investoitava kolmeen teemaan: ensinnäkin tutkimukseen ja tuotekehitykseen. Kuten mietinnössäkin todetaan, jäsenvaltioiden pitäisi investoida vähintään kolme prosenttia bruttokansantuotteestaan tutkimukseen ja tuotekehitykseen. Tästä ollaan pahasti jäljessä. Elpymispaketissa odotan, että jäsenvaltiot investoivat nyt tähän. Toiseksi tarvitsemme nopeaa, modernia digitaalista infrastruktuuria. Meillä on tavoitteena saada gigabitin nopeudella tapahtuva tiedonsiirto ja 5G kaikkialle Eurooppaan. Tässä on vielä paljon tekemistä. Kolmas erittäin tärkeä teema on ihmisten osaaminen. Jopa kolmanneksella eurooppalaisesta työvoimasta on puutteelliset digitaaliset taidot, ja 70 prosenttia yrityksistä katsoo, että se on este investoinneille Euroopassa. Tämä on erittäin vakava tilanne. Näihin kolmeen teemaan meidän on siis voimakkaasti nyt investoitava, että pysymme kilpailukykyisinä. Ja totta kai meidän on kaikessa lainsäädännössä varmistettava, että se kannustaa uusiin innovaatioihin ja investointeihin Euroopassa. Erityisesti kun puhutaan tekoälystä, on tärkeää varmistaa, että säännöt, jotka muutoinkin yhteiskunnassa pätevät, pätevät myös digitaalisessa maailmassa, olipa kyse tekoälystä tai verkkokaupasta. Eri järjestelmiä ei pidä säännellä eri tavoin.

  Tsvetelina Penkova (S&D). – Mr President, AI has the potential of transforming how the consumer market in the economy operates. The benefits for both consumer and business are numerous, but the concerns still remain. In Europe, if we manage to succeed in developing and integrating AI into the workflow, we could increase productivity by 20% and add EUR 2.7 trillion to the European economy by 2030.

However, transparency, data security and reliability still raise concerns. It is critical that the consumers have clear rights that protect them and enable them to benefit from the social digital transformation. The use of AI should not be focused only on reaching competitiveness but it should be focused also at improving European citizens’ welfare, reaching the objectives of the Green Deal and sharing technological advancement and ensuring green economic development that grants the goals of social inclusion. Europe needs a consumer-driven AI that guarantees that no one is left behind.

  Anna-Michelle Asimakopoulou (PPE). – Κύριε Πρόεδρε, κύριε αντιπρόεδρε, το Ευρωπαϊκό Κοινοβούλιο έχει από καιρό θέσει ως προτεραιότητα την ανάπτυξη του τομέα της τεχνητής νοημοσύνης, με στόχο να προάγει την καινοτομία και την ανταγωνιστικότητα και ταυτόχρονα να θεμελιώσει ένα κλίμα εμπιστοσύνης στους καταναλωτές, διασφαλίζοντας την προστασία των ανθρωπίνων δικαιωμάτων, αλλά και των ευρωπαϊκών αξιών. Ο τομέας της τεχνητής νοημοσύνης θα αλλάξει τον κόσμο όπως τον ξέρουμε και θα επηρεάσει την καθημερινή ζωή όλων μας.

Με την πρόταση νομοθετικού πλαισίου που παρουσίασε πρόσφατα η Ευρωπαϊκή Επιτροπή για την τεχνητή νοημοσύνη, η Ευρώπη αναλαμβάνει ηγετικό ρόλο στον καθορισμό ψηφιακών προτύπων, θέτοντας τις δημοκρατικές αξίες στο επίκεντρο του ρυθμιστικού μας πλαισίου. Αυτή η πρόταση μπορεί να προάγει τη συνεργασία με ομοειδείς εταίρους, όπως είναι Ηνωμένες Πολιτείες, στη βάση κοινών δημοκρατικών αρχών και αξιών. Οι Ηνωμένες Πολιτείες είναι ο ισχυρότερος σύμμαχος της Ευρωπαϊκής Ένωσης και η διατλαντική σχέση στον τομέα της τεχνητής νοημοσύνης είναι κρίσιμη και καθοριστική. Η Ευρώπη έκανε ένα σημαντικό βήμα για την επίτευξη της ψηφιακής της αυτονομίας, προτείνοντας τους νόμους για την τεχνητή νοημοσύνη μέσα σε ένα πλαίσιο δημοκρατίας, έναντι αυταρχικών μοντέλων που διεκδικούν τα γεωπολιτικά ηνία της ψηφιακής εποχής.

Κυρίες και κύριοι συνάδελφοι, το ψηφιακό μέλλον της Ευρώπης εδράζεται σε δύο λέξεις και είναι και οι δύο ελληνικές: αυτονομία και δημοκρατία, έννοιες διαχρονικά επίκαιρες και αξιόμαχες, για την τεχνητή νοημοσύνη, για την Ευρώπη για τον κόσμο.

  Pernille Weiss (PPE). – Hr. formand! Djævelen sidder som bekendt i detaljen. Det gælder i politik, og det gælder i kunst og i politik, der påvirker kunst og kultur. Der har rundt i kulturens verden været stor bekymring for, om vi nu her i Europa-Parlamentet kunne finde på at afskaffe territorial eksklusivitet og geoblokering fuldstændig. Det lyder jo altså både gammeldags og protektionistisk. Det gør vi heldigvis ikke, men det var tæt på. Europæisk film- og TV-produktion blomstrer nemlig kun, fordi det økonomiske fundament kan bruge territorial eksklusivitet og geoblokering. Betyder det så, at alle ikke kan se alt på samme tidspunkt? Ja, det gør det. Men det er også det hele værd! Vi taler jo i øjeblikket meget om "the European way of life" og hvad det vil sige at være europæere i alle dets nationale nuancer og kulturelle udtryk. Det er vigtigt i en tid, hvor EU skal stå meget mere på egne ben i en uforudsigelig verden. Her skal EU sikre, at det Europa, vi kender og har arvet af århundreder af historie om kristendom og demokrati – kongehus og krige – næres og bæres videre i kraft af et levende kulturlandskab. Et landskab, hvorfra vi fortsat kan høste kunst af høj kvalitet. I denne verden findes der både onde djævle og gode djævle. Territorial eksklusivitet og geoblokering er det sidste. Det må vi aldrig glemme, hvis Europas kultur fremover skal huskes.

  Miriam Lexmann (PPE). – Pán predsedajúci, ako tieňová spravodajkyňa stanoviska výboru EMPL chcem oceniť, že moje návrhy týkajúce sa etickej umelej inteligencie, ochrany ľudskej dôstojnosti a práv, ale aj celkového zamerania umelej inteligencie na službu človeku a jeho dobru získali jednoznačnú podporu.

Technológiu umelej inteligencie používame čoraz viac pri bežných činnostiach. Tie väčšinou vnímame pozitívne ako náš každodenný pomocník.

Sú však aj oblasti, kde sa aj širšie využitie stretáva s počiatočnou nedôverou, ako je to napríklad v prípade využitia jej vplyvu na pracovný trh.

Je nesporné, že mnoho pracovných pozícií vplyvom využívania AI zanikne. No tak to bolo pri technologických revolúciách vždy.

Našou úlohou je vytvoriť podmienky pre využitie potenciálu AI pre tvorbu nových pracovných miest a zabezpečiť rekvalifikáciu a celoživotné vzdelávanie tak, aby ľudia o prácu neprichádzali.

Apelujem preto na jasnú a dostatočnú komunikáciu Komisie a členských štátov voči spoločnosti nielen prostredníctvom formovania verejnej diskusie, ale predovšetkým pomocou efektívnych opatrení v systémoch vzdelávania i pracovného trhu. Len tak totiž môžeme naplno využiť potenciál tejto technológie bez toho, aby voči nej pociťovali občania strach či nedôveru.

Mnohých totiž odbremení od pracovných činností, ktoré sú pre človeka nebezpečné alebo namáhavé.

  Margaritis Schinas, Vice-President of the Commission. – Mr President, thank you for this in enriching debate, for your numerous and thought—provoking interventions.

Artificial intelligence is very versatile and addresses lots of sectors. It presents big benefits, but it may also have drawbacks, and some of those you have mentioned, like fundamental rights, impact on safety and certain black-box artificial intelligence applications are complex and opaque, which can be a challenge.

Our proposals will have to ensure that high-risk AI systems are designed in a way that is compliant with fundamental rights and safety standards. In Europe, algorithms will not be in the hands of software engineers. Algorithms will be in the hands of society.

Compliance with the requirements that have been proposed will minimise the risk of harm and ensure that any possible breaches can be investigated and addressed. Let me recall that we are not regulating the technology but its use in certain contexts, and this is a proportionate approach and one that creates a level playing field for European and non-European companies alike. The Commission will also come forward with a proposal on liability towards the end of the year.

Let me conclude by saying once again that I don’t think that there has to be a trade-off in Europe between fundamental rights and supporting innovation when we discuss artificial intelligence. The two are compatible and together we can make sure that the balance is right. I will be counting on this House to bring these proposals and reinforce this balance further.

  Der Präsident. – Die Aussprache ist geschlossen.

Die Abstimmung über die Änderungsanträge findet heute, Mittwoch, 19. Mai 2021, statt. Die Schlussabstimmung findet am Donnerstag, 20. Mai 2021, statt.

Schriftliche Erklärungen (Artikel 171)

  Adam Bielan (ECR), na piśmie. – Działania Unii Europejskiej na rzecz pogłębienia jednolitego rynku cyfrowego, który zwiększy suwerenność i konkurencyjność cyfrową Europy, pozostają sprawą priorytetową i jednym z najważniejszych wyzwań przed nami. Z zadowoleniem przyjmuję więc postulaty sprawozdania Pani Poseł Clune.

Pozytywnie odbieram odniesienia do potrzeby proporcjonalności, pomocniczości i poszanowania zasad lepszego stanowienia prawa. W tym kontekście musimy również zapewnić konsumentom i przedsiębiorstwom jasność prawną – potrzebujemy regulacji dla całego rynku wewnętrznego.

Za niezwykle istotne uważam także znaczenie wspierania innowacji, która jest jednym z głównych tematów sprawozdania. Nowe pomysły nie powinny zostać zduszone przez nadmierną regulację. Dlatego liczę, że postulowane rozwiązania przyczynią się do usunięcia nieuzasadnionych barier, a także do zwiększenia konkurencyjności europejskich małych i średnich przedsiębiorstw oraz do poprawienia ich potencjału konkurowania w skali globalnej.

Z kolei wykorzystanie sztucznej inteligencji na rynku e-commerce może mieć duży potencjał w ochronie konsumentów, między innymi w temacie podwójnej jakości produktów.

Wyrażam nadzieję, że jednolity rynek cyfrowy przyniesie korzyści Europejczykom,

przedsiębiorstwom oraz środowisku.