Rodyklė 
 Ankstesnis 
 Kitas 
 Visas tekstas 
Procedūra : 2020/2022(INI)
Procedūros eiga plenarinėje sesijoje
Dokumentų priėmimo eiga :

Pateikti tekstai :

A9-0172/2020

Debatai :

PV 19/10/2020 - 15
PV 19/10/2020 - 18
CRE 19/10/2020 - 15
CRE 19/10/2020 - 18

Balsavimas :

PV 20/10/2020 - 21

Priimti tekstai :

P9_TA(2020)0274

Diskusijos
XML 93k
Pirmadienis, 2020 m. spalio 19 d. - Briuselis Atnaujinta informacija

18. Skaitmeninių paslaugų aktas: geriau veikianti bendroji rinka - Skaitmeninių paslaugų aktas: komercinės ir civilinės teisės nuostatų pritaikymas internetinei komercinių subjektų veiklai - Skaitmeninių paslaugų aktas ir su pagrindinėmis teisėmis susiję klausimai - Dirbtinio intelekto, robotikos ir susijusių technologijų etinių aspektų nuostatos - Naudojant dirbtinį intelektą taikoma civilinės atsakomybės tvarka - Intelektinės nuosavybės teisės plėtojant dirbtinio intelekto technologijas (diskusijų tęsinys)
Kalbų vaizdo įrašas
PV
 

Presidente. – Retomamos o debate sobre o Ato legislativo sobre os serviços digitais: Melhorar o funcionamento do Mercado Único - o Ato legislativo sobre os serviços digitais que adapta a regulamentação comercial e o Direito Civil aplicável às entidades que operem em linha - o Ato legislativo sobre os serviços digitais e questões suscitadas em matéria de direitos fundamentais - o Quadro para os aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas - o Regime de responsabilidade civil aplicável à inteligência artificial - os Direitos de propriedade intelectual relativos ao desenvolvimento de tecnologias ligadas à inteligência artificial.

 
  
MPphoto
 

  Edina Tóth (PPE). – Elnök Úr! A technológia segíti az emberek mindennapi problémáinak megoldását, számos kényelmi funkciót tölt be, magában hordozva a folyamatos fejlődés lehetőségét. Ugyanakkor a technológiai óriáscégek hatalmi, gazdasági súlya és vitathatatlan társadalmi hatása valamennyi uniós tagállam figyelmét kihívta. Az Európai Parlamentben az a feladatunk, hogy biztosítsuk állampolgáraink maximális biztonságát az online térben, illetve garantáljuk az átláthatóság és a számonkérhetőség demokratikus alapértékeinek érvényesülését. Fontos, hogy ami jogellenes az online téren kívül, azt jogellenesnek kell tekinteni az online térben is. Ennek érdekében a platformoknak fokozottabban fel kell lépniük a jogellenes tartalmak gyors felderítése és eltávolítása érdekében. A jogellenes tartalmakkal csak akkor tudunk leszámolni, ha nemzeti szempontokat figyelembe véve a tagállamok összehangoltan és együttesen lépnek fel. A digitális óriáscégek algoritmusokkal napi szinten befolyásolják az életünket, befolyásolják a fogyasztási szokásainkat, döntéseinket. Ezért fontos, hogy a fogyasztók tájékoztatást kapjanak, amennyiben egy digitális szolgáltatás mesterséges intelligenciát használ, és garantálni kell e szolgáltatás mivoltából keletkezett hiba orvoslását is. Ha a problémák kezelése elmarad, a mesterséges intelligencia téves döntésekhez vezethet, hamis adatokkal befolyásolhat egy-egy döntést. Korunk egyik legnagyobb kihívása, hogy képesek leszünk-e kilépni a digitális buborékból és uralni a technológiát, vagy hagyjuk, hogy a technológia vegye át az irányítást az életünk felett. Véleményem szerint egy olyan mesterséges intelligencia ökoszisztémát kell létrehoznunk, amely az emberek érdekeit szolgálja, az embereket állítja a középpontba.

 
  
MPphoto
 

  Eva Kaili (S&D). – Mr President, I’d like to express my thanks for the efforts made during these challenging times of the pandemic, when people actually expect fast and safe technological solutions; in parallel scientists need access to quality data that are collected faster but with clear consent. So we need to make sure citizens have options when data is collected, when they are recorded on their mics and cameras, and their locations recorded, and we definitely need immediately to set standards, clear standards, to remove regulatory obstacles for a real harmonised digital single market.

At the same time we need to make sure, in order to protect our European quality of life, that the design of algorithms, and the metrics that we request, will be bound by legislation in order to translate ethical principles and human rights to the digital era – by law to ensure that we will not compromise safety or privacy with extra security criteria, and will make sure that automation remains under human control. In this case we can avoid exclusion or manipulation of perception, predicting the policing or ranking of citizens and the profiling of citizens. In that case we can collaborate more with democracies to protect our democracies.

 
  
MPphoto
 

  Irena Joveva (Renew). – Spoštovani predsednik! Vsi vemo, da se je meja med 'online' in 'offline' že zdavnaj razblinila. Vsi vemo, kakšne posledice v resničnem svetu ima dogajanje v virtualnem, in vsi vemo, da so trenutne razmere trend digitalne transformacije družbe samo še pospešile.

A kam vodi trenutni ustroj? Ustroj netransparentnih algoritmov, ki določajo, kako se nam prikazuje svet na podlagi naših osebnih podatkov, ki se prodajajo tistemu, ki je zanje pripravljen dati največ denarja. Ko se dezinformacije širijo veliko hitreje kot karkoli preverjenega in ko algoritmi točno vedo, kdo je najbolj dovzeten za teorije zarot.

Ta ustroj vodi v enostavno manipuliranje volivcev, v organizirano širjenje dezinformacij in teorij zarot, prodajo nelegalnih, škodljivih izdelkov, sovražni govor, celo spodbuja k nasilju in žal pogosto dejansko vodi v nasilje.

Vse to - tudi zaradi tistih politikov, ki zlorabljajo strah in jezo ljudi za svoje interese ter bijejo kulturno vojno z mediji in duhovi preteklosti – vse to namensko spodkopava zaupanje ljudi v stroko in avtoritete, znižuje kakovost javne debate ter splošne kulture in posledično onemogoča reševanje resnično perečih težav ljudi.

Politične manipulacije in bitke interesov na polju naših osebnosti so največja grožnja demokratičnosti. Zato so ključni poudarki poročil Akta o digitalnih storitvah, zahteve o transparentnosti algoritmov, označevanje izvora oglaševanj in zavajajočih informacij ter jasna pravila moderiranja vsebin na spletu.

Poskušamo najti primerno raven med svobodo govora in poročanja ter zasebnostjo internetnih uporabnikov in zaščito pred zlonamernimi vsebinami. Ljudje naj vedo, kaj in kdo stoji za prikazovanjem vsebin, in naj imajo nadzor nad svojo identiteto.

Internetni velikani sicer počasi napredujejo pri zaščiti tako uporabnikov kot naših demokracij, pa vendar je nujno, da zasebnim korporacijam ter njihovim algoritmom odvzamemo monopol nad javnim prostorom in od njih zahtevamo več transparentnosti in več odgovornosti.

 
  
MPphoto
 

  Jean-Lin Lacapelle (ID). – Monsieur le Président, chers collègues, nous sommes à l’aube d’une révolution technologique majeure, celle de l’intelligence artificielle. Cette révolution va bouleverser nos modes de vie et nous avons, comme législateurs, le devoir de prévoir et de préparer le monde qui s’annonce.

Certains rejettent en bloc les avancées techniques, ils s’opposent à la robotisation de nos systèmes de production, ils imaginent des taxes sur l’intelligence artificielle et les robots, taxes qui nuiront à notre compétitivité. Ils s’opposent aux technologies, comme la 5G, nécessaires à la numérisation de nos sociétés. Ils oublient que chaque innovation que l’Europe voit filer, chaque brevet que nous ne déposons pas, chaque start-up qui quitte notre continent est une arme remise aux mains de nos concurrents étrangers.

D’autres imaginent un monde post-humain où l’homme fera corps avec la machine, où le libéralisme aura été jusqu’à modifier la place de l’homme: ces apôtres du transhumanisme doivent eux aussi être combattus.

Mais une synthèse entre la puissance et l’éthique est possible. Notre héritage philosophique grec et chrétien nous permet de naviguer dans les eaux troubles de la modernité. Cependant cette voie ne pourra être la nôtre que si nous sortons de notre léthargie. Dès aujourd’hui, la Commission doit se dresser face aux géants américains et chinois de l’intelligence artificielle, leur interdire de collecter nos données, favoriser l’émergence de géants européens, investir dans la recherche et le développement, mieux rémunérer nos chercheurs pour éviter leur départ chez nos concurrents.

Tout cela ne pourra cependant se faire qu’en abandonnant votre vision désuète de la concurrence libre et non faussée. L’ouverture des accès à tous les marchés, l’égalité permettant à tous, sans aucune distinction, de se déployer en Europe: tout cela doit cesser. Et quand vous y aurez renoncé, il vous faudra une stratégie. Vous l’avez déjà tenté avec le nuage européen de données Gaia X, en juin dernier, mais vos dogmes vous ont rattrapés et vous avez scrupuleusement saboté cet indispensable projet en l’ouvrant aux entreprises extra-européennes.

Chers collègues, ne ratons pas cette ultime possibilité de maintenir nos pays européens dans le concert des nations. Il en va de la survie de notre civilisation et de notre indépendance.

 
  
MPphoto
 

  Gwendoline Delbos-Corfield (Verts/ALE). – Mr President, in this joint debate, we have covered a broad range of subjects, but I will emphasise how much artificial intelligence has an impact on structural inequalities in our societies.

We ask for legislation guided by strong ethical principles with the protection of citizens and the environment as a priority. Regulation must address racial and gender-based discrimination. Such systems need to be subject to constant review and analysis. Further research is needed on the way in which algorithms perpetuate harmful biases. When content is considered problematic or dangerous, who decides how it’s removed from platforms? We are particularly concerned that introducing a separate category of legal but harmful context will lead to online censorship.

The text does not contain clear enough language on upload filters. Even more worrying is the call for an electronic identification scheme that paves the way for master variance. This is a huge issue.

Most of all, we must reiterate the importance of digital education. Only by equipping citizens with facts and enabling them to identify disinformation and misinformation can we make sure that we have an inclusive digital transformation.

 
  
MPphoto
 

  Joachim Stanisław Brudziński (ECR). – Panie Przewodniczący! Dzisiaj cały cywilizowany świat jest w szoku po okrutnym mordzie dokonanym przez ortodoksyjnego barbarzyńcę na francuskim nauczycielu. Dzisiaj również jest dziesiąta rocznica mordu dokonanego z przyczyn politycznych w Polsce na działaczu Prawa i Sprawiedliwości Marku Rosiaku. Co łączy te morderstwa? Chora nienawiść i fakt, że znaleźli się ludzie, którzy w internecie gloryfikowali, a nawet wzywają do podobnych działań.

Dlatego cieszy kierunek zawarty w omawianym sprawozdaniu, dotyczący usuwania treści niezgodnych z prawem bez zbędnej zwłoki, szczególnie tych dotyczących dzieci i o charakterze terrorystycznym. Nowe przepisy muszą przyczynić się do zwiększenia bezpieczeństwa w sieci i zwalczania cyberprzestępczości przy jednoczesnym zagwarantowaniu ochrony praw podstawowych użytkowników internetu, w szczególności wolności wypowiedzi i prawa do informacji.

Należy zwrócić uwagę na niebezpieczeństwo cenzurowania treści pod kątem ich zgodności z polityczną poprawnością narzuconą przez lewicowo-liberalne elity. Nie może być zgody, by pod hasłem walki z niebezpiecznymi treściami niezgodnymi z prawem krępowano prawo do swobody wypowiedzi, np. w zakresie spraw światopoglądowych.

 
  
MPphoto
 

  Tomasz Frankowski (PPE). – Panie Przewodniczący! Jako poseł z ramienia grupy PPE, odpowiedzialny za pracę przy trzech opiniach Komisji Kultury i Edukacji do ram prawnych Unii Europejskiej dotyczących usług cyfrowych, chciałbym powiedzieć, że te ramy prawne muszą zostać uaktualnione, tak by odzwierciedlić szybką transformację cyfrową. Dlatego z niecierpliwością czekamy na ambitny pakiet wniosków ustawodawczych Komisji Europejskiej.

Z punktu widzenia Komisji Edukacji i Kultury chciałbym zwrócić uwagę na dwie kwestie. Po pierwsze, to problem niezwłocznego usuwania nielegalnych treści. Jest to szczególnie ważne w przypadku naruszania treści udostępnianych na żywo, takich jak wydarzenia sportowe czy koncerty muzyczne. W swojej opinii Komisja Kultury zawarła wezwanie do Komisji Europejskiej do doprecyzowania, czym jest niezwłoczne usuwanie nielegalnych treści, o których już mowa w artykule czternastym dyrektywy o handlu elektronicznym. Reakcja pośredników internetowych powinna następować natychmiast po otrzymaniu powiadomienia od właścicieli praw, maksymalnie w ciągu 30 minut. Jest to kluczowe w przypadku usuwania nielegalnych treści na żywo.

Po drugie, chciałbym również powiedzieć o poprawce, którą moja grupa polityczna złożyła w odniesieniu do sprawozdania posła Saliby z komisji IMCO. Mam nadzieję, że uzyska ona szerokie poparcie wszystkich grup politycznych. W tej poprawce chcielibyśmy dodać odniesienie do dyrektywy o świadczeniu usług audiowizualnych. Warto przypomnieć, że akt prawny o usługach cyfrowych powinien mieć zastosowanie bez uszczerbku dla innych legislacji sektorowych, takich jak dyrektywa w sprawie prawa autorskiego czy rozporządzenie o ochronie danych osobowych. Niestety w tym momencie tego odniesienia do dyrektywy o usługach audiowizualnych brakuje, i dlatego proszę o poparcie tej poprawki w głosowaniu.

Bardzo żałuję również, że w aneksie sprawozdania Komisji Prawnej nie ma niestety konkretnego paragrafu, który jasno mówi, że akt prawny o usługach cyfrowych powinien stanowić ramy horyzontalne uzupełnione istniejącymi i przyszłymi przepisami sektorowymi, takimi jak prawo autorskie i dyrektywa o usługach audiowizualnych, i że prawodawca uniknie kolizji przepisów. Mam nadzieję, że gdy otrzymamy wniosek ustawodawczy z Komisji Europejskiej, będziemy mieć jasne odniesienie w tej kwestii.

 
  
MPphoto
 

  Evelyne Gebhardt (S&D). – Herr Präsident! Ich melde mich aus dem Verbindungsbüro des Europäischen Parlaments in München und freue mich sehr, dass diese neuen Möglichkeiten geschaffen worden sind. Vernetzte Produkte kommen immer häufiger zum Einsatz, Algorithmen beeinflussen die Verbraucherentscheidungen, sie steuern vernetzte Haushaltswaren, treffen sogar Entscheidungen über Kreditwürdigkeit oder in einer Personalabteilung. Das sind alles Errungenschaften, die sehr schön sind, sehr gut sind.

Allerdings müssen wir daran denken, dass damit auch immer wieder Gefahren verbunden sind und auch Schäden entstehen können. Deswegen ist es gut und richtig, dass wir uns darüber Gedanken gemacht haben, wie wir dabei das Haftungsrecht an die Entwicklungen im Bereich der künstlichen Intelligenz anpassen können.

Für uns Sozialdemokratinnen und Sozialdemokraten waren ein paar bestimmte Punkte ganz besonders wichtig, und ich möchte drei davon herausgreifen. Das eine: Es ist uns ganz wichtig, dass nicht nur physische Schäden, sondern auch immaterielle Schäden angegangen werden. Algorithmen werden eventuell mit verzerrten Daten gefüttert und können dazu führen, dass falsche Entscheidungen getroffen werden, die sehr diskriminierend sein können. Sie können zum Beispiel eine Kreditverweigerung bedeuten, und das ist absolut nicht akzeptabel. Da muss dafür gesorgt werden, dass wir Antworten darauf haben.

Zum Zweiten brauchen wir eine Haftung nicht nur vom Hersteller des Produktes, sondern auch von den Softwareentwicklern, denn sie haben unter Umständen die bessere und größere Kontrolle über das Vorgehen in diesem Bereich.

Zum Dritten: Wir wollen die volle Umkehr der Beweislast. Wenn eine Kaffeemaschine zum Beispiel defekt ist, dann merken wir es sehr schnell und können eventuell auch als Verbraucherinnen und Verbraucher erkennen, woran das denn eigentlich liegt. Wenn es ein Softwareprodukt ist, dann können wir das allerdings nicht, und deswegen ist es wichtig, dass die Beweislast nicht bei den Verbrauchern und Verbraucherinnen verbleibt.

Deshalb appellieren wir an die Europäische Kommission: Die Grundrechte müssen auf jeden Fall gewahrt werden in allen Bereichen der künstlichen Intelligenz. Die neuen Regeln müssen verbraucherfreundlich geschaffen werden und in der Risikobewertung alle Gefahren und Schäden betrachten. Und außerdem muss die Produkthaftungsrichtlinie modernisiert werden.

 
  
MPphoto
 

  Sandro Gozi (Renew). – Monsieur le Président, avec la crise de la COVID-19, nous sommes tous entrés de manière irréversible dans la digitalisation mais nos règles, elles, ont déjà plus de 20 ans, ce qui, dans le numérique, correspond à plus d’un siècle de retard. Retard, car le cercle vertueux et plein d’opportunités que nous présentait internet nous montre aujourd’hui ses limites. L’enjeu, ce sont l’innovation et la compétitivité, et ce sont aussi les libertés publiques et la sécurité.

La terrible attaque qui s’est déroulée ce week-end en France, à Conflans, nous montre encore une fois l’urgence de légiférer et d’assumer nos responsabilités. Soyons courageux! Aujourd’hui, appelons ensemble à développer un marché numérique sans barrières nationales disproportionnées et injustifiées, à faire face aux risques qui existent pour les citoyens, à augmenter et à encadrer la responsabilité des plateformes. Ce programme du Parlement est ambitieux et j’espère, Madame la Commissaire, Madame la Vice-présidente, que la Commission saura se montrer encore plus ambitieuse sur le devoir de diligence et sur la lutte contre les contenus et pratiques illicites.

Aucune complaisance ne doit être admise envers les contenus illégaux sur les réseaux sociaux. Comme il a été dit, être libre signifie avant tout être responsable. Cette maxime vaut pour nous tous, citoyens ou plateformes, que ce soit dans la vie réelle ou virtuelle: appelons au civisme sur internet et pensons aux victimes d’aujourd’hui et de demain.

 
  
MPphoto
 

  Gunnar Beck (ID). – Herr Präsident! Digitalisierung ist notwendig, birgt Risiken, aber auch Chancen. Notwendig ist sie, weil internationaler Wettbewerb Strukturwandel und Modernisierung erzwingt, und ohne Anpassungen keine Volkswirtschaft Bestand hat. Digitaler Wandel birgt Risiken – gewiss – doch der Gesetzentwurf gewährt hier mangelhaften Schutz der Nutzer und ihrer Daten, und die Parlamentsberichte nicht mehr als Erste Hilfe.

Denn Kommission und Parlament geht es gar nicht um Verbraucherschutz, sondern wie fast immer um Deutungshoheit nicht nur über unerlaubte, sondern auch über unerwünschte Inhalte. Online geteilt werden soll nur, was gefällt – nicht den Nutzern, sondern Justiz, Staatsanwalt und einer neuen EU-Agentur zu diesem Zweck.

Unser Vertrauen gilt hier eher John Stuart Mill und seinem Glauben an den Durchblick der Vernunft – nicht per Dekret oder Zensur, sondern durch Meinungsfreiheit im dezentralen Wettstreit der Ideen.

Und seien wir ehrlich: Digitaler Wandel und künstliche Intelligenz sind das Rettende, wenn uns die natürliche Intelligenz knapp wird infolge immer weniger junger Europäer. Denn künstliche Intelligenz setzt knappe menschliche Intelligenz frei und ist sozialpolitisch billiger als unqualifizierte Zuwanderung.

 
  
MPphoto
 

  Dace Melbārde (ECR). – Mr President, artificial intelligence is set to unchain the next wave of digitalisation that Europe so desperately needs. As past experience has shown, automation creates more jobs, increases productivity and improves the living standards of societies.

Unfortunately, to date, the EU has been slow in embracing AI. Even the discussions are delayed and focus primarily on the potential risks of AI and the need for regulation, as opposed to the enormous opportunities it provides.

Meanwhile, the development of AI as well as public and private investment in it is lagging behind other regions in the world. To catch up, the EU should turn to soft law solutions for AI and incentivise developers who promote trustworthy AI, as stated in a recent non-paper signed by a group of Member States.

Innovation and proportionality – not restriction – is the way forward.

 
  
MPphoto
 

  Pilar del Castillo Vera (PPE). – Señor presidente, señora vicepresidenta de la Comisión, en el informe de la Comisión de Mercado Interior y Protección del Consumidor sobre la futura ley de servicios digitales, el Parlamento Europeo transmite un mensaje claro sobre la necesidad de adaptar las normas europeas a la era digital y a la economía de datos.

El informe, centrándose en la revisión de la Directiva sobre el comercio electrónico, pretende ser una contribución valiosa a la inminente propuesta legislativa de la Comisión. La futura norma debe seguir respetando principios bien establecidos en la Directiva, como la cláusula de mercado interior, la libertad de establecimiento y la prohibición de imponer una obligación general de monitorización a los intermediarios digitales.

Ahora lo importante, de todas formas, es que se actualice esa Directiva sobre el comercio electrónico y así, por ejemplo, clarifique el régimen de responsabilidad en materia de gestión de contenidos y proporcione herramientas para hacer frente al creciente volumen de mercancías ilegales, que tanto están perjudicando al sector de las manufacturas.

Dicho esto, el ámbito de actuación de la nueva propuesta debe ir más allá de la Directiva sobre el comercio electrónico y adaptar los conceptos de competencia a la digitalización. Tal y como se ha hecho en otros sectores, los reguladores nacionales deben contar con instrumentos para afrontar el creciente número de barreras para el acceso a los datos que encuentran las empresas para intentar llegar a los clientes. Me refiero a eliminar condiciones de acceso inflexible, al acceso ilimitado de las funciones de los sistemas operativos o también a los datos de las transacciones legales.

En definitiva, debemos garantizar que en un mercado digital todas las empresas tengan acceso a terceros proveedores en condiciones de igualdad y transparencia, porque eso va a redundar, en último término, en mejores servicios y en una mayor investigación.

 
  
MPphoto
 

  Adriana Maldonado López (S&D). – Señor presidente, señora comisaria. En primer lugar me gustaría poner en valor el papel que hoy está teniendo aquí el Pleno del Parlamento Europeo. Muchos meses de trabajo de diferentes comisiones del Parlamento Europeo se reflejan hoy aquí en un debate intenso, técnico y con solvencia de diferentes comisiones. Por lo tanto, creo que es importante que la Comisión escuche al Parlamento Europeo y ponga de manifiesto las propuestas que, mediante los diferentes informes que presenta el Parlamento Europeo, llevamos a la Comisión Europea.

Por lo tanto, estarán de acuerdo conmigo en que la Unión Europea ha cambiado mucho desde el año 1985 hasta el año 2020. Por eso quiero hacer hincapié en la Directiva de responsabilidad por productos defectuosos, que trata de ese año. Pero la sociedad ha cambiado tanto, que esa Directiva no habla en ningún momento ni de teléfonos móviles, ni de ordenadores, ni del teletrabajo, elementos fundamentales en la economía europea, en nuestra forma de relacionarnos, en nuestra forma de trabajar hoy en el siglo XXI.

Por lo tanto, para los socialistas europeos, es muy importante que se ponga de manifiesto esta actualización del siglo XXI. Es verdad que alrededor del 50 % de los fabricantes de productos europeos utilizan hoy la inteligencia artificial en sus procesos de elaboración de sus productos; y también es verdad que una gran parte de los ciudadanos europeos consideran que la inteligencia artificial no es del todo de su confianza en el uso de su día a día. Por lo tanto, como legisladores, tenemos el reto de ser capaces de trabajar en una Directiva que dé confianza a las instituciones europeas, pero, sobre todo, a nuestros ciudadanos. Esa seguridad tiene que ir amparada, sin duda alguna, en la seguridad de muchos de nuestros productos.

Y, como se ha comentado aquí también, es fundamental que esa carga de la prueba no recaiga sobre los consumidores. Es verdad que necesitamos empoderar a nuestros consumidores europeos. Necesitamos que los consumidores europeos tengan un mayor conocimiento de todo lo que tiene que ver con las nuevas tecnologías, pero no puede caer sobre ellos una responsabilidad que tiene que ser de los productores.

 
  
MPphoto
 

  Maximilian Krah (ID). – Herr Präsident! Meine lieben Kollegen, die Europäische Union ist der Raum mit der niedrigsten Innovationskraft von den großen Wirtschaftsräumen in Bezug auf IT und künstliche Intelligenz. Die Musik spielt in den USA und in Asien.

Wir legen hier einen neuen Regulierungsvorschlag vor, der die Freiheit beschränkt, aber – und das ist mittlerweile typisch geworden – eine neue Agentur und damit neue Beamtenstellen schafft. Ich befürchte, das ist die falsche Schwerpunktsetzung.

Wir können digitale Entwicklung nur dann regulieren, wenn sie überhaupt stattfindet, und unsere Regulierung muss sie befördern und darf sie nicht weiter einschränken. Wir brauchen nicht mehr Beamte, sondern mehr Forschung. Wir brauchen nicht mehr Regulierung, sondern mehr Freiheit, und das gilt nicht nur für die Technik, sondern auch für die Meinung.

Vor diesem Hintergrund glaube ich, dass wir wegkommen sollten von einem Gedankenspiel, das darauf basiert, jedes Lebensrisiko rechtlich fassen und für jede mögliche Gesetzesübertretung eine Agentur schaffen zu wollen. Wir sollten wieder hin zu der Bereitschaft kommen, auch Risiken aushalten zu können, weil ein Risiko eben auch immer eine Chance bietet. Eine Chance dafür, dass die Entwicklung weitergeht und Europa vielleicht seine Innovationsschwäche überwindet und dafür seine Regulierungsstärke hinter sich lassen kann.

 
  
MPphoto
 

  Robert Roos (ECR). – Voorzitter, twee weken geleden vroeg ik aan commissaris Breton hoe hij zou garanderen dat inhoudsmoderatie op onlineplatformen niet de vrijheid van meningsuiting zou ondermijnen. Hij stelde dat de nadruk van zijn beleid zou liggen op het sneller aanpakken van inhoud die al illegaal is, zoals terrorisme en kinderporno. Daarin heeft commissaris Breton uiteraard onze steun.

Het Europees Parlement gaat echter volledig de verkeerde kant op. Als het aan dit huis ligt, wordt het mogelijk om onwelgevallige of politiek incorrecte inhoud onder het mom van “schadelijkheid” van de sociale platformen te weren, los van het feit of deze inhoud ook als illegaal aan te merken is.

De vrijheid van meningsuiting is het fundament van onze vrije westerse samenleving, een culturele kernwaarde. Ik reken erop dat de Commissie dit gevaar onderkent en dat zij nooit zal toestaan dat deze culturele kernwaarde in gevaar komt.

 
  
MPphoto
 

  Henna Virkkunen (PPE). – Arvoisa puhemies, tämä on historiallinen hetki, ensimmäinen kerta, kun Euroopan parlamentin täysistunnossa käytetään puheenvuoro Helsingistä ja vielä mitä parhaimmasta teemasta: digitalisaatiosta ja tekoälystä.

Nyt meneillään oleva koronapandemia on tarkoittanut isoa digiloikkaa koko Euroopassa, ja varmasti osa näistä muutoksista jää pysyväksi. Samalla se on nostanut myös esiin erittäin isot erot alueiden ja ihmisten välillä ja osoittaa sen, että meidän on investoitava lisää nopeaan moderniin infrastruktuuriin ja yhteyksiin, ihmisten digitaaliseen osaamiseen ja että meidän on investoitava myös lisää digitaalisten palveluiden ja alan tutkimukseen ja innovaatioihin, jotta voimme olla kilpailukykyisiä tulevaisuudessa.

Tämä on siis samalla myös viesti nyt meneillään oleviin rahoitusneuvotteluihin. Lisäinvestointeja tarvitaan moderneihin nopeisiin yhteyksiin, ihmisten digitaaliseen osaamiseen ja alan tutkimukseen ja tuotekehitykseen. Se on se tapa, miten Eurooppa voi pysyä kilpailukykyisenä ja menestyvänä tulevaisuudessa.

Mutta investointien ja innovaatioiden lisäksi meidän on varmistettava juuri se, että meillä on sellainen lainsäädäntö, joka tukee uusia innovaatioita ja kannustaa uusien teknologioiden ja uusien sovellusten käyttöönottoon. Samalla on varmistettava, että hyvä kuluttajansuoja ja ihmisten perusoikeudet toteutuvat myös digitaalisessa maailmassa, ja tässä meidän on tärkeää nyt lainsäädännössä löytää oikea balanssi. Me emme saa lähteä ylisääntelemään digitaalisia palveluita tai tekoälyä, mutta meidän on varmistettava samalla se, että kuluttajien ja yritysten luottamus digitaalisiin palveluihin säilyy. Se tarkoittaa sitä, että sääntelyä on uudistettava alustojen vastuun osalta ja meidän on luotava tekoälyyn myös omat eettiset eurooppalaiset periaatteet.

 
  
  

PŘEDSEDNICTVÍ: MARCEL KOLAJA
místopředseda

 
  
MPphoto
 

  Brando Benifei (S&D). – Signor Presidente, onorevoli colleghi, il voto di domani in Parlamento pone le basi per una moderna normazione dei servizi digitali riformando la direttiva e-commerce che risale al 2000, ben prima dello strapotere delle grandi piattaforme, quando il commercio online era molto meno diffuso.

Allo stesso tempo avremo anche i primi frutti del lavoro sull'intelligenza artificiale avviato insieme alla Commissione europea, definendo un quadro generale sugli aspetti etici di responsabilità civile e di proprietà intellettuale, questioni fondamentali per garantire la fiducia dei cittadini verso questa tecnologia e per dare certezza legale alle imprese che vi ricorrono.

Con l'approvazione di queste relazioni, stabiliamo un vero e proprio modello europeo per il digitale, fondato sulla centralità dell'uomo e sulla tecnologia, sui nostri diritti e libertà fondamentali, sulla stessa democrazia. Un quadro che garantisca la protezione dei cittadini e dei consumatori, ma anche la promozione dell'innovazione e dell'eccellenza, per sfruttare appieno le grandi opportunità offerte dalle nuove tecnologie e minimizzando così i rischi per la nostra società.

Sono particolarmente contento del focus specifico sulla contraffazione del commercio elettronico, a cui ho lavorato, sancendo il principio “ciò che è illegale offline è illegale online” e aprendo l'obbligatorietà di alcune disposizioni, ora volontarie, in materia, proteggeremo ancora meglio i consumatori europei e le nostre aziende dal proliferare di prodotti falsi e pericolosi, una tendenza, purtroppo, aumentata a dismisura durante la pandemia di Covid-19.

Andiamo avanti in questo lavoro quindi per un'Europa inclusiva e all'avanguardia nella trasformazione digitale.

 
  
MPphoto
 

  Jadwiga Wiśniewska (ECR). – Panie Przewodniczący! Pani Komisarz! Nadszedł czas przyspieszenia, jeśli chodzi o technologie cyfrowe. Pandemia COVID-19 pokazała, jak istotna jest dla nas wszystkich ta dziedzina w tej trudnej sytuacji. Z całą pewnością potrzebujemy mniej biurokracji, a więcej cyfryzacji. A zatem powinniśmy w tej nowej perspektywie postawić na innowacyjność, i co do tego nie ma absolutnie żadnej wątpliwości.

Ale wraz z rozwojem cyfryzacji i dostępu do usług internetowych również powinniśmy dużą uwagę zwrócić na chronienie dzieci przed wykorzystywaniem w internecie. I ta kwestia jest dla mnie absolutnie priorytetowa, bo wiemy, że niestety ten proceder jest bardzo szeroko występujący w Unii Europejskiej.

I chciałabym również zwrócić uwagę, że projektując rozwiązania, należy pamiętać o zachowaniu równowagi między, z jednej strony, potrzebą bezpieczeństwa, a ochroną przed cenzurą w internecie z drugiej strony, a także o odpowiednich gwarancjach, jeśli chodzi o wolność wypowiedzi i prawo do informacji.

 
  
MPphoto
 

  Ivan Štefanec (PPE). – Vážený pán predsedajúci, ochrana duševného vlastníctva je v čase nástupu umelej inteligencie stále dôležitejšou témou. Je zrejmé, že váha duševnej práce bude neustále narastať a jej ochrana tak bude stále dôležitejšia. Do nedávnej doby bol koncept duševného vlastníctva viac-menej jasný. Niekto niečo vyrobil, či vytvoril a ak to iný bez dovolenia okopíroval, porušil tak zákon.

V čase digitálnych technológií však do tejto oblasti vstupuje čoraz viac nejasností. Musíme odpovedať na otázky, ktoré by sme nedávno zaradili skôr do sveta sci-fi. Keď bude umelá inteligencia vedieť tvoriť, kto vlastne bude vlastníkom výsledkov tejto tvorby? Kto bude zodpovedný za autonómne rozhodnutia strojov? A čo keď začne umelá inteligencia tvoriť samú seba?

Môže sa to zdať predčasné, no vývoj ide obrovským tempom a skôr či neskôr budeme pred tieto dilemy postavení. A vtedy už musíme mať nastavené jasné pravidlá a jasné právne rámce. Hlavným princípom, na ktorý musíme pamätať, je to, že technológie vždy slúžia človeku a spoločnosti a nie naopak.

Akokoľvek zložitý stroj či program je vždy napokon len výsledkom ľudského umu a práce. Preto na konci rozhodovania musí byť vždy človek. Tak, ako človek sa vždy môže rozhodnúť, či umelú inteligenciu použije alebo nie, tak aj v procese rozhodovania musí mať konečné slovo len človek. Len tak dokážeme zabezpečiť, aby nám umelá inteligencia slúžila, zlepšovala naše procesy a skvalitňovala naše služby.

 
  
MPphoto
 

  Javier Zarzalejos (PPE). –Señor presidente, el debate que estamos teniendo viene dado por la evidencia de que las tecnologías han tenido y tienen un impacto espectacular sobre los modelos de negocio y, al mismo tiempo, sobre la posición de los derechos de los consumidores y de los usuarios.

No podemos renunciar a lo que estas tecnologías significan y tampoco someternos a ellas como sujetos pasivos. Necesitamos, por tanto, un entorno seguro desde el punto de vista jurídico, desde el punto de vista tecnológico y desde el punto de vista de la protección que los consumidores esperan. Y es necesario, por tanto, para empezar, que se produzca una armonización real en las legislaciones nacionales, normas claras sobre responsabilidad y la afirmación evidente del principio de que lo que es ilegal fuera de línea, lo es también en línea.

Tenemos que asociar, sin duda, a las compañías prestadoras de servicios para que colaboren y aporten condiciones de transparencia y legalidad. Quiero decir que la tecnología es verdad que crea desafíos, pero también la tecnología misma debe ayudar a responder a ellos. Por ello debemos contar con la tecnología presente y la que se desarrolle en el futuro como instrumento para resolver las amenazas y los riesgos específicos del mundo online. Entendemos que no hay que prohibir, sino que hay que regular de acuerdo con la madurez de cada una de las tecnologías.

Y finalmente permítanme decir que necesitamos mantener la legislación sectorial para hacer frente a los desafíos y las amenazas específicas que existen en el mundo digital. Entre ellos la regulación de los contenidos terroristas después de que el terrorismo haya vuelto a atentar en Europa contra un inocente, víctima de la libertad.

 
  
MPphoto
 

  Arba Kokalari (PPE). – Herr talman! Många av oss i dag i vår uppkopplade värld spenderar väldigt många timmar på nätet. Samtidigt så pågår det på nätet också bedrägerier, sexualbrott och försäljning av olagliga produkter. Hat, hot och falska nyheter får lätt stor spridning, och det har vi sett inte minst nu under pandemin. Vi måste både sätta stopp för kriminaliteten online, men också samtidigt värna om människors frihet på nätet. Det är ett fundament i vår demokrati. I diktaturer har de svårt att hålla isär dessa tankar. Men inom EU, som ändå vilar på en värdegemenskap, har vi ett ansvar att göra det.

Jag vill därför se en ny lag där internetplattformar tar bort olagligt innehåll effektivt, utan att man skapar incitament för att de här plattformarna ska bedriva nätcensur. För vi minns alla ändå debatten om länkskatter, uppladdningsfilter och krånglet med GDPR. Därför är det centralt att vi bevarar ansvarsbegränsningen för plattformar och ser till att bara olagligt innehåll tas bort, inte satir eller politiska åsikter. För Europa ska leda digitaliseringen, och människor i Sverige och EU ska kunna använda digitala plattformar på ett tryggt och säkert sätt. Men politikers iver att städa internet får inte gå ut över yttrandefriheten eller skapa överdrivet krångel för småföretag, för då gör vi en björntjänst både för friheten och tryggheten.

 
  
MPphoto
 

  Antonius Manders (PPE). – Voorzitter, geachte commissaris, vooral dit onderwerp laat zien dat de markt niet wacht op de wetgever. Kunstmatige intelligentie biedt kansen, maar brengt ook bedreigingen met zich mee. Veel is al gezegd. Inhoudelijk zal ik daar niet op ingaan als voormalig advocaat. Daarvoor is anderhalve minuut veel te kort. Maar ik roep de Commissie op om ons te verzekeren dat wij niet afhankelijk worden van Chinese of Amerikaanse bedrijven. Ik roep de Commissie op om te verzekeren dat Europese gegevens ook daadwerkelijk in Europa blijven.

Wij kunnen nu de regels maken die ons een voorsprong geven op de rest van de wereld. Daar moeten we inhoudelijk goed over nadenken. Kunstmatig intelligentie en gegevens zijn namelijk de olie van de toekomst. Als wij daar een voorsprong in nemen, zal dat Europa ook veel bieden. Voor ons is het heel belangrijk dat bij kunstmatige intelligentie en wetgeving die daarvoor wordt voorgesteld, de mens centraal blijft staan. Wij bepalen tenslotte de wetten en niet de kunstmatige intelligentie.

Kunstmatige intelligentie moet helpen om actief ouder worden mogelijk te maken en ouderen opnieuw bij onze maatschappij te betrekken. 50 % van de Europese bevolking is 50 jaar of ouder. De helft is dus ouder in de ogen van jongeren. Maar jongeren willen heel graag 50-plusser worden. Dus wat dat betreft praten we voor iedereen. Goede wetgeving is voor iedereen van belang. Ik zie dan ook graag de voorstellen van de Commissie tegemoet.

 
  
MPphoto
 

  Tomislav Sokol (PPE). – Poštovani predsjedavajući, danas smo imali doista vrlo kvalitetnu raspravu i čuli smo mnoge argumente o mnogim aspektima uređenja digitalnog tržišta. Jedan od najvažnijih, a to je nešto što se spominjalo više puta, to je pitanje govora mržnje i slobode izražavanja. Ja bih samo, ovim putem, spomenuo da osim zločina, koji je spomenut više puta, koji se dogodio u Francuskoj, bili smo, nažalost, prošli tjedan svjedoci jednog napada na zgradu Vlade Republike Hrvatske u Zagrebu, gdje je nažalost, jedan dvadesetdvogodišnjak pucao po zgradi Vlade i teško ozlijedio policajca koji je bio na straži, odnosno, u osiguranju zgrade Vlade. Nažalost, očito je da je taj dvadesetdvogodišnjak bio motiviran govorom mržnje i fake newsom na internetu, a što je najgore, nažalost, nakon što se taj čin dogodio, mogli smo vidjeti niz izljeva glorificiranja njegovog čina, upravo na društvenim mrežama.

To pokazuje koliko je opasno širenje mržnje na internetu, pokazuje koliko je opasno širenje dezinformacija i koliko se moramo boriti protiv takvih pojava. Naravno, to ne znači da nam treba „Ministarstvo istine”, to ne znači da smo za cenzuru, to samo znači da moramo postići pravi balans između slobode izražavanja s jedne strane, ali i govora mržnje, koji je itekako opasan i koji može dovesti do ovakvih tragedija u budućnosti.

Drago mi je da Komisija djeluje u tom smjeru, drago mi je da su najavljene mjere koje idu upravo prema postizanju tog balansa i vjerujem da ćemo uspjeti postići tu ravnotežu i da ćemo zaštititi sve one vrijednosti koje čine i štite europski način života.

 
  
MPphoto
 

  Alex Agius Saliba, rapporteur. – Mr President, first of all my thanks to all the colleagues who participated in this very interesting discussion. I want to start my last intervention by quoting, as my colleague Tiemo did, the social dilemma: if you are not paying for it then you are the product. And this is the idea that we are fighting throughout our report, by increasing transparency, by increasing consumer protection – we must never treat our citizens just as simple products.

Today we are living in a world where digital services and platforms are essential in our social and economic lives. Just imagine the consequences of the Covid-19 pandemic on our lives without digital infrastructure and without digital industries. These digital services basically helped us to continue with our commercial and social lives. But online platforms and digital services have largely evolved during the past 20 years and therefore, as EU legislators, we need to catch up. The ideas that we are moving forward in our reports are aiming at this target. Therefore we are directly asking the Commission to be ambitious, as we were in our reports, by introducing in its proposal these concepts: know your business customer principle, and know your business customer principle not only for online marketplaces but for all digital service providers; ex ante rules for digital sectors; special responsibilities for online marketplaces to guarantee consumer safety; stricter controls on targeted advertising and the AI mechanism; and a scope that will encompass companies established outside the EU which are targeting us and targeting our consumers.

I want also to reply to a comment made by one of our colleagues and make it totally clear that our proposal is stating explicitly that what we are proposing is without prejudice to the Audiovisual Media Services Directive (AVMSD), to copyright law and to specific legislation. I hope that the report will gain your support in tomorrow’s vote.

 
  
MPphoto
 

  Tiemo Wölken, Berichterstatter. – Herr Präsident! Liebe Frau Kommissarin und jetzt auch lieber Michael für die deutsche Ratspräsidentschaft! Ich möchte zunächst nochmal einige Worte zur heutigen Debatte sagen. In der Tat war das eine sehr intensive, sehr aufschlussreiche Sitzung. Es ging auch viel um Rechte von Verbraucherinnen und Verbrauchern, und zu diesem Punkt gibt es auch noch einen Änderungsantrag zu dem Bericht im Rechtsausschuss. Ich werde morgen die Ablehnung der Änderungsanträge in diesem Bereich empfehlen, weil ich glaube, dass sie in den IMCO—Bericht gehört hätten, und weil ich auch glaube, dass wir diese Themen auch sehr gut in den Schattenberichterstattertreffen hätten diskutieren können.

Ich möchte noch zwei, drei Worte zu dem Bericht „IP rights for artificial intelligence“ sagen, da war ich Schattenberichterstatter: Ich glaube, dass der Erfolg von künstlicher Intelligenz maßgeblich auch davon abhängt, dass Daten verfügbar sind, und es hilft nicht, nur Algorithmen zu trainieren, sondern wir müssen dafür sorgen, dass sie diskriminierungsfrei operieren, und dafür brauchen wir das Teilen und Weitergeben von Daten. Und wir brauchen das, um Datenmonopole aufzubrechen und den digitalen Binnenmarkt für alle Marktteilnehmer fair zu gestalten. Dadurch würden wir Innovation in Europa fördern.

Uns Sozialdemokratinnen und Sozialdemokraten ist es aber wichtig, dass es Regeln zu geistigen Eigentumsrechten gibt, die nicht den Effekt haben, dass das Teilen und Wiederverwerten von Daten beeinträchtigt wird. Das Konzept des Dateneigentums lehnen wir ab, genauso wie Regeln, die in der Praxis den gleichen Effekt hätten. Gleichzeitig müssen wir aber gerade darauf achten, dass die Früchte der Arbeit menschlicher Schöpferinnen und menschlicher Schöpfer angemessen geschützt werden. In Zeiten, in denen mehr und mehr Werke mit KI-basierten Hilfsmitteln erarbeitet werden und in denen KI zunehmend in der Lage ist, eigenständig ohne jeglichen menschlichen Input Werke zu generieren, muss der Wert menschlicher Arbeit insbesondere im Kunst- und Kreativsektor anerkannt werden.

Und ein letzter Satz noch zu dem weiteren DSA: Wir haben hier heute deutlich gemacht, dass es uns um die Meinungsfreiheit im Internet geht und dass wir bereit sind, dafür zu kämpfen. Wir freuen uns auf den Vorschlag der Kommission im Dezember.

 
  
MPphoto
 

  Kris Peeters, rapporteur. – Mr President, first of all, I would like to thank you for this debate. The core ideas for the Digital Services Act (DSA) are clear. The DSA must improve the framework for digital service providers to stimulate growth, but it must also make the fight against illegal content more successful and it must improve transparency and oversight.

Our core idea for digital intelligence should be clear as well. Either we develop AI based on our own values and with economic benefits or we end up using AI developed on other continents without those values and without a large part of the economic benefits. A strong risk—based approach offers the best way forward here.

These challenges are difficult, but I fully support the efforts of all the rapporteurs here today. We are not even close to a satisfying legal situation, but these reports are an excellent start. Madam Commissioner, listening to your reaction, I am very positive about the proposals that you will make and we can discuss very soon.

 
  
MPphoto
 

  Axel Voss, Berichterstatter. – Herr Präsident, liebe Frau Vizepräsidentin Vestager, lieber Herr Roth. Ich finde es schön, Herr Roth, dass Sie heute Abend noch zu dieser eigentlich wichtigen Debatte gekommen sind, und ich möchte gerne auch nochmal darauf Bezug nehmen, was ich vorhin gesagt hatte. Wie schaffen wir es eigentlich, all die guten Ideen, die jetzt seitens der Kommission oder auch seitens des Parlaments kommen, in die Mitgliedsstaaten entsprechend hineinzutragen?

Wenn es Europa nicht gelingt, als eins zu handeln am Ende des Tages, werden wir den Wettbewerb gegenüber China und den USA letztlich nicht gewinnen können. Deshalb brauchen wir hier, glaube ich, ein anderes mind setting in den Mitgliedsstaaten, nämlich, dass wir ein europäisches Ziel verfolgen und nicht ein nationales Ziel auf europäischer Ebene.

Ich weiß nicht, wie wir das hinkriegen, und es soll kein Vorwurf an Sie sein, weil ich weiß, dass Sie da ganz anders aufgestellt sind. Aber ich glaube, das ist eines der wesentlichsten Dinge, warum es uns nicht gelingen wird, sollten wir mit Europa nicht vorankommen, oder warum es uns nicht gelingen wird, das dann entsprechend umzusetzen. Deshalb meine ich, müssen wir darauf hinarbeiten, dass wir wirklich als eins handeln.

Natürlich sind die einzelnen Punkte, die wir heute vorgestellt haben, nur ein kleiner Baustein dazu. Wir brauchen darüber hinaus viele, viele andere kleine Punkte, ob nun Geld, Investment und Infrastruktur etc., um digital souverän zu werden, um mithalten zu können.

Es liegt, meine ich, auch an den Mitgliedsstaaten, dass wir uns hier zu sehr blockieren, und darum würde ich bitten, dass wir da nochmal vorankommen. Wir brauchen, glaube ich, eine vernünftige Strategie, eine Konzeption diesbezüglich, und ich glaube, das, was wir heute gehört haben, kann auch noch verbessert werden durch die Kommission selber.

Letztlich müssen wir, glaube ich, auch die Regeln, die wir haben, nachher durchsetzen. Aber bei all dem führt kein Weg daran vorbei, dass wir als Einheit handeln müssen und uns nach vorne orientieren müssen und eben nicht nur darauf bedacht sein dürfen, dass es in Frankreich, Deutschland, Spanien etc. irgendwie gut läuft. Wir müssen als Europa in Gänze den Schritt nach vorne wagen.

 
  
MPphoto
 

  Margrethe Vestager, Executive Vice-President of the Commission. – Mr President, this has indeed been a rich, nuanced, very, very good debate. We have come from liability, intellectual property rights, innovation, hate speech, upload filters, consumer protection – I think we have shown the width and the depth of the work that has been ongoing here.

But, the thing is that the fundamental question is answered with a ‘yes’. Can we have a European model? There are other models, obviously. But the debate tonight has shown with all clarity that no one wants just to leave that to the state. Neither will anyone just say, ‘well, let business take care of this’.

Now this has been a promise: that democracy will shape our society. That promise has been given tonight by everyone who has been taking the floor, that in our democracy we will shape this – for the state, for the business community, to serve the real asset here, which is the individual citizen, and that I find extremely promising.

Obviously, the level of complexity is quite high. There’s been a lot of very nuanced speeches, trying to balance that on the one hand, there are so obviously things that should not be out there, because it’s illegal in the offline world, while at the same time, no one wants censorship, no one wants the state to control. No one wants to limit a debate that can be free and nurture our democracy and that, of course, is the thing that we will have to grapple with in the months to come.

I just read an article in a Danish paper, in Danish, about artificial intelligence and part of that article was written by AI, in my mother tongue, on a rather complex subject, and I couldn’t distinguish what was written by the authors and what was written by AI. Maybe the grammar was slightly better by the AI – I wouldn’t know, but it’s just to say that when we’re in a world where artificial intelligence can write an op-ed, can write a poem, can write music, and we cannot tell the difference anymore, then it’s about time that democracy catches up with technology. Otherwise we cannot stand by the promise that the humans are the empowered here and that the machine is a servant.

The thing is that now the digital world, the online world, is not another world. It’s our world. For the children who are being bullied, it is just as real as when it was in the schoolyard back in the day. For the people who decide not to participate in democracy because of the hate speech online, it is as real as if someone has threatened them offline. This is our world and this is now, when we went to frame it, because it has matured. Back in the digital stone age, in the year 2000, of course, how could we have known any better? But this is the time and with this level of complexity, what a pleasure it is to see that we then discuss the principles.

What are the fundamentals? That humans are in control; that transparency, responsibility, accountability, is what we want to work with; that you should know your customer; that you should be able to identify yourself to create the trust that people know who they are dealing with and you know that you are in control of the data that you create.

The principle of freedom, of fair markets. I think that is the core of the debate today and then, of course, the obvious: that the legislation that we will discuss and hopefully decide upon, should be implemented, should be enforceable, so that these promises are not empty, that it’s not just more words on paper, but that it’s real rights for citizens, for businesses, in the real world, to make the best possible use of digital technologies. It is, of course, a framework of legislation. It is the Digital Services Act, the Digital Market Act, it’s the legislation on artificial intelligence. It will be the Data Governance Act and the Data Act and the European Digital Identity, just to mention the most obvious things.

That should create ecosystems of excellence – because Europe has so much to offer. We have a culture of doing this and we will do it again. This is how we can create an ecosystem of trust, so that citizens do not feel estranged to a society that they have seen in the movies and found fascinating, but never ever wanted to live in.

And obviously, as was just said, this is a European debate that should be rooted in every Member State. As we have seen with all the different proposals coming in every Member State because this is not just something down in Brussels. This is grown from every Member State but it needs a European response and this response you have given tonight by a promise that democracy will make sure that we frame this.

(Applause)

 
  
MPphoto
 

  President. – The joint debate is closed.

The vote will take place on Tuesday, 20 October 2020.

Written statements (Rule 171)

 
  
MPphoto
 
 

  Andrus Ansip (Renew), kirjalikult. – Digiteenuste liigid ja digiteenuste osutajate rollid on sellest ajast saadik, kui e-kaubanduse direktiiv 20 aastat tagasi vastu võeti, oluliselt muutunud. Muutunud oludes on liikmesriigid hakanud võrguteenuseid erinevalt defineerima (näiteks NetzDG Saksamaal, Prantsusmaa ebaseadusliku veebisisu reguleeriv seadus jt) ning see viiks paratamatult Euroopa Liidu ühtse turu fragmenteerumisele. Seetõttu on võrguteenuste definitsiooni kaasajastamine hädavajalik. Kaasajastamisel tuleks kindlasti säilitada e-kaubanduse direktiivi põhiseisukohad: piiratud vastutuse printsiip, asukohamaa printsiip (COO) ja üldise jälgimiskohustuse keelu printsiip. Digiteenuste reguleerimisega ei tohiks seada ettevõtetele ebaproportsionaalseid uusi kohustusi. Samuti ei tohiks regulatsioonidega kahjustada innovatsiooni. Olen kategooriliselt vastu tehisintellektil põhinevate näotuvastussüsteemide kasutamise keelustamisele avaliku sektori poolt. Me peame kaitsma inimeste privaatsust, kuid seejuures ei tohi me tappa innovatsiooni. Ma ei pea mõistlikuks suunatud reklaami keelustamist. Tarbijana eelistan saada informatsiooni kaupade ja teenuste kohta, mis mulle tõepoolest huvi pakuvad, selmet uppuda lausreklaami mürasse. Raske südamega toetasin kompromissettepanekut.

 
  
MPphoto
 
 

  Patryk Jaki (ECR), na piśmie. – Sztuczna inteligencja to bardzo trudny temat pod względem prawnym. Trzeba powiedzieć sobie jasno, że nie można zaakceptować stanu, w którym proces decyzyjny będzie całkowicie niezależny od człowieka. Sztuczna inteligencja wiąże się z wieloma udogodnieniami, ułatwia nasze życie, bez wątpienia pomaga, ale nie może ponosić odpowiedzialności. Za wszelkie procesy na niej oparte, za ich zaprojektowanie i stworzenie zawsze musi ponosić odpowiedzialność człowiek. Nie może być też mowy o przekazywaniu jakichkolwiek kompetencji organów państwa maszynom.

 
  
MPphoto
 
 

  Ondřej Kovařík (Renew), in writing. – I believe that AI can make a huge contribution to improve the lives of European citizens. AI is a strategic engine that contributes to improving productivity and economic growth. AI is also transforming the way we interact with money helping to streamline and optimize greater access to financial services and efficiency of operations. AI is a powerful ally when it comes to preventing and battling money laundering. Its sophisticated technology not only settles the infrastructure to recognise suspicious activity, but also helps to cut the costs of investigating alleged money-laundering schemes. However, as AI flourishes beyond the realm of science & research and penetrates into our daily lives, lawmakers should commit to steering it in a direction that benefits the common good. AI also raises a number of ethical challenges since it can potentially entail risks for EU citizens’ fundamental rights. The challenges presented by AI circle around the balance between the need to take advantage of this technology and the development of leading regulatory standards that puts people first. AI should be a human-centric technology. I believe it is necessary to establish a comprehensive European legal framework that enables technically robust AI development, while setting up ethical standards.

 
  
MPphoto
 
 

  Eva Maydell (PPE), in writing. – When it comes to digitalisation of the economy, the truth is that we missed already several opportunities. We missed the opportunity created by the previous crisis to change the structure of capital investment in Europe and to increase the share of ICT; we also missed the opportunity of the start of this technological revolution when the main giants were created, when the new services were established.

Today we have two opportunities at the same time. First, it is the economic crisis created by COVID19 that is pushing us to change the model. Second, it is the Artificial Intelligence (AI) and data breakthroughs that are happening. It gives us a chance to be back in the global digital competition, having in mind that Europe produces huge amounts of industrial data. We should use AI as a catalyst for the process of digitalisation and innovation in all industries. AI can be a solution to enhance Europe’s productivity which has been lagging compared to global competitors - and that is just one example. Understanding and addressing the current challenges faced by businesses will be key to ensuring Europe realizes the economic potential of AI to the fullest extent.

 
  
MPphoto
 
 

  Beata Mazurek (ECR), na piśmie. – Kodeks Usług Cyfrowych to inicjatywa, która ma na celu ulepszenie działania jednolitego rynku usług cyfrowych. Jej głównym priorytetem musi być usunięcie barier utrudniających jego prawidłowe działanie przy zachowaniu zasad, które legły u podstaw istnienia i funkcjonowania jednolitego rynku cyfrowego. Wraz z usprawnieniami rynkowymi równie istotne będzie zwiększenie bezpieczeństwa w sieci i ochrona praw podstawowych użytkowników internetu, a także wprowadzenie skutecznego nadzoru nad rynkiem w odniesieniu do moderacji nielegalnych treści przez pośredników. W dzisiejszych czasach, gdzie dostęp do internetowych treści jest powszechny, potrzebne są transparentne narzędzia powiadamiania platform i odwoływania się od ich decyzji. Obecne przepisy i praktyki nie są spójne, co w dużej mierze działa na niekorzyść użytkowników i wprowadza chaos na jednolitym rynku.

Kolejnym ważnym elementem jest zapewnienie bezpieczeństwa wszystkim użytkownikom sieci poprzez zapobieganie cyberprzestępczości i jej zwalczanie. Kluczową kwestią będzie usprawnienie współpracy między platformami internetowymi a właściwymi organami egzekwowania prawa w poszczególnych państwach członkowskich przy zachowaniu najwyższych gwarancji w zakresie praw podstawowych. Istnieje potrzeba stworzenia skutecznego mechanizmu oddzielającego treści nielegalne od tych legalnych, ale szkodzących czy dezinformujących. DSA musi być rozwiązaniem przyszłościowym, zapewniającym bezpieczeństwo i pewność prawną wszystkim użytkownikom rynku cyfrowego.

 
  
MPphoto
 
 

  Victor Negrescu (S&D), în scris. – Pachetul Legislativ pentru servicii digitale reprezintă un element esențial în transformarea digitală a Uniunii Europene. De la adoptarea Directivei privind comerțul electronic în 2000, mediul online a evoluat semnificativ și de aceea este nevoie de noi modalități de a reglementa, de a defini platformele online, de a stimula inovația și de a sprijini sectorul digital european.

Totodată, cetățenii au fost expuși unor noi riscuri suplimentare în timp ce companiile online au întâmpinat dificultăți în ceea ce privește posibilitatea de contestare, echitatea și intrarea pe piață, în special în raport cu marile companii din domeniu.

De aceea avem nevoie de o abordare deschisă pentru reglementarea și dezvoltarea sectorului pornind de la următoarele direcții: combaterea produselor și a conținutului ilegal, contrafăcut sau nesigur; implementarea unui mecanism de notificare și avertizarea privind infracțiunile; crearea profilurilor vânzătorilor online; posibilitatea de a accesa platformele în mod anonim și de a fi uitat de către sistemele informatice; aplicarea tuturor măsurilor platformelor din afara spațiului UE.

Ce este clar este că tot ce este ilegal offline, devine ilegal și online, dar tot ce este bun online trebuie sprijinit activ și corespunzător pentru ca Uniunea Europeană să devină un lider în materie de platforme online.

 
  
MPphoto
 
 

  Sirpa Pietikäinen (PPE), kirjallinen. – Digitalisaatio ja tekoäly luovat yhteiskunnillemme ja meille ihmisille uskomattomia mahdollisuuksia ja helpottavat tuntuvasti elämäämme monin tavoin. Uudet kehittyvät teknologiat eivät ole itsessään hyviä tai huonoja, vaan riippuu meistä ihmisistä, millaisiksi me ne luomme. Digitaalisuus ja uudet teknologiat ovat tärkeä osa arkipäiväämme monin eri tavoin. Niihin liittyvä lainsäädäntö tulisikin integroida jo olemassa olevaan lainsäädäntöön sen sijaan, että luotaisiin täysin erillistä digilainsäädäntöä. Se, mikä on laitonta verkon ulkopuolella, on laitonta myös verkossa. Digi ei ole erillinen saareke, myös siellä tapahtuvaan vihapuheeseen, uhkailuun ja häiriköintiin tulee puuttua ja se pitää estää. Verkossa tapahtuva rikollisuus on myös rikollisuutta, ja sitä ei pidä sallia.

 
  
MPphoto
 
 

  József Szájer (PPE), in writing. – Any future legislation on the digital services should focus on the issue of combating illegal content. Achieving this goal also includes emphasizing the principles that what is illegal offline should be illegal online as well and manifestly illegal content should be removed immediately from the online space. Online platforms have an increasingly important role to play in our fight against illegal content online. On the other hand, the vast majority of online platforms impose certain self-established rules on users of their services. Any breach of these rules generally restrict the publication of content and, in some cases, users’ access to the platform. Decisions based on these set of norms have a serious impact on the constitutional right to freedom of expression, as the platforms themselves determine its limits and its oversight procedures without constitutional guarantees. We need to work on a legal framework building on the responsibility of platforms that is effective against illegal content but does not interfere with freedom of expression or national sovereignty.

 
  
MPphoto
 
 

  Mihai Tudose (S&D), în scris. – Pachetul de șase rapoarte europarlamentare consacrate serviciilor digitale și inteligenței artificiale reflectă îngrijorarea cauzată de discrepanța între impactul noilor tehnologii asupra vieții noastre și legislația deficitară și perimată în domeniu. Spre exemplu, Directiva privind comerțul electronic datează din anul 2000, când acest sector era în stadiu de pionierat.

Mă îngrijorează, în special, volumul de conținut online ilegal, vulnerabilitatea UE la atacuri cibernetice și dezinformare, precum și dificultatea de a reglementa activitatea marilor platforme de Internet pentru protejarea drepturilor utilizatorilor. Cadrul juridic al UE trebuie adaptat la economia digitală, aflată în dezvoltare accelerată.

De aceea, solicit Comisiei Europene să elaboreze promisul Act legislativ privind serviciile digitale, pentru a avea un cadru coerent și stimulativ pentru piața unică digitală. Avem nevoie de adaptarea normelor de drept civil și comercial pentru activitatea online, precum și de un cadru de răspundere civilă pentru exploatarea sistemelor de inteligență artificială, respectiv de un regim al drepturilor de proprietate intelectuală în dezvoltarea și utilizarea tehnologiilor emergente.

Nu în ultimul rând, impactul inteligenței artificiale asupra apărării și securității europene ne obligă să dezvoltăm reziliența strategică, printr-o strategie sectorială, care consider că trebuie definită în strânsă colaborare de către UE și NATO.

 
  
MPphoto
 
 

  Carlos Zorrinho (S&D), por escrito. – O debate conjunto dos atos legislativos sobre os serviços digitais e inteligência artificial ocorre num momento em que é fundamental robustecer juridicamente, e no plano da segurança, as regras que devem regular as plataformas digitais, os serviços e os produtos para completar o mercado único digital.

Com a aceleração tecnológica e o crescimento das transações feitas por via digital, os direitos fundamentais têm que ser salvaguardados. O pacote legislativo em apreciação é um passo importante nesse sentido. O rápido desenvolvimento da inteligência artificial coloca novos desafios, oportunidades e ameaças no plano do desenvolvimento do mercado único digital.

Baseado no Livro Branco da Comissão Europeia sobre inteligência artificial, apresentado em fevereiro do corrente ano, o relatório de iniciativa legislativa sobre a dimensão ética da inteligência artificial, da robótica e das tecnologias relacionadas assume um caminho de autonomia estratégica da União Europeia, baseada nos seus valores e princípios, definindo regras obrigatórias baseadas numa ética humanista e colocando as pessoas, a sua proteção, os seus direitos e os seus interesses no centro do processo de desenvolvimento da inteligência artificial. Este é, em meu entender, um caminho promissor, que pode conduzir a uma liderança global da União no desenvolvimento de soluções seguras para os cidadãos.

 
Atnaujinta: 2020 m. gruodžio 22 d.Teisinė informacija - Privatumo politika