Gegen KI-Deepfakes und sexuelle Ausbeutung in sozialen Medien
In einer Debatte am Dienstag wird das Parlament voraussichtlich eine strengere und schnellere Durchsetzung der EU-Rechtsvorschriften gegen KI-generierte illegale sexuelle Inhalte fordern.
Die Debatte mit Rat und Kommission folgt auf den jüngsten Skandal um Berichte, wonach die Social-Media-Plattform X über ihren KI-Chatbot Grok die Erstellung sexuell expliziter Bilder von Frauen und Kindern ermöglicht. In den vergangenen Wochen wurde die Plattform international scharf kritisiert; mehrere Regierungen haben sie verboten, andere haben Untersuchungen zu dieser sogenannten „Pornifizierung“-Funktion eingeleitet, die Frauen und Minderjährige einem erhöhten Missbrauchsrisiko aussetzt. Das Parlament wird die Kommission voraussichtlich auffordern, auf Grundlage des Gesetzes über digitale Dienste (DSA) und des Gesetzes über Künstliche Intelligenz entschlossener gegen die Erzeugung illegaler KI-Inhalte vorzugehen.
Hintergrund
Im Dezember 2025 verhängte die Europäische Kommission nach dem DSA erstmals eine Geldbuße gegen X wegen Verstößen gegen Transparenzpflichten. Weitere Untersuchungen laufen, um zu prüfen, ob X auch in Bereichen wie der Verbreitung illegaler Inhalte und der Bekämpfung von Informationsmanipulation gegen den DSA verstoßen hat. Die Kommission verurteilte zudem die Erstellung sexualisierter Bilder durch X und ordnete an, sämtliche Dokumente im Zusammenhang mit dem KI-Chatbot aufzubewahren, während die Ermittlungen fortgesetzt werden.
Aussprache: Dienstag, 20. Januar
Verfahren: Erklärung von Rat und Kommission