KI-Gesetz: erste Regulierung der künstlichen Intelligenz

Der Einsatz von künstlicher Intelligenz in der EU wird durch die Verordnung über künstliche Intelligenz geregelt, das weltweit erste umfassende KI-Gesetz. Erfahren Sie, wie es Sie schützt.

Inhaltsverzeichnis

Ein Mann steht vor einer computergenerierten Figur mit Programmiersprache im Hintergrund.
Dieses Symbolbild für KI wurde von künstlicher Intelligenz generiert.

Im Rahmen ihrer digitalen Strategie verfolgt die EU das Ziel, klare Regeln für künstliche Intelligenz (KI) festzulegen, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. KI kann viele Vorteile mit sich bringen, zum Beispiel eine bessere Gesundheitsfürsorge, einen sichereren und saubereren Verkehr, eine effizientere Fertigung sowie eine billigere und nachhaltigere Energieversorgung.

KI-Regulierung in Europa: Der erste umfassende Rechtsrahmen

Im April 2021 schlug die Europäische Kommission das erste EU-Gesetz über künstliche Intelligenz vor. Ziel ist die Einführung eines risikobasierten Klassifizierungssystems für KI-Anwendungen. Dabei werden KI-Systeme je nach ihrem Einsatzgebiet analysiert und entsprechend ihres Risikos für die Nutzer eingestuft. Je höher das Risiko, desto strenger sind die Anforderungen an Transparenz, Sicherheit und Compliance.

Was das Parlament von der KI-Gesetzgebung erwartete

Das Europäische Parlament wollte vor allem sicherstellen, dass die in der EU eingesetzten KI-Systeme sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Um potenzielle Risiken und schädliche Folgen zu vermeiden, sollen diese Systeme von Menschen überwacht werden und nicht ausschließlich durch automatisierte Prozesse gesteuert werden.

Darüber hinaus verfolgte das Parlament das Ziel, eine technologieneutrale und einheitliche Definition von KI festzulegen, die auch für zukünftige KI-Systeme anwendbar ist.

Verordnung über künstliche Intelligenz: ein risikobasierter Ansatz

Das neue Gesetz definiert klare Verpflichtungen für Anbieter und Nutzer von KI-Systemen, die sich nach dem jeweiligen Risikoniveau richten. Während viele KI-Anwendungen lediglich ein minimales Risiko bergen, unterliegen sie dennoch einer Bewertung, um Sicherheit und Compliance sicherzustellen.

Unannehmbares Risiko

Zu den in der EU verbotenen KI-Anwendungen gehören:

  • kognitive Verhaltensmanipulation von Personen oder bestimmten gefährdeten Gruppen, zum Beispiel sprachgesteuertes Spielzeug, das gefährliches Verhalten bei Kindern fördert;
  • KI-Anwendungen für soziales Scoring: Klassifizierung von Menschen auf der Grundlage von Verhalten, sozioökonomischem Status und persönlichen Merkmalen;
  • biometrische Identifizierung und Kategorisierung natürlicher Personen;
  • biometrischen Echtzeit-Fernidentifizierungssystemen, zum Beispiel Gesichtserkennung im öffentlichen Raum.


Einige Ausnahmen können für Strafverfolgungszwecke zugelassen werden. Biometrische Echtzeit-Fernidentifizierungssysteme werden in einer begrenzten Anzahl schwerwiegender Fälle zulässig sein. System zur nachträglichen biometrischen Fernidentifizierung, bei denen die Identifizierung erst mit erheblicher Verzögerung erfolgt, können zur Verfolgung schwerer Straftaten und nur nach gerichtlicher Genehmigung zulässig sein.

Hochrisiko-KI-Systeme

KI-Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen, gelten als hochriskant und werden in zwei Hauptkategorien eingeteilt.

1. KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Dazu gehören Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge.

2. KI-Systeme, die in spezifische Bereiche fallen, und die in einer EU-Datenbank registriert werden müssen:

  • Verwaltung und Betrieb von kritischen Infrastrukturen;
  • allgemeine und berufliche Bildung;
  • Beschäftigung, Verwaltung der Arbeitnehmer und Zugang zur Selbstständigkeit;
  • Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen;
  • Strafverfolgung;
  • Verwaltung von Migration, Asyl und Grenzkontrollen;
  • Unterstützung bei der Auslegung und Anwendung von Gesetzen.


Alle KI-Systeme mit hohem Risiko werden vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet. Die Bürger werden das Recht haben, bei den zuständigen nationalen Behörden Beschwerden über KI-Systeme einzureichen.

Transparenzanforderungen

Generative Foundation-Modelle wie ChatGPT werden nicht als risikoreich eingestuft, müssen aber Transparenzanforderungen und das EU-Urheberrecht erfüllen:

  • Offenlegung, dass der Inhalt durch KI generiert wurde;
  • Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt;
  • Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden.


KI-Systeme mit allgemeinem Verwendungszweck und beträchtlichen Auswirkungen, die ein Systemrisiko darstellen könnten, wie das fortgeschrittene KI-Modell GPT-4, müssten gründlich bewertet werden und alle schwerwiegenden Vorfälle wären der Kommission zu melden.

Inhalte, die mit Hilfe von KI erzeugt oder verändert wurden – Bilder, Audio- oder Videodateien (zum Beispiel Deepfakes) –, müssen eindeutig als KI-generiert gekennzeichnet werden, damit die Nutzer wissen, wenn sie auf solche Inhalte stoßen.

Förderung von KI-Innovationen und Start-ups in Europa

Das Gesetz soll die Entwicklung von KI-Innovationen und die Förderung von Start-ups in Europa unterstützen. Unternehmen erhalten die Möglichkeit, allgemeine KI-Modelle zu entwickeln und unter kontrollierten Bedingungen zu testen, bevor sie für die breite Öffentlichkeit zugänglich gemacht werden.

Um dieses Ziel zu verwirklichen, sind die nationalen Behörden dazu verpflichtet, Testumgebungen bereitzustellen, die realitätsnahe Bedingungen simulieren. Besonders für kleine und mittlere Unternehmen (KMU) stellt dies eine wichtige Unterstützung dar, um ihre Wettbewerbsfähigkeit auf dem wachsenden EU-Markt für künstliche Intelligenz zu sichern.

Umsetzung

Das Europäische Parlament hat eine spezielle Arbeitsgruppe eingerichtet, die die Umsetzung und Einhaltung des KI-Gesetzes überwacht. So soll sichergestellt werden, dass die verabschiedeten Vorschriften die Entwicklung des digitalen Sektors in Europa nachhaltig fördern.

Die Arbeitsgruppe kooperiert eng mit dem Europäischen Büro für Künstliche Intelligenz der Europäischen Kommission, das als zentrale Anlaufstelle fungiert, um wesentliche Bestimmungen des Gesetzes zu erläutern und deren Anwendung zu unterstützen.

Zeitplan für die Umsetzung der Verordnung über künstliche Intelligenz

Im Juni 2024 verabschiedete die Europäische Union die weltweit ersten verbindlichen Regelungen zur künstlichen Intelligenz. Das Gesetz tritt schrittweise in Kraft und wird 24 Monate nach Inkrafttreten vollständig anwendbar sein. Einige Bestimmungen gelten jedoch bereits früher:

  • das Verbot von KI-Systemen, die unannehmbare Risiken darstellen, gilt seit dem 2. Februar 2025;
  • die Verhaltenskodizes werden neun Monate nach Inkrafttreten gelten;
  • Vorschriften für KI-Systeme mit allgemeinem Verwendungszweck, die den Transparenzanforderungen genügen müssen, gelten zwölf Monate nach Inkrafttreten.

Für KI-Systeme mit hohem Risiko wurde ein längerer Übergangszeitraum festgelegt: Die entsprechenden Verpflichtungen werden 36 Monate nach Inkrafttreten verbindlich.

Mehr über die digitalen Maßnahmen der EU

Weitere Informationen

Diesen Artikel teilen auf: