Das Europäische Parlament hat mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Enthaltungenseinen Verhandlungsstandpunkt zum Gesetz über Künstliche Intelligenz angenommen. Damit rückt die Europäische Union dem weltweit ersten umfassenden Rechtsrahmen zur Regulierung von Künstlicher Intelligenz näher und führt neue Verpflichtungen ein, die auf die schnell wachsende Generation von Systemen wie ChatGPT und ähnlichen Tools abzielen. Die Abstimmung vom 14. Juni legt die Position des Parlaments für die Verhandlungen mit dem Rat der Europäischen Union fest, der im Dezember seinen eigenen Ansatz verabschiedet hat.
Die Ankündigung des Parlaments besagt, dass die Gesetzgeber wollen, dass in Europa eingesetzte KI-Systeme sicher, transparent, nachvollziehbar, nichtdiskriminierend und umweltverträglich sind. Die verabschiedeten Änderungen behalten die risikobasierte Architektur der Kommission bei, erweitern jedoch die Verbote und schaffen spezifische Transparenzanforderungen für allgemeine und generative Systeme. Das Ergebnis ist kein endgültiges Gesetz; es eröffnet die interinstitutionellen Verhandlungen, die den Text festlegen werden.
Ein risikobasiertes Gesetz wird erweitert, um generative KI zu berücksichtigen
Die Europäische Kommission schlug den KI-Gesetzentwurf erstmals im April 2021 vor, noch bevor die aktuelle Welle öffentlicher generativer KI-Systeme große Sprachmodelle zu einer Standardtechnologie gemacht hatte. Der ursprüngliche Vorschlag basierte auf Risikokategorien. Bestimmte Anwendungen sollten verboten, Systeme mit hohem Risiko verbindlichen Anforderungen unterworfen und Anwendungen mit geringerem Risiko weniger Transparenzpflichten unterliegen sollten.
Das Parlament hat diese Grundstruktur beibehalten und sie gleichzeitig an einen Markt angepasst, der sich während des Gesetzgebungsverfahrens rasch verändert hat. Gemäß der verabschiedeten Regelung müssen Anbieter von Basismodellen vorhersehbare Risiken bewerten und minimieren, Design- und Dokumentationsanforderungen erfüllen und qualifizierte Modelle in einer EU-Datenbank registrieren. Generative Systeme müssen offenlegen, dass Inhalte mithilfe von KI generiert wurden, das Modell so gestalten, dass rechtswidrige Inhalte verhindert werden, und Zusammenfassungen des für das Training verwendeten urheberrechtlich geschützten Materials veröffentlichen.
Diese Bestimmungen verdeutlichen die Schwierigkeit, Technologien zu regulieren, die in vielen nachgelagerten Anwendungen eingesetzt werden können. Ein für die allgemeine Textgenerierung trainiertes Modell kann später in Kundenservice, Bildung, Softwareentwicklung, Gesundheitsverwaltung oder andere Bereiche mit sehr unterschiedlichen Risikoprofilen integriert werden. Der Ansatz des Parlaments legt daher einige Verpflichtungen auf Modellebene fest, während gleichzeitig strengere Regeln für den Einsatz eines Systems in einer ausgewiesenen Hochrisikoanwendung gelten.
Biometrische Überwachung und verbotene Praktiken
Das Parlament erweiterte zudem die Liste der verbotenen Praktiken. Der Text schränkt die biometrische Fernidentifizierung in öffentlich zugänglichen Bereichen ein und verbietet bestimmte Formen der biometrischen Kategorisierung, die sensible Merkmale nutzen. Er untersagt außerdem das wahllos Auslesen biometrischer Daten aus dem Internet oder von Überwachungskameraaufnahmen zum Aufbau von Gesichtserkennungsdatenbanken – eine Technik, die bei Datenschutz- und Bürgerrechtsgruppen Besorgnis ausgelöst hat.
Die Gesetzgeber nahmen darüber hinaus Systeme ins Visier, die darauf abzielen, Emotionen in der Strafverfolgung, im Grenzmanagement, am Arbeitsplatz und in Schulen zu erfassen, sowie Anwendungen, die Sicherheitslücken ausnutzen oder bestimmte Social-Scoring-Verfahren anwenden. Diese Bestimmungen gehen über die begrenzteren Verbote im ursprünglichen Vorschlag der Kommission hinaus und dürften zu den Themen gehören, die am intensivsten mit den Mitgliedstaaten verhandelt werden.
Der allgemeine Ansatz des Rates vom Dezember 2022 befürwortete ebenfalls ein risikobasiertes System, modifizierte jedoch Definitionen und die Behandlung von allgemeiner KI. Der Rat erklärte, sein Ziel sei es, sicherzustellen, dass auf dem EU-Markt eingeführte Systeme sicher sind und die Grundrechte achten, und gleichzeitig Investitionen und Innovationen zu fördern. Die Unterschiede zwischen den beiden Institutionen bestimmen nun den Verhandlungsspielraum.
Hochrisikosysteme erfordern Dokumentation und Überwachung
Kern der Gesetzgebung bleibt die Kategorie der Hochrisikosysteme. Systeme, die in Bereichen wie kritischer Infrastruktur, Bildung, Beschäftigung, Grundversorgung, Strafverfolgung, Migration und Justizverwaltung eingesetzt werden, können Anforderungen hinsichtlich Risikomanagement, Datenqualität, technischer Dokumentation, Datenspeicherung, menschlicher Aufsicht, Genauigkeit und Cybersicherheit unterliegen. Das Parlament möchte Nutzern zudem die Möglichkeit geben, Beschwerden einzureichen und Erklärungen zu erhalten, wenn sie durch Hochrisikosysteme wesentlich beeinträchtigt werden.
Das Rahmenwerk ist deshalb von Bedeutung, weil viele der Anforderungen bereits vor oder bei der Markteinführung von Systemen in Europa gelten und nicht erst nach Eintritt eines Schadens. Dies schafft Compliance-Pflichten für Entwickler und Anwender und bietet Regulierungsbehörden eine Grundlage für die Prüfung von Modelldokumentation, Datenverwaltung und -überwachung. Für Technologieunternehmen ergeben sich praktische Fragen wie: Welche Systeme fallen in welche Kategorie? Wer trägt die Pflichten in der Lieferkette? Und wie sind die Regeln anzuwenden, wenn Standardmodelle von Dritten angepasst werden?.
Zeitgenössische Berichte der Washington Post wiesen darauf hin, dass die Abstimmung zu einem Zeitpunkt stattfand, als Regierungen weltweit ihre Bemühungen verstärkten, die sich rasant verbessernden KI-Systeme zu verstehen und zu regulieren. Der Prozess der EU ist ungewöhnlich weit fortgeschritten, da er Jahre vor dem aktuellen Boom der generativen KI begann. Dieser Vorsprung ermöglichte es den Gesetzgebern, von allgemeinen Prinzipien zu verbindlichen Verpflichtungen überzugehen, während andere Rechtsordnungen sich weiterhin auf freiwillige Verpflichtungen, Befugnisse von Behörden und explorative Gesetzgebung konzentrieren.
Die Verhandlungen werden über das endgültige Gleichgewicht entscheiden
Die nächste Phase ist der sogenannte Trilog zwischen Parlament, Rat und Europäischer Kommission. Jede Institution bringt einen anderen Text und unterschiedliche politische Schwerpunkte ein. Die endgültige Verordnung muss die strengeren Vorgaben des Parlaments mit der Position der Mitgliedstaaten in Einklang bringen und technische Fragen zu Gründungsmodellen, Hochrisikokategorien, Ausnahmen für die Strafverfolgung und deren Durchsetzung klären.
Das Protokoll zeigt, dass sich die Mitgliedstaaten bereits vor Abschluss der Parlamentsarbeit auf ein Verhandlungsmandat geeinigt haben. Damit liegen dem Gesetzgebungsverfahren nun zwei formale Positionen vor, die für die abschließenden Verhandlungen geeignet sind. Eine politische Einigung könnte noch Monate dauern, gefolgt von der Ausarbeitung der rechtlichen Bestimmungen und einer Übergangsfrist, bevor die meisten Verpflichtungen in Kraft treten.
Die Gesetzgebung hat auch Auswirkungen über Europa hinaus. Unternehmen, die KI-Systeme für den EU-Markt entwickeln oder vertreiben, müssen möglicherweise Compliance-Prozesse aufbauen, die sich auf Produkte auswirken, die anderswo angeboten werden. Europa hat in der Vergangenheit Marktzugangs- und Datenschutzgesetze genutzt, um globale Unternehmenspraktiken zu prägen; Befürworter des KI-Gesetzes hoffen, dass ein ähnlicher Effekt zu grundlegenden Erwartungen an Dokumentation, Transparenz und Risikomanagement führen wird.
Gleichzeitig hängt die Wirksamkeit des Gesetzes von Definitionen ab, die nach wie vor technisch anspruchsvoll sind. Künstliche Intelligenz umfasst ein breites Spektrum an statistischen und Softwaresystemen, während sich Basismodelle schnell weiterentwickeln und nach ihrer Veröffentlichung umfunktioniert werden können. Zu eng gefasste Regeln können veralten; zu weit gefasste Regeln können herkömmliche Software in kostspielige Compliance-Strukturen zwingen. Der Gesetzestext des Parlaments versucht, dieses Spannungsverhältnis durch die Risikohierarchie und spezifische Verpflichtungen für leistungsstarke, universell einsetzbare Modelle zu bewältigen.
Die Berichterstattung im TIME-Magazin bezeichnete die Parlamentsabstimmung als wichtigen Schritt hin zu einer umfassenden KI-Regulierung, insbesondere weil generative Systeme die Gesetzgeber gezwungen hatten, einen vor der Veröffentlichung von ChatGPT entworfenen Vorschlag zu überarbeiten. Die zentrale Frage verschiebt sich nun von der Frage, ob Europa KI regulieren wird, hin zu den genauen Grenzen des endgültigen Regimes.
Das Abstimmungsergebnis von 499 zu 28 Stimmen verleiht dem Parlament ein starkes Verhandlungsmandat. Es klärt zwar nicht alle technischen oder politischen Streitigkeiten, legt aber ein konkretes Regulierungsmodell vor: Verbot einer begrenzten Gruppe unzulässiger Anwendungen, Kontrolle risikoreicher Systeme, Transparenz von generativen Modellen und Schaffung einer Durchsetzungsarchitektur, die Unternehmen entlang der gesamten KI-Wertschöpfungskette erreicht. Die anstehenden Verhandlungen werden zeigen, inwieweit diese Struktur in geltendes Recht umgesetzt wird.