Das Europäische Parlament hat am Mittwoch mit 523 zu 46 Stimmen bei 49 Enthaltungen den Gesetzentwurf zur Künstlichen Intelligenz (KI) verabschiedet. Damit befindet sich die Europäische Union in der finalen Phase der Verabschiedung des weltweit ersten umfassenden Rechtsrahmens zur risikobasierten Regulierung von KI. Das Gesetz sieht je nach Nutzung von KI-Systemen unterschiedliche Verpflichtungen vor, verbietet bestimmte, als unzulässig erachtete Anwendungen und führt neue Transparenz- und Sicherheitspflichten für leistungsstarke, universell einsetzbare Modelle ein.
In ihrer Ankündigung vom 13. Märzerklärte das Parlament, das Gesetz diene dem Schutz von Grundrechten, Demokratie, Rechtsstaatlichkeit und ökologischer Nachhaltigkeit bei gleichzeitiger Förderung von Innovationen. Der Abstimmung gingen jahrelange Verhandlungen voraus, die vor dem öffentlichen Aufschwung generativer KI begannen und nach Systemen wie ChatGPT, die die rasante Verbreitung universeller Modelle in verschiedenen Sektoren demonstrierten, grundlegend überarbeitet wurden.
Eine Risikohierarchie ersetzt die einheitliche KI-Regulierung
Das zentrale Element des KI-Gesetzes ist eine risikobasierte Hierarchie. Systeme, die als inakzeptable Risiken eingestuft werden, sind verboten, während Systeme mit hohem Risiko vor und während des Betriebs strengen Auflagen unterliegen. Zu den Hochrisikokategorien zählen Anwendungen in kritischer Infrastruktur, Bildung, Beschäftigung, lebenswichtigen Dienstleistungen, Strafverfolgung und anderen Bereichen, in denen automatisierte Entscheidungen die Rechte und Chancen von Menschen erheblich beeinträchtigen können.
Reuters berichtete, dass Entwickler mit hohem Risiko Risikomanagement, Datenqualität, technische Dokumentation, Aufzeichnungen, menschliche Aufsicht und Genauigkeit berücksichtigen müssen. Das Gesetz beschränkt zudem die biometrische Echtzeit-Fernidentifizierung durch Strafverfolgungsbehörden; Ausnahmen gelten für eng definierte schwere Straftaten und Bedrohungen.
Einige KI-Anwendungen würden gänzlich verboten. Die Zusammenfassung des Parlaments umfasst Social Scoring, bestimmte Formen manipulativer KI, die Ausnutzung von Sicherheitslücken, das ungerichtete Sammeln von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken, die Emotionserkennung am Arbeitsplatz und in Schulen sowie einige Formen der prädiktiven Polizeiarbeit, die ausschließlich auf Profiling oder persönlichen Merkmalen basieren.
Generative KI zwang die Gesetzgeber, den Rahmen neu zu schreiben
Der ursprüngliche Vorschlag der Europäischen Kommission wurde 2021 eingebracht, bevor große Sprachmodelle zum Massenmarkt wurden. Der Aufstieg von ChatGPT, GPT-4, Gemini und ähnlichen Systemen führte zu einem regulatorischen Problem, da ein universelles Modell in Tausende von nachgelagerten Anwendungen integriert werden kann, anstatt sich nahtlos in einen festen Anwendungsfall einzufügen.
Der finale politische Kompromiss sieht eine separate Ebene für allgemeine KI vor. Wie die Associated Press berichtete, werden Anbieter leistungsstarker Modelle Transparenzpflichten unterliegen, darunter Dokumentationen zu Trainingsmethoden und zur Einhaltung europäischer Urheberrechtsbestimmungen. Modelle, die als systemisches Risiko eingestuft werden, unterliegen zusätzlichen Bewertungs- und Risikominderungsanforderungen.
Die Struktur zielt darauf ab, die Verantwortung zwischen dem Modellentwickler und dem Unternehmen, das KI in einem spezifischen Hochrisikobereich einsetzt, aufzuteilen. Ein universelles Modell kann in einer Anwendung ein geringes Risiko darstellen und in einem Hochrisikosystem zum Einsatz kommen, wenn es für Personalbeschaffung, medizinische Entscheidungen oder kritische Infrastrukturen verwendet wird. Regulierungsbehörden benötigen daher Informationen, die sich entlang der gesamten Lieferkette verbreiten und nicht nur beim ursprünglichen Modellanbieter enden.
Biometrie und Grundrechte gehören weiterhin zu den umstrittensten Bestimmungen
Das Gesetz setzt der biometrischen Identifizierung und Kategorisierung zwar starke Grenzen, verbietet aber nicht gänzlich den Einsatz biometrischer Fernüberwachungssysteme durch die Polizei. Bestimmte Anwendungen bleiben unter festgelegten Bedingungen weiterhin möglich – ein Kompromiss, der von Bürgerrechtsgruppen kritisiert wurde, während Regierungen argumentierten, dass schwere Straftaten begrenzte Ausnahmen erforderten.
Euronews berichtete, dass die beiden Chefunterhändler des Parlaments die Abstimmung als historischen Schritt hin zu einer „sicheren und menschenzentrierten“ KI bezeichneten. Das Gesetz räumt den Bürgern zudem das Recht ein, Beschwerden einzureichen und unter bestimmten Umständen Erläuterungen zu Entscheidungen zu erhalten, die mit risikoreichen Systemen getroffen wurden.
Das Regelwerk soll über Unternehmen mit Hauptsitz in Europa hinaus gelten. Anbieter außerhalb der EU können unter den Geltungsbereich fallen, wenn ihre Systeme auf dem europäischen Markt angeboten oder ihre Produkte in der Union genutzt werden. Diese extraterritoriale Wirkung ist einer der Gründe, warum US-amerikanische Technologieunternehmen die Umsetzung genau verfolgen.
Die Industrie befürwortet einen gemeinsamen Rahmen, warnt aber vor dessen Umsetzung
Technologieunternehmen und Wirtschaftsverbände haben die Notwendigkeit einer KI-Governance weitgehend anerkannt, warnten jedoch davor, dass die Einhaltung der Vorschriften nicht so komplex werden dürfe, dass sich die Implementierung in Europa im Vergleich zu den USA und China verlangsame. Nach der Abstimmung am Mittwoch die BSA | The Software Alliance das Gesetz als wichtigen Meilenstein und forderte die fortgesetzte Zusammenarbeit zwischen Politik und Industrie bei der Entwicklung von ergänzenden Regelungen und Leitlinien.
Andere Branchenvertreter äußern sich vorsichtiger. Ars Technica berichtete von Bedenken des Computer & Communications Industry Association (CCIA), dass einige Verpflichtungen Innovationen hemmen oder Systeme mit geringerem Risiko übermäßig belasten könnten. Die praktischen Auswirkungen werden größtenteils von Standards, Definitionen und Durchsetzungsentscheidungen abhängen, die noch nicht festgelegt sind.
Die Gesetzgebung sieht erhebliche finanzielle Strafen vor. Schwere Verstöße können Bußgelder in zweistelliger Millionenhöhe oder einen Prozentsatz des weltweiten Jahresumsatzes nach sich ziehen, wobei die Höchstbeträge je nach Art des Verstoßes variieren. Diese Größenordnung soll sicherstellen, dass die Kosten für die Einhaltung der Vorschriften von den größten KI-Entwicklern nicht einfach als vernachlässigbar angesehen werden können.
Urheberrechtsbestimmungen werden Teil der KI-Governance
Urheber und Verlage setzten sich für Bestimmungen ein, die das Verhältnis zwischen allgemeiner KI und urheberrechtlich geschütztem Trainingsmaterial regeln. Ein Zusammenschluss europäischer Kreativorganisationen erklärte am 13. März , das Gesetz werde Anbieter allgemeiner Modelle verpflichten, Richtlinien zur Einhaltung des Urheberrechts einzuhalten und ausreichend detaillierte Zusammenfassungen der zum Training ihrer Systeme verwendeten Inhalte bereitzustellen.
Diese Bestimmungen lösen nicht alle Urheberrechtsstreitigkeiten. Gerichte und Aufsichtsbehörden müssen weiterhin klären, wie das geltende Urheberrecht auf das Training, die Lizenzierung und die Ergebnisse von Modellen anzuwenden ist. Das KI-Gesetz schafft jedoch Dokumentations- und Transparenzpflichten, die es Rechteinhabern erleichtern könnten, die Entwicklung von Modellen nachzuvollziehen und Ansprüche geltend zu machen, wenn sie der Ansicht sind, dass geschützte Werke unrechtmäßig verwendet wurden.
Die entscheidende Arbeit verlagert sich von der Verhandlung zur Umsetzung
Die Abstimmung des Parlaments am Mittwoch ist nicht der letzte Verfahrensschritt. Der Rat der Europäischen Union muss den vereinbarten Text noch formell annehmen, bevor er veröffentlicht wird und in Kraft tritt. Anschließend werden die Verpflichtungen schrittweise eingeführt, anstatt alle gleichzeitig zu gelten. Zunächst werden voraussichtlich die verbotenen Praktiken Anwendung finden, gefolgt von den Regeln für Standardmodelle und später dem vollständigen Rahmenwerk für Hochrisikomodelle.
Der Zeitplan für die Umsetzung führt zu einem neuen Wettlauf zwischen Regulierungsbehörden und Technologie. Normungsorganisationen, nationale Behörden und das neue KI-Büro der Europäischen Kommission müssen definieren, wie Unternehmen die Einhaltung der Vorschriften nachweisen können, während sich die Fähigkeiten von Modellen rasant weiterentwickeln. Die Herausforderung ist besonders groß bei allgemeiner KI, wo die Messung von Systemrisiken, Rechenleistung, Evaluierung und nachgelagerter Nutzung weiterhin umstritten ist.
Bis Samstag ist die politische Richtung jedoch klar. Mit 523 zu 46 Stimmen hat das KI-Gesetz eine überwältigende parlamentarische Unterstützung erhalten, und Europa bereitet sich darauf vor, von freiwilligen KI-Prinzipien zu verbindlichen rechtlichen Verpflichtungen überzugehen. Die Frage ist nun, ob ein risikobasierter Rahmen die Nutzer schützen und gefährliche Anwendungen einschränken kann, ohne die technischen Möglichkeiten in einem Bereich einzufrieren, dessen Fähigkeiten sich schneller entwickeln als der Gesetzgebungsprozess, der das Gesetz hervorgebracht hat.