Sechs der einflussreichsten Unternehmen im Bereich der künstlichen Intelligenz unterzeichneten am Dienstag ein freiwilliges Abkommen des Weißen Hauses, das interne Kontrollen, unabhängige Prüfungen und die Aufsicht über zukunftsweisende KI-Systeme auf Vorstandsebene vorsieht, jedoch keine rechtlichen Strafen, feste Fristen oder ein staatliches Inspektionssystem beinhaltet.

Die von den Führungskräften von Google, Anthropic, Meta, OpenAI, Nvidia und xAI unterzeichnete, einseitige Verpflichtungserklärung sieht vier Prüfstufen vor. Die Unternehmen überwachen die Leistungsfähigkeit und Ausrichtung ihrer Modelle während des Trainings und der Implementierung, setzen ein internes Team zur Überprüfung der Wirksamkeit dieser Kontrollen ein, beauftragen einen externen Prüfer oder Gutachter und benennen einen unabhängigen Ausschuss des Aufsichtsrats, der die Ergebnisse entgegennimmt. Laut Berichten von Reuters und AP.

Präsident Donald Trump bezeichnete das Abkommen nach einem Treffen mit Führungskräften im Weißen Haus als „moralisch bindend“. Im Dokument selbst heißt es, die Maßnahmen könnten letztendlich in Gesetze oder Verordnungen fließen. Die unmittelbare Wirksamkeit des Abkommens hängt somit davon ab, wie Unternehmen ihre Kontrollmechanismen definieren, implementieren und offenlegen. Seine Bedeutung beruht daher weniger auf einer neuen Regulierungsbehörde als vielmehr darauf, ob die Unterzeichner eine gemeinsame, unabhängig überprüfbare Grundlage schaffen.

Vier Schichten, wenige Implementierungsdetails

Die Architektur des Abkommens ähnelt einem unternehmensweiten Risikomanagementsystem: Technische Teams identifizieren Gefahren, eine separate interne Abteilung überprüft ihre Arbeit, ein externer Dritter bewertet das System, und die Geschäftsleitung erhält die Ergebnisse. Diese Vorgehensweise kann die Wahrscheinlichkeit verringern, dass ein Produktteam seine eigene Leistung unkritisch beurteilt. Sie verlagert die Verantwortung für die Sicherheit von KI zudem aus den Forschungsgruppen in die formale Unternehmensführung, wo die Aufsichtsräte befragt werden können, was sie wussten und wie sie reagierten.

Der veröffentlichte Text legt jedoch weder einheitliche Prüfkriterien noch Berichtsvorlagen oder Konsequenzen für eine nicht bestandene Bewertung fest. Er regelt nicht, wer als unabhängig gilt, ob Unternehmen ihre eigenen Prüfer auswählen und bezahlen dürfen oder ob die Ergebnisse veröffentlicht werden müssen. Der Geltungsbereich des Abkommens blieb nach der Bekanntgabe unklar, und die Washington Post berichtete, dass viele Unterzeichner bereits Versionen der zugesagten Prüfungen anwenden. Aufgrund dieser Lücken ist die Umsetzung, nicht die Unterzeichnung, der maßgebliche Maßstab für den Fortschritt.

Warum Unternehmen ein freiwilliges Modell akzeptierten

Der Pakt kommt zu einem Zeitpunkt, an dem Entwickler innovativer Systeme von zwei Seiten unter Druck stehen. Ihre Systeme werden immer leistungsfähiger, insbesondere in Bereichen wie Softwareausnutzung und autonomem Handeln, während die Branche massiv in Rechenzentren investiert und nach Möglichkeiten sucht, Produkte schnell einzuführen. Ein freiwilliger Rahmen bietet Unternehmen die Möglichkeit, Vorsicht zu signalisieren, ohne jede neue Modellversion einem staatlichen Genehmigungsverfahren unterziehen zu müssen.

Für die Regierung passt die Vereinbarung zu einer Strategie, die die Wettbewerbsfähigkeit der USA und einen raschen Infrastrukturausbau betont und gleichzeitig eine umfassende Vormarktregulierung ablehnt. Trump erklärte, die Branche könne sich selbst regulieren und brachte zudem eine etwa zehnköpfige Aufsichtsgruppe ins Gespräch, ohne jedoch Mitglieder oder Befugnisse zu nennen. Auch der CBS-Bericht über die Veranstaltung beschrieb Standards, die auf unternehmensinternen Überprüfungen und nicht auf einem verbindlichen Bundesprogramm basieren.

Die bestehenden Standards zeigen, was fehlt

Die Bundesregierung verfügt bereits über einen detaillierteren, freiwilligen Referenzpunkt. Das Risikoprofil für (NIST) beschreibt einen Lebenszyklusansatz zur Identifizierung, Messung und zum Management von Risiken. Es handelt sich dabei nicht um ein Zertifizierungsprogramm, sondern um eine gemeinsame Terminologie und empfohlene Vorgehensweisen, die die Vergleichbarkeit der Bewertungen verschiedener Unternehmen verbessern können.

Das neue Abkommen könnte von Bedeutung sein, wenn die Unterzeichner seine weitreichenden Elemente in gemeinsame Bewertungsmethoden, Vorfallsdefinitionen und Offenlegungsregeln umsetzen. Externe Audits sind am effektivsten, wenn die Prüfer Zugriff auf Beweise haben, wiederholbare Tests anwenden und nach einheitlichen Kriterien berichten. Fehlen diese Voraussetzungen, könnten zwei Unternehmen zwar die Einhaltung der Vorschriften behaupten, aber unterschiedliche Risiken messen, unterschiedliche Ergebnisse zurückhalten oder unterschiedliche Fehlertoleranzen akzeptieren.

Der Kongress erwägt eine durchsetzbare Alternative

Der freiwillige Ansatz ist nicht das einzige in Betracht gezogene Modell. Die Senatoren Mark Warner, Brian Schatz und Andy Kim brachten letzte Woche den „Artificial Intelligence Risk Management and Security Act of 2026“ ein, der verbindliche Standards für hochentwickelte Systeme vorsieht. Die Einbringung des Gesetzentwurfs bedeutet nicht, dass er verabschiedet wird, aber sie verdeutlicht den Unterschied: gesetzliche Pflichten und staatliche Durchsetzung versus Verpflichtungen, die primär von den Unternehmen selbst umgesetzt werden.

Befürworter des Ansatzes des Weißen Hauses können nachvollziehbar argumentieren, dass sich technische Standards schneller anpassen müssen als Gesetze und dass unabhängige Tests die Sicherheit verbessern können, ohne die Entwicklung zu hemmen. Kritiker können hingegen einwenden, dass Unternehmen im Wettbewerb um Kunden und Kapital Anreize haben, flexible Regeln eng auszulegen. Beide Standpunkte hängen von Konstruktionsdetails ab, die das Abkommen noch nicht regelt, insbesondere davon, wer die Tests festlegt, wer die Ergebnisse einsehen kann und was nach einem schwerwiegenden Fehler geschieht.

Der nächste Test sind Beweise, nicht Versprechungen

Die Vereinbarung schafft eine klar definierte Governance-Struktur für sechs Unternehmen, deren Modelle und Hardware den KI-Markt maßgeblich prägen. Dies ist konkreter als eine allgemeine Verpflichtung zu verantwortungsvollem Handeln, und die Berichterstattung auf Vorstandsebene könnte eine dauerhafte interne Rechenschaftspflicht gewährleisten. Sie beweist jedoch nicht, dass die Kontrollmechanismen wirksam sind oder dass externe Prüfer in der Praxis unabhängig agieren.

Die nächsten wichtigen Offenlegungen betreffen den operativen Bereich: benannte Prüfstandards, Zeitpläne, Regeln für die Auswahl von Prüfern, Zusammenfassungen der Ergebnisse und Verfahren zur Meldung gefährlicher Vorfälle. Wenn die Unternehmen vergleichbare Nachweise veröffentlichen und festgestellte Schwächen beheben, könnte die Vereinbarung zu einer praktischen Grundlage für die Steuerung fortschrittlicher KI-Systeme werden. Bleibt die Umsetzung jedoch geheim und nicht standardisiert, zeigen die Unterschriften vom Dienstag zwar eine branchenweite Übereinstimmung hinsichtlich der Prozesse, ohne jedoch zu belegen, dass die gravierendsten Risiken tatsächlich reduziert werden.