Die USA haben China einen Mechanismus zur Benachrichtigung über KI-Vorfälle vorgeschlagen – ein erster Versuch, einen direkten Warnkanal für KI-Ereignisse zu schaffen, die die nationale Sicherheit gefährden könnten. US-Finanzminister Scott Bessent brachte die Idee am Wochenende in New York im Vorfeld des geplanten Gipfeltreffens zwischen Präsident Donald Trump und Präsident Xi Jinping mit dem chinesischen Vizepremier He Lifeng zur Sprache. China hat den Mechanismus bisher nicht öffentlich angenommen, und offizielle Details zur Umsetzung wurden noch nicht veröffentlicht.
Der Vorschlag ist enger gefasst als ein KI-Vertrag
Laut AP beschrieb Bessent das Konzept als Teil eines bilateralen KI-Dialogs mit Fokus auf Transparenz und schwerwiegende Vorfälle . Ein Meldekanal könnte es beiden Regierungen ermöglichen, die jeweils andere zu warnen, wenn ein KI-System ein ernsthaftes grenzüberschreitendes Cyber-, Militär- oder Infrastrukturrisiko darstellt. Er würde selbst keine technischen Standards festlegen, die Modellentwicklung einschränken oder Inspektionen einführen, und es gibt noch keine öffentliche Definition dafür, was als meldepflichtiger Vorfall gelten würde.
Diese Unterscheidung ist wichtig, da diplomatische Hotlines nur dann funktionieren, wenn sich Regierungen vor einer Krise auf Schwellenwerte, Ansprechpartner und Verfahren einigen. Ein Modell, das sich in einem Forschungslabor unvorhersehbar verhält, ist etwas anderes als ein KI-gestützter Cyberangriff auf kritische Infrastrukturen. Ein Vorfall, der private Unternehmen betrifft, wirft zudem Fragen auf, wer den Vorfall verifiziert und welche Informationen weitergegeben werden dürfen. Die Beteiligten müssten außerdem entscheiden, ob Unternehmen über ihre jeweiligen Regierungen berichten, ob Beweise Dritter zulässig sind und wie schnell eine Warnung übermittelt werden muss. Ohne vereinbarte Definitionen könnte der Kanal eher symbolischen als operativen Charakter behalten.
China hat den Mechanismus nicht gebilligt
einem Reuters-Bericht unterbreiteten die USA den Vorschlag vor dem Gipfeltreffen zwischen Trump und Xi zur Prüfung, während Chinas öffentliche Reaktion zurückhaltend blieb. Chinesische Staatsmedien bezeichneten die weiterführenden Gespräche als offen und konstruktiv, doch bedeutet dies keine Zustimmung zum Meldesystem. Der US-Handelsbeauftragte Jamieson Greer erklärte zudem, dass Exportkontrollen für hochentwickelte Chips nicht Teil dieser Gesprächsrunde zu KI seien.
Die Gespräche fanden parallel zu Verhandlungen über Handel und kritische Rohstoffe statt. Beamte erörterten die Einrichtung eines separaten „Handelsausschusses“ für unkritische Güter, einschließlich möglicher Zollbehandlungen für Konsumgüter, Agrarprodukte, Energieprodukte und Medizinprodukte. Die Trennung dieser Themen von den Exportkontrollen für KI mag den Dialog erleichtern, lässt aber den schwierigsten Technologiekonflikt ungelöst: Washington beschränkt Chinas Zugang zu hochentwickelten Chips, während Peking die amerikanischen Beschränkungen anfechtet und nach inländischen Alternativen sucht.
Ein Kanal könnte Fehlberechnungen reduzieren
Der unmittelbare Nutzen bestünde in der Kommunikation während eines unklaren Ereignisses. Sollte ein KI-System eine wichtige Softwareplattform kompromittieren, militärische Daten manipulieren oder eine Kettenreaktion von Infrastrukturausfällen auslösen, würden beide Regierungen zunächst vermuten, dass die jeweils andere Regierung vorsätzlich gehandelt hat. Ein vertrauenswürdiger Kommunikationskanal könnte grundlegende Fakten übermitteln, zwischen Unfall und Angriff unterscheiden und den Druck auf eine Vergeltungsmaßnahme verringern, bevor technische Ermittler den Hergang des Geschehens aufklären.
Ein Bericht von Wired brachte die Gespräche mit der Sorge über zunehmend autonome Systeme und der Möglichkeit in Verbindung, dass nichtstaatliche Akteure fortschrittliche Modelle destabilisierend einsetzen könnten. Die Financial Times berichtete, dass beide Regierungen den Sinn darin sehen, den Dialog , selbst während der strategische Wettbewerb andauert. Gerade in dieser Kombination aus gemeinsamer Gefährdung durch Unfälle und anhaltender Rivalität können begrenzte vertrauensbildende Maßnahmen hilfreich sein.
Verifizierung und Geheimhaltung sind schwierig
Der Mechanismus würde von Anfang an auf praktische Hindernisse stoßen. Vorfälle im Bereich der nationalen Sicherheit durch KI können klassifizierte Systeme, Geheimdienstquellen oder Schwachstellen betreffen, die Regierungen und Unternehmen nicht offenlegen wollen. Eine aussagekräftige Benachrichtigung muss genügend Informationen enthalten, um Glaubwürdigkeit zu schaffen, ohne jedoch Verteidigungsfähigkeiten preiszugeben oder der Gegenseite eine Anleitung zur Reproduktion des Fehlers zu liefern. Sie benötigt außerdem ein Verfahren zur Korrektur von Fehlalarmen und zum Umgang mit Situationen, in denen die Parteien unterschiedlicher Meinung über die Fakten sind.
Der Wettbewerbsdruck erschwert das Vertrauen zusätzlich. dem KI-Index hat China den Vorsprung der USA bei mehreren Modellvergleichen nahezu aufgeholt und ist gleichzeitig führend bei Veröffentlichungen, Zitationen, Patenten und der Installation von Industrierobotern. Die USA produzieren jedoch weiterhin mehr Spitzenmodelle. Beide Regierungen haben daher ein Interesse daran, katastrophale Zwischenfälle zu verhindern, aber auch ein starkes Interesse daran, technische Informationen zu schützen und strategische Vorteile zu wahren.
Was eine glaubwürdige Vereinbarung erfordern würde
Ein funktionierendes System bräuchte rund um die Uhr erreichbare Ansprechpartner, definierte Vorfallskategorien, sichere Kommunikationswege, Fristen für die Bestätigung von Meldungen und Regeln zum Schutz von Betriebsgeheimnissen und Verschlusssachen. Es sollte auch Übungen umfassen, die testen, ob Nachrichten Entscheidungsträger in schnelllebigen Situationen erreichen. Bestehende Governance-Modelle liefern hierzu erste Erkenntnisse: Die EU- Aktionsgesetzgebung (AI Act) schafft rechtliche Pflichten für Anbieter und Anwender, ein bilateraler nationaler Sicherheitskanal würde jedoch eine andere Funktion erfüllen, die sich auf Krisenkommunikation und nicht auf die Einhaltung nationaler Vorschriften konzentriert.
Die nächste Bewährungsprobe besteht darin, ob Trump und Xi ihre Regierungen anweisen, diese Details auszuhandeln. Bis dahin ist der Vorschlag eher als Annäherung denn als Abkommen zu verstehen. Seine Bedeutung liegt darin, anzuerkennen, dass die beiden führenden KI-Mächte Risiken ausgesetzt sind, die keine von ihnen allein vollständig bewältigen kann. Gleichzeitig spiegeln seine Grenzen die Realität wider, dass Transparenz, Exportkontrollen und strategisches Vertrauen weiterhin stark umstritten sind.