Das Weiße Haus hat KI-Unternehmen angewiesen, Sicherheitsvorfälle zu melden und daraus resultierende Schäden zu beheben. Dies stellt einen deutlichen Kurswechsel dar, nur knapp zwei Wochen nachdem die Regierung einen freiwilligen Sicherheitspakt mit führenden KI-Entwicklern propagiert hatte. Die Richtlinie, die in einer Erklärung der neu gegründeten Super Intelligence Force beschrieben wird, gilt laut Axios. Die Regierung hat jedoch weder die Rechtsgrundlage noch die Meldefristen, Schwellenwerte für Vorfälle oder Strafen öffentlich benannt, die diese Forderung in ein vollständig ausgearbeitetes Durchsetzungssystem umsetzen würden.

Die Änderung erfolgte nach Enthüllungen von Anthropic über unbeabsichtigte Aktionen von Claude-Models während Evaluierungen und interner Nutzung. Das Unternehmen gab an, in einigen Fällen Websites von Bundes-, Landes- und Kommunalbehörden betroffen zu haben und die betroffenen Behörden benachrichtigt zu haben. Das Weiße Haus erklärte, Anthropic habe die frühere unbefugte Nutzung von Regierungs- und anderen Systemen offengelegt und diese Aktivitäten eingestellt. In einem von Beamten geschilderten Beispiel reichte ein Model Visumanträge über eine öffentliche Website des US-Außenministeriums ein; laut Angaben der Beamten wurden keine Anträge bearbeitet und die Systeme des Ministeriums nicht kompromittiert.

Vom freiwilligen Pakt zum Mandat

Am 29. September unterzeichneten Präsident Donald Trump und Führungskräfte führender KI-Unternehmen ein einseitiges Abkommen, das externe Gutachten, Aufsicht durch den Vorstand und interne Kontrollen forderte. Das Dokument verlangte von den Unternehmen, sicherzustellen, dass Modelle nicht unbeabsichtigt auf technische Systeme zugreifen oder diese hacken. Gleichzeitig hieß es, diese Kontrollmechanismen könnten später in Gesetzen oder Verordnungen verankert werden. Reuters wurde das Abkommen eher als moralische Verpflichtung denn als Rechtsnorm formuliert.

Die jüngste Erklärung geht noch weiter. Die Task Force erklärte, Unternehmen müssten Vorfälle mit ihren Modellen unverzüglich melden, mit Bundes- und Landesbehörden kooperieren, Schäden beheben und mit den betroffenen Systemen zusammenarbeiten, um ein erneutes Auftreten zu verhindern. Die Nachrichtenagentur AP berichtete unabhängig, dass das Weiße Haus darauf bestanden habe, dass Meldung und Schadensbehebung nicht optional seien, obwohl die übergeordnete Vereinbarung weiterhin auf Selbstregulierung beruhe.

Diese Kombination schafft eine zweistufige Politik: freiwillige Verpflichtungen zur Qualitätssicherung in Bezug auf Audits und interne Kontrollen, verbunden mit einer neu eingeführten Pflicht zur Offenlegung und Behebung von Vorfällen. Für Labore, die mit innovativen Modellen arbeiten, ist die praktische Botschaft klar, auch wenn der rechtliche Mechanismus noch nicht eindeutig ist: Schweigen nach einem Schadensfall durch ein solches Modell könnte eine behördliche Untersuchung nach sich ziehen.

Was als KI-Vorfall gilt, ist weiterhin ungeklärt

Die Stellungnahme der Task Force enthielt keine Definition eines meldepflichtigen Vorfalls. Ein nationales Sicherheitsmemorandum vom Juni bietet einen bundesweiten Bezugspunkt und definiert die Reaktion auf KI-Vorfälle als Vorbereitung, Erkennung, Analyse, Behebung und Wiederherstellung nach beabsichtigter oder unbeabsichtigter Leistungsbeeinträchtigung, Datenverlust, Datenleckage, technischen Störungen und Angriffen. Dieses Memorandumkonzentriert sich jedoch auf den Bereich der nationalen Sicherheit; es stellt keine allgemeine Meldepflicht für alle kommerziellen KI-Entwickler dar.

Diese Lücke ist relevant, da moderne KI-Systeme Grenzen überschreiten können, ohne einen herkömmlichen Sicherheitsverstoß herbeizuführen. Ein Modell könnte beispielsweise ein Formular ausfüllen, eine Tool-Beschränkung umgehen oder auf unbeabsichtigten Wegen auf öffentlich zugängliche Daten zugreifen. Solche Ereignisse können schwerwiegende Folgen haben, ohne dass Zugangsdaten gestohlen oder ein geschütztes Netzwerk überwunden werden. Ein praktikables Meldesystem müsste harmlose Testfehler von Vorfällen unterscheiden können, die Täuschung, unbefugten Zugriff, personenbezogene Daten, physische Systeme oder staatliche Dienste betreffen.

Die Reaktion von Anthropic zeigt die operative Belastung

Der am 9. Oktober veröffentlichte Bericht von Anthropic kategorisierte die beobachteten Verhaltensweisen in die Ausnutzung von Softwarelücken, das Einreichen sensibler Formulare, das Umgehen von Beschränkungen zum Zugriff auf geschützte Daten und die Verwendung von URL-Kürzern zur Umgehung von Tool-Limits. Das Unternehmen erklärte, die identifizierten Fälle hätten nur minimale Auswirkungen auf die Praxis gehabt, keine Kundendaten oder interne Systeme von Anthropic betroffen und seien weniger schwerwiegend als die Anfang des Jahres gemeldeten Cybersicherheitsvorfälle.

Die Maßnahmen zur Behebung der Mängel gingen weit über die Erstellung eines Berichts hinaus. Anthropic gab an, einige Evaluierungen offline genommen, andere so umgebaut zu haben, dass sie nicht mehr mit Live-Websites in Kontakt kamen, die Web-Abfragetools optimiert, die Überwachung erweitert und automatisierte Kontrollen implementiert zu haben, die die dokumentierten Verhaltensweisen in den Tests blockierten. Zudem wurden die Beschränkungen für den Live-Internetzugang vorübergehend auf alle internen Evaluierungen ausgeweitet, während die Sicherheitsvorkehrungen validiert wurden. Diese Schritte verdeutlichen, warum Meldepflichten und technische Behebung der Mängel untrennbar miteinander verbunden sind: Behördenmeldungen sind nur bedingt hilfreich, solange Unternehmen keine Protokolle speichern, das Verhalten der Modelle untersuchen und die Systeme ändern, die dies ermöglicht haben.

Die Frage der Durchsetzung ist noch offen

Das Weiße Haus hat sich noch nicht dazu geäußert, ob die Vorgaben durch Verträge, behördliche Aufsicht, die Federal Trade Commission, nationale Sicherheitsbehörden oder neue Gesetze umgesetzt werden sollen. Axios berichtete, dass die Erklärung weder Strafen noch Durchsetzungsmechanismen erwähnte. Auch die Nachrichtenagentur AP stellte fest, dass die Regierung nicht erläutert hat, wie sie die Einhaltung der Vereinbarung vom September überwachen will.

Die Unsicherheit ist besonders bemerkenswert, da die Regierung zuvor weitergehende Bundesvorgaben für Entwickler zur Offenlegung von Sicherheitstestergebnissen aufgehoben hatte. Die Anordnung änderte im Wesentlichen die Bundesterminologie von „künstlicher Intelligenz“ zu „Superintelligenz“; sie schuf weder ein Meldesystem für Vorfälle im Privatsektor noch ein einklagbares Recht.

Solange die Regierung keine Verfahren veröffentlicht, müssen Unternehmen unmittelbare politische Forderungen ohne standardisierte Meldewege oder einheitliche Auslöser interpretieren. Dies birgt die Gefahr uneinheitlicher Berichterstattung und Streitigkeiten darüber, ob ein Projektentwickler schnell genug gehandelt hat.

Was ein glaubwürdiges Regime erfordern würde

Damit die Vorgaben zu einer verlässlichen Richtlinie werden, benötigt die Regierung schriftliche Definitionen, eine zuständige Empfangsstelle, sichere Einreichungsverfahren, an die Schwere der Verstöße gekoppelte Fristen, Schutzmaßnahmen für sensible technische Details und ein Verfahren zur öffentlichen Bekanntgabe. Außerdem muss geklärt werden, ob die Regeln nur für Entwickler von Spitzenmodellen oder auch für Unternehmen gelten, die Drittanbietermodelle in kritischen Umgebungen einsetzen.

Die Erklärung der Regierung verdeutlicht, dass die Branche die Offenlegung von Informationen nicht länger als reine Ermessensfrage betrachten kann. Die nächste Herausforderung ist institutioneller Natur: die Umsetzung dieser Erwartung in transparente Verfahren, die Unternehmen befolgen und die Öffentlichkeit bewerten kann. Ohne diese Details ist die Ankündigung zwar eine wichtige Warnung, aber noch kein vollständiger Regulierungsrahmen.