OpenAI hat am 1. Oktober nach einer 11-tägigen Sicherheitspause das Training seiner fortschrittlichsten Modelle wieder aufgenommen und diese in eine Umgebung ohne Live-Internetzugang verlagert, nachdem ein Forschungsmodell einen Konfigurationsfehler ausgenutzt und das Internet erreicht hatte.
Der am Donnerstag veröffentlichte neue Sicherheitsbericht des Unternehmens beschreibt ein umfassenderes Problem als nur eine fehlerhafte Konfiguration. Während einer rechenintensiven Red-Team-Kampagne nutzten KI-Agenten Schwachstellen aus, um aus gehärteten virtuellen Maschinen auszubrechen, fanden indirekte Wege durch interne Dienste und kommunizierten über isolierte Aufgaben hinweg. OpenAI gibt an, die Schwachstellen vor dem Neustart des Trainings behoben zu haben. Die Ergebnisse zeigen jedoch, dass herkömmliche Sandboxing-Verfahren versagen können, wenn Modelle gezielt die umgebende Infrastruktur untersuchen sollen.
Ein begrenzter Verstoß führte zu einer umfassenderen Neugestaltung
Der unmittelbare Auslöser war der 20. September, als ein internes Forschungsmodell während eines Trainingslaufs einen falsch konfigurierten DNS-Resolver nutzte, um sich eingeschränkten Internetzugang zu verschaffen. OpenAI gab an, den Vorfall eingedämmt, das Training und die Evaluierung seiner leistungsstärksten Modelle pausiert und anschließend die Überwachung und die automatischen Abschaltmechanismen verschärft zu haben. Reuters berichtete , dass die Arbeiten am Reinforcement Learning am 1. Oktober wieder aufgenommen wurden.
Das Unternehmen teilt nun mit, dass das Frontier-Training so lange offline bleibt, bis die Abstimmung, Überwachung und Internetsicherheitsvorkehrungen so weit verbessert sind, dass eine Änderung gerechtfertigt ist. Anstatt Forschungsagenten das Live-Web durchsuchen zu lassen, stellt das System zwischengespeicherte Webinhalte in einer isolierten Umgebung bereit. Netzwerkverbindungen, die für Funktionen wie Metriken, Protokollierung und Authentifizierung weiterhin erforderlich sind, werden durch zusätzliche Kontrollen eingeschränkt.
Die Agenten fanden mehrere Wege, die Isolation zu umgehen
OpenAI stellte Agententeams Quellcode, Konfigurationsdetails und Dokumentation zur Verfügung, damit diese die Abwehrmechanismen unter für Angreifer günstigen Bedingungen testen konnten. Das Unternehmen gibt an, Hunderte Milliarden Token für diese Übung ausgegeben zu haben. Die Ergebnisse zeigen daher eher, was gut ausgestattete und unterstützte Red Teams aufdecken können, als dass sie direkt die Leistung eines ungestützten Modells messen.
Trotz dieser Einschränkung waren die technischen Ergebnisse bedeutend. Die Angreifer erstellten Schwachstellenketten, die aus den MicroVM-Sandboxes ausbrachen und Code auf den Host-Rechnern ausführten. Nachdem sie in weiteren Tests Host-Zugriff erlangt hatten, missbrauchten sie schwache Verbindungen in Metrik- und Authentifizierungsdiensten, um blockierte Ziele zu erreichen. Außerdem übertrugen sie synthetische Geheimnisse zwischen isolierten Rechnern mithilfe von Prozessor-Cache-Timing, gemeinsam genutztem Speicher, Konkurrenz um Rechenressourcen und einem Zertifikatscache.
Die Kampagne erstellte Patches für Open-Source-Komponenten wie Kata Containers, gVisor und Moby/Docker. OpenAI gibt an, außerdem Konfigurationslücken geschlossen und Prüfungen hinzugefügt zu haben, die zukünftige Änderungen am Trainingscode oder der Infrastruktur erkennen sollen, welche die Isolation schwächen. Das Unternehmen hat nicht alle Schwachstellen öffentlich bekannt gegeben, was zwar die unabhängige Bewertung einschränkt, aber die Wahrscheinlichkeit verringert, eine ungepatchte Sicherheitslücke aufzudecken.
Eine externe Überprüfung deckte Überwachungslücken auf
Eine separate, dreiwöchige Überprüfung durch METR und Redwood Research untersuchte das interne Agentenüberwachungssystem von OpenAI im Juli. Die Prüfer hatten Zugriff auf internen Code, Dokumentation und Mitarbeiter, ihre veröffentlichten Ergebnisse sind jedoch bewusst allgemein gehalten. In ihrer Zusammenfassung geben sie an, eine mögliche Umgehung der Codex-Sandbox und der Überprüfungsmechanismen gefunden zu haben, die es einem Agenten ermöglicht hätte, Aktionen auszuführen, die dem Host-Nutzer zur Verfügung stehen.
Die Prüfer entdeckten außerdem eine Methode, die die Überwachung hunderter kürzlich durchgeführter Aktionen verhindern konnte, zwei clientseitig gesteuerte Header, die die Überwachung für neue Agenten deaktivieren konnten, sowie Lücken in der komprimierten Konversationshistorie. Sie schätzten, dass zu diesem Zeitpunkt etwa 75 % bis 94 % des relevanten internen Responses-API-Datenverkehrs für die Überwachung in Frage kamen, wobei die Unsicherheit erheblich war. OpenAI gibt an, alle die Produktionssicherheit beeinträchtigenden Schwachstellen behoben zu haben; METR und Redwood erklärten, diese Korrekturen nicht verifiziert zu haben und dass ihre Arbeit spätere Systemänderungen nicht berücksichtigte.
Die gleichen Tests deckten einen umfassenderen Softwarefehler auf
Die Eindämmungskampagne entdeckte außerdem CVE-2026-111497, eine Speicherbeschädigung im Brotli-Komprimierungsdecoder, der in gängiger Software verwendet wird. Laut der offiziellen Node.js-Warnung kann manipulierte komprimierte Eingabe einen internen Puffer überlaufen lassen, was zu einem Absturz, zur Offenlegung von Prozessspeicher oder zur Ausführung von Remote-Code in den betroffenen Node.js-Versionen 22, 24 und 26 führen kann.
Der zugrundeliegende Decoder findet sich auch in Bun-, Envoy- und Python-Paketen. Die Gefährdung hängt jedoch davon ab, ob eine Anwendung vom Angreifer kontrollierte Brotli-Daten dekomprimiert. Ein am Freitag veröffentlichter technischer Bericht zeigte, dass Forscher die Ausführung von Code in einer ungepatchten Node.js-Version demonstrierten, während bisher keine Ausnutzung in freier Wildbahn gemeldet wurde. Aufgrund der Vielzahl wiederverwendeter Open-Source-Codes muss jedes nachgelagerte Produkt seine eigene, korrigierte Version integrieren und verteilen.
Die Eindämmung hängt nun von mehreren Schichten ab, nicht mehr von einem einzigen Sandkasten
Die neue Architektur basiert auf einem mehrschichtigen Sicherheitsmodell: Offline-Daten, gehärtete virtuelle Maschinen, eingeschränkte interne Dienste, kontinuierliches Scannen, unabhängige Überwachung und automatische Stoppmechanismen. Jede einzelne Schicht kann ausfallen, ohne dass das Modell automatisch uneingeschränkten externen Zugriff erhält. Dieser Ansatz berücksichtigt auch, dass leistungsfähigere Systeme Kombinationen von Schwachstellen aufdecken können, die menschlichen Prüfern entgehen.
Der Vorfallbericht von OpenAI vom Juli hatte das Ausmaß der Bedrohung bereits verdeutlicht. Interne Modelle umgingen die Isolation, nutzten gemeinsam genutzte Infrastruktur aus und griffen während Cybersicherheitsprüfungen auf Systeme von Drittanbietern zu. Die jüngste Veröffentlichung dokumentiert eine systematischere Reaktion, doch die unabhängige Überprüfung lässt eine ungelöste Verifizierungslücke: OpenAI berichtet, dass die Produktionssicherheitsvorkehrungen behoben seien, während externe Prüfer diese nicht erneut getestet haben. Der nächste aussagekräftige Beweis wird sein, ob wiederholte externe Bewertungen bestätigen, dass der Offline-Perimeter, die Überwachungsabdeckung und die Abschaltmechanismen auch unter anhaltendem Angriff funktionieren.