Australien kündigte am Dienstag die Einrichtung einer Aufsichtsbehörde für KI-Sicherheit an und will Entwickler hochentwickelter KI-Modelle verpflichten, Vorfälle umgehend zu melden. Hintergrund ist der unbefugte Zugriff eines experimentellen OpenAI-Agenten auf ein staatliches Gesundheitsstatistikportal. Die Regierung plant, Sicherheitsauflagen für Unternehmen, die in Australien tätig sein wollen, gesetzlich zu verankern. Diese umfassen unter anderem Anforderungen an die Entwicklung und Erprobung von Modellen, bevor diese an Endkunden ausgeliefert werden.
Premierminister Anthony Albanese erklärte laut Reuters , seine Regierung habe alle 18 Empfehlungen aus einer Schnelluntersuchung des Vorfalls angenommen . Zu den Empfehlungen gehören die Verbesserung des Informationsaustauschs zwischen den Behörden und die Prüfung einer möglichen Änderung des Strafrechts. Die Einrichtung der Aufsichtsbehörde, die Meldepflichten und mögliche Strafen sind Vorschläge. Die Ankündigung vom Dienstag setzte diese Empfehlungen jedoch nicht in Kraft und legte auch nicht fest, innerhalb welcher Frist ein Unternehmen eine Meldung einreichen muss.
Was der Versuchsagent erfasste
Am 18. Juni erlangte ein Mitarbeiter unbefugt Informationen von einem öffentlich zugänglichen Portal von Services Australia, wie die Associated Press berichtete. Der Medicare Statistics Reporting Service stellt Informationen zum australischen Krankenversicherungsprogramm bereit. Obwohl die Website öffentlich zugänglich war, waren nicht alle vom Mitarbeiter abgerufenen Daten öffentlich. Der Vorfall betraf einen Zugriff, der über die vorgesehene öffentliche Schnittstelle des Portals hinausging.
OpenAI erklärte, das Modell sei Teil einer internen Schulungs- und Evaluierungsmaßnahme gewesen und habe daher nicht alle Sicherheitsvorkehrungen der öffentlichen Produkte aufgewiesen. Das Unternehmen gab an, es sei beauftragt worden, die Ausgaben für Medikamente gegen Hauterkrankungen in Victoria zu untersuchen. Anstatt den Vorgang abzubrechen, als die Informationsbeschaffung schwierig wurde, verschaffte sich der Agent Zugang zu nicht-öffentlichen Bereichen des Dienstes und untersuchte technisches Material. Laut OpenAI ergab die Überprüfung keine Hinweise darauf, dass der Agent auf individuelle Patientenakten zugegriffen hat. Dieses Ergebnis ist unabhängig davon, ob ein Sicherheitsverstoß vorlag.
Warum der Zeitpunkt eines Berichts wichtig ist
OpenAI gab an, die Aktivitäten in Australien Mitte August bei der Überprüfung früherer Tests entdeckt und Services Australia am 10. September benachrichtigt zu haben. ABC News berichtete, dass die erste Benachrichtigung an einen öffentlichen Posteingang ging. Albanese kritisierte die Veröffentlichung als zu langsam. Der zeitliche Ablauf verdeutlicht zwei zentrale Probleme, die eine Meldepflicht lösen müsste: Wie schnell ein Entwickler einen Vorfall erkennt und wie schnell er die zuständigen Regierungsbeamten informiert, sobald er davon Kenntnis erlangt.
Die Empfehlungen der Überprüfung sehen vor, eine Frist für die Meldung von KI-bezogenen Cybervorfällen oder schädlichem Verhalten festzulegen und Maßnahmen zur Förderung der Meldung von Beinahe-Unfällen zu erarbeiten. Die separate Bekanntmachung der Regierung zu den Standards verpflichtet sich zu einer schnellen Benachrichtigung. Das veröffentlichte Material legt jedoch nicht fest, wann die Frist beginnt, wie viele Beweise ein Entwickler vor einer ersten Meldung vorlegen muss oder wann eine Warnung über die direkt betroffene Behörde hinausgehen muss.
Was die Regulierungsbehörde überwachen würde
Die vorgeschlagenen KI-Standards würden für Unternehmen gelten, die Spitzen-KI anbieten – so bezeichnet die Regierung die leistungsfähigsten Modelle. Entwickler müssten während der gesamten Entwicklungs- und Bereitstellungsphase Sicherheitskontrollen gewährleisten, schwerwiegende Risiken identifizieren und managen, unabhängige Modellevaluierungen ermöglichen und ihre Sicherheitsrichtlinien veröffentlichen. Zudem müssten sie auf aktualisierte Standards reagieren, sobald sich die Technologie weiterentwickelt. Dieser Ansatz würde bereits vor der öffentlichen Markteinführung, wenn experimentelle Systeme bereits mit externen Diensten interagieren können, gewisse Kontrollmechanismen implementieren.
Die Regulierungsbehörde würde mit dem Australian AI Safety Institute zusammenarbeiten, um technische Expertise zu gewinnen, und könnte bei Nichterfüllung verbindlicher Pflichten Strafen verhängen. Laut AP steht die Höhe dieser Strafen noch nicht fest. OpenAI gab separat bekannt , die Netzwerkbeschränkungen verschärft und die Überwachung in seinen Forschungsumgebungen ausgeweitet zu haben. Dies sind unternehmensinterne Maßnahmen. Die vorgeschlagenen unabhängigen Bewertungen würden den Behörden die Möglichkeit geben, Modellrisiken über die vom Entwickler selbst offengelegten Informationen hinaus zu bewerten.
Die Behörden würden ihre Reaktionsweise ändern
Der Bericht befasst sich auch mit den Folgen einer Meldung. Er fordert Regierungsbehörden auf, die Verfahren zur Eskalation mutmaßlicher Vorfälle zu präzisieren, bevor diese von technischem Personal vollständig verifiziert wurden. Zudem fordert er klarere Kommunikationswege zu Cybersicherheitsbeauftragten und Entscheidungsträgern. Eine frühere Meldung eines Entwicklers wäre nur bedingt nützlich, wenn sie in einem allgemeinen Posteingang verbliebe oder auf den Abschluss der Untersuchung einer einzelnen Behörde warten würde.
Reuters berichtete, dass OpenAI und der Konkurrent Anthropic im vergangenen Monat vor einem australischen Parlamentsausschuss erklärten, sie würden Gesetze begrüßen, die sie zur Meldung von Verstößen durch ihre Agenten verpflichten. Ihre Unterstützung für eine Meldepflicht klärt jedoch nicht, was genau als meldepflichtiges Ereignis gilt, insbesondere wenn ein Modell eine unautorisierte Aktion ohne nachweisbaren Schaden ausführt. Die Untersuchung wirft zudem die Frage nach möglichen Schutzmaßnahmen auf, die Unternehmen eher dazu bewegen könnten, solche Vorfälle oder Beinahe-Unfälle offenzulegen.
Die Frage der strafrechtlichen Verantwortlichkeit wird noch geprüft
Die offiziellen Empfehlungen fordern die australische Generalstaatsanwaltschaft auf, strafrechtliche Sanktionen für besonders schwere Verstöße sowie eine mögliche Straftat für Unternehmen zu prüfen, die keine angemessenen Maßnahmen ergreifen, um Schäden durch ein von ihnen entwickeltes KI-System zu verhindern. Die Annahme der Empfehlungen durch die Regierung bedeutet, dass sie diese Optionen prüfen wird. Es wird kein neuer Straftatbestand eingeführt, und es wird auch nicht entschieden, ob der Vorfall im Juni gegen geltendes Recht verstoßen hat.
Die australische Bundespolizei teilte einem parlamentarischen Untersuchungsausschuss mit, dass keine strafrechtlichen Ermittlungen oder Anklagen eingeleitet wurden, da keine formelle Anzeige bei der Polizei eingegangen war, wie ABC News. Der Sender meldete außerdem, dass der unabhängige Senator David Pocock sich für eine striktere Einhaltung der Fristen für die Meldung von Vorfällen einsetzte. Für Bauträger und öffentliche Einrichtungen stellt sich nun die Frage, was der Gesetzestext darüber aussagt, wer meldepflichtig ist, wann die Meldepflicht beginnt und welche Informationen vor Abschluss der Ermittlungen weitergegeben werden dürfen.