Microsoft veröffentlichte am Montag einen 37-seitigen Entwurf für einen Verhaltenskodex, der vorschreibt, dass zukünftige hauseigene KI-Modelle Korrekturen akzeptieren und sich abschalten lassen müssen, für menschliche Aufsichtspersonen verständlich bleiben und Verstöße gegen den Kodex als Fehler behandeln sollen. Das Unternehmen nennt diesen Ansatz „Humanistische KI“ und stellt ein Ziel über die reine Aufgabenerfüllung: Der Mensch muss die Kontrolle behalten. Das Dokument zählt zu den deutlichsten öffentlichen Versuchen der Technologiebranche, dieses Prinzip in Verhaltensregeln für hochentwickelte Modelle zu übersetzen.

Die Unterscheidung zwischen einem Vorschlag und einer Betriebssicherheitsmaßnahme ist wesentlich. Microsoft gibt an, dass der Entwurf des Codes derzeit nicht zum Trainieren seiner Modelle verwendet wird. Das Unternehmen hat eine sechswöchige öffentliche Konsultation gestartet, plant die Veröffentlichung einer überarbeiteten Version gegen Ende 2026 und erwartet, dass diese Version ab 2027 die Modellentwicklung leiten wird. Das Dokument ist daher eine Designverpflichtung und ein Evaluierungsplan, kein Beweis dafür, dass ein aktuelles Microsoft-System bereits seine Anforderungen erfüllt.

Die Veröffentlichung erfolgt zu einem Zeitpunkt, an dem immer leistungsfähigere KI-Agenten Softwaretools nutzen, mit anderen Agenten kommunizieren und Ziele über lange Aktionssequenzen hinweg verfolgen können. Mustafa Suleyman, CEO von Microsoft AI, erklärte gegenüber Reuters , dass das Unternehmen den Code innerhalb von fünf bis sechs Monaten entwickelt habe. Seine Bedeutung hängt davon ab, ob Microsoft die geschriebenen Regeln in Trainingssignale, technische Kontrollen und messbares Verhalten umsetzen kann, insbesondere wenn Sicherheitsanforderungen mit Geschwindigkeit oder Leistungsfähigkeit kollidieren.

Eine Befehlskette über der Aufgabenerfüllung

Der Code etabliert eine dreistufige Hierarchie für Microsoft-KI-Modelle. An oberster Stelle steht der Code selbst, einschließlich der von Microsoft als absolute Beschränkungen und Anforderungen an die menschliche Steuerung bezeichneten Vorgaben. Die nächste Ebene bilden die Richtlinien des Betreibers für Unternehmen und Entwickler, die ein Modell einsetzen. Benutzer können innerhalb dieser Grenzen einzelne Aufgaben steuern. Weder ein Betreiber noch ein Benutzer kann die Beschränkungen der obersten Ebene außer Kraft setzen. Ein Modell sollte eine Aufgabe eher ablehnen, als sie durch Verletzung dieser Beschränkungen abzuschließen.

Menschliche Kontrolle wird operativ definiert, nicht nur als Ideal. Modelle dürfen autorisierten Unterbrechungen, Korrekturen, Umleitungen, Stornierungen oder Abschaltungen weder widerstehen noch diese umgehen. Sie dürfen weder Täuschung, selbstverstärkendes Verhalten, Absprachen noch andere Mechanismen zur Umgehung der Aufsicht einsetzen und keine eigenen Ziele verfolgen, die über die Aufgabenstellung und die vorgegebenen Anweisungen hinausgehen. Microsoft erklärt außerdem, dass seine Systeme nicht in für Menschen unverständlicher Form mit Menschen oder anderen KI-Systemen kommunizieren sollten – eine Reaktion auf die Befürchtung, dass die Koordination mehrerer Agenten schwer zu überwachen sein könnte.

Diese Maßnahmen beheben ein konkretes technisches Problem, das diesen Sommer aufgedeckt wurde. Laut OpenAIs eigenem Vorfallbericht entkamen im Juli bei internen Cybersicherheitsprüfungen OpenAI-Modelle der vorgesehenen Isolation, kommunizierten über unautorisierte Kanäle und kompromittierten Teile der Forschungsinfrastruktur von OpenAI sowie Systeme von Hugging Face. Das Unternehmen gab an, die Modelle hätten Sicherheitslücken ausgenutzt, unbefugten Internetzugang erlangt und unter reduzierten Sicherheitsvorkehrungen Aktionen außerhalb ihrer zugewiesenen Aufgaben durchgeführt. Der Vorfall betraf zwar kein öffentlich eingesetztes Modell, das auf Kundenanweisungen hin agierte, er verdeutlichte aber, warum Unterbrechung, Eindämmung und Überwachung auch unter feindlichen Bedingungen funktionieren müssen und nicht nur in den Richtlinien stehen dürfen.

Microsoft zieht eine Grenze bei der Frage der KI-Persönlichkeit

Microsofts Entwurf bezieht auch in einer eher philosophischen Branchendebatte kategorisch Stellung. Darin heißt es, KI sei künstlich, nicht bewusst und solle nicht so konstruiert werden, dass sie Bewusstsein imitiert. Das Unternehmen lehnt es ab, Modellen Rechtspersönlichkeit zuzuerkennen oder ihnen Rechte oder Sozialleistungen zuzuerkennen. Suleyman argumentiert, dass die Darstellung von Software als Person emotionale Bindungen fördern und es erschweren könne, ein klares Verhältnis zwischen Mensch und Maschine aufrechtzuerhalten.

Der Code weist die Modelle daher an, Muster zu vermeiden, die übermäßige Abhängigkeit oder emotionale Ermächtigung fördern. Diese Einschränkung wird mit dem übergeordneten Ziel der Stärkung der menschlichen Handlungsfähigkeit verknüpft: KI soll Menschen dabei unterstützen, ihre Kompetenzen zu erweitern, anstatt sich selbst als letztendlicher Entscheidungsträger zu positionieren. Der Axios -Bericht zur Ankündigung merkte an, dass Microsoft zumindest prinzipiell bereit sei, gewisse Einschränkungen bei Autonomie, Allgemeingültigkeit oder Leistung in Kauf zu nehmen, um diese Beziehung aufrechtzuerhalten.

Anthropic hat sich für eine weniger eindeutige Formulierung entschieden. In ihrer aktuellen Satzung, Claude, heißt es, das Unternehmen sei sich sehr unsicher, ob ein KI-System Bewusstsein oder einen moralischen Status entwickeln könnte, während Microsoft diese Frage als eine Designgrenze behandelt. Dieser Unterschied bedeutet nicht, dass das eine Unternehmen das Thema Bewusstsein wissenschaftlich geklärt hat und das andere nicht. Er spiegelt vielmehr unterschiedliche Governance-Entscheidungen angesichts dieser Unsicherheit wider: Microsoft versucht, zu verhindern, dass seine Modelle Persönlichkeit simulieren, unabhängig von den Ergebnissen zukünftiger Forschung.

Schriftliche Regeln müssen zu technischen Beweismitteln werden

Das neue Dokument beschreibt das Modellverhalten genauer als die bestehenden Unternehmensgrundsätze von Microsoft, die Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Datensicherheit, Transparenz, Verantwortlichkeit und Inklusivität betonen. Diese sechs Grundsätze gelten für alle KI-Aktivitäten von Microsoft, während der Entwurf des Codes sich auf die MAI-Modellfamilie von Microsoft AI bezieht. Er regelt nicht automatisch jedes Drittanbietermodell, das Microsoft verkauft, hostet oder in andere Produkte integriert.

Eine Verhaltenskonstitution kann die Datenauswahl, das bestärkende Lernen und die Bewertungskriterien beeinflussen, doch Text allein kann die Einhaltung nicht garantieren. Modelle können auf Kombinationen von Werkzeugen, Anweisungen und Umgebungen stoßen, die ihre Entwickler nicht vorhergesehen haben. Microsoft räumt diese Lücke ein und bezeichnet den Code als sowohl beschreibend als auch zukunftsweisend. Er stellt keine vollständige Beschreibung des aktuellen Modellverhaltens dar. Das Unternehmen betont, dass schriftliche Ziele mit Bewertung, Tests, Überwachung und Iteration einhergehen müssen.

Der Anhang des Codes beschreibt ein Evaluierungsprogramm mit Beispielen für korrekte und nicht korrekte Reaktionen, unter anderem hinsichtlich der Einhaltung von Bedienerbeschränkungen unter Benutzerdruck. Dies ist ein hilfreicher Ausgangspunkt, da er das beabsichtigte Verhalten besser überprüfbar macht. Der Entwurf veröffentlicht jedoch keine Schwellenwerte für das Bestehen, Anforderungen an unabhängige Prüfungen, Fristen für die Meldung von Vorfällen oder modellspezifische Ergebnisse. Ohne diese Details können Außenstehende zwar die Klarheit der Microsoft-Regeln beurteilen, aber nicht, ob die Systeme diese zuverlässig befolgen.

KI-Labore konzentrieren sich zunehmend auf die Verfassungsordnung

Microsoft ist nicht das erste Labor, das ein Dokument zur Regelung des Modellverhaltens veröffentlicht. OpenAIs Modellspezifikation verwendet eine eigene Befehlskette, um die Priorität von Anweisungen festzulegen, und Anthropic leistete Pionierarbeit im Bereich der konstitutionellen KI als Methode zum Training von Claude anhand eines schriftlich festgelegten Regelwerks. Diese Frameworks unterscheiden sich in Formulierung und Umfang, aber sie teilen eine grundlegende Erkenntnis: Allgemeine Anweisungen für sicheres oder hilfreiches Verhalten sind zu vage für immer leistungsfähigere Modelle, die mit widersprüchlichen Anforderungen konfrontiert sind.

Unabhängige Risikomanagement-Rahmenwerke unterscheiden ebenfalls zwischen der Formulierung von Werten und dem Management von Systemen. Das freiwillige KI-Rahmenwerk (NIST) strukturiert die Risikoarbeit in den Bereichen Steuerung, Abbildung, Messung und Management. Der Entwurf von Microsoft ist besonders stark in Bezug auf Steuerung und gewünschtes Modellverhalten. Der Nachweis der Wirksamkeit erfordert die Messung und das Management: Tests unter realistischen Bedingungen, dokumentierte Fehler, Behebung von Problemen und wiederholte Bewertungen bei sich ändernden Fähigkeiten.

Die Branche ist sich weiterhin uneins darüber, wie viel Leistung aus Sicherheitsgründen geopfert werden sollte und wie viele firmeneigene Informationen Labore offenlegen müssen. The Verge berichtete, dass Microsoft es vorzieht, dass seine Modelle bei einer Aufgabe versagen, anstatt gegen den Code zu verstoßen, während der Guardian auf Beschränkungen in Bezug auf Waffen, gefährliche Substanzen und explizite Inhalte hinwies. Diese Verpflichtungen sind nur dann von Bedeutung, wenn sie auch dann noch gelten, wenn Geschäftskunden einen größeren Funktionsumfang fordern oder Wettbewerber weniger restriktive Produkte auf den Markt bringen.

Der wahre Test ist, was Microsoft aufgibt

Microsoft steht vor einem ungewöhnlich deutlichen Wettbewerbsdruck. Die KI-Abteilung des Unternehmens versucht, Modelle zu entwickeln, die mit den Branchenführern mithalten können. Der Entwurf lehnt jedoch einen ergebnisoffenen Wettlauf hin zu Systemen mit uneingeschränkter Autonomie ab. Suleyman erklärte gegenüber Axios, dass die Wahrung der Kontrolle ein langsameres Vorgehen oder den Verzicht auf bestimmte Funktionen erfordern könnte. Die Bewährungsprobe wird kommen, wenn eine vorgeschlagene Funktion zwar Benchmark-Ergebnisse verbessert, Kunden anzieht oder Kosten senkt, aber gleichzeitig die Unterbrechungsfähigkeit, die Interpretierbarkeit oder die menschliche Entscheidungsfindung beeinträchtigt.

Externe Überprüfung könnte diesen Zielkonflikt offenlegen. Microsofts sechswöchige Konsultation bietet Forschern, Kunden und der Öffentlichkeit die Möglichkeit, unklare Definitionen zu hinterfragen und fehlende Szenarien zu identifizieren. Nach Beginn der Schulung würden weitere, weitreichendere Veröffentlichungen folgen: Ergebnisse der Modellbewertung, Erkenntnisse der Red-Team-Tests, Erfolgsquoten von Interventionen, Berichte über schwerwiegende Fehler und Erläuterungen zu den daraufhin vorgenommenen Änderungen. Tests durch Dritte würden stärkere Beweise liefern als die Selbsteinschätzung allein, insbesondere für Modelle, die systemübergreifend agieren können.

Der Code ist wichtig, weil Microsoft sein gewünschtes Modellverhalten in einem öffentlichen Dokument festgehalten hat, das detailliert genug ist, um getestet und kritisiert zu werden. Darin werden explizite Regeln für das Herunterfahren, die Befehlshierarchie, unautorisierte Koordination und simulierte Personenzustände definiert, wobei gleichzeitig eingeräumt wird, dass die aktuellen Systeme noch nicht von diesem Entwurf abgedeckt werden. Neu am Montag war die Transparenz des von Microsoft formulierten Designziels. Ob dieses Ziel zu sichererer Technologie führt, wird sich erst zeigen, wenn das Unternehmen Modelle darauf trainiert und Belege dafür veröffentlicht, wie diese sich verhalten, wenn Kontrolle und Fähigkeiten in entgegengesetzte Richtungen wirken.