Moonshot AI gibt an, die offensiven Cybersicherheitsfähigkeiten seines neuen Kimi K3.1 Pro-Modells vor der geplanten Veröffentlichung in einer offenen Gewichtsklasse bewusst reduziert zu haben, um einen Praxistest zu schaffen, ob ein KI-Entwickler nützliche Programmierfähigkeiten erhalten kann, während er gleichzeitig die für Hacking-Zwecke nutzbaren Fähigkeiten einschränkt.
Das Pekinger Unternehmen gab am Samstag bekannt, dass es Cybersicherheits-bezogene Inhalte aus Teilen der Trainingsdaten und der Reinforcement-Learning-Umgebungen des Modells entfernt hat. Laut der zugehörigen Veröffentlichungsnotiz werden die vollständigen Gewichtungen – die numerischen Parameter, die es externen Nutzern ermöglichen, das Modell auszuführen und zu modifizieren – bis zum 4. November veröffentlicht. Reuters berichtete, dass die internen Ergebnisse des Unternehmens noch nicht unabhängig verifiziert wurden, was die Aussagekraft der Ergebnisse vor externen Tests des Modells erheblich einschränkt.
Moonshot nutzte Trainingsdaten als Sicherheitsmaßnahme
Moonshot berichtete von einer Leistungssteigerung bei der Schwachstellenanalyse, nachdem mehr Rechenleistung nach dem Training für Kimi K3.1 Pro bereitgestellt wurde. Das Unternehmen führte diese Steigerung teilweise auf im Trainingskorpus integrierte Cybersicherheitsinhalte und auf Cybersicherheitsaufgaben im Rahmen des Reinforcement Learnings zurück. Anschließend wurden die Cybersicherheitsinhalte aus beiden Phasen entfernt, während allgemeine Programmieraufgaben beibehalten wurden.
Bei Moonshots interner xdev-bench-hard-Evaluierung löste ein ungefilterter Checkpoint 90,5 % der Probleme bei der Schwachstellenerkennung und -ausnutzung innerhalb von drei Versuchen. Die Release-Version erreichte 81,0 %, während ihr Vorgänger Kimi K3 33,3 % erzielte. Diese Zahlen deuten darauf hin, dass die Intervention die Leistungsfähigkeit im Vergleich zu dem, was dieselbe Trainingspipeline hätte leisten können, verringerte. Sie zeigen aber auch, dass das fertige Modell deutlich leistungsfähiger als sein Vorgänger blieb. Benchmark, Testauswahl und Vergleiche wurden von Moonshot erstellt bzw. zusammengestellt. Die Prozentangaben sollten daher eher als unternehmensinterne Ergebnisse denn als unabhängige Messung interpretiert werden.
Offene Gewichtungen verändern die Risikoberechnung
Gehostete KI-Dienste können Anfragen überwachen, den Zugriff einschränken, Sicherheitsvorkehrungen aktualisieren und missbräuchliche Nutzer sperren. Open-Source-Modelle bieten Nutzern mehr Kontrolle und Datenschutz, allerdings gehen viele dieser Kontrollmechanismen verloren, sobald die Dateien heruntergeladen und weiterverbreitet werden. einer umfassenderen Analyse lagen führende Open-Source-Modelle zuletzt nur noch vier bis sieben Monate hinter den führenden geschlossenen Modellen zurück. Damit verringerte sich die Lücke, die im Jahr 2025 größtenteils sechs bis zehn Monate betrug.
Diese Unterscheidung macht die Entscheidungen von Moonshot vor der Veröffentlichung bedeutsam. Das Filtern von Schulungsmaterialien kann die in die ursprünglichen Gewichtungen eingearbeiteten Funktionen beeinflussen, während herkömmliche Ablehnungsmeldungen oder serverseitige Überwachung nach der Veröffentlichung entfernt oder umgangen werden können. Eine unabhängige Überprüfung des früheren Kimi K2.5 warnte davor, dass die Sicherheitsvorkehrungen für offene Gewichtungen durch kostengünstige Feinabstimmung entfernt werden könnten und dass veröffentlichte Gewichtungen nicht zurückgerufen oder zentral gepatcht werden können. Diese Studie war vorläufig und untersuchte ein anderes Modell, untermauert aber die allgemeine Besorgnis, dass die Kontrolle von Funktionen vor der Veröffentlichung umso wichtiger ist, je eingeschränkter die Kontrolle nach der Veröffentlichung ist.
Externe Erkenntnisse sprechen für Vorsicht, nicht für Gewissheit
Regierungsgutachter haben die Modelle von Moonshot bereits zuvor getestet und damit eine nützliche Vergleichsbasis geschaffen, ohne die neue Version zu validieren. In einer gemeinsamen Bewertungstellten das britische Institut und das US-amerikanische Center for AI Standards and Innovation fest, dass Kimi K3 bei der Entwicklung von Exploits und einem simulierten 32-stufigen Netzwerkangriff hinter den leistungsstärksten geschlossenen Modellen zurückblieb. Kimi K3 führte im Test dennoch offensive Operationen durch, und die Gutachter betonten, dass ihre Ergebnisse vorläufig seien und nur eine begrenzte Anzahl von Benchmarks umfassten.
Kimi K3.1 Pro ist ein neueres, leistungsfähigeres System, daher kann die frühere Bewertung seine Sicherheit nicht bestätigen. Laut Moonshot liegt das gefilterte Modell weiterhin hinter proprietären Systemen zurück, die seit mindestens drei Monaten öffentlich verfügbar sind. Unabhängige Tests nach Veröffentlichung der Gewichtungen müssen prüfen, ob die Reduzierung auch bei anderen Aufgaben der Exploit-Entwicklung, längeren Angriffsketten und modifizierten Versionen des Modells Bestand hat.
China strebt ebenfalls Exportkontrollen an
Die Entscheidung des Unternehmens fällt in eine Zeit, in der die chinesischen Behörden Exportbeschränkungen für bestimmte KI-Technologien erwägen. Das chinesische Handelsministerium erklärte in einer offiziellen Stellungnahme , die vorgeschlagenen Änderungen würden sensible Technologien betreffen und eine Vorregistrierung vor dem Export während der Konsultationsphase vorschreiben. Der Entwurf beinhaltet Kontrollen im Zusammenhang mit KI-gestützter Schwachstellenerkennung und der Generierung von Schadcode – Bereiche, die eng mit den von Moonshot beschriebenen Risiken verknüpft sind.
Die vorgeschlagenen Exportregeln stehen weiterhin unter dem Vorbehalt der öffentlichen Kommentierung und sind unabhängig von Moonshots freiwilliger Schulungsentscheidung. Zusammengenommen verdeutlichen sie jedoch zwei Formen des Risikomanagements im Zusammenhang mit fortschrittlicher chinesischer KI: staatliche Kontrolle über bestimmte Technologietransfers und Entscheidungen der Entwickler darüber, welche Funktionen in öffentlich zugänglichen Gewichtungen enthalten sein sollen.
Die Veröffentlichung am 4. November wird der eigentliche Test sein
Kimi K3.1 Pro ist bereits über die gehosteten Produkte und die Programmierschnittstelle von Moonshot verfügbar, die herunterladbaren Gewichte sollen laut Unternehmen bis zum 4. November folgen. Diese Veröffentlichung sollte es unabhängigen Gutachtern ermöglichen, die internen Ergebnisse zu reproduzieren oder zu hinterfragen, das Modell mit anderen offenen Systemen zu vergleichen und zu testen, wie leicht sich die von Moonshot unterdrückte Fähigkeit durch Feinabstimmung wiederherstellen lässt.
Das zentrale Ergebnis ist daher vorläufig. Moonshot hat eine konkrete Maßnahme offengelegt, eine messbare Reduzierung gemeldet und eingeräumt, dass eine stärkere allgemeine Codierung weiterhin Auswirkungen auf Cyberaufgaben hat. Ob dieser Ansatz das Missbrauchsrisiko signifikant senkt, hängt von Erkenntnissen ab, die außerhalb des Unternehmens gewonnen werden – und davon, ob modifizierte Versionen die Reduzierung auch dann beibehalten, wenn die Gewichtungen nicht mehr abgerufen werden können.