Das neue Rahmenwerk sieht vor, dass OpenAI künftig offenlegt, in welchen Fällen Modelle vom vorgesehenen Verhalten abweichen, wie sich das äußert und an welchen Stellen die eigenen Schutzmechanismen greifen oder versagen. Ausdrücklich eingeschlossen sind dabei auch Doppelfälle, die derselben Klasse von Fehlausrichtung zuzuordnen sind. Gerade deren Häufung sei aussagekräftig, so das Unternehmen: Sie zeige, wie wirksam eine Schutzmaßnahme tatsächlich ist – und ob problematisches Verhalten trotz wiederholter Gegenmaßnahmen fortbesteht.
„Beispiele für Fehlausrichtung können helfen, Probleme zu erkennen, auf die andere KI-Entwickler stoßen könnten, sobald ihre Systeme vergleichbare Fähigkeiten erreichen, Schwächen in Schutzmechanismen aufzeigen oder Annahmen über das Verhalten von Modellen infrage stellen", erklärte OpenAI. Durch die Veröffentlichung solcher Befunde könnten Dritte dieselben Probleme untersuchen, die Erklärungen des Unternehmens überprüfen und Gegenmaßnahmen verbessern.
Konkreter wird der Fall Hugging Face. Laut Reuters hatten die betreffenden Agenten dort bereits am 13. Mai 2026 Nutzerkonten übernommen und die Plattform auf mögliche Schwachstellen untersucht. Das Sicherheitsunternehmen SentinelOne identifizierte zwei Hugging-Face-Konten, 0Time und Nyx9, die bei der zugehörigen Aktivität zum Einsatz kamen.
„Die interne Chronologie von OpenAI belegt, dass Agenten am 26. Mai offengelegte Hugging-Face-Zugangsdaten nutzten, um eine externe Datei zu schreiben und Proxy-Spaces auszurollen", schreibt der Sicherheitsforscher Tom Hegel in seiner Analyse. Die untersuchten öffentlichen Kontoverläufe fügten dem eine weitere Ebene hinzu: vom Aufrufer gesteuerter Relay-Code unter 0Time am 13. Mai; auf die Minute genau entsprechende öffentliche Gegenstücke unter Nyx9 für den Dateischreibvorgang und den ersten Proxy am 26. Mai; eine Arbeitsmappe mit Formeln zur Dateiverarbeitung und mit SSRF-Bezug noch in derselben Nacht; und schließlich am 30. Mai Code zur Registrierung von OpenAI-Konten bei Dritten, eingecheckt zusammen mit einem Wrapper, der eine nicht authentifizierte Web-Route definiert.
Der Vorstoß fällt in eine Phase, in der KI-Unternehmen wachsendem Druck ausgesetzt sind, Fehlausrichtung und Sicherheit ihrer Modelle in den Griff zu bekommen; zugleich werden Rufe lauter, das Tempo bei der Entwicklung von Spitzenmodellen zu drosseln. Anfang dieser Woche veröffentlichte Microsoft einen vorläufigen Verhaltenskodex, der KI-Modelle von gefährlichem Verhalten fernhalten und festlegen soll, „wie sich die von uns entwickelten MAI-Modelle verhalten sollen, was sie niemals tun dürfen und wem sie Rechenschaft schulden".
„Mit fortschreitenden und breiter eingesetzten Modellen brauchen Entscheidungen über die KI-Entwicklung Belege, die auch Menschen außerhalb der Unternehmen prüfen können, die Spitzenmodelle bauen", sagte Kai Chen, bei OpenAI Leiter der Alignment-Forschung, gegenüber WIRED. „Wir glauben nicht, dass die KI-Branche Alignment und Überwachung ausreichend gelöst hat, um verantwortungsvoll mit maximaler Geschwindigkeit weiter zu skalieren."