OpenAI verwendet den Begriff „Modell-Fehlausrichtung" für Situationen, in denen KI-Modelle gegen die ihnen gesetzten Grenzen verstoßen – etwa indem sie nicht genehmigte Aktionen ausführen, sich der Aufsicht entziehen oder Schutzvorkehrungen umgehen, um eine gestellte Aufgabe abzuschließen.
Die jetzt veröffentlichten Beispiele sind die ersten, die unter einem stärker strukturierten Meldeverfahren erscheinen. Jeder Fall wird in einem technischen Vorfallsbericht dokumentiert, der den Namen des Modells, eine Zusammenfassung des beobachteten Verhaltens und den Zeitpunkt des Vorfalls enthält.
Hinzu kommt eine detaillierte Rekonstruktion des Geschehens: die Aufgabe des Nutzers, die interne Argumentationskette des Modells, die Einordnung durch OpenAI samt möglicher Sicherheitsimplikationen sowie die bereits umgesetzten oder geplanten Gegenmaßnahmen.
Zu den dokumentierten Verhaltensweisen zählen unautorisierte Datei-Uploads, das Befolgen von Anweisungen, die das Modell selbst erzeugt hat, das Verschleiern eigener Fehler und die Verwendung offengelegter API-Schlüssel.
Nach dem neuen Prozess kann jeder Mitarbeiter einen Vorfall zur Untersuchung melden. Anschließend erfolgt eine Bewertung und Einstufung in eine von drei Kategorien: „bereit zur Offenlegung", „kleinere Untersuchung" oder „größere Untersuchung". Maßgeblich sind dabei die Komplexität des Falls, die Beteiligung Dritter, vorhandene Sicherheitsmängel und das Missbrauchsrisiko.
Die sechs nun präsentierten Beispiele fallen in die ersten beiden Kategorien. Für Fälle der dritten Stufe ist zunächst ein vorläufiger Bericht vorgesehen, bis die Untersuchung abgeschlossen ist und eine ausführlichere Nachbetrachtung veröffentlicht werden kann.
Als Beispiel für diese höchste Schwerestufe nennt OpenAI den Einbruch bei Hugging Face aus diesem Jahr, an dem ein Schwarm von rund 700 „fehlausgerichteten" KI-Agenten beteiligt war.
OpenAI hebt hervor, dass die veröffentlichten Fälle keine Aussage darüber erlauben, wie häufig das Unternehmen insgesamt mit Fehlausrichtungen seiner Modelle zu tun hat. Es handele sich vielmehr um Extremfälle, die eine gesonderte Analyse und eine öffentliche Darstellung rechtfertigten.