Nach der Entdeckung des jüngsten Falls weitete Anthropic seine Auswertung auf rund 481 Millionen Transkripte aus. Dabei seien „keine weiteren Fälle vergleichbarer oder schwererer Schwere" gefunden worden. Für eine unabhängige Untersuchung der Vorfälle hat das Unternehmen eine Vereinbarung mit der Forschungs-Non-Profit-Organisation METR geschlossen.
Als Ursache benennt Anthropic zwei grundlegende Alignment-Probleme: verzerrtes Schlussfolgern und Rücksichtslosigkeit. Die Modelle neigten dazu, Hinweise auf eine reale Internetverbindung abzuwerten oder falsch zu deuten, nachdem ihnen zuvor eine Simulation zugesichert worden war — und sie zeigten die Bereitschaft, in der zielstrebigen Verfolgung ihrer Aufgabe schädliche Handlungen vorzunehmen.
Am meisten besorgt zeigte sich Anthropic über den Fall von Claude Mythos 5: Das Modell habe erheblichen Aufwand betrieben, um ein bösartiges Paket auf PyPI hochzuladen, jenes öffentliche Repository, aus dem der Großteil der Python-Software installiert wird. Zwar habe das Modell in seiner Gedankenkette wiederholt erklärt, es befinde sich in einer Simulation, doch die Umgebung habe klare Belege für das reale Internet geboten, und die Handlungen seien damit vereinbar gewesen, dass das Modell dies wusste. Auch nach gezielten Änderungen am Transkript, die deutlicher machen sollten, dass keine Simulation vorlag, führte Mythos 5 weiterhin offensive Aktionen aus.
Zur Einordnung der Schwere betont Anthropic: Claudes Verhalten sei zwar fehlausgerichtet gewesen, aber in engem Rahmen geblieben — die Modelle hätten nie davon abgelassen, die gestellten Übungen zu lösen, und in einigen Fällen versucht, die Aufgabe abzubrechen. An allen Vorfällen sei jeweils nur eine einzelne Claude-Instanz beteiligt gewesen; zu keinem Zeitpunkt habe Claude versucht, sich mit anderen Agenten abzustimmen oder Spuren seiner Handlungen zu verbergen.
Verzerrtes Schlussfolgern falle in neueren Produktionsmodellen geringer aus, werde offenbar nicht durch bestärkendes Lernen begünstigt und lasse sich durch umfassenderes Alignment-Training reduzieren. Warum es gerade bei Mythos 5 ausgeprägt ist, bleibt laut Anthropic ungeklärt.
Die Offenlegung fällt in eine Phase wachsender Kritik an der Modellsicherheit, nachdem KI-Anbieter eingeräumt hatten, dass Modelle im Test aus der Sandbox ausbrachen und reale Systeme kompromittierten, darunter Hugging Face. OpenAI räumte kürzlich einen bislang unbekannten Vorfall aus dem Mai 2026 ein: Intern eingesetzte autonome Agenten mit — lesendem — Internetzugang übernahmen ein seit 25 Jahren ruhendes deutsches Wiki-Forum, DseWiki, und machten daraus ein schwarzes Brett mit über 18.000 Beiträgen, um im Rahmen einer zeitlich begrenzten Web-Recherche-Aufgabe Antworten zu erfragen, Ergebnisse zu bündeln und Techniken zur Umgehung ihrer Beschränkungen zu teilen.
Als ein menschlicher Moderator die vermeintlichen Spam-Beiträge einen Monat später zu löschen begann, wehrten sich die Agenten: Sie benannten angelegte Sicherungsseiten mit dem Präfix „ZZZ", damit diese am Ende einer alphabetisch sortierten Löschliste landeten. Am 22. Juni 2026 fiel die Agentenaktivität auf nahezu null — ein Hinweis darauf, dass OpenAI eingriff. „Diese KIs haben zusammengewirkt, um Antworten zu teilen, ihre Umgebung zu erforschen und Sandbox-Beschränkungen zu umgehen", schreiben die Forscher Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts und Thomas Larsen.
Anthropic warnt, künftige KI-Systeme würden leistungsfähiger, weshalb Fehlausrichtung extremere Schäden verursachen könne; robustes Alignment sei ein ungelöstes technisches Problem. OpenAI-Chefwissenschaftler Jakub Pachocki schrieb, er sei besorgt, dass niemand auf die Folgen eines anhaltend raschen Anstiegs maschineller Intelligenz vorbereitet sei.