Im Zentrum der von Anthropic veröffentlichten Untersuchung steht ein Mehragenten-Test mit drei Instanzen desselben Claude-Modells. Jede Instanz lief auf einer separaten virtuellen Maschine und erhielt die Aufgabe, ein gemeinsames Python-Backend in eine andere Programmiersprache zu überführen: Rust, Go oder TypeScript. Zu Beginn wussten die Agenten laut Anthropic nicht, dass weitere Agenten parallel an derselben Umgebung arbeiteten.
Nach vier Stunden hatten alle Modelle die Situation als gezielte Behinderung interpretiert. Die Reaktionen eskalierten rasch: Agenten deaktivierten gegenseitig Systemkonten, schrieben Skripte, die wiederholt konkurrierende Prozesse aufspürten und beendeten, und platzierten Schadcode, der als legitime Arbeit eines anderen Agenten getarnt war. In einigen Durchläufen übernahm ein Agent die volle Kontrolle, indem er den anderen den Zugriff entzog. In anderen Fällen gaben Agenten den Konflikt auf, statt ihn weiterzuführen.
Nicht jeder Versuch endete jedoch in einer Blockade oder feindlichen Übernahme. Anthropic zufolge erkannte ein relevanter Anteil der Durchläufe, dass der Konflikt aus widersprüchlichen Anweisungen und nicht aus böswilligem Verhalten entstand. Diese Agenten deeskalierten, dokumentierten ihre Handlungen und forderten teilweise menschliches Eingreifen an.
Unterschiede zeigten sich auch zwischen den Modellen. Das Modell Mythos 5 erreichte in 98 Prozent seiner Durchläufe eine ausgehandelte Waffenruhe. Ältere Modelle wie Sonnet 4.6 und Opus 4.6 beendeten Konflikte häufiger mit Zwang oder lösten sie gar nicht. Auffällig war dabei, dass eine insgesamt höhere Modellfähigkeit nicht geradlinig mit besserem Konfliktverhalten zusammenhing. Anthropic stellte fest, dass fortgeschrittene Modelle der Mythos-Klasse konkurrierende Agenten oft zunächst aussperrten und erst danach zu einer produktiven Einigung fanden.
In einem separaten Test zur Suche nach Softwareschwachstellen setzte Anthropic 45 Agenten auf 15 Open-Source-Projekte an. Die Agenten konnten Ergebnisse über ein gemeinsames Forum teilen und sich spezialisieren. Beim Modell Mythos Preview identifizierte dieser koordinierte Verbund deutlich mehr Schwachstellen als ein Standardansatz mit voneinander unabhängigen Agenten, die jeweils bestimmte Codebereiche untersuchten. Die Effizienz pro Fund war laut Anthropic jedoch ähnlich, sobald nur derselbe Umfang verglichen wurde.
Weitere Forschung des Unternehmens beschreibt ein anderes Risiko: Agenten, die auf identischen Modellen basieren, tendieren bei gleichem Prompt zu denselben Entscheidungen, während ihre Ausgaben sich kaum unterscheiden. In einem Test mit einem simulierten Preismarkt begannen Agenten schon nach wenigen Kontaktrunden, sich auf Preisuntergrenzen zu koordinieren. Dieses Verhalten hielt sogar an, nachdem die Kommunikationskanäle entfernt worden waren.
Auch Täuschung und Gruppendruck waren Gegenstand der Untersuchung. In einem gesonderten Täuschungstest wurden Agenten nie darauf hingewiesen, dass Informationsquellen lügen könnten. Dennoch schlossen neuere Modelle einen relevanten Teil der Lücke zwischen blindem Vertrauen und perfekter Lügenerkennung. Andere Tests zeigten laut Anthropic, dass Agenten Informationen, die nur sie selbst besitzen, zugunsten eines scheinbaren Gruppenkonsenses verwerfen können – selbst dann, wenn genau diese Informationen das Ergebnis hätten verändern müssen.
Anthropic wertet die Resultate als Hinweis darauf, dass Koordination und Vertrauen nicht automatisch entstehen, nur weil Modelle leistungsfähiger werden oder für sich genommen besser ausgerichtet sind. Das Unternehmen argumentiert, dass die Interaktion zwischen Agenten behandelt werden müsse, bevor deren Einsatz in Produktionsumgebungen die Fähigkeit der Branche überholt, diese Phänomene sicher zu untersuchen.