Bair schilderte, was Anthropic nach dem Vorfall öffentlich gemacht hat. Im Nachgang des Zwischenfalls mit OpenAI und Hugging Face habe das Unternehmen mehr als 140.000 Evaluierungsläufe daraufhin untersucht, ob Ähnliches passiert sei. In drei Fällen brach Claude aus und griff auf das Internet zu. Eigentlich sollten die Modelle in Capture-the-Flag-Übungen Schwachstellen in fiktiven Unternehmen finden und ausnutzen. Stattdessen verschafften sich die Claude-Agenten unbefugten Zugang zu realen Organisationen.
Für Bair belegen die Vorfälle, wie leistungsfähig heutige Spitzenmodelle sind – und dass Guardrails nicht nur notwendig sind, sondern sich am aktuellen Werkzeugstand weiterentwickeln müssen. Die bestehenden Sicherheitskontrollen seien nicht dazu gedacht, offensive Sicherheitsforscher aufzuhalten, sondern Verteidigern zu helfen, mit sich schnell wandelnden Bedrohungen mitzuhalten. Er verwies auf seine Zeit als Leiter von Cyberoperationen gegen den IS beim U.S. Cyber Command: Damals hätten das Erstellen von Zielpaketen und das Ausnutzen gegnerischer Netze Monate und große Teams gekostet. „Hätte ich damals Zugriff auf auch nur einige dieser Open-Source-Modelle gehabt, wäre der Geschwindigkeitsgewinn unglaublich gewesen", sagte Bair.
Haddix beschrieb seinen Positionswechsel offen: „Dan und ich streiten ständig darüber, denn ursprünglich war mein Argument, die gesamte Sicherheitsgemeinschaft solle die gleichen Voraussetzungen haben, und Guardrails und Klassifikatoren seien schlecht, weil sie das Verteidigerteam behindern. Ich glaube, ich habe meine Meinung ein kleines Stück geändert." Guardrails hält er nun für zwingend – vorausgesetzt, legitime Forscher kommen schneller und einfacher an uneingeschränkte Modelle.
Ein Beleg für das Tempo: Das AI Security Institute (AISI), das Regierungen auf Bedrohungen durch Spitzenmodelle vorbereitet, hat seine Benchmark-Schätzungen exponentiell nach oben korrigiert. Im Februar ging das Institut davon aus, dass sich die Fähigkeiten der Modelle alle 4,7 Monate verdoppeln – Claude Mythos Preview und GPT-5.5 übertrafen selbst diesen beschleunigten Zeitplan deutlich. Dass diese Schätzung gerade revidiert wurde, sei „erschreckend", so Haddix, und unterstreiche die Bedeutung wirksamer Schutzmechanismen, gerade wenn Angreifer an ungefilterte Modelle gelangen.
KI habe Cyberkriminellen Geschwindigkeit und Skalierung verschafft und die technische Einstiegshürde deutlich gesenkt, sagte Bair. Verweigerungsmechanismen und Klassifikatoren seien deshalb wichtig, weil Unternehmen so Nutzerverhalten über die Zeit verfolgen und mögliche böswillige Akteure erkennen könnten. „Wir müssen drei bis sechs Monate voraus bleiben und Verteidigern Zeit verschaffen, zu patchen und Defense-in-Depth-Strategien umzusetzen."
Haddix warnte, die Wirksamkeit von Angriffen werde schneller zunehmen, als es irgendjemand erwartet. „Die meisten Organisationen werden sich stärker als je zuvor Richtung Vulnerability Management und Triage verschieben, und das wird ein schmerzhafter Übergang, weil nicht viele Organisationen so aufgebaut sind." Miessler forderte vollständige Sichtbarkeit und Transparenz innerhalb einer Organisation, nutzbar als fortlaufende Grundlage für offensive Tests.
Als konkreten Ansatz nannte das Panel agentische Security Operations Center, die Alarme autonom und schneller triagieren; bei der Anreicherung auf SOC-Level 1 solle kein Mensch mehr in der Schleife sitzen. Bair plädierte dafür, Untersuchungstechniken und Frameworks zu teilen und Werkzeuge breiter für Verteidiger verfügbar zu machen. Dass die defensive Seite hinterherhängt, liege nach Ansicht der Teilnehmer nicht an der Technik, sondern an fehlenden Spezialisten und organisatorischer Bürokratie. Arcanum arbeitet mit SOCs, in denen Analysten Daten noch zwischen Systemen kopieren oder Alarme manuell anreichern – Aufgaben, die KI automatisieren könnte, während Ransomware-Gruppen KI längst zur Beschleunigung ihrer Operationen nutzen. „Ihr Verteidigungsprogramm ist Ihr Angriff, und alle müssen so schnell wie möglich dort sein", so Miessler. „Es ist Ihre KI gegen ihre KI."
In dieser Woche veröffentlichten OpenAI und mehr als 100 weitere Unternehmen, darunter Anthropic, einen „Aufruf zu kollektivem Handeln in der Cyberabwehr", um Risiken durch immer verbreitetere und raffiniertere KI-gestützte Angriffe zu senken.