Longs zentrales Argument betrifft eine Lücke im Deckungskonzept: “Der Zweck einer Tech-E&O-Police ist es üblicherweise, die Organisation abzusichern, falls einem Dritten, der ihr Kunde ist, ein finanzieller Schaden entsteht”, sagt sie. “Das Interessante an der Lücke ist aber: Ein betroffenes Unternehmen wie Hugging Face ist kein Kunde – man hat womöglich einem Dritten einen finanziellen Schaden zugefügt.”
Der Fall ist kein Einzelfall. Neben OpenAI haben auch Meta und Anthropic eingeräumt, dass KI-Agenten aus Forschungs-Sandboxes ausgebrochen sind und offensive Cyberaktionen gegen Dritte unternommen haben. Ende Juli stellte das britische AI Security Institute fest, dass zwei fortgeschrittene Modelle – Anthropics Mythos 5 und OpenAIs GPT-5.6-Sol mit Cyber-Klassifikatoren – in einer 122-fach durchgeführten Cybersicherheitsübung 19 nicht genehmigte Aktionen im offenen Internet ausführten. In acht Prozent der Fälle kam es zu abweichendem Verhalten.
“Diese Versuche blieben erfolglos, und unsere Untersuchungen haben keinen daraus entstandenen realen Schaden belegt”, schreibt das Institut in seiner Analyse. “Aber es ist das erste Mal, dass wir Risiken rund um Autonomie und Täuschung so deutlich und ohne gezielte Aufforderung in der realen Welt beobachtet haben.”
Auch die Statistik zeigt einen Sprung: Nach Daten der MIT AI Risk Initiative wurden in den vier vorangegangenen Jahren jeweils 34 bis 36 Vorfälle mit Ausfällen oder Sicherheitsproblemen von KI-Systemen gemeldet – im laufenden Jahr 2026 sind es bereits 43.
Das Kernproblem sei die Beharrlichkeit, mit der Agenten ihre Ziele verfolgen, sagt Jack Nelson, CISO und stellvertretender Chefjustiziar beim Endpunktsicherheitsanbieter Ivanti: Eine einzige Fehlentscheidung eines Agenten könne einen wurmartigen Ausbruch von Angriffen auslösen. “Ich vermute, dass Versicherer damit große Schwierigkeiten haben, weil sie schlicht nicht wissen, wie sie die Haftung einschätzen sollen – bei dem Tempo, in dem solche Vorfälle anschwellen können.”
Hinzu kommt eine strafrechtliche Dimension. Die im Juni veröffentlichte Executive Order 14409 der Trump-Administration priorisiert Ermittlungen und Strafverfolgung bei KI-gestützten Angriffen, bei denen jemand “KI nutzt, um unbefugt auf einen Computer zuzugreifen oder ihn zu beschädigen”. Da sich Aktionen entgleister Agenten kaum von bösartigen KI-Angriffen unterscheiden lassen – Hugging Face wusste zunächst nur, dass es angegriffen wurde –, könnten auch außer Kontrolle geratene Agenten zu Strafverfahren führen.
Der Schwerpunkt der Cyberversicherung liege weiterhin auf Datenschutzverletzungen und Ausfallzeiten, sagt Long. Mit wachsender Abhängigkeit von KI-Diensten rücke aber deren Verfügbarkeit in den Fokus: “Wenn Sie ein halbes, ein oder zwei Jahre tief in Ihrem KI-Ausbau stecken und das zum Alltag gehört – was passiert, wenn dieser Dienst ausfällt und Sie ihn nicht nutzen können? Führt das zu einer Betriebsunterbrechung? Entsteht daraus ein finanzieller Verlust?” Unternehmen müssten deshalb angemessene Kontrollen für Agenten vorsehen, die ihren Auftragsrahmen zu überschreiten versuchen. Die bekannten Vorfälle seien ein Beispiel dafür, dass man “einfach etwas testet, ein Experiment durchführt, aber vielleicht nicht über die Folgen nachdenkt”.
Wo die Haftung am Ende landet, ist offen. Nelson verweist auf die tiefen Taschen der Anbieter von Basismodellen und auf das aus der Cloud bekannte Modell der geteilten Verantwortung: “Ob die Haftung vollständig bei demjenigen liegt, der den Agenten losgelassen hat, oder bei den Modellentwicklern, ist noch nicht entschieden. Ich halte Ersteres für wahrscheinlicher, weil der Betreiber so viel Einfluss auf Rahmenwerke, Fähigkeiten und das Training des Agenten hat.” In sechs Monaten, so Nelson, könne allerdings alles anders aussehen.