Reuters zufolge setzt die Cybersecurity and Infrastructure Security Agency der USA das KI-Modell Mythos von Anthropic für Code-Prüfungen in Bundesbehörden ein. Grundlage des Berichts sind drei mit dem Vorgang vertraute Quellen. Ziel der Aktion ist es demnach, Sicherheitsfehler in Software der Bundesregierung proaktiv zu identifizieren.

Die technischen Prüfungen werden laut Reuters vom Attack Surface Evaluation Team von CISA vorangetrieben. Diese Spezialeinheit ist für digitale Verteidigungsbewertungen und simulierte Hacking-Übungen im föderalen Umfeld zuständig. Zwei der Quellen erklärten, dass die KI-gestützte Untersuchung bereits eine „große Zahl“ an Schwachstellen entdeckt habe.

Offen bleibt allerdings, in welchen Behörden die Funde gemacht wurden, welche Schweregrade die entdeckten Lücken haben und welchen Umfang die bislang geprüfte Software insgesamt hat. Auch offizielle Bestätigungen liegen nicht vor: Weder Anthropic noch CISA wollten Reuters gegenüber formell Stellung nehmen.

Der Bericht ordnet den Einsatz vor dem Hintergrund eines angespannten Verhältnisses zwischen Anthropic und US-Regierungsstellen ein. Anfang dieses Jahres hatte das Unternehmen demnach Forderungen der Regierung zurückgewiesen, eingebaute Schutzmechanismen zu entfernen, die eine Nutzung seiner Modelle für autonome Waffensysteme oder Inlandsüberwachung einschränken. Daraufhin stufte das Pentagon Anthropic als Risiko für die Lieferkette ein, eine Klassifizierung, die dem Bericht zufolge üblicherweise ausländischen Firmen vorbehalten ist, die der Spionage verdächtigt werden.

Auch die National Security Agency soll Mythos laut dem Bericht in ihren Operationen verwenden. Zudem sagte ein US-Regierungsvertreter der Associated Press Ende des vergangenen Monats, eines von Anthropics KI-Modellen habe bei einer Testübung Schwachstellen in besonders sensiblen und stark abgesicherten Computersystemen der US-Regierung identifiziert.

Parallel zur internen Nutzung von Mythos in US-Geheimdienst- und Verteidigungskreisen verweist der Bericht auf gesonderte regulatorische Auseinandersetzungen rund um Anthropics öffentliche Produkte. Als das Unternehmen Anfang Juni die öffentliche Version seines Modells unter dem Namen Fable startete, lösten Bedenken des Weißen Hauses über einen möglichen Zugriff ausländischer Staatsangehöriger auf das Werkzeug laut Bericht eine kurzfristige Verwaltungsanordnung zur Zugangsbeschränkung aus. Der folgende Konflikt führte demnach zu einer vorübergehenden weltweiten Abschaltung des Fable-Modells, die erst vergangene Woche aufgehoben wurde.