Caine machte deutlich, dass die Autonomie in Bereichen wie Zielerfassung, Logistik und Koordination auf dem Gefechtsfeld eine wachsende Rolle spielt. „Wir denken in der Streitkräftegemeinschaft gerade sehr viel darüber nach", sagte er. Verschärft werde die Dringlichkeit durch die wachsende Kluft zwischen Militär und Privatwirtschaft, in der ein Großteil der fortschrittlichsten KI-Entwicklung stattfinde. „Wahrscheinlich nutzt jeder in diesem Raum jeden Tag irgendeine Spielart eines großen Sprachmodells", so Caine. Man müsse dies normalisieren und zu frühen Anwendern werden.
Die Risiken einer Abhängigkeit von kommerzieller Software treten in einem Konflikt mit Anthropic offen zutage, einem der führenden KI-Unternehmen des Landes. Die Firma hielt kürzlich die öffentliche Veröffentlichung eines leistungsstarken Modells namens Mythos Preview zurück und verwies auf Cybersicherheitsrisiken und mögliche Missbrauchsgefahren bei breiter Verbreitung. Zugleich haben Geheimdienste Interesse an den Fähigkeiten des Modells gezeigt; der National Security Agency soll Zugang gewährt worden sein.
Anthropic lehnte es zudem ab, Beschränkungen für die Nutzung seiner Systeme zu lockern – darunter Grenzen für inländische Überwachung und vollständig autonome Waffen. Die Weigerung löste einen öffentlichen Streit aus, in dessen Verlauf das Pentagon das Unternehmen als „Lieferkettenrisiko" einstufte – ein Begriff, der üblicherweise auf ausländische Anbieter angewendet wird, deren Technik Sicherheitslücken in Regierungssysteme einbringen könnte.
Das Weiße Haus ordnete daraufhin an, dass Bundesbehörden den Einsatz von Anthropics Werkzeugen einstellen sollen. Das Unternehmen focht die Entscheidung vor Gericht an; ein Bundesrichter blockierte das Verbot im März vorübergehend. Die Regierung kündigte Berufung an. In den vergangenen Tagen deutete Präsident Donald Trump eine mögliche Entspannung an: Das Unternehmen „mache Fortschritte" und könne „von großem Nutzen" sein.
Für militärische Planer geht es nicht nur darum, ob KI-Systeme schnellere oder bessere Entscheidungen treffen, sondern ob sie gegen Manipulation, Datenvergiftung oder unbeabsichtigtes Verhalten in Hochrisikolagen abgesichert werden können. Diese Risiken sind nicht mehr theoretisch: Abgeordnete haben das Pentagon bereits zu der Frage gedrängt, ob KI-Systeme bei einem tödlichen Angriff auf eine iranische Schule in den ersten Stunden des US-israelischen Kriegs gegen den Iran zum Einsatz kamen – und damit Fragen aufgeworfen, wie solche Werkzeuge getestet, geprüft und gesteuert werden.
Caine verwies auf ein nüchterneres Hindernis: das Beschaffungssystem der Regierung. „Wir müssen bessere Verträge schreiben", sagte er. Die geltenden Rahmenwerke seien schlecht auf Software zugeschnitten, die sich fortlaufend weiterentwickle und ständige Sicherheitsupdates erfordere. Für feste Hardwaresysteme entworfene Verträge könnten die Einführung kritischer Technik verzögern und Lücken bei der Verantwortlichkeit hinterlassen. Verträge sollten so gestaltet sein, dass Regierung und Privatunternehmen das Risiko teilen, damit Systeme nicht nur wirksam, sondern auch widerstandsfähig seien.