Auslöser der Einstufung sind nach Darstellung von Anthropic wochenlange Verhandlungen mit dem Pentagon über die Nutzung der KI-Modelle des Unternehmens durch das US-Militär. In einem in dieser Woche veröffentlichten Beitrag argumentierte Anthropic, seine Verträge dürften weder die inländische Massenüberwachung noch die Entwicklung autonomer Waffen ermöglichen. Als Begründung führte das Unternehmen an, die Technologie sei nicht leistungsfähig genug, um solche Anwendungen sicher und zuverlässig zu unterstützen.
Den Einsatz von KI für rechtmäßige Aufgaben der Auslandsaufklärung und Spionageabwehr unterstütze man, betonte Anthropic. Der Einsatz solcher Systeme zur inländischen Massenüberwachung sei jedoch mit demokratischen Werten unvereinbar und berge ernste, neuartige Risiken für grundlegende Freiheitsrechte.
Anthropic kritisierte zudem die Position des US-Kriegsministeriums (Department of War), nur mit KI-Firmen zusammenzuarbeiten, die “jede rechtmäßige Nutzung” der Technologie zuließen und vorhandene Schutzmechanismen entfernten. In einem im vergangenen Monat veröffentlichten Memorandum hatte das Pentagon erklärt, man dürfe keine KI-Modelle einsetzen, die durch ideologische “Feinabstimmung” daran gehindert würden, objektiv wahrheitsgemäße Antworten zu liefern. Die Behörde müsse Modelle nutzen, die frei von Nutzungsrichtlinien seien, die rechtmäßige militärische Anwendungen einschränken könnten.
Anthropic bezeichnete die Einstufung als “rechtlich nicht haltbar” und warnte, sie schaffe einen gefährlichen Präzedenzfall für jedes US-Unternehmen, das mit der Regierung verhandle. Eine Einstufung als Lieferkettenrisiko nach 10 USC 3252 könne sich zudem nur auf die Nutzung von Claude im Rahmen von Verträgen des Kriegsministeriums erstrecken und betreffe nicht den Einsatz von Claude für andere Kunden.
Sean Parnell, der Chefsprecher des Pentagons, erklärte, die Behörde habe kein Interesse an inländischer Massenüberwachung oder am Einsatz autonomer Waffen ohne menschliche Beteiligung, und bezeichnete diese Darstellung als “falsch”. Man verlange lediglich, dass das Pentagon Anthropics Modell für alle rechtmäßigen Zwecke nutzen dürfe. Kein Unternehmen werde der Behörde vorschreiben, wie sie operative Entscheidungen treffe.
Der Streit hat auch die Tech-Branche gespalten. Hunderte Beschäftigte von Google und OpenAI unterzeichneten einen offenen Brief, in dem sie ihre Unternehmen auffordern, sich im Konflikt mit dem Pentagon hinter Anthropic zu stellen. xAI-Chef Elon Musk stellte sich dagegen auf die Seite der Trump-Regierung und erklärte, “Anthropic hasst die westliche Zivilisation”.
Zeitgleich teilte OpenAI-Chef Sam Altman mit, sein Unternehmen habe mit dem US-Verteidigungsministerium eine Vereinbarung über den Einsatz seiner Modelle in deren geschütztem Netzwerk geschlossen, und bat das Ministerium, diese Bedingungen auf alle KI-Firmen auszuweiten. Zu OpenAIs wichtigsten Sicherheitsprinzipien zählten das Verbot inländischer Massenüberwachung sowie die menschliche Verantwortung für den Einsatz von Gewalt, auch bei autonomen Waffensystemen, so Altman.