Der KI-Hersteller Anthropic lehnt Forderungen des Pentagons ab, die Sicherheitsvorkehrungen für sein Sprachmodell Claude aufzuweichen. Das Unternehmen verweigert die Freigabe für Massenüberwachung und autonome Waffen.
Ein heftiger Konflikt zwischen der Trump-Administration und Anthropic spitzt sich zu: Das Pentagon fordert den KI-Entwickler auf, seine ethischen Richtlinien bis Freitag zu lockern – ansonsten droht erheblicher Geschätsschaden.
Anthropics CEO Dario Amodei setzt klare Grenzen. Nur 24 Stunden vor der Frist erklärte er, sein Unternehmen könne “im guten Gewissen” nicht nachgeben. Dabei geht es um zwei zentrale Punkte: Das Pentagon möchte Claude ohne Einschränkungen nutzen können – sowohl für Massenüberwachung von Amerikanern als auch für vollautonome Waffen. Anthropic lehnt beides kategorisch ab.
Die Situation ist kritisch. Zwar kann sich Anthropic einen verlorenen Rüstungsvertrag wirtschaftlich leisten. Doch Verteidigungsminister Pete Hegseth droht mit weiteren Konsequenzen: Das Pentagon könnte Anthropic als “Supply-Chain-Risiko” einstufen – eine Bezeichnung, die normalerweise feindlichen Staaten vorbehalten ist und geschäftliche Partnerschaften erheblich gefährden würde.
Amodei sitzt in einer Zwickmühle. Gibt er nach, riskiert er das Vertrauen der Tech-Branche und der Top-Talente, die sich Anthropic wegen seiner Sicherheitsversprechen angeschlossen haben. Die Drohung des Pentagon wirkt zudem widersprüchlich: Es kann Anthropic nicht gleichzeitig als Sicherheitsrisiko einstufen und die Nutzung von Claude als »kritisch für die nationale Sicherheit« rechtfertigen.
Bemerkenswert: Amodeis Haltung findet überraschend Unterstützung. Führende Tech-Worker von OpenAI und Google unterzeichneten einen offenen Brief zu Amodeis Gunsten. Selbst pensionierter General Jack Shanahan, der früher Googles umstrittenes Project Maven leitete, zeigt Verständnis für Anthropics Position. Die KI-Sprachmodelle seien noch nicht reif für autonome Waffen-Systeme, argumentiert er.
Das Pentagon beteuert, nur »rechtmäßige Zwecke« anzustreben und lehnt Massenüberwachung ab. Konkrete Details zur geplanten Nutzung bleiben aber vage. Anthropic ihrerseits signalisiert Kooperationsbereitschaft, beharrt aber auf angemessenen Schutzmaßnahmen. Eine Lösung bleibt zum Stichtag unklar.
Quelle: SecurityWeek