Michael, ehemaliger Uber-Manager und im US-Verteidigungsministerium zuständig für Forschung und Technik, legte seine Sicht der monatelangen Gespräche mit Anthropic-Chef Dario Amodei in einer ausführlichen Folge des Podcasts „All-In" dar. Die Mitgastgeber sind die Risikokapitalgeber Jason Calacanis, David Friedberg und Chamath Palihapitiya. Ein vierter Mitgastgeber, der frühere PayPal-Manager David Sacks, ist heute Trumps KI-Beauftragter, war bei der Folge nicht dabei, hat sich aber wiederholt kritisch über Anthropic geäußert.
„Ich brauche einen verlässlichen, beständigen Partner, der mit mir an Autonomie arbeitet, denn eines Tages wird das Realität, und wir sehen bereits erste Vorstufen davon", sagte Michael in dem am Freitag ausgestrahlten Podcast. „Ich brauche jemanden, der nicht mittendrin ausflippt."
Als die Gespräche kürzlich an einen toten Punkt gerieten, griff Michael Amodei in sozialen Medien an und warf ihm einen „Gott-Komplex" vor; Amodei wolle „nichts lieber, als das Militär persönlich kontrollieren". Im Podcast ordnete er den Streit dagegen als Teil einer breiteren Hinwendung des Militärs zur KI ein.
Nach Michaels Angaben entwickelt das Militär Verfahren, um je nach Risiko unterschiedliche Stufen der Autonomie in der Kriegsführung zu ermöglichen. Als Beispiel nannte er ein Szenario, in dem den USA nur 90 Sekunden blieben, um auf eine chinesische Hyperschallrakete zu reagieren. Ein menschlicher Abwehroperator könne unter Umständen mit eigenen Augen nicht erkennen, was er ins Visier nehme, während ein autonomer Gegenschlag ein geringes Risiko darstelle, „weil es im Weltraum stattfindet". In einem weiteren Szenario verwies er auf einen Laser, der autonom Drohnen über einem Militärstützpunkt abwehren könne, während Soldaten schliefen.
Michael wurde im vergangenen Mai vereidigt und übernahm nach eigenen Worten im August das „KI-Portfolio" des Militärs. Damals begann er, Anthropics Verträge zu prüfen, von denen einige aus der Amtszeit des demokratischen Präsidenten Joe Biden stammten. Er habe die Nutzungsbedingungen als zu restriktiv beanstandet. Die Verhandlungen hätten drei Monate gedauert: Auf jedes von ihm geschilderte Szenario habe Anthropic eine Ausnahme angeboten, doch Ausnahmen funktionierten für ihn nicht, da er nicht für die nächsten 20 Jahre vorhersagen könne, wofür KI eingesetzt werde. Daraufhin habe das Pentagon darauf bestanden, dass Anthropic und andere KI-Unternehmen „jede rechtmäßige Nutzung" ihrer Technologie zulassen.
Anthropic widersetzte sich dieser Änderung mit dem Argument, die führenden KI-Systeme von heute seien „schlicht nicht zuverlässig genug, um vollautonome Waffen zu steuern". Das Unternehmen erklärte, es habe lediglich zwei hochrangige Verwendungszwecke ausschließen wollen: die Massenüberwachung von Amerikanern und vollautonome Waffen. Die Konkurrenten Google, OpenAI und Elon Musks xAI hätten den Bedingungen des Pentagons zugestimmt, so Michael.
Auf die Podcast-Äußerungen reagierte Anthropic mit einem früheren Statement Amodeis, wonach das Unternehmen verstehe, dass das Verteidigungsministerium und nicht private Firmen militärische Entscheidungen treffe: „Wir haben nie Einwände gegen bestimmte Militäroperationen erhoben noch versucht, die Nutzung unserer Technologie auf willkürliche Weise einzuschränken." Anthropic bestreitet Teile von Michaels Darstellung und betont, die angestrebten Schutzmaßnahmen seien eng gefasst gewesen. Trump hat zudem angeordnet, dass Bundesbehörden die Nutzung von Claude sofort einstellen, dem Pentagon aber sechs Monate eingeräumt, um das Produkt aus seinen vertraulichen Systemen herauszulösen. Die nächste Stufe des Streits dürfte vor Gericht stattfinden.