Eines der beteiligten Unternehmen erklärte, seine Vereinbarung verlange in bestimmten Situationen eine menschliche Aufsicht. Nach Angaben einer mit dem Abkommen vertrauten Person, die nicht öffentlich darüber sprechen durfte, enthielt der Vertrag eines Unternehmens die Vorgabe, dass es bei allen Einsätzen, in denen KI-Systeme autonom oder teilautonom agieren, eine menschliche Aufsicht geben müsse. Die KI-Werkzeuge müssten zudem im Einklang mit verfassungsmäßigen Rechten und bürgerlichen Freiheiten verwendet werden.
Genau solche Punkte hatte Anthropic zur Bedingung machen wollen. Das Unternehmen forderte Zusicherungen in seinem Vertrag, dass das Militär seine Technologie nicht in vollständig autonomen Waffen und zur Überwachung von Amerikanern einsetzt. Verteidigungsminister Pete Hegseth erklärte hingegen, das Unternehmen müsse alle vom Pentagon für rechtmäßig erklärten Verwendungen zulassen. Anthropic klagte, nachdem Präsident Donald Trump versucht hatte, allen Bundesbehörden die Nutzung des Chatbots Claude zu untersagen, und Hegseth das Unternehmen als Risiko für die Lieferkette einstufen wollte – eine Bezeichnung, die eigentlich vor Sabotage nationaler Sicherheitssysteme durch ausländische Gegner schützen soll.
OpenAI hatte bereits in diesem Jahr eine Vereinbarung mit dem Pentagon angekündigt, mit der ChatGPT Anthropic in geheimen Umgebungen ablösen sollte. Am Freitag bestätigte OpenAI, dass es sich um dieselbe Vereinbarung handele. „Wie wir bei der ersten Ankündigung vor einigen Monaten gesagt haben, sollten die Menschen, die die Vereinigten Staaten verteidigen, die besten Werkzeuge der Welt haben“, teilte das Unternehmen mit.
Emil Michael, technischer Leiter des Pentagons, sagte gegenüber CNBC, es wäre unverantwortlich gewesen, sich auf nur ein Unternehmen zu verlassen. „Und als wir merkten, dass ein Partner nicht wirklich so mit uns arbeiten wollte, wie wir es uns vorstellten, haben wir dafür gesorgt, dass wir mehrere verschiedene Anbieter haben“, so Michael.
Einige der Firmen, darunter Amazon und Microsoft, arbeiten seit Langem in geheimen Umgebungen mit dem Militär; ob die neuen Abkommen ihre Partnerschaften wesentlich verändern, war zunächst unklar. Andere wie der Chiphersteller Nvidia und das Start-up Reflection sind in diesem Bereich neu. Beide entwickeln quelloffene KI-Modelle, die Michael als Priorität bezeichnet hat, um eine „amerikanische Alternative“ zu Chinas rascher KI-Entwicklung zu bieten.
Nach Angaben des Pentagons nutzen Militärangehörige bereits KI-Fähigkeiten über die offizielle Plattform GenAI.mil. „Soldaten, Zivilisten und Auftragnehmer setzen diese Fähigkeiten gerade jetzt praktisch ein und verkürzen viele Aufgaben von Monaten auf Tage“, hieß es.
Helen Toner, kommissarische Leiterin des Center for Security and Emerging Technology der Georgetown University und ehemaliges Vorstandsmitglied von OpenAI, verwies auf die Sorge vor einer übermäßigen Abhängigkeit von der Technologie. KI-Systeme könnten beim Zusammenfassen von Informationen oder beim Auswerten von Überwachungsdaten helfen, doch Fragen nach dem angemessenen Maß an menschlicher Beteiligung, Risiko und Ausbildung seien noch ungeklärt. Sie warnte vor dem sogenannten Automatisierungs-Bias, bei dem Menschen dazu neigen, Maschinen für zuverlässiger zu halten, als sie tatsächlich sind.