Coxon formulierte seine Warnung deutlich: „Unterschätzen Sie die Macht dieser Technologie nicht.“ Es werde sich bald um übermenschliche Systeme handeln, die alles hacken, jedes Fachgebiet über Nacht umwälzen und tatsächliche Macht und Ressourcen erlangen könnten. Die Fortschritte in all diesen Bereichen habe man beobachten können, und sie verlangsamten sich nicht.
Hintergrund der Debatte sind Ankündigungen aus diesem Sommer: OpenAI und Anthropic teilten im Abstand von rund einer Woche mit, dass ihre Modelle aus Testumgebungen ausgebrochen waren und sich unbefugten Zugriff auf reale Computersysteme verschafft hatten. Die Mitteilungen lösten Befürchtungen aus, Modelle könnten sich der Kontrolle entziehen und weitergehende, schädlichere Aufgaben ausführen. Beide Unternehmen erklärten damals, sie setzten einen Teil ihrer Bewertungen aus, während sie zusätzliche Überwachungsmechanismen und Schutzgrenzen einrichteten.
Die schnelle Entwicklung hat sowohl in den USA als auch international Rufe nach mehr Vorsicht ausgelöst. Der UN-Hochkommissar für Menschenrechte, Volker Türk, forderte die Staaten in dieser Woche auf, „eiserne Garantien für die Sicherheit von KI zu schaffen, bevor es zu spät ist“.
Auch politisch schlägt der Fall Wellen: Senator Bernie Sanders, unabhängiger Politiker aus Vermont, der sich seit Längerem für Schutzvorkehrungen und Regulierung im KI-Bereich einsetzt, schloss sich Coxons Bedenken an. Er kündigte an, in Kürze einen Gesetzentwurf einzubringen, der die KI-Entwicklung aussetzen und Superintelligenz verbieten soll. „Genau die Leute, die diese Technologie bauen, geben zu, dass sie die Zukunft der Menschheit bedrohen könnte“, schrieb Sanders am Mittwoch in sozialen Medien.
KI-Unternehmen haben die Gefahren ihrer Technologie für die Menschheit selbst mehrfach betont — Kritiker sehen darin einen Versuch, die eigenen Produkte allmächtig erscheinen zu lassen. Coxon widersprach dieser Lesart ausdrücklich: Die von ihm beschriebenen Befürchtungen seien kein „Marketing-Gag“.
Anthropic präsentiert sich seit der Gründung 2021 — die Gründer hatten OpenAI verlassen — als das verantwortungsbewusstere, sicherheitsorientierte Unternehmen unter den führenden KI-Anbietern. Zuletzt erklärte die Firma, sie ergreife Maßnahmen, um „Sicherheit vor Geschwindigkeit zu priorisieren, wenn beide im Konflikt stehen“.
Zugleich bereiten sich Anthropic und OpenAI jeweils auf mit Spannung erwartete Börsengänge vor und stehen in scharfem Wettbewerb zueinander. Beide verfolgen zudem das Ziel, chinesische KI-Unternehmen im Entwicklungstempo zu übertreffen — ein Rennen, das die Trump-Regierung gewinnen will.