US-Regierung beschränkt Freigabe neuer KI-Modelle von OpenAI und Anthropic

OpenAI bezeichnet die Einschränkung als vorübergehend. In einer Stellungnahme erklärte das Unternehmen, es halte einen solchen staatlichen Zugangsprozess nicht für ein Modell, das langfristig zum Standard werden sollte. Die Testphase sei ein temporärer Schritt auf dem Weg zu einer breiteren Verfügbarkeit in den kommenden Wochen.

Nach Angaben von OpenAI ist das neue Modell Sol „besser darin, Menschen beim Finden und Beheben von Schwachstellen zu helfen“, als Cyberangriffe auszuführen, und überschreite nicht die unternehmenseigene Risikoschwelle. Zugleich räumte das Unternehmen ein, dass unvorhergesehene Risiken möglich seien, insbesondere wenn das Modell mit anderen Werkzeugen kombiniert werde. Diese Unsicherheit sei neben dem deutlichen Fähigkeitszuwachs der Grund für stärkere Schutzmaßnahmen und eine schrittweise Freigabe. Welche der bislang rund 20 genehmigten Kunden das Modell nutzen dürfen, nannte OpenAI nicht.

Dem Schritt ging eine Entwicklung bei Anthropic voraus. Das Unternehmen hatte zwei neue Modelle, Fable 5 und Mythos 5, wenige Tage nach ihrer Vorstellung wieder vom Netz genommen, um einer Trump-Anweisung nachzukommen, die ihre Nutzung durch ausländische Staatsangehörige blockierte. Am Freitag wurden die Beschränkungen für Mythos 5 nach Angaben von Anthropic teilweise aufgehoben. Das Modell könne nun wieder „an eine kleine Gruppe von Cyberverteidigern und Infrastrukturbetreibern ausgerollt“ werden. Fable 5 bleibt demnach weiterhin nicht verfügbar, obwohl es von Anthropic als sicherere Variante von Mythos positioniert worden war.

Auslöser der verschärften Kontrolle war unter anderem Anthropics frühere Warnung, dass das Modell Mythos besonders gut darin sei, Softwarefehler zu finden, und diese Fähigkeit von böswilligen Hackern missbraucht werden könnte. Die Sorge der Behörden über mögliche Folgen für kritische Computernetze weltweit ist laut Bericht seither gewachsen.

Trump hatte Anfang Juni eine Durchführungsverordnung zur KI-Aufsicht unterzeichnet. Sie schafft einen Rahmen, nach dem die US-Regierung die Risiken der nationalen Sicherheit besonders fortschrittlicher KI-Systeme bis zu 30 Tage vor ihrer öffentlichen Freigabe prüfen kann. Die Teilnahme der Entwickler wird in der Verordnung zwar als freiwillig beschrieben, der Rahmen ist laut Bericht aber noch nicht vollständig ausgearbeitet.

Kritik kommt aus Politik und Fachwelt. Die demokratische Abgeordnete Lori Trahan erklärte, sie sei besorgt darüber, dass die Trump-Regierung „von Unternehmen zu Unternehmen entscheidet, wer Zugang zum neuesten KI-Modell bekommt. Kein Gesetz. Kein Verfahren. Keine Aufsicht. Nur Ernannte in Washington entscheiden, wer hineindarf und wer draußen bleibt.“

Auch Stanford-Cybersicherheitsexperte Alex Stamos stellte die Maßnahmen gegen Anthropic infrage. Er sagte auf einer Pressekonferenz in dieser Woche, in der Cybersicherheitsbranche glaube „so gut wie niemand“, dass es für dieses Vorgehen eine sachliche Grundlage gebe. Stamos, heute Produktchef bei Corridor und früher Sicherheitschef bei Meta, erklärte zudem, er habe eine Analyse von Anthropics Forschung zu Fable geprüft, die vom Cloud-Partner Amazon erstellt worden sei. Dabei habe er keine Risiken gefunden, die nicht auch bei anderen öffentlich verfügbaren KI-Modellen vorhanden seien, einschließlich solcher aus China.

Parallel dazu laufen Gespräche zwischen Regierung und Branche. OpenAI-Chef Sam Altman sprach am Mittwoch mit Handelsminister Howard Lutnick über die Modellfreigabe. Auch Anthropic war an den Verhandlungen beteiligt, das Verhältnis von CEO Dario Amodei zur Trump-Regierung gilt jedoch als konfliktreicher. Nach Angaben des Berichts stufte das Pentagon Anthropic als Risiko für die nationale Sicherheit ein, nachdem das Unternehmen ethische und sicherheitsbezogene Bedenken zur militärischen Nutzung von KI geäußert hatte; Trump ordnete zudem an, dass Bundesbehörden Claude nicht mehr verwenden sollen. Anthropic reagierte darauf mit einer Klage, die noch vor Bundesgerichten anhängig ist.

Anthropic erklärte am Freitag, man sei über die teilweise Freigabe von Mythos erfreut und werde weiter mit der Regierung zusammenarbeiten, um den Zugang auszuweiten und Fable wieder allgemein verfügbar zu machen. In einem auf Freitag datierten Schreiben an Anthropic bescheinigte Lutnick dem Unternehmen, seine Bemühungen zur Ausräumung der Regierungsbedenken hätten „erhebliche Fortschritte“ erbracht.