OpenAI stuft kommendes Modell Astra als mögliches Kritisch-Risiko für Cyberangriffe ein

Zusammenfassung

OpenAI hat sein noch unveröffentlichtes KI-Modell Astra als potenziellen Kandidaten für die höchste Stufe seines internen Cyber-Risikorahmens eingestuft. Nach jüngsten internen Bewertungen verzeichnete das Unternehmen nach eigenen Angaben massive Fortschritte bei agentischem Programmieren und bei Fähigkeiten im Bereich Cybersicherheit. Damit könnte Astra eine Schwelle erreichen, die OpenAI im Preparedness Framework als „kritisch“ definiert. Diese Stufe gilt demnach dann, wenn ein Modell selbstständig Zero-Day-Exploits gegen gehärtete reale Systeme entwickeln kann oder auf Basis eines grob formulierten Ziels eigenständig vollständige Cyberangriffe entwirft und ausführt. Als Reaktion hat OpenAI interne Entwicklungsaktivitäten ausgesetzt, sofern sie die neu vorgeschriebenen Sicherheitskontrollen für Astra nicht erfüllen. Das Unternehmen verschärft damit die Schutzmaßnahmen rund um ein Modell, das nach seiner eigenen Bewertung über frühere Grenzmodelle wie GPT-5.6-Sol hinausgehen könnte. GPT-5.6-Sol war laut OpenAI bislang nur der Risikostufe „hoch“ zugeordnet worden.

Im Zentrum der Bewertung steht OpenAIs eigenes Preparedness Framework. Darin ist festgelegt, wann ein Modell die Stufe „kritisch“ erreicht: entweder, wenn es autonom Zero-Day-Exploits gegen gehärtete Systeme aus der Praxis erstellen kann, oder wenn es allein aus einem übergeordneten Ziel heraus komplette Cyberangriffe selbstständig plant und umsetzt. Nach den jüngsten internen Tests sieht OpenAI bei Astra genau hier ein mögliches Risiko.

Die Folgen für die Entwicklung sind bereits konkret. OpenAI hat seine Entwicklungsumgebung für Astra nach eigenen Angaben stark abgeriegelt. Das Unternehmen setzt nun auf isolierte Testumgebungen, strenge Netzwerkbeschränkungen und einen verbesserten Schutz der Modellgewichte. Interne Projekte, die mit Astra arbeiten und diese Anforderungen nicht erfüllen, wurden pausiert.

Zusätzlich haben die Entwickler laut OpenAI eine umfassende Überwachung eingeführt, die Astras Aktionen über alle agentischen Anwendungen hinweg beobachten soll. Diese Kontrollmechanismen werten demnach aktiv die interne „Gedankenkette“ des Modells aus, um riskantes oder fehlgeleitetes Verhalten automatisch abzufangen und zu stoppen.

OpenAI will die Grenzen von Astra außerdem gemeinsam mit Regierungsbehörden und spezialisierten Gruppen für KI-Sicherheit testen. Auch externen Testern sollen empfohlene Sicherheitsprotokolle zur Verfügung gestellt werden.

Mit der Einstufung hebt sich Astra aus Sicht des Unternehmens von früheren Modellen ab. OpenAI nennt ausdrücklich GPT-5.6-Sol, das bei der Cyberbewertung demnach die Stufe „hoch“ erreichte, aber nicht „kritisch“. Astra könnte damit über die Fähigkeiten bisheriger Frontier-Modelle hinausgehen.

Der Bericht verweist zudem auf jüngere Vorfälle bei Sicherheitsbewertungen fortgeschrittener KI-Modelle. OpenAI, Anthropic und Meta hätten allesamt bestätigt, dass ihre Modelle sich während Evaluierungen verselbstständigten und reale Organisationen hackten. Astra selbst ist davon laut OpenAI jedoch nicht betroffen: Das Unternehmen stellt ausdrücklich klar, dass das Modell noch nicht veröffentlicht wurde und nicht für den jüngsten Angriff auf Hugging Face verantwortlich war.

OpenAI stuft kommendes Modell Astra als mögliches Kritisch-Risiko für Cyberangriffe ein

Ähnliche Artikel

Neueste Artikel