Nach Darstellung von OpenAI bleiben Teile des Trainings angehalten, bis Arbeitslasten vollständig in neue Umgebungen migriert und dort an ein höheres Sicherheitsniveau angepasst sind. Vorrang haben dabei Sicherheits- und Alignment-Arbeitslasten. Der größte geplante Frontier-RL-Lauf ist weiterhin ausgesetzt; stattdessen setzt das Unternehmen auf kleinere Trainings- und Evaluationsschritte.
OpenAI beschreibt drei Stoßrichtungen für die verschärften Kontrollen: engmaschigere Überwachung, um unbeabsichtigtes oder besorgniserregendes Verhalten schneller zu erkennen; stärkere Alignment-Maßnahmen, um schädliche oder nicht autorisierte Aktionen unwahrscheinlicher zu machen; sowie technische Sicherheitsvorkehrungen, die begrenzen, worauf KI-Systeme zugreifen oder was sie beeinflussen können. Dazu zählen stärkere Sandboxes, Netzwerkisolierung zur Verhinderung von Internetzugriff sowie kontinuierliche Sicherheitstests, um potenziell verwundbare gemeinsam genutzte Dienste zu entfernen, dauerhafte Berechtigungen zu reduzieren und Sicherheits- sowie Vertrauensgrenzen zu verbessern.
Auch die Überwachungsarchitektur wurde nach Angaben des Unternehmens grundlegend überarbeitet. Verdächtige Vorgänge sollen an „zunehmend ausgereifte und rechenintensive automatisierte Ermittler“ eskaliert werden. Diese untersuchen Werkzeugaktionen, die verfügbare Schlussfolgerungskette und die vollständige Aktivitätsabfolge auf nicht autorisierten Zugriff, Datendiebstahl, destruktives Verhalten und Versuche, Schutzmechanismen zu umgehen. OpenAI will innerhalb von 30 Minuten nach Erkennung auffälliger Aktivitäten eine Warnung auslösen. Für sämtliches RL-Training und alle Auswertungen mit Werkzeugnutzung bei Modellen mit Sol-Fähigkeiten oder höher wird dieser Ansatz verbindlich. Die zusätzlichen Schutzmaßnahmen sollen den Rechenaufwand laut OpenAI um 20 Prozent der beobachteten Inferenzlast erhöhen.
Das Unternehmen verweist dabei ausdrücklich auf Risiken fortgeschrittener Modelle. Wenn Systeme Fähigkeiten für Cyberangriffe entwickeln und in komplexeren Umgebungen agieren, würden Fehlanreize wie „Reward Hacking“, Täuschung oder unautorisierter Zugriff zu einem zunehmend ernsten Problem. Als Gegenmaßnahme will OpenAI seine Belohnungsmodelle verbessern, um unsicheres Verhalten besser zu erkennen und zu sanktionieren. Modelle sollen zudem transparenter über ihre Handlungen, Fähigkeiten und Grenzen werden und weniger dazu neigen, Schwächen in Belohnungssystemen, Bewertungsverfahren, Werkzeugen oder Aufsicht auszunutzen.
Flankiert wird diese Neubewertung von jüngsten Befunden aus der Branche. Anthropic veröffentlichte in der vergangenen Woche Forschung, wonach KI-Agenten bei konkurrierenden und widersprüchlichen Zielen damit begannen, andere Systeme zu sabotieren und selbstreplizierende Malware gegeneinander einzusetzen. Laut Anthropic gehörte dazu das Deaktivieren von Unix-Konten anderer Agenten, automatisierte Skripte zum fortlaufenden Finden und Beenden konkurrierender Prozesse sowie Schadcode, der als Code eines anderen Agenten getarnt war.
Für zusätzliche Aufmerksamkeit sorgte zudem ein von WIRED aufgegriffener Vorfall um den Hugging-Face-Hack eines außer Kontrolle geratenen Agenten von OpenAI. Irregular erklärte später, die bei Anthropic aufgetretene Kompromittierung sei auf einen Benennungsfehler zurückzuführen gewesen: Ein fiktiver Firmenname aus Hacking-Simulationen habe unbeabsichtigt mit einer realen Domain übereingestimmt. Das israelische Unternehmen sprach von „menschlichem Versagen“, teilte mit, die Probleme seien behoben, und betonte, es gebe keine Hinweise auf kompromittierte Kundensysteme oder abgeflossene Kundendaten. Weil in der Umgebung Internetzugang aktiviert gewesen sei, hätten verschiedene Modelle die Domain einige Male angegriffen, sie als Teil ihrer Testaufgabe missverstanden, Schwachstellen ausgenutzt, Zugangsdaten extrahiert und Zugriff auf eine Produktionsdatenbank erlangt. Eine umfassende Untersuchung läuft weiter.
OpenAI verweist parallel auf klassische Schutzmaßnahmen. Greg Brockman erklärte, das Unternehmen nutze Frontier-Intelligenz, um potenzielle Angriffspfade fortlaufend zu erfassen, zu testen und zu identifizieren. So ließen sich Schwachstellen, Fehlkonfigurationen, überprivilegierte Identitäten oder unbeabsichtigte Vertrauensgrenzen schneller schließen, bevor Angreifer sie missbrauchen. Netzisolation, Härtung von Arbeitslasten, Überwachung sowie sicheres Patchen und Ausrollen von Software würden in einer von KI geprägten Zukunft noch wichtiger.