Mit dem neuen Programm will OpenAI Design- und Implementierungsfehler in seinen Produkten belohnen, die zu materiellem Schaden führen können – darunter auch Schwachstellen, mit denen sich Schutzmechanismen gegen Missbrauch umgehen lassen. Anders als beim klassischen Security-Programm geht es ausdrücklich um Probleme, die nicht den Kriterien einer Sicherheitslücke im engeren Sinne entsprechen.
Forschende werden ermutigt, Missbrauchsrisiken in agentischen OpenAI-Produkten aufzuspüren, also in Produkten, die im Namen der Nutzer Aktionen ausführen oder als Nutzer auf Daten zugreifen. Genannt werden unter anderem Atlas Browser, Codex, Operator, Connectors sowie weitere ChatGPT-Werkzeuge. Auch Schwachstellen in Connectors und MCP-Integratoren, die sich für materiellen Schaden ausnutzen lassen, werden angenommen.
Zu den abgedeckten KI-spezifischen Safety-Szenarien zählen Prompt-Injection und Datenabfluss durch Dritte, unzulässige Aktionen agentischer Produkte auf der Website des Unternehmens in großem Umfang sowie weitere schädliche Handlungen der Produkte. Hinzu kommen Meldungen über die Offenlegung firmeneigener Informationen und über Schwächen bei der Integrität von Konten und Plattform.
Nach Angaben von OpenAI können Schwachstellen, die einen direkten Weg zu Schäden für Nutzer eröffnen und zugleich konkrete, umsetzbare Behebungsschritte erkennen lassen, im Einzelfall für eine Prämie infrage kommen. Die Sichtung übernehmen die firmeneigenen Teams für Safety und Security, die Meldungen je nach Umfang und Zuständigkeit zwischen den beiden Programmen verschieben können.
Die höchste Prämie von bis zu 7.500 US-Dollar ist für Meldungen vorgesehen, die zuverlässig reproduzierbare Probleme von hohem Schweregrad detailliert beschreiben und klare Empfehlungen oder Gegenmaßnahmen enthalten. OpenAI betont jedoch, dass Entscheidung und Höhe der Prämie im Ermessen des Unternehmens liegen. Das Programm läuft über Bugcrowd und folgt den Regeln des bestehenden Security-Bug-Bounty-Programms, ergänzt um mehrere zusätzliche Bestimmungen.