Nach Angaben von Push Security wurde die betrügerische OpenAI-Organisation nicht vom betroffenen Unternehmen selbst angelegt, sondern von einem Angreifer unter Verwendung von Gmail-Adressen erstellt. Trotz eines Hinweises von OpenAI, dass die Domain der einladenden E-Mail-Adresse nicht zur Unternehmensdomain des Empfängers passt, erscheint dieser Vermerk laut Push Security nur als einzelne Zeile innerhalb der ansonsten legitimen Einladungsnachricht.
Um das Ziel des Vorgehens besser einzuordnen, nahm Luke Jennings, Vice President für Forschung und Entwicklung bei Push Security, eine der Einladungen an. Er wurde daraufhin sofort der gefälschten Organisation hinzugefügt, die Push Security nachahmte und nur ein einziges, von den Angreifern kontrolliertes Konto mit Gmail-Adresse enthielt. Dieses Konto trat dort als Firmenchef Adam Bateman auf.
Die eingeladenen Mitarbeiter erhielten in der Organisation laut Push Security durchgängig Owner-Rechte und damit administrative Berechtigungen für den Tenant. Dadurch konnten sie weitere ausstehende Einladungen einsehen und feststellen, dass keiner der anvisierten Mitarbeiter der gefälschten ChatGPT-Organisation beigetreten war. Außerdem fanden sie heraus, dass bereits eine Visa-Kreditkarte mit dem Abrechnungskonto der Organisation verknüpft war, was dem Konstrukt zusätzliche Glaubwürdigkeit verlieh.
Nach Angaben von Push Security war das Projekt selbst leer; vorhandene Chats oder Projekte gab es nicht. Deshalb bleibe das konkrete Ziel der Kampagne zwar unklar. Das Unternehmen geht jedoch davon aus, dass die Angreifer Mitarbeiter dazu bringen wollen, den ChatGPT-Arbeitsbereich wie eine legitime Firmenumgebung zu nutzen, um dann sensible Informationen abzugreifen, die dort in Chats oder Projekten eingetragen werden.
Push Security begründet diese Einschätzung mit dem Aufwand hinter der Kampagne. Ein Angreifer, der nur über einen vertrauenswürdigen E-Mail-Kanal beliebige Betrugsinhalte verteilen wolle, benenne die Organisation nicht nach dem Zielunternehmen, recherchiere keine einzelnen Mitarbeiter und hinterlege keine Kreditkarte. Dieser Einsatz lohne sich erst dann, wenn Beschäftigte der Organisation tatsächlich beitreten und sie aktiv nutzen. Gerade auf einer KI-Plattform könnten Eingaben in Prompts laut Push Security besonders sensible Daten enthalten, darunter Quellcode, interne Dokumente, Kundendaten, Sicherheitsforschung und strategische Pläne.
Das Hinterlegen einer Zahlungsmethode könnte nach Einschätzung des Unternehmens außerdem einen weiteren Warnhinweis beseitigen, weil eingeladene Nutzer Premium-Funktionen verwenden können, ohne die Echtheit der Organisation infrage zu stellen. Push Security sieht darin Teil eines breiteren Trends, bei dem Angreifer legitime Einladungs- und Benachrichtigungsfunktionen von SaaS-Plattformen missbrauchen.
Der Unterschied zu gewöhnlichen Phishing-Kampagnen liegt laut Push Security darin, dass diese Einladungen direkt aus der Infrastruktur der Plattform stammen. Weil sie legitim sind, passieren sie eher bestehende E-Mail-Sicherheitskontrollen. BleepingComputer hat OpenAI gefragt, ob weitere Berichte über ähnliche Kampagnen vorliegen, welche Schutzmechanismen Organisationen gegen solche Angriffe nutzen können und ob zusätzliche Schutzmaßnahmen geplant sind, um das Anlegen von Organisationen zu verhindern, die legitime Unternehmen imitieren. Eine Antwort lag zunächst nicht vor.