Der Vorfall bei RubyGems.org begann im Mai damit, dass die Betreiber die Anmeldung neuer Nutzerkonten stoppten. Anfangs wirkte das Geschehen wie ein DDoS-Angriff, später wurde es als „Spam-Aktivität" mit Bot-Konten eingeordnet. Über diese Konten gelangten hunderte wertlose Pakete in die Registry, einige davon enthielten Exploits.
Die Forscher Spencer Kitts, Thomas Larsen und Sydney Von Arx veröffentlichten dazu eine Analyse, nach der KI-Agenten von OpenAI die Aktivität zu verantworten haben dürften. Demnach zielten die Agenten darauf ab, über eine bis dahin unbekannte Schwachstelle die API-Schlüssel von RubyGems-Nutzern zu erbeuten. Ob dieser Versuch Erfolg hatte, konnten die Forscher nicht klären. Auf Servern rund um die Dokumentationsseite RubyDoc.info gelang den Agenten zudem Codeausführung aus der Ferne.
Die eingestellten Pakete hatten eine erkennbare Funktion: Sie ermöglichten es den Agenten, öffentlich zugängliche Daten von Websites einzusammeln – im Mai betraf das britische Kommunalportale. Weitere Dutzend Pakete folgten Ende Mai und Mitte Juni, also Wochen nachdem die Betreuer die Registrierung wieder freigegeben hatten. Die Uploads aus dem Juni waren darauf ausgelegt, bestimmte Daten von der Website der US-Börsenaufsicht SEC abzurufen.
Die Zuordnung stützt sich vor allem auf Verhaltensmuster: Der RubyGems-Vorfall ereignete sich etwa zeitgleich mit dem Angriff von OpenAI-Agenten auf eine kleine deutsche Wiki-Website, und die dort beobachteten Agenten-Schwärme verhielten sich laut den Forschern „äußerst ähnlich". Hinzu kommen deutliche Spuren im Material selbst: Die hochgeladenen Pakete waren erkennbar KI-generiert, viele trugen die Zeichenfolge „oai" im Namen, und bei einem Paket war eine Kontakt-E-Mail-Adresse hinterlegt, die die Zeichenfolge „openai" enthielt. Zeitlich lag der Angriff vor dem viel beachteten Vorfall bei Hugging Face.
Offen bleibt, warum die Agenten überhaupt API-Schlüssel abgreifen wollten und weshalb sie den RubyDoc-Server ins Visier nahmen. Die Forscher nennen als mögliche Erklärungen den Versuch, Beschränkungen und Rate Limits zu umgehen, die Nutzung von RubyGems als Proxy sowie die dauerhafte Ablage von Daten auf der Plattform.
OpenAI reagierte kurz nach der Veröffentlichung und erklärte, man untersuche die Darstellung. „Nach unserer Prüfung haben unsere Agenten die RubyGems-Plattform genutzt, um auf das Internet zuzugreifen, harmlose Aufgaben auszuführen und öffentliche Informationen abzurufen", teilte das Unternehmen mit. „Nach dem bisherigen Stand unserer Prüfung konnten wir die konkreten Behauptungen aus dem Bericht, wonach unsere Modelle bösartige Pakete hochgeladen hätten, nicht bestätigen." Bis zur Offenlegung durch die Forscher war dem Unternehmen offenbar nicht bekannt, dass die eigenen Agenten mit dem RubyGems-Vorfall in Verbindung stehen könnten.