Promptfoo hat eine Plattform für Sicherheit und Bewertung entwickelt, die LLMs und KI-Agenten systematisch auf die Probe stellt. Entwickler können damit eine Vielzahl gegnerischer Angriffe nachstellen – etwa Prompt-Injections, Jailbreaks und das Abfließen sensibler Daten – und zwar unmittelbar innerhalb ihrer bestehenden Entwicklungsabläufe.
Nach Abschluss der Übernahme plant OpenAI, die Funktionen von Promptfoo in seine Frontier-Plattform zu integrieren, die Unternehmen zum Aufbau und Betrieb KI-gestützter “Mitarbeiter” einsetzen. Konkret will OpenAI Frontier um automatisierte Sicherheitstests und Red-Teaming-Funktionen erweitern, Sicherheit fest in die Entwicklungsabläufe einbetten sowie Funktionen für Berichte und Nachvollziehbarkeit ergänzen.
“Promptfoo bringt tiefgehende Ingenieurskompetenz beim Bewerten, Absichern und Testen von KI-Systemen im Unternehmensmaßstab mit. Ihre Arbeit hilft Firmen, sichere und zuverlässige KI-Anwendungen bereitzustellen, und wir freuen uns, diese Fähigkeiten direkt in Frontier einzubringen”, sagte Srinivas Narayanan, CTO für B2B-Anwendungen bei OpenAI.
Neben der kommerziellen Plattform stellt Promptfoo auch ein quelloffenes Kommandozeilenwerkzeug und eine Bibliothek zum Testen von LLM-Anwendungen bereit. OpenAI erklärte, das Open-Source-Projekt weiter verbessern zu wollen.
Die finanziellen Konditionen der Übernahme wurden nicht genannt. Promptfoo hat mehr als 23 Millionen Dollar an Finanzierung eingesammelt und wurde laut PitchBook nach einer Series-A-Runde über 18,4 Millionen Dollar mit 86 Millionen Dollar bewertet.
Nach Zählung von SecurityWeek gab es im vergangenen Jahr 426 Fusionen und Übernahmen, darunter 13 mit Beteiligung von KI-Unternehmen – nach acht solchen Transaktionen im Jahr zuvor.