Alice, bislang unter dem Namen ActiveFence bekannt, hat am Dienstag eine Finanzierungsrunde über 140 Millionen Dollar bekannt gegeben. Insgesamt hat das Unternehmen damit 280 Millionen Dollar von Investoren eingesammelt. Die Runde führten die Apax Digital Funds an; daneben beteiligten sich MoreTech, Phoenix Financial, Resolute Ventures, Grove Ventures, CRV, Highland Europe, Vintage Investments, Norwest, NFX und Claltech.
Das Geld soll in drei Bereiche fließen: die Weiterentwicklung der KI-Plattform, den Ausbau des Teams hinter dem proprietären Intelligence-Datensatz und die Skalierung des Vertriebs.
Das Geschäftsmodell setzt bereits vor der Veröffentlichung von Modellen an. Alice kooperiert mit KI-Entwicklern und unterzieht Basismodelle Belastungstests, bevor diese öffentlich verfügbar werden. Die Forschungsabteilung spielt dabei nachgebildete bösartige Eingaben sowie komplexe agentische Aufgaben ein, um unberechenbares Verhalten sichtbar zu machen. Ziel ist es, die Modelle gegen Prompt Injection und Jailbreak-Versuche zu härten.
Gehen Modelle in den Produktivbetrieb, bietet das Unternehmen fortlaufendes Red-Teaming und dynamische Schutzmechanismen zur Laufzeit an, die den Betrieb an konkrete Geschäftsregeln koppeln. Kunden können eigene interne Richtlinien konfigurieren, Sicherheitsverletzungen simulieren und den Systemverkehr in Echtzeit überwachen.
Kern der Technik ist eine hauseigene Datenbank namens Rabbit Hole. Sie wurde über nahezu ein Jahrzehnt hinweg aufgebaut, indem digitaler Betrug, ideologischer Extremismus und Manipulationskampagnen verfolgt wurden. Auf Basis dieses Archivs schädlicher Inhalte soll die Plattform feindselige Aktionen gegen generative KI-Systeme erkennen und abfangen.
Hinzu kommt eine eigene Forschungseinrichtung, die sich mit den Schwachstellen von Architekturen des maschinellen Lernens befasst. Dort arbeiten nach Unternehmensangaben mehr als 150 Fachleute, die gemeinsam mit großen Modellentwicklern Fehlverhalten vorhersehen, mögliche Manipulationswege analysieren und Sicherheitslücken vorausschauend schließen sollen.
„Es gibt unendlich viele Wege, eine KI zu brechen, und man kann sich nicht gegen etwas verteidigen, das man nie gesehen hat“, sagte Noam Schwartz, CEO und Mitgründer von Alice. Man habe nahezu ein Jahrzehnt damit verbracht, im Milliardenmaßstab zu lernen, wie Menschen Technik missbrauchen – zunächst auf den größten Plattformen der Welt und nun an den Modellen, an denen dieselben Leute nun herumprobierten. „Wir demokratisieren Fähigkeiten sehr schnell, bevor wir die Verteidigungsmittel demokratisiert haben. Bei dieser Runde geht es darum, diese Lücke zu schließen.“
Alice hat seinen Hauptsitz in New York und Tel Aviv.