AIUC – ausgeschrieben Artificial Intelligence Underwriting Company – hat nach eigenen Angaben 40 Millionen Dollar in einer Series-A-Runde eingeworben. Die Finanzierung wurde von Ribbit Capital angeführt, ergänzt durch First Harmonic. Insgesamt hat das Unternehmen damit 55 Millionen Dollar eingesammelt.
Das 2024 gegründete Startup aus San Francisco hat mit AIUC-1 einen Bewertungs- und Risikostandard entwickelt, der speziell auf KI-Agenten im Unternehmenseinsatz zugeschnitten ist. Geprüft wird gegen die typischen Schwachstellen dieser Systeme: Jailbreaks, Halluzinationen, Prompt Injections, anomales Verhalten und Datenlecks.
Technisch setzt der Rahmen auf Breite: Rund 5.000 gegnerische Risikoszenarien werden gegen die Modelle gefahren. Damit der Katalog nicht veraltet, sieht AIUC vierteljährliche Audits vor, die neue Bedrohungsvektoren aufnehmen sollen.
Nach Darstellung des Unternehmens wird AIUC-1 bereits zur Zertifizierung mehrerer prominenter KI-Agenten genutzt. Genannt werden Cursor, ElevenLabs, Fin, Harvey, KPMG, Lovable und UiPath.
Das neue Kapital will AIUC nutzen, um Audits, Standards und das Versicherungsgeschäft auf Frontier-Modelle auszuweiten – also auf die leistungsfähigsten aktuellen KI-Systeme. Die Verbindung von Prüfung und Versicherung ist dabei bereits im Firmennamen angelegt.
Gründer Rune Kvist, der bei Anthropic als erster Mitarbeiter im Produktbereich anfing, beschreibt das Problem, an dem sein Unternehmen ansetzt, so: „Die meisten Unternehmen haben eine Liste von KI-Agenten, die in Pilotprojekten freigegeben wurden, dann aber in der Sicherheitsprüfung stecken geblieben sind.“ Der Nachweis von Sicherheit und Zuverlässigkeit sei inzwischen der entscheidende Engpass.