Die Open Secure AI Alliance soll nach Angaben der Initiatoren offene Bausteine für das Testen, Prüfen und Absichern von KI-Modellen und KI-Agenten bereitstellen. Der Zusammenschluss wird von Nvidia angeführt und umfasst zum Start Unternehmen aus mehreren Segmenten, darunter Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, Microsoft, Naver, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab und TrendAI.
Inhaltlich knüpft das Vorhaben an die Akrites-Initiative der Linux Foundation sowie an die OpenSSF-Community an. Nvidia steuert nach eigenen Angaben offene Modelle, Gewichte, Daten und Forschung zu Agenten-Harnesses bei. Dazu gehört auch das neu veröffentlichte Open-Source-Projekt NOOA, das dabei helfen soll, das Verhalten von Agenten leichter nachzuverfolgen, zu testen und zu prüfen.
Weitere Partner bringen jeweils eigene Technologien ein. HPE beteiligt sich mit SPIFFE/SPIRE, einem Zero-Trust-Identitätsrahmen zur kryptografischen Verifizierung von KI-Agenten und Diensten. Hugging Face übergibt sein Modellgewichts-Speicherformat Safetensors an die PyTorch Foundation. IBM und Red Hat erweitern mit dem Projekt Lightwell die Sicherheit von Open-Source-Lieferketten; das Projekt soll automatisierte Schwachstellenbehebung in großem Maßstab ermöglichen.
Microsoft liefert MDASH bei, ein Multi-Modell-Harness zum agentischen Scannen, das KI-Agenten koordiniert, um ausnutzbare Softwarefehler zu finden, zu diskutieren und zu validieren. SpaceXAI stellt seinen terminalbasierten KI-Coding-Agenten Grok Build als Open Source bereit und plant nach eigenen Angaben, später auch die Gewichte der Grok-Modellreihe offenzulegen.
Die Allianz vertritt ausdrücklich die Position, dass offene Modelle, Harnesses und Sicherheitswerkzeuge als Abwehrmittel verstanden werden sollten. Nvidia verbindet das mit Kritik an möglichen regulatorischen Eingriffen: Weit gefasste Beschränkungen für offene fortgeschrittene KI könnten die kollektive Cyberabwehr schwächen, argumentiert das Unternehmen.
Zur Begründung verweist Nvidia auf einen jüngsten Sicherheitsvorfall bei OpenAI und Hugging Face. Dabei hätten geschlossene KI-Werkzeuge nicht zwischen Angreifern und Verteidigern unterscheiden können und zudem forensische Arbeit blockiert. Hugging Face habe deshalb auf seinen eigenen Systemen das Open-Weight-Modell GLM 5.2 eingesetzt, um mehr als 17.000 Aktionen zu überprüfen und die Kompromittierung einzudämmen.
Nvidia formuliert daraus eine klare Schlussfolgerung: „Die richtige Antwort ist nicht, Verteidigern den Zugang zu leistungsfähigen offenen Systemen zu verwehren. Sie besteht darin, Offenheit mit starken Schutzmaßnahmen, klaren Regeln gegen missbräuchliche Nutzung, strenger Bewertung und schneller Behebung zu verbinden.“ Weiter heißt es vom Unternehmen, Verteidiger bräuchten sowohl fortgeschrittene geschlossene Modelle als auch fortgeschrittene offene Modelle, die zusammenarbeiten, damit sie je nach Aufgabe das passende System wählen könnten und Transparenz, Anpassungsfähigkeit und souveräne Kontrolle dort verfügbar seien, wo Sicherheitsanforderungen dies verlangten.