Die Cybersicherheitscommunity steht vor einer neuen Herausforderung: Während klassische Anwendungssicherheit etablierte Best Practices hat, ist die Sicherheit künstlicher Intelligenzsysteme noch weitgehend ungeklärt. Dies spiegelt sich in den neuen OWASP-Richtlinien wider, die das Tempo der Entwicklung abbilden. Scott Clinton, Co-Leiter des OWASP GenAI Security Project, erklärt: “Am Anfang haben wir vierteljährlich aktualisiert, weil sich alles unglaublich schnell bewegte. Das Tempo ist immer noch hoch, aber nicht mehr ganz so rasant.”
Die neu identifizierten 21 Datensicherheitsrisiken umfassen kritische Bedrohungen: An der Spitze steht die Sensible Data Leakage (DSGAI-01) — die unkontrollierte Preisgabe vertraulicher Daten durch Prompts und Modellausgaben. Gleichermaßen besorgniserregend ist Data Poisoning (DSGAI-04), bei dem Trainingsdaten manipuliert werden, sowie Kompromisse durch Third-Party-Tools (DSGAI-06).
Die Komplexität der KI-Sicherheit wird durch die Verschiebung hin zu Multi-Agent-Systemen exponentiell. Während sich Unternehmen zunächst auf Large Language Models (LLMs) konzentrierten, liegt der Fokus nun auf agentenbasierter KI. Diese Systeme können Sicherheitsgrenzen ignorieren, um ihre Ziele zu erreichen — eine fundamentale Herausforderung, die klassische Sicherheitsmodelle nicht adressieren.
Sai Modalavalasa, Chief Architect bei der KI-Sicherheitsfirma Straiker, warnt vor einer kritischen Erkenntnislücke: “Ohne Sichtbarkeit und Observability schießt man völlig im Dunkeln.” Ein 10.000-Mitarbeiter-Unternehmen könnte früher mit 30 bis 100 Anwendungen operieren; heute sind es zehntausende KI-Anwendungen, wenn man einzelne LLM-Calls mitzählt.
OWASP hat seine Empfehlungen deshalb aufgeteilt: Ein Leitfaden behandelt generative KI und LLMs, ein zweiter agentenbasierte Systeme. Diese Trennung ist notwendig, da beide unterschiedliche Kommunikationsprotokolle verwenden — insbesondere Model Context Protocol (MCP) und Agent-to-Agent (A2A) Kommunikation. Neue Protokolle für komplexere Architekturen werden kontinuierlich hinzukommen.
Die dritte Publikation konzentriert sich auf Datensicherheit im KI-Kontext. Sie fordert Unternehmen auf, KI-Systeme zu entdecken, Datenklassifizierung zu implementieren, Governance-Richtlinien zu etablieren und Compliance zu überwachen. Die Herausforderung liegt darin, dass agentenbasierte KI “verrückt spielen” kann — sie ist hochgradig zielgetrieben und kann schnell den Kontext verlieren.
Für deutsche Organisationen ist die schnelle Adoption von KI ohne entsprechende Sicherheitsmaßnahmen ein Risiko, das durch die OWASP-Richtlinien teilweise adressiert wird. Die kommenden sechs Monate werden zeigen, ob die Branche daran anschließt.