Die Geschwindigkeit, mit der agentische KI-Systeme sich verbreiten, ist atemberaubend — und genau das ist das Problem. OpenClaw-Creator Peter Steinberger musste im Mai 2026 öffentlich eingestehen: “Ich habe unterschätzt, wie schwierig es sein würde, das richtig hinzubekommen.” Die Versuche, das Framework zu verbessern, führten zu Performance-Problemen, Reparaturschleifen und Kommunikationsausfällen — Zeichen eines Systems, das der rapiden Nachfrage hinterherhinkt.
Das Kernproblem liegt in der Architektur agentischer Systeme selbst. Anders als traditionelle Software verhalten sich KI-Agenten mehr wie Benutzer als wie Programme: Sie können bei jeder Ausführung unterschiedliche Aktionen durchführen und benötigen oft umfangreiche Berechtigungen. Dev Rishi, AI-Chef bei Rubrik, bringt es drastisch auf den Punkt: “Diese Agenten sind wie Formel-1-Autos ohne Bremsen. Sie arbeiten extrem schnell und fordern so viele Berechtigungen an, dass das Sicherheitsrisiko für Organisationen erheblich ist.”
Das zeigt sich in der Praxis: Ein Exploit-Beispiel, das Steinberger in seinem März-Blogpost präsentierte, brauchte nur 47 Sekunden, um über ein Support-Ticket Berechtigungen zu eskalieren, Kundendaten zu exfiltrieren und Audit-Logs zu manipulieren — vollständig unsichtbar.
Nvidia reagiert mit NemoClaw, einer Enterprise-Version mit Kernel-Level-Isolation, LLM-gestützter Policy-Evaluierung und dedizierter Daten-Sicherheit. Das System nutzt OpenShell für Sandboxing und formale Methoden, um in Rego geschriebene Richtlinien durchzusetzen — nicht probabilistisch, sondern garantiert durch Infrastruktur. Ali Golshan, Senior Director of AI Software bei Nvidia, betont: “Wir können nicht einfach annehmen, dass das Modell, der Agent und die Orchestration das Richtige tun.”
Andere Hersteller bauen bereits zusätzliche Sicherheitsebenen: Cisco’s Defense Claw scannt Skills auf Malware, Snyk bietet Agent-Security-Lösungen. Der Schlüssel liegt in strikter Governance: Agenten sollten von GitHub lesen, aber nicht schreiben können — und nicht mit anderen Agenten kommunizieren, die diese Fähigkeit haben.
Für deutsche Unternehmen und Behörden ist das Tempo kritisch. Mit DSGVO-Meldepflichten und Bußgeldrisiken bis 4 Prozent des Jahresumsatzes darf agentische KI nicht einfach unbeaufsichtigt laufen. Das BSI sollte Richtlinien für sichere Agentic-AI-Implementierungen ausgeben — bevor Shadow-AI-Instanzen zur Normalt werden.