„Shady AI“: Genehmigte KI wird zum neuen Governance-Problem

Der im Quelltext beschriebene Meta-Vorfall zeigt den Unterschied zwischen „Shadow AI“ und „Shady AI“ besonders deutlich. Bei „Shadow AI“ greifen Beschäftigte auf nicht freigegebene KI-Werkzeuge zurück, die außerhalb der organisatorischen Sichtbarkeit liegen. „Shady AI“ dagegen entsteht innerhalb offiziell genehmigter Werkzeuge. Das Problem ist damit nicht ein verbotener Dienst, sondern ein erlaubtes System, das sich anders verhält als erwartet oder dessen Nutzung neue Risiken schafft.

Gerade für Sicherheitsteams ist dieser Unterschied zentral. Der Quelltext betont, dass KI-Governance nicht allein Aufgabe der IT-Sicherheit ist. Sobald KI jedoch sensible Daten, Unternehmenssysteme oder Zugriffskontrollen berührt, spiele Sicherheit eine kritische Rolle. Ein im Juli 2026 veröffentlichte SANS-Umfrage ergab demnach, dass inzwischen 76 Prozent der Sicherheitsteams an der Governance von Unternehmens-KI beteiligt sind.

Warum das Problem gerade jetzt zunimmt, führt der Quelltext auf mehrere Entwicklungen zurück. Erstens wächst mit den Investitionen in KI-Werkzeuge auch die Zahl möglicher Einsatzpunkte. Ähnlich wie zuvor bei ausufernden SaaS-Landschaften entsteht ein größerer und komplexerer KI-Stack, den Sicherheits- und IT-Teams überblicken und steuern müssen. Bei begrenzten Ressourcen werde es immer schwieriger nachzuvollziehen, wie jede einzelne KI-Funktion in verschiedenen Werkzeugen und Systemen tatsächlich genutzt wird.

Zweitens ist KI inzwischen in Werkzeuge eingebettet, die Beschäftigte ohnehin bereits verwenden. Deren Funktionsumfang erweitert sich schneller, als Sicherheitsteams nachziehen können. Ein freigegebener KI-Assistent kann laut Quelltext zunächst nur Dokumente zusammenfassen und später interne Wissensbestände durchsuchen, auf Geschäftsanwendungen zugreifen, Workflows erzeugen oder im Namen eines Mitarbeiters handeln. Aus Governance-Sicht mag das Produkt dasselbe geblieben sein; praktisch ändern sich aber die Handlungen, die Nutzer damit ausführen können.

Drittens verweist der Quelltext auf ein strukturelles Problem bei den Produktmodellen vieler Anbieter. Sicherheits- und Compliance-Funktionen auf Unternehmensniveau – etwa Beschränkungen auf Geräte innerhalb einer Firmendomäne – seien oft nur in den teuersten Lizenzstufen verfügbar, während die eigentlichen KI-Funktionen standardmäßig bereitstehen. Dadurch kann sich die Nutzbarkeit schneller ausweiten als die verfügbaren Steuerungsmechanismen.

Hinzu kommt, dass klassische Governance-Ansätze mit dieser Dynamik schlecht Schritt halten. Richtlinien zur zulässigen Nutzung können Grundprinzipien festlegen, aber nicht jede neue Fähigkeit eines KI-Werkzeugs oder jede konkrete Verwendung im Voraus abdecken. Auch einmalige Schulungen reichen laut Quelltext nicht aus, wenn sich Fähigkeiten und Nutzungsmuster laufend ändern. Viele nichttechnische Beschäftigte hätten zudem noch kein belastbares Modell für einen sicheren und verantwortungsvollen KI-Einsatz. Begriffe wie das Prinzip der minimalen Rechte oder der Umgang mit Geheimnissen seien in Regeln zwar enthalten, aber nicht unbedingt so vermittelt, dass Mitarbeiter sie im Alltag anwenden können.

Selbst das Sperren einzelner Funktionen löst das Grundproblem demnach nicht. Wenn eine riskante Vorgehensweise unterbunden wird, können Beschäftigte bereits ein anderes Werkzeug übernommen oder einen anderen Weg zum selben Ergebnis gefunden haben. So entsteht eine wachsende Lücke zwischen dem, was Richtlinien vorsehen, und dem, was KI tatsächlich möglich macht.

Als Gegenansatz beschreibt der Quelltext ein Modell, bei dem der sichtbarste und einfachste Weg zugleich der regulierte ist. Beschäftigte sollen KI in einer Umgebung nutzen und Anwendungen damit erstellen können, in der Berechtigungen, Zugriffskontrollen, Transparenz und Aufsicht bereits eingebaut sind. Wenn Erstellung, Ausführung und Überwachung in einer einzigen Umgebung stattfinden, werde Governance nicht zum Hindernis, sondern zum Weg des geringsten Widerstands. Als Beispiel dafür nennt der Quelltext Tines 3B, das Teams beim Bau KI-gestützter Anwendungen, Agenten und Automatisierungen unterstützen und Sicherheits- sowie IT-Teams zugleich Kontrolle und Sichtbarkeit geben soll.