DatenschutzCybersicherheitKI-Sicherheit

Stille Gefahr im Büro: Wie KI-Nutzer zu einer unterschätzten Sicherheitslücke werden

Stille Gefahr im Büro: Wie KI-Nutzer zu einer unterschätzten Sicherheitslücke werden
Zusammenfassung

Der Bericht „State of AI Usage Report 2026" von LayerX Security offenbart ein erhebliches Sicherheitsrisiko, das deutsche Organisationen bisher häufig unterschätzen: Enterprise-AI-Risiken konzentrieren sich nicht gleichmäßig auf viele Nutzer, sondern auf eine kleine Gruppe sogenannter „AI Power User". Während knapp die Hälfte aller Mitarbeiter im vergangenen Jahr mit KI-Tools interagiert hat, nutzt nur etwa ein Fünftel diese regelmäßig – die aktivsten 5% generieren jedoch 144-mal mehr Gespräche als Durchschnittsnutzer. Besonders besorgniserregend ist die fragmentierte KI-Landschaft: Etwa 30% der Nutzer setzen auf mehrere AI-Plattformen parallel, während kritische Sicherheitslücken entstehen. Über die Hälfte aller Enterprise-AI-Konversationen erfolgt über persönliche statt unternehmensgeführte Konten, wo Unternehmen die Kontrolle über Datenschutz und Datensicherheit verlieren. Für deutsche Behörden und Unternehmen bedeutet dies ein erhebliches Datenschutz- und Compliance-Problem, besonders hinsichtlich der DSGVO: Sensitive Daten landen nachweislich in privaten KI-Systemen wie DeepSeek, ChatGPT oder Claude, wo europäische Datenschutzstandards oft nicht gelten. Dies erfordert eine Neubewertung der bisherigen AI-Governance-Strategien und umfassendere Sichtbarkeit und Kontrolle über tatsächliche KI-Nutzungsmuster.

Die Daten der LayerX-Untersuchung zeichnen ein beunruhigendes Bild: ChatGPT dominiert die unternehmensweite KI-Nutzung mit 36 Prozent der User und über 55 Prozent aller Konversationen – deutlich vor dem Microsoft Copilot M365 mit 29 Prozent Adoption. Während Copilot M365 in unternehmensgebundenen Microsoft-Umgebungen läuft, wo Organisationen größere Kontrolle haben, nutzen Mitarbeiter Dienste wie Gemini, ChatGPT und Claude häufig über persönliche Konten. Dies ist für deutsche Datenschützer ein kritisches Problem: Ohne Sicht auf Datenretention, Modelltraining und Datenschutzrichtlinien entstehen nicht nur Governance-Lücken, sondern auch potenzielle DSGVO-Verstöße.

Die Konzentration von Risiken wird durch ein neues Phänomen verstärft: Fast 30 Prozent der Enterprise-Nutzer verwenden bereits mehrere KI-Plattformen parallel, die Top-5-Prozent sogar sechs oder mehr. Diese fragmentierte KI-Landschaft entsteht nicht in böser Absicht – Mitarbeiter nutzen unterschiedliche Tools für verschiedene Aufgaben und wählen häufig die bequemste Lösung. Doch damit verlieren Sicherheitsteams die Kontrolle. Das BSI hat solche Szenarien als Shadow-AI-Risiko klassifiziert, doch die Realität ist komplexer: KI-Browser-Erweiterungen (bereits bei 15 Prozent der User) mit kritischen Berechtigungen, KI-Konnektoren zu SharePoint, GitHub und Slack, die Systemen direkten Zugriff auf interne Repositories geben – all das operiert außerhalb klassischer Governance-Kontrollen.

Besonders problematisch ist die Identitäts-Fragmentierung: Knapp die Hälfte aller KI-Gespräche erfolgt über persönliche Identitäten, nicht über unternehmenseigene Accounts. Über 14 Prozent der Konversationen mit Unternehmens-Identität sind an private KI-Lizenzen gekoppelt. Für deutsche Datenschutzbeauftragte (BfDI) stellt dies ein erhebliches Kontrolldefizit dar – sensible Daten wie Kundenlisten, Finanzinformationen oder technische Spezifikationen wandern unkontrolliert in externe KI-Ökosysteme.

Die Differenzierung nach Plattformen zeigt auch: Enterprise-Systeme wie Copilot M365 mit 3,65 Prozent sensibler Daten schneiden deutlich besser ab als Consumer-Tools wie DeepSeek (12,63 Prozent) oder ChatGPT (8,38 Prozent). Dies deutet darauf hin, dass nicht die Technologie allein das Problem ist, sondern die Art der Implementierung und Governance.

Deutsche Organisationen müssen handeln: Transparenz über alle KI-Systeme schaffen, Browser-Erweiterungen und KI-Konnektoren inventarisieren, Datenschutzrichtlinien für KI-Nutzung etablieren und insbesondere die Power User identifizieren und schulen. Nur so lassen sich DSGVO-Anforderungen erfüllen und Risiken wirklich reduzieren.