Wie KI die Cybersicherheit verändert: Chancen, Missbrauch und neue Risiken

Generative KI bildet laut dem SecurityWeek-Bericht die Grundlage der heutigen KI-Nutzung in der Cybersicherheit. Sie erzeugt neue Inhalte auf Basis statistischer Muster aus großen Trainingsdatensätzen, liefert also plausible statt verlässlich wahre Antworten. Ahmad Shadid von ORGN.com beschreibt das als Synthese aus erlernten Mustern, nicht als faktenbasierte Wahrheitsfindung. Yichuan Zhang von Boltzbit weist deshalb auf Halluzinationen und Datenabfluss hin, wenn Modelle Trainings- oder Kontextinhalte wörtlich reproduzieren.

Gerade deshalb ist Vertrauen in generative KI für viele der befragten Experten eine Architektur- und Governance-Frage. Melissa Ruzzi von AppOmni hält sie je nach Zweck, Modell und Datenfluss zugleich für vertrauenswürdig und nicht vertrauenswürdig. Devvret Rishi von Rubrik sieht die Technik bereits tief in Arbeitsabläufe von Sicherheitsteams eingebettet, etwa beim Zusammenfassen von Incident-Berichten oder beim Entwurf von Reaktionsplänen. Mehrere Stimmen betonen zugleich, dass KI Analysten unterstützen, aber deren Urteil nicht ersetzen sollte.

Beim praktischen Einsatz nennen die Experten vor allem Produktivitätsgewinne: Unterstützung im SOC, Hilfe beim sicheren Programmieren, Dokumentenerstellung, E-Mail-Entwürfe und Zusammenfassungen. Aaron Sant-Miller von Booz Allen sagt, Unternehmen nutzten solche Modelle, um Dokumente zu erzeugen, Software zu schreiben oder menschliche Nachrichten in größeren Workflows zu replizieren. Zugleich warnt der Bericht vor Fehlgebrauch innerhalb von Unternehmen, wenn KI ohne klare Leitplanken eingesetzt wird. Ungesteuerter Einsatz könne persönliche Fähigkeiten abbauen, Kosten erhöhen und dazu führen, dass Beschäftigte auf externe Dienste ausweichen.

Auf Angreiferseite beschreiben die Experten vor allem eine Beschleunigung vorhandener Methoden. Zhang nennt hyperrealistisches Phishing, polymorphe Malware und mit KI erstellte Phishing-Webseiten oder aggressive Angriffssoftware. Harshit Agarwal von Appknox verweist auf Werkzeuge wie WormGPT, die Schutzmechanismen entfernen und Angreifern dieselben Geschwindigkeitsvorteile wie reguläre generative KI verschaffen. Gino Sciretta von BranditScan warnt vor täuschend echten falschen Identitäten, Deepfakes und KI-gestützten Chatsystemen, die emotionale Manipulation deutlich schneller vorantreiben können.

Als nächste Entwicklungsstufe beschreibt der Bericht agentische KI. Anders als Chatbots, die nur antworten, können solche Systeme laut Eric Syphard von Booz Allen Arbeit ausführen, Schnittstellen ansprechen, Code starten, Workflows steuern und Entscheidungen treffen. Marcel Folaron von Cochat warnt, ein autonomer Agent mit unbeschränktem Zugriff auf Systeme sei eine Belastung, während begrenzte Rechte, Freigabeprozesse, Protokollierung und Budgetgrenzen ihn beherrschbar machten. Mehrere Experten betonen, dass agentische KI die Vertrauensprobleme generativer KI erbt, sie aber durch direkten Zugriff auf Unternehmensressourcen verschärft.

Im Nutzen sehen die Befragten vor allem Automatisierung mit Maschinengeschwindigkeit. Zhang nennt autonomes Patchen als Beispiel: Ein Agent finde eine Schwachstelle, suche den Patch, teste ihn in einer Sandbox und rolle ihn aus. Galina Kho von Cyberbay sagt, derzeit unterstütze agentische KI vor allem beim Sammeln von Kontext, weniger bei Entscheidungen. Gleichzeitig warnen die Experten vor Fehlsteuerungen, etwa Endlosschleifen, driftenden Agenten oder Entscheidungen auf Basis unvollständiger Umgebungsdaten.

Breiten Raum nimmt „Shadow AI“ ein: also KI in Unternehmen, die der IT- und Sicherheitsabteilung unbekannt ist, oder externe KI-Dienste, die Beschäftigte ohne Abstimmung nutzen. Agarwal warnt, Shadow AI arbeite innerhalb von Workflows und sei deshalb schwerer zu erkennen als klassische Shadow IT. Der Bericht nennt als Beispiel den Salesloft-Drift-Vorfall in 2025: Angreifer stahlen OAuth-Token des KI-Chatbot- und Website-Engagement-Werkzeugs Drift für Salesforce und kompromittierten anschließend mehr als 700 Organisationen, die Drift installiert hatten. Murphy von Forcepoint betont zugleich, die Produktivitätsvorteile seien real, doch Unternehmen hätten oft weder Sicht auf die Effizienzgewinne noch auf das Datenrisiko.

Neben generativer und agentischer KI behandelt der Bericht auch klassisches Machine Learning. Das gilt mehreren Experten als vertrauenswürdiger, weil es bestehende Inhalte analysiert statt neue zu erzeugen. Eingesetzt werde es unter anderem für Anomalieerkennung, Verhaltensanalysen, Malware-Analyse, Risikobewertung, E-Mail-Filterung und UEBA. Gleichzeitig warnen die Befragten vor Model Drift, blinden Flecken, adversarialen Angriffen und Trainingsdatenvergiftung. Für die Zukunft erwarten mehrere Stimmen eine engere Verzahnung von Machine Learning mit agentischen Systemen, bis hin zu adaptiver Verteidigung in Echtzeit.

Beim langfristigen Ausblick auf künstliche allgemeine Intelligenz bleibt der Bericht bewusst offen. Viele der befragten Experten halten AGI für möglich, die Zeitschiene aber für unklar. Zhang sagt, echte AGI mit erfahrungsbasiertem Lernen für kritische Entscheidungen gelte unter den meisten Forschern weiterhin als Jahrzehnte entfernt. Andere wie Ted Miracco von Approov sehen die Grenze schneller näher rücken. Einig sind sich die Experten vor allem darin, dass Governance, Identitätsmodelle, Begrenzungen und Wiederherstellungsfähigkeit schon jetzt aufgebaut werden müssen – nicht erst, wenn AGI erreicht ist.