Frederick Lee schildert, dass sein Team und andere Sicherheitsteams – gerade im Silicon Valley – konkreten Nutzen aus LLMs ziehen, vor allem bei Automatisierung und Vereinfachung. Werkzeuge wie Tines ließen sich mittlerweile annähernd in natürlicher Sprache bedienen. Verbreitet sei zudem, vorhandene Runbooks in LLMs einzuspeisen und daraus Agenten zu bilden, die Abläufe weiterführen. Auf der Vereinfachungsseite übersetzten Sprachmodelle menschliche Eingaben in Abfragesprachen: Statt die Syntax von Splunk oder BigQuery zu lernen, könnten Analysten formlos nach Informationen zu einer IP-Adresse fragen, die das LLM in passende Abfragen umsetzt.
Dave Gruber unterscheidet zwei Phasen der vergangenen 18 bis 24 Monate. Generative KI sei in viele Kernwerkzeuge eingebaut worden und werde breit für horizontale Aufgaben genutzt – etwa Datenanreicherung, Malware-Sandboxing und das Zusammenfassen von Vorfällen, was Analysten viel Aufwand erspare. Daneben stünden vertikale Anwendungsfälle wie die Analyse von Bedrohungsdaten, deren schnellere Operationalisierung das Risiko für Organisationen senke. Aus seinen vierteljährlichen Untersuchungen berichtet Gruber, dass Sicherheitsverantwortliche der Technik anfangs eher mit Vorsicht begegneten, inzwischen aber zunehmend Begeisterung zeigten.
Bei den Risiken nennt Lee die bekannte Prompt Injection, die er mit der Vermischung von Steuer- und Datenzeichen in Programmiersprachen vergleicht. Verschärft werde das Problem durch extern bezogene Ressourcen, etwa über GitHub eingebundene Fähigkeiten. LLMs legten zudem bestehende Schwächen offen: Wo die Dokument-Zugriffskontrolle mangelhaft sei, könne ein Sprachmodell Informationen an Unbefugte ausspielen. Auch bei MCP-Servern, die mit Anmeldedaten arbeiteten, werde der Zugriff nicht immer sauber kontrolliert – etwa wenn allgemeine Mitarbeiter-Zugangsdaten wiederverwendet würden.
Strittig blieb die These, KI-Coding-Werkzeuge erzeugten unsicheren Code. Lee zeigte sich optimistisch und verwies darauf, dass agentenbasierte Entwicklungsumgebungen oft von sich aus Sicherheitskontrollen vorschlagen. Culafi führte den Veracode-Bericht „2025 GenAI Code Security" an: Dort wurden 100 LLMs an 80 Programmieraufgaben getestet; sichere Implementierungen wählten die Modelle in 45 Prozent der Fälle, Cross-Site-Scripting-Probleme verhinderten sie in 86 Prozent der Fälle nicht. Beide hielten einen Menschen zur Codeprüfung für sinnvoll.
Gruber betonte, dass Datenhygiene bei Automatisierung wichtiger werde als bei menschlicher Kontrolle, da Maschinen schlechter filtern könnten. Lee verwies ergänzend auf eine B-Sides-Präsentation zu Glean: Ohne gute Prozesse lieferten LLMs keine guten Ergebnisse, sondern wiederholten bestehende Mängel.
Für die Einführung empfiehlt Lee, viel Zeit in die Architektur zu investieren, einen LLM-Gateway zur Modellsteuerung einzusetzen sowie Zugriffe über MCP-Registry und MCP-Gateway zu vermitteln. Schnelle Erfolge ließen sich erzielen, indem klar definierte Runbooks in agentenbasierte Abläufe überführt würden. Gruber ergänzt, dass weniger ausgereifte oder kleinere SOC-Teams häufig mit Managed Security Service Providern zusammenarbeiteten, während reifere Teams eigene Modelle bauten. Beide beobachten, dass Anbieter KI-Funktionen oft ohne Aufpreis in bestehende Werkzeuge integrieren – und dass Kunden bereit sind, Anbieter zu wechseln, die hier nicht Schritt halten.
Zur Kostenfrage merkt Gruber an, dass manche KI-Sicherheitsprodukte so viel kosten könnten wie das Gehalt eines Analysten; Lee hält das angesichts eines Rund-um-die-Uhr-Betriebs für lohnend. Zugleich räumten beide ein, dass erzwungener KI-Einsatz Spannungen erzeuge. Entscheidend sei, von einem konkreten Problem auszugehen, statt KI einzusetzen, nur weil sie verfügbar sei.