Chismon eröffnet seine Argumentation mit einem Satz des Sicherheitsforschers Halvar Flake, den er zitiert: „Alle offensiven Probleme sind technische Probleme, und alle defensiven Probleme sind politische Probleme."
Weil Angriffsarbeit weitgehend technisch sei, habe sie ein eindeutiges Erfolgskriterium, schreibt Chismon: Ein Exploit funktioniert, oder Schadsoftware meldet sich beim Steuerungsserver. Genau solche unmissverständlichen Signale seien es, mit denen automatisierte Werkzeuge gut umgehen können.
Die Verteidigung kennt kein solches Signal. Sie habe „nicht immer einen klaren Erfolgszustand", der einem automatisierten System mitteilen könnte, ob eine Maßnahme gewirkt hat. Hinzu kommt ein struktureller Unterschied: Während ein Angriff schlicht scheitern kann, greifen Verteidigungsmaßnahmen unmittelbar in die Produktivsysteme ein, die sie schützen sollen. Ein Patch, der das VPN lahmlegt, oder eine Firewall-Regel, die eine Geschäftsfunktion zerstört, verursacht genau die Störung, die abgewendet werden sollte.
Weil das Risiko so groß und der Erfolg so schwer messbar sei, müsse ein Mensch jede Maßnahme abwägen und dafür geradestehen, argumentiert Chismon. Für manche Vorstandsmitglieder mache es kaum einen Unterschied, ob ein Angriff die IT eines Unternehmens ausfallen lasse oder eine misslungene Verteidigungsaktion dasselbe bewirke — „außer dass der Vorstand einen Angreifer nicht am Telefon anschreien kann".
Verteidiger könnten KI daher „schlicht nicht auf dieselbe Weise einsetzen wie Angreifer", schreibt Chismon und nennt das „eine unbequeme Wahrheit".
Die Einschätzung fällt in eine Zeit, in der das NCSC selbst eine Cyberabwehrfähigkeit namens Cyber Shield aufbaut. Sie soll agentische KI-Systeme einsetzen, um Sicherheitsschwächen in Regierungsnetzen und kritischer nationaler Infrastruktur aufzuspüren und zu beheben.
Trotz seiner Skepsis sieht Chismon Spielraum: Es gebe „vieles, was Verteidiger tun können, um das Potenzial agentischer Cyberabwehr zu erschließen". Organisationen sollten mit risikoarmen Anwendungen beginnen, etwa der KI-gestützten Zusammenfassung von Bedrohungsinformationen für menschliche Analysten. Der NCSC-Blog stellt dazu ein Rahmenwerk bereit, mit dem sich das Risiko einer Automatisierung anhand von Reichweite, Auswirkung, Kritikalität, Vorhersagbarkeit und Umkehrbarkeit einschätzen lässt.
Dass autonome Verteidigungsmaßnahmen sicher genug für den Produktiveinsatz werden, bleibt Chismon zufolge ein ungelöstes Problem. Im Rahmen von Cyber Shield will die Behörde demnächst eine Forschungsagenda unter dem Titel „AI for Cyber Defence" veröffentlichen, die zur Klärung dieser Fragen beitragen soll.
Vorerst sei agentische Verteidigung nicht verlässlich genug; ihr Aufbau werde „Zeit, Aufwand und Forschung erfordern". Bis dahin dürften Organisationen „nicht das Risiko eingehen, einfach darauf zu warten, dass agentische Verteidigung sie schützt" — sie sollten ihre Sicherheit weiterhin „auf traditionellem Weg" verbessern.