Dass Sprachmodelle die Schwachstellensuche und -behebung beeinflussen, ist kein neues Thema. Die KI Cyber Challenge der DARPA, die auf der vorjährigen DEF CON endete, gilt vielen als gelungenes frühes Beispiel für die Rolle von KI in diesem Anwendungsfall. Überraschender dürfte für manche sein, dass Mythos Schwachstellen ausnutzen kann – wie ein hochgerüstetes Werkzeug für Penetrationstests.
Begleitend hat Anthropic das Projekt Glasswing angekündigt. Dabei stellt das Unternehmen Mythos einigen Dutzend namhaften Organisationen wie Apple, AWS und Microsoft zur Verfügung, damit sie die Technik testen, sich mit ihr vertraut machen und idealerweise einen Vorsprung gegenüber Bedrohungsakteuren gewinnen. Anthropic unterstützt das Projekt mit 100 Millionen US-Dollar an Nutzungsguthaben für Mythos Preview sowie 4 Millionen US-Dollar an direkten Spenden an Open-Source-Sicherheitsorganisationen. Begründung: Man glaube, Mythos könne „die Cybersicherheit neu gestalten".
Die CSA veröffentlichte daraufhin ihre Strategieeinschätzung. Rob T. Lee, Chief AI Officer des SANS Institute und Mitautor des Berichts, schrieb auf der Plattform X, das Dokument sei dank umfangreicher Zusammenarbeit der Branche in wenigen Tagen entstanden. Laut CSA ist „der Sturm an Schwachstellenmeldungen aus dem Projekt Glasswing der erste von vielen großen Wellen KI-entdeckter Schwachstellen, die in rascher Folge auftreten könnten". Mythos und andere KI-Plattformen würden die Zahl neuartiger Angriffe „dramatisch" erhöhen.
Zu den Mitwirkenden zählen zahlreiche prominente Namen, darunter die frühere CISA-Direktorin Jen Easterly, der frühere Cyber-Koordinator des Weißen Hauses Chris Inglis, Google-CISO Heather Adkins, Katie Moussouris, der Kryptograf Bruce Schneier und der frühere NSA-Cybersicherheitsdirektor Rob Joyce.
Die Kernthese: Zwar erhöht KI die Fähigkeit, Patches zu entwickeln und einzuspielen, doch die Last für Verteidiger wachse, weil Angreifer Exploits entwickeln könnten und das Patchen in Organisationen an Grenzen stoße – etwa durch knappe Ressourcen, Personalmangel oder Ausfallzeiten kritischer Dienste. „Angreifer ziehen einen überproportionalen Nutzen, und die heutigen Patch-Zyklen, Reaktionsprozesse und Risikometriken wurden nicht für dieses Umfeld geschaffen", heißt es im Papier.
Verteidiger müssten ihre Risikoberechnungen anpassen und ihre Ressourcen auf ein steigendes Patch-Volumen, kürzere Zeiten bis zum Patch und hartnäckigere, komplexe Angriffe ausrichten. Grundlegend gehe es um Härtungsmaßnahmen: Segmentierung, Egress-Filterung, Mehr-Faktor-Authentifizierung und Verteidigung in der Tiefe und Breite. Darüber hinaus empfiehlt die CSA robustes Abhängigkeitsmanagement, automatisierte Sicherheitsprüfungen etwa per Sprachmodell, den breiten Einsatz von KI-Agenten, eine Neubewertung der Toleranz gegenüber Betriebsausfällen, angepasste Governance für die Anbieteranbindung und stärkere Zusammenarbeit in der Branche.
CSA-Chefanalyst Rich Mogull sagte gegenüber Dark Reading, die Technik entwickle sich „mit unglaublicher Geschwindigkeit" und verändere die grundlegenden Risikoannahmen rund um Schwachstellen und Patches. CISOs hätten fundierte Orientierung gebraucht, um das Thema mit ihrer Führung und ihren Aufsichtsgremien zu besprechen – ein wesentlicher Grund für das rasche Vorgehen.
Die CSA rät zu offensivem Umgang mit der Lage, einschließlich verstärktem Einsatz von Sprachmodellen für Programmierung, Schwachstellensuche und -behebung. Organisationen sollten sich auf mehr Vorfälle und eine höhere Arbeitslast einstellen: „Fordern Sie zusätzliches Personal und Budget für Reservekapazität an, um vorhandene Mitarbeiter nicht auszubrennen, und setzen Sie parallel mehr Automatisierung ein."
Patrick Münch, Chief Security Officer bei Mondoo, nennt Anthropics Entscheidung, Verteidigern Zugang zu geben, den „richtigen Instinkt". Jessica Sica, Leiterin der Informationssicherheit bei Weave, zeigt sich „durchaus besorgt": Hohe Kosten und begrenzter Zugang dämpften die Gefahr kurzfristig, doch „langfristig sinken die Kosten natürlich, und die Bedrohung wächst". Vieles an der aktuellen KI-Debatte sei Angstmacherei und Luftschlösser, doch wer die Gefahr nicht ernst nehme, könne unvorbereitet getroffen werden.