Anthropic bewirbt Claude Code Security mit großen Versprechen. In seinem Blogbeitrag erklärt das Unternehmen, das Werkzeug sei aus mehr als einem Jahr Sicherheitsforschung hervorgegangen und lese und durchdenke Code „so, wie es ein menschlicher Sicherheitsforscher tun würde": Es verstehe das Zusammenspiel der Komponenten, verfolge den Datenfluss durch eine Anwendung und erkenne komplexe Schwachstellen, die regelbasierte Werkzeuge übersehen.
Jeder Fund durchläuft ein mehrstufiges Prüfverfahren, das Fehlalarme aussortieren soll; die Schwachstellen werden in einem übersichtlichen Dashboard aufbereitet. Hinzu kommen „Konfidenzbewertungen" für Feinheiten, die KI-Modelle nicht immer erfassen. Mit Claude Opus 4.6, das laut Blog in diesem Monat erschien, will Anthropic „über 500 Schwachstellen in produktiven Open-Source-Codebasen" gefunden haben — Fehler, die trotz jahrelanger Begutachtung jahrzehntelang unentdeckt geblieben seien.
Für das Potenzial großer Sprachmodelle bei der Suche und Behebung von Schwachstellen gibt es ermutigende Belege. Bei der DEF CON 33 im vergangenen Sommer richtete die DARPA das Finale ihrer zweijährigen AI Cyber Challenge (AIxCC) aus, bei der Teams mit KI-Technik die kritische Infrastruktur quelloffener Software absicherten.
Justin Cappos, Professor am Fachbereich Informatik und Ingenieurwesen der New York University und langjähriger Open-Source-Entwickler, half bei der Gestaltung des Wettbewerbsformats. Gegenüber Dark Reading sagt er, viele Beteiligte — darunter einige der Sieger — „hatten nicht erwartet, dass es so gut laufen würde". Man habe angenommen, die Modelle würden einige kleinere Fehlertypen finden, aber beim Erstellen von Patches scheitern. Tatsächlich hätten sie etliche recht komplexe Probleme aufgespürt und brauchbare Patches dafür erzeugt — auch für Schwachstellen, die zu dem Zeitpunkt unbekannt und nicht von den Organisatoren künstlich eingebaut worden waren.
Cappos zeigt sich verhalten optimistisch, warnt aber, dass diese Werkzeuge noch am Anfang stünden — er nennt es die „Will-Smith-isst-Spaghetti"-Phase. Er und andere Maintainer erhielten inzwischen Fehlerberichte von KI-Programmierwerkzeugen. Manche seien hilfreich, viele aber Fehlalarme oder im echten Entwicklungsalltag unpraktisch: „Es ist viel Schrott dabei", merkt er an.
Melinda Marks, Cybersecurity-Direktorin beim Analystenhaus Omdia, verweist auf drei kritische Schwachstellen in Claude Code, die Check Point Research in dieser Woche entdeckt und gemeldet hat. Diese Schwachstellen unterstrichen, wie wichtig Sicherheit beim Einsatz solcher Programmierwerkzeuge sei — über die agentischen Sicherheitsfunktionen hinaus. Unternehmen, die ihren KI-Einsatz absichern wollten, würden weiterhin Werkzeuge von Drittanbietern benötigen, um Risiken wirksam zu mindern.
Eran Kinsbruner, VP Product Marketing beim Anwendungssicherheits-Anbieter Checkmarx, sieht in Claude Code Security „bedeutende Fortschritte" dabei, Sicherheitsbewusstsein näher an die Code-Erstellung zu rücken. Eine Komplettlösung für die komplexen Umgebungen heutiger Organisationen sei es aber nicht: „Sichere Code-Generierung allein bedeutet noch keine umfassende Software-Sicherheit." Zudem verursache der Ansatz reale Kosten — anders als auf fortlaufendes Scannen ausgelegte AppSec-Lösungen führe ein LLM-basiertes Werkzeug punktuelle Prüfungen durch, die sich über Hunderte oder Tausende Repositories summierten.
Anthropic reagierte nicht auf die Anfrage von Dark Reading um eine Stellungnahme.