KI-Coding verspricht Tempo, bringt aber neue Sicherheits- und Kostenrisiken

KI-Coding wird in Unternehmen vor allem eingesetzt, um Routinearbeit und wiederkehrende Aufgaben in der Entwicklung zu automatisieren. Große Sprachmodelle können zudem auf Schwachstellen und allgemeine Code-Integrität prüfen. Gleichzeitig hat sich mit dem sogenannten „Vibe Coding“ eine Praxis etabliert, bei der Software weitgehend oder vollständig per natürlichsprachiger Anweisung erzeugt wird. Der Quelltext weist darauf hin, dass Menschen, die so arbeiten, nicht zwingend programmieren können oder verstehen müssen, wie Code funktioniert.

Die Produktivitätsgewinne sind laut mehreren Studien real, aber sie erzählen nur einen Teil der Geschichte. In der SonarSource-Umfrage sagten 72 Prozent der Entwickler, die KI-Coding-Tools ausprobiert haben, dass sie diese täglich nutzen. Dennoch erklärten 61 Prozent, solche Werkzeuge erzeugten häufig Code, der korrekt aussehe, aber unzuverlässig sei. Besonders relevant ist dabei die Kontrolle: Nur 48 Prozent der Entwickler gaben an, KI-generierten Code vor dem Einspielen immer zu überprüfen.

Zu den Sicherheitsproblemen gibt es inzwischen eine breite Forschungslage. Veracode berichtete im vergangenen Jahr, 45 Prozent der von KI erzeugten Code-Beispiele hätten Schwachstellen aus den OWASP Top 10 enthalten. Ein Teil des Problems liegt laut Quelltext darin, dass die Modelle auf riesigen Beständen und Bibliotheken mit unsicherem Code trainiert werden. Im März dieses Jahres verfolgte das Projekt Vibe Security Radar von Georgia Tech 35 CVEs, die es direkt KI-Coding-Tools zuschrieb.

Hinzu kommt „Slopsquatting“: Rund 20 Prozent der KI-generierten Code-Beispiele verweisen auf Pakete, die gar nicht existieren. Angreifer veröffentlichen dann bösartige Pakete unter diesen halluzinierten Namen, um Organisationen ins Visier zu nehmen. Ebenfalls seit Längerem bekannt ist, dass KI-generierter Code Geheimnisse und fest eincodierte Zugangsdaten preisgeben kann.

GitGuardian beobachtet nach Angaben von Ben MartinMooney, Product Marketing Manager des Unternehmens, inzwischen mehr über KI-Coding-Tools offengelegte Geheimnisse als in traditionellen Arbeitsabläufen. Er sagt: „Der Aufstieg von KI-Codeassistenten hat unbeabsichtigt zum allgemeinen Problem mit Geheimnissen beigetragen. Laut unserer Forschung erhöht der Einsatz von KI-Codeassistenten die Häufigkeit von Geheimnissen um ungefähr 40 Prozent.“ Auf Commit-Ebene habe GitGuardian festgestellt, dass mit Claude Code unterstützte Commits in 3,2 Prozent der Fälle Geheimnisse offengelegt hätten, gegenüber einem Basiswert von 1,5 Prozent über alle öffentlichen GitHub-Commits hinweg.

Der Aufwand nach einem solchen Leak ist erheblich. MartinMooney erklärt, zur vollständigen Behebung gehörten unter anderem die Rotation betroffener Zugangsdaten, Abstimmung mit Service-Verantwortlichen, die diese Zugangsdaten nutzen, die Prüfung ihres Einsatzbereichs sowie allgemeine Bereinigungsarbeiten. GitGuardians Rechner für den Unternehmensnutzen veranschlagt dafür im Durchschnitt mindestens zwei Ingenieursstunden pro Vorfall mit offengelegten Zugangsdaten. Laut neuer GitGuardian-Forschung waren zudem 64 Prozent der in öffentlichen GitHub-Commits gefundenen und 2022 als gültig bestätigten Zugangsdaten auch bei einer Prüfung im Januar 2026 noch gültig, „was bedeutet, dass sie nie rotiert wurden“.

Aktuelle technische Risiken betreffen auch die Werkzeuge selbst. Wiz stellte in dieser Woche mit GhostApproval ein Schwachstellenmuster vor, das sechs der führenden KI-Codeassistenten betrifft: Amazon Q Developer, Anthropic Claude Code, Augment, Cursor, Google Antigravity und Windsurf. Die Forscher schreiben: „In jedem Fall kann ein bösartiges Repository den Agenten dazu verleiten, auf beliebige Dateien außerhalb der Sandbox des Arbeitsbereichs zuzugreifen und so möglicherweise die Ausführung von Code aus der Ferne auf dem Rechner des Entwicklers zu erreichen.“ Nach Angaben des Unternehmens hatten AWS, Cursor und Google das Problem behoben; bei drei Anbietern war das zum Veröffentlichungszeitpunkt noch nicht der Fall.

Neben der Sicherheit rückt die Kostenfrage in den Vordergrund. Ein aktueller Gartner-Bericht prognostiziert, dass steigende Token-Kosten dazu führen werden, dass KI-Coding bis 2028 teurer wird als das durchschnittliche Gehalt eines Entwicklers. Als Grundpreise nennt der Quelltext meist 19 bis 40 US-Dollar pro Nutzer und Monat; Premium-Stufen oder fortgeschrittene Plattformen lägen zwischen 60 und 200 US-Dollar pro Nutzer und Monat. Dazu kommen laut Chao Cheng-Shorland, CEO von ShelterZoom, Integrations- und Abstimmungsaufwände: Jedes neue Scan-Werkzeug zur Erkennung KI-bedingter Probleme bringe „seine eigene Abgabe“ mit sich, darunter 40 bis 200 Stunden Integrationsarbeit, 20 bis 80 Stunden anfängliche Prüfung von Fehlalarmen und Monate der Feinabstimmung.

Rik Turner, leitender Cybersicherheitsanalyst bei Omdia, hält das Problem für erst am Anfang. Er sagt: „Wenn menschliche Entwickler über Open-Source-Bibliotheken viele Schwachstellen in ihren Code bringen, dann tun Coding-Agenten dasselbe, nur in potenzierter Form.“ Ob sich der Einsatz lohnt, hängt laut Quelltext daher stark vom Organisationstyp ab. Turner sieht vor allem Unternehmen im Vorteil, deren Anwendungen zentral für die Kundeninteraktion sind, etwa Einzelhändler, Online-Händler und Banken. Branchen, die weniger schnell agieren müssen und weniger kundennah sind, könnten die Ausgaben dagegen schwerer rechtfertigen.