Die Fortschritte bei KI wirken in beide Richtungen. Forscher entdecken mehr Schwachstellen – sichtbar am außergewöhnlich umfangreichen Patch Tuesday des vergangenen Monats –, zugleich helfen dieselben Werkzeuge Angreifern dabei, Patches zu analysieren und daraus Exploits zu entwickeln.
„Angreifer bewaffnen Schwachstellen deutlich schneller", sagt Ensar Seker, CISO bei SOCRadar. Sicherheitsteams müssten deshalb aus Hunderten offengelegten Lücken sorgfältig auswählen, welche sie zuerst schließen. „Organisationen können Patch Tuesday deshalb nicht mehr als simple Übung nach dem Motto ‚alles sofort ausrollen’ behandeln", so Seker – wegen der schieren Zahl an CVEs und unvorhergesehener Nebenwirkungen, die manche Patches in bestimmten Umgebungen zwangsläufig verursachen.
„KI hat die Hürde erheblich gesenkt, zu verstehen, was ein Patch tut, selbst wenn der Hersteller es uns nicht sagt", sagt Benjamin Harris, Gründer und CEO von watchTowr, mit Blick auf die jüngsten NetScaler-Zero-Day-Schwachstellen und die ausbleibende Kommunikation von Citrix. Sicherheit durch Verschleierung sei „schon immer fragwürdig" gewesen, im KI-Zeitalter aber besonders: Angreifer könnten mit Sprachmodellen rasch ermitteln, was ein – womöglich stillschweigend ausgelieferter – Software-Update behoben hat, ohne eine öffentliche Offenlegung oder technische Details abzuwarten.
Joe Toomey, Vice President für Underwriting Security beim Cyberversicherer Coalition, sagt, KI habe das Tempo der Ausnutzung „zu 100 Prozent" erhöht. „Wir sehen die steigende Zahl veröffentlichter Schwachstellen, und wir sehen die Zunahme jener, die das Niveau erreichen, bei dem wir handeln und Versicherungsnehmer informieren müssen." Auf die Leitplanken der Frontier-Modelle oder auf eine Zurückhaltung der Technologie könne man sich nicht verlassen, weil sie mit offenen Gewichten ohnehin verfügbar sei.
Neben dem Tempo bereitet die Automatisierung Sorgen: Anders als menschliche Angreifer brauchen bösartige Agenten keine Pause, keinen Urlaub und geben nicht auf. Laut einem Omdia-Bericht aus diesem Sommer, „Next Generation Offensive Security Strategies Grant Defenders the AI Advantage", nannten 32 Prozent der befragten Organisationen KI-gestützte automatisierte Angriffe als den Faktor mit dem größten Einfluss auf offensive Sicherheitsstrategien wie Penetrationstests und Red Teaming; 25 Prozent nannten die gestiegene Geschwindigkeit der Ausnutzung.
„Ein KI-gestützter automatisierter Angriff ist unerbittlich, er gibt nie auf und hört nie auf, nach Angriffswegen zu suchen", sagt Theresa Lanowitz, Principal Analyst bei Omdia. Agenten erkundeten jeden denkbaren Weg zum Ziel. Erschwerend kommt laut Omdia hinzu, dass nur 25 Prozent der Organisationen vollständige Sicht auf ihre Angriffsfläche haben und ihre Daten und Assets in Echtzeit lückenlos erfassen können.
Der unabhängige Sicherheitsforscher Justin O’Leary verweist auf den Hugging-Face-Vorfall: Dort seien OpenAI-Agenten vertrauten Angriffspfaden gefolgt, nur in stark verkürzter Zeit. „Nichts Exotisches, nur schneller." Ein zentraler Vorteil der Automatisierung sei das schnelle Kartieren von Identitäts- und Zugriffsrichtlinien eines Kontos sowie der Vertrauensbeziehungen zwischen den verwalteten Diensten – „zeitintensive Aufgaben, die normalerweise Wochen dauern würden".
Laut Omdia erhöhen 85 Prozent der Organisationen ihre Ausgaben für offensive Sicherheit. Verteidiger könnten KI nutzen, um vorab zu prüfen, wer in ihrer Umgebung tatsächlich was tun darf, sagt O’Leary: „Schnellere Triage allein wird sie nicht erwischen." Toomey hält automatisches Patchen für erwägenswert, aber nur bei sorgfältiger Umsetzung durch reife Organisationen – mit Release-Ringen, Frühzugang auf Wunsch und kontrollierter Ausrollung samt Überwachung der aktualisierten Systeme. Für alle tauge das nicht: „Auf sehr lange Sicht kommen wir vielleicht besser heraus. Kurzfristig wird es wehtun."