Nach Einschätzung von CERT-In greifen Bedrohungsakteure zunehmend für ein breites Aufgabenspektrum auf KI zurück: für das Aufspüren der Angriffsfläche, die Analyse von Exploits, das Verfassen überzeugender Phishing-Inhalte und sogar die Erzeugung von Schadsoftware. Auf diese Weise könnten sie die Vorbereitungszeit für Angriffe deutlich verkürzen und herkömmliche Sicherheitsvorkehrungen umgehen.
Zugleich könnten KI-gestützte Systeme selbst zum Ziel werden — etwa durch Prompt-Injection, Schwachstellen mit Datenabfluss, Jailbreaking-Techniken, Modellmanipulation, das Vergiften von Trainingsdaten, Modelldiebstahl sowie die Kompromittierung von Orchestrierungs-Pipelines. Dadurch würden Vertraulichkeit und Integrität dieser Systeme untergraben.
CERT-In warnt, Organisationen müssten damit rechnen, dass sich die Zeiträume bis zur Ausnutzung von Schwachstellen drastisch verkürzen und Angriffe autonom ablaufen. Nötig seien daher verschärfte Schutzmaßnahmen mit fortlaufender Bedrohungsbewertung, vorausschauender Reduzierung der Angriffsfläche und operativer Einsatzbereitschaft.
Organisationen sollten der Behörde zufolge gestaffelte, risikobasierte und kontinuierlich überprüfte technische Kontrollen einführen, um die Angriffsfläche für KI-gestützte Bedrohungen zu verringern. Vorrang habe dabei der Schutz internetexponierter Systeme, kritischer Geschäftsanwendungen, von Identitäten, Cloud-Umgebungen, APIs, sensibler Daten, KI-gestützter Systeme und betrieblicher Infrastruktur.
Empfohlen wird zudem ein „kontinuierliches, risikobasiertes Schwachstellen- und Patch-Management", um Risiken aus Sicherheitslücken, Fehlkonfigurationen, unsicheren APIs, öffentlich erreichbaren Diensten und schwachen Identitäten zu senken. Bekannte, bereits ausgenutzte Schwachstellen in internetexponierten und kritischen Systemen sollen demnach — wo zutreffend — binnen zwölf Stunden behoben werden.
Steht kurzfristig kein Patch zur Verfügung, rät CERT-In zu vorübergehenden Gegenmaßnahmen: Isolierung, Zugriffsbeschränkung, Schutz über WAF beziehungsweise API-Sicherung, verstärkte Überwachung oder das Abschalten betroffener Funktionen, bis eine Korrektur bereitsteht.
Angesichts der sich rasch wandelnden Bedrohungslage sollten Organisationen ihre Angriffsfläche fortlaufend neu bewerten, Sicherheitskontrollen validieren, ihre Widerstandsfähigkeit stärken und die operative Einsatzbereitschaft durch laufende Audits, Überwachung, Tests und abgestimmte Cybersicherheits-Governance erhöhen, so die Behörde.
Das Konzeptpapier erscheint einen Monat nach einer Warnung von CERT-In vor den wachsenden Cyberfähigkeiten führender KI-Modelle von Anthropic und OpenAI. Deren „doppelte Verwendbarkeit" könne die Einstiegshürde für böswillige Akteure senken und genutzt werden, um Angriffe zu beschleunigen, Abläufe zur Ausnutzung von Schwachstellen zu automatisieren und Kampagnen zu skalieren. Mit der durch führende KI getriebenen Entwicklung Schritt zu halten sei entscheidend für die Cyber-Widerstandsfähigkeit; grundlegende Sicherheitskontrollen blieben unverzichtbar und müssten konsequent durchgesetzt werden.