Der Kern des Problems liegt laut Cato Networks darin, dass sich KI-Risiken anders zeigen als klassische SaaS-Risiken. Während sich Risiken bei herkömmlichen Cloud-Anwendungen oft auf eine App, eine Datei oder strukturierte Datenfelder eingrenzen lassen, entstehen sie bei KI in der Eingabeaufforderung, in der Antwort des Modells oder in Handlungen, die autonome Agenten nach einer bösartigen Eingabe ausführen.
Genau an diesem Punkt sieht Etay Maor die Schwäche etablierter Werkzeuge. CASB beantwortet vor allem die Frage, ob ein Nutzer auf eine bestimmte Anwendung zugreifen darf und teilweise auch, was er dort tun kann. Für KI sei jedoch zusätzlich die Bedeutung einer Unterhaltung wichtig. Herkömmliche CASB-Kontrollen bewerteten den semantischen und kumulativen Kontext eines KI-Dialogs unter Umständen nicht tief genug.
Auch DLP greift nach Darstellung von Cato Networks zu kurz. Bei KI entstehe ein Risiko nicht zwingend dadurch, dass jemand offen eine Kontonummer oder einen API-Schlüssel in eine Unterhaltung einfügt. Nutzer könnten sensible Informationen unbeabsichtigt über mehrere Eingaben hinweg preisgeben. Diese Informationen könnten indirekt beschrieben sein und dennoch ausreichen, damit das Modell ihren Sinn versteht.
Als Beispiele nennt der Text Informationen zu einem Lieferantenvertrag, der in den nächsten Tagen abgeschlossen wird, oder eine Zusammenfassung eines Berichts zu einem Ausfallvorfall. In beiden Fällen bestehe ein reales Geschäftsrisiko, obwohl die Inhalte womöglich keine DLP-Regel auslösen. Ähnlich verhalte es sich bei CASB: Der Zugriff auf die Anwendung kann erlaubt sein, das eigentliche Risiko zeigt sich aber erst später in der konkreten Eingabe des Nutzers.
Für Sicherheitsteams entsteht daraus laut dem Beitrag ein Dilemma. Werden CASB-Regeln zu restriktiv gesetzt, könnten Beschäftigte auf nicht verwaltete Anwendungen ausweichen, die für das Sicherheitsteam unsichtbar bleiben. Ist DLP zu großzügig konfiguriert, steigt das Risiko, dass sensible Daten abfließen. In diesem Szenario vertiefe sich die Verbreitung von „Schatten-KI“.
Cato Networks plädiert deshalb für Kontrollen an dem Ort, an dem die Preisgabe tatsächlich stattfindet: innerhalb des Austauschs zwischen Mensch und KI-Modell. Geprüft werden müsse, was gefragt wird, was das Modell als Antwort erzeugt, welche Werkzeuge ein Agent aufruft, welche Daten er abruft oder überträgt und ob die daraus folgenden Aktionen zulässig sind. Das unterscheide sich grundlegend von einem Modell, das nur darüber entscheidet, ob der Zugriff auf einen KI-Dienst erlaubt oder blockiert wird.
Dabei geht es nach Darstellung des Unternehmens nicht um einen Ersatz von CASB und DLP. Maor beschreibt die Reduzierung von KI-Risiken ausdrücklich nicht als Wettstreit zwischen CASB, DLP und einer Prüfung auf Interaktionsebene. Alle drei Ansätze seien wichtig und deckten unterschiedliche Schichten desselben Problems ab.
Die entscheidende Frage für den Umgang mit KI lautet aus seiner Sicht deshalb nicht, ob eine Person ein Werkzeug öffnen darf. Relevanter sei, ob eine bestimmte Eingabe sicher ist, ob die Antwort sicher ist und ob eine ausgelöste Aktion autorisiert ist. Darauf solle die Strategie aufbauen, damit Beschäftigte KI produktiv nutzen können, ohne sensible Daten, geistiges Eigentum und das Verhalten von Agenten außerhalb der für eine sichere KI-Nutzung gesetzten Grenzen geraten zu lassen.