Schatten-KI sei ein doppeltes Problem, erklärt Doug Merritt, CEO von Aviatrix, gegenüber Dark Reading. Sie schaffe nicht nur eine Sichtbarkeitslücke, sondern erzeuge auch Workloads mit unbegrenztem Wirkungsradius, weil diese Tools – insbesondere KI-Agenten – weitreichende Berechtigungen benötigen. Die KI-Infrastruktur sei mancherorts ohnehin nicht robust genug, und Schatten-KI verschärfe das zusätzlich. Gesundheitsumgebungen, so Merritt, „enthalten die sensibelsten Daten aller Branchen".
Der Trend nimmt zu, weil überlastetes medizinisches Personal unter wachsendem Druck nach Entlastung sucht – und weil Führungskräfte ihre Beschäftigten zugleich zum KI-Einsatz drängen, um die Produktivität zu steigern. Wenn dabei Sicherheitsteams nicht informiert werden, leidet die Übersicht über die eigenen Systeme. Das behindert die Ransomware-Wiederherstellung, indem es Angriffsflächen vergrößert, Untersuchungen verlangsamt und nicht wiederherstellbare Daten ohne Backups einführt.
Merritt macht den Beschäftigten keinen Vorwurf. Bei Gesprächen mit Bekannten aus der Branche habe er erfahren, dass diese die Tools nutzen, um Verwaltungslasten abzufedern und schnell klinische Dokumentationen zu erstellen. „Versuchen Sie mal, diesen Leuten zu sagen, sie dürften das Werkzeug nicht nutzen, das ihnen 30 Minuten bis eine Stunde pro Schicht spart, damit sie mehr Zeit mit Patienten verbringen können", sagt er. „Das ergibt überhaupt keinen Sinn."
Ein Bericht des Technologiekonzerns Wolters Kluwer untermauert die Verbreitung: 41 Prozent der Befragten wussten von Kollegen, die unautorisierte KI-Tools nutzten. Knapp die Hälfte gab an, solche Werkzeuge für schnellere Arbeitsabläufe einzusetzen, und jeder Dritte nannte als Grund fehlende freigegebene Tools oder freigegebene Tools ohne die gewünschten Funktionen.
Die Versuchung wachse zusätzlich, weil Anbieter inzwischen auf Konferenzen direkt an Ärzte heranträten, berichtet Izzo. Problematisch sei, dass die Anbieter ihnen die Nutzung erlaubten, sofern sie eine gesonderte Vereinbarung unterzeichneten – und damit die Richtlinien und Governance des Krankenhauses umgingen. „Überraschung: Diese Vereinbarungen legen die gesamte Verantwortung in der Regel allein den Ärzten auf", so Izzo. Personal handle dabei nicht, um sich Vorgaben zu entziehen, sondern um effizienter zu arbeiten.
Einigkeit besteht darin, dass die Nutzung nicht zu stoppen ist. „Bring Your Own Device" sei zunehmend allgegenwärtig und habe dies nahezu nahtlos ermöglicht, warnt Jeremy Banon, CEO und Gründer von The Cyber Health Company. Statt zu verdrängen, solle die Führungsebene einen unternehmensweiten KI-Plan aufstellen und einen Anbieter gewinnen, der angemessene Sicherheits- und Datenschutzkontrollen für die jeweiligen Einsatzzwecke bereitstellt. Zudem sollten Patienten bei jeder Einführung eines Tools aktiv zustimmen können.
Die Frage, wie man Beschäftigte vom Einsatz nicht freigegebener Tools abhalte, sei eine „verlorene Frage", betont Merritt. Statt Verbote brauche es Eindämmung und eine wirksame Erkennung von Schatten-KI. Organisationen sollten annehmen, dass solche Tools bereits in ihren Umgebungen laufen, und den Wirkungsradius begrenzen. „Wie schützt man KI-Workloads, sodass sie zwar erlaubt sind, man aber genau sieht, mit wem sie kommunizieren und was nach außen geht?", sagt Merritt. Eine Zero-Trust-Haltung auf Workload-Ebene sei dafür deutlich einfacher.