Team8 investiert als Risikokapital- und Private-Equity-Gesellschaft in Unternehmen aus den Bereichen Unternehmenstechnologie, Cybersicherheit, KI, Fintech und digitale Gesundheit. Um die richtigen Beteiligungen auszuwählen, braucht das Haus ein genaues Bild aktueller Technik und ihrer Problemzonen. Dafür hat Team8 das CISO Village aufgebaut, eine Gemeinschaft von Sicherheitsverantwortlichen weltweit führender Unternehmen, deren Meinungen jährlich in einen Bericht münden.
„Wenn wir auf KI blicken, müssen wir zwei Aspekte betrachten. Der erste ist unsere eigene Angriffsfläche, wie sie von Angreifern mit KI ins Visier genommen wird“, sagte Brown gegenüber SecurityWeek. „Was in den letzten 10 bis 20 Jahren als gute Sicherheitshygiene galt, reicht nicht mehr aus. Früher glaubten wir, Mehr-Faktor-Authentifizierung, Firewalls und guter Endpunktschutz würden verhindern, dass wir Opfer eines Gelegenheitsangriffs werden. Das gilt nicht mehr. Die Angriffe und unsere Angriffsfläche haben sich verändert.“ Der erste Schmerzpunkt sei entsprechend, die Unternehmenssicht auf Sicherheitshygiene an diese neue Realität anzupassen.
Der zweite betrifft das Gleichgewicht zwischen geschäftlichem Nutzen und den Risiken agentenbasierter KI. Agenten entstehen längst nicht mehr nur in der IT-Abteilung, sondern werden von Mitarbeitern selbst mit leicht zugänglichen Coding-Werkzeugen wie Claude Code, Cursor und Codex gebaut. Die Bandbreite reicht laut Brown von simplen Aufträgen – „Ich möchte meine E-Mails täglich zusammengefasst bekommen und erfahren, worauf ich reagieren muss“ – bis zu komplexen Vorhaben wie der Neugestaltung eines Vertriebsprozesses auf Basis von Unternehmensdaten.
Je komplexer der Agent, desto mehr kritische Teile des Netzwerks berührt er. Hinzu kommt eine menschliche Schwäche: Anwender formulieren selten exakt, was sie wollen. Der Agent führt dann präzise das aus, was er als Anweisung versteht – ergänzt um die nicht-deterministische Wahrscheinlichkeit, die allen KI-Modellen innewohnt. Bei einem Chatbot erkennt man eine unsinnige Antwort sofort und kann auf die eigene ungenaue Frage zurückschließen. Beim Bau eines Agenten dagegen bekommt der Autor nie etwas zu sehen, das er als Unsinn identifizieren könnte.
„Ein KI-Agent ist nicht einfach ein weiterer Mitarbeiter – er ist ein äußerst findiger Mitarbeiter, der alles tun wird, um die Aufgabe zu erfüllen, die er für die seine hält“, so Brown. Sein Beispiel: Ein Agent, der Hintergrundinformationen über ein Unternehmen aus öffentlichen wie privaten Quellen sammeln soll, könne überallhin gehen und alles durchsuchen – und dabei auch in einem Produktivsystem irgendwo im Internet herumstöbern statt in einem Testsystem.
Die Aufgabe der Sicherheitsverantwortlichen sei es, Leitplanken in der richtigen Höhe zu setzen. „Es ist leicht, zu 100 Prozent wirksame Leitplanken zu schaffen“, sagte Brown. „Ich nehme das System, ziehe den Stecker und werfe es ins Meer. Dann ist es sicher. Nutzlos, aber sicher.“ Solche Grenzen gehörten in den Entwicklungsprozess des Agenten eingebaut: Sie legen fest, wohin ein Agent gehen und was er tun darf – damit er eine schädliche Auslegung seines Auftrags gar nicht erst umsetzen kann.
Browns konkrete Empfehlung lautet mehr Transparenz und Erfahrungsaustausch zwischen Sicherheitsverantwortlichen. „Lasst uns öfter teilen. Warum muss ich alles von Grund auf lernen, wenn mein Bekannter in Unternehmen X das bereits erledigt hat? Wir sollten als Verteidiger zusammenkommen.“ So entstehe bessere KI, Angreifer hätten es schwerer, und das Geschäft könne ohne schädliche unbeabsichtigte Folgen durch Agenten wachsen.