Die drei Unternehmen setzen KI bereits in erheblichem Umfang ein. Bei Google werden nach eigenen Angaben 50 Prozent des Codes mit KI-Unterstützung durch Entwickler erzeugt. Vodafone-Analysten automatisieren damit Arbeitsabläufe und erstellen unter anderem Zusammenfassungen technischer Themen für das Management. PayPal nutzt KI laut Khalfan, um bei rund einer Milliarde Transaktionen pro Monat Betrug zu erkennen.
Smith schilderte, dass Vodafone mit dem KI-Einsatz begann, als das Unternehmen merkte, dass es langsamer agierte, als KI es ermöglichen würde. Die korrekte Integration erfordere einen Top-down-Ansatz der Führung, damit alle Beteiligten KI sicher, ethisch und verantwortungsvoll einsetzen. Vodafones Lösung ist “AI Booster”, eine zentrale Machine-Learning-Plattform auf Basis von Google-Technologie, die KI- und ML-Modelle in großem Maßstab ausrollen soll. Sie umfasst eine wiederverwendbare Codebasis für etablierte Anwendungsfälle und verfolgt deren geschäftlichen Erfolg. Smith zufolge dient das auch dazu, dem Privacy-Engineering-Team einen Rahmen für Eingriffe in einzelne Anwendungsfälle und passende Schutzmechanismen zu geben.
Überraschend deutlich fiel die Position zum “Human in the Loop” aus – dem Konzept, an einzelnen oder allen Schritten Menschen einzubinden, um die Ergebnisse eines Sprachmodells zu prüfen. DeSouza erklärte, menschlich geführte Abwehr sei oft zu langsam, um etwa von Agenten gesteuerte Cyberangriffe zu stoppen; Google bewege sich daher in Richtung agentengeführter Verteidigung.
Smith stimmte zu: Ein Mensch in der Schleife sei mit Blick auf traditionelle Sicherheitskontrollen nicht skalierbar. Man verlasse sich am wenigsten auf jene Kontrollen, die menschliches Verhalten voraussetzen, und am stärksten auf technische, automatisierte und über die Zeit nachweisbare Verfahren. Ein “Human in the Loop” sei langfristig keine Lösung, jedenfalls nicht im skalierten Betrieb, und sie befürchte zudem, dass dies dem betroffenen Menschen eine langweilige Aufgabe beschere. Stattdessen sollten Organisationen Wege finden, den Menschen “on the loop” zu bringen – also Erkenntnisse aus der KI zu gewinnen, statt die Werkzeuge zu kontrollieren. Vodafone hat dafür eine Heatmap entwickelt, die das Vertrauen in ein KI-Ergebnis dem möglichen Risiko gegenüberstellt. Bei Anwendungsfällen mit sehr hohem Risiko würde man einen solchen Ansatz nur bei großem geschäftlichem Nutzen verfolgen – und dann “absolut mit einem Menschen in der Schleife”.
Khalfan betonte, alles in eine Datensicherheits-Hülle zu verpacken; ebenso wichtig sei eine Hülle aus Risiko und Compliance. PayPals zentrale KI-Prinzipien seien Daten und Sicherheit, Datenschutz, Transparenz und Erklärbarkeit. Die KI-Modellteams ordnen ihre Modelle in Stufen nach Datensensibilität ein, definieren Anwendungsfälle und legen fest, welche Kontrollen sensible Daten schützen müssen – auch gegen Manipulation und Prompt Injection. Teil davon sei die Zusammenarbeit im breiteren Ökosystem, etwa in der Coalition for Secure AI (CoSAI).
Alexandra Rose, Director of Government Partnerships und der Counter Threat Unit bei Sophos, sagte gegenüber Dark Reading, sicherer KI-Einsatz bedeute, Neugier und Innovation zu fördern und zugleich Sicherheit zu gewährleisten. Sicherheit dürfe nicht “die Welt des Nein” sein; entscheidend sei, wie man zu einem “Ja” komme – und zwar so, dass man geschützt bleibe.