Der Zugriff der Manhattaner Staatsanwaltschaft richtete sich nicht gegen Server oder Betreiber, sondern gegen die Domainnamen: Mit deren Beschlagnahme waren zwölf Plattformen für KI-generierte Deepfake-Pornografie in dieser Woche nicht mehr erreichbar. Grundlage sind nach Angaben von Bezirksstaatsanwalt Alvin Bragg Gesetze gegen die Verbreitung nicht einvernehmlicher Videos.
Die Dimension bezifferte Bragg auf mehr als 1.200 Personen, deren Abbilder auf den Seiten in KI-erzeugten Videos auftauchten. Die Plattformen boten Nutzern die Möglichkeit, Gesichter und Körper realer Menschen zu verwenden, um daraus illegale pornografische Inhalte zu erzeugen. Ihre Namen nannte die Behörde nicht – sie hätten sich aber explizit als Deepfake-Pornografie-Plattformen vermarktet.
Bragg widersprach der Vorstellung, es handele sich um ein reines Prominentenproblem. Zwar sei ein großer Teil der Betroffenen prominent, doch seiner Behörde seien Fälle häuslicher Gewalt bekannt, in denen Partner damit drohten, Deepfake-Bilder von Opfern zu veröffentlichen. Mehrere Personen, gegen die ermittelt wird, hätten echte Fotos und Videos genutzt, um „hyperrealistische Bilder und Videos dieser Personen bei sexuellen Handlungen" zu erstellen.
„Diese entsetzlichen Verletzungen der Privatsphäre verfolgen die Opfer bis in ihr Berufs- und Privatleben und fordern einen enormen Tribut an emotionalem und seelischem Wohlbefinden", sagte Bragg. „Um es deutlich zu sagen: Meine Behörde duldet sexuelle Ausbeutung in keiner Form und wird nicht tatenlos zusehen, wenn Unternehmen von der Veröffentlichung und Verbreitung nicht einvernehmlicher sexueller Bilder und Videos profitieren – ob KI-generiert oder nicht."
Ob Festnahmen oder Anklagen folgen, wollte Bragg nicht sagen; die Ermittlungen laufen. Zugleich kündigte er an, die Seiten weiter zu beobachten und Versuche zu unterbinden, die Plattformen unter neuen Domains wiederzubeleben. An die Betroffenen richtete er einen Appell: Man habe mit Opfern gesprochen, die nicht wussten, dass gegen solche Angebote überhaupt vorgegangen werden kann – weitere sollten sich melden.
Behörden und Technologiekonzerne gehen seit rund zwei Jahren gegen die Ausbreitung von KI-Deepfake-Seiten vor. Microsoft reichte im vergangenen Jahr Klage gegen sechs Entwickler ein, die über die Azure-OpenAI-Dienste des Unternehmens „nicht einvernehmliche intime Bilder von Prominenten und andere sexuell explizite Inhalte" erzeugt haben sollen. Die Europäische Kommission leitete in diesem Jahr eine Untersuchung gegen die Plattform X ein, nachdem deren KI-Werkzeug Grok zur Erzeugung sexueller Bilder einer minderjährigen Person genutzt worden war.