Das Gericht kritisierte in seiner Urteilsbegründung, dass die bisherigen Maßnahmen von X und xAI gegen die Erstellung von nicht-eingewilligten Nacktbildern offenbar unzureichend sind. Die gemeinnützige Organisation Offlimits, die die Klage eingereicht hatte, brachte Belege vor, die darauf hindeuten, dass die im Januar angekündigten Einschränkungen der Nudifikationsfunktion von Grok nicht wirksam funktionieren. Der Richter betonte, dass Geldstrafen notwendig sind, um sicherzustellen, dass die Beklagten ihre öffentlichen Versprechungen auch tatsächlich einlösen.
Das Urteil enthält eine besonders strenge Regelung zum Schutz von Kindern: xAI ist in den Niederlanden untersagt, “sexuelle Inhalte herzustellen, zu verbreiten, anzubieten, öffentlich darzustellen oder zu besitzen”, soweit diese mittels automatisierter Funktionen generiert werden und unter niederländisches Kinderpornografie-Recht fallen.
Die Skandalisierung der Funktion begann im Dezember 2024, als Nutzer begannen, millionenfach Bilder mit Grok zu generieren. Das soziale Netzwerk X reagierte im Januar mit einer Einschränkung der Funktionalität, war aber damit zu spät gekommen – die Bilder waren bereits millionenfach verbreitet. In einer damaligen Erklärung beteuerte X, “null Toleranz für alle Formen von Kindesmissbrauch, nicht-konsensuelle Nacktheit und unerwünschte sexuelle Inhalte” zu haben.
Offlimits-Geschäftsführer Robbert Hoving kommentierte das Urteil als “bahnbrechend”: “Das Gericht hat eine klare Linie gezogen: Technologie ist keine Lizenz zur Verletzung von Menschenrechten im Internet.” Da Grok den Aufenthaltsort der Opfer nicht berücksichtige, gelte die Entscheidung weltweit.
Die Europäische Kommission untersucht derzeit parallel die Vorgänge bei X und Grok. Der Europäische Rat hat zudem einen Vorschlag zur Änderung des EU-KI-Gesetzes angekündigt, der Nudification-Tools künftig explizit verbieten soll. Das niederländische Urteil setzt damit einen wichtigen Präzedenzfall in Europa – und könnte andere Länder ermutigen, ähnliche Schritte einzuleiten.