US-Senator nimmt acht Tech-Konzerne wegen lückenhafter CSAM-Meldungen unter die Lupe

Auslöser der Untersuchung sind Vorwürfe des NCMEC, das die Meldungen der Konzerne als qualitativ mangelhaft einstuft. Demnach hätten die Unternehmen unter anderem versäumt, CSAM im Zusammenhang mit dem Training von KI-Modellen zu melden, und über „sadistische Online-Ausbeutung von Kindern“ nicht berichtet.

Das NCMEC erklärte in einer an Grassley übermittelten Stellungnahme, es arbeite seit fast dreißig Jahren daran, Plattformen dazu zu bewegen, sexuelle Ausbeutung von Kindern auf ihren Diensten zu erkennen, zu melden und zu entfernen sowie die Qualität und den Gehalt ihrer Meldungen an die CyberTipline zu verbessern.

Viele große Technologiekonzerne rühmten sich regelmäßig mit der Zahl ihrer Meldungen an die CyberTipline, verschwiegen aber, dass Millionen dieser Hinweise grundlegende Informationen vermissen ließen, so das NCMEC weiter. Dadurch blieben Kinder online ungeschützt, würden Betroffene erneut zu Opfern gemacht, könnten Täter unbehelligt im Netz bleiben und würden ohnehin knappe Ressourcen der Strafverfolgung verschwendet.

Grassley zeigt sich der Pressemitteilung zufolge „alarmiert“ über die ihm vom NCMEC übermittelten Informationen. Er verpflichtet die acht Firmen, zu den Vorwürfen Stellung zu nehmen und detailliert darzulegen, wie sie ihren Umgang mit den Hinweisen in diesem Jahr weiterentwickeln wollen. Zugleich legte der Senator Statistiken vor, die das Zusammenwirken jedes einzelnen Unternehmens mit dem NCMEC im Jahr 2025 dokumentieren.

Mehrere der betroffenen Firmen äußerten sich zu der Untersuchung. Roblox’ Chief Safety Officer erklärte, das Unternehmen prüfe derzeit Grassleys Schreiben und sei einem konstruktiven Austausch mit dem Senatsbüro und dem NCMEC verpflichtet. Ein Meta-Sprecher bezeichnete die Ausbeutung von Kindern als „grauenhaftes Verbrechen“ und verwies darauf, dass bereits Verbesserungen vorgenommen worden seien, was das NCMEC anerkannt habe.

Discord verwies auf eine „langjährige, kooperative Beziehung“ zum NCMEC und einen regelmäßigen Austausch zur Erfüllung der Meldepflichten. Snap erklärte, man nehme Grassleys Bedenken ernst und habe Schritte unternommen, um die Meldeprozesse zu stärken, die Datenqualität zu verbessern und der Strafverfolgung verwertbare Informationen bereitzustellen.

Ein Grindr-Sprecher betonte, der Dienst sei ausschließlich für Erwachsene ab 18 Jahren bestimmt; das Unternehmen unterhalte ein umfangreiches Moderationsteam, das Konten auf Geräteebene sperre, wenn dort Themen mit Bezug zu Minderjährigen besprochen würden, und setze KI- sowie Machine-Learning-Technik ein, um ähnliche Konten proaktiv zu erkennen und zu sperren. Die übrigen beteiligten Unternehmen reagierten zunächst nicht auf eine Bitte um Stellungnahme.