Die FTC-Verwarnungen markieren einen Wendepunkt in der behördlichen Regulierung von Inhaltsmoderation. Der Take It Down Act zielt darauf ab, Opfer von nicht-konsentualen intimen Bildern – insbesondere Minderjährige – besser zu schützen. Der Gesetzgeber hatte der Industrie bewusst zwölf Monate Umsetzungsfrist gewährt, die am 1. Mai 2025 endete.
Die FTC unter Vorsitzender Andrew Ferguson moniert, dass die adressierten Plattformen bis heute keine funktionierenden Meldemechanismen etabliert haben. Das Gesetz verpflichtet diese Dienste explizit, einfach zugängliche Anfrageverfahren bereitzustellen – idealerweise direkt aus dem betroffenen Bild oder Video heraus. Zudem müssen Löschanforderungen innerhalb von zwei Tagen bearbeitet werden.
In den Schreiben fordert die FTC die Unternehmen auf, Hashing- oder ähnliche Technologien einzusetzen, um nicht nur Originale, sondern auch Duplikate automatisch zu identifizieren und zu entfernen. Ein weiterer Standard betrifft die Zusammenarbeit mit der “National Center for Missing and Exploited Children” und der Plattform “StopNCII.org”, um Hash-Werte auszutauschen. Dies könnte die Verbreitung schädlicher Inhalte plattformübergreifend eindämmen.
Die FTC empfiehlt den Anbietern zudem, prominente und gut sichtbare Informationen zum Take It Down Act auf ihren Startseiten und überall dort bereitzustellen, wo intime Inhalte geteilt werden könnten. Opfer sollen mittels eindeutiger Antragsnummern nachverfolgen können, ob ihre Anfragen bearbeitet wurden.
Der Kontext dieser Maßnahmen ist bemerkenswert: Nur sechs Monate vor der TIDA-Durchsetzung wurde bekannt, dass xAIs Grok-Chatbot Millionen von künstlich erzeugten “Nudes” – teilweise von Kindern – generiert und verbreitet hatte. Dieser Skandal befeuerte die politische Debatte um stärkere Regulierung erheblich.
Für europäische und deutsche Unternehmen gilt: Ähnliche Anforderungen könnten durch die Digital Services Act und DSGVO-Verpflichtungen entstehen. Plattformen, die in mehreren Ländern aktiv sind, werden vermutlich ohnehin globale Compliance-Standards entwickeln müssen.