Meta führt auf Instagram ein Benachrichtigungssystem ein, das Eltern alertiert, wenn ihre Kinder wiederholt nach Inhalten zu Selbstverletzung und Suizid suchen. Das Feature startet zunächst in USA, UK, Australien und Kanada.
Meta hat angekündigt, dass die Elternkontrolle auf Instagram künftig Benachrichtigungen verschickt, sobald Jugendliche wiederholt nach Begriffen im Zusammenhang mit Selbstverletzung und Suizid suchen. Das System berücksichtigt dabei den zeitlichen Rahmen der Suchanfragen und informiert Eltern nur dann, wenn mehrere Anfragen innerhalb kurzer Zeit erfolgen. Zusätzlich arbeitet der Tech-Konzern an einem ähnlichen Tool, das Eltern über Gespräche ihrer Teenager mit KI-Chatbots zu diesem Thema benachrichtigen soll.
Die Warnmeldungen werden zunächst in den USA, Großbritannien, Australien und Kanada für Eltern verfügbar sein, die Instagrams Elternkontrolle nutzen. Eine weltweite Ausweitung ist für später im Jahr geplant.
Die Initiative erfolgt in einem Moment, in dem Meta unter erheblichem Druck steht. Jahrelang haben Eltern, deren Kinder starben und die einen Zusammenhang mit Social-Media-Nutzung sehen, Congress zur stärkeren Regulierung gedrängt. Parallel laufen derzeit Prozesse in Kalifornien und New Mexico, in denen Meta vorgeworfen wird, Jugendliche absichtlich abhängig zu machen und die Plattform als Tummelplatz für Sexualstraftäter zu fungieren. CEO Mark Zuckerberg wurde im Februar in der kalifornischen Klage von Anwälten verhört, die behaupteten, er habe Instagram bewusst suchtfördernd gestaltet.
Bei der Ankündigung betonte Meta, dass die große Mehrheit der Teenager nicht aktiv nach Inhalten zu Selbstverletzung sucht. Wenn dies dennoch vorkommt, werden solche Suchanfragen blockiert und stattdessen Ressourcen sowie Hilfetelefone angezeigt. Das Benachrichtigungssystem wird durch Phrasen ausgelöst, die Suizid oder Selbstverletzung fördern – nicht nur einzelne Begriffe.
Eltern erhalten die Meldungen per WhatsApp, E-Mail oder SMS und finden in den Benachrichtigungen Ratschläge, wie sie das Gespräch mit ihrem Kind führen können. Meta betont, bewusst eine Balance zu wahren und Benachrichtigungen sparsam einzusetzen, da zu viele Meldungen kontraproduktiv wären. Die Schwellenwerte wurden anhand von Suchmuster-Analysen und Expertengesprächen mit der Suicide and Self-Harm Advisory Group entwickelt. Das Unternehmen räumt ein, dass es manchmal zu Fehlalarmen kommen könnte, sieht dies aber als akzeptabel an – Experten stimmen zu, dass dies der richtige Einstieg ist.
Quelle: The Record