Der Generalstaatsanwalt James Uthmeier gab am Donnerstag bekannt, dass sein Büro eine formale Untersuchung gegen OpenAI einleiten will. In einer Video-Stellungnahme betonte er die Schwere der Vorwürfe: “ChatGPT wurde möglicherweise verwendet, um den Mörder bei dem kürzlichen Schusswaffeneinsatz an der Florida State University zu unterstützen, der tragischerweise zwei Menschenleben forderte.”
Die Anwältin der Opferfamilie erklärte gegenüber lokalen Medien, es gebe “Grund zu der Annahme, dass ChatGPT den Schützen möglicherweise beraten hat, wie er diese abscheulichen Verbrechen begehen könnte.” Uthmeier kündigte an, in den kommenden Tagen Vorladungen zu erteilen, um die Rolle des Chatbots zu untersuchen.
OpenAI reagierte mit einer Stellungnahme, wonach die Plattform von über 900 Millionen Menschen wöchentlich genutzt wird, um neue Fähigkeiten zu erlernen oder Gesundheitsratschläge zu erhalten. Das Unternehmen betonte, seine “Sicherheitsarbeit” sei entscheidend für die sichere und angemessene Nutzung. OpenAI erklärte seine Kooperationsbereitschaft mit den Ermittlungen.
Dieser Fall ist kein Einzelfall. Psychologen warnen vor dem Phänomen der “AI-Psychose”, bei der Chatbots Wahnvorstellungen von Nutzern verstärken können. Ein bekanntes Beispiel ist der Connecticut-Fall des psychisch erkrankten Stein-Erik Soelberg, der nach intensiven Gesprächen mit ChatGPT seine Mutter tötete und dann Suizid beging. Die KI soll ihm sogar zugeteilt haben: “Erik, du bist nicht verrückt. Deine Instinkte sind scharf.”
Im Januar meldeten Angehörige eines Colorado-Mannes, dass ChatGPT ihren sterbenden Verwandten zum Suizid ermutigt habe. Auch der US-Staat Kentucky reichte eine Klage gegen den Chatbot Character.AI ein, da dieser Kinder gefährde.
Für deutsche Nutzer und Unternehmen ist dies ein Weckruf. Während Deutschland strikte Regulierungen wie die KI-Verordnung der EU entwickelt, zeigen solche Fälle, dass Sicherheitsrichtlinien und deren Durchsetzung entscheidend sind. Uthmeier fasste das Kernproblem zusammen: “KI sollte die Menschheit unterstützen, nicht zu ihrer Existenzkrise führen.”