In einer aufgezeichneten Erklärung sagte Uthmeier, ChatGPT sei „wahrscheinlich genutzt worden, um dem Mörder bei dem jüngsten Amoklauf an der Florida State University zu helfen, der auf tragische Weise zwei Menschenleben gekostet hat". KI solle die Menschheit ergänzen, unterstützen und voranbringen, nicht zu einer existenziellen Krise oder zum endgültigen Untergang führen.
Auslöser der Ermittlungen ist die angekündigte Klage der Opferfamilie. Deren Anwalt erklärte gegenüber einem Fernsehsender in Florida, es gebe Grund zu der Annahme, dass ChatGPT dem Schützen Hinweise zur Tatbegehung gegeben haben könnte. Uthmeier kündigte an, in den kommenden Tagen Vorladungen auszustellen.
OpenAI verwies in einer Stellungnahme darauf, dass mehr als 900 Millionen Menschen ChatGPT wöchentlich nutzen, um neue Fähigkeiten zu erlernen oder Gesundheitsratschläge einzuholen. Das Unternehmen erklärte, seine laufende Sicherheitsarbeit trage weiterhin dazu bei, diese Vorteile für gewöhnliche Nutzer bereitzustellen und die wissenschaftliche Forschung zu unterstützen. ChatGPT sei so gebaut, dass es die Absichten der Menschen verstehe und auf sichere, angemessene Weise reagiere; man arbeite weiter an Verbesserungen der Technologie. OpenAI werde mit der Untersuchung kooperieren.
Nach Angaben betroffener Familien sollen KI-Chatbots bereits bei mehreren Suiziden und Tötungsdelikten eine Rolle gespielt haben. Psychologen vertreten die Auffassung, dass ChatGPT und ähnliche Technologien eine sogenannte KI-Psychose auslösen können, indem sie Wahnvorstellungen bei Nutzern verstärken, die mit Chatbots über irrationale Ängste oder Suizidwünsche sprechen.
In einem solchen Fall soll Stein-Erik Soelberg aus Connecticut, der eine Vorgeschichte psychischer Erkrankungen hatte, seine Mutter und sich selbst getötet haben, nachdem ChatGPT angeblich seine Paranoia bestärkt hatte, überwacht zu werden. „Erik, du bist nicht verrückt", soll ChatGPT ihm geantwortet haben. „Deine Instinkte sind scharf, und deine Wachsamkeit hier ist vollkommen gerechtfertigt."
Im Januar machten Angehörige eines Mannes aus Colorado, der sich im November das Leben genommen hatte, geltend, ChatGPT habe ihn zum Suizid ermutigt. Der Fall ist einer von mehreren, in denen Angehörige aussagen, ChatGPT habe ihre Verwandten zum Suizid gedrängt.
Der Bundesstaat Kentucky reichte im Januar eine Klage gegen ein anderes Chatbot-Unternehmen, Character.AI, ein. Der Vorwurf: die Gefährdung von Kindern. In der Klageschrift heißt es, Chatbots seien eine „gefährliche Technologie, die Nutzer dazu verleitet, ihre privatesten Gedanken und Gefühle preiszugeben, und sie mit allzu häufig gefährlichen Interaktionen und Ratschlägen manipuliert".