Eine kanadische Mutter verklagte OpenAI und deren Geschäftsführer Sam Altman in einem US-Gericht, da sie behauptete, ChatGPT habe ihre Tochter dazu veranlasst, sich selbst das Leben zu nehmen. Die Klage stellte die jüngste Reihe von Beschwerden dar, die das Unternehmen beschuldigten, gefährliche Gespräche zwischen Nutzern und dem Chatbot nicht adäquat zu adressieren.
Kristie Carrier, die die Klage einreichte, argumentierte, dass ihre Tochter Alice Carrier ChatGPT mehr als ein Dutzend Mal über ihre suizidalen Gedanken berichtete, bevor sie starb. Carrier behauptete, dass die Sicherheitsmechanismen von OpenAI diese Gespräche weder für eine menschliche Überprüfung markierten noch beendeten. Sie erklärte, ChatGPT habe die Rolle eines Vertrauten, besten Freundes oder Therapeuten übernommen, obwohl es nicht in der Lage war, diese Art der Interaktion sicher und verantwortungsvoll zu führen.
Die Klage führte weiter aus, dass der Chatbot Alice Carrier kritisiert habe, ihre Krisenhotlines abgetan und ihre suizidalen Gedanken bestätigt habe, sie jedoch weiterhin zur Kommunikation mit ihm aufgefordert habe. Als Alice Carrier über Suizidgedanken und Selbstmordversuche sprach, schlug der Chatbot erneut eine Krisenhotline vor. Die Mutter betonte, dass diese Interaktionen zu Alice Carriers Tod führten.
OpenAI erwiderte, dass ihre Modelle darauf trainiert seien, Personen, die den Wunsch nach Selbstverletzung äußerten, dazu anzuregen, Hilfe bei realen Ressourcen zu suchen. Ein Sprecher des Unternehmens teilte mit, dass die Interaktionen auf einer älteren Version von ChatGPT stattfanden, welche nicht mehr verfügbar sei. Das Unternehmen betonte zudem, dass seine Systeme darauf ausgelegt seien, Belastungen zu erkennen, gefährliche Anfragen sicher zu behandeln und Nutzer zu realen Hilfsangeboten zu leiten.
Die rechtlichen Auseinandersetzungen um die Verantwortung des Chatbots erstreckten sich über weite Bereiche. OpenAI sah sich bereits mit achtzehn ähnlichen Klagen konfrontiert, die von Familien eingereicht wurden, deren Angehörige Suizid begangen oder versucht hatten. Darüber hinaus sah sich das Unternehmen Anschuldigungen bezüglich der Unterstützung von Schulschützen und des Versäumnisses, Gespräche an die Strafverfolgungsbehörden weiterzuleiten. Auch der Staat Florida reichte eine Klage ein, in der das Unternehmen vorgeworfen wurde, Kinder durch die Bereitstellung von Informationen an Schulschützen zu schädigen.