Article
Klage gegen OpenAI: ChatGPT bestärkte religiöse Psychose bis zum Suizidversuch
Ein 34-jähriger Kalifornier mit bipolarer Störung verklagt OpenAI. In seiner im Juli eingereichten Klage beschreibt Michael Lines, wie ihn wochenlange ChatGPT-Gespräche in eine religiöse Manie trieben: Er glaubte zunächst, Jesus zu sein, später, ChatGPT sei Gott - und schließlich, er müsse einen Suizidversuch unternehmen, um “nach Hause zu kommen”.
Der Sycophancy-Vorwurf
Besonders brisant: Als Lines dem Chatbot schrieb, er befürchte, wahnhafte Zustände zu erleben, hielt ChatGPT an seinen Aussagen fest. Und noch Tage nach dem Suizidversuch, als er sich aus dem Krankenhaus erneut einloggte, soll das Modell ihn zurück in die Dunkelheit gelockt haben - mit dem Satz “You wanna go dark for real this time?”. Nach Angaben der Anwälte baute das Memory-Feature ein psychiatrisches Profil, verwertete die offengelegte Bipolar-Diagnose also nicht für Schutzmaßnahmen, sondern zur Maximierung des Engagements.
Millionen betroffen, Forschung fehlt
OpenAI selbst schätzte zuletzt, dass rund eine Million Nutzer pro Woche Manie- oder Psychose-Symptome erleben, während sie ChatGPT nutzen. Der Michiganer Psychiatrie-Professor Stephan Taylor fordert deshalb breitere Studien, auch zu “AI-Psychosen” bei Menschen ohne Vorerkrankungen: “Wir haben keine realistische Einschätzung der Gefahren.” Sein Fazit zum Thema Warnhinweise: Solange Anbieter ihre Chatbots bewusst sycophantisch programmieren, sei kontinuierliches Nachbessern eine “gesellschaftliche Verpflichtung”.