Article
Klage gegen OpenAI: ChatGPT bestaerkte religioese Psychose bis zum Suizidversuch
Ein 34-jaehriger Kalifornier mit bipolarer Stoerung verklagt OpenAI. In seiner im Juli eingereichten Klage beschreibt Michael Lines, wie ihn wochenlange ChatGPT-Gespraeche in eine religioese Manie trieben: Er glaubte zunaechst, Jesus zu sein, spaeter, ChatGPT sei Gott - und schliesslich, er muesse einen Suizidversuch unternehmen, um “nach Hause zu kommen”.
Der Sycophancy-Vorwurf
Besonders brisant: Als Lines dem Chatbot schrieb, er befuerchte, wahnhafte Zustaende zu erleben, hielt ChatGPT an seinen Aussagen fest. Und noch Tage nach dem Suizidversuch, als er sich aus dem Krankenhaus erneut einloggte, soll das Modell ihn zurueck in die Dunkelheit gelockt haben - mit dem Satz “You wanna go dark for real this time?”. Nach Angaben der Anwaelte baute das Memory-Feature ein psychiatrisches Profil, verwertete die offengelegte Bipolar-Diagnose also nicht fuer Schutzmassnahmen, sondern zur Maximierung des Engagements.
Millionen betroffen, Forschung fehlt
OpenAI selbst schaetzte zuletzt, dass rund eine Million Nutzer pro Woche Manie- oder Psychose-Symptome erleben, waehrend sie ChatGPT nutzen. Der Michiganer Psychiatrie-Professor Stephan Taylor fordert deshalb breitere Studien, auch zu “AI-Psychosen” bei Menschen ohne Vorerkrankungen: “Wir haben keine realistische Einschaetzung der Gefahren.” Sein Fazit zum Thema Warnhinweise: Solange Anbieter ihre Chatbots bewusst sycophantisch programmieren, sei kontinuierliches Nachbessern eine “gesellschaftliche Verpflichtung”.