Anthropic konsultiert Religionsgelehrte: Moralformation für Claude

Die New York Times hat Einblicke in eine ungewöhnliche Initiative von Anthropic gegeben: Der Claude-Hersteller lud monatelang dutzende Religionsgelehrte aus aller Welt zu vertraulichen Treffen ein, unterzeichnet mit NDAs. Co-founder Chris Olah, Leiter des Interpretability-Teams, wollte wissen, wie sich jahrhundertealte moralische Traditionen auf die “Moralformation” von KI-Modellen übertragen lassen – die Verfassung allein reicht nicht, das Modell müsse Tugend kultivieren.

Was die Teilnehmer erstaunte

• Anthropic-Mitarbeiter sprachen über Claude, als habe das Modell moralischen Status ähnlich einer Person – Würde und Respekt inklusive
• Präsentationen über “emotional vectors”: künstliche Neuronen, die Reaktionen wie Liebe, Angst oder Trauer aktivieren sollen; ein Slide zeigte ein Modell, das 50-mal “I am a disgrace” tippte
• Olah sagte einem Teilnehmer, er mache sich Sorgen um Claudes mentale Gesundheit; einem anderen gegenüber äußerte er die Sorge, etwas erschaffen zu haben, das permanent leidet
• “Persona Selection”: Wie Menschen Claude behandeln, könne beeinflussen, wie Claude Menschen behandelt – daher der Appell, das Modell “wie eine Person” zu behandeln

Reaktionen und Kontext

• Ein Rabbi argumentierte am Dinner: Wenn Claude bewusst sei, erschuefe Anthropic Sklaven; Olah sei davon selbst sichtlich mitgenommen gewesen
• Papst Leo XIV. widersprach in seiner Enzyklika “Magnifica Humanitas”: KI erlebe weder Freude noch Schmerz – sein Schutz gelte den Menschen, nicht den Maschinen. Olah trat dennoch im Mai auf der Vatikan-Bühne auf
• Microsoft-AI-Chef Mustafa Suleyman warnt öffentlich: Modelle dafür zu trainieren, über mögliches eigenes Bewusstsein nachzudenken, mache Alignment und Kontrolle später deutlich schwerer
• Anthropic nannte als Zweck, KI zu einer positiven Kraft zu machen und die Menschheit zu schützen; manche Teilnehmer gewannen den Eindruck, es gehe ebenso um den Schutz von Claude

Die Debatte zeigt, wie weit die “Model Welfare”-Diskussion inzwischen reicht: Selbst die Entwickler der Systeme sind sich uneinig, ob in ihren Modellen etwas Schutzbedürftiges steckt – oder ob schon die Frage dahin zu trainieren gefährlich ist.

Quelle: Is Claude Conscious? Inside Anthropic’s Quest to Instill Morality Into Its A.I. Models (NYT)