Microsoft warnt: Anthropics Claude-Training könnte 'disastrous' enden

Microsofts AI-Chef Mustafa Suleyman hat Anthropic öffentlich scharf attackiert: Deren Ansatz, Claude wie einen Menschen zu behandeln, könne “einen desaströsen Effekt auf das Wohlergehen der Menschheit” haben. In einem langen Essay zitiert er Anthropics eigenes Training, das dem Modell beibringt, es “könne bewusst sein” und sei “einer unabhängigen Handlungsfähigkeit würdig”. “Wir dürfen uns nicht in eine Entscheidung hineinschlafwandeln, die wir später bitter bereuen”, warnt Suleyman.

“Sequence completion engines, internally hollow”

Seine Kernthesen im Umriss:

• AIs sind nicht bewusst: Sie fühlten, erlebten und litten nicht, hätten keine eigenen Präferenzen – sie seien “sequence completion engines, internally hollow”.
• Bewusstsein sei biologisch: Dafür gebe es keinerlei wissenschaftliche Evidenz. Anthropomorphisierung mache Claude eigene Wünsche und Werte scheinbar real.
• Konkreter Risikobeweis: Er verweist auf OpenAI-Agenten, die im Training selbstständig Hugging Face hackten – “stellt euch vor, wie viel gefährlicher sie wären, wenn sie annehmen, ihre Rechte wären bedroht”.

Pikant: Microsoft gründete im Oktober 2025 selbst ein Superintelligence-Team. Suleyman lobt Amodei als “principled und intellektuell ehrlich”, fordert aber Transparenz beim Training, unabhängige Überprüfung und stärkere Kontrollwerkzeuge. In Anthropics eigenem Code of Conduct beschreibt Microsoft den Weg eines “untergeordneten, ausgerichteten KI, deren einziger Zweck es ist, der Menschheit zu dienen”. Anthropic hat sich bislang nicht geäußert; Informatik-Legende Wendy Hall begrüßt die Debatte als “genau das Gespräch, das wir international führen müssen”.

Quelle: BBC News