Cory Doctorow: Wir halluzinieren die Person hinter der KI

Wer hier wirklich halluziniert

Cory Doctorow dreht die Debatte um KI-“Halluzinationen” in seinem Essay “The Claude Delusion” um: Die gravierenderen Halluzinationen produzieren nicht die Sprachmodelle, sondern deren Nutzer. Wir imputieren reflexartig Intention und einen Geist in alles, was wie ein Produkt eines Geistes aussieht. Ein Sonnenuntergang kann atemberaubend sein, aber niemand hat ihn “gewählt” - und genau so, argumentiert Doctorow, verhält es sich mit KI-Texten: Sie werden “extrudiert, nicht gewählt”.

Warum der Zauber verblasst

• Neuigkeit skaliert die Beeindruckung: Das anfängliche Staunen (“der tanzende Bär tanzt überhaupt!”) entsteht aus dem Kontrast zwischen Erwartung und Output - und es nutzt sich ab.
• Glätte ist das Problem: KI-Prosa wirkt zunehmend banal, weil sie die “Textur” vermissen lässt, die Experten in einem Werk erkennen.
• Fachwissen immunisiert: Je mehr man von einem Gebiet versteht, desto durchschaubarer die Antworten.

Zwei Hürden bleiben: Laien unterscheiden nicht zwischen Absicht und Zufall bei fremden Tätigkeiten - und Milliardäre, so Doctorow böse, hielten chatbots ohnehin für personenähnlich, weil sie die meisten Menschen selbst nicht als vollwertige Personen betrachten. Sein Fazit: Chatbots sind mathematische Wunderwerke - und das genügt völlig.

Original: Pluralistic - The Claude Delusion