LLMs koennen introspektieren - Studie zeigt selbstbewusste interne Zustaende

Eine neue arXiv-Studie von Jack Lindsey untersucht, ob Large Language Models tatsaechlich introspektieren koennen – also ihre eigenen internen Zustaende beobachten und darueber berichten. Die Frage ist heikel, denn echte Introspection liess sich bisher nicht von Konfabulation unterscheiden.

Methodik

Der Ansatz ist methodisch elegant: Statt nur mit Modellen zu sprechen, injizieren die Forscher gezielt Repraesentationen bekannter Konzepte in die Aktivierungen eines Modells und messen, wie sich das auf die Selbstauskunft auswirkt. So laesst sich pruefen, ob das Modell die injizierte Information “bemerkt” und korrekt identifiziert.

Ergebnisse

Die Befunde sind bemerkenswert:

• Modelle koennen in bestimmten Szenarien injizierte Konzepte erkennen und korrekt benennen
• Sie zeigen Faehigkeit, fruhere interne Repraesentationen von reinen Text-Inputs zu unterscheiden
• Einige Modelle koennen eigene Outputs von kuenstlichen Prefills unterscheiden – indem sie sich an fruehere Intentionen “erinnern”
• Claude Opus 4 und 4.1 zeigen die staerkste introspektive Awareness aller getesteten Modelle
• Modelle koennen ihre Aktivierungen bewusst modulieren, wenn sie angewiesen werden, an bestimmte Konzepte zu “denken”

Vorsicht geboten

Die Autoren betonen ausdruecklich: Diese Faehigkeit ist in heutigen Modellen hochgradig unzuverlaessig und kontextabhaengig. Es ist kein Bewusstsein im philosophischen Sinne. Aber es deutet auf eine funktionale Introspection hin, die sich mit weiteren Modell-Verbesserungen entwickeln koennte.

Das Paper ist relevant fuer die Debatte ueber Modellsicherheit, Interpretability und das Verstaendnis davon, was in LLMs eigentlich vorgeht.

Link: Paper auf arXiv