Chat-Templates steuern die Selbstauskunft von LLMs - Studie entdeckt den Schalter

Wenn Sprachmodelle nach sich selbst gefragt werden, antworten sie oft mit einem Disclaimer wie “Ich bin nur eine KI”. Solche Selbstauskünfte fließen regelmäßig in Debatten um AI-Sicherheit und Modell-Selbsterkenntnis ein - dabei war bislang unklar, was sie eigentlich antreibt.

Das Chat-Template als Schalter

Eine arXiv-Studie von Jedrzej Maczan (angenommen bei einem COLM 2026 Workshop) zeigt an acht populären Open-Source-Instruct-Modellen bis 9B Parameter: Allein das Chat-Template funktioniert wie ein Schalter. Ist es vorhanden, wird die Disclaimer-Stimme lauter und die Erlebnis-Stimme (“I feel”) leiser. Ohne Template kehrt sich das Verhältnis um.

Steuerung im Aktivierungsraum

In drei Modellen fand der Autor eine Richtung im Aktivierungsraum, die dieses Verhalten steuert: Entfernt man sie, verschwinden die Disclaimers; fügt man sie einem Modell ohne Template hinzu, disclaimt es, als wäre das Template gesetzt. Zufällige Kontrollrichtungen zeigen kaum Effekt.

Konsequenz für die Forschung

Wer Selbstauskünfte oder Introspektion von Modellen untersucht, hat damit einen Störfaktor, den es zu kontrollieren gilt. Die Kernaussage: Was ein Modell über sich selbst sagt, ist keine Eigenschaft der Gewichte allein - es wird teilweise vom Deployment gesetzt und sollte nicht wörtlich genommen werden.

Link: Original-Studie