Article
Claude Code Extended Thinking: Der Output ist nicht authentisch
Patrick McCanna hat eine kritische Analyse von Claude Codes “Extended Thinking” veröffentlicht, die wichtige Erkenntnisse für AI-Entwickler und Audit-Anwendungen liefert.
Das Problem:
Claude Code speichert Sessions auf Disk, inklusive sogenannter “Thinking Blocks” - das Reasoning des Modells während der Arbeit. McCanna wollte dieses Reasoning inspizieren und fand stattdessen einen <redacted>-Block (600 Zeichen lang) ohne Text.
Die Doku verrät wichtige Details, die leicht zu übersehen sind:
- Extended Thinking gibt eine Zusammenfassung des vollen Denkprozesses zurück, nicht den vollständigen Text
- Das ist vergleichbar mit dem Speichern einer BMP als JPEG und zurück: Die Konversion führt zu Datenverlust
- Die Signature Blocks sind laut Matt Green ebenfalls nicht das, was sie scheinen
Implikationen: Wer einen Audit-Trail für agentisches Verhalten verspricht, muss wissen: Extended Thinking ist kein authentischer Nachweis des Modell-Reasonings. Es ist eine nachträglich generierte Zusammenfassung.
Für Entwickler, die agentische Systeme mit Transparenz-Anforderungen bauen, ist dies ein Wake-up-Call. Wer echte Logs braucht, muss auf andere Mechanismen zurückgreifen - etwa die Aufzeichnung der vollständigen API-Interaktionen oder dedizierte Logging-Systeme.
Anthropics Präsentation der Extended Thinking-Funktion bleibt vage genug, um Missverständnisse zu begünstigen. Der Blogpost ist ein wichtiger Beitrag zur Transparenz über KI-Systeme.
Links: