Models
HybridAgents: Latent denken, per Text handeln
Idee
LLM-Agenten denken und handeln heute über Text. Latentes Reasoning ist effizienter, hat aber keinen nativen Tool-Zugriff und ist schwer nachvollziehbar. Das neue Paper „Hybrid Reasoning Agents“ (Zou, Qi, Chen, Bianchi, Zhu, Lu, He und Zou; Code bei Together Computer) verbindet beides: Der Agent wechselt in einem einzigen Generierungsprozess dynamisch zwischen latentem Denken und textbasierter Interaktion.
Aufbau
- HybridLink: ein leichtes Modul für den Wechsel zwischen Text- und Latent-Modus.
- Kontinuierliches Arbeitsgedächtnis: hält den hybriden Kontext über mehrere Turns verlustfrei.
- Inspizierbarkeit: latente Gedanken bleiben direkt einsehbar, Tool-Nutzung bleibt erhalten.
- Training: HybridSFT bringt dem Backbone die Zusammenarbeit mit dem HybridLink bei, HybridRL lernt, wann latent gedacht und wann per Text gehandelt wird.
Zahlen
Getestet mit drei Modellgrößen auf 11 Benchmarks (Mathematik, Naturwissenschaft, Medizin, Suche, agentisches Reasoning). Gegenüber starken Text- und Latent-Agenten steigt die Leistung laut Autoren um 10,4 %, bei 35,5 bis 54,7 % weniger Tokens, 1,8- bis 2,6-facher Geschwindigkeit und 2,7- bis 3,7-fach geringeren Kosten. Das sind Angaben der Autoren; unabhängige Reproduktionen stehen aus.