Article
Vomit - Claude 5s Token-Chaos mit lokalem LLM aufräumen
Claude 5 hat ein bekanntes Problem: Die Token-Ausgabe des Modells ist oft unleserliches Kauderwelsch, das niemand verstehen kann. Der Entwickler Zach Ahn hat dazu ein Tool namens Vomit veröffentlicht, das dieses Problem auf eine pragmatische Weise löst.
Wie Vomit funktioniert
Vomit ist ein in Go geschriebenes CLI-Tool, das Claudes unleserliche Token-Ausgabe nimmt und durch ein lokales LLM jagt, um verständlichen Text zu erzeugen. Das Tool ist vollständig lokal, hat keine Telemetrie und keine externen Abhängigkeiten.
Die Installation ist einfach:
go install github.com/zachahn/vomit@latestinstalliert das Binaryvomit initkonfiguriert die Verbindung zum lokalen LLMvomit scrub -clauderichtet Hooks ein, die Claudes Ausgabe ersetzen
Zwei Modi
Vomit bietet zwei Betriebsmodi. Der invasive Modus ersetzt Claudes Ausgabe direkt über Hooks. Der nicht-invasive Modus läuft parallel und zeigt die übersetzte Ausgabe separat an:
vomit list- Claude-Session-IDs auflistenvomit tail- Tokens für eine Session live übersetzen
Kompatibilität
Das Tool funktioniert mit Llama.app und Ollama sowie jedem LLM, das die OpenAI API implementiert. Als Empfehlung für ein lokales Modell nennt der Autor GPT-OSS 20B über Llama.app.
Einschränkungen
Das lokale LLM sieht nur, was Claude zu kommunizieren versucht - es hat keinen Zugriff auf Dateien oder Aktionen. Daher haluziniert es manchmal. Das Tool ist zudem eher langsam und wurde bisher nur auf macOS getestet. Der Autor gibt selbst zu, dass es “totally vibe-coded” ist.
Trotzdem ist es ein interessanter Ansatz, um das Token-Problem von Claude 5 pragmatisch zu umgehen, ohne auf teure Cloud-LLMs zurückzugreifen.
Original-Quelle: github.com/zachahn/vomit