Article

Vomit - Claude 5s Token-Chaos mit lokalem LLM aufräumen

claude llm tools ollama local-ai

Claude 5 hat ein bekanntes Problem: Die Token-Ausgabe des Modells ist oft unleserliches Kauderwelsch, das niemand verstehen kann. Der Entwickler Zach Ahn hat dazu ein Tool namens Vomit veröffentlicht, das dieses Problem auf eine pragmatische Weise löst.

Wie Vomit funktioniert

Vomit ist ein in Go geschriebenes CLI-Tool, das Claudes unleserliche Token-Ausgabe nimmt und durch ein lokales LLM jagt, um verständlichen Text zu erzeugen. Das Tool ist vollständig lokal, hat keine Telemetrie und keine externen Abhängigkeiten.

Die Installation ist einfach:

  • go install github.com/zachahn/vomit@latest installiert das Binary
  • vomit init konfiguriert die Verbindung zum lokalen LLM
  • vomit scrub -claude richtet Hooks ein, die Claudes Ausgabe ersetzen

Zwei Modi

Vomit bietet zwei Betriebsmodi. Der invasive Modus ersetzt Claudes Ausgabe direkt über Hooks. Der nicht-invasive Modus läuft parallel und zeigt die übersetzte Ausgabe separat an:

  • vomit list - Claude-Session-IDs auflisten
  • vomit tail - Tokens für eine Session live übersetzen

Kompatibilität

Das Tool funktioniert mit Llama.app und Ollama sowie jedem LLM, das die OpenAI API implementiert. Als Empfehlung für ein lokales Modell nennt der Autor GPT-OSS 20B über Llama.app.

Einschränkungen

Das lokale LLM sieht nur, was Claude zu kommunizieren versucht - es hat keinen Zugriff auf Dateien oder Aktionen. Daher haluziniert es manchmal. Das Tool ist zudem eher langsam und wurde bisher nur auf macOS getestet. Der Autor gibt selbst zu, dass es “totally vibe-coded” ist.

Trotzdem ist es ein interessanter Ansatz, um das Token-Problem von Claude 5 pragmatisch zu umgehen, ohne auf teure Cloud-LLMs zurückzugreifen.

Original-Quelle: github.com/zachahn/vomit