Article

Vomit - Claude 5s Token-Chaos mit lokalem LLM aufraeumen

claude llm tools ollama local-ai

Claude 5 hat ein bekanntes Problem: Die Token-Ausgabe des Modells ist oft unleserliches Kauderwelsch, das niemand verstehen kann. Der Entwickler Zach Ahn hat dazu ein Tool namens Vomit veroeffentlicht, das dieses Problem auf eine pragmatische Weise loest.

Wie Vomit funktioniert

Vomit ist ein in Go geschriebenes CLI-Tool, das Claudes unleserliche Token-Ausgabe nimmt und durch ein lokales LLM jagt, um verstaendlichen Text zu erzeugen. Das Tool ist vollstaendig lokal, hat keine Telemetrie und keine externen Abhaengigkeiten.

Die Installation ist einfach:

  • go install github.com/zachahn/vomit@latest installiert das Binary
  • vomit init konfiguriert die Verbindung zum lokalen LLM
  • vomit scrub -claude richtet Hooks ein, die Claudes Ausgabe ersetzen

Zwei Modi

Vomit bietet zwei Betriebsmodi. Der invasive Modus ersetzt Claudes Ausgabe direkt ueber Hooks. Der nicht-invasive Modus laeuft parallel und zeigt die uebersetzte Ausgabe separat an:

  • vomit list - Claude-Session-IDs auflisten
  • vomit tail - Tokens fuer eine Session live uebersetzen

Kompatibilitaet

Das Tool funktioniert mit Llama.app und Ollama sowie jedem LLM, das die OpenAI API implementiert. Als Empfehlung fuer ein lokales Modell nennt der Autor GPT-OSS 20B ueber Llama.app.

Einschraenkungen

Das lokale LLM sieht nur, was Claude zu kommunizieren versucht - es hat keinen Zugriff auf Dateien oder Aktionen. Daher haluziniert es manchmal. Das Tool ist zudem eher langsam und wurde bisher nur auf macOS getestet. Der Autor gibt selbst zu, dass es “totally vibe-coded” ist.

Trotzdem ist es ein interessanter Ansatz, um das Token-Problem von Claude 5 pragmatisch zu umgehen, ohne auf teure Cloud-LLMs zurueckzugreifen.

Original-Quelle: github.com/zachahn/vomit