OpenCode mit Ollama: Lokale LLM-Entwicklung in Docker-Sandboxen auf dem Mac

Lokale LLM-Entwicklung ist auf Apple Silicon inzwischen produktiv einsetzbar. Ein neuer Guide von Tensors & Tokens beschreibt das komplette Setup aus OpenCode, Ollama und Docker Sandboxes (sbx) auf einem MacBook Pro M5 mit 48 GB RAM – laut Autor der Sweet Spot, weil 30B-Modelle mit anständigem Kontext laufen.

Das Setup im Überblick:

• Ollama als Modell-Server: einfach zu bedienen, stabil, mit MLX-Backend schnell auf Apple Silicon
• OpenCode als Agent-Harness, installiert via Homebrew
• Docker Sandboxes (sbx) isolieren den Agenten vom Host – eine Halluzination kann so nichts kaputt machen

Zwei Modelle, zwei Jobs: Qwen 3.8 27B (mxfp8, rund 32 GB) als Workhorse für lange, ununterbrochene Sessions, Gemma 4 31B (mxfp8) für Deep Reasoning mit 256K Kontext.

Interessant sind die Details: Ein sbx-Kit mit spec.yaml beschränkt die Netzwerk-Freigaben auf localhost:11434 und die Dev-Ports, die OpenCode-Config zeigt auf host.docker.internal:11434/v1, und den Qwen-Kontext limitiert der Autor bewusst auf 64K, damit das System bei langen Sessions nicht einfriert. Gestartet wird alles mit sbx run opencode --kit ./sbx-kit/, der Reasoning-Effort wird per /models-Kommando auf low gestellt.

Ein sauber dokumentiertes Referenz-Setup für alle, die Coding-Agents komplett offline betreiben wollen.

Link: tensorsandtokens.com