IBM Granite 4.2: Reasoning-fokussierte Local LLMs für Enterprise

IBM hat mit Granite 4.2 die neueste Generation seiner Open-Weight-Sprachmodelle veröffentlicht. Die Familie kommt in drei Größen: 3B, 8B und 30B Parameter - alle als Decoder-only-Architektur mit nativem 128K-Token Context Window.

Reasoning als Kernstück

IBM selbst nennt Granite 4.2 die “reasoning-focused release” der Familie. Chain-of-Thought-Fähigkeiten sollen funktionales Schließen über mehrere Zwischenschritte ermöglichen - bewusste Understanding gibt es natürlich nicht, aber die Modelle können Zwischenergebnisse weiterreichen. Das bedeutet genauere Antworten, aber langsamere Inference und höheren Compute-Bedarf.

Agentische Fähigkeiten

Die 8B- und 30B-Varianten durchlaufen ein agentic Reinforcement Learning Training. Sie können Terminals bedienen, Web-Suche durchführen und externe Tools nutzen. Das 3B-Modell unterstützt Tools ebenfalls, aber ohne das spezialisierte RL-Training.

Lokale Deployment als Strategie

Granite ist nicht die schnellste oder innovativste Modellfamilie - IBMs Pitch ist vorhersehbares Deployment. Vor dem Hintergrund steigender API-Kosten bei Anthropic und OpenAI gewinnen lokale Modelle an Attraktivität. Granite lässt sich über Ollama direkt auf macOS oder Linux pullen, ohne per-token Gebühren. Model-Router, die Prompts anhand von Komplexität auf passende Modelle verteilen, werden zunehmend relevant.

Die Modelle richten sich an Unternehmen, Entwickler und Hobbyisten, die lokale Hardware nutzen wollen - ähnlich wie Nvidias Nemotron, aber mit IBM-typischem Fokus auf Vorhersehbarkeit statt Rohleistung.

Originalquelle: Ars Technica