LFM2.5-24B-A2B - Liquid AIs Reasoning-MoE für lokale Agents

24 Milliarden Parameter, nur 2 Milliarden aktiv

Liquid AI legt mit LFM2.5-24B-A2B ein Mixture-of-Experts-Modell nach, das explizit für Agents auf dem eigenen Rechner gebaut ist. Pro Token arbeiten nur rund 2B Parameter – das macht jeden Reasoning-Token billig, und gedacht wird vor jeder Antwort immer: Es ist ein reines Reasoning-Modell.

Was sich gegenüber LFM2-24B geändert hat

• Architektur gleich: 40 Layer, 64 Experten pro MoE-Block mit Top-4-Routing, Hybrid aus Gated Short Convolutions und GQA.
• Kontext: von 32K auf 131K Tokens; Vokabular von 65K auf 128K verdoppelt (besser für nicht-lateinische Schriften).
• Training: Pre-Training von ~17T auf ~33T Tokens hochskaliert, plus 2T Tokens Mid-Training und 300B Long-Context-Tokens.
• Post-Training: SFT, zwei Stufen On-Policy-Distillation und Agentic RL direkt in Harnesses wie OpenClaw, Hermes Agent, Pi und OpenCode.

Benchmarks und Tempo

Gegen Qwen3.6-35B-A3B, Gemma-4-26B-A4B und Nemotron-3.5-Lightning hält das kleinste Modell im Feld gut mit: Auf LiveClaw erreicht es 48,09 gegenüber 38,19 bei Qwen, auf AutomationBench mehr als das Dreifache des Zweitplatzierten, dazu Bestwerte bei allen drei Instruction-Following-Tests. Größere Modelle behalten bei Wissensfragen die Nase vorn.

Lokal sind 184 Tokens/s auf einem M5 Max und 114 Tokens/s auf einem Ryzen AI Max+ 395 drin – bei geringstem Speicherbedarf im Vergleich. Unterstützt werden ab Tag eins llama.cpp, MLX, vLLM, SGLang und ONNX; Base- und Instruct-Gewichte sind offen auf Hugging Face verfügbar.

Quelle: Liquid AI auf Hugging Face