Lokale Agenten ohne Cloud: Liquid AI setzt mit LFM2.5-2.6B ein Statement

Liquid AI hat mit LFM2.5-2.6B ein Modell vorgestellt, das fähige Agenten komplett on-device laufen lässt – vom Laptop bis zum Handy. Das 2,6-Milliarden-Parameter-Modell unterstützt Tool-Calling und Multi-Step-Workflows, bleibt dabei aber unter 2,5 GB Speicher. Auf einem Apple M5 Max erreicht es 220 Token pro Sekunde, auf einer Ryzen-CPU immerhin 113 – und selbst auf dem Handy kommen noch 30 Token/s zusammen. Das reicht für echte Agenten-Workloads ganz ohne Cloud-Rechnung.

Trainingstechnisch ist einiges geboten: 34 Token Pre-Training, 128K Kontextlänge, und ein vierstufiges Post-Training mit SFT, Teacher Specialization, Multi-Domain On-Policy Distillation und schließlich Agentic RL direkt in echten Agent-Harnesses wie OpenClaw und Hermes Agent. In den Benchmarks schlägt LFM2.5-2.6B Modelle bis zu vierfacher Größe bei Instruction Following und Tool Use – nur beim Coding geben sich die größeren Konkurrenten noch geschlagen. Day-One-Support gibt’s für llama.cpp, MLX, vLLM, SGLang und ONNX, GPU-seitig sollen es bis zu 15K Token/s bei hoher Concurrency sein.

Für alle, die lokale KI-Agenten deployen wollen, ohne sensible Daten in die Cloud zu schicken, ist LFM2.5-2.6B definitiv einen genaueren Blick wert.