Lokale Agenten ohne Cloud: Liquid AI setzt mit LFM2.5-2.6B ein Statement

Liquid AI hat mit LFM2.5-2.6B ein Modell vorgestellt, das faehige Agenten komplett on-device laufen laesst – vom Laptop bis zum Handy. Das 2,6-Milliarden-Parameter-Modell unterstuetzt Tool-Calling und Multi-Step-Workflows, bleibt dabei aber unter 2,5 GB Speicher. Auf einem Apple M5 Max erreicht es 220 Token pro Sekunde, auf einer Ryzen-CPU immerhin 113 – und selbst auf dem Handy kommen noch 30 Token/s zusammen. Das reicht fuer echte Agenten-Workloads ganz ohne Cloud-Rechnung.

Trainingstechnisch ist einiges geboten: 34 Token Pre-Training, 128K Kontextlaenge, und ein vierstufiges Post-Training mit SFT, Teacher Specialization, Multi-Domain On-Policy Distillation und schliesslich Agentic RL direkt in echten Agent-Harnesses wie OpenClaw und Hermes Agent. In den Benchmarks schlaegt LFM2.5-2.6B Modelle bis zu vierfacher Groesse bei Instruction Following und Tool Use – nur beim Coding geben sich die groesseren Konkurrenten noch geschlagen. Day-One-Support gibt’s fuer llama.cpp, MLX, vLLM, SGLang und ONNX, GPU-seitig sollen es bis zu 15K Token/s bei hoher Concurrency sein.

Fuer alle, die lokale KI-Agenten deployen wollen, ohne sensible Daten in die Cloud zu schicken, ist LFM2.5-2.6B definitiv einen genaueren Blick wert.