Models

Liquid AI veroeffentlicht LFM2.5-VL-3B: Vision-Sprachmodell fuer Edge-Geraete

liquid-ai vision edge

Liquid AI hat mit LFM2.5-VL-3B sein bisher fähigstes Vision-Sprach-Modell vorgestellt, das direkt auf eigener Hardware läuft. Das kompakte Modell mit rund 3,1 Milliarden Parametern richtet sich an Edge-Anwendungen und versteht sowohl Dokumente als auch digitale Bildschirme. Es kann Objekte per Natural-Language-Queries lokalisieren (Grounding), mehrere Bilder gleichzeitig verarbeiten und Werkzeuge über Function Calling aufrufen. Im Gegensatz zu vielen Konkurrenten verzichtet es auf explizite Reasoning-Schritte und antwortet direkt, was die Latenz für Echtzeit- und On-Device-Anwendungen gering hält.

Architektonisch kombiniert LFM2.5-VL-3B einen SigLIP2-400M-NaFlex-Vision-Encoder mit dem Backbone des LFM2.5-2.6B-Textmodells. Das Pre-Training umfasst etwa 34 Billionen Tokens, wobei die Menge an Vision-Daten im Vergleich zum Vorgänger vervierfacht wurde. Der Tokenizer wurde auf 128K Vokabular erweitert, um auch nicht-lateinische Schriften zu unterstützen. Das Post-Training erfolgt in zwei Stufen: Supervised Fine-Tuning mit Knowledge Distillation sowie Multi-Reward Reinforcement Learning.

In den Benchmarks führt das Modell seine Größenklasse bei realen Bildaufgaben an und erreicht starke Werte bei OCR, Dokumentverstehen und Screen-Understanding. Auf einem M5 Max dekodiert es 228 Tokens/s, auf einer Galaxy S26 Ultra noch 20 Tokens/s bei rund 3 GB Speicherbedarf. Auf der GPU erreicht es etwa 11.000 Tokens/s Output bei hoher Nebenläufigkeit. Unterstützt werden llama.cpp, MLX, vLLM, SGLang und ONNX.

Originalartikel auf huggingface.co