Metas Muse Glimmer: Lokales, agentenbasiertes und multimodales Open-Source-Modell

Meta hat mit Muse Glimmer ein neues multimodales KI-Modell veroeffentlicht, das speziell fuer den lokalen und agentenbasierten Einsatz konzipiert ist. Das von Muse auf 30 Milliarden Parameter destillierte Modell steht unter der Apache-2.0-Lizenz und richtet sich an datenschutzorientierte Anwendungen wie Programmierung, Dokumentanalyse und persoenliche Assistenten.

Die Architektur besteht aus einem 28-Milliarden-Parameter-Textdecoder und einem 2-Milliarden-Parameter-ViT-basierten Perception Encoder fuer Bild- und Videoverarbeitung. Der Textdecoder nutzt hybride Aufmerksamkeit mit abwechselnden Sliding-Window- und Full-Attention-Schichten sowie Gated Grouped-Query Attention, die den KV-Cache um das 16-fache reduziert. Ein optionaler DFlash-Speculative-Decoding-Drafter beschleunigt die Generierung strukturierter Inhalte wie Code.

Muse Glimmer unterstuetzt Text-, Bild- und Videoeingaben sowie multimodales Tool Calling und Objekterkennung. Ab Tag eins ist das Modell in transformers, llama.cpp, vLLM und Inference Endpoints verfuegbar und laeuft auf NVIDIA-, AMD- und Intel-GPUs. Die Kombination aus offener Lizenz, kompakten 30 Milliarden Parametern und lokaler Ausfuehrbarkeit macht es besonders fuer Cloud-unabhaengige Deployments attraktiv.