AnyLanguageModel 1.0: Ein Swift-API für lokale und gehostete Modelle

Ein Interface, viele Modelle

AnyLanguageModel setzt auf Apples Foundation-Models-API und lässt dahinter das Modell austauschen. Ein Jahr nach dem Start ist die Version 1.0 erschienen, zusammen mit swift-huggingface 1.0 und swift-xet 1.0 für beschleunigte Modell-Downloads vom Hub. Die Umstellung bestehender Apps beginnt mit einem geänderten Import.

Was 1.0 kann

• Lokal: Systemmodell, llama.cpp, MLX und Core ML
• Gehostet: OpenAI (Chat Completions und Responses), Open Responses, Anthropic Messages API mit Adaptive Thinking, Google Gemini, Ollama, Private Cloud Compute (OS 27) sowie Hugging Face Inference Providers und OpenAI-kompatible Endpunkte wie OpenRouter
• Tool Calling und Guided Generation funktionieren mit jedem Provider, auch mit verschachtelten @Generable-Typen
• Bilder lassen sich an Prompts hängen
• Reasoning ist Teil des Transcripts und wird beim Providerwechsel weggelassen, wenn der neue Anbieter es nicht wiedergeben kann
• API-Keys kommen über eine Closure, damit Apps kurzlebige Tokens vom eigenen Server holen können
• Läuft auch unter Linux

Passende Modelle

Als Einstieg nennt der Beitrag kleine Open-Weight-Modelle: Gemma 4 E2B (GGUF, ca. 3,4 GB) und LFM2.5 2.6B (ca. 1,7 GB) passen auf ein iPhone, Qwen3.8 27B für MLX (ca. 16 GB bei 4 Bit) braucht einen Mac mit mindestens 32 GB. Größere Modelle wie GLM-5.3 laufen über Inference Providers mit demselben Session-Code. Als Nächstes sind Modelle für Entscheidungen und Audio angekündigt.

Quelle: Hugging Face Blog