Hugging Face Modelle auf Microsoft Foundry Managed Compute

Microsoft Build 2026 brachte eine bedeutende Ankündigung für Enterprise-KI: Foundry Managed Compute mit kuratiertem Katalog von Hugging Face Modellen. Ein-Klick-Deployment auf verwalteter GPU-Infrastruktur, mit vorge-stagten Weights in Azure und von Microsoft gebauten und gescannten Runtimes.

Foundry: Eine einheitliche Plattform für alle Modelle

Microsoft Foundry positioniert sich als “Platform as a Service” für agentic AI-Anwendungen. Der Ansatz: Ein einziger Endpunkt für Modelle von Microsoft, OpenAI, Anthropic, Meta, Mistral, DeepSeek und jetzt Hugging Face—mit einheitlichen SDKs für Python, C#, JavaScript und Java.

Dazu kommt der Foundry Agent Service: Multi-Agent-Orchestrierung mit integriertem Gedächtnis, Knowledge Grounding über Foundry IQ, und einem Katalog verbindbarer Tools über Agenten-Protokolle. End-to-End-Tracing, Echtzeit-Monitoring, kontinuierliche Evaluierungen und ein Prompt-Optimizer runden das Angebot ab.

Managed Compute: GPU-Plattform für Open Source

Die dritte Deployment-Option neben Pay-per-Token und Provisioned Throughput: Managed Compute als GPU-Platform-as-a-Service speziell für Open-Source und Custom Models.

Das Konzept: Entwickler definieren Parameter (Anzahl der Parameter, Kontextlänge, Latenz-vs-Throughput-Optimierung), und Foundry kümmert sich um die GPU-Topologie—egal ob die Instanz auf einem oder mehreren Beschleunigern landet.

Unterstützte Runtimes: vLLM, SGLang, TensorRT-LLM, NIM, TEI, llama.cpp. Container-Updates, Runtime-Upgrades und Security-Patches passieren automatisch ohne Neudployment des Modells.

Sicherheit und Governance für Open Source

Das entscheidende Angebot für Enterprise-Kunden: Jedes Modell aus der Hugging Face Collection kommt mit der gleichen Enterprise-Sicherheit, Governance, Observability und Abrechnung wie alle anderen Foundry-Modelle.

• Content Safety Filters
• Task-Adherence Guardrails
• AI Red Teaming Agent für adversarial Testing
• Unified RBAC
• Private Networking
• Azure Policy Integration

Quelle: Hugging Face Blog