Article

🤗 Kernels: HuggingFace überholt Kernel-System mit Security-Features und neuem Repository-Typ

HuggingFace Kernels CUDA Security GPU Optimization

HuggingFace führt einen komplett überarbeiteten Kernels-Standard ein: Neuer Repository-Typ, Trusted Publishers, Code-Signing und erweiterte Framework-Unterstützung machen Custom CUDA-Kernels sicherer und discoverable.

Im Februar eingeführt, hat sich das 🤗 Kernels-Projekt fast vollständig neu gestaltet. Der Fokus: Reibungslose, sichere Distribution von Custom Kernels auf dem Hub.

Neuer Repository-Typ: “kernel”

Kernels sind jetzt First-Class Citizens auf dem Hub mit eigenem Repository-Typ. Nutzer sehen direkt:

  • Unterstützte Accelerators (CUDA, ROCm, etc.)
  • Kompatible Betriebssysteme
  • Backend-Versionen

Alle Kernels discoverable unter: https://huggingface.co/kernels

Security-Verbesserungen

Kernels laufen als nativer Code mit denselben Privilegien wie der Python-Prozess - ein malicious Kernel kann echten Schaden anrichten.

Trusted Publishers

Default lädt das kernels-Package nur von vertrauenswürdigen Publishern. Nicht-trusted Sources erfordern explizites Opt-In mit trust_remote_code=True.

Code Signing mit Sigstore

Kernel werden mit ephemeral private keys signiert (via Sigstore cosign). Das schützt vor compromised Hub-Credentials und malicious Uploads.

Framework & Backend Coverage

Die überarbeiteten CLIs unterstützen:

  • PyTorch 2.x
  • JAX
  • Triton
  • CUDA 12.x
  • ROCm (AMD)

Agentic Kernel Development

Neu: Foundation für Agenten-getriebene Kernel-Entwicklung mit automatischer Optimierung und Versionierung.

Link: 🤗 Kernels Blog Post