Models
Whistle - Spracherkennung in 16,9 MB, die Whisper base teils schlägt
Cactus Compute, bekannt für das winzige Agenten-Modell Needle, legt mit Whistle ein offenes Speech-to-Text-Modell nach: eine einzige 16,9-MB-Datei, läuft komplett auf der CPU, ohne Abhängigkeiten – gedacht für Smartphones, Wearables, Roboter, Smart Home, Autos und sogar Mikrocontroller.
Was Whistle kann
- Transkription von bis zu 30 Sekunden Audio (16 kHz mono) in Englisch, Deutsch, Französisch, Spanisch, Italienisch, Niederländisch und Polnisch, mit automatischer Spracherkennung
- Wort-Zeitstempel inklusive Wahrscheinlichkeit pro Wort
- Speech-Embeddings direkt aus dem Encoder, ohne Transkript
- Keyword-Biasing für Namen und Fachbegriffe per Aho-Corasick-Automat in der Beam-Search
Architektur und Tempo
Der Encoder mit acht Attention-Blöcken nutzt denselben Code wie Needle, der Decoder liest das Audio über eine gegatete Cross-Attention. Die Decoder-Tiefe lässt sich beim Laden wählen. Time-to-first-Token: 5,9 ms bei 5 Sekunden Audio, 11 ms bei 10 Sekunden. Whisper polstert jede Eingabe auf 30 Sekunden auf und ist entsprechend träger.
Benchmarks
Whistle liegt vorne bei LibriSpeech, SPGISpeech, Earnings-22 und im FLEURS-Schnitt. Whisper base (145 MB) gewinnt bei TED-LIUM, AMI und MLS. Für knapp ein Neuntel der Größe ein starkes Ergebnis.
Der Clou: Sprache direkt zu Tool-Calls
Lädt man Whistle und Needle zusammen, macht ein Binary aus einem Audioclip direkt einen Funktionsaufruf als JSON – “turn off the kitchen lights” wird zu set_lights. Installation per pip install cactus-needle, vorgebaute Engines gibt es für 17 Plattformen von macOS-ARM über Android bis RISC-V und WASI.