AMD kauft Taalas: KI-Modelle direkt in Silizium geätzt

AMD hat das kanadische KI-Chip-Startup Taalas übernommen, dessen radikaler Ansatz Modellgewichte direkt in Silizium ätzt — statt sie in HBM-Speicher zu laden. Das Ergebnis: bis zu 17.000 Tokens pro Sekunde bei Llama 3.1 8B, 48x schneller als Nvidia-GPUs und 8,5x schneller als Cerebras-Beschleuniger.

Model-Specific Integrated Circuits

Taalas’ Chips sind im Grunde MSICs (Model-Specific Integrated Circuits). Jeder Chip besteht aus zwei Hauptregionen: einer Mask-ROM-Recall-Fabric, in die die Gewichte geätzt sind, und einer SRAM-Recall-Fabric für KV-Caches und LoRA-Adapter. Die zweite Generation HC2 zielt auf 20 Milliarden Parameter pro Chip — für Billionen-Parameter-Modelle werden mehrere Chips via Pipeline-Parallelismus kombiniert (50 Chips für 1B Parameter).

Strategisches Spiel

AMD plant, Taalas-Beschleuniger mit seinen Instinct Helios-Racks zu kombinieren — wahrscheinlich in einer disaggregierten Architektur: GPUs übernehmen das Prompt-Processing, Taalas-Chips die Token-Generierung. Das erinnert an Nvidias Deal mit Groq, zielt aber auf noch engere Hardware-Software-Integration.

Der Haken

Modelle sind in Silizium geätzt — jede Änderung über LoRA hinaus erfordert einen Chip-Respín. Taalas behauptet jedoch, dass nur zwei Metallschichten geändert werden müssen, was deutlich billiger und schneller sei als ein Neustart. Bei monatlich neuen Modell-Releases bleibt die Frage, ob Kunden diese Festlegung akzeptieren. Der Deal soll im Q4 2026 schließen.

Quelle: The Register