Cerebras CS-4: Wafer-Scale-Beschleuniger mit 30x GPU-Geschwindigkeit

Cerebras hat mit dem CS-4 die nächste Generation seines Wafer-Scale-AI-Beschleunigers vorgestellt. Das System soll bis zu 30x schneller als GPU-Systeme inference betreiben und dabei bis zu 10x mehr Throughput pro Watt liefern als der Vorgänger CS-3.

Drei Wafer pro System

Der CS-4 nutzt drei WSE-3 Turbo Wafer pro System. Jeder Wafer liefert angeblich die doppelte Geschwindigkeit gegenüber der vorherigen Generation. Die neue Nexus Rack-Scale Platform ermöglicht die schnelle Deployment in Hyperscale-Rechenzentren.

Architektur-Highlights

• Wafer-to-Wafer-Latenz von 2 Mikrosekunden für Modelle mit über 10 Billionen Parametern
• über 1.000 Tokens pro Sekunde bei interaktivem Decode
• Modulares Backpack-Design: Wafer, Power, Cooling und I/O in einem kompakten 3D-Package mit 50% weniger Komponenten
• Power Delivery nur 0,5mm vom Prozessor entfernt (100x näher als konventionelle GPU-Boards)
• Neues programmierbares I/O-Subsystem mit doppelter Bandbreite

Hyperscale-Deployment

Das Cerebras PowerRack kann installiert und qualifiziert werden, bevor die Compute-Backs ankommen. Die Backpacks werden dann eingeschoben und mit Power, Cooling und Data verbunden. Das reduziert die Deployment-Zeit von Tagen auf Stunden.

Die ersten CS-4-Auslieferungen beginnen in diesem Quartal.