Cerebras beschleunigt KI-Inferenz mit dem CS-4
Cerebras hat mit dem WSE-3T eine schnellere Variante seines Wafer Scale Engine vorgestellt. Der Beschleuniger nutzt weiterhin denselben 5-nm-Prozess und dieselbe Chipfläche wie der WSE-3, wird aber mit höherer Leistung und Taktrate betrieben.
Zusammen mit dem modularen CS-4-Racksystem soll der Chip bei großen Sprachmodellen bis zu 4.400 Token pro Sekunde und Nutzer erzeugen. Der Schwerpunkt liegt dabei auf der Decode-Phase, also der schrittweisen Erzeugung der Antwort nach der Verarbeitung des Prompts.
WSE-3T verdoppelt Bandbreite und Rechenleistung
Der WSE-3T besteht aus 4 Billionen Transistoren und 900.000 Rechenkernen. Die Fläche beträgt 46.225 mm². Jeder Chip verfügt über 44 GB SRAM, einen besonders schnellen Speicher direkt auf dem Beschleuniger.
| Eigenschaft | WSE-3 | WSE-3T |
|---|---|---|
| Fertigungsprozess | TSMC 5 nm | TSMC 5 nm |
| Transistoren | 4 Billionen | 4 Billionen |
| Rechenkerne | 900.000 | 900.000 |
| SRAM | 44 GB | 44 GB |
| Sparse FP16 | 125 PFLOPS | 250 PFLOPS |
| Dense FP16 | 12,5 PFLOPS | geschätzt 25 PFLOPS |
| Speicherbandbreite | 21,6 PB/s | 43,2 PB/s |
| Chip-zu-Chip-Bandbreite | 1,2 Tbps | 2,4 Tbps |
Die beworbene Spitzenleistung von 250 PFLOPS basiert auf Sparse FP16. Bei dieser Berechnung werden nicht benötigte oder mit null belegte Rechenoperationen übersprungen. Für die dichte FP16-Berechnung ohne diesen Vorteil liegt die Leistung schätzungsweise bei 25 PFLOPS.
Cerebras hat keine offizielle Taktrate genannt. Eine Verdopplung von etwa 1,4 GHz auf 2,8 GHz gilt als Schätzung und nicht als bestätigte technische Spezifikation. Gleiches gilt für eine angenommene Leistungsaufnahme von rund 33 kW auf Wafer-Ebene.
Drei Beschleuniger pro CS-4-Rack
Das CS-4 löst die bisher stärker monolithische Bauweise durch ein modulares Rack-Konzept ab. Bis zu drei Beschleuniger-Module, von Cerebras als Backpacks bezeichnet, lassen sich in einem Rack betreiben. Damit stehen insgesamt 132 GB SRAM zur Verfügung.
Für größere Modelle können mehrere Systeme über Pipeline-Parallelität verbunden werden. Dabei werden die Modellgewichte auf verschiedene Beschleuniger verteilt und nacheinander verarbeitet. Cerebras verzichtet auf separate Netzwerk-Switche und verbindet die Systeme direkt in einer zweidimensionalen Torus-Struktur.
Die Latenz zwischen den Beschleunigern soll dadurch von 5 auf 2 Mikrosekunden sinken. Die Chip-zu-Chip-Bandbreite steigt gleichzeitig auf 2,4 Tbps.
Der zentrale Vorteil des CS-4 liegt nicht allein in der Rechenleistung. Entscheidend ist die Kombination aus sehr schnellem SRAM, niedriger Verbindungslatenz und einer auf die Token-Erzeugung spezialisierten Architektur.
AWS und AMD übernehmen die Prompt-Verarbeitung
Cerebras setzt bei der Inferenz auf eine aufgeteilte Architektur. Die rechenintensive Verarbeitung des Eingabekontexts, auch Prefill genannt, kann auf AWS Trainium-XPUs oder AMD Instinct-GPUs ausgelagert werden. Die WSE-3T-Chips übernehmen anschließend das Decode und erzeugen die Antwort Token für Token.
Diese Trennung erlaubt es, unterschiedliche Hardware für die jeweiligen Arbeitsschritte einzusetzen. Nach Angaben von Cerebras soll die Plattform Modelle mit bis zu 50 Billionen Parametern unterstützen. Dafür sind je nach Modellgröße und Zahlenformat mehrere Systeme erforderlich.
Benchmark zeigt deutlichen Abstand zu GPU-Diensten
Bei gpt-oss-120b erreichte ein CS-4-System laut Artificial Analysis bis zu 4.400 Token pro Sekunde und Nutzer. Aktuelle schnelle GPU-Dienste kommen im genannten Vergleich auf rund 350 Token pro Sekunde.
| Plattform | Modell | Geschwindigkeit pro Nutzer |
|---|---|---|
| Cerebras CS-4 | gpt-oss-120b | bis zu 4.400 Token/s |
| Schnelle GPU-Dienste im Vergleich | gpt-oss-120b | rund 350 Token/s |
Die Werte beschreiben den Durchsatz unter den jeweiligen Testbedingungen. Sie sagen noch nichts über Anschaffungs-, Energie- oder Betriebskosten aus. Cerebras nennt bislang keine Preise für die CS-4-Systeme.
Der Hersteller arbeitet bereits als Beschleuniger für besonders schnelle Modellangebote. Ein Beispiel ist OpenAI Ultrafast mit GPT-5.6 Sol auf Cerebras-Hardware. Die ersten CS-4-Systeme sollen noch im laufenden Quartal in Betrieb gehen.
Hohe Leistungsdichte begrenzt den Einsatz im DACH-Raum
Für Rechenzentren in Deutschland, Österreich und der Schweiz ist vor allem die Leistungsdichte relevant. Die gesamte Aufnahme eines voll bestückten Racks wird auf 120 bis 140 kW geschätzt. Cerebras selbst hat diese Werte nicht offiziell bestätigt.
Eine solche Dichte stellt hohe Anforderungen an Stromzuführung, Wärmeabfuhr und Flüssigkühlung. In klassischen Enterprise-Rechenzentren ist die notwendige Infrastruktur häufig nicht ohne Umbauten verfügbar. Neben den Beschleunigern müssen deshalb auch Gebäudetechnik und Netzanschluss in die Planung einbezogen werden.
Wann CS-4 über europäische Cloud-Anbieter oder Distributoren erhältlich sein wird, ist bislang offen. Auch belastbare Angaben zu Betriebs- und Nutzungskosten fehlen. Ein hoher Token-Durchsatz führt nicht automatisch zu niedrigeren Gesamtkosten, wenn Energiebedarf und Infrastrukturaufwand überproportional steigen.
Alternative zu einheitlichen GPU-Stacks
Die Architektur zeigt, wie sich KI-Inferenz in spezialisierte Verarbeitungsschritte zerlegen lässt. Unternehmen müssen Prefill und Decode nicht zwingend auf identischer Hardware ausführen. Dadurch entsteht eine Alternative zu vollständig Nvidia-basierten Cloud-Stacks und den damit verbundenen Anbieterabhängigkeiten.
Besonders für große Open-Source-Modelle kann ein solcher Ansatz interessant sein, wenn niedrige Latenzen oder ein sehr hoher Durchsatz geschäftskritisch sind. Ob sich der Betrieb wirtschaftlich rechnet, hängt jedoch von Auslastung, Stromkosten, Kühlung und den noch unbekannten Preisen ab.
Die Kostenfrage gewinnt zusätzlich an Bedeutung, weil KI-Agenten die Inferenzkosten erheblich erhöhen könnten. Das CS-4 eröffnet hier eine weitere technische Option, ersetzt aber keine vollständige Wirtschaftlichkeitsrechnung für den eigenen Betrieb oder einen spezialisierten Cloud-Dienst.