ByteDance greift die Spitze der Modellentwicklung an
ByteDance trainiert ein Sprachmodell mit bis zu 10 Billionen Parametern. Das Modell befindet sich noch im Frühstadium des Pre-Trainings, also der ersten und rechenintensivsten Trainingsphase, in der ein Modell aus großen Datenmengen Grundfähigkeiten aufbaut. Diese Phase dauert branchenüblich drei bis sechs Monate, danach folgen Feinabstimmung und, sofern alles funktioniert, die Veröffentlichung.
Die endgültige Parameterzahl wird erst in einer späteren Trainingsphase festgelegt. Auch Name und Veröffentlichungstermin stehen bislang nicht fest. Belastbare Benchmark-Ergebnisse gibt es entsprechend noch nicht. Auf eine Presseanfrage hat das Unternehmen nicht reagiert.
Zum Vergleich: Das Modell wäre etwa dreimal so groß wie Kimi K3 von Moonshot, dem bislang größten veröffentlichten chinesischen Modell. Anthropic nennt die Größe seiner eigenen Modelle offiziell nicht. Branchenschätzungen gehen von rund 8 Billionen Parametern für Mythos 5 und rund 5 Billionen für Fable 5 aus.
| Modell | Anbieter | Parameter (geschätzt) |
|---|---|---|
| Unbenanntes Modell (im Training) | ByteDance | bis zu 10 Billionen |
| Mythos 5 | Anthropic | ca. 8 Billionen |
| Fable 5 | Anthropic | ca. 5 Billionen |
| Kimi K3 | Moonshot | ca. ein Drittel des ByteDance-Modells |
Die Parameterzahl beschreibt vor allem die Kapazität eines Modells, Wissen zu speichern. Sie sagt allein nichts über die tatsächliche Leistung aus. Datenqualität, Trainingsmethode und Nachbearbeitung entscheiden mindestens genauso stark darüber, ob ein großes Modell in der Praxis brauchbar ist.
Kein Nachbauen fremder Modelle
Bemerkenswert ist der methodische Ansatz. ByteDance verzichtet seit mehr als einem Jahr auf Distillation. Damit ist das Verfahren gemeint, ein großes Modell in ein kleineres zu komprimieren, indem das kleinere Modell darauf trainiert wird, die Ausgaben des größeren nachzuahmen. Wird dafür ein fremdes Modell als Lehrer genutzt, spart das enorm viel Aufwand, begrenzt aber die eigene Obergrenze.
Genau darin sehen Teile des Managements den Punkt: Nur eigenständige Entwicklung könne am Ende ein Modell hervorbringen, das die Konkurrenz übertrifft. Einige Beobachter halten diesen Verzicht für einen Grund, warum ByteDance in den vergangenen Monaten langsamer vorankam als Wettbewerber.
Gründer Zhang Yiming gab dem Modellteam bei einem internen Treffen vor zwei Wochen sinngemäß vor, langfristig auf weltweit führende Modellfähigkeiten zu zielen und sich über kurzfristige Rückstände nicht zu sehr zu sorgen.
Verantwortlich ist das Team "Seed" unter Leitung des früheren Google-DeepMind-Wissenschaftlers Wu Yonghui. Es umfasst rund 2.000 Personen in China und im Ausland, darunter Forscher, Infrastruktur-Ingenieure, ein Team für Datenannotation und Übersetzer. Parallel baut ByteDance seine Rechenzentren aus und plant eigene KI-Chips, ein Weg, den auch Anthropic mit einem eigenen Chipdesign-Team eingeschlagen hat.
Geschlossene Modelle, verkauft über die Cloud-Sparte
Anders als viele chinesische Wettbewerber hält ByteDance seine Modelle überwiegend geschlossen. Der Vertrieb an Unternehmen läuft über die Cloud-Sparte Volcano Engine. Im Endkundenmarkt ist Doubao mit 324 Millionen monatlich aktiven Nutzern das populärste KI-Modell Chinas.
Damit unterscheidet sich der Kurs deutlich von Anbietern wie DeepSeek oder Alibaba, die einen Teil ihrer Modelle als offene Gewichte veröffentlichen. Zuletzt hat etwa DeepSeek V4 Flash mit 304 Mrd. Parametern als Open Weights für Aufmerksamkeit gesorgt. ByteDance verfolgt das Gegenteil: maximale Modellgröße, minimale Offenheit.
Ob und wie das neue Modell außerhalb Chinas oder in Europa angeboten wird, ist nicht bekannt. Für Unternehmen im DACH-Raum wäre das ohnehin die entscheidende Frage, denn beim Einsatz chinesischer Enterprise-Angebote stehen DSGVO, Auftragsverarbeitung und Compliance-Anforderungen im Vordergrund, nicht der Benchmark-Wert.
Was das für die Praxis bedeutet
Ein Modell dieser Größenordnung lässt sich in keinem normalen Unternehmen selbst betreiben. Wer 10 Billionen Parameter im Haus laufen lassen will, braucht Rechenkapazität in einer Dimension, die für die meisten Firmen weder technisch noch finanziell erreichbar ist. Frontier-Modelle bleiben damit ein API-Geschäft, mit allen Abhängigkeiten, die dazugehören.
Der praktische Effekt liegt woanders. Je mehr Anbieter an der Leistungsspitze mitspielen, desto stärker der Preisdruck auf Modell-Abos und API-Tarife. Dass die technologische Führung nicht mehr allein bei US-Labs liegt, zeigt sich bereits daran, wie stark chinesische Open-Weight-Modelle die US-Anbieter unter Druck setzen.
Für die Praxis heißt das: Die teuren Spitzenmodelle bleiben sinnvoll für die harten Fälle, während sich ein großer Teil der Alltagsaufgaben mit deutlich kleineren, offen verfügbaren Modellen erledigen lässt. Wer beides kombiniert und die Wahl des Modells pro Aufgabe steuert, senkt die Kosten und reduziert gleichzeitig die Abhängigkeit von einem einzelnen Anbieter. Genau dieses Muster zeigt sich auch bei Unternehmen, die inzwischen einen erheblichen Teil ihres Entwicklerbudgets für Tokens ausgeben.