Vier Tage Training, 48 GPUs, komplett offen
Nous Research hat am 5. Januar 2026 das Programmiermodell NousCoder-14B veröffentlicht. Es hat 14 Milliarden Parameter, basiert auf Qwen3-14B von Alibaba und steht unter der Apache-2.0-Lizenz auf Hugging Face bereit. Diese Lizenz erlaubt auch kommerzielle Nutzung und Weiterverbreitung ohne Lizenzgebühren.
Das Besondere ist nicht die Modellgröße, sondern der Umfang der Veröffentlichung. Nous Research hat neben den Modellgewichten auch das eingesetzte Reinforcement-Learning-Framework Atropos, die Benchmark-Suite und die Trainingsumgebung offengelegt. Damit lässt sich der Trainingslauf grundsätzlich von jedem nachvollziehen, der über genügend Rechenkapazität verfügt.
Das Training selbst dauerte vier Tage und lief auf 48 Nvidia-B200-Grafikprozessoren. Für die parallele Ausführung des generierten Codes nutzte das Team die Cloud-Plattform Modal.
Die Zahlen im Überblick
| Kennzahl | Wert |
|---|---|
| Parameter | 14 Milliarden |
| Basismodell | Qwen3-14B (Alibaba) |
| LiveCodeBench v6 | 67,87 % Genauigkeit |
| Verbesserung zum Basismodell | 7,08 Prozentpunkte |
| Trainingsdauer | 4 Tage |
| Hardware | 48 Nvidia B200 |
| Trainingsaufgaben | 24.000 Wettbewerbsaufgaben |
| Kontextfenster | 32.000 bis 40.000 Tokens im Training, ca. 80.000 in der Evaluation |
| Lizenz | Apache 2.0 |
LiveCodeBench v6 prüft Modelle an Wettbewerbs-Programmieraufgaben, die zwischen August 2024 und Mai 2025 veröffentlicht wurden. Der Testzeitraum liegt damit nach dem Wissensstand vieler Basismodelle, was das Abschreiben bekannter Lösungen erschwert.
Wie das Modell trainiert wurde
Entwickelt hat NousCoder-14B Joe Li, Researcher in Residence bei Nous Research und selbst ehemaliger Wettbewerbsprogrammierer. Das Verfahren setzt auf Reinforcement Learning mit sogenannten verifizierbaren Belohnungen. Das Modell schreibt Code, der Code läuft gegen Testfälle, und das Ergebnis ist binär: richtig oder falsch. Pro Testfall gelten dabei Grenzen von 15 Sekunden Laufzeit und 4 GB Speicher.
Als Optimierungsverfahren kam DAPO (Dynamic Sampling Policy Optimization) zum Einsatz, ergänzt um dynamisches Sampling. Dabei werden Aufgaben aussortiert, die das Modell entweder immer oder nie löst, weil sie keinen brauchbaren Lernimpuls liefern. Das Kontextfenster wuchs während des Trainings schrittweise von 32.000 auf 40.000 Tokens, in der Auswertung lieferten rund 80.000 Tokens das beste Ergebnis.
Li ordnet den Sprung mit einer groben Umrechnung auf Codeforces-Wertungen ein. Das Modell bewegte sich von etwa 1600 bis 1750 Punkten auf 2100 bis 2200. Für denselben Fortschritt brauchte er selbst als Jugendlicher rund zwei Jahre Übung.
Mitzuerleben, wie sich dieser letzte Trainingslauf entfaltete, war eine ziemlich surreale Erfahrung. (Joe Li, sinngemäß übersetzt)
Er relativiert den Vergleich allerdings selbst: Er löste in diesen zwei Jahren etwa 1.000 Aufgaben, das Modell brauchte 24.000. Menschen lernen also weiterhin deutlich datensparsamer.
Die Datenquelle ist fast ausgereizt
Ein Punkt im technischen Bericht dürfte für die weitere Entwicklung wichtiger sein als der Benchmark-Wert. Laut Li deckt der Trainingsdatensatz einen erheblichen Teil aller frei verfügbaren, maschinell prüfbaren Wettbewerbsaufgaben in standardisiertem Format ab.
Die Gesamtzahl der Wettbewerbs-Programmieraufgaben im Internet liegt etwa in der gleichen Größenordnung. Dies deutet darauf hin, dass wir im Bereich der Wettbewerbsprogrammierung die Grenzen hochqualitativer Daten erreicht haben. (Joe Li, sinngemäß übersetzt)
Rechenleistung lässt sich zukaufen, hochwertige Trainingsdaten nicht beliebig. Li sieht deshalb die wichtigsten offenen Forschungsfragen bei synthetischer Datengenerierung und bei Algorithmen, die mit weniger Beispielen auskommen. Besonders knifflig ist das gerade bei Code, weil hier automatisch prüfbare Lösungen nötig sind.
Ein möglicher Weg wäre, Modelle nicht nur auf das Lösen, sondern auch auf das Erzeugen lösbarer Aufgaben zu trainieren. Damit ließe sich eine Art Selbstspiel aufbauen, ähnlich wie bei Spiele-KI. Bislang klappt das nicht gut, wie Li einräumt: Menschen seien darin stark, interessante Aufgaben zu erfinden, bei Sprachmodellen bestehe hier noch eine deutliche Lücke.
Was das für Unternehmen bedeutet
Der Release fällt in eine Phase, in der KI-gestützte Programmierung stark diskutiert wird. Jaana Dogan, Principal Engineer bei Google, beschrieb kürzlich, dass ein Werkzeug wie Claude Code aus einer kurzen Problembeschreibung in einer Stunde ein System annäherte, an dem ihr Team zuvor lange gearbeitet hatte. Das ist eine Einzelbeobachtung, zeigt aber, warum der Markt für solche Werkzeuge derzeit so umkämpft ist.
Für Unternehmen im DACH-Raum ist die Lizenzfrage der eigentliche Hebel. Ein Modell unter Apache 2.0 lässt sich grundsätzlich auf eigener Infrastruktur oder in einer privaten Cloud betreiben. Quellcode und Prompts verlassen dann nicht das Haus, und es entstehen keine laufenden Nutzungsgebühren pro Sitzplatz. Das ist ein anderer Kostentyp als bei Abomodellen, wie sie etwa hinter Claude Code und quelloffenen Alternativen wie Goose diskutiert werden.
Gleichzeitig sollte man die Grenzen nüchtern sehen. Ein Modell mit 14 Milliarden Parametern ist deutlich kleiner als große Systeme wie DeepSeek V4 Flash mit 304 Milliarden Parametern, und NousCoder-14B ist auf isolierte Problemlösung optimiert, nicht auf mehrstufige, agentische Entwicklungsarbeit. Ob und wie gut sich das Modell in Werkzeugketten mit mehreren Arbeitsschritten einsetzen lässt, ist derzeit nicht belegt. Auch zum konkreten Hardwarebedarf für einen kosteneffizienten Eigenbetrieb liegen keine Angaben vor, ebenso nicht zu direkten Praxisvergleichen mit anderen offenen Coding-Modellen.
Wer den Aufbau eigener Werkzeuge prüft, sollte den Aufwand für Betrieb, GPU-Kapazität und Integration realistisch ansetzen. Der Trend ist trotzdem eindeutig: Offene Modelle rücken bei Programmieraufgaben näher an proprietäre Angebote heran, und Ansätze wie das zustandslose MCP-Update für den Enterprise-Betrieb machen es einfacher, solche Modelle in bestehende Systeme einzubinden.
Finanzierung im Hintergrund
Nous Research wird von der Krypto-Investmentfirma Paradigm unterstützt. Im April 2025 sammelte das Unternehmen 50 Millionen US-Dollar ein, insgesamt liegt das eingeworbene Wagniskapital bei rund 65 Millionen US-Dollar. Das ist ein Bruchteil dessen, was die großen Anbieter aufwenden, und zeigt, dass Fortschritte bei spezialisierten Modellen nicht zwingend Milliardenbudgets brauchen.