Open-Weight-Modell ersetzt teure Standard-APIs
Revolut hat seine KI-Infrastruktur für rund 2.000 Softwareentwickler grundlegend umgebaut. Das britische Fintech setzt für die meisten Coding-Aufgaben inzwischen auf das selbst betriebene Open-Weight-Modell GLM-5.3 von Z.ai. Kommerzielle Dienste wie Claude Code, Codex und Gemini bleiben verfügbar, sind aber nicht mehr der Standard.
Nach Angaben des Unternehmens sind die Inferenzkosten dadurch innerhalb von weniger als einem Jahr um rund 90 % gesunken. Self-Hosting von GLM-5.1 kostete Revolut demnach etwa 0,30 US-Dollar pro Million verarbeiteter Ein- und Ausgabe-Token. Das entsprach ungefähr einem Zehntel der damaligen Kosten von Codex oder Claude Code.
| Kennzahl | Angabe von Revolut |
|---|---|
| Senkung der Inferenzkosten | rund 90 % |
| Kosten bei GLM-5.1 | etwa 0,30 US-Dollar je Million Ein- und Ausgabe-Token |
| Versorgte Entwickler | rund 2.000 |
| Verbesserung der Coding-Zeit | 60 % |
| Verbesserung der Durchlaufzeit | 70 % |
| Produktive Infrastruktur | 56 Nvidia B200 GPUs |
Ähnliche Kosteneffekte hatte bereits Aiven mit einem Open-Weight-Modell gemeldet. Solche Angaben sind allerdings nur bedingt vergleichbar. Modellqualität, Auslastung, Kontextlänge und Infrastrukturkosten unterscheiden sich je nach Anwendung erheblich.
Günstige Token verändern die Nutzung
Vor dem Wechsel hatte Revolut mit Gemini und Claude Code experimentiert. Einzelne Entwickler verursachten dabei laut Unternehmen monatliche Kosten von 1.000 bis 10.000 US-Dollar, ohne dass sich der wirtschaftliche Nutzen immer klar belegen ließ. Deshalb führte das Fintech zunächst strenge Token-Limits ein.
Diese Begrenzung hatte einen unerwünschten Nebeneffekt. Entwickler sparten Token für vermeintlich anspruchsvolle Aufgaben und nutzten die Werkzeuge seltener für alltägliche Arbeiten. Mit weitgehend kalkulierbaren Self-Hosting-Kosten kamen die Modelle dagegen häufiger beim Debugging sowie bei Jira- und Confluence-Vorgängen zum Einsatz.
Mit praktisch unbegrenzten Token muss die Nutzung nicht mehr für besonders schwierige Aufgaben aufgespart werden, erklärte Revolut sinngemäß.
Der größte Produktivitätsgewinn entstand damit nicht zwingend beim Schreiben von Code. Wichtiger war die Automatisierung von Nebenarbeiten, die Entwicklungsprozesse regelmäßig verlangsamen. Das deckt sich mit der breiteren Beobachtung, dass der Nutzen von Coding-Agenten stark von Prozessen und Kostenkontrolle abhängt. Anthropic hat dafür inzwischen ein eigenes Kosten-Reporting für Claude Code eingeführt.
56 Nvidia B200 GPUs für GLM-5.3
GLM-5.1 besitzt rund 754 Milliarden Parameter, von denen bei der Erzeugung eines Tokens etwa 40 Milliarden aktiviert werden. Allein die Modellgewichte benötigen ungefähr 380 GB GPU-Speicher. Hinzu kommen je nach Genauigkeit und Kontext weitere 6 bis 26 GB pro Nutzer.
Für GLM-5.3 betreibt Revolut 56 Nvidia B200 GPUs. Das entspricht der GPU-Anzahl von sieben DGX-B200-Systemen mit jeweils acht Beschleunigern. Die reine Zahl der GPUs war nach Angaben des Unternehmens jedoch nicht der wichtigste Leistungsfaktor.
Revolut optimierte unter anderem die Modellparameter, die Kontextlänge und die Quantisierung. Bei der Quantisierung werden Zahlenwerte mit geringerer Genauigkeit gespeichert, um Speicherbedarf und Rechenaufwand zu reduzieren. Zudem trennte das Unternehmen die Verarbeitung des Eingabekontexts von der anschließenden Token-Erzeugung, damit beide Arbeitsschritte unabhängig skaliert werden können.
| Technische Kennzahl | Erreichter Wert |
|---|---|
| Praktisch genutzte Kontextlänge | rund 256.000 Token |
| Zeit bis zum ersten Token | unter 3 Sekunden |
| Interaktive Ausgabe | rund 200 Token pro Sekunde |
| Ausgabe bei niedriger Auslastung | bis zu 800 Token pro Sekunde |
Eine Million Token sind nicht automatisch sinnvoll
Obwohl das Modell Kontextfenster mit bis zu einer Million Token unterstützt, nutzt Revolut im Alltag etwa 256.000 Token. Größere Fenster erhöhen den Speicherbedarf und verlängern die Verarbeitung. Technisch mögliche Kontextlängen sind deshalb kein verlässlicher Maßstab für den praktischen Nutzen.
Sehr lange Kontexte seien häufig eine Mogelpackung. Entscheidend sei, die tatsächlich benötigte Länge sorgfältig zu bestimmen, so die sinngemäße Aussage des Infrastrukturverantwortlichen.
Für die Akzeptanz war vor allem die Reaktionszeit relevant. Unter drei Sekunden bis zum ersten Token erwiesen sich als brauchbarer Zielwert. Die maximale Ausgabegeschwindigkeit spielte eine geringere Rolle, weil Entwickler mehrere Aufgaben parallel starten und später deren Ergebnisse prüfen.
Modell-Routing statt vollständiger Ablösung
GLM-5.3 hat Claude, GPT und Gemini bei Revolut nicht vollständig ersetzt. Das eingesetzte GLM-Modell verarbeitet ausschließlich Text und eignet sich deshalb weniger für Benutzeroberflächen oder andere visuelle Aufgaben. Ein Modell-Router leitet solche Anfragen an Gemini oder GPT Luna weiter, während GLM den Großteil der Codegenerierung übernimmt.
Dieser Ansatz kombiniert eine günstige Basisversorgung mit gezieltem Zugriff auf kommerzielle Spitzenmodelle. Auch LegalOn konnte durch Modell-Routing die Codex-Kosten um 65 % senken. Für Unternehmen ist das häufig realistischer als die vollständige Festlegung auf ein einziges Modell.
Self-Hosting senkt Abhängigkeit, aber nicht jeden Aufwand
Open Weights bedeutet, dass die Modellgewichte verfügbar sind und auf eigener Infrastruktur ausgeführt werden können. Das ist nicht automatisch mit vollständig quelloffener Software gleichzusetzen. Lizenzbedingungen, Trainingsdaten und technische Komponenten müssen separat geprüft werden.
Für Unternehmen im DACH-Raum bietet der Betrieb im eigenen Rechenzentrum oder in einer regionalen Cloud klare Vorteile bei Datenkontrolle und Kostenplanung. Quellcode und interne Dokumente müssen nicht zwingend an eine externe Modell-API übertragen werden. Gleichzeitig bleiben Anforderungen aus DSGVO, Geheimnisschutz und interner Zugriffskontrolle bestehen.
Die von Revolut genannten Token-Kosten sind zudem nicht mit den Gesamtkosten gleichzusetzen. Anschaffung oder Miete von 56 B200 GPUs, Betriebspersonal, Strom, Kühlung, Ausfallsicherheit und Modellpflege gehören in eine vollständige Rechnung. Self-Hosting lohnt sich besonders bei hoher und gleichmäßiger Auslastung, während externe APIs bei kleineren Volumen wirtschaftlicher bleiben können.
Der entscheidende Punkt ist deshalb weniger der vollständige Abschied von SaaS. Revolut zeigt, dass eine eigene Modellplattform kommerzielle APIs vom Standardfall zur gezielt eingesetzten Ausnahme machen kann. Damit sinken sowohl die Gefahr unerwarteter Rechnungen als auch die Abhängigkeit von den Preis- und Nutzungsregeln einzelner Anbieter.