AWS erleichtert den Wechsel von Nvidia zu Trainium
Amazon Web Services hat mit TorchNeuron ein Werkzeug vorgestellt, das PyTorch-Anwendungen auf den eigenen Trainium-Chips ausführen soll. Laut AWS genügt dafür eine Änderung an einer einzigen Konfigurationszeile. Eine vollständige Neuentwicklung des Codes sei nicht erforderlich.
PyTorch ist ein freies Open-Source-Framework für Entwicklung, Training und Betrieb von KI-Modellen. Es wurde ursprünglich bei Facebook entwickelt und wird seit 2022 unter dem Dach der Linux Foundation weitergeführt. AWS schätzt, dass rund 85 % der KI-Anwendungen auf PyTorch basieren.
| Kennzahl | Angabe | Einordnung |
|---|---|---|
| PyTorch-Anteil | rund 85 % | Schätzung von AWS zum Anteil der KI-Anwendungen |
| Code-Anpassung | eine Konfigurationszeile | Angabe von AWS für den Wechsel zu Trainium |
| Deepgram-Beispiel | 70 % mehr Audio pro Dollar | Von AWS genannter Produktionswert bei vergleichbarer Genauigkeit |
Der eigentliche Gegner ist Nvidias CUDA-Plattform
Nvidias Vorsprung beruht nicht allein auf leistungsfähigen GPUs. Entscheidend ist CUDA, die Softwareplattform für Berechnungen auf Nvidia-Hardware. Über Jahre entstand ein umfassendes Ökosystem aus Bibliotheken, Werkzeugen und optimierten PyTorch-Schnittstellen.
Dadurch ist Nvidia für viele KI-Projekte die voreingestellte Wahl. Ein Wechsel auf andere Chips kann zwar günstigere Rechenleistung versprechen, verursacht aber häufig Integrationsarbeit, neue Tests und betriebliche Risiken. TorchNeuron soll genau diese Wechselkosten reduzieren.
Auch AMD und Apple unterstützen PyTorch über eigene Schnittstellen. AWS verbindet die technische Portierung jedoch mit einem breiten Cloud-Angebot. Das Unternehmen positioniert Trainium deshalb als Alternative zu spezialisierten GPU-Anbietern, deren Infrastruktur meist eng an Nvidia gekoppelt ist.
Der Wettbewerb wird bereits auf mehreren Ebenen geführt. Microsoft plant mit Azure Maia 300 einen massiven Ausbau eigener KI-Chips. Zugleich zeigen Prognosen zu Neoclouds und deren wirtschaftlichen Risiken, dass reine GPU-Kapazität noch kein dauerhaft tragfähiges Geschäftsmodell garantiert.
Training und Inferenz auf derselben Plattform
Trainium soll sowohl das Training eines Modells als auch die Inferenz übernehmen, also dessen produktive Ausführung. AWS argumentiert, dass eine gemeinsame Plattform die Gesamtkosten über den vollständigen Lebenszyklus senkt. Der günstigste Preis pro verarbeitetem Token sei deshalb nicht automatisch die wirtschaftlichste Lösung.
Als Beispiel nennt Amazon den Sprach-KI-Anbieter Deepgram. Dieser soll nach dem Wechsel auf Trainium bei produktionsreifer Genauigkeit 70 % mehr Audiomaterial pro Dollar verarbeiten. Die Angabe stammt von AWS und lässt sich ohne Details zu Modell, Auslastung und vorheriger Hardware nur eingeschränkt auf andere Anwendungen übertragen.
Sinngemäß formuliert AWS das Ziel so: PyTorch soll weniger eng an einzelne Chiparchitekturen gebunden sein und Entwicklern eine echte Wahl der Hardware ermöglichen.
AWS will PyTorch selbst hardwareunabhängiger machen
Amazon beschränkt TorchNeuron nicht auf eine zusätzliche Schnittstelle für Trainium. Das Unternehmen will Änderungen in das zentrale PyTorch-Projekt einbringen. Chipabhängige Bestandteile sollen reduziert werden, damit das Framework unterschiedliche Hardware einfacher ansprechen kann.
Für die Open-Source-Gemeinschaft kann das mehr Wettbewerb bedeuten. Gleichzeitig steigt das Risiko, dass Optimierungen für einzelne Plattformen weniger transparent werden oder zusätzliche Konfigurationen erfordern. PyTorch erfüllt schließlich gerade die Aufgabe, technische Unterschiede zwischen Anwendungen und Hardware zu verbergen.
Für Nvidia wäre eine erfolgreiche Entkopplung relevanter als ein weiterer einzelner KI-Chip. Hardware lässt sich über Leistung und Preis vergleichen. Ein etabliertes Softwareökosystem erzeugt dagegen langfristige Wechselbarrieren, wie sie auch bei klassischen SaaS- und Cloud-Plattformen üblich sind.
Weniger Nvidia-Abhängigkeit, aber mehr AWS-Bindung
Für Unternehmen im DACH-Raum erweitert TorchNeuron zunächst die Auswahl bei KI-Infrastruktur. Bestehende PyTorch-Anwendungen könnten sich mit geringerem Entwicklungsaufwand auf Trainium testen lassen. Belastbare Entscheidungen erfordern dennoch Benchmarks mit den eigenen Modellen, Datenmengen und Latenzanforderungen.
Der Wechsel von CUDA zu Trainium beseitigt zudem nicht automatisch den Vendor-Lock-in. Statt an Nvidias Software und GPUs kann sich ein Projekt stärker an AWS-Chips, Neuron-Werkzeuge und ergänzende Cloud-Dienste binden. Die Architektur sollte deshalb weiterhin portable Modellformate, reproduzierbare Tests und klar getrennte Infrastrukturkomponenten vorsehen.
Auch die Kosten müssen vollständig betrachtet werden. Neben Rechenleistung zählen Speicher, Datenübertragung, Betriebsaufwand und Reservierungspflichten. Dass Cloud-Gebühren unerwartet aus dem Ruder laufen können, zeigt eine Rechnung über 17.600 Dollar nach dem Verbrauch von Azure-Credits.
Für sensible Daten kommen Datenschutz und Datenstandort hinzu. Trainium kann eine wirtschaftliche Option sein, bleibt aber Bestandteil der AWS-Infrastruktur. Wer echte Datensouveränität und Anbieterunabhängigkeit anstrebt, muss Cloud-Angebote weiterhin mit Self-Hosting, eigener Hardware und offenen Modellplattformen vergleichen.