Nvidia bringt Nemotron 3.5 auf eigene Infrastruktur
Nvidia erweitert seine Nemotron-Reihe um drei Open-Weight-Modelle für KI-Agenten. Das 120 Milliarden Parameter große Nemotron 3.5 Super VL richtet sich an Unternehmen, während zwei Bolt-Modelle für den lokalen Betrieb auf AI-PCs und Workstations vorgesehen sind.
Open Weight bedeutet, dass die Modellgewichte für den eigenen Betrieb verfügbar sind. Das ist nicht automatisch mit klassischer Open-Source-Software gleichzusetzen. Welche kommerziellen oder technischen Einschränkungen die Lizenz enthält, hat Nvidia bislang nicht im Detail erläutert.
Drei Modelle für Rechenzentrum und Arbeitsplatz
| Modell | Größe | Einsatzgebiet | Verfügbarkeit |
|---|---|---|---|
| Nemotron 3.5 Super VL | 120 Milliarden Parameter | Enterprise-Agenten auf eigener Infrastruktur | Ab sofort |
| Nemotron 3.5 Bolt 74B-A9B 24GB | 74 Milliarden Parameter | Lokale Agenten auf AI-PCs und Workstations | Ab sofort |
| Nemotron 3.5 Bolt E4B | Nicht näher beziffert | Lokale Gesprächsassistenten | Im Monat der Ankündigung geplant |
Super VL ist für Aufgaben wie Dokumentenanalyse, Finanzbuchhaltung, wissenschaftliche Experimente, die Bearbeitung medizinischer Versicherungsfälle und die Widerstandsfähigkeit gegen Sicherheitsangriffe ausgelegt. Nvidia zufolge setzen unter anderem EY, Salesforce, Crowdstrike, Ramp, Perplexity und Skydance das Modell bereits ein.
Das Modell kann mit unternehmenseigenen Daten nachtrainiert werden. Dieses sogenannte Post-Training passt ein bestehendes Modell gezielt an Prozesse, Fachsprache oder Werkzeuge eines Unternehmens an. Anschließend lässt es sich im eigenen Rechenzentrum betreiben.
Anders als bei geschlossenen Spitzenmodellen können Unternehmen Super VL nach Angaben von Nvidia mit eigenen Daten nachtrainieren, auf eigener Infrastruktur bereitstellen und die Kontrolle über die daraus entstehende Lösung behalten. Die Aussage ist sinngemäß aus dem Englischen übertragen.
Leistungsversprechen stammt bislang von Nvidia
Nvidia behauptet, dass Super VL nach einem auf konkrete Agenten-Aufgaben zugeschnittenen Training schneller arbeite als proprietäre Modelle wie Claude Opus 5 und GPT 6.1 Sol. Auch Luna und Astra werden in diesem Vergleich genannt.
Unabhängige Benchmarks liegen dazu bislang nicht vor. Für Beschaffungsentscheidungen sollte das Leistungsversprechen deshalb nicht isoliert betrachtet werden. Entscheidend sind Tests mit den eigenen Dokumenten, Werkzeugen, Berechtigungen und Prozessketten.
Dass offene Modelle im praktischen Betrieb an Bedeutung gewinnen, zeigt auch die wachsende Nutzung von Open-Weight-Modellen über KI-Gateways. Die reine Modellleistung ist dabei nur ein Faktor. Ebenso relevant sind Hardwareauslastung, Latenz, Wartungsaufwand und die Qualität des Nachtrainings.
Bolt-Modelle sollen Agenten auf dem PC ausführen
Nemotron 3.5 Bolt 74B-A9B ist für mehrstufiges Schlussfolgern, Werkzeugaufrufe und den Zugriff auf Webinhalte vorgesehen. Das kleinere Bolt E4B konzentriert sich auf Gesprächsassistenten. Beide Modelle sollen Aufgaben lokal verarbeiten können, ohne jede Anfrage an eine Cloud-API zu übertragen.
Optimiert sind die Bolt-Modelle für Systeme mit Nvidia RTX Spark sowie für DGX Spark Workstations. Microsoft und Dell gehören zu den Partnern, die entsprechende Geräte auf den Markt bringen. Einen Anhaltspunkt für die Hardwareklasse liefert der bereits vorgestellte Nvidia DGX Spark mit 64 GB Speicher.
Konkrete Systemanforderungen und Betriebskosten für Nemotron 3.5 nennt Nvidia nicht. Damit bleibt offen, welche Konfigurationen im Alltag ausreichen und wie sich lokale Systeme wirtschaftlich gegen API-basierte Angebote rechnen.
Mehr Datensouveränität gegen höheren Betriebsaufwand
Für Unternehmen im DACH-Raum ist vor allem der lokale Betrieb relevant. Sensible Betriebsdaten, Kundendokumente oder interne Finanzinformationen müssen nicht zwangsläufig über die Schnittstellen eines US-Anbieters verarbeitet werden. Das kann Datenschutzkonzepte und die technische Umsetzung von DSGVO-Anforderungen erleichtern, ersetzt aber keine rechtliche und organisatorische Prüfung.
Self-Hosting reduziert außerdem die direkte Abhängigkeit von Preisänderungen, Nutzungslimits und Produktentscheidungen einzelner KI-Anbieter. Ähnliche Ziele verfolgt der Ansatz, KI-Agenten vollständig abgeschottet zu betreiben.
Die wirtschaftliche Gegenrechnung bleibt dennoch notwendig. Laufende API-Kosten werden durch Investitionen in Nvidia-Hardware, Strom, Administration, Überwachung und Modellpflege ersetzt. Open-Weight-Modelle beseitigen den Vendor-Lock-in daher nicht vollständig, sondern verschieben ihn teilweise von der Modell-API zur Infrastruktur.
Nemotron 3.5 erweitert damit die Auswahl für Unternehmen, die KI-Agenten nicht als weiteres geschlossenes SaaS-Abonnement beziehen wollen. Ob sich der eigene Betrieb lohnt, hängt weniger von der Parameterzahl als von Auslastung, Datenschutzbedarf und vorhandener Infrastrukturkompetenz ab.