NVIDIA hat heute Nemotron 3.5 Super VL veröffentlicht, ein offenes Modell mit 120 Milliarden Parametern, mit dem spezialisierte Always-on Agenten Aufgaben schneller und präziser als je zuvor ausführen können..
Ergänzt wird es durch zwei neue Edge-Modelle: Nemotron 3.5 Bolt 74B-A9B 24GB ist darauf optimiert, Intelligenz und Geschwindigkeit pro GB für lokale agentische Workloads auszubalancieren. Nemotron 3.5 Bolt E4B 4GB ist auf Intelligenz pro GB für schnelle Konversationsagenten optimiert.
Super VL und Bolt 74B-A9B sind ab sofort verfügbar, Bolt E4B folgt am 23. Oktober.
Zusammen decken die drei offenen Modelle das gesamte Spektrum der Bereitstellung von Agenten ab, von großen Unternehmensservern bis hin zu Edge-Geräten und lokaler Hardware.
Jede Organisation, die Agenten auf NVIDIA-Infrastruktur betreiben möchte, verfügt damit über ein offenes, optimiertes Modell für die jeweilige Leistungsklasse, ohne zwischen Leistungsfähigkeit und Einsetzbarkeit wählen zu müssen.
Super VL und Bolt ergänzen die Nemotron-Familie neben Lightning und Ultra.
Lightning, im August veröffentlicht, ist für Workloads mit hohem Durchsatz ausgelegt; Ultra bewältigt die anspruchsvollsten Reasoning-Aufgaben; Bolt bringt Intelligenz an die Edge.
Nemotron 3.5 Super VL: Genauigkeit auf Spitzenniveau bei einem Fünftel der Größe
Super VL wurde in Zusammenarbeit mit der Nemotron Coalition entwickelt. Das Modell erreicht bei multimodalen agentischen Aufgaben – darunter das Befolgen von Anweisungen, die Nutzung von Tools, mehrstufige Geschäftsabläufe und visuelles Verständnis – eine führende Genauigkeit. Diese ist mit der des größten Reasoning-Modells von NVIDIA vergleichbar, bei etwa einem Fünftel der Parameteranzahl.
Als schnellstes offenes agentisches Modell seiner Klasse – fünfmal schneller als das nächstbeste – unterstützt Super VL Unternehmensagenten dabei, umfangreiche Aufgaben in Workflows, die sich über Tage oder Wochen erstrecken, schneller abzuschließen.
Im Gegensatz zu geschlossenen Frontier-Modellen können Organisationen Super VL mit eigenen Daten nachtrainieren, auf eigener Infrastruktur bereitstellen und die Kontrolle über ihre Entwicklungen behalten.
Nemotron 3.5 Bolt: Agentische Intelligenz an der Edge
Bolt 74B-A9B 24GB ist darauf ausgelegt, alltägliche agentische Aufgaben lokal auf NVIDIA RTX/DGX Spark auszuführen. Durch eine native 2-Bit-Quantisierung passt das Modell in 24 GB Speicher und kann parallel zu anderen Anwendungen betrieben werden.
Im Vergleich zu anderen Modellen mit ähnlichem Speicherbedarf bietet es ein ausgewogenes Verhältnis von Intelligenz und Geschwindigkeit: leistungsfähig genug für die meisten Aufgaben und dabei deutlich schneller als die leistungsstärksten Modelle.
Mit Bolt 74B-A9B 24GB können Anwender ihre Projekte an gängige lokale Agenten-Frameworks übergeben, von der Web-Recherche über das Verfassen von Texten bis zum Debuggen von Code, ohne diese Workloads in die Cloud zu übertragen. Das Modell belegt in seiner Klasse Platz 1 unter den offenen Modellen bei PinchBench und Platz 2 bei BrowseComp.
Bolt E4B 4GB wurde für physische und konversationelle Agenten auf GeForce RTX, Jetson und RTX/DGX Spark entwickelt. Es verbindet natürliche Konversation mit agentischen Fähigkeiten über mehrere Gesprächsrunden hinweg und ermöglicht so schnelle lokale Sprachassistenten, interaktive Charaktere und eingebettete Benutzeroberflächen.
Einführung individueller Super-Intelligenz
Dutzende Organisationen aus verschiedenen Branchen trainieren Super VL mit eigenen Daten, Tools, Richtlinien und Workflows nach, um die Genauigkeit bei den spezialisierten Aufgaben zu steigern, die ihre Agenten-Bereitstellungen bestimmen.
Super VL wird von Organisationen aus verschiedenen Branchen nachtrainiert und angepasst. Scale AI hat das Modell für den Agenten für Lieferantenkreditfinanzierung von Skydance sowie für den Agenten für M&A-Due-Diligence von EY nachtrainiert. AfterQuery hat das Modell für Hebbia zur Analyse von Kreditverträgen angepasst. AI21 und Alice haben das Modell im Hinblick auf die Widerstandsfähigkeit gegenüber Cyberangriffen nachtrainiert. Mercor hat das Modell auf dem Coding-Benchmark APEX-SWE für Coding-Agenten nachtrainiert, die Code planen, schreiben und debuggen. ModelScope ermöglicht es Entwicklern, das Modell über sein ms-swift-Framework für spezialisierte multimodale Anwendungen feinabzustimmen.
Zu den weiteren Organisationen, die Nemotron 3.5 Super VL anpassen, zählen Ramp für die intelligente Auswertung von Finanzdokumenten, Dream für souveräne, KI-gestützte Cybersicherheitsforschung und Schwachstellenanalyse, Lila Sciences für wissenschaftliche Forschung und Suche sowie R1 für die Analyse medizinischer Abrechnungen und das Revenue Cycle Management. TrainLoop hat das Modell mit dermatologischen Daten von Nolla nachtrainiert, dem ersten Unternehmen, das eine Zulassung für das Ausstellen erster Patientenrezepte durch KI erhalten hat.
Zu den Softwareplattform-Unternehmen, die Nemotron 3.5 Super VL integrieren, gehören:
- Atlassian, für Aufgaben wie die agentische Suche über Anwendungen wie Jira und Confluence hinweg.
- CrowdStrike, um das Modell für agentisches Blue Teaming im Bereich der Unternehmenssicherheit anzupassen.
- Dassault Systèmes, zur Unterstützung von Konstruktion und Simulation im Engineering.
- Perplexity, für Suche und agentische Aufgaben in Perplexity Search und Computer.
- Salesforce, das Nemotron anpasst, um mit Missionforce Operations KI-Agenten bereitzustellen, die komplexe behördliche Workflows in sicheren Kundenumgebungen digitalisieren und automatisieren.
- Die Software von Synopsys für die Verifikation von Halbleiterdesigns ist mit dem Modell interoperabel.
Was Nemotron 3.5 Super VL tatsächlich erkennt
Die Vision-Language-Stärken von Nemotron 3.5 Super VL sind auf die Inhalte ausgerichtet, mit denen Agenten in der Praxis arbeiten: optische Zeichenerkennung, Tabellen, Diagramme und strukturierte Informationen in visuellen Dokumenten.
Das Modell verarbeitet eine Webseite, extrahiert Text, liest Grafiken und Diagramme und liefert Erkenntnisse aus den gefundenen Informationen. Dasselbe gilt für PDFs und andere Dokumente, mit denen Agenten üblicherweise arbeiten.
Nemotron 3.5 Super VL versteht Bilder, Webseiten und PDFs und handelt auf Grundlage dieses Verständnisses. Da Text- und Bildverständnis in einem Modell vereint sind, müssen Agenten Aufgaben nicht zwischen separaten Systemen weiterleiten. Der Kontext bleibt erhalten, während die Arbeit vom Dokument über die Daten bis zur Entscheidung voranschreitet.
Offen für maximale Kontrolle, Sicherheit und Datenschutz
Offenheit und Anpassbarkeit verstärken sich gegenseitig. Das Modell wird mit offenen Gewichten, offenen Datensätzen und Trainingsrezepten bereitgestellt.
Die Kontrolle wirkt in zwei Richtungen. Organisationen können das Modell dort betreiben, wo es ihre Anforderungen an Sicherheit und Datenresidenz vorgeben. Zudem entscheiden sie sich für ein Modell, das sie anpassen können, statt für eines, das den Einschränkungen eines Anbieters unterliegt.
Im Versicherungswesen kann ein angepasster Agent beispielsweise Schadensmeldungen fortlaufend auf Betrugsmerkmale prüfen. Im Finanzdienstleistungssektor kann ein Agent Bonitätsbewertungen prüfen und Aktivitäten anhand der eigenen Kreditvergabekriterien einer Organisation kennzeichnen. Das Modell verbleibt vor Ort. Die Daten bleiben vertraulich.
Die Anpassung wird durch NVIDIA NeMo, Python-basierte Pipelines und offene Datensätze unterstützt.
Nemotron 3.5 Super VL wurde in Pretraining und fortgesetztem Pretraining mit rund 26 Billionen Tokens trainiert und anschließend mit etwa 3,8 Millionen Beispielen sowie mittels Reinforcement Learning in Dutzenden von Umgebungen nachtrainiert.
NVIDIA veröffentlicht zudem offene Datensätze auf Hugging Face zu den Bereichen agentische Tool-Nutzung, Finanzen, Befolgen von Anweisungen, langer Kontext, Fairness und Vision-Language-Verständnis sowie die Reinforcement-Learning-Umgebungen in NeMo Gym.
NVIDIA NIM stellt das Modell als produktionsreifen Microservice mit leistungsoptimierten, validierten Konfigurationen und Support auf Unternehmensniveau bereit. Dieser wird alle zwei Wochen mit Sicherheitspatches und Leistungsverbesserungen aktualisiert.
Wird das Modell auf NVIDIA Dynamo ausgeführt, können Organisationen bis zu achtmal mehr Benutzer bei einer um 85 % geringeren Latenz bedienen.
Nemotron 3.5 Super VL ist ab sofort auf Hugging Face, Open Router, in der ModelScope-Community sowie als NVIDIA NIM verfügbar.
Ausführung auf DGX Spark, DGX Station und RTX
Nemotron 3.5 Super VL läuft auf dem gesamten Hardware-Stack von NVIDIA: auf DGX Spark, DGX Station, RTX PRO- und RTX-Systemen für lokale Intelligenz am Desktop, auf NVIDIA Jetson an der Edge sowie in Rechenzentrums- und Cloud-Umgebungen.
Nemotron 3.5 Bolt 74B-A9B 24GB ist ab sofort auf Hugging Face verfügbar und unterstützt llama.cpp, Ollama, LM Studio, Unsloth und vLLM. Das Modell wurde für NVIDIA RTX Spark-Laptops entwickelt, die ab dem 16. Oktober erhältlich sind, und läuft zudem auf GeForce RTX-PCs, DGX Spark, DGX Station und RTX PRO-Workstations.
Laden Sie die offenen Gewichte herunter, entdecken Sie die Ressourcen zur Anpassung mit NVIDIA NeMo oder lesen Sie den technischen Blog für eine vollständige Darstellung der Architektur.
Bleiben Sie über Agenten, NVIDIA Nemotron und weitere Themen auf dem Laufenden, indem Sie die NVIDIA-News abonnieren, der Community beitreten und NVIDIA AI auf LinkedIn, Instagram, X und Facebook folgen.
Entdecken Sie Video-Tutorials im eigenen Tempo sowie Livestreams.
Beachten Sie den Hinweis zu Informationen über Softwareprodukte.