Anmerkung der Redaktion: Dieser Beitrag ist Teil der Nemotron Labs-Blogserie, die sich damit beschäftigt, wie die neuesten offenen Modelle, Datensätze und Trainingstechniken Unternehmen dabei unterstützen, spezialisierte KI-Systeme und Anwendungen auf NVIDIA-Plattformen zu entwickeln. Jeder Beitrag beleuchtet praktische Möglichkeiten, wie sich ein Open-Stack-Ansatz in der Produktion als echter Mehrwert erweisen kann – von transparenten Forschungs-Copiloten bis hin zu skalierbaren KI-Agenten.
Unternehmen haben eine Vielzahl leistungsstarker Modelle zur Auswahl. Der eigentliche Test ist, ob die KI, die ein Unternehmen entwickelt, die Anforderungen des Unternehmens auf herausragende Weise erfüllt: Verbesserung von Workflows, Nutzung von Domänenwissen und Übertreffen von Standards für Genauigkeit und Vertrauen.
Der Wettbewerbsvorteil bei KI ergibt sich zunehmend daraus, wie Unternehmen verfügbare Modelle einsetzen – und weniger daraus, für welches Modell sie sich entscheiden.
Offene Modelle wie NVIDIA Nemotron wurden für die Anpassung entwickelt. Dadurch können Unternehmen und Nationen KI entwickeln, die steuerbar, vertrauenswürdig und auf ihre Anforderungen zugeschnitten ist.
KI nicht nur nutzen, sondern selbst kontrollieren
Spezialisierte KI-Systeme wie autonome Agenten und Anwendungen werden mit benutzerdefinierten offenen Modellen entwickelt. Diese Agenten sind darauf ausgelegt, eine definierte Aufgabe gut zu erfüllen, da die verwendeten Modelle mit proprietärem Wissen optimiert und anhand realer Geschäftsergebnisse bewertet werden.
Dies erfordert Zugriff auf das Modell selbst. Geschlossene Modelle erweitern die Möglichkeiten und verschieben die Grenzen allgemeiner Intelligenz. Gleichzeitig begrenzen sie jedoch, was Unternehmen prüfen, optimieren und verbessern können. Offene Modelle beseitigen diese Barriere und geben Unternehmen umfassende Kontrolle über ihre KI.
Die wirksamsten Anwendungen für agentische KI sind Systeme aus mehreren Modellen, in denen offene Modelle mit führenden Frontier-Modellen zusammenarbeiten und jedes Modell die Aufgabe übernimmt, für die es am besten geeignet ist. Leistungsstarke Reasoning-Modelle können komplexe Planung bewältigen, während kleinere Modelle spezialisierte Aufgaben ausführen. Dies ermöglicht es Unternehmen, die Inferenzkosten richtig zu dimensionieren, die Genauigkeit bei bestimmten Aufgaben zu verbessern und die Flexibilität zu wahren, wenn sich Workflows weiterentwickeln.
Anpassung, auf die Unternehmen vertrauen können
Offene Modelle bieten Unternehmen etwas, das geschlossene Modelle nicht können: die vollständige Kontrolle, um KI an die Geschäftsanforderungen anzupassen, zu prüfen und zu verbessern. Öffentliche Benchmarks messen allgemeine Fähigkeiten. Geschäftsspezifische Evaluierungen hingegen ermöglichen es Teams, Modelle anhand der eigenen Daten, Workflows und Genauigkeitskriterien zu testen und gezielt weiterzuentwickeln.
Beispielsweise sind die Kosten einer falschen Antwort in Branchen wie dem Gesundheitswesen und dem Rechtswesen hoch, in denen Teams mit sensiblen Daten umgehen und strengen Genauigkeitsanforderungen gegenüberstehen. Unternehmen in diesen Branchen müssen einen Überblick darüber haben, wie ein Modell trainiert wurde, wie es abschneidet und die Möglichkeit haben, es bei Bedarf zu verbessern.
Mit offenen Modellen können Teams ihre Anwendungen prüfen, interne Evaluierungen nach ihren eigenen Kriterien durchführen und Reinforcement-Learning-Umgebungen schaffen, die auf ihre eigenen Workflows abgestimmt sind. Eine Weiterleitung ihrer proprietären Daten über einen Dritten ist nicht erforderlich.
Unternehmen aus verschiedenen Branchen passen Nemotron bereits für ihre Bereiche an:
- Abridge passt Nemotron an, um das erste Foundation Model zu erstellen, das speziell für klinische Gespräche entwickelt wurde.
- Glean hat Waldo entwickelt, ein agentisches Suchmodell, das Nemotron mit größeren geschlossenen Modellen kombiniert, um Unternehmenssuche mit deutlich geringerer Latenz und mit weniger Token zu ermöglichen.
- H Company entwickelte Holotron 3 Nano durch das Nachtrainieren von Nemotron 3 Nano Omni anhand proprietärer Computernutzungsdaten. Damit erreichte das Modell eine Genauigkeit von über 76 % bei OSWorld-Verified – einem Benchmark für Computeraufgaben – und liegt damit, zu einem Bruchteil der Kosten, auf Augenhöhe mit anderen führenden Frontier-Modellen.
- Harvey hat Nemotron 3 Ultra auf der Grundlage seines rechtlichen Benchmarks nachtrainiert und eine Genauigkeit der Spitzenklasse erreicht – Bei komplexen juristischen Aufgaben liegt das Modell damit gleichauf mit führenden geschlossenen Modellen – bei höchstens einem Zehntel der Kosten pro Durchlauf.
- Heidi Health liefert Ergebnisse in klinischer Dokumentation von Spitzenqualität, ohne dass Rechenleistung auf Spitzenniveau erforderlich ist.
- YTL AI Labs hat ein Nemotron-Modell für Malaiisch nachtrainiert und lokal angepasste KI in die Hände der malaysischen Entwickler-Community gelegt, um ihre KI-Fähigkeiten zu fördern.
Modellumgebungen optimieren und Betriebskosten senken
Anpassung verbessert die Genauigkeit. Wenn Modelle für ein bestimmtes Harness oder eine bestimmte Domäne optimiert werden, werden sie außerdem effizienter ausgeführt.
Die NVIDIA NeMo, eine agentenorientierte offene Bibliothekensuite, beschleunigt die Anpassung und Evaluierung von Modellen sowie die Optimierung und Steuerung von Agenten.
Partner wie Prime Intellect und Unsloth ermöglichen bereits die KI-Anpassung für Unternehmen, die auf Nemotron-Pipelines für das Nachtrainieren aufbauen, wodurch der Einsatz spezialisierter KI in großem Maßstab praktikabel wird.
LangChain hat sein Deep Agents-Harness für Nemotron 3 Ultra optimiert – indem es Prompts, Tools und Middleware ohne Modellretraining angepasst hat. Das Ergebnis: die höchste Agentengenauigkeit unter offenen Modellen bei etwa einem Zehntel der Kosten pro Durchlauf im Vergleich zu führenden geschlossenen Alternativen.
Diese Kostenvorteile erstrecken sich auf die Infrastruktur für eine optimale Skalierbarkeit. Durch das Nachtrainieren von Nemotron auf der NVIDIA Blackwell-Plattform erzielte Arcee AI Inferenzkosten von etwa 90 Cent pro Million Ausgabetoken – etwa ein Zwanzigstel der Kosten vergleichbarer geschlossener Frontier-Modelle. Gleichzeitig belegte das Modell den zweiten Platz bei PinchBench und behielt vollständig offene Modellgewichte.
Kosteneinsparungen ermöglichen breitere Experimente, mehr Bereitstellungen und eine schnellere Iteration.
Aufbau eines Ökosystems auf einer offenen Grundlage
Der Übergang von der Einführung von KI zu KI-Eigentum ist im Gange. Die NVIDIA Nemotron Coalition trägt dazu bei, die Entwicklung offener Modelle zu einer gemeinsamen Aufgabe des gesamten Ökosystems zu machen, indem sie Modellersteller und Entwickler zusammenbringt, um Nemotron durch den Austausch von Daten, Bewertungen und Fachwissen zu verbessern. Hackathon-Einreichungen und Beiträge aus der Community schaffen wiederverwendbare Praxisbeispiele für unterschiedliche Branchen.
Entwickler fügen Nemotron ihren KI-Systemen hinzu, beweisen Mehrwert und teilen, was funktioniert. Das Fundament ist vollständig offen.
Erfahren Sie mehr über offene NVIDIA Nemotron-Modelle und testen Sie sie unter build.nvidia.com.