KI ist heute kein reines Backoffice-Tool mehr. Sie ist ein strategischer Partner, der die Entscheidungsfindung über alle Geschäftsbereiche hinweg verbessern kann.
Unabhängig davon, ob Betriebskosten gesenkt oder Kundenerlebnisse im großen Maßstab personalisiert werden sollen, sind maßgeschneiderte KI-Agenten der Schlüssel zum Erfolg.
Da KI-Agenten in Unternehmen zunehmend eingesetzt werden, muss ihre Bereitstellung anhand einer wohlüberlegten Strategie gesteuert werden. Für den Einstieg muss die KI-Infrastruktur des Unternehmens für eine schnelle und kosteneffiziente Inferenz optimiert werden. Und es muss eine Datenpipeline erstellt werden, die Agenten kontinuierlich mit aktuellen, kontextbezogenen Informationen versorgt.
Neben der Bereitstellung von Personal und Hardware wird das Onboarding von KI-Agenten für Unternehmen zu einer zentralen strategischen Funktion, da Führungskräfte die digitalen Talente im gesamten Unternehmen orchestrieren müssen.
Und so gliedern Sie KI-Agenten in vorhandene Teams ein:
- Wählen Sie den zur Aufgabe passenden KI-Agenten aus
So wie menschliche Mitarbeiter für bestimmte Funktionen eingestellt werden, müssen KI-Agenten auf der Grundlage der von ihnen auszuführenden Aufgabe ausgewählt und trainiert werden. Unternehmen haben jetzt Zugriff auf eine Vielzahl von KI-Modellen – z. B. für Sprache, Vision, Gespräche und logisches Denken –, die jeweils einzigartige Stärken bieten.
Daher ist die Auswahl des passenden Modells entscheidend für die Erreichung der Geschäftsergebnisse:
- Wählen Sie einen Reasoning-Agenten, um komplexe Probleme zu lösen, für die Antworten ausgewertet werden müssen.
- Nutzen Sie einen Copilot für die Code-Generierung, der Entwickler beim Schreiben, Ändern und Zusammenführen von Code unterstützt.
- Stellen Sie einen KI-Agenten für Videoanalysen bereit, um Betriebsinspektionen oder Produktdefekte zu analysieren.
- Integrieren Sie einen KI-Assistenten für den Kundenservice, der auf einer spezifischen Wissensdatenbank basiert, statt auf einem generischen Basismodell.
Die Auswahl des Modells bedingt die Leistung, die Kosten, die Sicherheit des Agenten und wie er am Geschäft ausgerichtet ist. Mit dem passenden Modell kann der Agent geschäftliche Herausforderungen präzise bewältigen, Compliance-Anforderungen einhalten und vertrauliche Daten schützen. Ein ungeeignetes Modell kann zu übermäßigem Verbrauch an Rechenressourcen, höheren Betriebskosten und ungenauen Vorhersagen führen, die sich negativ auf die Entscheidungsfindung der Agenten auswirken.
Mit Software wie NVIDIA NIM und NeMo-Microservices können Entwickler verschiedene Modelle gegeneinander austauschen und Tools anbinden, die ihre Anforderungen erfüllen. Das Ergebnis: Aufgabenspezifische Agenten, die exakt auf die Ziele, die Datenstrategie und die Compliance-Anforderungen eines Unternehmens abgestimmt sind.
- Verbessern Sie die Qualifikation der KI-Agenten, indem Sie sie mit Daten verbinden
Das Onboarding von KI-Agenten erfordert die Entwicklung einer soliden Datenstrategie.
KI-Agenten funktionieren am besten mit einem konsistenten Datenstrom, der spezifisch auf die konkrete Aufgabe und das Unternehmen zugeschnitten ist.
Als institutionelles Wissen wird die Summe des Wissens und der Erfahrung in einer Organisation bezeichnet. Diese wichtige Ressource geht häufig verloren, wenn Mitarbeiter das Unternehmen verlassen oder altersbedingt ausscheiden. KI-Agenten können eine entscheidende Rolle spielen, um dieses Wissens zu erfassen und für andere Mitarbeiter zu bewahren.
- KI mit Datenquellen verbinden: Damit KI-Agenten optimal funktionieren, müssen sie eine Vielzahl von Datentypen interpretieren, von strukturierten Datenbanken bis hin zu unstrukturierten Formaten wie PDF-Dateien, Bilder und Videos. Über solche Verbindungen können Agenten maßgeschneiderte, kontextbezogene Antworten generieren, die die Fähigkeiten eigenständiger Basismodelle übersteigen und präzisere und wertvollere Ergebnisse liefern.
- KI als Wissensspeicher: KI-Agenten profitieren von Systemen, die Daten erfassen, verarbeiten und wiederverwenden. Ein Data Flywheel sammelt, verarbeitet und nutzt kontinuierlich Informationen, um das zugrunde liegende System iterativ zu verbessern. KI-Systeme profitieren von diesem Flywheel, das Interaktionen, Entscheidungen und Problemlösungsansätze aufzeichnet, um eigenständig die Leistung und Effizienz des Modells zu optimieren. Durch die Integration von KI in Kundendienstvorgänge kann das System beispielsweise anhand jedes Gesprächs lernen und wertvolles Feedback und Fragen erfassen. Diese Daten werden dann verwendet, um Antworten zu verfeinern und ein umfassendes Archiv institutionellen Wissens zu pflegen.
NVIDIA NeMo unterstützt die Entwicklung leistungsstarker Data Flywheels und stellt die Tools für die kontinuierliche Kuratierung, Verfeinerung und Auswertung der Daten und Modelle bereit. Damit können KI-Agenten die Genauigkeit verbessern und durch kontinuierliches Anpassen und Lernen die Leistung optimieren.
- Integrieren Sie KI-Agenten in Geschäftsbereiche
Nachdem Unternehmen die cloudbasierte, lokale oder hybride KI-Infrastruktur zur Unterstützung von KI-Agenten erstellt und ihre Datenstrategie verfeinert haben, um diese Agenten mit zeitnahen und kontextbezogenen Informationen zu versorgen, besteht der nächste Schritt darin, die KI-Agenten systematisch in allen Geschäftsbereichen bereitzustellen: vom Piloten bis zum großflächigen Einsatz.
Gemäß einer aktuellen IDC-Befragung von 125 CIOs betreffen die drei wichtigsten Bereiche, in denen Unternehmen agentenbasierte KI integrieren möchten, IT-Prozesse, Geschäftsabläufe und den Kundenservice.
In jedem der Bereiche tragen KI-Agenten dazu bei, die Produktivität der vorhandenen Mitarbeiter zu verbessern, indem beispielsweise der Prozess der Ticketerstellung für IT-Techniker automatisiert wird oder indem Mitarbeiter einen einfachen Zugriff auf Daten erhalten, mit denen sie Kunden unterstützen können.
KI-Agenten im Unternehmen können außerdem für folgende Aufgaben integriert werden:

Für den Telekommunikationsbetrieb erstellt Amdocs mithilfe seiner amAIz-Plattform vertikalisierte KI-Agenten, um komplexe, mehrstufige Customer Journeys abzuwickeln – vom Verkauf über die Abrechnung bis zur Betreuung – und um autonome Netzwerke von der optimierten Planung bis zur effizienten Bereitstellung voranzutreiben. Dies trägt dazu bei, die Leistung der Netzwerke und der von Amdocs unterstützten Services sicherzustellen.
NVIDIA ist Partnerschaften mit verschiedenen Unternehmen wie dem Entwickler von Unternehmenssoftware ServiceNow und globalen Systemintegratoren wie Accenture und Deloitte eingegangen, um KI-Agenten zu entwickeln und bereitzustellen, die in allen Anwendungsfällen und Geschäftsbereichen eine maximale geschäftliche Wirkung erzielen.
- Stellen Sie Guardrails (Leitplanken) und Governance für KI-Agenten bereit
So wie Mitarbeiter klare Richtlinien brauchen, um auf dem Laufenden zu bleiben, benötigen KI-Modelle klar definierte Leitplanken, um sicherzustellen, dass sie zuverlässige, genaue Ergebnisse liefern und im Rahmen ethischer Grenzen agieren.
- Thematische Leitplanken: Thematische Leitplanken verhindern, dass die KI von ihrem Thema in Bereiche abschweift, in denen sie nicht befähigt ist, exakte Antworten zu liefern. So sollte sich ein KI-Assistent für den Kundenservice beispielsweise auf die Lösung von Kundenanfragen konzentrieren und nicht zu Themen wie dem Upselling und Angeboten abschweifen.
- Sicherheitsleitplanken für Inhalte: Sicherheitsleitplanken für Inhalte moderieren Interaktionen zwischen Mensch und LLM, indem sie Prompts und Antworten als sicher oder unsicher einstufen und, wenn etwas unsicher ist, Verstöße nach Kategorie kennzeichnen. Diese Leitplanken filtern unerwünschte Sprache heraus und stellen sicher, dass nur auf zuverlässige Quellen verwiesen wird, sodass die Ausgabe der KI vertrauenswürdig ist.
- Jailbreak-Leitplanken: Da immer mehr Agenten Zugriff auf vertrauliche Informationen haben, können die Agenten mit der Zeit für Datenschutzverletzungen anfällig werden. Jailbreak-Leitplanken sollen bei feindlichen Bedrohungen helfen und Versuche von Jailbreaks und Prompt-Injections erkennen und blockieren, die auf LLMs abzielen. Diese Leitplanken tragen dazu bei, sicherere KI-Interaktionen zu gewährleisten, indem sie böswillige Prompt-Manipulationen in Echtzeit erkennen.
NVIDIA NeMo Guardrails ermöglichen Unternehmen das Festlegen und Durchsetzen domänenspezifischer Richtlinien. Hierzu stellen sie ein flexibles, programmierbares Framework bereit, das KI-Agenten an den Unternehmensrichtlinien ausrichtet und so dazu beiträgt, dass sie konsistent innerhalb genehmigter Themen arbeiten, Sicherheitsstandards einhalten und Sicherheitsanforderungen mit der geringstmöglichen zusätzlichen Latenz bei Inferenz erfüllen.
Erste Schritte beim Onboarding von KI-Agenten
Die besten KI-Agenten sind keine Einheitslösungen. Sie wurden speziell trainiert, für ihren Zweck gestaltet und lernen kontinuierlich dazu.
Führungskräfte können den Onboarding-Prozess für ihren KI-Agenten mit folgenden Fragen starten:
- Welche Geschäftsergebnisse soll die KI für uns vorantreiben?
- Auf welches Wissen und auf welche Tools muss die KI zugreifen können?
- Wer sind die menschlichen Mitarbeiter oder Kontrolleure?
In naher Zukunft wird jeder Geschäftsbereich über dedizierte KI-Agenten verfügen, die mit seinen Daten trainiert und auf seine Ziele abgestimmt wurden und an seinen Compliance-Anforderungen ausgerichtet sind. Unternehmen, die in durchdachte Einarbeitungsprozesse, sichere Datenstrategien und kontinuierliches Lernen investieren, sind bestens gerüstet, um die nächste Phase der Unternehmenstransformation anzuführen.
Sehen Sie sich dieses On-Demand-Webinar an, um zu erfahren, wie Sie ein automatisiertes Data Flywheel erstellen, das kontinuierlich Feedback sammelt, um KI-Agenten unternehmensweit zu integrieren, zu optimieren und zu skalieren.
Bleiben Sie auf dem Laufenden über agentenbasierte KI, NVIDIA Nemotron und mehr, indem Sie NVIDIA AI News abonnieren, der Community beitreten und NVIDIA AI auf LinkedIn, Instagram, X und Facebook folgen. Entdecken Sie die Videotutorials und Livestreams, die sie sich in Ihrem eigenen Tempo ansehen können.
