Zusammenfassung:
- Die NVIDIA Open Agent Safety Platform besteht aus der Open-Source-Software NVIDIA OpenShell und dem Referenzsystemdesign NVIDIA Sentry, das eine durchgängige Governance und Kontrolle über den gesamten Stack hinweg ermöglicht – von der Software bis hin zu den Hardware-, Compute- und Robotiksystemen, auf denen Agenten laufen.
- Die Software OpenShell bietet eine sichere Laufzeitgrenze, die alle Aktionen nachverfolgt und Richtlinien durchsetzt, während Agenten auf NVIDIA Vera CPUs laufen. Als Open-Source-Software lässt sich OpenShell so erweitern, dass sie mit Compute-Plattformen von Drittanbietern zusammenarbeitet, darunter Plattformen von Arm und Intel.
- Sentry ergänzt einen Out-of-Band-Watchdog, der auf NVIDIA BlueField-4 DPUs läuft und das Verhalten der Agenten kontinuierlich überwacht. Sentry kann Agenten, die versuchen, ihre Grenzen zu überschreiten, innerhalb von Millisekunden isolieren.
- Führende Unternehmen aus dem gesamten KI-Ökosystem schließen sich NVIDIA an, um die KI-Sicherheit für alle Branchen über den gesamten Stack aus Infrastruktur, Software, Modellen und Robotik hinweg zu stärken — darunter Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow und SpaceXAI.
NVIDIA kündigte heute die NVIDIA Open Agent Safety Platform an, eine offene Softwareplattform und ein Referenzsystemdesign zur Stärkung der KI-Sicherheit vom Testen der Agenten bis zum Deployment, mit Full-Stack-Governance und -Kontrolle über die Software sowie die Hardware-, Rechen- und Robotiksysteme hinweg, auf denen Agenten laufen.
Jüngste Sicherheitsvorfälle haben deutlich gemacht, dass Unternehmen offene, anpassbare Tools benötigen, mit denen sie mehr Kontrolle über lang laufende Agenten durchsetzen können. Bei all diesen Vorfällen zeigt sich dasselbe Muster: Der Agent hat Sicherheitskontrollen auf der Anwendungsebene umgangen, um die ihm zugewiesene Aufgabe zu erledigen.
„Das außergewöhnliche Potenzial von KI für die Gesellschaft wird sich nur entfalten, wenn wir die KI-Sicherheit gewährleisten“, sagte Jensen Huang, Gründer und CEO von NVIDIA. „Während wir die Grenzen der KI-Fähigkeiten weiter erkunden, müssen wir auch die Forschung an den Grenzen der KI-Sicherheit beschleunigen. Sicherheit und Schutz erfordern Full-Stack-Engineering. Die NVIDIA Open Agent Safety Platform bringt Industrie, Forschende und Organisationen des öffentlichen Sektors zusammen, um Best Practices auszutauschen, sich auf Evaluierungsmethoden zu verständigen und die internationale Zusammenarbeit zu fördern. Gemeinsam können wir die Messlatte für die globale KI-Sicherheit höher legen.“
Open Agent Safety Platform bietet Kontrolle über den gesamten Agenten-Stack
Die NVIDIA Open Agent Safety Platform ermöglicht Full-Stack-Governance und -Kontrolle über die Software, auf der Agenten laufen, die Hardware- und Rechenebenen, die ihre Arbeit antreiben, sowie die Robotiksysteme, die Aufgaben in der physischen Welt ausführen. Unternehmen können Komponenten der NVIDIA Open Agent Safety Platform entsprechend ihren individuellen Anforderungen einsetzen.
Sie umfasst NVIDIA OpenShell™, eine sichere Laufzeitsoftware, die Grenzen für Agenten setzt, die auf CPUs laufen. Da Agenten immer mehr Aufgaben in immer mehr Systemen übernehmen, benötigen Unternehmen eine durchsetzbare Grenze außerhalb des Modells und des Agenten-Harness. Das jetzt allgemein verfügbare OpenShell bietet eine sichere Laufzeitgrenze, mit der Sie steuern, wie autonome KI-Agenten Aufgaben mit offenen und geschlossenen Modellen ausführen.
OpenShell bietet diesen Schutz mit minimalem Overhead auf NVIDIA Vera, der ersten speziell für agentische KI entwickelten CPU. Gemeinsam ermöglichen OpenShell und Vera Agenten, sicher zu arbeiten und ihre Aufgaben so schnell wie möglich zu erledigen. Als Open-Source-Software lässt sich OpenShell auch für Compute-Plattformen von Drittanbietern erweitern, darunter Plattformen von Arm und Intel.
Das Referenzsystemdesign der NVIDIA Open Agent Safety Platform umfasst NVIDIA Sentry, einen Out-of-Band-Watchdog, der auf NVIDIA BlueField®-4 DPUs läuft und kontinuierlich das Verhalten der Agenten überwacht. Sentry setzt Sicherheit direkt im Silizium durch: Versucht ein KI-Agent, seine Softwaregrenze zu verlassen, stellt Sentry ihn innerhalb von Millisekunden unter Quarantäne und stoppt ihn.
Sentry läuft auf BlueField-4 DPUs, überwacht kontinuierlich die Aktivitäten der Agenten und setzt Sicherheitsrichtlinien unabhängig im Silizium durch. Es kombiniert Bedrohungserkennung, hardwarebasierte Governance und Durchsetzung für Agenten sowie Schutz beim Datenzugriff aus einer isolierten Out-of-Band-Vertrauensdomäne, die in Echtzeit reagiert und für Agenten und Angreifer unsichtbar ist.
Sentry basiert auf NVIDIA DOCA™-Software, die die programmierbaren Funktionen bereitstellt, mit denen Sentry Agentenanfragen und -antworten prüft, attestierte Telemetrie liefert, die Identität von Agenten verifiziert und granulare Zero-Trust-Zugriffsrichtlinien für Daten, Tools, Programmierschnittstellen und Services durchsetzt.
Branchenführer stärken die Agentensicherheit mit NVIDIA
Anthropic und NVIDIA haben gemeinsam zusätzliche Sicherheits- und Kontrollebenen in den Agenten-Stack gebracht. Claude Managed Agents schaffen eine Sicherheitsgrenze, indem sie die Agentenschleife auf einem separaten Server ausführen, getrennt von den Sandboxes, in denen ihre Arbeit stattfindet. Integrationen mit OpenShell und BlueField ermöglichen es Unternehmen, den Zugriff von Agenten über diese Sandboxes streng zu kontrollieren.
„Unternehmen übertragen KI-Agenten immer mehr ihrer wichtigsten Aufgaben, und sie müssen steuern und überprüfen können, was diese Agenten tun, insbesondere in sensiblen Umgebungen“, sagte Paul Smith, Chief Commercial Officer von Anthropic. „Claude Managed Agents gibt Unternehmen einen klaren Überblick darüber, was jeder Agent tut, und die Plattform von NVIDIA fügt eine weitere Ebene der Governance und Kontrolle über Hardware und Software hinweg hinzu.“
SpaceXAI nutzt die NVIDIA Open Agent Safety Platform für Cursor-Coding-Agenten und Grok-Modelle.
„Da Kunden zunehmend auf Agenten setzen, um echte Arbeit zu erledigen, sollte Sicherheit außerhalb des Modells durch zusätzliche Kontrollen durchgesetzt werden, die der Agent nicht umgehen kann“, sagte Mike Nicolls, President von SpaceXAI. „Kunden sollten diese Grenzen für Cursor und Grok festlegen können und sich darauf verlassen können, dass sie eingehalten werden.“
Scale AI arbeitet mit NVIDIA zusammen, um Technologien der NVIDIA Open Agent Safety Platform in die agentische Infrastrukturebene des Scale GenAI Portfolio zu integrieren.
„Scale AI nutzt das Referenzdesign der NVIDIA Open Agent Safety Platform, um zuverlässige agentische KI-Systeme für unsere Unternehmens- und Behördenkunden zu entwickeln, die geschäftskritische Anwendungen betreiben, mit Isolation, Durchsetzung von Richtlinien und Nachvollziehbarkeit, die von Anfang an integriert sind“, sagte Francis deSouza, CEO von Scale AI. „Wir unterstützen agentische Sicherheit mit klaren Grenzen, die festlegen, was Agenten tun dürfen, und mit Kontrollen, die sicherstellen, dass sie innerhalb dieser Berechtigungen arbeiten.“
Salesforce und NVIDIA haben OpenShell in Slack integriert, sodass Teams die Aktivitäten von OpenShell-Agenten direkt in Slack verwalten können: Sie sehen Agentenaktivitäten und Audit-Ereignisse und können Anfragen von Agenten nach zusätzlichen Berechtigungen genehmigen oder ablehnen. So erhalten Teams mehr Transparenz und menschliche Kontrolle, während die Agenten arbeiten.
SAP integriert OpenShell in die Joule Studio Runtime, die Teil der SAP Business AI Platform ist, um geschäftliche Kontrolle mit Laufzeitsicherheit zu verbinden. Das Unternehmen leistet außerdem Entwicklungsbeiträge zu OpenShell und arbeitet mit NVIDIA daran, Interoperabilitätsstandards voranzutreiben, und zwar im Rahmen der Open Secure AI Alliance.
Accenture, Armadin, Cadence, Cognition, CrowdStrike, Cisco, Dassault Systèmes, Deloitte, EY, Hugging Face, IBM, Irregular, Perplexity, Microsoft, SAP, Scale AI, ServiceNow, Siemens, Synopsys, OpenClaw, Palantir und Palo Alto Networks gehören ebenfalls zu den über 100 Organisationen, die mit Technologien der NVIDIA Open Agent Safety Platform arbeiten.
Führende Robotikunternehmen wie Figure, Gecko Robotics und Skild AI – entwickeln ebenfalls mit OpenShell, um Sicherheitskontrollen für Agenten in autonome Systeme zu integrieren, die in der physischen Welt handeln.
Citi und JPMorganChase gehören zu den führenden Finanzdienstleistern, die mit NVIDIA an gemeinsamen Open-Source-Technologien für Agentensicherheit zusammenarbeiten.
Die führenden Energieunternehmen Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy und Worley gehören zu den Anbietern kritischer US-Infrastruktur, die mit Technologien der NVIDIA Open Agent Safety Platform arbeiten.
Die Marktführer im Bereich Infrastruktursoftware Canonical, SUSE und Red Hat integrieren die NVIDIA Open Agent Safety Platform ebenfalls in weit verbreitete Betriebssysteme. Red Hat führt OpenShell und DOCA, die beide Teil der NVIDIA Open Agent Safety Platform sind, auf Red Hat AI Factory with NVIDIA aus, einer gemeinsam entwickelten KI-Lösung der Enterprise-Klasse für die Entwicklung, Bereitstellung und Verwaltung von KI in großem Maßstab in Hybrid-Cloud-Umgebungen.
NVIDIA-Partner wie Baseten, Cisco, CoreWeave, Dell Technologies, GMI Cloud, HPE, HP Inc., Irregular, Lenovo, Microsoft, Nebius, Oracle Cloud Infrastructure, Supermicro und Together AI gehören zu den Unternehmen, die Infrastrukturlösungen für KI anbieten, die Technologien der NVIDIA Open Agent Safety Platform nutzen und unterstützen, um Kunden dabei zu helfen, KI-Agenten sicherer auszuführen.
Verfügbarkeit
Die Software der NVIDIA Open Agent Safety Platform, einschließlich OpenShell und Skills, ist über die Seite mit NVIDIA-Entwicklerressourcen und GitHub verfügbar.
Beiträge zum Ökosystem wie die NVIDIA Open Agent Safety Platform unterstützen die Mission der Open Secure AI Alliance sowie die breitere Community für KI-Sicherheit. Die von NVIDIA gemeinsam mit über 120 führenden Organisationen ins Leben gerufene und von der Linux Foundation, verwaltete Open Secure AI Alliance stärkt die Sicherheit von KI-Agenten durch offene Forschung, Skills und Tools sowie durch Projekte wie den Shared AI Findings Exchange, oder SAFE.