Open-Source-Software ist eine tragende Säule der Weltwirtschaft. Sie bildet die Grundlage für Cloud Computing, Finanzdienstleistungen, Fertigung, Telekommunikation, Behörden und Internetdienste, indem sie Technologie für Fachgruppen zugänglich und nachvollziehbar macht.
Die Cybersicherheit zählt zu den drei Bereichen, die am stärksten von Open-Source-Software profitieren. Die Open Secure AI Alliance baut auf der Arbeit der Linux Foundation, im Rahmen der Akrites– Initiative, und der Arbeit der OpenSSF -Community auf. Mithilfe offener Technologien will sie Schwachstellen beheben und offenlegen.
So wie Open Source eine gemeinsame Grundlage für Software geschaffen hat, stehen die USA und ihre Partner bei der KI-Sicherheit nun vor einer Entscheidung: Sollen die Abwehrmechanismen, die ihre Infrastruktur schützen, in einigen wenigen intransparenten Systemen angesiedelt sein oder auf offenen Modellen, Harnesses und Tools basieren, die jedes Sicherheitsteam untersuchen, anpassen und einsetzen kann?
Die Welt benötigt sowohl geschlossene als auch offene Modelle. Für die Cybersicherheit sind offene Modelle und offene Harnesses unverzichtbar: Sie machen leistungsfähige Abwehrfunktionen breiter zugänglich, erhöhen die Transparenz für Sicherheitsteams, ermöglichen Cyberabwehr bei gleichzeitigem Schutz der Daten und ergänzen geschlossene Frontier-Modelle um anpassbare Kontrollen für lokale Anforderungen. Open Source ermöglicht eine stark verteilte, gemeinschaftlich entwickelte und eigenständig kontrollierbare Verteidigung – ohne einzelnen Ausfallpunkt.
Offene Modelle können wie jede leistungsfähige Technologie missbraucht werden – etwa durch Versuche, Schutzmechanismen zu schwächen oder Funktionen für Cyberangriffe zweckzuentfremden. Diese Risiken sind jedoch nicht auf offene Systeme beschränkt. Sie müssen überall dort beherrscht werden, wo fortschrittliche KI zum Einsatz kommt.
Der jüngste Sicherheitsvorfall bei Hugging Face hat dies deutlich gezeigt: Cyberabwehrteams benötigen offene, agentische Frontier-Systeme, um sich selbst zu schützen. Als geschlossene KI-Tools – die Angreifer nicht von Verteidigern unterscheiden konnten – die notwendige forensische Analyse blockierten, führte Hugging Face das Open-Weight-Modell GLM 5.2 auf der eigenen Infrastruktur aus. So konnte das Unternehmen mehr als 17.000 Aktionen analysieren und den Eindringversuch eindämmen.
Der Vorfall macht eine praktische Wahrheit deutlich: Wenn Sicherheitsteams fortschrittliche KI nicht auf ihrer eigenen Infrastruktur prüfen, anpassen und betreiben können, ist ihre Reaktionsfähigkeit genau dann eingeschränkt, wenn jede Sekunde zählt. Unternehmen und Staaten brauchen offene, fortschrittliche Abwehrwerkzeuge und -verfahren, damit kritische Branchen Sicherheitssysteme in einem Ökosystem mit mehreren Anbietern aufbauen und einzelne Ausfallpunkte vermeiden können.
Das ist die Mission der Open Secure AI Alliance: sicherzustellen, dass Sicherheitsteams überall über offene Frontier-Technologien verfügen, denen sie vertrauen und die sie kontrollieren können.
Führende Unternehmen aus den Bereichen Cloud Computing, Cybersicherheit, Unternehmenssoftware, KI-Forschung, sowie Open-Source-Stiftungen – darunter NVIDIA, Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE, Hugging Face, IBM, LangChain, die Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab und TrendAI sind Gründungspartner der Open Secure AI Alliance. Die Initiative entwickelt offene Technologien, Verfahren und Tools und stellt sie gemeinsam bereit, um Software und Agenten im Zeitalter der KI zu schützen.
Manche argumentieren offene Modelle seien grundsätzlich weniger sicher, weil sie für Cyberangriffe missbraucht oder so verändert werden könnten, dass Schutzmechanismen entfallen. Diese Risiken sind real. Sie verschwinden jedoch auch in geschlossenen Systemen nicht. Und allein das Zurückhalten von Modellgewichten hält entschlossene Angreifer nicht davon ab, leistungsfähige KI zu suchen oder auszunutzen.
Die richtige Antwort besteht nicht darin, Sicherheitsteams den Zugang zu leistungsfähigen offenen Systemen zu verwehren. Vielmehr gilt es, Offenheit mit robusten Schutzmaßnahmen, klaren Regeln gegen böswilligen Missbrauch, rigorosen Bewertungen und der schnellen Behebung von Schwachstellen zu verbinden. In der Cybersicherheit ist der Weg sicherer, der mehr Sicherheitsteams in die Lage versetzt, die Systeme, auf die sich unsere Gesellschaft verlässt, zu testen, zu verifizieren und zu stärken.
Sicherheitsteams benötigen geschlossene und offene Frontier-Modelle im Zusammenspiel. So können sie das passende System für die jeweilige Aufgabe wählen und sicherstellen, dass Transparenz, Anpassungsfähigkeit und souveräne Kontrolle überall dort verfügbar sind, wo sie für die Sicherheit erforderlich sind.
Offene Forschung stärkt Cyber- und KI-Sicherheit
Ein KI-Agent ist mehr als nur ein Sprachmodell. Er ist ein komplexes System aus Modellen, Harnesses und Guardrails.
Wirksame KI-Sicherheit hängt vom gesamten Agenten-Stack ab – von Identitäten, Berechtigungen, Harnesses, und Guardrails – bis hin zu Systemprotokollen und Bewertungen. Entscheidend ist nicht allein, ob Modellgewichte offen oder geschlossen sind. Offene Harnesses und Tools erleichtern es Sicherheitsteams, diese Kontrollen zu prüfen, zu testen und zu verbessern.
NVIDIA stellt der Open Secure AI Alliance offene Modelle, Modellgewichte, Daten und neue Forschungsergebnisse zu Agenten-Harnesses zur Verfügung, um die Entwicklung neuer Cybersicherheits-Tools und Verfahren zu beschleunigen.
Das neue Open-Source-Projekt – NVIDIA Labs Object-Oriented Agent (NOOA) ist jetzt auf GitHub verfügbar. Es soll fortschrittliche KI-Sicherheitsfunktionen für Agenten-Harnesses breiter zugänglich machen. Das NOOA-Forschungsframework ermöglicht eine engere Integration von Harnesses und Modellen. Dadurch lässt sich das Verhalten von Agenten leichter testen, nachverfolgen, prüfen und steuern.
In der gesamten Allianz entwickeln die Beteiligten einen offenen Verteidigungs-Stack für Agenten – von Identitätsmanagement und Isolierung bis hin zu sicheren Modellformaten, Multi-Modell-Scanning und sicheren Coding-Workflows.
HPE trägt zu SPIFFE/SPIRE bei. Das Projekt entwickelt Standards und Verfahren für ein Zero-Trust-Identitätsframework, mit dem sich KI-Agenten und -Dienste kryptografisch verifizieren lassen. So wird sichergestellt, dass nur autorisierte Workloads miteinander kommunizieren und auf Unternehmensressourcen zugreifen.
Hugging Face hat der PyTorch Foundation Safetensors zur Verfügung gestellt – ein sicheres Format zum Speichern von KI-Modellgewichten, das Transparenz schafft und die Ausführung von Remote-Code verhindert.
Mit Lightwell erweitern IBM und Red Hat die Sicherheit über die gesamte Open-Source-Lieferkette hinweg – unter anderem durch digital signierte Patches.
MDASH von Microsoft ist ein agentisches Multi-Modell-Scanning-Harness. Es orchestriert spezialisierte KI-Agenten, die ausnutzbare Schwachstellen entdecken, gemeinsam bewerten und nachweisen.
SpaceXAI hat Grok Build, einen terminalbasierten KI-Coding-Agenten, als Open Source veröffentlicht, um Vertrauen, Transparenz und neue Funktionen zu fördern. Das Unternehmen plant außerdem, die Gewichte der Grok-Modellreihe als Open Source bereitzustellen und damit die Entwickler- und Forschungsgemeinschaft zu unterstützen.
Ein Appell an Politik und Regulierungsbehörden
Während sich Politik und Regulierungsbehörden mit KI-Sicherheit befassen, ist es entscheidend, offene Modelle, Harnesses und Sicherheitswerkzeuge in der KI- und Cybersicherheitspolitik als Ressourcen für die Verteidigung anzuerkennen – nicht als Risiken. Pauschale Beschränkungen für offene Frontier-KI-Systeme würden die Abwehrfähigkeit schwächen. Zudem drohen sie, Macht, Abhängigkeit und Anfälligkeit bei einigen wenigen Anbietern geschlossener Systeme zu konzentrieren.
Unternehmen und Regierungen sollten in eine gemeinsame offene Infrastruktur für die KI-Verteidigung investieren – darunter Datensätze, Bewertungsframeworks, Angriffssimulatoren und Red-Teaming-Tools. Frühere Generationen haben auf ähnliche Weise in Open-Source-Software investiert.
Die Zukunft, die wir gestalten sollten
Das Zeitalter der KI-Agenten kann ein Zeitalter der Resilienz und gemeinsamen Sicherheit sein. Mit den richtigen Entscheidungen können offene und sichere KI-Systeme Sicherheitsteams die benötigten Werkzeuge an die Hand geben, den Wettbewerb stärken, die technologische Führungsposition ausbauen und dafür sorgen, dass die Sicherheit dieser außergewöhnlichen Technologie offen und für alle zugänglich entwickelt wird.
Diese Zukunft wird nicht gesichert, indem Geheimhaltung mit Sicherheit gleichgesetzt wird. Sie entsteht durch Systeme, die robust genug sind, um kritischer Prüfung standzuhalten, flexibel genug, um kontinuierlich verbessert zu werden, und offen genug, um die gesamte Sicherheitsgemeinschaft zu mobilisieren.
Diese Zukunft ist es wert, gestaltet zu werden. Die Open Secure AI Alliance lädt Regierungen, Industrie und Forschung dazu ein, gemeinsam das KI-Zeitalter zu schützen.
Erfahren Sie mehr oder bekunden Sie Ihr Interesse an einem Beitritt zur Open Secure AI Alliance.