Offene Modelle von NVIDIA treiben eine neue Welle von Projekten im europäischen öffentlichen Sektor an

In ganz Europa helfen offene Modelle Regierungen, wesentliche öffentliche Dienstleistungen bereitzustellen und dabei sensible Daten auf der eigenen Infrastruktur der Organisationen zu behalten
by

Regierungen benötigen moderne Lösungen, um der Öffentlichkeit zu dienen und gleichzeitig die Kontrolle über sensible Informationen zu behalten.

Offene Modelle bieten hierfür einen Weg: Sie ermöglichen es Regierungen, die Modelle zu evaluieren, sie an lokale Sprachen und öffentliche Dienstleistungen anzupassen, sie auf selbst kontrollierter Infrastruktur zu betreiben, eigene Schutzmaßnahmen anzuwenden und sensible Daten in kontrollierten Umgebungen zu behalten. Einige offene Modelle gehen noch weiter: Die Datensätze, mit denen sie trainiert wurden, sind veröffentlicht, sodass Regierungen überprüfen können, ob Trainingsdaten lizenziert, verzerrt oder regelkonform waren.

Partner von NVIDIA und europäische Regierungen arbeiten zusammen, um fortschrittliche Modelle bereitzustellen, die die Effizienz der öffentlichen Verwaltung steigern, und behalten dabei die Kontrolle über Daten und Infrastruktur.

Einige von ihnen erstellen zudem Versionen der NVIDIA Nemotron-Personas collection, also die partnerbasierten Datensätze hinter NeMo User Sim, der Open-Source-Bibliothek von NVIDIA für Nutzersimulationen im Bevölkerungsebene, mit der Modelle und Agenten in lokalen Sprachen dynamisch evaluiert und trainiert werden.

Europäische Kommission: Skalierung kontrollierter KI-Anwendungen

Das Berliner Softwareunternehmen deepset erweitert seine Haystack Enterprise Platform, die Grundlage von AI@EC, der gemeinsamen Plattform der Europäischen Kommission für die Entwicklung und den Betrieb von KI-Anwendungen auf einer von der Kommission verwalteten Infrastruktur.

Das Update verbindet Agentenentwicklung, Ausführung, Optimierung und Governance für alle Kunden und ergänzt Funktionen zum Vergleich von Betriebskosten, zur Bewertung der Antwortqualität und zur Rückverfolgung von Problemen.

NVIDIA Triton Inference Server unterstützt die gemeinsam genutzten Dienste, mit denen relevante Informationen gefunden und priorisiert werden. Die Erweiterung baut auf betrieblichen Anforderungen auf, die sich in Implementierungen wie AI@EC gezeigt haben, wo wiederverwendbare Komponenten, rollenbasierter Zugriff, Audit-Trails und Schutzmechanismen Anwendungen wie Dokumentenzusammenfassung, Wissensmanagement und mehrsprachige Politikanalyse unterstützen.

Polen: Advanced Computing für Gesundheitswesen und Beschäftigung

Deloitte unterstützt Polen beim Aufbau agentischer Systeme für Gesundheits- und Arbeitsvermittlungs-Services auf Basis offener Modelle.

Das polnische eHealth Centre entwickelt seine Intelligent Services Platform für die medizinische Bildgebung mit NVIDIA DGX BasePOD und dem MONAI-Framework. Das Tool wird Ärztinnen und Ärzte dabei unterstützen, Röntgen-, CT- und MRT-Aufnahmen zu analysieren, Auffälligkeiten zu erkennen und dringende Fälle zu priorisieren, wodurch sich die Wartezeit der Patientinnen und Patienten auf Ergebnisse verkürzt.

Mit Unterstützung von Deloitte entwickelt das polnische Ministerium für Familie, Arbeit und Sozialpolitik eine agentische Fabrik auf einer Infrastruktur für beschleunigtes Computing von NVIDIA. Sie ist auf die Unterstützung von mehr als 400 Arbeitsämtern ausgelegt und wird Modelle wie PLLuM, GPT OSS und Inkling für Dokumentensuche, Zusammenfassungen und digitale Assistenten ausführen. So können die Mitarbeitenden Arbeitsuchende effizienter unterstützen.

NVIDIA arbeitet zudem mit SpeakLeash in Polen und der Universität Ljubljana in Slowenien an länderspezifischen Erweiterungen seines Programms für synthetische Personas zusammen. Lokalisierte Datensätze sollen folgen.

Vereinigtes Königreich: Daten für lokal relevante fortschrittliche Modellierung

Das in London ansässige Unternehmen Locai Labs plant die Veröffentlichung von Nemotron-Personas-UK, einem Datensatz mit 1 Million synthetischen Personas, der die demografische und geografische Vielfalt des Vereinigten Königreichs abbildet und zugleich Datenschutzrisiken verringert. Mögliche Anwendungen umfassen die Evaluierung im Gesundheitswesen sowie Bias-Tests über Altersgruppen, Bildungsniveaus sowie ländliche und städtische Bevölkerungsgruppen hinweg. Entwicklern, die Modelle für öffentliche Dienstleistungen erstellen, bietet der Datensatz eine Möglichkeit, zu prüfen, ob Modelle in unterschiedlichen Gemeinschaften einheitlich funktionieren.

Deutschland: Digitale Assistenten und KI für Verschlusssachen

In Deutschland führt Materna Sinfonie ein, eine On-Premises-Plattform, die generative KI, Sprachinteraktion und 3D-Avatare kombiniert. Für die Animation steht NVIDIA Audio2Face zur Verfügung. Die Plattform basiert auf einem Projekt für eine deutsche Landesverwaltung und ermöglicht es Mitarbeitenden, über gesprochene Fragen auf institutionelles Wissen zuzugreifen, während die Daten auf der Infrastruktur der eigenen Organisation verbleiben.

Für Organisationen, die mit Verschlusssachen arbeiten, gehen secunet, NVIDIA, Red Hat und deepset noch einen Schritt weiter. Die vier Unternehmen entwickeln ein Sovereign-Cloud-Angebot auf Basis der bewährten SINA Cloud von secunet, die Sicherheitskomponenten umfasst, die für die Verarbeitung von Verschlusssachen zugelassen sind. Das geplante Angebot vereint vier Komponenten: beschleunigtes Computing von NVIDIA und NVIDIA Nemotron offene Modelle; Red Hat OpenShift AI für die Bereitstellung und Verwaltung von KI-Workloads; die Orchestrierung von KI-Agenten mit Haystack von deepset; sowie eine von secunet in deutschen Rechenzentren betriebene Infrastruktur.

Zur Unterstützung der lokalen Entwicklung, ist die Forschungsinitiative Sovereign Open Source Foundation Models dabei, eine Familie von KI-Modellen für die deutsche Industrie und den öffentlichen Sektor zu entwickeln. Dazu gehört die geplante Veröffentlichung von Nemotron-Personas-Germany, einem offenen Datensatz mit 1 Million Einträgen, die jeweils sechs synthetische Personas enthalten und auf dem Zensus 2022 für alle 16 Bundesländer und 400 Kreise basieren. Der Datensatz wurde mit NVIDIA NeMo Data Designer ohne private Daten realer Personen erstellt und hilft Entwicklern zu prüfen, ob Modelle für öffentliche Dienstleistungen über Regionen, Altersgruppen und Gemeinschaften hinweg konsistent funktionieren. Wie die britische Ausgabe kann er zusammen mit NeMo User Sim verwendet werden, sodass Entwickler Modelle anhand simulierter Nutzer auf Basis synthetischer deutscher Personas evaluieren und trainieren können.

Frankreich: Fortschrittliche offene Modelle im Arbeitsumfeld des öffentlichen Sektors

CANUT, die öffentliche Beschaffungsstelle Frankreichs für digitale Dienste, hat LINAGORA und Docaposte ausgewählt, um einen souveränen kollaborativen Arbeitsbereich auf Basis von Twake.ai bereitzustellen.

Mehr als 2.500 berechtigte Organisationen, darunter Kommunen, Schulen und Gesundheitseinrichtungen, können die Rahmenvereinbarung nutzen, ohne eine eigene Ausschreibung durchführen zu müssen. Der Arbeitsbereich bietet Beschäftigten im öffentlichen Dienst E-Mail, Dokumentenfreigabe und Tools für die Zusammenarbeit, wobei NVIDIA-Technologie die Sprachtranskription unterstützt und die Infrastruktur in Frankreich gehostet wird. Die Région Occitanie ist der bevorzugte Partner für die Skalierung der Bereitstellung.

Griechenland: Ein lokales agentisches Ökosystem

Das griechische KI- und Energieunternehmen KIEFER entwickelt eine agentische Fabrik auf Basis von NVIDIA DGX SuperPOD mit DGX GB200 sowie Sophea-Open-Weight-Modellen und griechischsprachigen Tools für Wissensabruf, Sprachverarbeitung und digitale Assistenten. Diese Funktionen können es griechischsprachigen Teams im öffentlichen Sektor erleichtern, institutionelle Informationen zu finden und zu nutzen und geben Organisationen zugleich die Kontrolle darüber, wo Agenten ausgeführt werden und wie Daten verarbeitet werden.

Codefest: Entwicklung der nächsten Anwendungen

Um Organisationen des öffentlichen Sektors in Europa und darüber hinaus bei der Integration agentischer KI zu unterstützen, bringt das NVIDIA Open Models Entwicklertreffen Codefest sowohl Start-ups, als auch Softwareanbieter und Labore aus der gesamten Region zusammen, um offene Modelle in lokal kontrollierte Lösungen für Herausforderungen des öffentlichen Sektors zu überführen, darunter medizinisches Reasoning, KI-gestützte Nachhilfe und Modell-Governance. Die fünf besten Teams sind Pleias, Zehnlab.ai, Disseqt, Algoritmica GmbH und ABA Technology. Deutsche Telekom und T-Systems haben die Recheninfrastruktur bereitgestellt, mit der Teams große Sprachmodelle trainieren und bereitstellen.

Erfahren Sie, wie NVIDIA Regierungen und Gemeinschaften dabei unterstützt, sichere fortschrittliche Modellierung und die Erstellung von Agenten zu beschleunigen.

Beachten Sie den Hinweis zu Informationen über Softwareprodukte.