Heute hat Google DeepMind DiffusionGemma veröffentlicht – ein experimentelles offenes Modell, das für eine außergewöhnlich schnelle Textgenerierung entwickelt wurde. NVIDIA hat DiffusionGemma optimiert, um noch schneller auf allen NVIDIA GeForce RTX-GPUs, der NVIDIA RTX PRO-Plattform und NVIDIA DGX Spark-Systemen ausgeführt zu werden, von lokalen PCs bis hin zur Cloud.
Anstatt Text einzeln zu generieren, generiert DiffusionGemma mehrere Wörter parallel, um ganze Textblöcke auszugeben. Damit wird ein neues Niveau mit niedriger Latenz für die Art von Single-User-Workloads eröffnet, die Entwickler, Forscher und KI-Enthusiasten täglich ausführen.
Zu den Merkmalen des neuen Modells gehören:
- Parallele Generierung: DiffusionGemma führt das Denoising für bis zu 256 Token pro Schritt durch, anstatt jeweils einen Token vorherzusagen.
- Basierend auf Gemma 4: DiffusionGemma basiert auf Gemma 4, einem Mixture-of-Experts-Modell mit 26 Milliarden Parametern, das nur 3,8 Milliarden Parameter pro Schritt aktiviert, und kombiniert einen Diffusionskopf mit der Gemma 4-Architektur von Google.
- Bis zu 4-mal schnellere Leistung:Die Steigerung bedeutet eine schnelle Textgenerierung, wo die Single-User-Generierung normalerweise ins Stocken gerät – auf lokaler Hardware.
- Offen und lokal: DiffusionGemma verfügt über offene Gewichte unter einer permissiven Apache-2.0-Lizenz und läuft vollständig auf RTX und DGX Spark – keine Cloud, keine Kosten pro Token – mit Day-Zero-Support in Hugging Face Transformers, vLLM und Unsloth.
Eine andere Art, Text zu generieren
Fast jedes große Sprachmodell (LLM), das heute weit verbreitet ist, ist autoregressiv – das heißt, es generiert Text Token für Token, wobei jedes neue Wort vom vorhergehenden abhängt. Dieser sequentielle Prozess ist es, der interaktive KI so wirken lässt, als würde sie tippen.
DiffusionGemma geht einen anderen Weg. Basierend auf der Mixture-of-Experts-Architektur von Gemma 4 26B generiert es Text auf die gleiche Weise wie Diffusionsmodelle Bilder generieren: indem man mit Rauschen beginnt und einen ganzen Textblock auf einmal verfeinert. Bei jedem Schritt werden bis zu 256 Token parallel von Rauschen befreit, anstatt nur ein einziges Token auszugeben und auf die Berechnung des nächsten zu warten.
Das Ergebnis ist ein Modell, das in Blöcken statt sequenziell denkt. Bei latenzsensiblen Einzelbenutzer-Arbeiten – wie interaktivem Chat, agentischen Schleifen oder Assistenten auf dem Gerät, die planen und handeln – wird diese Parallelität in Antworten umgesetzt, die schnell genug sind, um mit der Denk- und Iterationsweise von Entwicklern Schritt zu halten.
DiffusionGemma fliegt auf NVIDIA GPUs
Die Generierung einesTokens nach dem anderen ist im Grunde ein speicherbezogenes Problem – ein traditioneller LLM verbringt die meiste Zeit mit dem Warten auf Speicherbandbreite und nicht mitRechnen, wodurchvielRechenleistung ungenutzt bleibt.
Diffusion dreht die Gleichung um. Wenn ein voller Block mit 256 Token parallel durch den Transformator gezogen wird, wird eine rechenintensive Workload ausgeführt – genau das, wofür NVIDIA GPUs entwickelt wurden. NVIDIA Tensor Cores beschleunigen die dichte parallele Rechenleistung, und mit dem CUDA-Software-Stack kann das Modell vom ersten Tag an effizient und ohne spezielle Tuning-Maßnahmen ausgeführt werden. Kurz gesagt, das Design des Modells nutzt damit direkt die Stärken derGPU.
Das zeigt sich in den Zahlen. DiffusionGemma liefert 1.000 Token/Sekunde auf einer einzigen NVIDIA H100 Tensor Core GPU, 150 Token/Sekunde auf NVIDIA DGX Spark und bis zu 2.000 Token/Sekunde auf NVIDIA DGX Station – etwa viermal schneller als ein gleichwertiges autoregressives Modell, das im gleichen Single-User-Modus ausgef$hrt wird.
Dieser Vorteil gilt für die gesamte Produktpalette von NVIDIA und zwar:
- Lokal auf dem persönlichen NVIDIA DGX Spark Desktop-KI-Supercomputer– mit dem NVIDIA GB10 Grace Blackwell Superchip mit 128 GB Unified Memory – und dem vorinstallierten KI-Software-Stack von NVIDIA, der für Prototyping, Feinabstimmung und vollständig lokale Agenten-Workflows bereit ist.
- Auf NVIDIA RTX PRO 6000 Workstations, die Entwicklern, Forschern und KI-Experten den Spielraum bieten, lokale Generierungs- und Agenten-Loops mit niedriger Latenz im Rahmen eines professionellen Workflows auszuführen.
- Auf DGX Station, für erstklassige lokale High-Speed-Inferenz mit bis zu 2.000 Token/Sekunde für die Textgenerierung mit niedriger Latenz und Agenten-Schleifen mit 748 GB kohärentem Speicher.
- Auf GeForce RTX GPUs, wobei die Unterstützung für llama.cpp in Kürze folgt.
Lokal starten
Der schnellste Weg, um mit dem Testen und Prototyping des Modells zu beginnen, ist über Hugging Face Transformers, auf dem DiffusionGemma auf einer GeForce RTX 5090 oder DGX Spark direkt ausgeführt werden kann. Für Inferenzen mit höherem Durchsatz bietet vLLM Serving-Support ab dem ersten Tag.
Um das Modell an eine bestimmte Aufgabe oder einen bestimmten Bereich anzupassen, ist eine Feinabstimmung über das Unsloth- und das NVIDIA NeMo-Framework verfügbar, wobei vorgefertigte DGX Spark-Playbooks zur Verfügung stehen, um eine lokale Umgebung schnell zum Laufen zu bringen. Sehen Sie sich die vLLM Playbooks für DGX Spark , RTX PRO und DGX Station an.
Probieren Sie DiffusionGemma auf Hugging Face oder testen Sie es kostenlos mit den von NVIDIA gehosteten Anwendungsprogrammierschnittstellen (APIs) unter build.nvidia.com.
Erfahren Sie mehr über die Architektur und die lokale Bereitstellung, indem Sie den technischen Blog von NVIDIA und die Ankündigung von Google DeepMind lesen.
Falls Sie es verpasst haben: Das Neueste von RTX AI Garage
🎬 NVIDIA-Forscher haben SANA-WM veröffentlicht, ein Open-Source-Weltmodell, das ein einzelnes Bild und einen Kamerapfad mit präziser 6-DoF-Steuerung in ein minütiges 720p-Video umwandelt. Mit nur 2,6 Milliarden Parametern generiert die destillierte Version einen vollen 60-Sekunden-Clip in 34 Sekunden auf einer einzigen NVIDIA GeForce RTX 5090 GPU im NVFP4 Format – und bietet einen bis zu 36-mal höheren Durchsatz als vergleichbare offene Modelle bei der Ausführung auf einer GPU. Lesen Sie den Artikel.
🛠️ Das Erstellen von Windows-Agenten erhält jetzt ein komplettes Toolset – NVIDIA und Microsoft haben eine schlüsselfertige Agenten-Sandboxing auf nativem Windows eingeführt – Microsoft eXecution Container plus die NVIDIA OpenShell Runtime – sowie eine bis zu doppelt so schnelle Agenten-Inferenz und native Windows-Unterstützung für Hermes Agent.
🤖DGX Spark geht vom Unboxing zum laufenden Agenten in Minuten – Eine optimierte NVIDIA NemoClaw Installation bringt Entwickler schnell zu einem funktionierenden lokalen Agenten, wobei Qwen3.6-35B bis zu 2,6-mal schneller auf vLLM läuft. Und der neue Cluster-Assistent in NVIDIA Sync verbindet bis zu vier DGX Spark-Einheiten in einem 512-GB-Pool – genug für Modelle mit 400 Milliarden Parametern.
Verbinden Sie sich mit RTX Spark auf Facebook, Instagram, TikTok und X – und bleiben Sie auf dem Laufenden, indem Sie den RTX Spark Newsletter abonnieren.
Siehe Hinweis zu Softwareproduktinformationen.