NVIDIA und führende Telekommunikationsunternehmen entwickeln KI-Grids, um Inferenz in verteilten Netzwerken zu optimieren

AT&T, T-Mobile, Comcast, Spectrum und andere entwickeln KI-Netze mit der NVIDIA KI-Infrastruktur, während Personal AI, Linker Vision, Serve Robotics und Decart Echtzeit-KI-Anwendungen im gesamten Netz bereitstellen.
by

Da KI-native Anwendungen auf mehr Benutzer, Agenten und Geräte skaliert werden, entwickelt sich das Telekommunikationsnetz zum nächsten Pionierbereich für die KI-Verteilung.

Auf der NVIDIA GTC 2026 zeigten führende Betreiber in den USA und Asien, dass dieser Wandel bereits im Gange ist, und kündigten KI-Grids an – geografisch verteilte und miteinander verbundene KI-Infrastrukturen – die ihre Netzpräsenz nutzen, um neue KI-Dienste am verteilten Edge zu betreiben und zu monetarisieren.

Verschiedene Betreiber gehen unterschiedliche Wege. Viele beginnen damit, bestehende drahtgebundene Edge-Standorte als KI-Netze zu nutzen, mit denen sie bereits heute Einnahmen erzielen können. Andere nutzen AI-RAN – eine Technologie, die die vollständige Integration von KI in das Funkzugangsnetzwerk ermöglicht – als Workload- und Edge-Inferenzplattform auf demselben Grid.

Telekommunikationsunternehmen und verteilte Cloud-Anbieter betreiben eine der umfangreichsten Infrastrukturen der Welt: etwa 100.000 verteilte Netzwerk-Rechenzentren weltweit, darunter regionale Hubs, Mobile-Switching-Center und Zentralbüros, mit ausreichend Reserveleistung, um im Laufe der Zeit mehr als 100 Gigawatt an neuer KI-Kapazität bereitzustellen.

KI-Netze verwandeln diese vorhandenen Immobilien, Stromversorgungs- und Konnektivitätsressourcen in eine geografisch verteilte Rechenplattform, auf der KI-Inferenz näher an den Nutzern, Geräten und Daten ausgeführt wird – dort, wo Reaktionsgeschwindigkeit und Kosten pro Token am besten aufeinander abgestimmt sind. Dies ist mehr als nur eine Modernisierung der Infrastruktur – es handelt sich um einen grundlegenden Wandel in der Art und Weise, wie KI bereitgestellt wird, wobei Telekommunikationsnetze nicht mehr nur den Datenverkehr übertragen, sondern in den Mittelpunkt der Skalierung von KI rücken.

Globale Betreiber verwandeln verteilte Netzwerke in KI-Netze

Sechs große Betreiber überführen KI-Netze vom Konzept zur Realität.

AT&T, ein führender Anbieter von vernetztem IoT mit über 100 Millionen Verbindungen über Tausende von Gerätetypen, arbeitet mit Cisco und NVIDIA zusammen, um ein KI-Netz für IoT zu entwickeln. Durch den Betrieb von KI auf einem dedizierten IoT-Kern und die Verlagerung von KI-Inferenz näher an den Ort, an dem die Daten entstehen, kann AT&T mit Linker Vision geschäftskritische Echtzeitanwendungen wie Anwendungsfälle im Bereich der öffentlichen Sicherheit unterstützen. Dies ermöglicht eine schnellere Erkennung, Alarmierung und Reaktion und trägt gleichzeitig dazu bei, dass sensible Informationen am Netzwerkrand unter der Kontrolle der Kunden bleiben.

„Die Skalierung von KI-Diensten, die sowohl hochsicher als auch für Unternehmen und Entwickler zugänglich sind, ist eine zentrale Säule unserer IoT-Konnektivitätsstrategie“, erklärte Shawn Hakl, Senior Vice President of Product bei AT&T Business. „Durch die Kombination der geschäftstauglichen Konnektivität, lokalisierter KI-Rechenleistung und Zero-Trust-Sicherheit von AT&T in Zusammenarbeit mit Mitgliedern des NVIDIA Inception-Programms und durch die Nutzung von Cisco AI Grid mit der NVIDIA-Infrastruktur und der Cisco Mobility Services Platform bringen wir Echtzeit-KI-Inferenz näher an den Ort, an dem die Daten generiert werden – dies beschleunigt die digitale Transformation und eröffnet neue Geschäftsmöglichkeiten.“

Comcast baut eines der landesweit größten Breitbandnetze mit geringer Latenz zu einem KI-Netzwerk aus, um hyper-personalisierte Erlebnisse in Echtzeit zu ermöglichen. In Zusammenarbeit mit NVIDIA, Decart, Personal AI und HPE hat Comcast nachgewiesen, dass sein KI-Netz Gesprächsagenten, interaktive Medien und NVIDIA GeForce NOW Cloud-Gaming selbst bei Nachfragespitzen reaktionsschnell und wirtschaftlich hält, bei deutlich höherem Durchsatz und geringeren Kosten pro Token.

Spectrum verfügt über die Netzwerkinfrastruktur, um ein KI-Netz zu unterstützen, das mehr als 1.000 Edge-Rechenzentren und Hunderte von Megawatt an Kapazität umfasst, die weniger als 10 Millisekunden von 500 Millionen Geräten entfernt ist. Die erste Bereitstellung konzentriert sich auf das Rendern hochauflösender Grafiken für die Medienproduktion mit Remote-GPUs, die in das glasfasergestützte Netzwerk von Spectrum mit geringer Latenz eingebettet sind.

Akamai entwickelt ein global verteiltes KI-Netz und erweitert die Akamai Inference Cloud mit Tausenden von NVIDIA RTX PRO 6000 Blackwell Server Edition-GPUs über mehr als 4.400 Edge-Standorten. Die KI-Netz-Orchestrierungsplattform von Akamai ordnet jede Anfrage der richtigen Rechenebene zu, verbessert die Token-Wirtschaftlichkeit der Inferenz und unterstützt gleichzeitig Echtzeit-KI-Erlebnisse mit geringer Latenz für Anwendungen wie Gaming, Medien, Finanzdienstleistungen und Einzelhandel.

Indosat Ooredoo Hutchison verbindet seine souveräne KI-Fabrik mit verteilten Edge- und KI-fähiges Funkzugangsnetz-Standorten in ganz Indonesien, um ein KI-Grid für lokale Innovationen aufzubauen. Durch den Betrieb von Sahabat-AI – einer auf Bahasa Indonesia basierenden Plattform – in diesem Netz innerhalb der Grenzen Indonesiens kann Indosat lokalisierte KI-Dienste für Hunderte Millionen Indonesiern auf Tausenden von Inseln zugänglich machen und lokalen Entwicklern und Startups eine souveräne Plattform zur Entwicklung von KI-Anwendungen bieten, die schnell, kulturell relevant und konform sind.

T-Mobile arbeitet mit NVIDIA zusammen, um Edge-KI-Anwendungen mit NVIDIA RTX PRO 6000 Blackwell Server Edition-GPUs zu untersuchen und zu demonstrieren, wie verteilte Netzwerkstandorte neue AI-RAN- und Edge-Inferenz-Anwendungsfälle unterstützen können. Entwickler wie LinkerVision, Levatas, Vaidio, Archetype AI und Serve Robotics testen bereits Smart-City-, Industrie- und Einzelhandelsanwendungen am Netz und verbinden Kameras, Lieferroboter und Agenten im Stadtmaßstab mit Echtzeit-Intelligenz am Netzwerk-Edge. Dies zeigt, wie Zellstandorte und Mobilvermittlungsstellen verteilte Edge-KI-Workloads unterstützen und gleichzeitig fortschrittliche 5G-Konnektivität bereitstellen können.

Neue KI-native Dienste setzen Telekommunikations-KI-Netze in Betrieb

KI-Grids werden zur Grundlage für eine neue Klasse von KI-nativen Anwendungen – in Echtzeit, hochgradig personalisiert, parallel verarbeitend und tokenintensiv.

Personal AI nutzt NVIDIA Riva, um im AI Grid Gesprächsagenten auf menschlichem Niveau zu betreiben. Durch die Ausführung kleiner Sprachmodelle näher an den Nutzern wird eine End-to-End-Latenz von unter 500 Millisekunden und über 50 % geringere Kosten pro Token erreicht, wodurch Spracherlebnisse ermöglicht werden, die sich natürlich anfühlen, aber in großem Maßstab wirtschaftlich rentabel bleiben.

Linker Vision transformiert die Stadtverwaltung durch den Einsatz von Echtzeit-Vision-KI im KI-Netz. Durch die Verarbeitung von Tausenden von Kamera-Feeds an verteilten Edge-Standorten bietet es eine vorhersehbare Latenz für Live-Erkennung und Sofortwarnungen – dies ermöglicht sicherere, intelligentere Städte mit bis zu 10-mal schnellerer Verkehrsunfallerkennung, 15-mal schnellerer Katastrophenreaktion und Warnungen in weniger als einer Minute bei gefährlichem Verhalten von Menschenmengen.

Decart definiert hyperpersonalisierte verteilte Medien neu, indem es die Echtzeit-Videogenerierung in KI-Netze einbringt. Durch die Ausführung seiner Lucy-Modelle am Netzwerk-Edge erreicht es eine Netzwerklatenz von unter 12 Millisekunden, was interaktive Videostreams und Overlays ermöglicht, die sich sofort an jeden Betrachter anpassen und selbst bei höchsten Zuschauerzahlen flüssige, immersive Live-Videoerlebnisse bieten.

KI-Netz-Referenzdesign und Ökosystem

Das NVIDIA AI Grid-Referenzdesign definiert die Bausteine – einschließlich NVIDIA beschleunigtem Computing, Netzwerk- und Softwareplattformen – für die Bereitstellung und Orchestrierung von KI an verteilten Standorten.

Ein wachsendes Ökosystem von Full-Stack-Partnern, darunter Cisco und Infrastrukturpartner wie HPE, bringen KI-Grid-Lösungen auf Systemen auf den Markt, die mit der NVIDIA RTX PRO 6000 Blackwell Server Edition entwickelt wurden. Armada, Rafay und Spectro Cloud gehören zu den Partnern, die eine KI-Grid-Steuerebene entwickeln, um Workloads in verteilten KI-Infrastrukturen nahtlos zu orchestrieren.

„Physische KI beschleunigt den Übergang von zentraler Intelligenz zu verteilter Entscheidungsfindung am Netzwerk-Edge“, erklärte Masum Mir, Senior Vice President und General Manager Provider Mobility bei Cisco. „Unsere Partnerschaft mit NVIDIA bringt den gesamten Stack zusammen – von NVIDIA-GPUs bis hin zu Netzwerk- und Mobilitätsfunktionen von Cisco – und ermöglicht es Betreibern, geschäftskritische Anwendungen zu betreiben, Echtzeit-Inferenz bereitzustellen und an der KI-Wertschöpfungskette teilzunehmen.“

Zusammen hilft dieses Ökosystem Telekommunikationsunternehmen und verteilten Cloud-Anbietern, ihre Rolle in der KI-Wertschöpfungskette neu zu definieren – und verwandelt den Netzwerk-Edge in eine einheitliche Intelligenzebene, die KI-Workloads ausführt, skaliert und monetarisiert.

Erfahren Sie mehr über AI Grid.