Überwältigende 91 % der Unternehmen im Finanzdienstleistungssektor (FSI) evaluieren künstliche Intelligenz oder haben sie bereits im Einsatz, um Innovationen voranzutreiben, die betriebliche Effizienz zu steigern und das Kundenerlebnis zu verbessern.
Generative KI – unterstützt von NVIDIA NIM-Microservices und beschleunigtem Computing – kann Unternehmen dabei helfen, die Portfolio-Optimierung, die Betrugserkennung, den Kundenservice und das Risikomanagement zu verbessern.
Zu den Unternehmen, die diese Technologien zur Verbesserung von Finanzdienstleistungsanwendungen nutzen, gehören Ntropy, Contextual AI und NayaOne – allesamt Mitglieder des NVIDIA Inception-Programms für innovative Start-ups
.
Und das im Silicon Valley ansässige Start-up Securiti, das eine zentralisierte, intelligente Plattform für die sichere Nutzung von Daten und generativer KI bietet, nutzt NVIDIA NIM, um einen KI-gestützten Copiloten für Finanzdienstleistungen zu entwickeln
.
Auf der Money20/20, einer führenden Fintech-Konferenz, die diese Woche in Las Vegas stattfindet, werden die Unternehmen demonstrieren, wie ihre Technologien unterschiedliche, oft komplexe FSI-Daten in umsetzbare Erkenntnisse und fortschrittliche Innovationsmöglichkeiten für Banken, Fintechs, Zahlungsanbieter und andere Unternehmen umwandeln können.
Ntropy bringt Ordnung in unstrukturierte Finanzdaten
Das in New York ansässige Unternehmen Ntropy trägt dazu bei, verschiedene Entropie-Zustände – Unordnung, Zufälligkeit oder Unsicherheit – aus Workflows im Finanzdienstleistungsbereich zu entfernen.
„Jedes Mal, wenn Geld von Punkt A nach Punkt B bewegt wird, wird Text in Kontoauszügen, PDF-Quittungen und anderen Formen der Transaktionshistorie hinterlassen“, sagt Naré Vardanyan, Mitbegründer und CEO von Ntropy. Traditionell waren diese unstrukturierten Daten sehr schwer zu bereinigen und für Finanzanwendungen zu nutzen.“
Die API (Application Programming Interface) des Unternehmens zur Transaktionsanreicherung standardisiert Finanzdaten aus verschiedenen Quellen und Regionen. Sie fungiert als gemeinsame Sprache, die Finanzdienstleistungsanwendungen dabei helfen kann, jede Transaktion mit menschenähnlicher Genauigkeit in nur wenigen Millisekunden zu verstehen, und das zu 10.000-mal geringeren Kosten als bei herkömmlichen Methoden.
Die Lösung basiert auf dem Llama 3 NVIDIA NIM-Microservice und dem NVIDIA Triton Inference Server, der auf NVIDIA H100 Tensor Core GPUs läuft. Mit dem Llama 3 NIM Microservice erreichte Ntropy eine bis zu 20-fach bessere Auslastung und einen höheren Durchsatz für seine großen Sprachmodelle (LLMs) im Vergleich zur Ausführung der nativen Modelle.
Airbase, ein führender Anbieter von Procure-to-Pay-Software-Plattformen, verbessert Transaktionsautorisierungsprozesse mit LLMs und dem Ntropy Data Enricher.
Auf der Money20/20 wird Ntropy erörtern, wie seine API zur Bereinigung der Händlerdaten von Kunden verwendet werden kann. Dadurch wird die Betrugserkennung durch die Verbesserung der Genauigkeit von Modellen zur Risikoerkennung verbessert. Dies wiederum reduziert sowohl falsche Transaktionsablehnungen als auch Umsatzverluste.
In einer weiteren Demo wird gezeigt, wie ein automatisierter Kreditvermittler die API von Ntropy nutzt, um Informationen auf der Website einer Bank zu analysieren und einen relevanten Investitionsbericht zu erstellen, um die Kreditvergabe und den Entscheidungsprozess für die Nutzer zu beschleunigen.
Contextual AI revolutioniert Retrieval-Augmented Generation für die Finanzdienstleistungsbranche
Contextual AI mit Sitz in Mountain View, Kalifornien, bietet eine produktionsfähige KI-Plattform, die auf Retrieval-Augmented Generation (RAG) basiert und sich ideal für die Entwicklung von KI-Anwendungen in wissensintensiven Anwendungsfällen der Finanzdienstleistungsbranche eignet.
„RAG ist die Antwort, um KI in Unternehmen in die Produktion zu bringen“, sagt Douwe Kiela, CEO und Mitbegründer von Contextual AI. „Durch die Nutzung von NVIDIA-Technologien und umfangreichen Sprachmodellen kann die Contextual AI RAG 2.0-Plattform FSI-Unternehmen, die ihre Abläufe optimieren und neue generative, KI-gestützte Produkte anbieten wollen, präzise und überprüfbare KI zur Verfügung stellen.“
Die Contextual KI-Plattform integriert die gesamte RAG-Pipeline – einschließlich Extraktion, Retrieval, Re-Ranking und Generierung – in ein einziges optimiertes System, das in wenigen Minuten bereitgestellt und je nach Kundenanforderungen weiter abgestimmt und spezialisiert werden kann. Dadurch wird eine wesentlich höhere Genauigkeit bei kontextabhängigen Aufgaben erreicht.
HSBC plant den Einsatz von Contextual AI, um Forschungserkenntnisse und Unterstützung bei Prozessanleitungen bereitzustellen, indem relevante Marktausblicke, Finanznachrichten und operative Dokumente abgerufen und zusammengeführt werden. Auch andere Finanzunternehmen nutzen die vorgefertigten Anwendungen von Contextual AI, u. a. für Finanzanalysen, die Generierung von Berichten zur Einhaltung von Richtlinien und die Auflösung von Finanzberatungsanfragen als auch andere Bereiche.
Ein Benutzer könnte beispielsweise fragen: „Wie sieht unsere Prognose für die Zentralbankzinssätze zum vierten Quartal 2025 aus?“ Die Contextual AI-Plattform gibt eine kurze Erklärung und eine präzise Antwort auf der Grundlage von Sachdokumenten, einschließlich Zitaten zu bestimmten Abschnitten in der Quelle.
Contextual AI nutzt NVIDIA Triton Inference Server und die Open-Source-Bibliothek NVIDIA TensorRT-LLM, um die LLM-Inferenz-Leistung zu beschleunigen und zu optimieren.
NayaOne bietet eine digitale Sandbox für Innovationen im Finanzdienstleistungssektor
Das in London ansässige Unternehmen NayaOne bietet eine KI-Sandbox, mit der Kunden KI-Anwendungen vor der kommerziellen Bereitstellung sicher testen und validieren können. Seine Technologieplattform ermöglicht es Finanzinstituten, synthetische Daten zu erstellen und bietet ihnen Zugriff auf einen Marktplatz mit Hunderten von Fintechs.
Kunden können die digitale Sandbox nutzen, um Anwendungen im Hinblick auf Fairness, Transparenz, Genauigkeit und andere Compliance-Maßnahmen hin zu überprüfen und so eine Spitzenleistung und eine erfolgreiche Integration zu gewährleisten.
„Die Nachfrage nach KI-gesteuerten Lösungen im Finanzdienstleistungssektor nimmt zu und unsere Zusammenarbeit mit NVIDIA ermöglicht es Institutionen, die Leistung generativer KI in einer kontrollierten, sicheren Umgebung zu nutzen“, sagte Karan Jain, CEO von NayaOne. „Wir schaffen ein Ökosystem, in dem Finanzinstitute schneller und effektiver Prototypen erstellen können, was zu echten geschäftlichen Veränderungen und Wachstumsinitiativen führt.“
Mit den NVIDIA NIM-Microservices können Kunden mit der KI-Sandbox von NayaOne optimierte KI-Modelle erforschen, mit ihnen experimentieren und sie leichter zur Anwendung bringen. Mit dem beschleunigten Computing von NVIDIA erreicht NayaOne eine bis zu 10-fach schnellere Verarbeitung der großen Datensätze, die in seinen Betrugserkennungsmodellen verwendet werden – und das bei bis zu 40 % geringeren Infrastrukturkosten im Vergleich zur Ausführung umfangreicher CPU-basierter Modelle.
Die digitale Sandbox nutzt außerdem das Open-Source-Toolset NVIDIA RAPIDS, bestehend aus Datenwissenschafts- und KI-Bibliotheken, um die Betrugserkennungs- und Präventionsfähigkeiten in Anwendungen für Geldtransfers zu beschleunigen. Das Unternehmen wird seine digitale Sandbox im NVIDIA AI Pavilion auf der Money20/20 demonstrieren.
Securiti verbessert Finanzplanung mit KI-Copilot
Die hochflexible Data+AI-Plattform von Securiti ermöglicht es Anwendern, sichere, durchgängige KI-Systeme für Unternehmen zu entwickeln. Sie bietet eine breite Palette an generativen KI-Anwendungen, darunter sichere KI-Copiloten für Unternehmen sowie LLM-Training und -Tuning.
Das Unternehmen entwickelt jetzt einen NVIDIA NIM-gestützten Finanzplanungsassistenten. Der Copilot-Chatbot greift auf verschiedene Finanzdaten zu und hält sich dabei an Datenschutz- und Berechtigungsrichtlinien, um kontextsensitive Antworten auf die finanzbezogenen Fragen der Benutzer zu liefern.
„Banken haben Schwierigkeiten, personalisierte Finanzberatung in großem Umfang anzubieten und gleichzeitig die Datensicherheit, den Datenschutz und die Einhaltung von Vorschriften zu gewährleisten“, sagt Jack Berkowitz, Chief Data Officer bei Securiti. „Mit robustem Datenschutz und rollenbasiertem Zugriff für einen sicheren, skalierbaren Support hilft Securiti dabei, sichere KI-Copiloten zu entwickeln, die eine personalisierte Finanzberatung bieten – zugeschnitten auf individuelle Ziele.“
Der Chatbot ruft Daten aus einer Vielzahl von Quellen ab, wie z. B. Ertragsaufzeichnungen, Kundenprofilen und Kontoständen sowie Dokumente zur Anlagenforschung. Die Lösung von Securiti nimmt die Daten sicher auf und bereitet sie für die Verwendung mit leistungsstarken, NVIDIA-getriebenen LLMs vor. Dabei bleiben Kontrollen wie Zugriffsberechtigungen erhalten. Schließlich bietet es den Benutzern über eine einfache Verbraucherschnittstelle individuelle Antworten.
Mit dem NIM-Microservice Llama 3 70B-Instruct optimierte Securiti die Leistung des LLM und gewährleistete gleichzeitig die sichere Nutzung der Daten. Das Unternehmen wird seine generative KI-Lösung auf der Money20/20 demonstrieren.
NIM-Microservices und Triton Inference Server sind über die NVIDIA AI Enterprise Software-Plattform verfügbar.
Erfahren Sie mehr über KI für Finanzdienstleistungen und besuchen Sie NVIDIA auf der Money20/20, die bis Mittwoch, den 30. Oktober läuft.
Entdecken Sie einen neuen NVIDIA KI-Workflow zur Betrugserkennung.