Eine neue Ära KI-gestützter Infrastruktur
NVIDIA hat kürzlich die NVIDIA AI Data Platform vorgestellt, ein anpassbares Referenzdesign, das die KI-Infrastruktur revolutionieren soll. Diese bahnbrechende Plattform wird von führenden Technologieanbietern übernommen, um eine neue Generation von Infrastruktur zu konstruieren, die speziell für die anspruchsvollen Anforderungen von KI-Inferenz-Workloads entwickelt wurde. Im Kern dieses innovativen Designs stehen Enterprise-Speicherplattformen, die mit KI-Abfrageagenten erweitert wurden und alle auf den hochmodernen Technologien von NVIDIA für beschleunigtes Computing, Networking und Software basieren.
Unternehmen mit Echtzeit-Einblicken unterstützen
Die NVIDIA AI Data Platform ermöglicht es Anbietern von NVIDIA-zertifizierten Speichern, eine Infrastruktur aufzubauen, die KI-Reasoning-Workloads erheblich beschleunigt. Dies wird durch die Integration spezialisierter KI-Abfrageagenten erreicht. Diese intelligenten Agenten ermöglichen es Unternehmen, nahezu in Echtzeit wertvolle Erkenntnisse aus ihren Daten zu gewinnen. Diese Fähigkeit wird durch die NVIDIA AI Enterprise Software unterstützt, eine umfassende Suite, die NVIDIA NIM™ Microservices für die neuen NVIDIA Llama Nemotron Modelle enthält. Diese Modelle verfügen über fortschrittliche Reasoning-Fähigkeiten, die die Fähigkeit der Plattform, verwertbare Informationen zu liefern, weiter verbessern. Ergänzt wird dies durch den neuen NVIDIA AI-Q Blueprint, ein Framework, das die Entwicklung agentischer Systeme vereinfacht.
Optimierung der Infrastruktur für KI-Abfrageagenten
Speicheranbieter können die NVIDIA AI Data Platform nutzen, um ihre Infrastruktur zu optimieren und sicherzustellen, dass sie diese hochentwickelten KI-Abfrageagenten effektiv betreiben kann. Diese Optimierung umfasst die Integration wichtiger NVIDIA-Technologien, darunter NVIDIA Blackwell GPUs, NVIDIA BlueField® DPUs, NVIDIA Spectrum-X™ Networking und die NVIDIA Dynamo Open-Source-Inferenzbibliothek. Diese Komponenten arbeiten synergetisch zusammen, um eine hochleistungsfähige Umgebung zu schaffen, die auf KI-gesteuerte Datenverarbeitung zugeschnitten ist.
Eine branchenweite Zusammenarbeit
Eine bemerkenswerte Zusammenarbeit ist im Gange, bei der führende Datenplattform- und Speicheranbieter ihre Kräfte mit NVIDIA bündeln. Branchenriesen wie DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data und WEKA arbeiten aktiv an der Entwicklung maßgeschneiderter KI-Datenplattformen. Diese Plattformen sind darauf ausgelegt, das enorme Potenzial von Unternehmensdaten zu nutzen und es Unternehmen zu ermöglichen, komplexe Abfragen mit beispielloser Geschwindigkeit und Genauigkeit zu beantworten und darauf zu reagieren.
Jensen Huangs Vision: Daten als Treibstoff für das KI-Zeitalter
Jensen Huang, Gründer und CEO von NVIDIA, beschreibt Daten treffend als “den Rohstoff, der die Industrien im Zeitalter der KI antreibt”. Er betont, dass diese Zusammenarbeit mit den weltweit führenden Speicheranbietern eine “neue Klasse von Unternehmensinfrastruktur” schafft. Diese Infrastruktur der nächsten Generation ist unerlässlich für Unternehmen, um agentische KI in ihren hybriden Rechenzentren zu implementieren und zu skalieren und so neue Ebenen der Effizienz und Innovation zu erschließen.
Beschleunigtes Computing für Enterprise-Speicher
Die NVIDIA AI Data Platform stellt einen bedeutenden Fortschritt dar, indem sie die Leistungsfähigkeit von beschleunigtem Computing und KI für die große Anzahl von Unternehmen bereitstellt, die auf Enterprise-Speicher angewiesen sind. Diese Unternehmen nutzen Speicherlösungen, um die kritischen Daten zu verwalten, die ihre Abläufe steuern. Die Integration der Technologien von NVIDIA in dieses Ökosystem eröffnet eine neue Welt von Möglichkeiten.
Die Leistungsfähigkeit der NVIDIA-Technologien: Blackwell, BlueField und Spectrum-X
Die Plattform nutzt die kombinierten Fähigkeiten von NVIDIA Blackwell GPUs, BlueField DPUs und Spectrum-X Networking. Diese Komponenten bilden eine beschleunigte Engine, die den Zugriff von KI-Abfrageagenten auf Daten, die auf Enterprise-Speichersystemen gespeichert sind, drastisch beschleunigt.
BlueField DPUs spielen eine entscheidende Rolle bei der Verbesserung von Leistung und Effizienz. Sie bieten eine bis zu 1,6-mal höhere Leistung im Vergleich zu CPU-basierten Speicherlösungen. Gleichzeitig reduzieren sie den Stromverbrauch um bis zu 50 %. Dies führt zu einer bemerkenswerten Verbesserung der Leistung pro Watt, die herkömmliche Lösungen um mehr als das Dreifache übertrifft.
Spectrum-X übernimmt die Aufgabe, den KI-Speicherverkehr zu beschleunigen. Es erreicht eine bis zu 48 % höhere Geschwindigkeit im Vergleich zu herkömmlichem Ethernet. Dies wird durch die Implementierung adaptiver Routing- und Überlastkontrollmechanismen erreicht, die den Datenfluss optimieren und Engpässe minimieren.
Der NVIDIA AI-Q Blueprint: Ein Framework für agentische Systeme
Die Speicherinfrastruktur der NVIDIA AI Data Platform verwendet den NVIDIA AI-Q Blueprint. Dieser Blueprint dient als Leitfaden für die Entwicklung agentischer Systeme, die in der Lage sind, zu schlussfolgern und sich mit Unternehmensdaten zu verbinden. AI-Q nutzt NVIDIA NeMo Retriever™ Microservices, die eine entscheidende Rolle bei der Beschleunigung der Datenextraktion und -abfrage spielen. Diese Microservices können die Datenzugriffsgeschwindigkeit auf NVIDIA GPUs um das bis zu 15-fache steigern, was die Gesamteffizienz der Plattform erheblich verbessert.
Verbesserung der Antworten durch Kontextbewusstsein
KI-Abfrageagenten, die mit dem AI-Q Blueprint erstellt wurden, sind so konzipiert, dass sie sich während des Inferenzprozesses mit Daten verbinden. Diese entscheidende Verbindung ermöglicht es ihnen, Antworten zu liefern, die genauer und kontextbezogener sind. Diese Agenten haben die Fähigkeit, schnell auf umfangreiche Daten zuzugreifen und verschiedene Datentypen zu verarbeiten. Dazu gehören strukturierte, halbstrukturierte und unstrukturierte Daten aus verschiedenen Quellen, wie Textdokumente, PDFs, Bilder und sogar Videoinhalte.
Partnerinitiativen: Anpassung der KI-Datenplattform
NVIDIA-zertifizierte Speicherpartner arbeiten aktiv mit NVIDIA zusammen, um maßgeschneiderte KI-Datenplattformen zu entwickeln, die auf ihre spezifischen Angebote zugeschnitten sind. Hier ein Einblick in einige dieser Initiativen:
- DDN: DDN integriert die Funktionen der AI Data Platform in seine DDN Infinia AI-Plattform, um deren Leistung und Funktionalität zu verbessern.
- Dell Technologies: Dell entwickelt KI-Datenplattformen für seine Produktpalette Dell PowerScale und Project Lightning, um deren Fähigkeiten im KI-Bereich zu erweitern.
- Hewlett Packard Enterprise: HPE integriert die Funktionen der AI Data Platform in mehrere seiner Angebote, darunter HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP und HPE GreenLake for File Storage.
- Hitachi Vantara: Hitachi Vantara integriert die AI Data Platform in sein Hitachi IQ-Ökosystem. Diese Integration zielt darauf ab, Kunden mit innovativen Speichersystemen und Datenangeboten zu versorgen, die greifbare KI-gesteuerte Ergebnisse liefern.
- IBM: IBM integriert die AI Data Platform als Teil seiner inhaltsbezogenen Speicherfunktion. Diese Integration umfasst IBM Fusion und IBM Storage Scale Technologie und soll Retrieval-Augmented-Generation-Anwendungen beschleunigen.
- NetApp: NetApp treibt Enterprise-Speicher für agentische KI mit seiner NetApp AIPod-Lösung voran, die auf der Grundlage der AI Data Platform aufbaut.
- Nutanix: Die Nutanix Cloud Platform mit Nutanix Unified Storage wird in die NVIDIA AI Data Platform integriert. Diese Integration ermöglicht die Bereitstellung von Inferenz- und agentischen Workflows in verschiedenen Umgebungen, einschließlich Edge, Rechenzentren und Public Clouds.
- Pure Storage: Pure Storage wird die Funktionen der AI Data Platform über seine Pure Storage FlashBlade-Lösung bereitstellen und so deren Leistung und KI-Bereitschaft verbessern.
- VAST Data: VAST Data arbeitet mit der AI Data Platform zusammen, um Echtzeit-Einblicke mit seiner VAST InsightEngine zu kuratieren und neue Möglichkeiten für die Datenanalyse zu erschließen.
- WEKA: Die WEKA Data Platform Software wird in NVIDIA GPUs, DPUs und Netzwerktechnologien integriert. Diese Integration optimiert den Datenzugriff für agentische KI-Reasoning und -Einblicke und bietet eine hochleistungsfähige Speichergrundlage, die KI-Inferenz- und Token-Verarbeitungs-Workloads beschleunigt.
Verfügbarkeit und Zukunftsaussichten
NVIDIA-zertifizierte Speicheranbieter planen, ab diesem Monat mit dem Angebot von Lösungen zu beginnen, die mit der NVIDIA AI Data Platform erstellt wurden. Dies ist ein bedeutender Schritt in Richtung einer breiten Akzeptanz dieser transformativen Technologie. Die Zukunft der Unternehmensinfrastruktur wird zweifellos von KI geprägt sein, und die NVIDIA AI Data Platform steht an der Spitze dieser Revolution.