NVIDIA en opslagleiders onthullen AI-infra

Een nieuw tijdperk van AI-aangedreven infrastructuur

NVIDIA heeft onlangs het NVIDIA AI Data Platform geïntroduceerd, een aanpasbaar referentieontwerp dat klaar staat om een revolutie teweeg te brengen in AI-infrastructuur. Dit baanbrekende platform wordt door toonaangevende technologieleveranciers overgenomen om een nieuwe generatie infrastructuur te bouwen die specifiek is ontworpen voor de veeleisende eisen van AI-inferentie workloads. De kern van dit innovatieve ontwerp wordt gevormd door enterprise opslagplatforms, verbeterd met AI-query agenten, allemaal aangedreven door NVIDIA’s geavanceerde accelerated computing, netwerken en softwaretechnologieën.

Bedrijven empoweren met real-time inzichten

Het NVIDIA AI Data Platform stelt NVIDIA-gecertificeerde opslagproviders in staat om infrastructuur te bouwen die AI-redeneringsworkloads aanzienlijk versnelt. Dit wordt bereikt door de integratie van gespecialiseerde AI-query agenten. Deze intelligente agenten stellen bedrijven in staat om waardevolle inzichten uit hun data te halen in bijna real-time. Deze mogelijkheid wordt aangedreven door NVIDIA AI Enterprise software, een uitgebreide suite die NVIDIA NIM™ microservices omvat, ontworpen voor de nieuwe NVIDIA Llama Nemotron modellen. Deze modellen beschikken over geavanceerde redeneermogelijkheden, waardoor het platform nog beter in staat is om bruikbare intelligentie te leveren. Dit wordt aangevuld met het nieuwe NVIDIA AI-Q Blueprint, een framework dat de ontwikkeling van agent-gebaseerde systemen stroomlijnt.

Infrastructuur optimaliseren voor AI-query agenten

Opslagproviders kunnen het NVIDIA AI Data Platform gebruiken om hun infrastructuur te optimaliseren, zodat deze effectief de geavanceerde AI-query agenten kan aandrijven. Deze optimalisatie omvat het integreren van belangrijke NVIDIA-technologieën, waaronder NVIDIA Blackwell GPU’s, NVIDIA BlueField® DPU’s, NVIDIA Spectrum-X™ networking, en de NVIDIA Dynamo open-source inference library. Deze componenten werken synergetisch samen om een high-performance omgeving te creëren die is afgestemd op AI-gedreven dataverwerking.

Een samenwerking in de hele industrie

Er is een opmerkelijke samenwerking gaande, waarbij toonaangevende dataplatform- en opslagproviders hun krachten bundelen met NVIDIA. Industriegiganten zoals DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data en WEKA werken actief aan het creëren van op maat gemaakte AI-dataplatforms. Deze platforms zijn ontworpen om het enorme potentieel van enterprise data te benutten, waardoor bedrijven in staat worden gesteld om te redeneren en te reageren op complexe queries met ongekende snelheid en nauwkeurigheid.

Jensen Huang’s visie: Data als brandstof voor het AI-tijdperk

Jensen Huang, de oprichter en CEO van NVIDIA, beschrijft data treffend als ‘het ruwe materiaal dat industrieën aandrijft in het tijdperk van AI’. Hij benadrukt dat deze samenwerking met ‘s werelds opslagleiders een ‘nieuwe klasse van enterprise infrastructuur’ smeedt. Deze infrastructuur van de volgende generatie is essentieel voor bedrijven om agent-gebaseerde AI te implementeren en te schalen in hun hybride datacenters, waardoor nieuwe niveaus van efficiëntie en innovatie worden ontsloten.

Accelerated computing naar enterprise opslag brengen

Het NVIDIA AI Data Platform markeert een aanzienlijke vooruitgang door de kracht van accelerated computing en AI te brengen naar het grote aantal bedrijven dat afhankelijk is van enterprise opslag. Deze bedrijven gebruiken opslagoplossingen om de kritieke data te beheren die hun activiteiten aandrijven. De integratie van NVIDIA’s technologieën in dit ecosysteem opent een nieuw rijk aan mogelijkheden.

De kracht van NVIDIA-technologieën: Blackwell, BlueField en Spectrum-X

Het platform maakt gebruik van de gecombineerde mogelijkheden van NVIDIA Blackwell GPU’s, BlueField DPU’s en Spectrum-X networking. Deze componenten vormen een versnelde engine die de toegang van AI-query agenten tot data op enterprise opslagsystemen drastisch versnelt.

BlueField DPU’s spelen een cruciale rol bij het verbeteren van de prestaties en efficiëntie. Ze leveren tot 1,6 keer hogere prestaties in vergelijking met CPU-gebaseerde opslagoplossingen. Tegelijkertijd verminderen ze het stroomverbruik met maximaal 50%. Dit vertaalt zich in een opmerkelijke verbetering van de prestaties per watt, die traditionele oplossingen met meer dan het drievoudige overtreft.

Spectrum-X neemt de taak op zich om AI-opslagverkeer te versnellen. Het bereikt een snelheidsverhoging van maximaal 48% in vergelijking met traditioneel Ethernet. Dit wordt bereikt door de implementatie van adaptieve routering en congestiecontrolemechanismen, waardoor de datastroom wordt geoptimaliseerd en knelpunten worden geminimaliseerd.

Het NVIDIA AI-Q Blueprint: Een framework voor agent-gebaseerde systemen

De opslaginfrastructuur van het NVIDIA AI Data Platform maakt gebruik van het NVIDIA AI-Q Blueprint. Dit blueprint dient als leidraad voor het ontwikkelen van agent-gebaseerde systemen die in staat zijn om te redeneren en verbinding te maken met enterprise data. AI-Q maakt gebruik van NVIDIA NeMo Retriever™ microservices, die een cruciale rol spelen bij het versnellen van data-extractie en -retrieval. Deze microservices kunnen de datatoegangssnelheden tot 15 keer verhogen op NVIDIA GPU’s, waardoor de algehele efficiëntie van het platform aanzienlijk wordt verbeterd.

Reacties verbeteren met contextueel bewustzijn

AI-query agenten die zijn gebouwd met behulp van het AI-Q Blueprint zijn ontworpen om verbinding te maken met data tijdens het inferentieproces. Deze cruciale verbinding stelt hen in staat om reacties te geven die nauwkeuriger en contextueel bewuster zijn. Deze agenten hebben de mogelijkheid om snel toegang te krijgen tot grootschalige data en verschillende datatypes te verwerken. Dit omvat gestructureerde, semi-gestructureerde en ongestructureerde data afkomstig van meerdere bronnen, zoals tekstdocumenten, PDF’s, afbeeldingen en zelfs video-inhoud.

Partnerinitiatieven: Het AI Data Platform aanpassen

NVIDIA-gecertificeerde opslagpartners werken actief samen met NVIDIA om op maat gemaakte AI-dataplatforms te ontwikkelen die zijn afgestemd op hun specifieke aanbod. Hier is een glimp van enkele van deze initiatieven:

  • DDN: DDN integreert AI Data Platform-mogelijkheden in zijn DDN Infinia AI-platform, waardoor de prestaties en functionaliteit worden verbeterd.
  • Dell Technologies: Dell creëert AI-dataplatforms voor zijn reeks Dell PowerScale en Project Lightning-oplossingen, waardoor hun mogelijkheden op het gebied van AI worden uitgebreid.
  • Hewlett Packard Enterprise: HPE integreert AI Data Platform-mogelijkheden in verschillende van zijn aanbiedingen, waaronder HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP en HPE GreenLake for File Storage.
  • Hitachi Vantara: Hitachi Vantara integreert het AI Data Platform in zijn Hitachi IQ-ecosysteem. Deze integratie is bedoeld om klanten te voorzien van innovatieve opslagsystemen en data-aanbiedingen die tastbare AI-gedreven resultaten opleveren.
  • IBM: IBM integreert het AI Data Platform als onderdeel van zijn content-aware opslagcapaciteit. Deze integratie omvat IBM Fusion en IBM Storage Scale-technologie en is ontworpen om retrieval-augmented generation-applicaties te versnellen.
  • NetApp: NetApp bevordert enterprise opslag voor agent-gebaseerde AI met zijn NetApp AIPod-oplossing, die is gebouwd op de basis van het AI Data Platform.
  • Nutanix: Het Nutanix Cloud Platform met Nutanix Unified Storage zal integreren met het NVIDIA AI Data Platform. Deze integratie maakt het mogelijk om inferentie- en agent-gebaseerde workflows te implementeren in verschillende omgevingen, waaronder de edge, datacenters en public clouds.
  • Pure Storage: Pure Storage zal AI Data Platform-mogelijkheden leveren via zijn Pure Storage FlashBlade-oplossing, waardoor de prestaties en AI-gereedheid worden verbeterd.
  • VAST Data: VAST Data werkt samen met het AI Data Platform om real-time inzichten te cureren met behulp van zijn VAST InsightEngine, waardoor nieuwe mogelijkheden voor data-analyse worden ontsloten.
  • WEKA: De WEKA Data Platform software integreert met NVIDIA GPU’s, DPU’s en netwerktechnologieën. Deze integratie optimaliseert de datatoegang voor agent-gebaseerde AI-redenering en -inzichten, en biedt een high-performance opslagfundament dat AI-inferentie- en tokenverwerkingsworkloads versnelt.

Beschikbaarheid en toekomstperspectief

NVIDIA-gecertificeerde opslagproviders zijn van plan om vanaf deze maand te beginnen met het aanbieden van oplossingen die zijn gemaakt met het NVIDIA AI Data Platform. Dit markeert een belangrijke stap in de richting van wijdverspreide adoptie van deze transformatieve technologie. De toekomst van enterprise infrastructuur wordt ongetwijfeld gevormd door AI, en het NVIDIA AI Data Platform loopt voorop in deze revolutie.