CoreWeave heeft zich gevestigd als een leider in cloud computing door uitgebreide toegang te bieden tot NVIDIA GB200 NVL72-systemen. Vooraanstaande entiteiten op het gebied van kunstmatige intelligentie (AI), waaronder Cohere, IBM en Mistral AI, maken al gebruik van deze resources om AI-modellen en -toepassingen te verfijnen.
Als de eerste cloudprovider die NVIDIA Grace Blackwell in het algemeen aanbiedt, heeft CoreWeave opmerkelijke MLPerf-benchmarkresultaten laten zien met behulp van NVIDIA GB200 NVL72. Dit krachtige platform, ontworpen voor redeneren en AI-agents, is nu toegankelijk voor de klanten van CoreWeave en biedt toegang tot duizenden NVIDIA Blackwell GPU’s.
‘We werken nauw samen met NVIDIA om ervoor te zorgen dat onze klanten de meest geavanceerde oplossingen hebben voor het trainen en afleiden van AI-modellen’, aldus Mike Intrator, CEO van CoreWeave. ‘Met de nieuwe Grace Blackwell rack-scale systemen behoren onze klanten tot de eersten die de prestatievoordelen van AI-innovatie op schaal ervaren.’
De inzet van duizenden NVIDIA Blackwell GPU’s maakt de snelle omzetting van ruwe data in bruikbare informatie mogelijk, met verdere uitbreidingen gepland.
Bedrijven die gebruikmaken van cloudproviders zoals CoreWeave, zijn bezig met het integreren van systemen die zijn gebouwd op NVIDIA Grace Blackwell. Deze systemen staan klaar om datacenters om te vormen tot AI-fabrieken, die op schaal intelligentie produceren en ruwe data omzetten in inzichten met grotere snelheid, nauwkeurigheid en efficiëntie.
Wereldwijde AI-leiders benutten de mogelijkheden van GB200 NVL72 voor verschillende toepassingen, waaronder AI-agents en geavanceerde modelontwikkeling.
Gepersonaliseerde AI-agents
Cohere gebruikt Grace Blackwell Superchips om de ontwikkeling van veilige enterprise AI-toepassingen te verbeteren, gebruikmakend van geavanceerd onderzoek en modelontwikkelingsmethodologieën. Het enterprise AI-platform, North, stelt teams in staat om gepersonaliseerde AI-agents te creëren voor veilige automatisering van enterprise workflows en real-time inzichten.
Door gebruik te maken van NVIDIA GB200 NVL72 op CoreWeave, heeft Cohere een prestatieverbetering tot driemaal gezien bij het trainen van modellen met 100 miljard parameters in vergelijking met eerdere generatie NVIDIA Hopper GPU’s, zelfs zonder Blackwell-specifieke optimalisaties.
Verdere optimalisaties die gebruikmaken van het unified memory, FP4-precisie en een 72-GPU NVIDIA NVLink-domein van GB200 NVL72 verbeteren de doorvoer. Elke GPU werkt samen, wat resulteert in een hogere doorvoer met kortere tijd tot eerste en volgende tokens voor meer performante, kosteneffectieve inferentie.
‘Met toegang tot enkele van de eerste NVIDIA GB200 NVL72-systemen in de cloud zijn we tevreden over hoe gemakkelijk onze workloads naar de NVIDIA Grace Blackwell-architectuur worden overgezet’, aldus Autumn Moulder, vice-president of engineering bij Cohere. ‘Dit ontsluit ongelooflijke prestatie-efficiëntie in onze hele stack - van onze verticaal geïntegreerde North-applicatie die op een enkele Blackwell GPU draait tot het schalen van trainingstaken over duizenden ervan. We kijken ernaar uit om binnenkort nog betere prestaties te behalen met extra optimalisaties.’
AI-modellen voor ondernemingen
IBM maakt gebruik van een van de eerste NVIDIA GB200 NVL72-systeemimplementaties, die opschaalt naar duizenden Blackwell GPU’s op CoreWeave, om zijn volgende generatie Granite-modellen te trainen. Deze open-source, enterprise-ready AI-modellen leveren state-of-the-art prestaties en garanderen tegelijkertijd veiligheid, snelheid en kosteneffectiviteit. De Granite-modellenfamilie wordt ondersteund door een robuust partner-ecosysteem, waaronder toonaangevende softwarebedrijven die grote taalmodellen in hun technologieën integreren.
Granite-modellen dienen als basis voor oplossingen zoals IBM watsonx Orchestrate, waarmee ondernemingen AI-agents kunnen ontwikkelen en implementeren die workflows automatiseren en versnellen.
De NVIDIA GB200 NVL72-implementatie van CoreWeave voor IBM maakt ook gebruik van het IBM Storage Scale System, dat hoogwaardige opslag biedt voor AI. CoreWeave-klanten hebben toegang tot het IBM Storage-platform binnen de speciale omgevingen en het AI-cloudplatform van CoreWeave.
‘We zijn verheugd over de versnelling die NVIDIA GB200 NVL72 kan brengen bij het trainen van onze Granite-modellenfamilie’, aldus Sriram Raghavan, vice-president of AI bij IBM Research. ‘Deze samenwerking met CoreWeave zal de mogelijkheden van IBM vergroten om geavanceerde, hoogwaardige en kostenefficiënte modellen te bouwen voor het aandrijven van enterprise- en agentic AI-toepassingen met IBM watsonx.’
Compute resources op schaal
Mistral AI integreert nu zijn eerste duizend Blackwell GPU’s om de volgende generatie open-source AI-modellen te bouwen.
Mistral AI, een in Parijs gevestigde leider in open-source AI, maakt gebruik van de infrastructuur van CoreWeave, nu uitgerust met GB200 NVL72, om de ontwikkeling van zijn taalmodellen te versnellen. Met modellen zoals Mistral Large die robuuste redeneermogelijkheden leveren, heeft Mistral snelle computing resources op schaal nodig.
Om deze modellen effectief te trainen en te implementeren, heeft Mistral AI een cloudprovider nodig die grote, hoogwaardige GPU-clusters biedt met NVIDIA Quantum InfiniBand-netwerken en betrouwbaar infrastructuurbeheer. De expertise van CoreWeave in het implementeren van NVIDIA GPU’s op schaal, gecombineerd met toonaangevende betrouwbaarheid en veerkracht via tools zoals CoreWeave Mission Control, voldoen aan deze behoeften.
‘Direct uit de doos en zonder verdere optimalisaties zagen we een prestatieverbetering van 2x voor dense modeltraining’, aldus Thimothee Lacroix, medeoprichter en chief technology officer bij Mistral AI. ‘Wat spannend is aan NVIDIA GB200 NVL72, zijn de nieuwe mogelijkheden die het opent voor modelontwikkeling en inferentie.’
Verbreding van de beschikbaarheid van Blackwell-instances
CoreWeave biedt niet alleen oplossingen voor langetermijnklanten, maar biedt ook instances met rack-scale NVIDIA NVLink over 72 NVIDIA Blackwell GPU’s en 36 NVIDIA Grace CPU’s, die opschalen tot 110.000 GPU’s met NVIDIA Quantum-2 InfiniBand-netwerken.
Deze instances, versneld door het NVIDIA GB200 NVL72 rack-scale accelerated computing platform, leveren de schaal en prestaties die nodig zijn om de volgende golf van AI-redeneermodellen en -agents te ontwikkelen en te implementeren.
Diepgaande blik op de technologische infrastructuur van CoreWeave
CoreWeave heeft zich gevestigd als een cruciale speler in de cloud computing-arena, grotendeels te danken aan de toewijding aan het leveren van geavanceerde hardware-oplossingen en een robuuste infrastructuur die is afgestemd op de eisen van AI- en machine learning-workloads. De integratie van de NVIDIA GB200 NVL72-systemen onderstreept deze toewijding. Deze systemen zijn niet slechts incrementele upgrades; ze vertegenwoordigen een aanzienlijke sprong in rekenkracht en efficiëntie, waardoor organisaties uitdagingen kunnen aangaan die voorheen onoverkomelijk werden geacht.
De architectuur van de NVIDIA GB200 NVL72 is zorgvuldig ontworpen om de prestaties te maximaliseren over een spectrum van AI-toepassingen. Door 72 NVIDIA Blackwell GPU’s te integreren met 36 NVIDIA Grace CPU’s, biedt het platform een evenwichtige en krachtige compute-omgeving. Dit evenwicht is cruciaal voor workloads die zowel intensieve berekeningen als aanzienlijke dataverwerkingsmogelijkheden vereisen. Het gebruik van NVIDIA’s NVLink-technologie verbetert de efficiëntie van het systeem verder door snelle communicatie tussen GPU’s mogelijk te maken, waardoor latency wordt geminimaliseerd en de doorvoer wordt gemaximaliseerd.
De infrastructuur van CoreWeave wordt ook gekenmerkt door de schaalbaarheid. De mogelijkheid om op te schalen tot 110.000 GPU’s met behulp van NVIDIA Quantum-2 InfiniBand-netwerken stelt het platform in staat om zelfs de meest veeleisende AI-projecten te ondersteunen. Deze schaalbaarheid gaat niet alleen over ruwe rekenkracht; het omvat ook het waarborgen dat de netwerkinfrastructuur de enorme datastromen kan verwerken die gepaard gaan met grootschalige AI-training en inferentie. Het NVIDIA Quantum-2 InfiniBand-netwerk biedt de nodige bandbreedte en lage latency om optimale prestaties te behouden naarmate het systeem schaalt.
Het strategische belang van vroege adoptie
De proactieve benadering van CoreWeave bij het adopteren van nieuwe technologieën zoals de NVIDIA Grace Blackwell GPU’s heeft het gepositioneerd als een strategische partner voor bedrijven die voorop lopen in AI-innovatie. Door een van de eerste cloudproviders te zijn die deze geavanceerde resources aanbiedt, stelt CoreWeave zijn klanten in staat om een concurrentievoordeel te behalen in hun respectievelijke markten. Deze vroege toegang stelt bedrijven in staat om te experimenteren met nieuwe modellen, hun bestaande workflows te optimaliseren en uiteindelijk hun time-to-market te versnellen.
De voordelen van vroege adoptie gaan verder dan alleen toegang tot geavanceerde hardware. Het omvat ook nauwe samenwerking met technologieproviders zoals NVIDIA, waardoor CoreWeave zijn infrastructuur en softwarestack kan afstemmen om de mogelijkheden van de nieuwe hardware volledig te benutten. Deze samenwerking resulteert in een meer geoptimaliseerd en efficiënt platform, wat zich vertaalt in betere prestaties en kostenbesparingen voor de klanten van CoreWeave.
Bovendien bevordert de vroege adoptiestrategie van CoreWeave een cultuur van innovatie binnen het bedrijf. Door voortdurend de grenzen te verleggen van wat mogelijk is met cloud computing, trekt CoreWeave toptalent aan en vestigt het zich als een leider in de industrie. Dit versterkt op zijn beurt het vermogen om geavanceerde oplossingen te bieden en het concurrentievoordeel te behouden.
Implicaties voor AI-modelontwikkeling
De implementatie van NVIDIA Grace Blackwell GPU’s op het platform van CoreWeave heeft diepgaande implicaties voor de ontwikkeling van AI-modellen. De verbeterde rekenkracht en efficiëntie van deze GPU’s stellen onderzoekers en engineers in staat om grotere, complexere modellen te trainen in een fractie van de tijd in vergelijking met eerdere generaties hardware. Deze versnelling van het trainingsproces is cruciaal om voorop te blijven lopen in het snel evoluerende vakgebied van AI.
Verder vergemakkelijken de NVIDIA GB200 NVL72-systemen de ontwikkeling van meer geavanceerde AI-modellen die complexere taken kunnen uitvoeren. Deze systemen zijn bijvoorbeeld bijzonder geschikt voor het trainen van modellen die uitgebreide redeneermogelijkheden vereisen, zoals die worden gebruikt in natuurlijke taalverwerking en computer vision. Het vermogen om enorme hoeveelheden data te verwerken en ingewikkelde berekeningen uit te voeren, maakt deze modellen nauwkeuriger, betrouwbaarder en in staat om real-world scenario’s aan te pakken.
De impact op specifieke toepassingen is aanzienlijk. In natuurlijke taalverwerking maakt de nieuwe hardware de creatie van krachtigere taalmodellen mogelijk die mensachtige tekst met grotere vloeiendheid en samenhang kunnen begrijpen en genereren. Dit leidt tot verbeteringen in toepassingen zoals chatbots, virtuele assistenten en machinevertaling. In computer vision maakt de verbeterde rekenkracht de ontwikkeling van nauwkeurigere objectherkenningssystemen mogelijk, die essentieel zijn voor toepassingen zoals autonome voertuigen, medische beeldvorming en bewaking.
De rol van CoreWeave bij het democratiseren van AI
De inspanningen van CoreWeave om geavanceerde computing resources toegankelijk te maken voor een breder publiek spelen een belangrijke rol bij het democratiseren van AI. Door kosteneffectieve toegang te bieden tot geavanceerde hardware, stelt CoreWeave kleinere bedrijven en onderzoeksinstellingen in staat om te concurreren met grotere organisaties die traditioneel het AI-landschap hebben gedomineerd. Deze democratisering van AI bevordert innovatie en bevordert een meer divers scala aan perspectieven bij de ontwikkeling van AI-technologieën.
De beschikbaarheid van krachtige cloud-based resources verlaagt ook de drempel voor individuen en startups die geïnteresseerd zijn in het verkennen van AI. Door de noodzaak van grote initiële investeringen in hardware te elimineren, stelt CoreWeave aspirant-AI-ontwikkelaars in staat om zich te concentreren op hun ideeën en innovaties. Dit kan leiden tot de creatie van nieuwe toepassingen en oplossingen die anders misschien niet mogelijk waren geweest.
Bovendien draagt de toewijding van CoreWeave aan het leveren van een gebruiksvriendelijk platform en uitgebreide ondersteuningsdiensten verder bij aan de democratisering van AI. Door het voor gebruikers gemakkelijker te maken om toegang te krijgen tot geavanceerde computing resources en deze te gebruiken, stelt CoreWeave hen in staat om hun doelen te bereiken en bij te dragen aan de vooruitgang van AI.
Transformatie van industrieën met AI
De ontwikkelingen die mogelijk worden gemaakt door de implementatie van NVIDIA Grace Blackwell GPU’s door CoreWeave, staan klaar om verschillende industrieën te transformeren. De verbeterde rekenkracht en efficiëntie van deze systemen zullen innovatie stimuleren en nieuwe kansen creëren in sectoren variërend van gezondheidszorg tot financiën.
In de gezondheidszorg wordt AI gebruikt om nauwkeurigere diagnostische hulpmiddelen te ontwikkelen, behandelplannen te personaliseren en de ontdekking van geneesmiddelen te versnellen. De beschikbaarheid van geavanceerde computing resources stelt onderzoekers in staat om enorme hoeveelheden medische data te analyseren en patronen te identificeren die onmogelijk handmatig te detecteren zouden zijn. Dit kan leiden tot doorbraken in de behandeling van ziekten en de resultaten voor patiënten verbeteren.
In de financiële sector wordt AI gebruikt om fraude te detecteren, risico’s te beheren en handelsprocessen te automatiseren. Het vermogen om grote hoeveelheden financiële data in realtime te verwerken stelt bedrijven in staat om beter geïnformeerde beslissingen te nemen en snel te reageren op veranderende marktomstandigheden. Dit kan leiden tot verhoogde efficiëntie, verlaagde kosten en verbeterde winstgevendheid.
Andere industrieën die waarschijnlijk zullen worden getransformeerd door AI zijn onder meer de productie, transport en detailhandel. In de productie wordt AI gebruikt om productieprocessen te optimaliseren, de kwaliteitscontrole te verbeteren en afval te verminderen. In het transport maakt AI de ontwikkeling van autonome voertuigen en efficiëntere logistieke systemen mogelijk. In de detailhandel wordt AI gebruikt om klantervaringen te personaliseren, de prijsstelling te optimaliseren en het supply chain management te verbeteren.
De visie van CoreWeave voor de toekomst
De implementatie van NVIDIA Grace Blackwell GPU’s door CoreWeave is niet zomaar een eenmalige gebeurtenis; het is onderdeel van een bredere visie op de toekomst van cloud computing en AI. CoreWeave is toegewijd aan het voortdurend investeren in nieuwe technologieën en het uitbreiden van zijn infrastructuur om te voldoen aan de veranderende behoeften van zijn klanten. Dit omvat het verkennen van nieuwe architecturen, het ontwikkelen van efficiëntere software en het bevorderen van samenwerkingen met toonaangevende technologieproviders.
De visie van CoreWeave gaat verder dan alleen het leveren van geavanceerde computing resources. Het omvat ook het creëren van een levendig ecosysteem van ontwikkelaars, onderzoekers en bedrijven die werken aan het verleggen van de grenzen van AI. Door innovatie en samenwerking te bevorderen, wil CoreWeave de ontwikkeling en adoptie van AI-technologieën in alle industrieën versnellen.
De toewijding van het bedrijf aan duurzaamheid is ook een belangrijk onderdeel van zijn visie. CoreWeave werkt actief aan het verminderen van zijn impact op het milieu door gebruik te maken van hernieuwbare energiebronnen en energiezuinige technologieën te implementeren. Dit weerspiegelt een groeiend besef van het belang van duurzaamheid in de tech-industrie en een toewijding aan het creëren van een meer ecologisch verantwoorde toekomst.