CoreWeave hat sich als Vorreiter im Cloud Computing etabliert und bietet umfangreichen Zugriff auf NVIDIA GB200 NVL72-Systeme. Führende Unternehmen im Bereich der künstlichen Intelligenz (KI), darunter Cohere, IBM und Mistral AI, nutzen diese Ressourcen bereits, um KI-Modelle und Anwendungen zu verfeinern.
Als erster Cloud-Anbieter, der NVIDIA Grace Blackwell allgemein anbietet, hat CoreWeave bemerkenswerte MLPerf-Benchmark-Ergebnisse mit NVIDIA GB200 NVL72 erzielt. Diese leistungsstarke Plattform, die für Schlussfolgerungen und KI-Agenten entwickelt wurde, ist jetzt für die Kunden von CoreWeave zugänglich und bietet Zugriff auf Tausende von NVIDIA Blackwell GPUs.
‘Wir arbeiten eng mit NVIDIA zusammen, um sicherzustellen, dass unsere Kunden die fortschrittlichsten Lösungen für das Training und die Inferenz von KI-Modellen haben’, sagte Mike Intrator, CEO von CoreWeave. ‘Mit den neuen Grace Blackwell Rack-Scale-Systemen gehören unsere Kunden zu den ersten, die die Leistungsvorteile von KI-Innovationen in großem Maßstab erleben.’
Der Einsatz von Tausenden von NVIDIA Blackwell GPUs ermöglicht die schnelle Umwandlung von Rohdaten in verwertbare Informationen, wobei weitere Erweiterungen geplant sind.
Unternehmen, die Cloud-Anbieter wie CoreWeave nutzen, sind dabei, Systeme zu integrieren, die auf NVIDIA Grace Blackwell basieren. Diese Systeme sind bereit, Rechenzentren in KI-Fabriken zu verwandeln, die Intelligenz in großem Maßstab produzieren und Rohdaten mit größerer Geschwindigkeit, Genauigkeit und Effizienz in Erkenntnisse umwandeln.
Globale KI-Führer nutzen die Fähigkeiten von GB200 NVL72 für verschiedene Anwendungen, darunter KI-Agenten und die Entwicklung fortschrittlicher Modelle.
Personalisierte KI-Agenten
Cohere nutzt Grace Blackwell Superchips, um die Entwicklung sicherer Enterprise-KI-Anwendungen zu verbessern und dabei fortschrittliche Forschungs- und Modellentwicklungsmethoden zu nutzen. Die Enterprise-KI-Plattform North ermöglicht es Teams, personalisierte KI-Agenten für die sichere Automatisierung von Enterprise-Workflows und Echtzeit-Einblicken zu erstellen.
Durch die Verwendung von NVIDIA GB200 NVL72 auf CoreWeave hat Cohere eine Leistungssteigerung von bis zu dreifach beim Training von Modellen mit 100 Milliarden Parametern im Vergleich zur vorherigen Generation von NVIDIA Hopper GPUs festgestellt, selbst ohne Blackwell-spezifische Optimierungen.
Weitere Optimierungen, die den einheitlichen Speicher, die FP4-Präzision und eine 72-GPU-NVIDIA NVLink-Domäne von GB200 NVL72 nutzen, verbessern den Durchsatz. Jede GPU arbeitet zusammen, was zu einem höheren Durchsatz mit kürzeren Zeiten für das erste und nachfolgende Token führt, was eine leistungsfähigere und kostengünstigere Inferenz ermöglicht.
‘Mit dem Zugriff auf einige der ersten NVIDIA GB200 NVL72-Systeme in der Cloud freuen wir uns darüber, wie einfach unsere Workloads auf die NVIDIA Grace Blackwell-Architektur portiert werden können’, sagte Autumn Moulder, Vice President of Engineering bei Cohere. ‘Dies eröffnet eine unglaubliche Leistungseffizienz in unserem gesamten Stack – von unserer vertikal integrierten North-Anwendung, die auf einer einzelnen Blackwell GPU läuft, bis hin zur Skalierung von Trainingsjobs über Tausende von ihnen. Wir freuen uns darauf, mit zusätzlichen Optimierungen bald noch größere Leistungen zu erzielen.’
KI-Modelle für Unternehmen
IBM nutzt eine der ersten NVIDIA GB200 NVL72-Systembereitstellungen, die auf Tausende von Blackwell GPUs auf CoreWeave skaliert, um seine nächste Generation von Granite-Modellen zu trainieren. Diese Open-Source-KI-Modelle in Unternehmensqualität bieten modernste Leistung und gewährleisten gleichzeitig Sicherheit, Geschwindigkeit und Kosteneffizienz. Die Granite-Modellfamilie wird von einem robusten Partner-Ökosystem unterstützt, darunter führende Softwareunternehmen, die große Sprachmodelle in ihre Technologien einbetten.
Granite-Modelle dienen als Grundlage für Lösungen wie IBM watsonx Orchestrate, die es Unternehmen ermöglichen, KI-Agenten zu entwickeln und bereitzustellen, die Workflows automatisieren und beschleunigen.
Die NVIDIA GB200 NVL72-Bereitstellung von CoreWeave für IBM nutzt auch das IBM Storage Scale System, das hochleistungsfähigen Speicher für KI bereitstellt. CoreWeave-Kunden können innerhalb der dedizierten Umgebungen und der KI-Cloud-Plattform von CoreWeave auf die IBM Storage-Plattform zugreifen.
‘Wir freuen uns über die Beschleunigung, die NVIDIA GB200 NVL72 beim Training unserer Granite-Modellfamilie bringen kann’, sagte Sriram Raghavan, Vice President of AI bei IBM Research. ‘Diese Zusammenarbeit mit CoreWeave wird die Fähigkeiten von IBM erweitern, fortschrittliche, leistungsstarke und kosteneffiziente Modelle für die Unterstützung von Unternehmens- und Agenten-KI-Anwendungen mit IBM watsonx zu entwickeln.’
Rechenressourcen im großen Maßstab
Mistral AI integriert jetzt seine ersten tausend Blackwell GPUs, um die nächste Generation von Open-Source-KI-Modellen zu erstellen.
Mistral AI, ein in Paris ansässiges führendes Unternehmen im Bereich Open-Source-KI, nutzt die Infrastruktur von CoreWeave, die jetzt mit GB200 NVL72 ausgestattet ist, um die Entwicklung seiner Sprachmodelle zu beschleunigen. Mit Modellen wie Mistral Large, die robuste Schlussfolgerungsfähigkeiten bieten, benötigt Mistral schnelle Rechenressourcen im großen Maßstab.
Um diese Modelle effektiv zu trainieren und bereitzustellen, benötigt Mistral AI einen Cloud-Anbieter, der große, hochleistungsfähige GPU-Cluster mit NVIDIA Quantum InfiniBand-Netzwerken und zuverlässigem Infrastrukturmanagement bietet. Die Expertise von CoreWeave bei der Bereitstellung von NVIDIA GPUs im großen Maßstab, kombiniert mit branchenführender Zuverlässigkeit und Ausfallsicherheit durch Tools wie CoreWeave Mission Control, erfüllt diese Anforderungen.
‘Direkt nach dem Auspacken und ohne weitere Optimierungen sahen wir eine Leistungsverbesserung von 2x für das dichte Modelltraining’, sagte Thimothee Lacroix, Mitbegründer und Chief Technology Officer bei Mistral AI. ‘Was an NVIDIA GB200 NVL72 aufregend ist, sind die neuen Möglichkeiten, die es für die Modellentwicklung und -inferenz eröffnet.’
Erweiterung der Verfügbarkeit von Blackwell-Instanzen
CoreWeave bietet nicht nur langfristige Kundenlösungen, sondern auch Instanzen mit Rack-Scale NVIDIA NVLink über 72 NVIDIA Blackwell GPUs und 36 NVIDIA Grace CPUs, die mit NVIDIA Quantum-2 InfiniBand-Netzwerken auf bis zu 110.000 GPUs skalieren.
Diese Instanzen, die durch die NVIDIA GB200 NVL72 Rack-Scale-Plattform für beschleunigtes Computing beschleunigt werden, bieten die Skalierung und Leistung, die erforderlich sind, um die nächste Welle von KI-Schlussfolgerungsmodellen und -Agenten zu entwickeln und bereitzustellen.
Tiefere Einblicke in die technologische Infrastruktur von CoreWeave
CoreWeave hat sich alszentraler Akteur im Bereich Cloud Computing etabliert, vor allem aufgrund seines Engagements für die Bereitstellung modernster Hardwarelösungen und einer robusten Infrastruktur, die auf die Anforderungen von KI- und Machine-Learning-Workloads zugeschnitten ist. Die Integration der NVIDIA GB200 NVL72-Systeme unterstreicht dieses Engagement. Diese Systeme sind nicht nur inkrementelle Upgrades; sie stellen einen bedeutenden Sprung in Bezug auf Rechenleistung und Effizienz dar und ermöglichen es Unternehmen, Herausforderungen zu bewältigen, die zuvor als unüberwindbar galten.
Die Architektur der NVIDIA GB200 NVL72 ist sorgfältig darauf ausgelegt, die Leistung über ein Spektrum von KI-Anwendungen hinweg zu maximieren. Durch die Integration von 72 NVIDIA Blackwell GPUs mit 36 NVIDIA Grace CPUs bietet die Plattform eine ausgewogene und leistungsstarke Rechenumgebung. Dieses Gleichgewicht ist entscheidend für Workloads, die sowohl intensive Berechnungen als auch erhebliche Datenverarbeitungskapazitäten erfordern. Die Verwendung der NVLink-Technologie von NVIDIA verbessert die Effizienz des Systems weiter, indem sie eine Hochgeschwindigkeitskommunikation zwischen GPUs ermöglicht, wodurch die Latenz minimiert und der Durchsatz maximiert wird.
Die Infrastruktur von CoreWeave zeichnet sich auch durch ihre Skalierbarkeit aus. Die Möglichkeit, mit NVIDIA Quantum-2 InfiniBand-Netzwerken auf bis zu 110.000 GPUs zu skalieren, ermöglicht es der Plattform, selbst die anspruchsvollsten KI-Projekte zu unterstützen. Bei dieser Skalierbarkeit geht es nicht nur um rohe Rechenleistung; sie beinhaltet auch die Sicherstellung, dass die Netzwerkinfrastruktur die massiven Datenflüsse bewältigen kann, die mit groß angelegten KI-Trainings und -Inferenzen verbunden sind. Das NVIDIA Quantum-2 InfiniBand-Netzwerk bietet die notwendige Bandbreite und geringe Latenz, um die optimale Leistung bei der Skalierung des Systems aufrechtzuerhalten.
Die strategische Bedeutung der frühen Einführung
Der proaktive Ansatz von CoreWeave bei der Einführung neuer Technologien wie der NVIDIA Grace Blackwell GPUs hat das Unternehmen als strategischen Partner für Unternehmen positioniert, die an der Spitze der KI-Innovation stehen. Indem CoreWeave als einer der ersten Cloud-Anbieter diese fortschrittlichen Ressourcen anbietet, ermöglicht er seinen Kunden, sich einen Wettbewerbsvorteil in ihren jeweiligen Märkten zu verschaffen. Dieser frühe Zugang ermöglicht es Unternehmen, mit neuen Modellen zu experimentieren, ihre bestehenden Workflows zu optimieren und letztendlich ihre Markteinführungszeit zu verkürzen.
Die Vorteile der frühen Einführung gehen über den bloßen Zugang zu fortschrittlicher Hardware hinaus. Sie beinhaltet auch die enge Zusammenarbeit mit Technologieanbietern wie NVIDIA, die es CoreWeave ermöglicht, seine Infrastruktur und seinen Software-Stack so abzustimmen, dass die Fähigkeiten der neuen Hardware voll ausgeschöpft werden. Diese Zusammenarbeit führt zu einer optimierten und effizienteren Plattform, was sich in einer besseren Leistung und Kosteneinsparungen für die Kunden von CoreWeave niederschlägt.
Darüber hinaus fördert die frühe Einführungsstrategie von CoreWeave eine Innovationskultur innerhalb des Unternehmens. Indem CoreWeave ständig die Grenzen dessen verschiebt, was mit Cloud Computing möglich ist, zieht das Unternehmen Top-Talente an und etabliert sich als führendes Unternehmen der Branche. Dies wiederum stärkt seine Fähigkeit, hochmoderne Lösungen anzubieten und seinen Wettbewerbsvorteil zu erhalten.
Auswirkungen auf die KI-Modellentwicklung
Der Einsatz von NVIDIA Grace Blackwell GPUs auf der Plattform von CoreWeave hat tiefgreifende Auswirkungen auf die Entwicklung von KI-Modellen. Die verbesserte Rechenleistung und Effizienz dieser GPUs ermöglichen es Forschern und Ingenieuren, größere und komplexere Modelle in einem Bruchteil der Zeit im Vergleich zu früheren Hardwaregenerationen zu trainieren. Diese Beschleunigung des Trainingsprozesses ist entscheidend, um im sich schnell entwickelnden Bereich der KI die Nase vorn zu haben.
Darüber hinaus erleichtern die NVIDIA GB200 NVL72-Systeme die Entwicklung ausgefeilterer KI-Modelle, die komplexere Aufgaben ausführen können. Beispielsweise eignen sich diese Systeme besonders gut für das Training von Modellen, die umfangreiche Schlussfolgerungsfähigkeiten erfordern, wie sie beispielsweise in der Verarbeitung natürlicher Sprache und der Computer Vision verwendet werden. Die Fähigkeit, riesige Datenmengen zu verarbeiten und komplizierte Berechnungen durchzuführen, macht diese Modelle genauer, zuverlässiger und in der Lage, reale Szenarien zu bewältigen.
Die Auswirkungen auf bestimmte Anwendungen sind erheblich. In der Verarbeitung natürlicher Sprache ermöglicht die neue Hardware die Erstellung leistungsfähigerer Sprachmodelle, die menschenähnlichen Text mit größerer Flüssigkeit und Kohärenz verstehen und generieren können. Dies führt zu Verbesserungen in Anwendungen wie Chatbots, virtuellen Assistenten und maschineller Übersetzung. In der Computer Vision ermöglicht die verbesserte Rechenleistung die Entwicklung genauerer Objekterkennungssysteme, die für Anwendungen wie autonome Fahrzeuge, medizinische Bildgebung und Überwachung unerlässlich sind.
Die Rolle von CoreWeave bei der Demokratisierung von KI
Die Bemühungen von CoreWeave, fortschrittliche Rechenressourcen einem breiteren Publikum zugänglich zu machen, spielen eine wichtige Rolle bei der Demokratisierung von KI. Indem CoreWeave kostengünstigen Zugang zu modernster Hardware bietet, ermöglicht er kleineren Unternehmen und Forschungseinrichtungen, mit größeren Organisationen zu konkurrieren, die traditionell die KI-Landschaft dominiert haben. Diese Demokratisierung der KI fördert Innovation und fördert eine größere Vielfalt an Perspektiven bei der Entwicklung von KI-Technologien.
Die Verfügbarkeit leistungsstarker Cloud-basierter Ressourcen senkt auch die Eintrittsbarriere für Einzelpersonen und Startups, die an der Erforschung von KI interessiert sind. Indem CoreWeave die Notwendigkeit großer Vorabinvestitionen in Hardware eliminiert, ermöglicht er es aufstrebenden KI-Entwicklern, sich auf ihre Ideen und Innovationen zu konzentrieren. Dies kann zur Schaffung neuer Anwendungen und Lösungen führen, die sonst möglicherweise nicht möglich gewesen wären.
Darüber hinaus trägt das Engagement von CoreWeave für die Bereitstellung einer benutzerfreundlichen Plattform und umfassender Supportleistungen weiter zur Demokratisierung der KI bei. Indem CoreWeave es Benutzern erleichtert, auf fortschrittliche Rechenressourcen zuzugreifen und diese zu nutzen, befähigt er sie, ihre Ziele zu erreichen und zur Weiterentwicklung der KI beizutragen.
Transformation von Branchen mit KI
Die Fortschritte, die durch den Einsatz von NVIDIA Grace Blackwell GPUs durch CoreWeave ermöglicht werden, sind bereit, verschiedene Branchen zu transformieren. Die verbesserte Rechenleistung und Effizienz dieser Systeme werden Innovationen vorantreiben und neue Möglichkeiten in verschiedenen Sektoren schaffen, von der Gesundheitsversorgung bis zum Finanzwesen.
In der Gesundheitsversorgung wird KI eingesetzt, um genauere Diagnosewerkzeuge zu entwickeln, Behandlungspläne zu personalisieren und die Arzneimittelentwicklung zu beschleunigen. Die Verfügbarkeit fortschrittlicher Rechenressourcen ermöglicht es Forschern, riesige Mengen medizinischer Daten zu analysieren und Muster zu identifizieren, die manuell nicht zu erkennen wären. Dies kann zu Durchbrüchen bei der Behandlung von Krankheiten und zur Verbesserung der Patientenergebnisse führen.
Im Finanzwesen wird KI eingesetzt, um Betrug aufzudecken, Risiken zu verwalten und Handelsprozesse zu automatisieren. Die Fähigkeit, große Mengen an Finanzdaten in Echtzeit zu verarbeiten, ermöglicht es Unternehmen, fundiertere Entscheidungen zu treffen und schnell auf sich ändernde Marktbedingungen zu reagieren. Dies kann zu einer Steigerung der Effizienz, zur Senkung der Kosten und zur Verbesserung der Rentabilität führen.
Weitere Branchen, die wahrscheinlich durch KI transformiert werden, sind das verarbeitende Gewerbe, das Transportwesen und der Einzelhandel. Im verarbeitenden Gewerbe wird KI eingesetzt, um Produktionsprozesse zu optimieren, die Qualitätskontrolle zu verbessern und Abfall zu reduzieren. Im Transportwesen ermöglicht KI die Entwicklung autonomer Fahrzeuge und effizienterer Logistiksysteme. Im Einzelhandel wird KI eingesetzt, um Kundenerlebnisse zu personalisieren, die Preisgestaltung zu optimieren und das Supply-Chain-Management zu verbessern.
Die Vision von CoreWeave für die Zukunft
Der Einsatz von NVIDIA Grace Blackwell GPUs durch CoreWeave ist nicht nur ein einmaliges Ereignis; er ist Teil einer umfassenderen Vision für die Zukunft des Cloud Computing und der KI. CoreWeave hat sich verpflichtet, kontinuierlich in neue Technologien zu investieren und seine Infrastruktur zu erweitern, um die sich ändernden Bedürfnisse seiner Kunden zu erfüllen. Dazu gehören die Erforschung neuer Architekturen, die Entwicklung effizienterer Software und die Förderung der Zusammenarbeit mit führenden Technologieanbietern.
Die Vision von CoreWeave geht über die bloße Bereitstellung fortschrittlicher Rechenressourcen hinaus. Sie beinhaltet auch die Schaffung eines lebendigen Ökosystems von Entwicklern, Forschern und Unternehmen, die daran arbeiten, die Grenzen der KI zu verschieben. Durch die Förderung von Innovation und Zusammenarbeit zielt CoreWeave darauf ab, die Entwicklung und Einführung von KI-Technologien in allen Branchen zu beschleunigen.
Das Engagement des Unternehmens für Nachhaltigkeit ist ebenfalls ein wichtiger Bestandteil seiner Vision. CoreWeave arbeitet aktiv daran, seine Umweltauswirkungen zu reduzieren, indem es erneuerbare Energiequellen nutzt und energieeffiziente Technologien implementiert. Dies spiegelt ein wachsendes Bewusstsein für die Bedeutung von Nachhaltigkeit in der Technologiebranche und das Engagement für eine umweltverträglichere Zukunft wider.