CoreWeave telah muncul sebagai yang terdepan dalam komputasi awan, menyediakan akses luas ke sistem NVIDIA GB200 NVL72. Entitas kecerdasan buatan (AI) terkemuka, termasuk Cohere, IBM, dan Mistral AI, telah memanfaatkan sumber daya ini untuk menyempurnakan model dan aplikasi AI.
Sebagai penyedia cloud pertama yang menawarkan NVIDIA Grace Blackwell secara umum, CoreWeave telah menunjukkan hasil benchmark MLPerf yang luar biasa menggunakan NVIDIA GB200 NVL72. Platform canggih ini, yang dirancang untuk penalaran dan agen AI, sekarang dapat diakses oleh klien CoreWeave, menawarkan akses ke ribuan GPU NVIDIA Blackwell.
‘Kami berkolaborasi erat dengan NVIDIA untuk memastikan pelanggan kami memiliki solusi tercanggih untuk pelatihan dan inferensi model AI,’ kata Mike Intrator, CEO CoreWeave. ‘Dengan sistem skala rak Grace Blackwell yang baru, pelanggan kami termasuk yang pertama merasakan manfaat kinerja inovasi AI dalam skala besar.’
Penyebaran ribuan GPU NVIDIA Blackwell memfasilitasi konversi cepat data mentah menjadi intelijen yang dapat ditindaklanjuti, dengan ekspansi lebih lanjut yang direncanakan.
Perusahaan yang menggunakan penyedia cloud seperti CoreWeave sedang dalam proses mengintegrasikan sistem yang dibangun di atas NVIDIA Grace Blackwell. Sistem ini siap untuk mengubah pusat data menjadi pabrik AI, menghasilkan intelijen dalam skala besar dan mengubah data mentah menjadi wawasan dengan kecepatan, akurasi, dan efisiensi yang lebih besar.
Para pemimpin AI global memanfaatkan kemampuan GB200 NVL72 untuk berbagai aplikasi, termasuk agen AI dan pengembangan model tingkat lanjut.
Agen AI yang Dipersonalisasi
Cohere menggunakan Grace Blackwell Superchips untuk meningkatkan pengembangan aplikasi AI perusahaan yang aman, memanfaatkan penelitian dan metodologi pengembangan model tingkat lanjut. Platform AI perusahaan, North, memberdayakan tim untuk membuat agen AI yang dipersonalisasi untuk otomatisasi yang aman dari alur kerja perusahaan dan wawasan waktu nyata.
Dengan menggunakan NVIDIA GB200 NVL72 di CoreWeave, Cohere telah melihat peningkatan kinerja hingga tiga kali lipat dalam pelatihan model 100 miliar parameter dibandingkan dengan GPU NVIDIA Hopper generasi sebelumnya, bahkan tanpa optimasi khusus Blackwell.
Optimasi lebih lanjut yang memanfaatkan memori terpadu GB200 NVL72, presisi FP4, dan domain NVIDIA NVLink 72-GPU meningkatkan throughput. Setiap GPU beroperasi secara bersamaan, memberikan throughput yang lebih besar dengan waktu yang lebih singkat untuk token pertama dan berikutnya untuk inferensi yang lebih berkinerja dan hemat biaya.
‘Dengan akses ke beberapa sistem NVIDIA GB200 NVL72 pertama di cloud, kami senang dengan betapa mudahnya beban kerja kami dialihkan ke arsitektur NVIDIA Grace Blackwell,’ kata Autumn Moulder, wakil presiden bidang teknik di Cohere. ‘Ini membuka efisiensi kinerja yang luar biasa di seluruh tumpukan kami — dari aplikasi North terintegrasi vertikal kami yang berjalan pada satu GPU Blackwell hingga penskalaan pekerjaan pelatihan di ribuan GPU. Kami berharap untuk mencapai kinerja yang lebih besar dengan optimasi tambahan segera.’
Model AI untuk Perusahaan
IBM menggunakan salah satu penerapan sistem NVIDIA GB200 NVL72 awal, yang diskalakan ke ribuan GPU Blackwell di CoreWeave, untuk melatih model Granite generasi berikutnya. Model AI sumber terbuka dan siap perusahaan ini memberikan kinerja mutakhir sambil memastikan keamanan, kecepatan, dan efektivitas biaya. Keluarga model Granite didukung oleh ekosistem mitra yang kuat, termasuk perusahaan perangkat lunak terkemuka yang menyematkan model bahasa besar ke dalam teknologi mereka.
Model Granite berfungsi sebagai fondasi untuk solusi seperti IBM watsonx Orchestrate, yang memungkinkan perusahaan untuk mengembangkan dan menerapkan agen AI yang mengotomatiskan dan mempercepat alur kerja.
Penyebaran NVIDIA GB200 NVL72 CoreWeave untuk IBM juga menggunakan IBM Storage Scale System, memberikan penyimpanan berkinerja tinggi untuk AI. Pelanggan CoreWeave dapat mengakses platform IBM Storage dalam lingkungan khusus CoreWeave dan platform cloud AI.
‘Kami sangat senang melihat akselerasi yang dapat dibawa oleh NVIDIA GB200 NVL72 ke pelatihan keluarga model Granite kami,’ kata Sriram Raghavan, wakil presiden AI di IBM Research. ‘Kolaborasi dengan CoreWeave ini akan menambah kemampuan IBM untuk membantu membangun model canggih, berkinerja tinggi, dan hemat biaya untuk mendukung aplikasi AI perusahaan dan agentik dengan IBM watsonx.’
Sumber Daya Komputasi dalam Skala Besar
Mistral AI sekarang mengintegrasikan seribu GPU Blackwell pertamanya untuk membangun generasi berikutnya dari model AI sumber terbuka.
Mistral AI, pemimpin yang berbasis di Paris dalam AI sumber terbuka, memanfaatkan infrastruktur CoreWeave, yang sekarang dilengkapi dengan GB200 NVL72, untuk mempercepat pengembangan model bahasanya. Dengan model seperti Mistral Large yang memberikan kemampuan penalaran yang kuat, Mistral membutuhkan sumber daya komputasi yang cepat dalam skala besar.
Untuk melatih dan menerapkan model-model ini secara efektif, Mistral AI membutuhkan penyedia cloud yang menawarkan klaster GPU berkinerja tinggi yang besar dengan jaringan NVIDIA Quantum InfiniBand dan manajemen infrastruktur yang andal. Keahlian CoreWeave dalam menerapkan GPU NVIDIA dalam skala besar, dikombinasikan dengan keandalan dan ketahanan yang terdepan di industri melalui alat-alat seperti CoreWeave Mission Control, memenuhi kebutuhan ini.
‘Langsung dari kotaknya dan tanpa optimasi lebih lanjut, kami melihat peningkatan kinerja 2x untuk pelatihan model padat,’ kata Thimothee Lacroix, salah satu pendiri dan kepala petugas teknologi di Mistral AI. ‘Yang menarik dari NVIDIA GB200 NVL72 adalah kemungkinan baru yang dibukanya untuk pengembangan dan inferensi model.’
Memperluas Ketersediaan Instans Blackwell
CoreWeave tidak hanya menawarkan solusi pelanggan jangka panjang tetapi juga menyediakan instans dengan NVIDIA NVLink skala rak di 72 GPU NVIDIA Blackwell dan 36 CPU NVIDIA Grace, yang diskalakan hingga 110.000 GPU dengan jaringan NVIDIA Quantum-2 InfiniBand.
Instans-instans ini, yang dipercepat oleh platform komputasi yang dipercepat skala rak NVIDIA GB200 NVL72, memberikan skala dan kinerja yang diperlukan untuk mengembangkan dan menerapkan gelombang berikutnya dari model dan agen penalaran AI.
Pendalaman Infrastruktur Teknologi CoreWeave
CoreWeave telah memantapkan dirinya sebagai pemain penting di arena komputasi awan, sebagian besar karena komitmennya untuk menyediakan solusi perangkat keras mutakhir dan infrastruktur yang kuat yang disesuaikan dengan tuntutan beban kerja AI dan pembelajaran mesin. Integrasi sistem NVIDIA GB200 NVL72 menggarisbawahi dedikasi ini. Sistem-sistem ini bukan hanya peningkatan inkremental; mereka mewakili lompatan signifikan dalam kekuatan dan efisiensi komputasi, memungkinkan organisasi untuk mengatasi tantangan yang sebelumnya dianggap tidak dapat diatasi.
Arsitektur NVIDIA GB200 NVL72 dirancang dengan cermat untuk memaksimalkan kinerja di seluruh spektrum aplikasi AI. Dengan mengintegrasikan 72 GPU NVIDIA Blackwell dengan 36 CPU NVIDIA Grace, platform ini menyediakan lingkungan komputasi yang seimbang dan kuat. Keseimbangan ini sangat penting untuk beban kerja yang membutuhkan komputasi intensif dan kemampuan pemrosesan data yang substansial. Pemanfaatan teknologi NVLink NVIDIA lebih meningkatkan efisiensi sistem dengan memungkinkan komunikasi berkecepatan tinggi antara GPU, sehingga meminimalkan latensi dan memaksimalkan throughput.
Infrastruktur CoreWeave juga ditandai dengan skalabilitasnya. Kemampuan untuk meningkatkan skala hingga 110.000 GPU menggunakan jaringan NVIDIA Quantum-2 InfiniBand memungkinkan platform untuk mendukung bahkan proyek AI yang paling menuntut sekalipun. Skalabilitas ini bukan hanya tentang kekuatan komputasi mentah; itu juga melibatkan memastikan bahwa infrastruktur jaringan dapat menangani aliran data besar yang terkait dengan pelatihan dan inferensi AI skala besar. Jaringan NVIDIA Quantum-2 InfiniBand menyediakan bandwidth dan latensi rendah yang diperlukan untuk mempertahankan kinerja optimal saat sistem diskalakan.
Pentingnya Strategis Adopsi Awal
Pendekatan proaktif CoreWeave untuk mengadopsi teknologi baru seperti GPU NVIDIA Grace Blackwell telah memposisikannya sebagai mitra strategis bagi perusahaan-perusahaan di garis depan inovasi AI. Dengan menjadi salah satu penyedia cloud pertama yang menawarkan sumber daya canggih ini, CoreWeave memungkinkan pelanggannya untuk mendapatkan keunggulan kompetitif di pasar masing-masing. Akses awal ini memungkinkan perusahaan untuk bereksperimen dengan model baru, mengoptimalkan alur kerja mereka yang ada, dan pada akhirnya mempercepat waktu mereka ke pasar.
Manfaat adopsi awal melampaui sekadar akses ke perangkat keras canggih. Ini juga melibatkan kolaborasi erat dengan penyedia teknologi seperti NVIDIA, memungkinkan CoreWeave untuk menyempurnakan infrastruktur dan tumpukan perangkat lunaknya untuk sepenuhnya memanfaatkan kemampuan perangkat keras baru. Kolaborasi ini menghasilkan platform yang lebih optimal dan efisien, yang diterjemahkan ke kinerja yang lebih baik dan penghematan biaya bagi pelanggan CoreWeave.
Selain itu, strategi adopsi awal CoreWeave mendorong budaya inovasi di dalam perusahaan. Dengan terus-menerus mendorong batas-batas apa yang mungkin dilakukan dengan komputasi awan, CoreWeave menarik talenta-talenta terbaik dan memantapkan dirinya sebagai pemimpin di industri ini. Ini, pada gilirannya, memperkuat kemampuannya untuk menyediakan solusi mutakhir dan mempertahankan keunggulan kompetitifnya.
Implikasi untuk Pengembangan Model AI
Penyebaran GPU NVIDIA Grace Blackwell di platform CoreWeave memiliki implikasi yang mendalam untuk pengembangan model AI. Kekuatan dan efisiensi komputasi yang ditingkatkan dari GPU ini memungkinkan para peneliti dan insinyur untuk melatih model yang lebih besar dan lebih kompleks dalam sebagian kecil dari waktu dibandingkan dengan generasi perangkat keras sebelumnya. Akselerasi proses pelatihan ini sangat penting untuk tetap menjadi yang terdepan dalam bidang AI yang berkembang pesat.
Selain itu, sistem NVIDIA GB200 NVL72 memfasilitasi pengembangan model AI yang lebih canggih yang dapat melakukan tugas-tugas yang lebih kompleks. Misalnya, sistem-sistem ini sangat cocok untuk melatih model-model yang membutuhkan kemampuan penalaran yang ekstensif, seperti yang digunakan dalam pemrosesan bahasa alami dan visi komputer. Kemampuan untuk memproses sejumlah besar data dan melakukan perhitungan yang rumit membuat model-model ini lebih akurat, andal, dan mampu menangani skenario dunia nyata.
Dampak pada aplikasi tertentu sangat besar. Dalam pemrosesan bahasa alami, perangkat keras baru memungkinkan pembuatan model bahasa yang lebih kuat yang dapat memahami dan menghasilkan teks seperti manusia dengan kelancaran dan koherensi yang lebih besar. Ini mengarah pada peningkatan dalam aplikasi seperti chatbot, asisten virtual, dan terjemahan mesin. Dalam visi komputer, kekuatan komputasi yang ditingkatkan memungkinkan pengembangan sistem pengenalan objek yang lebih akurat, yang penting untuk aplikasi seperti kendaraan otonom, pencitraan medis, dan pengawasan.
Peran CoreWeave dalam Mendemokratisasi AI
Upaya CoreWeave untuk membuat sumber daya komputasi canggih dapat diakses oleh khalayak yang lebih luas memainkan peran penting dalam mendemokratisasi AI. Dengan menyediakan akses hemat biaya ke perangkat keras mutakhir, CoreWeave memungkinkan perusahaan-perusahaan yang lebih kecil dan lembaga penelitian untuk bersaing dengan organisasi-organisasi yang lebih besar yang secara tradisional mendominasi lanskap AI. Demokratisasi AI ini mendorong inovasi dan mempromosikan beragam perspektif dalam pengembangan teknologi AI.
Ketersediaan sumber daya berbasis cloud yang kuat juga menurunkan hambatan masuk bagi individu dan startup yang tertarik untuk menjelajahi AI. Dengan menghilangkan kebutuhan akan investasi di muka yang besar dalam perangkat keras, CoreWeave memungkinkan para pengembang AI yang bercita-cita tinggi untuk fokus pada ide dan inovasi mereka. Ini dapat mengarah pada penciptaan aplikasi dan solusi baru yang mungkin tidak mungkin dilakukan sebaliknya.
Selain itu, komitmen CoreWeave untuk menyediakan platform yang ramah pengguna dan layanan dukungan yang komprehensif lebih lanjut berkontribusi pada demokratisasi AI. Dengan membuatnya lebih mudah bagi pengguna untuk mengakses dan memanfaatkan sumber daya komputasi canggih, CoreWeave memberdayakan mereka untuk mencapai tujuan mereka dan berkontribusi pada kemajuan AI.
Mengubah Industri dengan AI
Kemajuan yang dimungkinkan oleh penyebaran GPU NVIDIA Grace Blackwell CoreWeave siap untuk mengubah berbagai industri. Kekuatan dan efisiensi komputasi yang ditingkatkan dari sistem-sistem ini akan mendorong inovasi dan menciptakan peluang baru di berbagai sektor mulai dari perawatan kesehatan hingga keuangan.
Dalam perawatan kesehatan, AI digunakan untuk mengembangkan alat diagnostik yang lebih akurat, mempersonalisasi rencana perawatan, dan mempercepat penemuan obat. Ketersediaan sumber daya komputasi canggih memungkinkan para peneliti untuk menganalisis sejumlah besar data medis dan mengidentifikasi pola yang tidak mungkin dideteksi secara manual. Ini dapat mengarah pada terobosan dalam pengobatan penyakit dan meningkatkan hasil pasien.
Dalam keuangan, AI digunakan untuk mendeteksi penipuan, mengelola risiko, dan mengotomatiskan proses perdagangan. Kemampuan untuk memproses volume besar data keuangan secara waktu nyata memungkinkan perusahaan untuk membuat keputusan yang lebih tepat dan merespons dengan cepat terhadap perubahan kondisi pasar. Ini dapat mengarah pada peningkatan efisiensi, pengurangan biaya, dan peningkatan profitabilitas.
Industri lain yang kemungkinan akan diubah oleh AI termasuk manufaktur, transportasi, dan ritel. Dalam manufaktur, AI digunakan untuk mengoptimalkan proses produksi, meningkatkan kontrol kualitas, dan mengurangi limbah. Dalam transportasi, AI memungkinkan pengembangan kendaraan otonom dan sistem logistik yang lebih efisien. Dalam ritel, AI digunakan untuk mempersonalisasi pengalaman pelanggan, mengoptimalkan harga, dan meningkatkan manajemen rantai pasokan.
Visi CoreWeave untuk Masa Depan
Penyebaran GPU NVIDIA Grace Blackwell CoreWeave bukan hanya peristiwa satu kali; itu adalah bagian dari visi yang lebih luas untuk masa depan komputasi awan dan AI. CoreWeave berkomitmen untuk terus berinvestasi dalam teknologi baru dan memperluas infrastrukturnya untuk memenuhi kebutuhan pelanggan yang terus berkembang. Ini termasuk menjelajahi arsitektur baru, mengembangkan perangkat lunak yang lebih efisien, dan membina kolaborasi dengan penyedia teknologi terkemuka.
Visi CoreWeave melampaui sekadar menyediakan sumber daya komputasi canggih. Itu juga melibatkan penciptaan ekosistem yang dinamis dari pengembang, peneliti, dan perusahaan yang bekerja untuk mendorong batas-batas AI. Dengan mendorong inovasi dan kolaborasi, CoreWeave bertujuan untuk mempercepat pengembangan dan adopsi teknologi AI di berbagai industri.
Komitmen perusahaan terhadap keberlanjutan juga merupakan bagian penting dari visinya. CoreWeave secara aktif bekerja untuk mengurangi dampak lingkungannya dengan menggunakan sumber energi terbarukan dan menerapkan teknologi hemat energi. Ini mencerminkan kesadaran yang berkembang tentang pentingnya keberlanjutan dalam industri teknologi dan komitmen untuk menciptakan masa depan yang lebih bertanggung jawab terhadap lingkungan.