CoreWeave telah muncul sebagai peneraju dalam pengkomputeran awan, menyediakan akses yang luas kepada sistem NVIDIA GB200 NVL72. Entiti kecerdasan buatan (AI) terkemuka, termasuk Cohere, IBM, dan Mistral AI, sudah pun memanfaatkan sumber ini untuk memperhalusi model dan aplikasi AI.
Sebagai penyedia awan pertama yang menawarkan NVIDIA Grace Blackwell secara amnya, CoreWeave telah menunjukkan hasil penanda aras MLPerf yang luar biasa menggunakan NVIDIA GB200 NVL72. Platform berkuasa ini, yang direka untuk penaakulan dan ejen AI, kini boleh diakses oleh pelanggan CoreWeave, menawarkan akses kepada beribu-ribu GPU NVIDIA Blackwell.
‘Kami bekerjasama rapat dengan NVIDIA untuk memastikan pelanggan kami mempunyai penyelesaian paling maju untuk latihan dan inferens model AI,’ kata Mike Intrator, CEO CoreWeave. ‘Dengan sistem skala rak Grace Blackwell yang baharu, pelanggan kami adalah antara yang pertama mengalami manfaat prestasi inovasi AI pada skala.’
Penggunaan beribu-ribu GPU NVIDIA Blackwell memudahkan penukaran pantas data mentah kepada kecerdasan yang boleh diambil tindakan, dengan pengembangan selanjutnya dirancang.
Syarikat yang menggunakan penyedia awan seperti CoreWeave sedang dalam proses mengintegrasikan sistem yang dibina pada NVIDIA Grace Blackwell. Sistem ini bersedia untuk mengubah pusat data menjadi kilang AI, menghasilkan kecerdasan pada skala dan menukar data mentah menjadi cerapan dengan kelajuan, ketepatan dan kecekapan yang lebih tinggi.
Pemimpin AI global sedang memanfaatkan keupayaan GB200 NVL72 untuk pelbagai aplikasi, termasuk ejen AI dan pembangunan model lanjutan.
Ejen AI Peribadi
Cohere menggunakan Supercip Grace Blackwell untuk meningkatkan pembangunan aplikasi AI perusahaan yang selamat, memanfaatkan penyelidikan lanjutan dan metodologi pembangunan model. Platform AI perusahaan, North, memperkasakan pasukan untuk mencipta ejen AI peribadi untuk automasi selamat aliran kerja perusahaan dan cerapan masa nyata.
Dengan menggunakan NVIDIA GB200 NVL72 pada CoreWeave, Cohere telah melihat peningkatan prestasi sehingga tiga kali ganda dalam melatih model 100 bilion parameter berbanding GPU NVIDIA Hopper generasi sebelumnya, walaupun tanpa pengoptimuman khusus Blackwell.
Pengoptimuman selanjutnya yang memanfaatkan memori bersatu GB200 NVL72, ketepatan FP4, dan domain NVIDIA NVLink 72-GPU meningkatkan daya pemprosesan. Setiap GPU beroperasi seiring, memberikan daya pemprosesan yang lebih besar dengan masa yang lebih singkat untuk token pertama dan seterusnya untuk inferens yang lebih berprestasi dan kos efektif.
‘Dengan akses kepada beberapa sistem NVIDIA GB200 NVL72 pertama dalam awan, kami gembira dengan betapa mudahnya beban kerja kami beralih ke seni bina NVIDIA Grace Blackwell,’ kata Autumn Moulder, naib presiden kejuruteraan di Cohere. ‘Ini membuka kecekapan prestasi yang luar biasa merentasi timbunan kami — daripada aplikasi North bersepadu secara menegak kami yang berjalan pada GPU Blackwell tunggal kepada penskalaan pekerjaan latihan merentasi beribu-ribu daripadanya. Kami tidak sabar untuk mencapai prestasi yang lebih hebat dengan pengoptimuman tambahan tidak lama lagi.’
Model AI untuk Perusahaan
IBM menggunakan salah satu penggunaan sistem NVIDIA GB200 NVL72 awal, yang berskala kepada beribu-ribu GPU Blackwell pada CoreWeave, untuk melatih model Granite generasi seterusnya. Model AI sumber terbuka sedia perusahaan ini memberikan prestasi terkini sambil memastikan keselamatan, kelajuan dan keberkesanan kos. Keluarga model Granite disokong oleh ekosistem rakan kongsi yang teguh, termasuk syarikat perisian terkemuka yang membenamkan model bahasa besar ke dalam teknologi mereka.
Model Granite berfungsi sebagai asas untuk penyelesaian seperti IBM watsonx Orchestrate, yang membolehkan perusahaan membangunkan dan menggunakan ejen AI yang mengautomasikan dan mempercepatkan aliran kerja.
Penggunaan NVIDIA GB200 NVL72 CoreWeave untuk IBM juga menggunakan Sistem Skala Storan IBM, memberikan storan berprestasi tinggi untuk AI. Pelanggan CoreWeave boleh mengakses platform Storan IBM dalam persekitaran khusus CoreWeave dan platform awan AI.
‘Kami teruja untuk melihat pecutan yang NVIDIA GB200 NVL72 boleh bawa kepada latihan keluarga model Granite kami,’ kata Sriram Raghavan, naib presiden AI di IBM Research. ‘Kerjasama dengan CoreWeave ini akan menambah keupayaan IBM untuk membantu membina model lanjutan, berprestasi tinggi dan kos efektif untuk memperkasakan aplikasi AI perusahaan dan ejen dengan IBM watsonx.’
Sumber Pengiraan pada Skala
Mistral AI kini mengintegrasikan seribu GPU Blackwell pertamanya untuk membina generasi model AI sumber terbuka yang seterusnya.
Mistral AI, peneraju yang berpangkalan di Paris dalam AI sumber terbuka, memanfaatkan infrastruktur CoreWeave, kini dilengkapi dengan GB200 NVL72, untuk mempercepatkan pembangunan model bahasanya. Dengan model seperti Mistral Large yang memberikan keupayaan penaakulan yang teguh, Mistral memerlukan sumber pengkomputeran pantas pada skala.
Untuk melatih dan menggunakan model ini dengan berkesan, Mistral AI memerlukan penyedia awan yang menawarkan kelompok GPU besar dan berprestasi tinggi dengan rangkaian NVIDIA Quantum InfiniBand dan pengurusan infrastruktur yang boleh dipercayai. Kepakaran CoreWeave dalam menggunakan GPU NVIDIA pada skala, digabungkan dengan kebolehpercayaan dan ketahanan yang menerajui industri melalui alat seperti CoreWeave Mission Control, memenuhi keperluan ini.
‘Terus daripada kotak dan tanpa sebarang pengoptimuman selanjutnya, kami melihat peningkatan 2x dalam prestasi untuk latihan model padat,’ kata Thimothee Lacroix, pengasas bersama dan ketua pegawai teknologi di Mistral AI. ‘Apa yang menarik tentang NVIDIA GB200 NVL72 ialah kemungkinan baharu yang dibukanya untuk pembangunan dan inferens model.’
Meluaskan Ketersediaan Instance Blackwell
CoreWeave bukan sahaja menawarkan penyelesaian pelanggan jangka panjang tetapi juga menyediakan instance dengan NVIDIA NVLink skala rak merentasi 72 GPU NVIDIA Blackwell dan 36 CPU NVIDIA Grace, yang berskala sehingga 110,000 GPU dengan rangkaian NVIDIA Quantum-2 InfiniBand.
Instance ini, yang dipercepatkan oleh platform pengkomputeran dipercepat skala rak NVIDIA GB200 NVL72, memberikan skala dan prestasi yang diperlukan untuk membangunkan dan menggunakan gelombang model dan ejen penaakulan AI yang seterusnya.
Menyelam Lebih Dalam ke dalam Infrastruktur Teknologi CoreWeave
CoreWeave telah mengukuhkan dirinya sebagai pemain penting dalam arena pengkomputeran awan, sebahagian besarnya disebabkan oleh komitmennya untuk menyediakan penyelesaian perkakasan terkini dan infrastruktur yang teguh yang disesuaikan dengan permintaan beban kerja AI dan pembelajaran mesin. Penyepaduan sistem NVIDIA GB200 NVL72 menggariskan dedikasi ini. Sistem ini bukan sekadar peningkatan tambahan; ia mewakili lonjakan ketara dalam kuasa dan kecekapan pengiraan, membolehkan organisasi menangani cabaran yang sebelum ini dianggap tidak dapat diatasi.
Seni bina NVIDIA GB200 NVL72 direka bentuk dengan teliti untuk memaksimumkan prestasi merentasi spektrum aplikasi AI. Dengan menyepadukan 72 GPU NVIDIA Blackwell dengan 36 CPU NVIDIA Grace, platform ini menyediakan persekitaran pengiraan yang seimbang dan berkuasa. Keseimbangan ini penting untuk beban kerja yang memerlukan pengiraan intensif dan keupayaan pemprosesan data yang besar. Penggunaan teknologi NVLink NVIDIA selanjutnya meningkatkan kecekapan sistem dengan membolehkan komunikasi berkelajuan tinggi antara GPU, sekali gus meminimumkan kependaman dan memaksimumkan daya pemprosesan.
Infrastruktur CoreWeave juga dicirikan oleh kebolehskalaannya. Keupayaan untuk berskala sehingga 110,000 GPU menggunakan rangkaian NVIDIA Quantum-2 InfiniBand membolehkan platform menyokong walaupun projek AI yang paling mencabar. Kebolehskalaan ini bukan hanya mengenai kuasa pengiraan mentah; ia juga melibatkan memastikan infrastruktur rangkaian dapat mengendalikan aliran data besar-besaran yang berkaitan dengan latihan dan inferens AI berskala besar. Rangkaian NVIDIA Quantum-2 InfiniBand menyediakan jalur lebar dan kependaman rendah yang diperlukan untuk mengekalkan prestasi optimum apabila sistem berskala.
Kepentingan Strategik Pengambilan Awal
Pendekatan proaktif CoreWeave untuk menerima pakai teknologi baharu seperti GPU NVIDIA Grace Blackwell telah meletakkannya sebagai rakan kongsi strategik untuk syarikat di barisan hadapan inovasi AI. Dengan menjadi antara penyedia awan pertama yang menawarkan sumber lanjutan ini, CoreWeave membolehkan pelanggannya memperoleh kelebihan daya saing dalam pasaran masing-masing. Akses awal ini membolehkan syarikat bereksperimen dengan model baharu, mengoptimumkan aliran kerja sedia ada mereka, dan akhirnya mempercepatkan masa mereka ke pasaran.
Manfaat pengambilan awal melangkaui sekadar akses kepada perkakasan lanjutan. Ia juga melibatkan kerjasama rapat dengan penyedia teknologi seperti NVIDIA, membolehkan CoreWeave memperhalusi infrastruktur dan timbunan perisiannya untuk memanfaatkan sepenuhnya keupayaan perkakasan baharu. Kerjasama ini menghasilkan platform yang lebih dioptimumkan dan cekap, yang diterjemahkan kepada prestasi yang lebih baik dan penjimatan kos untuk pelanggan CoreWeave.
Selain itu, strategi pengambilan awal CoreWeave memupuk budaya inovasi dalam syarikat. Dengan sentiasa menolak sempadan apa yang mungkin dengan pengkomputeran awan, CoreWeave menarik bakat terbaik dan mengukuhkan dirinya sebagai peneraju dalam industri. Ini seterusnya mengukuhkan keupayaannya untuk menyediakan penyelesaian terkini dan mengekalkan kelebihan daya saingnya.
Implikasi untuk Pembangunan Model AI
Penggunaan GPU Grace Blackwell NVIDIA pada platform CoreWeave mempunyai implikasi yang mendalam untuk pembangunan model AI. Kuasa dan kecekapan pengiraan yang dipertingkatkan bagi GPU ini membolehkan penyelidik dan jurutera melatih model yang lebih besar dan kompleks dalam sebahagian kecil daripada masa berbanding dengan perkakasan generasi sebelumnya. Pecutan proses latihan ini adalah penting untuk terus mendahului dalam bidang AI yang berkembang pesat.
Selain itu, sistem NVIDIA GB200 NVL72 memudahkan pembangunan model AI yang lebih canggih yang boleh melaksanakan tugas yang lebih kompleks. Sebagai contoh, sistem ini sangat sesuai untuk melatih model yang memerlukan keupayaan penaakulan yang luas, seperti yang digunakan dalam pemprosesan bahasa semula jadi dan penglihatan komputer. Keupayaan untuk memproses sejumlah besar data dan melakukan pengiraan yang rumit menjadikan model ini lebih tepat, boleh dipercayai dan mampu mengendalikan senario dunia sebenar.
Kesan ke atas aplikasi tertentu adalah besar. Dalam pemprosesan bahasa semula jadi, perkakasan baharu membolehkan penciptaan model bahasa yang lebih berkuasa yang boleh memahami dan menjana teks seperti manusia dengan kefasihan dan koheren yang lebih tinggi. Ini membawa kepada peningkatan dalam aplikasi seperti chatbot, pembantu maya dan terjemahan mesin. Dalam penglihatan komputer, kuasa pengiraan yang dipertingkatkan membolehkan pembangunan sistem pengecaman objek yang lebih tepat, yang penting untuk aplikasi seperti kenderaan autonomi, pengimejan perubatan dan pengawasan.
Peranan CoreWeave dalam Mendemokrasikan AI
Usaha CoreWeave untuk menjadikan sumber pengiraan lanjutan boleh diakses oleh khalayak yang lebih luas memainkan peranan penting dalam mendemokrasikan AI. Dengan menyediakan akses kos efektif kepada perkakasan terkini, CoreWeave membolehkan syarikat yang lebih kecil dan institusi penyelidikan bersaing dengan organisasi yang lebih besar yang secara tradisinya mendominasi landskap AI. Pendemokrasian AI ini memupuk inovasi dan menggalakkan pelbagai perspektif yang lebih luas dalam pembangunan teknologi AI.
Ketersediaan sumber berasaskan awan yang berkuasa juga menurunkan halangan untuk masuk bagi individu dan syarikat permulaan yang berminat untuk meneroka AI. Dengan menghapuskan keperluan untuk pelaburan pendahuluan yang besar dalam perkakasan, CoreWeave membolehkan pembangun AI yang bercita-cita tinggi untuk menumpukan perhatian pada idea dan inovasi mereka. Ini boleh membawa kepada penciptaan aplikasi dan penyelesaian baharu yang mungkin tidak mungkin dilakukan sebaliknya.
Selain itu, komitmen CoreWeave untuk menyediakan platform mesra pengguna dan perkhidmatan sokongan yang komprehensif menyumbang lagi kepada pendemokrasian AI. Dengan memudahkan pengguna mengakses dan menggunakan sumber pengiraan lanjutan, CoreWeave memperkasakan mereka untuk mencapai matlamat mereka dan menyumbang kepada kemajuan AI.
Mengubah Industri dengan AI
Kemajuan yang didayakan oleh penggunaan GPU Grace Blackwell NVIDIA CoreWeave bersedia untuk mengubah pelbagai industri. Kuasa dan kecekapan pengiraan yang dipertingkatkan bagi sistem ini akan memacu inovasi dan mencipta peluang baharu merentasi sektor bermula dari penjagaan kesihatan hingga kewangan.
Dalam penjagaan kesihatan, AI digunakan untuk membangunkan alat diagnostik yang lebih tepat, memperibadikan rancangan rawatan dan mempercepatkan penemuan ubat. Ketersediaan sumber pengiraan lanjutan membolehkan penyelidik menganalisis sejumlah besar data perubatan dan mengenal pasti corak yang mustahil untuk dikesan secara manual. Ini boleh membawa kepada penemuan dalam rawatan penyakit dan meningkatkan hasil pesakit.
Dalam kewangan, AI digunakan untuk mengesan penipuan, mengurus risiko dan mengautomasikan proses perdagangan. Keupayaan untuk memproses volum besar data kewangan dalam masa nyata membolehkan syarikat membuat keputusan yang lebih termaklum dan bertindak balas dengan cepat terhadap perubahan keadaan pasaran. Ini boleh membawa kepada peningkatan kecekapan, pengurangan kos dan peningkatan keuntungan.
Industri lain yang mungkin diubah oleh AI termasuk pembuatan, pengangkutan dan peruncitan. Dalam pembuatan, AI digunakan untuk mengoptimumkan proses pengeluaran, meningkatkan kawalan kualiti dan mengurangkan pembaziran. Dalam pengangkutan, AI membolehkan pembangunan kenderaan autonomi dan sistem logistik yang lebih cekap. Dalam peruncitan, AI digunakan untuk memperibadikan pengalaman pelanggan, mengoptimumkan harga dan meningkatkan pengurusan rantaian bekalan.
Visi CoreWeave untuk Masa Depan
Penggunaan GPU Grace Blackwell NVIDIA CoreWeave bukan sekadar peristiwa sekali sahaja; ia adalah sebahagian daripada visi yang lebih luas untuk masa depan pengkomputeran awan dan AI. CoreWeave komited untuk terus melabur dalam teknologi baharu dan mengembangkan infrastrukturnya untuk memenuhi keperluan pelanggan yang semakin berkembang. Ini termasuk meneroka seni bina baharu, membangunkan perisian yang lebih cekap dan memupuk kerjasama dengan penyedia teknologi terkemuka.
Visi CoreWeave melangkaui sekadar menyediakan sumber pengiraan lanjutan. Ia juga melibatkan penciptaan ekosistem pembangun, penyelidik dan syarikat yang bersemangat yang berusaha untuk menolak sempadan AI. Dengan memupuk inovasi dan kerjasama, CoreWeave menyasarkan untuk mempercepatkan pembangunan dan penerimaan teknologi AI merentasi industri.
Komitmen syarikat terhadap kemampanan juga merupakan bahagian utama visinya. CoreWeave secara aktif berusaha untuk mengurangkan kesan alam sekitar dengan menggunakan sumber tenaga boleh diperbaharui dan melaksanakan teknologi cekap tenaga. Ini mencerminkan kesedaran yang semakin meningkat tentang kepentingan kemampanan dalam industri teknologi dan komitmen untuk mewujudkan masa depan yang lebih bertanggungjawab terhadap alam sekitar.