CoreWeave разгръща NVIDIA Grace Blackwell

CoreWeave излезе на преден план в облачните изчисления, осигурявайки широк достъп до системи NVIDIA GB200 NVL72. Водещи обекти за изкуствен интелект (AI), включително Cohere, IBM и Mistral AI, вече използват тези ресурси, за да усъвършенстват AI модели и приложения.

Като първият доставчик на облачни услуги, който предлага NVIDIA Grace Blackwell като цяло, CoreWeave демонстрира забележителни резултати от MLPerf бенчмарк, използвайки NVIDIA GB200 NVL72. Тази мощна платформа, проектирана за разсъждения и AI агенти, вече е достъпна за клиентелата на CoreWeave, предлагайки достъп до хиляди NVIDIA Blackwell GPU.

‘Ние си сътрудничим тясно с NVIDIA, за да гарантираме, че нашите клиенти разполагат с най-модерните решения за обучение и извод на AI модели’, заяви Майк Интратор, главен изпълнителен директор на CoreWeave. ‘С новите rack-scale системи Grace Blackwell, нашите клиенти са сред първите, които изпитват ползите от производителността на AI иновациите в мащаб.’

Разполагането на хиляди NVIDIA Blackwell GPU улеснява бързото превръщане на необработените данни в полезна информация, като се планират по-нататъшни разширения.

Компаниите, използващи доставчици на облачни услуги като CoreWeave, са в процес на интегриране на системи, изградени на NVIDIA Grace Blackwell. Тези системи са готови да превърнат центровете за данни в AI фабрики, произвеждайки разузнаване в мащаб и превръщайки необработените данни в прозрения с по-голяма скорост, точност и ефективност.

Глобалните AI лидери използват възможностите на GB200 NVL72 за различни приложения, включително AI агенти и разработване на усъвършенствани модели.

Персонализирани AI агенти

Cohere използва Grace Blackwell Superchips, за да подобри развитието на сигурни корпоративни AI приложения, използвайки усъвършенствани изследвания и методологии за разработка на модели. Нейната корпоративна AI платформа, North, дава възможност на екипите да създават персонализирани AI агенти за сигурна автоматизация на корпоративните работни процеси и прозрения в реално време.

Използвайки NVIDIA GB200 NVL72 на CoreWeave, Cohere видя увеличение на производителността до три пъти при обучение на модели със 100 милиарда параметри в сравнение с NVIDIA Hopper GPU от предишно поколение, дори без специфични за Blackwell оптимизации.

Допълнителни оптимизации, които използват унифицираната памет на GB200 NVL72, FP4 прецизност и 72-GPU NVIDIA NVLink домейн, подобряват пропускателната способност. Всеки GPU работи съгласувано, давайки по-голяма пропускателна способност с по-кратко време до първите и следващите токени за по-производителен и рентабилен извод.

‘С достъпа до някои от първите системи NVIDIA GB200 NVL72 в облака, ние сме доволни от това колко лесно нашите работни натоварвания се пренасят към архитектурата NVIDIA Grace Blackwell’, каза Отъм Мулдер, вицепрезидент по инженерство в Cohere. ‘Това отключва невероятна ефективност на производителността в целия ни стек - от нашето вертикално интегрирано приложение North, работещо на един Blackwell GPU, до мащабиране на заданията за обучение в хиляди от тях. Очакваме да постигнем още по-голяма производителност с допълнителни оптимизации скоро.’

AI модели за предприятието

IBM използва едно от първоначалните разполагания на система NVIDIA GB200 NVL72, мащабирайки до хиляди Blackwell GPU на CoreWeave, за да обучи своите Granite модели от следващо поколение. Тези open-source, готови за предприятие AI модели осигуряват най-съвременна производителност, като същевременно гарантират безопасност, скорост и рентабилност. Семейството модели Granite се поддържа от здрава партньорска екосистема, включително водещи софтуерни компании, вграждащи големи езикови модели в своите технологии.

Моделите Granite служат като основа за решения като IBM watsonx Orchestrate, което позволява на предприятията да разработват и разполагат AI агенти, които автоматизират и ускоряват работните процеси.

Разполагането на NVIDIA GB200 NVL72 на CoreWeave за IBM също използва IBM Storage Scale System, осигурявайки високопроизводително съхранение за AI. Клиентите на CoreWeave могат да получат достъп до платформата IBM Storage в рамките на специализираните среди на CoreWeave и платформата AI cloud.

‘Радваме се да видим ускорението, което NVIDIA GB200 NVL72 може да донесе при обучението на нашето семейство модели Granite’, каза Срирам Рагаван, вицепрезидент по AI в IBM Research. ‘Това сътрудничество с CoreWeave ще увеличи възможностите на IBM да помогне за изграждането на усъвършенствани, високопроизводителни и рентабилни модели за захранване на корпоративни и агентски AI приложения с IBM watsonx.’

Изчислителни ресурси в мащаб

Mistral AI сега интегрира първите си хиляда Blackwell GPU, за да конструира следващото поколение open-source AI модели.

Mistral AI, базиран в Париж лидер в open-source AI, използва инфраструктурата на CoreWeave, сега оборудвана с GB200 NVL72, за да ускори развитието на своите езикови модели. С модели като Mistral Large, осигуряващи стабилни възможности за разсъждение, Mistral изисква бързи изчислителни ресурси в мащаб.

За да обучи и разположи тези модели ефективно, Mistral AI се нуждае от доставчик на облачни услуги, който предлага големи, високопроизводителни GPU клъстери с NVIDIA Quantum InfiniBand мрежа и надеждно управление на инфраструктурата. Експертният опит на CoreWeave в разполагането на NVIDIA GPU в мащаб, комбиниран с водеща в индустрията надеждност и устойчивост чрез инструменти като CoreWeave Mission Control, отговаря на тези нужди.

‘Веднага след инсталирането и без допълнителни оптимизации, видяхме 2x подобрение в производителността за плътно обучение на модели’, каза Тимоте Лакроа, съосновател и главен технологичен директор в Mistral AI. ‘Това, което е вълнуващо в NVIDIA GB200 NVL72, са новите възможности, които отваря за разработване на модели и извод.’

Разширяване на наличността на Blackwell инстанции

CoreWeave не само предлага дългосрочни решения за клиенти, но и предоставя инстанции с rack-scale NVIDIA NVLink през 72 NVIDIA Blackwell GPU и 36 NVIDIA Grace CPU, мащабирайки до 110 000 GPU с NVIDIA Quantum-2 InfiniBand мрежа.

Тези инстанции, ускорени от NVIDIA GB200 NVL72 rack-scale ускорена изчислителна платформа, осигуряват мащаба и производителността, необходими за разработване и разполагане на следващата вълна от AI модели и агенти за разсъждение.

Дълбоко гмуркане в технологичната инфраструктура на CoreWeave

CoreWeave се утвърди като ключов играч в сферата на облачните изчисления, най-вече поради ангажимента си да предоставя авангардни хардуерни решения и стабилна инфраструктура, пригодени към нуждите на AI и machine learning работни натоварвания. Интегрирането на системите NVIDIA GB200 NVL72 подчертава тази отдаденост. Тези системи не са просто постепенни надстройки; те представляват значителен скок в изчислителната мощност и ефективност, позволявайки на организациите да се справят с предизвикателства, които преди това са били считани за непреодолими.

Архитектурата на NVIDIA GB200 NVL72 е щателно проектирана да максимизира производителността в спектър от AI приложения. Чрез интегриране на 72 NVIDIA Blackwell GPU с 36 NVIDIA Grace CPU, платформата осигурява балансирана и мощна изчислителна среда. Този баланс е от решаващо значение за работни натоварвания, които изискват както интензивни изчисления, така и значителни възможности за обработка на данни. Използването на технологията NVLink на NVIDIA допълнително подобрява ефективността на системата, като позволява високоскоростна комуникация между GPU, като по този начин минимизира латентността и максимизира пропускателната способност.

Инфраструктурата на CoreWeave също се характеризира със своята мащабируемост. Възможността за мащабиране до 110 000 GPU с помощта на NVIDIA Quantum-2 InfiniBand мрежа позволява на платформата да поддържа дори най-взискателните AI проекти. Тази мащабируемост не е просто за сурова изчислителна мощност; тя включва и гарантиране, че мрежовата инфраструктура може да се справи с масивните потоци от данни, свързани с широкомащабно обучение и извод на AI. NVIDIA Quantum-2 InfiniBand мрежата осигурява необходимата честотна лента и ниска латентност за поддържане на оптимална производителност, тъй като системата се мащабира.

Стратегическото значение на ранното приемане

Проактивният подход на CoreWeave към приемането на нови технологии като NVIDIA Grace Blackwell GPU я позиционира като стратегически партньор за компаниите, които са начело на AI иновациите. Като е сред първите доставчици на облачни услуги, които предлагат тези разширени ресурси, CoreWeave дава възможност на своите клиенти да придобият конкурентно предимство на съответните си пазари. Този ранен достъп позволява на компаниите да експериментират с нови модели, да оптимизират съществуващите си работни процеси и в крайна сметка да ускорят времето си за излизане на пазара.

Ползите от ранното приемане се простират отвъд просто достъп до усъвършенстван хардуер. Той включва и тясно сътрудничество с доставчици на технологии като NVIDIA, което позволява на CoreWeave да настрои фино своята инфраструктура и софтуерен стек, за да използва напълно възможностите на новия хардуер. Това сътрудничество води до по-оптимизирана и ефективна платформа, което се превръща в по-добра производителност и спестяване на разходи за клиентите на CoreWeave.

Освен това, стратегията на CoreWeave за ранно приемане насърчава култура на иновации в компанията. Като постоянно разширява границите на възможното с облачните изчисления, CoreWeave привлича топ таланти и се утвърждава като лидер в индустрията. Това от своя страна засилва способността й да предоставя авангардни решения и да поддържа своето конкурентно предимство.

Последици за разработването на AI модели

Разполагането на NVIDIA Grace Blackwell GPU на платформата на CoreWeave има дълбоки последици за разработването на AI модели. Подобрената изчислителна мощност и ефективност на тези GPU позволяват на изследователите и инженерите да обучават по-големи, по-сложни модели за частица от времето в сравнение с предишните поколения хардуер. Това ускорение на процеса на обучение е от решаващо значение за оставане напред в бързо развиващата се област на AI.

Освен това, системите NVIDIA GB200 NVL72 улесняват разработването на по-усъвършенствани AI модели, които могат да изпълняват по-сложни задачи. Например, тези системи са особено подходящи за обучение на модели, които изискват обширни възможности за разсъждение, като тези, използвани в обработката на естествен език и компютърното зрение. Възможността за обработка на огромни количества данни и извършване на сложни изчисления прави тези модели по-точни, надеждни и способни да се справят със сценарии от реалния свят.

Въздействието върху конкретни приложения е значително. В обработката на естествен език, новият хардуер позволява създаването на по-мощни езикови модели, които могат да разбират и генерират текст, подобен на човешкия, с по-голяма плавност и съгласуваност. Това води до подобрения в приложения като чатботове, виртуални асистенти и машинен превод. В компютърното зрение, подобрената изчислителна мощност позволява разработването на по-точни системи за разпознаване на обекти, които са от съществено значение за приложения като автономни превозни средства, медицински изображения и наблюдение.

Ролята на CoreWeave в демократизирането на AI

Усилията на CoreWeave да направи усъвършенстваните изчислителни ресурси достъпни за по-широка аудитория играят важна роля в демократизирането на AI. Чрез предоставяне на рентабилен достъп до авангарден хардуер, CoreWeave дава възможност на по-малки компании и изследователски институции да се конкурират с по-големи организации, които традиционно доминират AI пейзажа. Тази демократизация на AI насърчава иновациите и насърчава по-разнообразен набор от гледни точки в разработването на AI технологии.

Наличността на мощни облачни ресурси също понижава бариерата за навлизане за лица и стартиращи фирми, които се интересуват от проучване на AI. Чрез елиминиране на необходимостта от големи първоначални инвестиции в хардуер, CoreWeave позволява на начинаещите AI разработчици да се съсредоточат върху своите идеи и иновации. Това може да доведе до създаването на нови приложения и решения, които може би не биха били възможни по друг начин.

Освен това, ангажиментът на CoreWeave да предоставя удобна за потребителя платформа и цялостни услуги за поддръжка допълнително допринася за демократизирането на AI. Като улеснява достъпа и използването на усъвършенствани изчислителни ресурси от потребителите, CoreWeave им дава възможност да постигнат целите си и да допринесат за напредъка на AI.

Трансформиране на индустриите с AI

Напредъкът, даден от възможност чрез разполагането на NVIDIA Grace Blackwell GPU на CoreWeave, е готов да трансформира различни индустрии. Подобрената изчислителна мощност и ефективност на тези системи ще стимулира иновациите и ще създаде нови възможности в сектори, вариращи от здравеопазване до финанси.

В здравеопазването, AI се използва за разработване на по-точни диагностични инструменти, персонализиране на планове за лечение и ускоряване на откриването на лекарства. Наличността на усъвършенствани изчислителни ресурси позволява на изследователите да анализират огромни количества медицински данни и да идентифицират модели, които биха били невъзможни за откриване ръчно. Това може да доведе до пробиви в лечението на заболявания и да подобри резултатите за пациентите.

Във финансите, AI се използва за откриване на измами, управление на риска и автоматизиране на процесите на търговия. Възможността за обработка на големи обеми финансови данни в реално време позволява на компаниите да вземат по-информирани решения и да реагират бързо на променящите се пазарни условия. Това може да доведе до повишена ефективност, намалени разходи и подобрена рентабилност.

Други индустрии, които вероятно ще бъдат трансформирани от AI, включват производството, транспорта и търговията на дребно. В производството, AI се използва за оптимизиране на производствените процеси, подобряване на контрола на качеството и намаляване на отпадъците. В транспорта, AI дава възможност за разработване на автономни превозни средства и по-ефективни логистични системи. В търговията на дребно, AI се използва за персонализиране на клиентските преживявания, оптимизиране на цените и подобряване на управлението на веригата на доставки.

Визията на CoreWeave за бъдещето

Разполагането на NVIDIA Grace Blackwell GPU от CoreWeave не е просто еднократно събитие; то е част от по-широка визия за бъдещето на облачните изчисления и AI. CoreWeave е ангажирана да инвестира непрекъснато в нови технологии и да разширява своята инфраструктура, за да отговори на развиващите се нужди на своите клиенти. Това включва проучване на нови архитектури, разработване на по-ефективен софтуер и насърчаване на сътрудничеството с водещи доставчици на технологии.

Визията на CoreWeave се простира отвъд просто предоставянето на усъвършенствани изчислителни ресурси. Тя включва също така създаване на жизнена екосистема от разработчици, изследователи и компании, които работят за разширяване на границите на AI. Чрез насърчаване на иновациите и сътрудничеството, CoreWeave има за цел да ускори разработването и приемането на AI технологии в различни индустрии.

Ангажиментът на компанията към устойчивостта също е ключова част от нейната визия. CoreWeave активно работи за намаляване на въздействието си върху околната среда, като използва възобновяеми енергийни източници и прилага енергийно ефективни технологии. Това отразява нарастващото осъзнаване на важността на устойчивостта в технологичната индустрия и ангажимент за създаване на по-екологично отговорно бъдеще.