CoreWeave стал одним из лидеров в области облачных вычислений, предоставляя широкий доступ к системам NVIDIA GB200 NVL72. Ведущие организации в сфере искусственного интеллекта (AI), включая Cohere, IBM и Mistral AI, уже используют эти ресурсы для улучшения моделей и приложений AI.
CoreWeave, как первый облачный провайдер, предложивший NVIDIA Grace Blackwell в общем доступе, продемонстрировал впечатляющие результаты MLPerf, используя NVIDIA GB200 NVL72. Эта мощная платформа, предназначенная для рассуждений и AI-агентов, теперь доступна клиентам CoreWeave, предоставляя доступ к тысячам графических процессоров NVIDIA Blackwell.
‘Мы тесно сотрудничаем с NVIDIA, чтобы обеспечить нашим клиентам самые передовые решения для обучения и вывода моделей AI’, - заявил Майк Интратор, генеральный директор CoreWeave. ‘Благодаря новым системам Grace Blackwell rack-scale, наши клиенты одними из первых могут ощутить преимущества высокой производительности инноваций AI в масштабе’.
Развертывание тысяч графических процессоров NVIDIA Blackwell облегчает быструю конвертацию необработанных данных в полезную информацию, и планируются дальнейшие расширения.
Компании, использующие облачных провайдеров, таких как CoreWeave, находятся в процессе интеграции систем, построенных на базе NVIDIA Grace Blackwell. Эти системы готовы превратить центры обработки данных в фабрики AI, производя аналитику в масштабе и преобразуя необработанные данные в аналитические выводы с большей скоростью, точностью и эффективностью.
Глобальные лидеры AI используют возможности GB200 NVL72 для различных приложений, включая AI-агентов и разработку передовых моделей.
Персонализированные AI-агенты
Cohere использует Grace Blackwell Superchips для улучшения разработки безопасных корпоративных AI-приложений, используя передовые исследования и методологии разработки моделей. Его корпоративная платформа AI, North, позволяет командам создавать персонализированных AI-агентов для безопасной автоматизации корпоративных рабочих процессов и аналитики в реальном времени.
Благодаря использованию NVIDIA GB200 NVL72 на CoreWeave, Cohere заметила трехкратное увеличение производительности при обучении моделей с 100 миллиардами параметров по сравнению с графическими процессорами NVIDIA Hopper предыдущего поколения, даже без специальных оптимизаций для Blackwell.
Дальнейшие оптимизации, использующие унифицированную память GB200 NVL72, точность FP4 и 72-GPU NVIDIA NVLink, увеличивают пропускную способность. Каждый графический процессор работает согласованно, обеспечивая большую пропускную способность с меньшим временем до первого и последующих токенов для более производительного и экономичного вывода.
‘Имея доступ к одним из первых систем NVIDIA GB200 NVL72 в облаке, мы довольны тем, насколько легко наши нагрузки переносятся на архитектуру NVIDIA Grace Blackwell’, - сказала Отем Моулдер, вице-президент по инжинирингу в Cohere. ‘Это открывает невероятную эффективность производительности во всем нашем стеке — от нашего вертикально интегрированного приложения North, работающего на одном GPU Blackwell, до масштабирования заданий обучения на тысячах из них. Мы с нетерпением ждем достижения еще большей производительности с дополнительными оптимизациями в ближайшее время’.
AI-модели для предприятий
IBM использует одно из первых развертываний системы NVIDIA GB200 NVL72, масштабируясь до тысяч графических процессоров Blackwell на CoreWeave, для обучения своих моделей Granite следующего поколения. Эти AI-модели с открытым исходным кодом, готовые к использованию на предприятиях, обеспечивают современную производительность, обеспечивая при этом безопасность, скорость и экономичность. Семейство моделей Granite поддерживается надежной партнерской экосистемой, включая ведущие компании-разработчики программного обеспечения, внедряющие большие языковые модели в свои технологии.
Модели Granite служат основой для таких решений, как IBM watsonx Orchestrate, которая позволяет предприятиям разрабатывать и развертывать AI-агентов, которые автоматизируют и ускоряют рабочие процессы.
Развертывание NVIDIA GB200 NVL72 CoreWeave для IBM также использует IBM Storage Scale System, обеспечивая высокопроизводительное хранилище для AI. Клиенты CoreWeave могут получить доступ к платформе IBM Storage в выделенных средах CoreWeave и платформе AI-облака.
‘Мы рады видеть ускорение, которое NVIDIA GB200 NVL72 может привнести в обучение нашего семейства моделей Granite’, - сказал Шрирам Рагхаван, вице-президент AI в IBM Research. ‘Это сотрудничество с CoreWeave расширит возможности IBM по созданию передовых, высокопроизводительных и экономичных моделей для обеспечения корпоративных и агентских AI-приложений с помощью IBM watsonx’.
Вычислительные ресурсы в масштабе
Mistral AI в настоящее время интегрирует свою первую тысячу графических процессоров Blackwell для построения следующего поколения AI-моделей с открытым исходным кодом.
Mistral AI, парижский лидер в области AI с открытым исходным кодом, использует инфраструктуру CoreWeave, теперь оснащенную GB200 NVL72, для ускорения разработки своих языковых моделей. Поскольку такие модели, как Mistral Large, обеспечивают надежные возможности рассуждений, Mistral требует быстрых вычислительных ресурсов в масштабе.
Для эффективного обучения и развертывания этих моделей Mistral AI нужен облачный провайдер, который предлагает большие высокопроизводительные кластеры GPU с сетевым решением NVIDIA Quantum InfiniBand и надежным управлением инфраструктурой. Опыт CoreWeave в развертывании графических процессоров NVIDIA в масштабе в сочетании с ведущей в отрасли надежностью и устойчивостью благодаря таким инструментам, как CoreWeave Mission Control, отвечает этим потребностям.
‘Прямо из коробки и без каких-либо дополнительных оптимизаций мы увидели двукратное улучшение производительности при обучении плотных моделей’, - сказал Тимоте Лакруа, соучредитель и технический директор Mistral AI. ‘Что интересно в NVIDIA GB200 NVL72, так это новые возможности, которые она открывает для разработки и вывода моделей’.
Расширение доступности экземпляров Blackwell
CoreWeave предлагает не только долгосрочные решения для клиентов, но и экземпляры с rack-scale NVIDIA NVLink на 72 графических процессорах NVIDIA Blackwell и 36 процессорах NVIDIA Grace, масштабируясь до 110 000 графических процессоров с сетью NVIDIA Quantum-2 InfiniBand.
Эти экземпляры, ускоренные вычислительной платформой rack-scale NVIDIA GB200 NVL72, обеспечивают масштаб и производительность, необходимые для разработки и развертывания следующей волны моделей и агентов AI-рассуждений.
Глубокий анализ технологической инфраструктуры CoreWeave
CoreWeave зарекомендовал себя как ключевой игрок на арене облачных вычислений, в основном благодаря своей приверженности предоставлению передовых аппаратных решений и надежной инфраструктуры, адаптированной к требованиям AI и машинного обучения. Интеграция систем NVIDIA GB200 NVL72 подчеркивает эту преданность делу. Эти системы - не просто инкрементные обновления; они представляют собой значительный скачок в вычислительной мощности и эффективности, позволяя организациям решать проблемы, которые ранее считались непреодолимыми.
Архитектура NVIDIA GB200 NVL72 тщательно разработана для максимальной производительности в спектре AI-приложений. Благодаря интеграции 72 графических процессоров NVIDIA Blackwell с 36 процессорами NVIDIA Grace платформа обеспечивает сбалансированную и мощную вычислительную среду. Этот баланс критически важен для рабочих нагрузок, требующих как интенсивных вычислений, так и значительных возможностей обработки данных. Использование технологии NVLink от NVIDIA еще больше повышает эффективность системы, обеспечивая высокоскоростную связь между графическими процессорами, тем самым сводя к минимуму задержку и максимизируя пропускную способность.
Инфраструктура CoreWeave также характеризуется своей масштабируемостью. Возможность масштабирования до 110 000 графических процессоров с использованием сети NVIDIA Quantum-2 InfiniBand позволяет платформе поддерживать даже самые требовательные AI-проекты. Эта масштабируемость - это не только грубая вычислительная мощность; она также включает в себя обеспечение того, чтобы сетевая инфраструктура могла обрабатывать массивные потоки данных, связанные с крупномасштабным обучением и выводом AI. Сеть NVIDIA Quantum-2 InfiniBand обеспечивает необходимую пропускную способность и низкую задержку для поддержания оптимальной производительности при масштабировании системы.
Стратегическая важность раннего внедрения
Проактивный подход CoreWeave к внедрению новых технологий, таких как графические процессоры NVIDIA Grace Blackwell, позиционирует его как стратегического партнера для компаний, находящихся в авангарде инноваций AI. Будучи одним из первых облачных провайдеров, предлагающих эти передовые ресурсы, CoreWeave позволяет своим клиентам получить конкурентное преимущество на своих соответствующих рынках. Этот ранний доступ позволяет компаниям экспериментировать с новыми моделями, оптимизировать свои существующие рабочие процессы и в конечном итоге ускорить время выхода на рынок.
Преимущества раннего внедрения выходят за рамки простого доступа к передовому оборудованию. Это также включает в себя тесное сотрудничество с поставщиками технологий, такими как NVIDIA, что позволяет CoreWeave точно настраивать свою инфраструктуру и программный стек, чтобы в полной мере использовать возможности нового оборудования. Это сотрудничество приводит к более оптимизированной и эффективной платформе, что приводит к повышению производительности и экономии затрат для клиентов CoreWeave.
Более того, стратегия раннего внедрения CoreWeave способствует культуре инноваций внутри компании. Постоянно расширяя границы возможного с помощью облачных вычислений, CoreWeave привлекает лучших специалистов и утверждает себя как лидер в отрасли. Это, в свою очередь, усиливает его способность предоставлять передовые решения и поддерживать свое конкурентное преимущество.
Последствия для разработки моделей AI
Развертывание графических процессоров NVIDIA Grace Blackwell на платформе CoreWeave имеет глубокие последствия для разработки моделей AI. Расширенная вычислительная мощность и эффективность этих графических процессоров позволяют исследователям и инженерам обучать более крупные и сложные модели за меньшее время по сравнению с предыдущими поколениями оборудования. Это ускорение процесса обучения имеет решающее значение для того, чтобы оставаться впереди в быстро развивающейся области AI.
Кроме того, системы NVIDIA GB200 NVL72 облегчают разработку более сложных AI-моделей, которые могут выполнять более сложные задачи. Например, эти системы особенно хорошо подходят для обучения моделей, требующих широких возможностей рассуждений, таких как те, которые используются в обработке естественного языка и компьютерном зрении. Возможность обработки огромных объемов данных и выполнения сложных вычислений делает эти модели более точными, надежными и способными обрабатывать реальные сценарии.
Влияние на конкретные приложения является существенным. В обработке естественного языка новое оборудование позволяет создавать более мощные языковые модели, которые могут понимать и генерировать человекоподобный текст с большей беглостью и связностью. Это приводит к улучшениям в таких приложениях, как чат-боты, виртуальные помощники и машинный перевод. В компьютерном зрении расширенная вычислительная мощность позволяет разрабатывать более точные системы распознавания объектов, которые необходимы для таких приложений, как автономные транспортные средства, медицинская визуализация и наблюдение.
Роль CoreWeave в демократизации AI
Усилия CoreWeave по обеспечению доступа к передовым вычислительным ресурсам для более широкой аудитории играют важную роль в демократизации AI. Предоставляя экономически эффективный доступ к передовому оборудованию, CoreWeave позволяет небольшим компаниям и исследовательским институтам конкурировать с более крупными организациями, которые традиционно доминировали в ландшафте AI. Эта демократизация AI способствует инновациям и продвигает более широкий спектр перспектив в разработке AI-технологий.
Доступность мощных облачных ресурсов также снижает барьер для входа для отдельных лиц и стартапов, заинтересованных в изучении AI. Устраняя необходимость в крупных первоначальных инвестициях в оборудование, CoreWeave позволяет начинающим разработчикам AI сосредоточиться на своих идеях и инновациях. Это может привести к созданию новых приложений и решений, которые в противном случае могли бы быть невозможными.
Более того, приверженность CoreWeave предоставлению удобной платформы и комплексных услуг поддержки еще больше способствует демократизации AI. Облегчая пользователям доступ к передовым вычислительным ресурсам и их использование, CoreWeave дает им возможность достигать своих целей и вносить вклад в развитие AI.
Преобразование отраслей с помощью AI
Достижения, ставшие возможными благодаря развертыванию CoreWeave графических процессоров NVIDIA Grace Blackwell, готовы преобразовать различные отрасли. Расширенная вычислительная мощность и эффективность этих систем будут стимулировать инновации и создавать новые возможности в секторах, начиная от здравоохранения и заканчивая финансами.
В здравоохранении AI используется для разработки более точных диагностических инструментов, персонализации планов лечения и ускорения открытия лекарств. Доступность передовых вычислительных ресурсов позволяет исследователям анализировать огромные объемы медицинских данных и выявлять закономерности, которые было бы невозможно обнаружить вручную. Это может привести к прорывам в лечении заболеваний и улучшению результатов лечения пациентов.
В финансах AI используется для обнаружения мошенничества, управления рисками и автоматизации торговых процессов. Возможность обработки больших объемов финансовых данных в режиме реального времени позволяет компаниям принимать более обоснованные решения и быстро реагировать на меняющиеся рыночные условия. Это может привести к повышению эффективности, снижению затрат и повышению прибыльности.
Другие отрасли, которые, вероятно, будут преобразованы AI, включают производство, транспорт и розничную торговлю. В производстве AI используется для оптимизации производственных процессов, улучшения контроля качества и сокращения отходов. В транспорте AI позволяет разрабатывать автономные транспортные средства и более эффективные системы логистики. В розничной торговле AI используется для персонализации обслуживания клиентов, оптимизации ценообразования и улучшения управления цепочками поставок.
Видение CoreWeave на будущее
Развертывание CoreWeave графических процессоров NVIDIA Grace Blackwell - это не просто разовое событие; это часть более широкого видения будущего облачных вычислений и AI. CoreWeave стремится постоянно инвестировать в новые технологии и расширять свою инфраструктуру для удовлетворения растущих потребностей своих клиентов. Это включает в себя изучение новых архитектур, разработку более эффективного программного обеспечения и содействие сотрудничеству с ведущими поставщиками технологий.
Видение CoreWeave выходит за рамки простого предоставления передовых вычислительных ресурсов. Оно также включает в себя создание динамичной экосистемы разработчиков, исследователей и компаний, которые работают над расширением границ AI. Содействуя инновациям и сотрудничеству, CoreWeave стремится ускорить разработку и внедрение AI-технологий в различных отраслях.
Приверженность компании устойчивому развитию также является ключевой частью ее видения. CoreWeave активно работает над снижением своего воздействия на окружающую среду за счет использования возобновляемых источников энергии и внедрения энергоэффективных технологий. Это отражает растущее осознание важности устойчивого развития в технологической отрасли и приверженность созданию более экологически ответственного будущего.