NVIDIA и Google – давние партнеры, объединенные общей целью: продвижение инноваций в области искусственного интеллекта и поддержка глобального сообщества разработчиков. Их сотрудничество простирается далеко за пределы инфраструктуры, охватывая различные аспекты инженерных разработок, направленных на оптимизацию всего вычислительного стека.
Среди последних достижений этого партнерства – значительный вклад в разработку программного обеспечения с открытым исходным кодом, такого как JAX, OpenXLA, MaxText и llm-d. Эти фундаментальные оптимизации напрямую поддерживают передовую модель Gemini от Google и семейство моделей с открытым исходным кодом Gemma.
Кроме того, оптимизированное программное обеспечение NVIDIA AI, такое как NVIDIA NeMo, NVIDIA TensorRT-LLM, NVIDIA Dynamo и микросервисы NVIDIA NIM, тесно интегрировано в различные платформы Google Cloud, включая Vertex AI, Google Kubernetes Engine (GKE) и Cloud Run, для ускорения производительности и упрощения развертывания ИИ.
NVIDIA Blackwell становится доступным в Google Cloud
Google Cloud первой предложила NVIDIA HGX B200 и NVIDIA GB200 NVL72, интегрировав их в виртуальные машины (VM) A4 и A4X.
Эти новые виртуальные машины, построенные на базе архитектуры Google Cloud AI Hypercomputer, доступны через управляемые сервисы, такие как Vertex AI и GKE, что позволяет организациям выбирать подходящий путь для масштабной разработки и развертывания автономных приложений ИИ. Google Cloud A4, ускоренная NVIDIA HGX B200, теперь полностью доступна.
Виртуальные машины Google Cloud A4X обеспечивают более миллиона операций с плавающей запятой в секунду на стойку и поддерживают плавное масштабирование до десятков тысяч графических процессоров благодаря сетевой структуре Jupiter от Google и NVIDIA ConnectX-7 NIC. Инфраструктура жидкостного охлаждения третьего поколения от Google обеспечивает стабильную и эффективную производительность даже для самых требовательных рабочих нагрузок ИИ.
Развертывание Google Gemini и NVIDIA Blackwell локально через Google Distributed Cloud
Передовые возможности логического вывода Gemini уже поддерживают облачные автономные приложения ИИ. Однако некоторые клиенты в государственном секторе, здравоохранении и сфере финансовых услуг не могли воспользоваться этой технологией из-за строгих требований к хранению данных, нормативным требованиям или требованиям безопасности.
С появлением платформы NVIDIA Blackwell в Google Distributed Cloud (полностью управляемое решение Google Cloud для локальных, изолированных сред и периферии), организации теперь могут безопасно развертывать модели Gemini в своих собственных центрах обработки данных, открывая тем самым автономный ИИ для этих клиентов.
NVIDIA Blackwell уникальным образом сочетает в себе революционную производительность и возможности конфиденциальных вычислений, обеспечивая защиту пользовательских запросов и данных тонкой настройки. Это позволяет клиентам использовать Gemini для инноваций, сохраняя при этом полный контроль над своей информацией, что соответствует самым высоким стандартам конфиденциальности и соответствия требованиям. Google Distributed Cloud расширяет охват Gemini, позволяя большему количеству организаций, чем когда-либо прежде, использовать автономный ИИ следующего поколения.
Оптимизация производительности логического вывода ИИ для Google Gemini и Gemma
Семейство моделей Gemini, разработанное для эпохи автономного ИИ, представляет собой самые передовые и функциональные модели ИИ от Google на сегодняшний день, превосходно справляющиеся со сложной логикой, кодированием и мультимодальным пониманием.
NVIDIA и Google стремятся к оптимизации производительности, чтобы обеспечить эффективную работу логических выводов на базе Gemini на графических процессорах NVIDIA, особенно на платформе Vertex AI от Google Cloud. Это позволяет Google обрабатывать огромные объемы пользовательских запросов моделей Gemini на ускоренной инфраструктуре NVIDIA в Vertex AI и Google Distributed Cloud.
Кроме того, облегченное семейство моделей с открытым исходным кодом Gemma было оптимизировано для логического вывода с использованием библиотеки NVIDIA TensorRT-LLM и, как ожидается, будет доступно в качестве простых в развертывании микросервисов NVIDIA NIM. Эти оптимизации максимально повышают производительность и упрощают разработчикам доступ к передовому ИИ для запуска своих рабочих нагрузок на различных архитектурах развертывания, от центров обработки данных до локальных ПК и рабочих станций на базе NVIDIA RTX.
Создание сильного сообщества разработчиков и экосистемы
NVIDIA и Google Cloud также поддерживают сообщество разработчиков, оптимизируя такие платформы с открытым исходным кодом, как JAX, для достижения плавного масштабирования и революционной производительности на графических процессорах Blackwell, что позволяет эффективно запускать рабочие нагрузки ИИ на десятках тысяч узлов.
Это сотрудничество выходит за рамки технологического уровня и представляет собой новое сообщество разработчиков, созданное совместно Google Cloud и NVIDIA, объединяющее экспертов и коллег для ускорения обмена навыками и инноваций.
Сочетая в себе превосходные инженерные разработки, лидерство в области открытого исходного кода и динамичную экосистему разработчиков, эти две компании упрощают разработчикам создание, масштабирование и развертывание ИИ-приложений следующего поколения, как никогда прежде.
Глубокий анализ стратегического значения сотрудничества NVIDIA и Google
Сотрудничество NVIDIA и Google – это больше, чем просто технологический альянс, оно представляет собой значительный сдвиг в стратегическом направлении в области искусственного интеллекта. Ниже приведены некоторые более глубокие наблюдения, в которых исследуется значение и будущие последствия этого сотрудничества:
1. Ускорение инноваций в области искусственного интеллекта:
Лидирующие позиции NVIDIA в области технологий GPU в сочетании с опытом Google в области программного обеспечения и платформ ИИ формируют мощный синергетический эффект, который может ускорить темпы инноваций в области искусственного интеллекта. Работая вместе, эти две компании раздвигают границы ИИ и открывают новые возможности для приложений в различных отраслях.
2. Расширение возможностей разработчиков:
NVIDIA и Google стремятся к созданию процветающей экосистемы разработчиков. Предоставляя инструменты, ресурсы и поддержку, они позволяют разработчикам легко создавать, масштабировать и развертывать приложения искусственного интеллекта. Такое внимание к расширению возможностей разработчиков будет способствовать распространению ИИ и стимулировать широкие инновации.
3. Раскрытие потенциала локального развертывания ИИ:
Внедрение платформы NVIDIA Blackwell в локальные среды развертывания через Google Distributed Cloud открывает новые возможности для предприятий. Теперь предприятия, которые не могли использовать облачные решения ИИ из-за требований к хранению данных, нормативных требований или требований безопасности, могут использовать возможности моделей Gemini в своих собственных центрах обработки данных.
4. Оптимизация производительности логического вывода ИИ:
Оптимизация производительности логического вывода моделей Gemini и Gemma на графических процессорах NVIDIA имеет решающее значение для обеспечения эффективной и экономичной работы приложений ИИ. Сотрудничество между NVIDIA и Google позволяет им повысить производительность логического вывода и снизить стоимость развертывания ИИ.
5. Содействие развитию ИИ с открытым исходным кодом:
NVIDIA и Google совместно поддерживают платформы с открытым исходным кодом, такие как JAX, и стремятся к развитию ИИ с открытым исходным кодом. Эта приверженность открытому исходному коду способствует сотрудничеству и инновациям в сообществе и обеспечивает более широкий доступ и использование технологий ИИ.
6. Формирование будущего ИИ:
Сотрудничество NVIDIA и Google формирует будущее ИИ. Работая вместе, эти две компании определяют направление развития технологий ИИ и устанавливают новые стандарты для приложений ИИ в различных отраслях.
Конкретные технические детали сотрудничества NVIDIA и Google
Ниже будет дополнительно изучено несколько конкретных технических деталей, лежащих в основе сотрудничества NVIDIA и Google, чтобы глубже понять глубину и широту сотрудничества:
1. Графический процессор NVIDIA Blackwell:
NVIDIA Blackwell – это новейшая архитектура графического процессора NVIDIA, разработанная для удовлетворения потребностей рабочих нагрузок ИИ и высокопроизводительных вычислений. Графический процессор Blackwell отличается революционной производительностью, большим объемом памяти и расширенными функциями, такими как конфиденциальные вычисления.
2. Модель Google Gemini:
Модель Gemini – это самая передовая и функциональная модель искусственного интеллекта Google на сегодняшний день. Модель Gemini обладает превосходными возможностями рассуждения, мультимодальным пониманием и возможностями генерации кода.
3. NVIDIA TensorRT-LLM:
NVIDIA TensorRT-LLM – это библиотека, которая оптимизирует производительность вывода больших языковых моделей (LLM) на графических процессорах NVIDIA. TensorRT-LLM помогает разработчикам развертывать более производительные и эффективные приложения ИИ.
4. Микросервисы NVIDIA NIM:
NVIDIA NIM Microservices – это набор контейнерных программных компонентов, которые упрощают развертывание и управление приложениями ИИ. Микросервисы NIM помогают разработчикам запускать рабочие нагрузки ИИ, включая центры обработки данных и локальные ПК и рабочие станции на базе NVIDIA RTX.
5. Google Vertex AI:
Google Vertex AI – это платформа, которая предоставляет полный набор инструментов и услуг для создания, развертывания и управления моделями машинного обучения. Vertex AI упрощает процесс разработки ИИ и помогает компаниям внедрять ИИ быстрее.
6. Google Distributed Cloud:
Google Distributed Cloud – это решение, которое позволяет компаниям запускать сервисы Google Cloud локально или в периферийных средах. Distributed Cloud позволяет компаниям использовать инновационные технологии Google Cloud, одновременно удовлетворяя нормативным требованиям и требованиям к хранению данных.
Потенциальное влияние сотрудничества на различные отрасли
Сотрудничество между NVIDIA и Google оказывает глубокое влияние на различные отрасли, включая здравоохранение, финансовые услуги, производство и индустрию развлечений. Вот несколько примеров того, что это сотрудничество может принести в разных отраслях:
1. Здравоохранение:
- Улучшение диагностики. Искусственный интеллект может анализировать медицинские изображения, такие как рентгеновские снимки и МРТ, для выявления заболеваний на ранних стадиях.
- Персонализированное лечение. Искусственный интеллект может адаптировать планы лечения на основе генома, образа жизни и истории болезни пациента.
- Ускорение разработки лекарств. Искусственный интеллект может выявлять потенциальные мишени лекарств ипрогнозировать эффективность лекарств.
2. Финансовые услуги:
- Обнаружение мошенничества. Искусственный интеллект может выявлять мошеннические транзакции и предотвращать финансовые преступления.
- Оценка рисков. Искусственный интеллект может оценивать кредитные риски и принимать более обоснованные решения о кредитовании.
- Обслуживание клиентов. Искусственный интеллект может предоставлять клиентам персонализированную поддержку и рекомендации.
3. Производство:
- Прогнозирующее обслуживание. Искусственный интеллект может прогнозировать отказы оборудования и проводить техническое обслуживание до того, как произойдет отказ.
- Контроль качества. Искусственный интеллект может выявлять дефекты продукции и повышать качество производства.
- Оптимизация производства. Искусственный интеллект может оптимизировать производственные процессы и снижать затраты.
4. Индустрия развлечений:
- Создание контента. Искусственный интеллект может генерировать реалистичные изображения, видео и аудио.
- Персонализированные медиа. Искусственный интеллект может рекомендовать медиаконтент на основе интересов пользователей.
- Игры. Искусственный интеллект может создавать более умных и реалистичных игровых персонажей.
В заключение, сотрудничество между NVIDIA и Google способствует инновациям в области искусственного интеллекта, расширяет возможности разработчиков и открывает новые возможности для различных отраслей. Объединяя свои сильные стороны, эти две компании формируют будущее искусственного интеллекта и обеспечивают более широкий доступ и использование технологий искусственного интеллекта.