Новая эра инфраструктуры на базе ИИ
NVIDIA недавно представила NVIDIA AI Data Platform, настраиваемый эталонный дизайн, призванный революционизировать инфраструктуру ИИ. Эта новаторская платформа внедряется ведущими поставщиками технологий для создания нового поколения инфраструктуры, специально разработанной для удовлетворения высоких требований рабочих нагрузок вывода ИИ (AI inference). В основе этого инновационного дизайна лежат корпоративные платформы хранения данных, дополненные агентами запросов ИИ, работающие на базе передовых технологий ускоренных вычислений, сетей и программного обеспечения NVIDIA.
Предоставление предприятиям аналитики в реальном времени
NVIDIA AI Data Platform позволяет поставщикам хранилищ, сертифицированным NVIDIA, создавать инфраструктуру, которая значительно ускоряет рабочие нагрузки, связанные с рассуждениями ИИ. Это достигается за счет интеграции специализированных агентов запросов ИИ. Эти интеллектуальные агенты позволяют предприятиям извлекать ценную информацию из своих данных практически в реальном времени. Эта возможность обеспечивается NVIDIA AI Enterprise software, комплексным пакетом, включающим NVIDIA NIM™ microservices, разработанные для новых моделей NVIDIA Llama Nemotron. Эти модели обладают расширенными возможностями рассуждений, что еще больше повышает способность платформы предоставлять действенную аналитику. Дополнением к этому является новая платформа NVIDIA AI-Q Blueprint, которая упрощает разработку агентных систем.
Оптимизация инфраструктуры для агентов запросов ИИ
Поставщики хранилищ могут использовать NVIDIA AI Data Platform для оптимизации своей инфраструктуры, гарантируя, что она сможет эффективно поддерживать эти сложные агенты запросов ИИ. Эта оптимизация включает в себя внедрение ключевых технологий NVIDIA, в том числе NVIDIA Blackwell GPUs, NVIDIA BlueField® DPUs, NVIDIA Spectrum-X™ networking, и NVIDIA Dynamo open-source inference library. Эти компоненты работают синергетически, создавая высокопроизводительную среду, адаптированную для обработки данных, управляемой ИИ.
Совместные усилия в отрасли
В настоящее время ведется замечательное сотрудничество, в рамках которого ведущие поставщики платформ данных и хранилищ объединяют усилия с NVIDIA. Такие отраслевые гиганты, как DDN, Dell Technologies, Hewlett Packard Enterprise, Hitachi Vantara, IBM, NetApp, Nutanix, Pure Storage, VAST Data, и WEKA, активно работают над созданием индивидуальных платформ данных ИИ. Эти платформы предназначены для использования огромного потенциала корпоративных данных, позволяя предприятиям рассуждать и отвечать на сложные запросы с беспрецедентной скоростью и точностью.
Видение Дженсена Хуанга: данные как топливо для эпохи ИИ
Дженсен Хуанг, основатель и генеральный директор NVIDIA, метко описывает данные как ‘сырье, питающее отрасли в эпоху ИИ’. Он подчеркивает, что это сотрудничество с мировыми лидерами в области хранения данных создает ‘новый класс корпоративной инфраструктуры’. Эта инфраструктура следующего поколения необходима компаниям для развертывания и масштабирования агентного ИИ в своих гибридных центрах обработки данных, открывая новые уровни эффективности и инноваций.
Внедрение ускоренных вычислений в корпоративные хранилища
NVIDIA AI Data Platform знаменует собой значительный шаг вперед, предоставляя возможности ускоренных вычислений и ИИ огромному количеству предприятий, которые полагаются на корпоративные хранилища. Эти предприятия используют решения для хранения данных для управления критически важными данными, которые управляют их деятельностью. Интеграция технологий NVIDIA в эту экосистему открывает новую сферу возможностей.
Мощь технологий NVIDIA: Blackwell, BlueField и Spectrum-X
Платформа использует объединенные возможности NVIDIA Blackwell GPUs, BlueField DPUs, и Spectrum-X networking. Эти компоненты образуют ускоренный движок, который значительно ускоряет доступ агентов запросов ИИ к данным, находящимся в корпоративных системах хранения.
BlueField DPUs играют решающую роль в повышении производительности и эффективности. Они обеспечивают до 1,6 раз более высокую производительность по сравнению с решениями для хранения данных на базе ЦП. В то же время они снижают энергопотребление до 50%. Это приводит к значительному улучшению производительности на ватт, превышающему традиционные решения более чем в три раза.
Spectrum-X берет на себя задачу ускорения трафика хранения ИИ. Он обеспечивает увеличение скорости до 48% по сравнению с традиционным Ethernet. Это достигается за счет реализации механизмов адаптивной маршрутизации и управления перегрузками, оптимизирующих поток данных и минимизирующих узкие места.
NVIDIA AI-Q Blueprint: основа для агентных систем
Инфраструктура хранения NVIDIA AI Data Platform использует NVIDIA AI-Q Blueprint. Этот план служит руководством для разработки агентных систем, способных рассуждать и подключаться к корпоративным данным. AI-Q использует NVIDIA NeMo Retriever™ microservices, которые играют ключевую роль в ускорении извлечения и поиска данных. Эти микросервисы могут увеличить скорость доступа к данным до 15 раз на графических процессорах NVIDIA, значительно повышая общую эффективность платформы.
Улучшение ответов с помощью контекстной осведомленности
Агенты запросов ИИ, созданные с использованием AI-Q Blueprint, предназначены для подключения к данным в процессе вывода. Это важное соединение позволяет им предоставлять ответы, которые являются более точными и контекстно-зависимыми. Эти агенты обладают способностью быстро получать доступ к крупномасштабным данным и обрабатывать различные типы данных. Сюда входят структурированные, полуструктурированные и неструктурированные данные, поступающие из нескольких источников, таких как текстовые документы, PDF-файлы, изображения и даже видеоконтент.
Партнерские инициативы: настройка платформы данных ИИ
Партнеры NVIDIA-Certified Storage активно сотрудничают с NVIDIA для разработки индивидуальных платформ данных ИИ, адаптированных к их конкретным предложениям. Вот краткий обзор некоторых из этих инициатив:
- DDN: DDN интегрирует возможности AI Data Platform в свою платформу DDN Infinia AI, повышая ее производительность и функциональность.
- Dell Technologies: Dell создает платформы данных ИИ для своего ряда решений Dell PowerScale и Project Lightning, расширяя их возможности в области ИИ.
- Hewlett Packard Enterprise: HPE внедряет возможности AI Data Platform в несколько своих предложений, включая HPE Private Cloud for AI, HPE Data Fabric, HPE Alletra Storage MP, и HPE GreenLake for File Storage.
- Hitachi Vantara: Hitachi Vantara интегрирует AI Data Platform в свою экосистему Hitachi IQ. Эта интеграция направлена на то, чтобы предоставить клиентам инновационные системы хранения и предложения данных, которые обеспечивают ощутимые результаты, основанные на ИИ.
- IBM: IBM внедряет AI Data Platform как часть своей возможности хранения с учетом контента. Эта интеграция включает в себя IBM Fusion и технологию IBM Storage Scale и предназначена для ускорения приложений генерации с расширенным поиском (retrieval-augmented generation).
- NetApp: NetApp развивает корпоративное хранилище для агентного ИИ с помощью своего решения NetApp AIPod, которое построено на основе AI Data Platform.
- Nutanix: Nutanix Cloud Platform с Nutanix Unified Storage будет интегрироваться с NVIDIA AI Data Platform. Эта интеграция позволит развертывать рабочие процессы вывода и агентные рабочие процессы в различных средах, включая периферию, центры обработки данных и общедоступные облака.
- Pure Storage: Pure Storage предоставит возможности AI Data Platform через свое решение Pure Storage FlashBlade, повышая его производительность и готовность к ИИ.
- VAST Data: VAST Data сотрудничает с AI Data Platform для курирования аналитики в реальном времени с помощью своего VAST InsightEngine, открывая новые возможности для анализа данных.
- WEKA: Программное обеспечение WEKA Data Platform интегрируется с графическими процессорами, DPU и сетевыми технологиями NVIDIA. Эта интеграция оптимизирует доступ к данным для агентного ИИ-рассуждения и аналитики, обеспечивая высокопроизводительную основу хранения, которая ускоряет рабочие нагрузки вывода ИИ и обработки токенов.
Доступность и перспективы на будущее
Поставщики хранилищ, сертифицированные NVIDIA, планируют начать предлагать решения, созданные с помощью NVIDIA AI Data Platform, начиная с этого месяца. Это знаменует собой значительный шаг к широкому внедрению этой преобразующей технологии. Будущее корпоративной инфраструктуры, несомненно, формируется ИИ, и NVIDIA AI Data Platform находится в авангарде этой революции.