AI驱动型基础设施的新时代
NVIDIA 近期推出了 NVIDIA AI Data Platform,这是一个可定制的参考设计,旨在彻底改变 AI 基础设施。领先的技术提供商正在采用这个开创性的平台,构建专门为 AI 推理工作负载的苛刻需求而设计的新一代基础设施。这一创新设计的核心是增强了 AI 查询代理的企业级存储平台,所有这些都由 NVIDIA 尖端的加速计算、网络和软件技术提供支持。
赋予企业实时洞察力
NVIDIA AI Data Platform 使 NVIDIA 认证的存储提供商能够构建显著加速 AI 推理工作负载的基础设施。这是通过集成专门的 AI 查询代理来实现的。这些智能代理使企业能够近乎实时地从其数据中提取有价值的见解。此功能由 NVIDIA AI Enterprise 软件 提供支持,这是一个全面的套件,包括专为新的 NVIDIA Llama Nemotron 模型 设计的 NVIDIA NIM™ 微服务。这些模型拥有先进的推理能力,进一步增强了平台提供可操作情报的能力。作为补充的是新的 NVIDIA AI-Q Blueprint,这是一个简化代理系统开发的框架。
优化 AI 查询代理的基础设施
存储提供商可以利用 NVIDIA AI Data Platform 来优化其基础设施,确保其能够有效地支持这些复杂的 AI 查询代理。这种优化涉及整合关键的 NVIDIA 技术,包括 NVIDIA Blackwell GPU、NVIDIA BlueField® DPU、NVIDIA Spectrum-X™ 网络 和 NVIDIA Dynamo 开源推理库。这些组件协同工作,创建一个专为 AI 驱动的数据处理量身定制的高性能环境。
整个行业的协作努力
一项卓越的合作正在进行中,领先的数据平台和存储提供商与 NVIDIA 携手合作。DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 等行业巨头正在积极致力于创建定制的 AI 数据平台。这些平台旨在利用企业数据的巨大潜力,使企业能够以前所未有的速度和准确性推理和响应复杂的查询。
Jensen Huang 的愿景:数据是 AI 时代的燃料
NVIDIA 创始人兼首席执行官 Jensen Huang 恰如其分地将数据描述为“AI 时代推动各行各业发展的原材料”。他强调,与全球存储领导者的这种合作正在打造“新型企业基础设施”。这种下一代基础设施对于公司在其混合数据中心部署和扩展代理 AI 至关重要,从而释放新的效率和创新水平。
将加速计算引入企业存储
NVIDIA AI Data Platform 标志着一项重大进步,它将加速计算和 AI 的强大功能带给了依赖企业存储的大量企业。这些企业利用存储解决方案来管理驱动其运营的关键数据。将 NVIDIA 的技术集成到这个生态系统中开辟了一个新的可能性领域。
NVIDIA 技术的强大功能:Blackwell、BlueField 和 Spectrum-X
该平台利用 NVIDIA Blackwell GPU、BlueField DPU 和 Spectrum-X 网络 的综合功能。这些组件形成了一个加速引擎,可显著加快 AI 查询代理对驻留在企业存储系统上的数据的访问速度。
BlueField DPU 在提高性能和效率方面发挥着至关重要的作用。与基于 CPU 的存储解决方案相比,它们可提供高达 1.6 倍的更高性能。同时,它们将功耗降低了高达 50%。这意味着每瓦性能有了显著提高,比传统解决方案高出三倍以上。
Spectrum-X 承担加速 AI 存储流量的任务。与传统以太网相比,它实现了高达 48% 的速度提升。这是通过实施自适应路由和拥塞控制机制来实现的,从而优化数据流并最大限度地减少瓶颈。
NVIDIA AI-Q Blueprint:代理系统的框架
NVIDIA AI Data Platform 的存储基础设施利用 NVIDIA AI-Q Blueprint。该蓝图可作为开发能够推理和连接到企业数据的代理系统的指南。AI-Q 利用 NVIDIA NeMo Retriever™ 微服务,该微服务在加速数据提取和检索方面发挥着关键作用。这些微服务可以在 NVIDIA GPU 上将数据访问速度提高多达 15 倍,从而显著提高平台的整体效率。
通过上下文感知增强响应
使用 AI-Q Blueprint 构建的 AI 查询代理旨在在推理过程中连接到数据。这种关键连接使它们能够提供更准确且具有上下文感知能力的响应。这些代理能够快速访问大规模数据并处理各种数据类型。这包括来自多个来源的结构化、半结构化和非结构化数据,例如文本文档、PDF、图像,甚至视频内容。
合作伙伴计划:定制 AI 数据平台
NVIDIA 认证的存储合作伙伴正在积极与 NVIDIA 合作,开发针对其特定产品量身定制的 AI 数据平台。以下是其中一些举措的简要介绍:
- DDN: DDN 正在将其 AI Data Platform 功能集成到其 DDN Infinia AI 平台 中,从而增强其性能和功能。
- Dell Technologies: Dell 正在为其一系列 Dell PowerScale 和 Project Lightning 解决方案 创建 AI 数据平台,从而扩展其在 AI 领域的功能。
- Hewlett Packard Enterprise: HPE 正在将其 AI Data Platform 功能整合到其多个产品中,包括 HPE Private Cloud for AI、HPE Data Fabric、HPE Alletra Storage MP 和 HPE GreenLake for File Storage。
- Hitachi Vantara: Hitachi Vantara 正在将其 AI Data Platform 集成到其 Hitachi IQ 生态系统 中。此集成旨在为客户提供创新的存储系统和数据产品,从而提供切实的 AI 驱动的成果。
- IBM: IBM 正在将其 AI Data Platform 作为其内容感知存储功能的一部分。此集成涉及 IBM Fusion 和 IBM Storage Scale 技术,旨在加速检索增强生成应用程序。
- NetApp: NetApp 正在利用其基于 AI Data Platform 构建的 NetApp AIPod 解决方案 推进代理 AI 的企业存储。
- Nutanix: 具有 Nutanix Unified Storage 的 Nutanix Cloud Platform 将与 NVIDIA AI Data Platform 集成。此集成将使推理和代理工作流能够跨各种环境部署,包括边缘、数据中心和公共云。
- Pure Storage: Pure Storage 将通过其 Pure Storage FlashBlade 解决方案提供 AI Data Platform 功能,从而增强其性能和 AI 就绪性。
- VAST Data: VAST Data 正在与 AI Data Platform 合作,利用其 VAST InsightEngine 策划实时洞察,从而开启数据分析的新可能性。
- WEKA: WEKA Data Platform 软件 正在与 NVIDIA GPU、DPU 和网络技术集成。此集成优化了代理 AI 推理和洞察的数据访问,提供了加速 AI 推理和令牌处理工作负载的高性能存储基础。
可用性和未来展望
NVIDIA 认证的存储提供商计划从本月开始提供使用 NVIDIA AI Data Platform 创建的解决方案。这标志着朝着广泛采用这项变革性技术迈出了重要一步。企业基础设施的未来无疑正在由 AI 塑造,而 NVIDIA AI Data Platform 处于这场革命的最前沿。