VAST Data 正在通过将其存储解决方案与 Nvidia 的 AI-Q 蓝图集成,从而进入 AI 智能体的世界。此举旨在帮助客户创建和部署复杂的 AI 智能体。
理解 Nvidia 的 AI-Q
AI-Q 作为一个全面的参考设计。它将 Nvidia GPU 与各种合作伙伴存储平台、软件解决方案和智能体智能工具包精细地集成在一起。这种集成是专门为那些雄心勃勃地开发 AI 智能体的人量身定制的。该蓝图整合了 Nvidia 的 Llama Nemotron 推理模型,以及 NeMO 检索器和一系列 NIM 微服务。
智能体智能工具包可在 GitHub 上以开源软件库的形式获得,旨在促进 AI 智能体团队的连接、剖析和优化。它的兼容性扩展到流行的框架和工具,如 CrewAI、LangGraph、Llama Stack、Microsoft Azure AI 智能体服务和 Letta。
在实践中,以 VAST Data 为例的存储合作伙伴,发挥着至关重要的作用。合作伙伴持续处理数据,确保连接的智能体可以有效地响应数据变化,利用推理并根据从数据中获得的见解采取行动。
VAST Data 的视角
VAST Data 的联合创始人 Jeff Denworth 强调了智能体时代的变革潜力。他指出,它挑战了关于传统基础设施的规模、性能和整体价值的现有假设。随着企业加速推进 AI 的运营,仅仅构建更智能的模型已不再足够。这些模型需要立即且不受限制地访问推动智能决策的数据。
VAST Data 的战略包括将 NVIDIA AI-Q 嵌入到专为 AI 时代精心设计的平台中。这为驱动下一代企业 AI 提供了可扩展、高性能的数据平台。这一新一代的特点是实时、多模态智能、持续学习过程和动态智能体管道。
VAST Data 强调,AI-Q 蓝图提供了一个强大的环境。该环境允许快速元数据提取,并在智能体、工具和数据源之间建立无缝连接。这简化了复杂 AI 查询引擎的创建和运营。这些引擎可以对各种数据类型(包括结构化和非结构化数据)进行推理,同时保持透明度和可追溯性。
VAST Data 在 AI-Q 中的角色
在 AI-Q 框架内,VAST Data 的存储和 AI 引擎组件数据堆栈充当安全、AI 原生的管道。这个专用管道获取原始数据,对其进行转换,并将其高效地向上游传递给 AI 智能体。此过程的一个关键要素是使用 Nemo Retriever,VAST Data 和 AI-Q 都使用它来提取、嵌入和重新排序相关数据,然后再将其传递给高级语言和推理模型。
VAST Data 和 AI-Q 之间的协作预计将带来以下几个关键优势:
- 多模式非结构化和半结构化数据 RAG: 这包括各种数据类型,例如企业文档、图像、视频、聊天记录、PDF 和外部来源(如网站、博客和市场数据)。
- 结构化数据连接: VAST Data 促进了 AI 智能体和结构化数据源之间的直接连接。这些来源包括 ERP、CRM 和数据仓库,提供对运营记录、业务指标和事务系统的实时访问。
- 细粒度的用户和智能体访问控制: 这是通过实施强大的策略和全面的安全功能来实现的。
- 实时智能体优化: 这由 Nvidia 的智能体智能工具包和 VAST Data 的遥测功能提供支持。
VAST Data 强调,与 Nvidia 的合作将使组织能够构建实时 AI 智能引擎。这些引擎将使 AI 智能体团队能够提供更准确的响应,自动执行复杂的、多步骤的任务,并通过 AI 驱动的数据飞轮持续改进。
Nvidia 的视角
Nvidia 企业 AI 副总裁 Justin Boitano 强调了 AI 驱动的数据平台在使企业能够有效地利用其数据来实现复杂的智能体 AI 系统中的重要性。他强调,NVIDIA 和 VAST 之间的合作正在为下一代 AI 基础设施铺平道路。他设想了强大的 AI 系统,使企业能够快速发现嵌入在其业务数据中的见解和知识。
VAST 的业务开发和联盟副总裁 Jon Mao 在最近的一篇博客文章中详细介绍了这种伙伴关系的重要性。通过利用 Nvidia AI-Q 蓝图和一套强大的 Nvidia 软件技术——从 Nvidia NeMo 和 Nvidia NIM 微服务到 Nvidia Dynamo、Nvidia 智能体智能工具包等等——以及 VAST InsightEngine 及其 VUA 加速层,该平台使企业能够部署 AI 智能体系统,这些系统能够对企业数据进行推理,从而提供更快、更智能的结果。这是一种新型的企业 AI 堆栈,专为 AI 智能体时代而构建——VAST 很荣幸能够引领潮流。
AI 基础设施的演变格局
传统上,存储系统主要需要支持 GPUDirect,以实现向 Nvidia 的 GPU 快速数据传输。然而,现代 AI 应用的需求发生了显著变化。现在,存储系统必须与 Nvidia AI-Q 蓝图无缝集成,并持续向 Nvidia 智能体和 AI 软件堆栈组件提供数据,这些组件利用 GPU 来有效地充当 Nvidia AI 数据平台。行业分析师预测,越来越多的存储供应商将拥抱 AI-Q,以满足 AI 格局不断变化的需求。
深入研究 VAST Data 和 Nvidia 的合作关系
VAST Data 的存储解决方案与 Nvidia 的 AI-Q 蓝图的集成标志着解决 AI 驱动的数据管理日益增长的复杂性的战略举措。此举旨在为企业提供一种更精简、更有效的方法来利用 AI 在其运营中的作用。
揭示技术协同作用
这种合作关系的技术基础尤其值得关注。VAST Data 的架构非常适合处理与 AI 应用相关的大规模数据集和苛刻的工作负载。通过将 VAST 的功能与 Nvidia 的 AI-Q 相结合,由此产生的基础设施有望提供无与伦比的性能和可扩展性。
这些技术的无缝集成允许更高效的数据处理、更快的模型训练和改进的整体 AI 性能。对于希望大规模部署 AI 的企业而言,这种协同作用尤其重要。
应对 AI 数据管理的挑战
AI 数据管理提出了一系列独特的挑战,包括对高性能存储、高效数据访问和强大的安全措施的需求。VAST Data 和 Nvidia 的合作关系直接通过提供涵盖 AI 数据管理各个方面的综合解决方案来解决这些挑战。
该解决方案旨在处理各种数据类型,从存储在数据库中的结构化数据到非结构化数据,例如图像、视频和文本。这种多功能性对于希望从各种数据源中提取见解的企业至关重要。
增强的安全性和访问控制
安全性是任何 AI 部署中的一个关键考虑因素,尤其是在处理敏感数据时。VAST Data 和 Nvidia 的合作关系结合了高级安全功能来保护数据免受未经授权的访问,并确保符合行业法规。
细粒度的访问控制机制允许组织为用户和智能体定义粒度权限,确保只有经过授权的实体才能访问特定的数据资源。这种控制级别对于维护数据隐私和安全至关重要。
实时优化和持续学习
实时优化 AI 模型并持续改进其性能的能力是竞争激烈的 AI 格局中的一个关键差异化因素。VAST Data 和 Nvidia 的合作关系利用 Nvidia 的智能体智能工具包和 VAST Data 的遥测功能来提供对 AI 性能的实时见解。
这些见解使组织能够微调其 AI 模型,优化其基础设施,并不断提高其 AI 应用的准确性和效率。这种迭代方法对于从 AI 投资中获得长期价值至关重要。
对企业 AI 的更广泛影响
VAST Data 和 Nvidia 的合作关系对更广泛的企业 AI 格局具有深远的影响。通过提供用于 AI 数据管理的综合解决方案,这种合作关系降低了希望大规模部署 AI 的企业的进入门槛。
由此产生的基础设施效率更高、更安全、更可扩展,使企业能够从其 AI 投资中提取更大的价值。反过来,这正在推动创新,并在各个行业中培育新的机遇。
AI 基础设施的未来
VAST Data 和 Nvidia 的合作关系代表着 AI 基础设施发展中的一个重要进步。随着 AI 不断发展并变得越来越普遍,对强大而高效的 AI 数据管理解决方案的需求只会增长。
本次合作已做好充分准备,可以利用这些趋势,并继续为企业提供在 AI 时代取得成功所需的工具。VAST Data 创新存储解决方案与 Nvidia 前沿 AI 技术的结合是一种强大的力量,正在塑造 AI 基础设施的未来。
竞争优势
采用这种集成方法的好处扩展到增强的多模式非结构化和半结构化数据 RAG(检索增强生成)。这涉及到无缝集成企业文档、图像、视频、聊天记录、PDF 以及网站、博客和市场数据等外部来源,以进行全面分析。
此外,该平台还提供结构化数据连接。VAST 的 AI 智能体可以直接与 ERP、CRM 和数据仓库等结构化数据源交互,从而提供对运营记录、业务指标和事务系统的实时访问。这种整体视图使企业能够基于对其运营的完整和最新情况做出明智的决策。
赋能 AI 智能体
使用细粒度的用户和智能体访问控制来赋能 AI 智能体是另一个关键优势。这是通过明确定义的策略和强大的安全功能实现的,从而确保严格控制数据访问并符合组织标准。
该平台还通过 Nvidia 的智能体智能工具包和 VAST 的遥测功能实现实时智能体优化。这可确保 AI 智能体以最佳性能运行并交付最佳结果。
实时 AI 智能引擎的出现
VAST Data 和 Nvidia 之间的合作正在催化实时 AI 智能引擎的开发。这些引擎使 AI 智能体团队能够提供更精确的响应,自动执行复杂的多步骤过程,并通过 AI 驱动的数据飞轮不断完善其性能。这种迭代反馈循环确保 AI 应用保持适应性并针对不断变化的业务需求进行优化。
Nvidia 的 Justin Boitano 的话巩固了这一愿景。他强调了 AI 驱动的数据平台在使企业能够有效地利用其数据来进行高级智能体 AI 系统中的关键作用。NVIDIA 和 VAST 之间的协同作用正在推动下一波 AI 基础设施的创建,从而产生强大的 AI 系统,使企业能够快速轻松地从其业务数据中访问见解和知识。
超越 GPUDirect
AI 系统的存储需求的发展已经超越了仅支持 GPUDirect 以将数据快速传输到 Nvidia GPU。现代 AI 格局需要与 Nvidia AI-Q 蓝图无缝集成。这包括持续将数据馈送到 Nvidia 智能体和 AI 软件堆栈组件,这些组件利用 GPU 进行实时处理。
存储和计算能力的融合对于创建功能齐全的 Nvidia AI 数据平台至关重要。行业专家预计,越来越多的存储提供商将拥抱 AI-Q 模型,以满足 AI 应用不断增长的需求。