NVIDIA攜手存儲巨擘,開創AI新紀元

AI 驅動基礎架構的新時代

NVIDIA 近期推出了 NVIDIA AI Data Platform,這是一個可客製化的參考設計,旨在徹底改變 AI 基礎架構。領先的技術供應商正採用此突破性平台,以構建專為 AI 推理工作負載的嚴苛需求而設計的新一代基礎架構。此創新設計的核心是增強了 AI 查詢代理的企業級儲存平台,所有這些都由 NVIDIA 尖端的加速運算、網路和軟體技術提供支援。

賦予企業即時洞察力

NVIDIA AI Data Platform 使 NVIDIA 認證的儲存供應商能夠構建顯著加速 AI 推理工作負載的基礎架構。這是通過整合專門的 AI 查詢代理來實現的。這些智慧代理使企業能夠近乎即時地從其資料中提取有價值的見解。此功能由 NVIDIA AI Enterprise software 提供支援,這是一個全面的套件,包括專為新的 NVIDIA Llama Nemotron models 設計的 NVIDIA NIM™ microservices。這些模型具有先進的推理能力,進一步增強了平台提供可操作情報的能力。作為補充的是新的 NVIDIA AI-Q Blueprint,這是一個簡化代理系統開發的框架。

優化 AI 查詢代理的基礎架構

儲存供應商可以利用 NVIDIA AI Data Platform 來優化其基礎架構,確保其可以有效地為這些複雜的 AI 查詢代理提供動力。此優化涉及整合關鍵的 NVIDIA 技術,包括 NVIDIA Blackwell GPUsNVIDIA BlueField® DPUsNVIDIA Spectrum-X™ networkingNVIDIA Dynamo open-source inference library。這些元件協同工作,創建一個專為 AI 驅動的資料處理量身定制的高效能環境。

跨行業的協作努力

一項卓越的合作正在進行中,領先的資料平台和儲存供應商與 NVIDIA 攜手合作。DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data 和 WEKA 等行業巨頭正在積極努力創建客製化的 AI 資料平台。這些平台旨在利用企業資料的巨大潛力,使企業能夠以前所未有的速度和準確性推理和回應複雜的查詢。

Jensen Huang 的願景:資料是 AI 時代的燃料

NVIDIA 創始人兼執行長 Jensen Huang 恰如其分地將資料描述為「推動 AI 時代各行各業的原材料」。他強調,與全球儲存領導者的這種合作正在打造「新型態的企業基礎架構」。這種下一代基礎架構對於公司在其混合資料中心部署和擴展代理 AI 至關重要,從而釋放新的效率和創新水平。

將加速運算引入企業儲存

NVIDIA AI Data Platform 標誌著一項重大進步,它將加速運算和 AI 的強大功能帶給了依賴企業儲存的大量企業。這些企業利用儲存解決方案來管理驅動其營運的關鍵資料。將 NVIDIA 的技術整合到這個生態系統中開闢了一個新的可能性領域。

NVIDIA 技術的強大功能:Blackwell、BlueField 和 Spectrum-X

該平台利用 NVIDIA Blackwell GPUs、BlueField DPUs 和 Spectrum-X networking 的綜合能力。這些元件形成了一個加速引擎,可顯著加快 AI 查詢代理對駐留在企業儲存系統上的資料的存取速度。

BlueField DPUs 在提高效能和效率方面發揮著至關重要的作用。與基於 CPU 的儲存解決方案相比,它們可提供高達 1.6 倍的效能提升。同時,它們將功耗降低了高達 50%。這意味著每瓦效能的顯著提高,超過傳統解決方案的三倍以上。

Spectrum-X 承擔加速 AI 儲存流量的任務。與傳統乙太網路相比,它可實現高達 48% 的速度提升。這是通過實施自適應路由和擁塞控制機制來實現的,從而優化資料流並最大限度地減少瓶頸。

NVIDIA AI-Q Blueprint:代理系統的框架

NVIDIA AI Data Platform 的儲存基礎架構利用 NVIDIA AI-Q Blueprint。此藍圖用作開發能夠推理和連接到企業資料的代理系統的指南。AI-Q 利用 NVIDIA NeMo Retriever™ microservices,它在加速資料提取和檢索方面發揮著關鍵作用。這些微服務可以在 NVIDIA GPU 上將資料存取速度提高多達 15 倍,顯著提高平台的整體效率。

通過情境感知增強回應

使用 AI-Q Blueprint 構建的 AI 查詢代理旨在在推理過程中連接到資料。這種關鍵連接使它們能夠提供更準確和情境感知的回應。這些代理能夠快速存取大規模資料並處理各種類型的資料。這包括來自多個來源的結構化、半結構化和非結構化資料,例如文本文檔、PDF、圖像,甚至影片內容。

合作夥伴計劃:客製化 AI 資料平台

NVIDIA 認證的儲存合作夥伴正在積極與 NVIDIA 合作開發針對其特定產品量身定制的客製化 AI 資料平台。以下是其中一些計劃的簡要介紹:

  • DDN: DDN 正在將 AI Data Platform 功能整合到其 DDN Infinia AI platform 中,從而增強其效能和功能。
  • Dell Technologies: Dell 正在為其一系列 Dell PowerScale 和 Project Lightning 解決方案 創建 AI 資料平台,擴展其在 AI 領域的功能。
  • Hewlett Packard Enterprise: HPE 正在將 AI Data Platform 功能整合到其多個產品中,包括 HPE Private Cloud for AI、HPE Data Fabric、HPE Alletra Storage MP 和 HPE GreenLake for File Storage
  • Hitachi Vantara: Hitachi Vantara 正在將 AI Data Platform 整合到其 Hitachi IQ ecosystem 中。此整合旨在通過創新的儲存系統和資料產品為客戶提供支援,從而提供切實的 AI 驅動成果。
  • IBM: IBM 正在將 AI Data Platform 作為其內容感知儲存功能的一部分。此整合涉及 IBM Fusion 和 IBM Storage Scale technology,旨在加速檢索增強生成應用程式。
  • NetApp: NetApp 正在通過其基於 AI Data Platform 構建的 NetApp AIPod solution 推進代理 AI 的企業儲存。
  • Nutanix: 具有 Nutanix Unified Storage 的 Nutanix Cloud Platform 將與 NVIDIA AI Data Platform 整合。此整合將使推理和代理工作流程能夠部署在各種環境中,包括邊緣、資料中心和公有雲。
  • Pure Storage: Pure Storage 將通過其 Pure Storage FlashBlade 解決方案提供 AI Data Platform 功能,從而增強其效能和 AI 就緒性。
  • VAST Data: VAST Data 正在與 AI Data Platform 合作,使用其 VAST InsightEngine 策劃即時洞察,為資料分析開啟新的可能性。
  • WEKA: WEKA Data Platform software 正在與 NVIDIA GPU、DPU 和網路技術整合。此整合優化了代理 AI 推理和洞察的資料存取,提供了加速 AI 推理和權杖處理工作負載的高效能儲存基礎。

可用性和未來展望

NVIDIA 認證的儲存供應商計劃從本月開始提供使用 NVIDIA AI Data Platform 創建的解決方案。這標誌著朝著廣泛採用這種變革性技術邁出了重要一步。企業基礎架構的未來無疑正在由 AI 塑造,而 NVIDIA AI Data Platform 處於這場革命的最前沿。