Dell Technologies 與 NVIDIA 攜手合作,推出了一系列突破性的企業 AI 解決方案,有望在全球範圍內徹底改變人工智慧的採用和部署。 這項戰略聯盟標誌著在賦予組織利用 AI 的變革潛力方面向前邁出了一大步,從而推動各行各業的創新和效率提升。
Dell AI Factory with NVIDIA:全面的 AI 創新生態系統
這項合作的核心是 Dell AI Factory with NVIDIA,這是一個全面的生態系統,旨在為組織提供有效擴展其 AI 運營所需基礎架構、解決方案和託管服務。 這個整合平台將 Dell 的尖端硬體與 NVIDIA 的先進 AI 軟體無縫結合,為 AI 創新建立了穩健且多功能的基礎。
PowerEdge 伺服器:釋放前所未有的 AI 效能
Dell 全新 AI 解決方案的核心是其新一代 PowerEdge 伺服器,這些伺服器經過精心設計,可為 AI 工作負載提供無與倫比的效能。 這些伺服器代表著比其前代產品的顯著進步,提供了增強的處理能力、記憶體容量和儲存能力。
- 氣冷式 Dell PowerEdge XE9780 和 XE9785 伺服器: 這些型號旨在無縫整合到現有的企業資料中心中,為組織採用 AI 提供了一條直接的途徑,而無需進行重大的基礎架構改革。
- 液冷式 Dell PowerEdge XE9780L 和 XE9785L 型號: 這些液冷式伺服器專為加速機架規模部署而設計,提供卓越的散熱管理,從而為要求嚴苛的 AI 應用程式實現更高的密度和更高的效能。
新伺服器系列擁有令人印象深刻的規格,支援多達 192 個 NVIDIA Blackwell Ultra GPU,並採用直接晶片液體冷卻技術。 為了獲得更強大的運算能力,伺服器可以客製化,每個 Dell IR7000 機架最多可配備 256 個 NVIDIA Blackwell Ultra GPU。
與 Dell 的 PowerEdge XE9680 相比,這些新一代伺服器在使用 8 向 NVIDIA HGX B300 進行大型語言模型訓練時,速度快了最多四倍。 Dell PowerEdge XE9712 具有 NVIDIA GB300 NVL72,因其在訓練中的機架規模效率而脫穎而出,提供高達 50 倍的 AI 推理輸出和 5 倍的吞吐量提升。
Dell 還採用了其創新的 PowerCool 技術,以進一步提高這些平台的電源效率。 這項技術可優化散熱效能,減少能源消耗並降低運營成本。
擴展伺服器產品組合:滿足多樣化的 AI 使用案例
Dell 致力於提供全面的 AI 解決方案,這體現在其不斷擴展的伺服器產品組合中,該產品組合可滿足各種 AI 使用案例。
- Dell PowerEdge XE7745: 該平台計畫於 2025 年 7 月發布,將提供 NVIDIA RTX Pro 6000 Blackwell Server Edition GPU。 PowerEdge XE7745 在 NVIDIA Enterprise AI Factory 驗證設計中受到支援,在 4U 機箱中最多支援 8 個 GPU,使其成為物理和代理 AI 應用程式的理想選擇,例如機器人技術、數位雙生和多模式 AI。
Dell 對 NVIDIA Vera CPU 和 NVIDIA Vera Rubin 平台的支持進一步強調了其對採用尖端 AI 技術的承諾。 一款新的 PowerEdge XE 伺服器專為在 Dell Integrated Rack Scalable Systems 中使用而設計,計畫支援這些平台。
連接性和網路:確保無縫資料流
為了滿足 AI 應用程式不斷增長的需求,Dell 使用 PowerSwitch SN5600 和 SN2201 乙太網路交換器擴展了其連接性和網路解決方案,這兩款交換器都是 NVIDIA Spectrum-X 乙太網路網路平台的一部分。 該公司還推出了 NVIDIA Quantum-X800 InfiniBand 交換器。
這些高效能交換器可提供高達每秒 800 吉位的吞吐量,並由 Dell 的 ProSupport 和部署服務提供支援,從而確保無縫整合和可靠運行。
NVIDIA Enterprise AI Factory 驗證設計:AI 部署的整體方法
Dell AI Factory with NVIDIA 解決方案旨在支援 NVIDIA Enterprise AI Factory 驗證設計,該設計包含 Dell 和 NVIDIA 運算、網路、儲存以及 NVIDIA AI Enterprise 軟體。 這種整體方法為企業提供了一個完全整合的 AI 解決方案,簡化了部署並確保了最佳效能。
Dell AI Data Platform:支援資料驅動的 AI 應用程式
Dell 認識到資料在 AI 計畫中的關鍵作用,因此增強了其 AI Data Platform,以便為應用程式提供對高品質資料的持續存取。 Dell ObjectScale 現在支援大規模 AI 部署,旨在透過更密集、軟體定義的系統降低成本和資料中心佔用空間。
與 NVIDIA BlueField-3 和 Spectrum-4 網路元件的整合進一步提高了效能和可擴展性。 這些整合優化了資料流,最大限度地減少了延遲並最大限度地提高了 AI 工作負載的吞吐量。
用於大規模推理工作負載的高效能解決方案
Dell 推出了一種新的高效能解決方案,該解決方案利用了 Dell PowerScale、Dell Project Lightning 和 PowerEdge XE 伺服器。 該解決方案利用 KV 快取和 NVIDIA 的 NIXL 函式庫來支援大規模分散式推理工作負載。
此外,Dell ObjectScale 將支援透過 RDMA 的 S3,該公司聲稱與傳統 S3 相比,可以實現高達 230% 的吞吐量提升、高達 80% 的延遲降低以及 98% 的 CPU 負載降低,從而提高 GPU 利用率。 這種創新顯著提高了 AI 推理的效率,使組織能夠更快速有效地從其資料中獲得見解。
與 NVIDIA AI Data Platform 整合的產品:加速策劃的見解
Dell 宣布了一項整合的產品,其中包括 NVIDIA AI Data Platform,旨在加速從資料和代理 AI 應用程式及工具中獲得的策劃見解。 該產品簡化了資料準備和分析的過程,使組織能夠充分釋放其資料資產的潛力。
NVIDIA AI Enterprise Platform:簡化 AI 開發和部署
NVIDIA AI Enterprise 平台可直接從 Dell 獲得,包括 NVIDIA NIM、NVIDIA NeMo 微服務、NVIDIA Blueprints、NVIDIA NeMo Retriever for RAG 和 NVIDIA Llama Nemotron 推理模型。 這些工具使組織能夠開發代理工作流程並縮短實現 AI 成果的時間。
簡化的部署和管理:Red Hat OpenShift 支援和託管服務
為了簡化部署和管理,Dell 將在 Dell AI Factory with NVIDIA 上提供 Red Hat OpenShift 支援。 該公司還推出了 Dell Managed Services for the AI Factory,提供跨整個 NVIDIA AI 解決方案堆疊的管理,包括持續監控、報告、版本升級和修補。 這一全方位的服務套件可確保組織能夠專注於利用 AI 來推動業務價值,而不必為基礎架構管理的複雜性所困擾。
執行長觀點:AI 未來的願景
Dell Technologies 董事長兼執行長 Michael Dell 強調了公司對 AI 大眾化的承諾,他表示:「我們的使命是將 AI 帶給全球數百萬客戶。 我們的職責是讓 AI 更容易存取。 透過 Dell AI Factory with NVIDIA,企業可以在任何規模下管理跨用例的整個 AI 生命周期,從訓練到部署。」
NVIDIA 創辦人兼執行長 Jensen Huang 也贊同這一觀點,強調了 AI 工廠的轉型潛力:「AI 工廠是現代產業的基礎架構,產生智慧以推動醫療保健、金融和製造等領域的工作。 透過 Dell Technologies,我們提供最廣泛的 Blackwell AI 系統系列,為雲端、企業和邊緣的 AI 工廠提供服務。」
供應情況:擁抱 AI 的未來
新的解決方案和託管服務將於 2025 年推出,與伺服器平台推出和未來的 NVIDIA 整合支援一致。 這種分階段的方法可確保組織可以將這些尖端技術無縫整合到其現有基礎架構中。
Dell 與 NVIDIA 的戰略聯盟代表了企業 AI 格局的範式轉變。 透過結合各自的優勢,Dell 和 NVIDIA 正在賦予組織擁抱 AI 的轉型潛力,從而推動各行各業的創新和效率提升。 憑藉其全面的生態系統、尖端硬體和強大的軟體,Dell AI Factory with NVIDIA 有望徹底改變企業利用 AI 來實現其戰略目標的方式。 這是朝著 AI 對各種規模的企業都可存取、可管理和有影響力的未來邁出的全面一步。 這種合作關係的影響是廣泛的,有望塑造眾多產業的未來。