NVIDIA 與微軟:驅動雲端到PC的代理式AI創新

NVIDIA 與 Microsoft:驅動雲端到PC的代理式AI創新

NVIDIA 與 Microsoft 正加強合作,以推動代理式 AI 應用的發展,範圍涵蓋雲端解決方案到個人電腦。這項更深入的合作關係有望加速科學發現,並促進各個領域的創新。

以 AI 強化科學研究

Microsoft Discovery 將整合 NVIDIA 的 ALCHEMI NIM 微服務。此整合對於優化複雜化學模擬的 AI 推論至關重要,從而通過精確的屬性預測和有效的候選推薦,顯著加速材料科學研究。此強化功能有望簡化具有所需特徵的新材料的識別,從而減少傳統上所需的時間和資源。

此外,Microsoft Discovery 將納入 NVIDIA BioNeMo NIM 微服務。這些微服務旨在利用預先訓練的 AI 工作流程,大幅加速藥物發現的 AI 模型開發過程。通過利用這些工具,研究人員可以快速開發和完善 AI 模型,以預測藥物療效和潛在的副作用,從而實現更有效和更有針對性的藥物開發流程。

這些整合經過精心設計,旨在為研究人員提供加速的效能,從而縮短科學發現所需的時間。它們確保研究人員能夠以前所未有的速度和準確性處理龐大的數據集和複雜的模擬,使他們能夠應對科學研究中最具挑戰性的一些問題。

Microsoft 研究人員展示了這些進展的實際應用。他們成功利用 Microsoft Discovery 找到了新的冷卻劑原型,該原型在不到 200 小時內展示了用於數據中心浸沒式冷卻的良好特性。與傳統方法通常需要的數月甚至數年的時間相比,這個時間表形成了鮮明的對比。浸沒式冷卻涉及將電子元件浸入非導電液體冷卻劑中,對於管理高性能運算系統產生的熱量變得越來越重要。

Azure 數據中心的 NVIDIA Blackwell GPU

為了提高效能和效率,Microsoft 正在全球 AI 優化的 Azure 數據中心中快速部署數十萬個 NVIDIA Blackwell GPU。這些 GPU 集成到 NVIDIA GB200 NVL72 機架級系統中,這些系統旨在處理最苛刻的 AI 工作負載。

Microsoft 的幾位重要客戶,包括 OpenAI,目前正在此先進基礎架構上運行實際工作負載。利用 NVIDIA Blackwell GPU 使這些組織能夠更有效率地執行複雜的 AI 任務。此部署強調了 Microsoft 致力於為其客戶提供尖端 AI 功能的承諾。

Azure 的 ND GB200 v6 虛擬機器代表了運算能力方面的一大飛躍。與之前的 ND H100 v5 VM 相比,它們提供的推論輸送量最多高出 35 倍。舊的 VM 由八個 NVIDIA H100 GPU 加速,現在與新一代產品提供的增強效能相比相形見絀,為 AI 工作負載樹立了新的基準。這種效能提升可以顯著減少與運行大規模 AI 模型相關的時間和成本。

這種令人印象深刻的規模和高效能得到定制伺服器設計、高速 NVIDIA NVLink 互連和 NVIDIA Quantum InfiniBand 網絡的支持。這些技術有助於無縫擴展到數千個 Blackwell GPU,這對於處理要求嚴苛的生成式和代理式 AI 應用至關重要。精密的互連可確保 GPU 之間的低延遲通訊,從而提高整體系統效能。

Microsoft 的董事長兼 CEO Satya Nadella 和 NVIDIA 的創始人兼 CEO Jensen Huang 強調,他們的合作正在通過 Azure 上所有 NVIDIA 架構上的持續軟體優化來產生顯著的效能提升。這種方法旨在最大限度地提高開發人員的生產力,降低總體擁有成本,並加速所有工作負載,包括 AI 和數據處理。最終,這為客戶帶來更高的每美元和每瓦的效率。

通過 NIM 整合擴展功能

在 Azure AI Foundry 中基於 NIM 整合的基礎上,Microsoft 和 NVIDIA 正在使用 NVIDIA Llama Nemotron 系列開放推理模型和 NVIDIA BioNeMo NIM 微服務來擴展平台。它們旨在為複雜的決策和特定領域的 AI 工作負載提供企業級、容器化的推論。

開發人員現在可以利用優化的 NIM 微服務來在 Azure AI Foundry 中進行高級推理。其中包括 NVIDIA Llama Nemotron Super 和 Nano 模型,它們提供高級的多步驟推理、編碼和代理功能。與之前的模型相比,它們的準確性提高了 20%,推理速度提高了 5 倍,使開發人員能夠創建更精巧、更高效的 AI 應用程序。

專為醫療保健應用程序量身定制的 BioNeMo NIM 微服務可滿足數位生物學、藥物發現和醫學影像方面的關鍵需求。它們使研究人員和臨床醫生能夠加速蛋白質科學、分子建模和基因組分析,從而改善患者護理並加快科學創新。這些工具使醫療保健專業人員能夠做出更明智的決策並開發更有效的治療方法。

這種擴展的整合使組織能夠快速部署高性能 AI 代理。通過連接到這些模型和其他專用的醫療保健解決方案,組織可以實現強大的可靠性和簡化的擴展,從而滿足各個行業和應用程序的多樣化需求。

RTX AI PC 上的生成式 AI

生成式 AI 正在通過引入全新的體驗(從數位人到寫作助手、智慧代理和創意工具)來徹底改變 PC 軟體。NVIDIA RTX AI PC 有助於生成式 AI 的實驗,並提高 Windows 11 上的效能,從而使最先進的 AI 更廣泛地為人所用。

在 Microsoft Build 上,NVIDIA 和 Microsoft 推出了一款 AI 推論堆疊,旨在簡化開發並增強 Windows 11 PC 的推論效能。此工具集對於在個人電腦上實現無縫 AI 體驗至關重要,使 AI 工具更具響應性和效率。

NVIDIA TensorRT 專為 RTX AI PC 重新設計。它將 TensorRT 效能與即時、設備上的引擎建構以及小八倍的封裝尺寸相結合,從而實現將 AI 無縫部署到超過 1 億台 RTX AI PC。這種優化允許在 PC 上進行更快、更高效的 AI 處理,從而為新的應用程序和功能鋪平道路。

在 Microsoft Build 上發布的 TensorRT for RTX 由 Windows ML 原生支持 - 一種新的推論堆疊,可為應用程序開發人員提供廣泛的硬體兼容性和最先進的效能。TensorRT for RTX 今天在 Windows ML 預覽版中提供,並將於 6 月從 NVIDIA Developer 作為獨立軟體開發工具包提供。這種發展簡化了開發人員將 AI 功能整合到其 Windows 應用程序中的過程,從而確保 AI 可用於各種各樣的軟體解決方案。

本質上,NVIDIA 和 Microsoft 之間的合作正在創建一個協同生態系統,其中 AI 技術的進步正在迅速轉化為現實世界的應用程序,從中受益的研究人員、開發人員和最終用戶。這種合作夥伴關係在戰略上定位為保持其在快速發展的人工智能領域的領導地位。

進展的詳細分解

尖端技術

NVIDIA 和 Microsoft 之間的合作利用了多種尖端技術,以實現代理式 AI 方面的進展。在這裡,我們深入探討這些關鍵組件。

  • NVIDIA ALCHEMI NIM 微服務: 此微服務是一種專門的工具,經過優化,可用於化學模擬中的 AI 推論。其主要功能是通過準確的屬性預測和高效的候選推薦來加速材料科學研究。通過實現更快、更精確的模擬,它使研究人員能夠比傳統方法更快地識別有前景的材料。

  • NVIDIA BioNeMo NIM 微服務: 這些微服務提供預先訓練的 AI 工作流程,以加速藥物開發的 AI 模型開發。研究人員可以使用它們快速開發模型,以預測藥物療效和潛在的副作用,從而顯著加速新藥開發。

  • NVIDIA Blackwell GPU: 這些 GPU 在 Azure 數據中心的 AI 工作負載中提供增強的效能和效率。它們集成到機架級系統中,支持 OpenAI 等客戶順利有效地運行複雜的任務。

  • NVIDIA NVLink 互連: 這些高速互連線有助於確保 GPU 之間的低延遲通訊,從而顯著提高整體系統效能。其結果是更快的運算和更高的各種 AI 操作效率。

  • NVIDIA Quantum InfiniBand 網絡: 這支持無縫擴展到數千個 Blackwell GPU,這對於處理要求嚴苛的生成式和代理式 AI 工作負載至關重要。網絡功能可確保大規模 AI 模型可以有效地部署和管理。

  • NVIDIA Llama Nemotron 模型: NVIDIA Llama Nemotron Super 和 Nano 模型旨在提供高級的多步驟推理、編碼和代理功能。提高的準確性和更快的推論速度使開發人員能夠創建更精巧、更高效的 AI 應用程序。

對科學研究的影響

NVIDIA 的技術整合到 Microsoft 的平台中對多個學科的科學研究產生了深遠的影響。

  • 材料科學: NVIDIA ALCHEMI NIM 微服務有助於精確的屬性預測和候選推薦,從而可以更快地識別具有所需特徵的新材料。

  • 藥物發現: BioNeMo NIM 微服務加速了 AI 模型的開發,使研究人員能夠開發預測藥物療效和潛在副作用的模型。

  • 數據中心冷卻: Microsoft 使用 Microsoft Discovery 在不到 200 小時內檢測到一種新型冷卻劑原型,該原型非常適合數據中心的浸沒式冷卻,而不是傳統方法的數月或數年。這突出了科學發現的快速加速。

  • 蛋白質科學、分子建模和基因組分析: BioNeMo NIM 微服務能夠加速這些領域的發展。它們可以改善患者護理並加快科學創新。

Azure AI 基礎架構

Microsoft 的 Azure AI Foundry 及其數據中心代表了在創建運行 AI 工作負載的最佳環境方面的重大投資。

  • ND GB200 v6 虛擬機器: 與之前的 ND H100 v5 VM 相比,它們提供的推論輸送量最多高出 35 倍,為 AI 工作負載樹立了新的基準。

  • 自定義伺服器設計: 開發自定義伺服器設計以最大限度地提高效能和效率,使 Blackwell GPU 能夠以其全部潛力運行。

  • Azure 上的 NVIDIA 優化: Azure 上所有 NVIDIA 架構上的持續軟體優化最大限度地提高了開發人員的生產力,降低了總體擁有成本,並加速了所有工作負載,從而提高了客戶的每美元和每瓦的效率。

個人電腦上的生成式 AI

AI 技術的進步也正在進入個人電腦,從而推動了軟體應用程序和用戶體驗的新可能性。

  • NVIDIA RTX AI PC: 在 NVIDIA RTX AI PC 的協助下,簡化了生成式 AI 的實驗並提高了 Windows 11 上的效能。它們使最新的 AI 技術更容易為廣大用戶所用。

  • NVIDIA TensorRT: 此軟體開發工具包 (SDK) 已針對 RTX AI PC 進行了優化。它將高性能與小八倍的封裝尺寸相結合,從而實現了 AI 的無縫部署。這使開發人員可以更輕鬆地將 AI 功能整合到應用程序中。

  • Windows ML 支持: Windows ML 中對 TensorRT 的原生支持可確保廣泛的硬體兼容性和最先進的效能。這有助於將 AI 無縫整合到 Windows 應用程序中。

  • 新的用戶體驗: 從數位人到協作助手、智慧代理和創意工具 - 生成式 AI 正在重塑 PC 軟體並引入全新的體驗。用戶可以從更具互動性、智慧性和創造性的應用程序中受益。

戰略願景

NVIDIA 和 Microsoft 之間的合作建立在戰略願景之上,旨在引領各個領域 AI 技術的發展。共同的努力和技術旨在加速 AI 在不同領域的採用,不僅使研究人員和開發人員受益,而且使全球的最終用戶和組織受益。

  • 創新: 持續強調創新和合作加速了技術進步。這有助於在快速發展的領域保持領導地位。

  • 可訪問性: NVIDIA 和 Microsoft 正在通過優化的工具、與流行平台的整合以及成本效益的提高使開發人員和用戶可以訪問 AI,從而使 AI 大眾化。

  • 效能與效率: 專注於提高效能和成本效益可確保從個人研究人員到大型企業,廣大用戶都可以獲得 AI 技術的優勢。

  • 真正的應用程序: 通過將 AI 進展轉化為真正的解決方案,NVIDIA 和 Microsoft 正在推動有形的收益並改變全球各個行業。