NVIDIA 和 Google 之間的長期合作關係，是建立在共同推動人工智慧創新和賦能全球開發者社群的基礎之上的。這種合作不僅僅停留在基礎設施層面，而是深入到工程技術的各個方面，旨在優化整個計算堆疊。
合作所帶來的最新成果，包括對 JAX、OpenXLA、MaxText 和 llm-d 等社群軟體的重大貢獻。這些底層優化措施直接支持 Google 前沿的 Gemini 模型和 Gemma 系列開源模型的服務。
此外，經過性能優化的 NVIDIA AI 軟體，如 NVIDIA NeMo、NVIDIA TensorRT-LLM、NVIDIA Dynamo 和 NVIDIA NIM 微服務，已緊密集成到 Google Cloud 的各個平台，包括 Vertex AI、Google Kubernetes Engine (GKE) 和 Cloud Run，以加速性能並簡化 AI 部署。
Google Cloud 上線的 NVIDIA Blackwell
Google Cloud 率先提供了 NVIDIA HGX B200 和 NVIDIA GB200 NVL72，並將其集成到 A4 和 A4X 虛擬機器 (VM) 中。
這些搭載 Google Cloud AI Hypercomputer 架構的新型虛擬機器，可以通過 Vertex AI 和 GKE 等託管服務訪問，使組織能夠選擇合適的路徑來大規模開發和部署自主 AI 應用程式。由 NVIDIA HGX B200 加速的 Google Cloud A4 虛擬機器現已全面上市。
Google Cloud 的 A4X 虛擬機器每個機架可提供超過一百萬次浮點運算的計算能力，並支持通過 Google 的 Jupiter 網路結構和 NVIDIA ConnectX-7 NIC 實現的無縫擴展到數萬個 GPU。Google 的第三代液體冷卻基礎設施即使對於最大的 AI 工作負載，也能提供持續、高效的性能。
通過 Google Distributed Cloud 在本地部署 Google Gemini 和 NVIDIA Blackwell
Gemini 先進的推理能力已在為基於雲的自主 AI 應用程式提供支援。然而，一些在公共部門、醫療保健和金融服務領域的客戶，由於嚴格的資料駐留、監管或安全要求，一直無法利用這項技術。
隨著 NVIDIA Blackwell 平台進入 Google Distributed Cloud（Google Cloud 針對本地、氣隙環境和邊緣的全託管解决方案），各組織現在能夠在自己的資料中心內安全地部署 Gemini 模型，從而為這些客戶解鎖自主 AI。
NVIDIA Blackwell 將突破性的性能和機密計算能力獨特地結合在一起，確保用戶提示和微調資料受到保護。這使客戶能夠在保持對資訊的完全控制的同時，利用 Gemini 進行創新，從而滿足最高的隱私和合規性標準。Google Distributed Cloud 擴展了 Gemini 的覆蓋範圍，使比以往任何時候都多的組織能夠利用下一代自主 AI。
优化 Google Gemini 和 Gemma 的 AI 推理性能
Gemini 系列模型專為自主 AI 時代而設計，代表了 Google 迄今為止最先進、功能最全面的 AI 模型，擅長複雜的推理、編碼和多模式理解。
NVIDIA 和 Google 致力於性能優化，以確保基於 Gemini 的推理工作負載在 NVIDIA GPU 上高效運行，尤其是在 Google Cloud 的 Vertex AI 平台內。這使 Google 能夠在 Vertex AI 和 Google Distributed Cloud 上，使用 NVIDIA 加速的基礎設施來處理大量的 Gemini 模型用戶查詢。
此外，輕量級的 Gemma 系列開源模型已經過優化，可以使用 NVIDIA TensorRT-LLM 庫進行推理，並且有望作為易於部署的 NVIDIA NIM 微服務提供。這些優化措施最大限度地提高了性能，並使開發人員能夠更輕鬆地訪問高級 AI，以便在從資料中心到本地 NVIDIA RTX 驅動的 PC 和工作站的各種部署架構上運行其工作負載。
構建强大的開發者社群和生態系統
NVIDIA 和 Google Cloud 還在通過優化 JAX 等開源框架來支持開發者社群，從而在 Blackwell GPU 上實現無縫擴展和突破性性能，使 AI 工作負載能夠在數萬個節點上高效運行。
這種合作關係超越了技術層面，還推出了由 Google Cloud 和 NVIDIA 共同打造的全新開發者社群，匯集了專家和同行，以加速技能交叉和創新。
通過結合卓越的工程技術、開放源始碼領導地位和充滿活力的開發者生態系統，這兩家公司正在讓開發者比以往任何時候都更容易構建、擴展和部署下一代 AI 應用程式。
深入分析 NVIDIA 與 Google 合作的戰略意義
NVIDIA 與 Google 的合作不僅僅是一項技術聯盟，它代表著人工智慧領域戰略方向的重大轉變。以下是一些更深入的觀察，探討了這種合作關係的意義和未來影響：
1. 加速人工智慧創新：
NVIDIA 在 GPU 技術方面的領先地位與 Google 在人工智慧軟體和平台方面的專業知識相結合，形成了一種强大的協同效應，能够加速人工智慧創新的步伐。通過共同努力，這兩家公司正在突破人工智慧的界限，並為各行各業的新應用開闢道路。
2. 為開發者賦能：
NVIDIA 和 Google 致力於建立一個蓬勃發展的開發者生態系統。通過提供工具、資源和支持，讓開發者能够輕鬆構建、擴展和部署人工智慧應用程式。這種對賦能開發者的關注，將推動人工智慧的普及，並刺激廣泛的創新。
3. 釋放人工智慧的本地部署潜力：
通過 Google Distributed Cloud 將 NVIDIA Blackwell 平台引入本地部署環境，為企業打開了新的可能性。現在，那些由於資料駐留、法規或安全原因而無法使用基於雲的人工智慧解决方案的企業，可以在自己的資料中心內利用 Gemini 模型的强大功能。
4. 優化人工智慧推理性能：
在 NVIDIA GPU 上優化 Gemini 和 Gemma 模型的推理性能，對於確保人工智慧應用程式能够高效且經濟地運行至關重要。NVIDIA 和 Google 之間的合作關係使他們能够提高推理性能，並降低人工智慧部署的成本。
5. 推進開放源始碼人工智慧的發展：
NVIDIA 和 Google 共同支持 JAX 等開放源始碼框架，並致力於開放源始碼人工智慧的發展。這種對開放源始碼的承諾，促進了社群中的協作和創新，並確保人工智慧技術能够更廣泛地被訪問和利用。
6. 塑造人工智慧的未來：
NVIDIA 和 Google 的合作關係正在塑造人工智慧的未來。通過共同努力，這兩家公司正在定義人工智慧技術的發展方向，並為各行各業的人工智慧應用設定新的標準。
NVIDIA 與 Google 合作的具體技術細節
以下將進一步探討 NVIDIA 與 Google 合作背後的一些具體技術細節，從而更加深入地瞭解合作的深度和廣度：
1. NVIDIA Blackwell GPU：
NVIDIA Blackwell GPU 是 NVIDIA 最新的 GPU 架構，專為滿足人工智慧和高性能計算工作負載的需求而設計。Blackwell GPU 具有突破性的性能、更大的記憶體容量和先進的功能，例如機密計算。
2. Google Gemini 模型：
Gemini 模型是 Google 迄今為止最先進和功能最全面的人工智慧模型。Gemini 模型具有卓越的推理能力、多模式理解和代碼生成能力。
3. NVIDIA TensorRT-LLM：
NVIDIA TensorRT-LLM 是一個庫，可優化大型語言模型（LLM）在 NVIDIA GPU 上的推理性能。TensorRT-LLM 可幫助開發者部署性能更高、效率更高的人工智慧應用程式。
4. NVIDIA NIM 微服務：
NVIDIA NIM 微服務是一組容器化的軟體組件，可簡化人工智慧應用程式的部署和管理。NIM 微服務可幫助開發者運行人工智慧工作負載，包括資料中心和本地 NVIDIA RTX 驅動的 PC 和工作站。
5. Google Vertex AI：
Google Vertex AI 是一個平台，為構建、部署和管理機器學習模型提供了一整套工具和服務。Vertex AI 可簡化人工智慧開發流程，並幫助企業更快地實現人工智慧。
6. Google Distributed Cloud：
Google Distributed Cloud 是一種解决方案，允許企業在本地或邊緣環境中運行 Google Cloud 服務。Distributed Cloud 使企業能够在滿足監管和資料駐留要求的同时，利用 Google Cloud 的創新技術。
合作對各行業的潛在影響
NVIDIA 與 Google 之間的合作對包括醫療保健、金融服務、製造業和娛樂業在內的各行各業都具有深遠的影響。 以下是一些示例，说明這種合作在不同行業中可以帶來什麼：
1. 醫療保健：
- 改善診斷：人工智慧可以分析醫學圖像，例如 X 光片和 MRI，以在早期階段檢測疾病。
- 個性化治療：人工智慧可以根據患者的基因組、生活方式和病史定制治療計畫。
- 加速藥物研發：人工智慧可以識別潛在的藥物靶點並預測藥物的療效。
2. 金融服務：
- 欺詐檢測：人工智慧可以識別欺詐交易並防止金融犯罪。
- 風險評估：人工智慧可以評估信貸風險並做出更明智的貸款決策。
- 客戶服務：人工智慧可以為客戶提供個性化的支持和建議。
3. 製造業：
- 預測性維護：人工智慧可以預測設備故障並在發生故障之前進行維護。
- 品質控制：人工智慧可以檢測產品缺陷並提高製造品質。
- 優化生產：人工智慧可以優化生產流程並降低成本。
4. 娛樂業：
- 內容創作：人工智慧可以生成逼真的圖像、視頻和音訊。
- 個性化媒體：人工智慧可以根據用戶的興趣推薦媒體內容。
- 遊戲：人工智慧可以創建更智能、更逼真的遊戲角色。
總之，NVIDIA 與 Google 之間的合作關係正在推動人工智慧創新，賦能開發者，並為各行各業創造新的可能性。通過結合他們的優勢，這兩家公司都在塑造人工智慧的未來，並使人工智慧技術能够更廣泛地被訪問和利用。