重新定義輕薄筆電的效能
AMD 近期發表的 Ryzen AI MAX+ 395 處理器 (代號 ‘Strix Halo’),標誌著輕薄筆電性能的重大躍進。這款全新的 x86 APU 並非僅僅是漸進式的升級,而是一次巨大的飛躍,尤其是在 AI 處理領域,AMD 宣稱其在此領域大幅領先競爭對手。
Ryzen AI MAX+ 395 建立在尖端技術的基礎之上。其核心採用 AMD 的 ‘Zen 5’ CPU 架構,提供強大且高效的處理基礎。然而,真正的創新在於整合了 XDNA 2 神經處理單元 (NPU),擁有超過 50 TOPS (每秒兆次運算) 的峰值 AI 算力。這個專用的 AI 引擎,結合基於 AMD RDNA 3.5 架構的整合式 GPU (具有 40 個運算單元),徹底改變了高階輕薄筆電的潛力。
這種強大的組合允許前所未有的記憶體配置,從 32GB 到驚人的 128GB 統一記憶體。其中一個關鍵功能是 AMD Variable Graphics Memory (VGM),它允許將高達 96GB 的統一記憶體動態分配為 VRAM。這種靈活性對於處理要求嚴苛的 AI 工作負載至關重要,因為這些工作負載通常需要大量的記憶體資源。
將 AI 帶給消費者:本地 LLM 的力量
AMD 的重點不僅僅是原始處理能力,更在於讓使用者能夠在實際的日常應用中利用 AI 的潛力。一個主要的例子是支援由 llama.cpp 驅動的應用程式,例如 LM Studio。這個軟體充當一個閘道,讓使用者能夠直接在筆記型電腦上執行大型語言模型 (LLM),而無需專業的技術知識。這種 AI 技術的普及化為使用者提供了輕鬆實驗和部署新的 AI 文字和視覺模型的可能性。
基準測試的優勢:實際效能提升
AMD 的內部基準測試描繪了 Ryzen AI MAX+ 395 處理器能力的引人注目的畫面。測試是在配備 64GB 統一記憶體和整合式 Radeon 8060S GPU 的 ASUS ROG Flow Z13 筆記型電腦上進行的。結果顯示,與配備 Intel Arc 140V 顯示卡的筆記型電腦相比,Ryzen AI MAX+ 395 具有顯著的效能優勢。
在詞元吞吐量 (衡量 LLM 生成文字的速度) 方面,Ryzen AI MAX+ 395 展現出高達 2.2 倍的提升。這些測試經過精心設計,以確保與競爭對手的筆記型電腦相容,重點關注可在 16GB 記憶體佔用 (對於具有 32GB 封裝記憶體的筆記型電腦而言很常見) 內運作的 LLM。
這種效能優勢不僅限於特定模型類型。它在各種 LLM 中保持一致,包括:
- 思維鏈模型: 例如 DeepSeek R1 Distills。
- 標準模型: 例如 Microsoft Phi 4。
- 各種參數大小: 展現了跨不同模型複雜性的多功能性。
重新定義反應速度:首次詞元生成時間
除了原始吞吐量之外,AI 模型的 反應速度 對於流暢和互動的使用者體驗至關重要。這就是「首次詞元生成時間」指標發揮作用的地方,它表示模型在接收輸入後開始產生輸出的速度。
Ryzen AI MAX+ 395 在這方面展現出更顯著的提升:
- 較小的模型 (例如 Llama 3.2 3b Instruct): 比競爭對手快四倍。
- 較大的 70 億和 80 億參數模型 (例如 DeepSeek R1 Distill Qwen 7b、DeepSeek R1 Distill Llama 8b): 速度提升高達 9.1 倍。
- 140 億參數模型: 據報導,搭載 Ryzen AI MAX+ 395 的 ASUS ROG Flow Z13 比搭載 Intel Core Ultra 258V 處理器的筆記型電腦快了驚人的 12.2 倍。
這些數字突顯了筆記型電腦上 AI 模型互動能力的重大飛躍,實現了近乎即時的回應和更流暢的使用者體驗。
超越文字:釋放多模態 AI 的力量
Ryzen AI MAX+ 395 的能力不僅限於基於文字的 LLM。它還擅長處理多模態模型,這些模型除了文字處理之外還結合了視覺功能。這些模型可以分析圖像並根據其視覺內容提供回應,開啟了一系列新的應用。
AMD 展示了該處理器在以下模型上的效能數據:
- IBM GraniteVision: 在 IBM Granite Vision 3.2 3b 中速度提升高達七倍。
- Google Gemma 3: 在 Google Gemma 3 4b 中速度提升高達 4.6 倍,在 Google Gemma 3 12b 中速度提升高達六倍。
值得注意的是,配備 64GB 記憶體的 ASUS ROG Flow Z13 甚至能夠執行更大的 Google Gemma 3 27B Vision 模型,展示了該平台處理最嚴苛的多模態工作負載的能力。
實際應用:從醫學診斷到程式碼生成
這些進步的實際影響是深遠的。一項示範展示了視覺模型在醫學診斷中的潛力,其中一個模型分析了標準 CT 掃描圖像,識別了器官,並提供了診斷。這突顯了 AI 協助醫療專業人員做出更快、更準確評估的潛力。
另一個引人注目的應用是程式碼生成。AMD 展示了執行大型語言模型 (如 DeepSeek R1 Distill Qwen 32b (6 位元精度)) 的能力,可以在極短的時間內編寫像 Pong 這樣的簡單遊戲。這展示了 AI 加速軟體開發並為開發人員提供強大編碼輔助工具的潛力。
優化效能:釋放全部潛力
為了在配備 Ryzen AI 300 系列處理器的筆記型電腦上實現 LLM 工作負載的最佳效能,AMD 提供了具體建議:
- 驅動程式更新: 確保安裝了最新的 AMD Software: Adrenalin Edition 驅動程式。此驅動程式對於啟用最新功能和優化至關重要。
- Variable Graphics Memory (VGM): 啟用 VGM 並將其設定為 ‘High’。這允許系統動態分配記憶體給整合式顯示卡,提高詞元吞吐量並支援使用更大的 AI 模型。
- LM Studio 設定: 在 LM Studio 中,手動選擇參數並將 ‘GPU Offload’ 設定為 ‘MAX’。這確保 GPU 完全用於 AI 處理。
- 量化:
- 對於一般用途,AMD 建議使用 Q4 K M 量化。
- 對於編碼任務,建議使用 Q6 或 Q8 量化。
透過遵循這些建議,使用者可以釋放其 Ryzen AI 驅動筆記型電腦的全部潛力,並體驗先進 AI 模型的變革力量。
AI 未來的平台
從本質上講,AMD Ryzen AI MAX+ 395 處理器不僅僅代表效能升級。它是一個平台,讓使用者能夠在便攜且易於使用的外形尺寸中體驗最先進的 AI 技術。無論是用於遊戲、生產力還是探索快速發展的 AI 世界,這款處理器都旨在重新定義輕薄筆記型電腦的可能性。它開啟了通往新可能性的大門,讓使用者能夠以以前在此類便攜式設備上難以想像的方式與 AI 模型互動。對使用者友善性的關注,加上原始處理能力,使 Ryzen AI MAX+ 395 成為邁向 AI 無縫融入我們日常生活的未來的重要一步。