AMD Ryzen™ AI MAX+ 395 處理器：重新定義超薄筆電中的 AI 效能
AMD 推出的 Ryzen AI MAX+ 395 處理器標誌著輕薄筆電能力的一個典範轉移。這款全新處理器提供了無與倫比的效能提升，特別為蓬勃發展的人工智慧應用領域量身打造。Ryzen AI MAX+ 395 憑藉尖端的 ‘Zen 5’ CPU 核心、強大的 50+ peak AI TOPS XDNA 2 NPU，以及由 40 個 AMD RDNA 3.5 Compute Units 驅動的極其強大的整合式 GPU，將頂級輕薄筆電的外形規格提升到前所未有的高度。此外，這款處理器提供從 32GB 到高達 128GB 的統一記憶體選項，並可透過 AMD 創新的 Variable Graphics Memory 技術靈活地分配高達 96GB 作為 VRAM。
透過 LM Studio 釋放 AI 潛力
Ryzen AI Max+ 395 在要求嚴苛的消費者 AI 工作負載中真正大放異彩，其在 LM Studio（一款由 llama.cpp 驅動的應用程式）中的卓越表現就是例證。LM Studio 作為客戶端大型語言模型 (LLM) 操作的首選平台，使用戶能夠在本地運行最新的語言模型，而無需專業的技術知識。這種易用性使得在第一天部署新的 AI 文字和視覺模型變得非常簡單。
‘Strix Halo’ 平台採用 AMD Ryzen AI MAX+ 系列處理器，顯著擴展了 AMD 在 LM Studio 環境中的效能領先地位。
該領域的許多競爭處理器僅限於 32GB 的封裝記憶體。雖然此容量通常足以運行大小約為 16GB 的大型語言模型，但 Ryzen AI MAX+ 395 超越了這些限制，在處理更大、更複雜的模型方面提供了實質性的優勢。
基準測試優勢：文字和視覺語言模型
在 LM Studio 中進行的嚴格基準測試揭示了 AMD Ryzen AI MAX+ 395 的強大效能。當與 ASUS ROG Flow Z13 等裝置搭配使用時，該處理器的 token 吞吐量可達 Intel Arc 140V 的 2.2 倍。這種顯著的效能提升並非個例；它在各種模型類型和參數大小上都保持著驚人的一致性。
在首個 token 生成時間 (time-to-first-token) 這一關鍵指標上，AMD Ryzen AI MAX+ 395 處理器展現出更令人印象深刻的優勢。在處理較小的模型（例如 Llama 3.2 3b Instruct）時，它的速度比競爭對手快 4 倍。
隨著模型變大，效能優勢急劇上升。在處理 70 億和 80 億參數模型（例如 DeepSeek R1 Distill Qwen 7b 和 DeepSeek R1 Distill Llama 8b）時，Ryzen AI Max+ 395 的速度飆升至驚人的 9.1 倍。對於 140 億參數模型，由 Ryzen AI Max+ 395 驅動的 ASUS ROG Flow Z13 實現了無與倫比的 12.2 倍 效能，比配備 Intel Core Ultra 258V 的筆記型電腦快了一個數量級以上！
相關性很明顯：LLM 越大，AMD Ryzen AI Max+ 395 處理器在回應使用者查詢時的速度優勢就越明顯。無論是與模型進行互動對話，還是分配涉及數千個 token 的複雜摘要任務，AMD 驅動的機器都能提供明顯更快的響應時間。這種優勢與提示的長度成正比，這意味著任務越苛刻，效能優勢就越大。
擁抱多模態 AI：視覺能力
AI 的發展正迅速超越純文字 LLM。越來越多的高性能多模態模型正在出現，這些模型結合了視覺適配器和視覺推理能力。IBM Granite Vision 和最近推出的 Google Gemma 3 系列模型就是很好的例子，它們都提供了先進的視覺功能，並與下一代 AMD AI PC 無縫整合。這些模型在由 AMD Ryzen AI MAX+ 395 處理器驅動的系統上表現出卓越的效能。
在視覺模型的背景下，首個 token 生成時間指標有效地代表了模型分析所提供圖像所需的時間。
Ryzen AI Max+ 395 處理器再次展現出領先地位。它在 IBM Granite Vision 3.2 3b 中速度快了 7 倍，在 Google Gemma 3 4b 中速度快了 4.6 倍，在 Google Gemma 3 12b 中速度快了 6 倍。配備 64GB 記憶體選項的 ASUS ROG Flow Z13 甚至可以輕鬆處理 Google Gemma 3 27B Vision 模型，該模型目前被認為是最先進的 (SOTA) 視覺模型。
另一個引人注目的演示涉及以 6 位元精度運行 DeepSeek R1 Distill Qwen 32b。此配置使用戶能夠在非常短的時間內（大約 5 分鐘）編寫出一個經典遊戲。
優化 LLM 效能的設定
為了充分利用 AMD Ryzen AI MAX+ 395 處理器在 LLM 工作負載方面的潛力，確保您的系統運行最新的 AMD Software: Adrenalin Edition 驅動程式至關重要。由 AMD Ryzen AI 300 系列處理器驅動的 AMD 筆記型電腦具有 Variable Graphics Memory (VGM)。AMD 強烈建議為所有 LLM 工作負載啟用 VGM，以提高 token 吞吐量並促進更大模型的執行。建議使用 ‘High’ VGM 設定以獲得最佳效能。VGM 選項可透過 AMD Software: Adrenalin Edition 中的 Performance > Tuning 選項卡進行存取。
運行 LLM 時，還必須勾選 ‘manually select parameters’ 選項，並將 GPU Offload 設定為 ‘MAX’。AMD 建議日常使用 Q4 K M 量化，編碼任務使用 Q6 或 Q8 量化。
AI 的未來在於行動
在由 AMD Ryzen AI MAX+ 395 處理器驅動的筆記型電腦上本地體驗 AI，為進階使用者提供了一個獨特的機會，讓他們能夠使用尖端的 AI 模型，同時保持輕薄外形的便攜性和多功能性。這種強大功能和便攜性的結合使這些裝置成為遊戲和生產力的理想選擇，為行動運算樹立了新標準。Ryzen AI MAX +395 不僅僅是一個處理器；它是通往 AI 驅動體驗新時代的大門，隨時可用且極其便攜。它使複雜的操作變得輕鬆，並為使用者應該期望的內容設定了新標準。