AMD Ryzen™ AI MAX+ 395:超薄筆電 AI 新定義

創新動力

Ryzen AI MAX+ 395 建立於尖端技術的基礎之上。它採用 ‘Zen 5’ CPU 核心、強大的 XDNA 2 NPU(擁有超過 50 個峰值 AI TOPS),以及由 40 個 AMD RDNA 3.5 運算單元驅動的大型整合式 GPU。這種高性能組件的結合,在輕薄設計的限制下,實現了前所未有的處理能力。Ryzen AI Max+ 395 提供從 32 GB 到 128 GB 的統一記憶體配置。一個關鍵特性是 AMD 的可變圖形記憶體 (Variable Graphics Memory),它可以將大量的統一記憶體(最多 96GB)轉換為 VRAM。

本地 AI:未來就在眼前

Ryzen AI MAX+ 395 最引人注目的方面之一,是它能夠以卓越的效率處理要求嚴苛的消費者 AI 工作負載。一個典型的例子是它在 LM Studio 中的表現,LM Studio 是一個用戶友好的應用程式,允許任何人於本地運行最新的語言模型,而無需專業的技術知識。這為用戶打開了一個充滿可能性的世界,讓他們可以直接在筆記型電腦上與尖端的 AI 文字和視覺模型互動。憑藉 ‘Strix Halo’ 平台,AMD 鞏固了在這一領域的領導地位,使用戶能夠以先前在此類精巧設備中難以想像的方式體驗 AI。

記憶體:打破瓶頸

許多輕薄型筆記型電腦中的競爭處理器都受到其封裝記憶體容量的限制,通常最大為 32GB。雖然這可能足以運行一些大型語言模型 (LLM),但對於要求更高的 AI 應用程式來說,這會造成嚴重的瓶頸。然而,Ryzen AI MAX+ 395 打破了這一障礙。

基準測試卓越:真實世界效能

為了真正了解 Ryzen AI MAX+ 395 的效能優勢,請考慮使用配備 64GB 統一記憶體的 ASUS ROG Flow Z13 進行的真實世界基準測試。為了確保與通常提供 32GB 筆記型電腦的競爭對手進行公平比較,LLM 大小被限制在適合 16GB 佔用空間的模型。

結果令人震驚:

  • Token 吞吐量: 配備 Ryzen AI MAX+ 395 的 ASUS ROG Flow Z13,其 token 吞吐量是配備 Intel Arc 140V 的筆記型電腦的 2.2 倍。這種效能提升在各種模型類型和參數大小上保持了顯著的一致性。

  • 首個 Token 時間: 此指標對於衡量 AI 模型的響應速度至關重要。Ryzen AI MAX+ 395 表現出顯著優勢,在 Llama 3.2 3b Instruct 等較小模型中,速度比競爭對手快 4 倍。

  • 隨模型大小擴展: 隨著 LLM 大小的增加,效能差距會進一步擴大。對於 70 億和 80 億參數模型,例如 DeepSeek R1 Distill Qwen 7b 和 DeepSeek R1 Distill Llama 8b,Ryzen AI MAX+ 395 的速度提高了 9.1 倍。在處理 140 億參數模型時,ASUS ROG Flow Z13 的速度比搭載 Intel Core Ultra 258V 的筆記型電腦快了驚人的 12.2 倍 – 超過一個數量級的差異。

這表明了一個明顯的趨勢:LLM 越大,Ryzen AI MAX+ 395 的效能優勢就越明顯。無論是與模型進行對話交流,還是為其分配涉及數千個 token 的複雜摘要任務,AMD 驅動的機器都能提供明顯更快、更靈敏的體驗。優勢與提示長度成正比,這意味著任務要求越高,效益就越大。

超越文字:擁抱多模態 AI

AI 的演進正在超越純文字 LLM。結合視覺適配器和視覺推理能力的高度強大的多模態模型的興起,正在改變格局。例子包括 IBM Granite Vision 和最近推出的 Google Gemma 3 系列模型,兩者都為下一代 AMD AI PC 提供了先進的視覺功能。這些模型在 Ryzen AI MAX+ 395 處理器上運行得非常好。

在使用視覺模型時,’首個 token 時間’ 指標有效地表示模型分析輸入圖像所需的時間。Ryzen AI MAX+ 395 在這方面提供了令人印象深刻的效能改進:

  • 在 IBM Granite Vision 3.2 3b 中速度提升高達 7 倍。
  • 在 Google Gemma 3 4b 中速度提升高達 4.6 倍。
  • 在 Google Gemma 3 12b 中速度提升高達 6 倍。

此外,ASUS ROG Flow Z13 的 64GB 記憶體選項使其能夠輕鬆運行 Google Gemma 3 27B Vision 模型,該模型被廣泛認為是目前最先進的 (SOTA) 視覺模型。

實際應用:使用 AI 進行編碼

另一個引人注目的例子是以 6 位元精度運行 DeepSeek R1 Distill Qwen 32b 模型。此配置使用戶能夠在非常短的時間內(大約 5 分鐘)編寫一個經典遊戲,展示了 AI 驅動開發的實際潛力。

優化 LLM 效能

為了最大限度地提高 LLM 在 AMD Ryzen AI 300 系列處理器上的效能,建議採取以下幾個關鍵步驟:

  1. 驅動程式更新: 確保您使用的是最新的 AMD Software: Adrenalin Edition 驅動程式。

  2. 可變圖形記憶體 (VGM): 配備這些處理器的 AMD 筆記型電腦具有 VGM。強烈建議為 LLM 工作負載啟用 VGM,特別是將其設置為 ‘High’。這有助於提高 token 吞吐量並允許更大的模型高效運行。可以通過 AMD Software: Adrenalin Edition 中的 ‘效能’ > ‘調整’ 選項卡訪問 VGM 選項。

  3. 手動參數選擇: 運行 LLM 時,選擇 ‘手動選擇參數’ 並將 GPU Offload 設置為 ‘MAX’。

  4. 量化: AMD 建議日常使用 Q4 K M 量化,編碼任務使用 Q6 或 Q8。

行動 AI 的新時代

AMD Ryzen AI MAX+ 395 處理器代表了輕薄筆記型電腦功能的典範轉移。通過將尖端硬體與智慧軟體優化相結合,AMD 創建了一個平台,使用戶能夠以可攜式、強大且用戶友好的方式體驗最先進的 AI 模型。這款處理器不僅僅是更快的速度;它還關乎開啟行動 AI 體驗的新時代,用戶可以無縫地與高級 AI 模型互動,以執行各種任務,從創意工作到複雜的問題解決。Ryzen AI MAX+ 395 真正重新定義了輕薄外形規格的可能性,模糊了可攜性與高性能計算之間的界限。能夠在本地運行強大的 AI 模型(曾經僅限於桌上型電腦系統或雲端服務),為移動中的創新和生產力開闢了前所未有的機會。無論是遊戲、內容創作還是日常生產力,這款晶片都是遊戲規則的改變者。