AMD Ryzen AI MAX+ 395:超薄本AI新标杆

AMD Ryzen™ AI MAX+ 395 处理器:重新定义超薄笔记本电脑中的 AI 性能

AMD 推出的 Ryzen AI MAX+ 395 处理器标志着轻薄型笔记本电脑性能的范式转变。这款新型处理器提供了无与伦比的性能提升,专门针对人工智能应用这一新兴领域量身定制。通过利用尖端的 ‘Zen 5’ CPU 核心、强大的峰值 50+ AI TOPS 的 XDNA 2 NPU,以及由 40 个 AMD RDNA 3.5 计算单元驱动的极其强大的集成 GPU,Ryzen AI MAX+ 395 将高端轻薄笔记本电脑的外形尺寸提升到了前所未有的高度。此外,该处理器提供从 32GB 到高达 128GB 的统一内存选项,并且可以通过 AMD 创新的可变图形内存技术灵活地分配高达 96GB 作为 VRAM。

通过 LM Studio 释放 AI 潜力

Ryzen AI Max+ 395 在要求苛刻的消费者 AI 工作负载中真正大放异彩,其在 LM Studio(一个基于 llama.cpp 的应用程序)中的卓越性能就是例证。LM Studio 正在成为客户端大型语言模型 (LLM) 操作的首选平台,它使用户能够在本地运行最新的语言模型,而无需专门的技术知识。这种易用性使得在第一天部署新的 AI 文本和视觉模型变得非常简单。

‘Strix Halo’ 平台采用 AMD Ryzen AI MAX+ 系列处理器,显著扩展了 AMD 在 LM Studio 环境中的性能领先地位。

该领域中的许多竞争处理器仅限于 32GB 的封装内存。虽然此容量通常足以运行大小约为 16GB 的大型语言模型,但 Ryzen AI MAX+ 395 超越了这些限制,在处理更大、更复杂的模型方面提供了实质性的优势。

基准测试优势:文本和视觉语言模型

LM Studio 内的严格基准测试揭示了 AMD Ryzen AI MAX+ 395 的强大功能。当与 ASUS ROG Flow Z13 等设备配对时,该处理器的令牌吞吐量可达 Intel Arc 140V 的 2.2 倍。这种显著的性能提升并非个例;它在各种模型类型和参数大小上保持着惊人的一致性。

在首个令牌生成时间这一关键指标上,AMD Ryzen AI MAX+ 395 处理器展示了更令人印象深刻的优势。在处理较小的模型(例如 Llama 3.2 3b Instruct)时,它的速度比竞争对手快 4 倍

随着模型变大,性能优势急剧上升。在处理 70 亿和 80 亿参数模型(如 DeepSeek R1 Distill Qwen 7b 和 DeepSeek R1 Distill Llama 8b)时,Ryzen AI Max+ 395 的速度飙升至惊人的 9.1 倍。对于 140 亿参数模型,由 Ryzen AI Max+ 395 驱动的 ASUS ROG Flow Z13 实现了无与伦比的 12.2 倍于配备 Intel Core Ultra 258V 的笔记本电脑的性能——差异超过一个数量级!

相关性很明显:LLM 越大,AMD Ryzen AI Max+ 395 处理器在响应用户查询方面的速度优势就越明显。无论是与模型进行交互式对话,还是分配涉及数千个令牌的复杂摘要任务,AMD 驱动的机器都能提供明显更快的响应时间。这种优势与提示的长度成比例地扩展,这意味着任务要求越高,性能优势就越显著。

拥抱多模态 AI:视觉能力

AI 的发展正在迅速超越纯文本 LLM。越来越多的功能强大的多模态模型正在出现,它们集成了视觉适配器和视觉推理能力。IBM Granite Vision 和最近推出的 Google Gemma 3 系列模型就是很好的例子,它们都提供了先进的视觉功能,这些功能与下一代 AMD AI PC 无缝集成。这些模型在由 AMD Ryzen AI MAX+ 395 处理器驱动的系统上表现出卓越的性能。

在视觉模型的上下文中,首个令牌生成时间指标有效地表示模型分析所提供图像所需的时间。

在这里,Ryzen AI Max+ 395 处理器再次展示了其领先地位。它在 IBM Granite Vision 3.2 3b 中速度快 7 倍,在 Google Gemma 3 4b 中速度快 4.6 倍,在 Google Gemma 3 12b 中速度快 6 倍。配备 64GB 内存选项的 ASUS ROG Flow Z13 甚至可以轻松处理 Google Gemma 3 27B Vision 模型,该模型目前被认为是业界领先 (SOTA) 的视觉模型。

另一个引人注目的演示涉及以 6 位精度运行 DeepSeek R1 Distill Qwen 32b。此配置使用户能够在非常短的时间内(大约 5 分钟)编写一个经典游戏。

优化 LLM 性能的设置

为了充分利用 AMD Ryzen AI MAX+ 395 处理器在 LLM 工作负载方面的潜力,确保您的系统运行最新的 AMD Software: Adrenalin Edition 驱动程序至关重要。由 AMD Ryzen AI 300 系列处理器驱动的 AMD 笔记本电脑具有可变图形内存 (VGM)。AMD 强烈建议为所有 LLM 工作负载启用 VGM,以提高令牌吞吐量并促进更大模型的执行。建议使用 ‘High’ VGM 设置以获得最佳性能。VGM 选项可通过 AMD Software: Adrenalin Edition 中的 ‘Performance’ > ‘Tuning’ 选项卡访问。

运行 LLM 时,还必须选中 ‘manually select parameters’ 选项并将 GPU Offload 设置为 ‘MAX’。AMD 建议日常使用 Q4 K M 量化,编码任务使用 Q6 或 Q8 量化。

AI 的未来触手可及

在由 AMD Ryzen AI MAX+ 395 处理器驱动的笔记本电脑上本地体验 AI,为高级用户提供了一个独特的机会,让他们可以接触到最前沿的 AI 模型,同时保持轻薄外形的便携性和多功能性。这种强大功能和便携性的结合使这些设备成为游戏和生产力的理想选择,为移动计算树立了新标准。Ryzen AI MAX +395 不仅仅是一个处理器;它是通往 AI 驱动体验新时代的大门,随时可用且非常便携。它使复杂的操作变得轻松,并为用户应该期望的内容设定了新标准。