重新定义轻薄笔记本电脑的性能
AMD 最近发布的 Ryzen AI MAX+ 395 处理器(代号’Strix Halo’)标志着轻薄笔记本电脑性能的显著提升。这款全新的 x86 APU 不仅仅是渐进式升级,而是一次实质性的飞跃,特别是在 AI 处理领域,AMD 声称其在该领域领先于竞争对手。
Ryzen AI MAX+ 395 建立在尖端技术的基础之上。其核心是 AMD 的’Zen 5’CPU 核心,提供强大而高效的处理基础。然而,真正的创新在于集成了 XDNA 2 神经处理单元 (NPU),拥有超过 50 AI TOPS(每秒万亿次运算)的峰值算力。这款专用的 AI 引擎,结合基于 AMD RDNA 3.5 架构的集成 GPU(具有 40 个计算单元),改变了高端轻薄笔记本电脑的潜力。
这种强大的组合允许前所未有的内存配置,从 32GB 到惊人的 128GB 统一内存。一个关键特性,AMD 可变图形内存 (VGM),允许将高达 96GB 的统一内存动态分配为 VRAM。这种灵活性对于处理要求苛刻的 AI 工作负载至关重要,这些工作负载通常需要大量的内存资源。
将 AI 带给消费者:本地 LLM 的力量
AMD 的关注点不仅仅是原始处理能力;它还致力于让用户能够在实际的日常应用中利用 AI 的潜力。一个典型的例子是支持由 llama.cpp 驱动的应用程序,如 LM Studio。该软件充当网关,使用户能够直接在笔记本电脑上运行大型语言模型 (LLM),而无需专门的技术知识。这种 AI 技术的普及为用户提供了轻松试验和部署新的 AI 文本和视觉模型的可能性。
基准测试优势:实际性能提升
AMD 的内部基准测试描绘了 Ryzen AI MAX+ 395 性能的引人注目的画面。测试是在配备 64GB 统一内存和集成 Radeon 8060S GPU 的 ASUS ROG Flow Z13 笔记本电脑上进行的。结果显示,与配备 Intel Arc 140V 显卡的笔记本电脑相比,Ryzen AI MAX+ 395 具有显著的性能优势。
在令牌吞吐量(衡量 LLM 生成文本的速度)方面,Ryzen AI MAX+ 395 表现出高达 2.2 倍的提升。这些测试经过精心设计,以确保与竞争对手的笔记本电脑兼容,重点关注可在 16GB 内存占用空间(对于具有 32GB 板载内存的笔记本电脑很常见)内运行的 LLM。
这种性能优势不仅限于特定的模型类型。它在一系列 LLM 中保持一致,包括:
- 思维链模型: 如 DeepSeek R1 Distills。
- 标准模型: 如 Microsoft Phi 4。
- 各种参数大小: 展示了跨不同模型复杂性的多功能性。
重新定义响应速度:首次令牌生成时间
除了原始吞吐量之外,AI 模型的响应能力对于流畅和交互式的用户体验至关重要。这就是“首次令牌生成时间”指标发挥作用的地方,它表示模型在接收输入后开始生成输出的速度。
Ryzen AI MAX+ 395 在这方面表现出更显著的提升:
- 较小的模型(例如,Llama 3.2 3b Instruct): 比竞争对手快四倍。
- 较大的 70 亿和 80 亿参数模型(例如,DeepSeek R1 Distill Qwen 7b、DeepSeek R1 Distill Llama 8b): 速度提升高达 9.1 倍。
- 140 亿参数模型: 据报道,由 Ryzen AI MAX+ 395 驱动的 ASUS ROG Flow Z13 比配备 Intel Core Ultra 258V 处理器的笔记本电脑快 12.2 倍。
这些数据突出了笔记本电脑上 AI 模型交互能力的显著飞跃,实现了近乎瞬时的响应和更流畅的用户体验。
超越文本:释放多模态 AI 的力量
Ryzen AI MAX+ 395 的功能不仅限于基于文本的 LLM。它还擅长处理多模态模型,这些模型将视觉功能与文本处理相结合。这些模型可以分析图像并根据其视觉内容提供响应,从而开辟了一系列新的应用。
AMD 展示的数据展示了该处理器在以下模型上的性能:
- IBM Granite Vision: 在 IBM Granite Vision 3.2 3b 中速度提升高达 7 倍。
- Google Gemma 3: 在 Google Gemma 3 4b 中速度提升高达 4.6 倍,在 Google Gemma 3 12b 中速度提升高达 6 倍。
值得注意的是,配备 64GB 内存的 ASUS ROG Flow Z13 甚至能够运行更大的 Google Gemma 3 27B Vision 模型,这表明该平台能够处理要求最苛刻的多模态工作负载。
实际应用:从医学诊断到代码生成
这些进步的实际意义是深远的。一个演示展示了视觉模型在医学诊断中的潜力,其中一个模型分析了库存的 CT 扫描图像,识别了器官,并提供了诊断。这突出了 AI 协助医疗保健专业人员进行更快、更准确评估的潜力。
另一个引人注目的应用是代码生成。AMD 演示了运行大型语言模型(如 DeepSeek R1 Distill Qwen 32b(6 位精度))的能力,可以在极短的时间内编写像 Pong 这样的简单游戏。这展示了 AI 加速软件开发并为开发人员提供强大的编码辅助工具的潜力。
优化性能:释放全部潜力
为了在使用 Ryzen AI 300 系列处理器的笔记本电脑上实现 LLM 工作负载的最佳性能,AMD 提供了具体建议:
- 驱动程序更新: 确保安装了最新的 AMD Software: Adrenalin Edition 驱动程序。此驱动程序对于启用最新功能和优化至关重要。
- 可变图形内存 (VGM): 启用 VGM 并将其设置为“高”。这允许系统将内存动态分配给集成显卡,从而提高令牌吞吐量并支持使用更大的 AI 模型。
- LM Studio 设置: 在 LM Studio 中,手动选择参数并将“GPU Offload”设置为“MAX”。这可确保 GPU 完全用于 AI 处理。
- 量化:
- 对于一般用途,AMD 建议使用 Q4 K M 量化。
- 对于编码任务,建议使用 Q6 或 Q8 量化。
通过遵循这些建议,用户可以释放其 Ryzen AI 驱动的笔记本电脑的全部潜力,并体验高级 AI 模型的变革力量。
面向 AI 未来的平台
从本质上讲,AMD Ryzen AI MAX+ 395 处理器不仅仅代表性能升级。它是一个平台,使用户能够在便携且易于访问的外形尺寸中体验尖端的 AI 技术。无论是用于游戏、生产力还是探索快速发展的 AI 世界,这款处理器都旨在重新定义轻薄笔记本电脑的可能性。它为新的可能性打开了大门,使用户能够以以前在此类便携式设备上无法想象的方式与 AI 模型进行交互。对用户友好性的关注,加上原始处理能力,使 Ryzen AI MAX+ 395 成为迈向 AI 无缝融入我们日常生活的未来的重要一步。