Ryzen AI MAX+ 395: лидер ИИ в ноутбуках

Переопределение производительности в тонких и легких ноутбуках

Ryzen AI MAX+ 395 построен на основе передовых технологий. В его основе лежат процессорные ядра AMD ‘Zen 5’, обеспечивающие надежную и эффективную вычислительную основу. Однако настоящая инновация заключается в интеграции нейронного процессора (NPU) XDNA 2, обеспечивающего пиковую производительность ИИ более 50 TOPS (триллионов операций в секунду). Этот специализированный ИИ-движок в сочетании со встроенным графическим процессором на базе архитектуры AMD RDNA 3.5 (с 40 вычислительными блоками) преобразует потенциал тонких и легких ноутбуков премиум-класса.

Эта мощная комбинация позволяет использовать беспрецедентные конфигурации памяти, от 32 ГБ до ошеломляющих 128 ГБ унифицированной памяти. Ключевая особенность, AMD Variable Graphics Memory (VGM), позволяет динамически выделять до 96 ГБ этой унифицированной памяти в качестве VRAM. Эта гибкость имеет решающее значение для обработки требовательных рабочих нагрузок ИИ, которые часто требуют значительных ресурсов памяти.

ИИ для потребителя: сила локальных LLM

AMD фокусируется не только на чистой вычислительной мощности; речь идет о том, чтобы дать пользователям возможность использовать потенциал ИИ в практических, повседневных приложениях. Ярким примером является поддержка приложений на базе llama.cpp, таких как LM Studio. Это программное обеспечение действует как шлюз, позволяя пользователям запускать большие языковые модели (LLM) непосредственно на своих ноутбуках, не требуя специальных технических знаний. Эта демократизация технологии ИИ открывает пользователям возможности экспериментировать и с легкостью развертывать новые текстовые и визуальные модели ИИ.

Превосходство в тестах: реальный прирост производительности

Внутренние тесты AMD рисуют убедительную картину возможностей Ryzen AI MAX+ 395. Тестирование проводилось с использованием ноутбука ASUS ROG Flow Z13, оснащенного 64 ГБ унифицированной памяти и встроенным графическим процессором Radeon 8060S. Результаты показали значительное преимущество в производительности по сравнению с ноутбуками, оснащенными графическими картами Intel Arc 140V.

С точки зрения пропускной способности токенов – показателя того, насколько быстро LLM может генерировать текст – Ryzen AI MAX+ 395 продемонстрировал улучшение до 2,2 раз. Эти тесты были тщательно разработаны для обеспечения совместимости с конкурирующими ноутбуками, с акцентом на LLM, которые могли работать в пределах 16 ГБ памяти (что характерно для ноутбуков с 32 ГБ памяти на упаковке).

Это преимущество в производительности не ограничивалось конкретными типами моделей. Оно оставалось стабильным для целого ряда LLM, включая:

• Модели с цепочкой рассуждений (Chain-of-thought): такие как DeepSeek R1 Distills.
• Стандартные модели: такие как Microsoft Phi 4.
• Различные размеры параметров: демонстрируя универсальность для моделей различной сложности.

Переопределение отзывчивости: время до первого токена

Помимо чистой пропускной способности, отзывчивость модели ИИ имеет решающее значение для плавного и интерактивного взаимодействия с пользователем. Именно здесь в игру вступает метрика «время до первого токена», показывающая, как быстро модель начинает генерировать вывод после получения ввода.

Ryzen AI MAX+ 395 продемонстрировал еще более впечатляющие результаты в этой области:

• Меньшие модели (например, Llama 3.2 3b Instruct): до четырех раз быстрее, чем у конкурентов.
• Более крупные модели с 7 и 8 миллиардами параметров (например, DeepSeek R1 Distill Qwen 7b, DeepSeek R1 Distill Llama 8b): увеличение скорости до 9,1 раз.
• Модели с 14 миллиардами параметров: ASUS ROG Flow Z13, оснащенный Ryzen AI MAX+ 395, был, как сообщается, до 12,2 раз быстрее, чем ноутбук с процессором Intel Core Ultra 258V.

Эти цифры подчеркивают значительный скачок в интерактивных возможностях моделей ИИ на ноутбуках, обеспечивая почти мгновенный отклик и более плавное взаимодействие с пользователем.

За пределами текста: раскрытие силы мультимодального ИИ

Возможности Ryzen AI MAX+ 395 выходят за рамки текстовых LLM. Он также превосходно справляется с мультимодальными моделями, которые сочетают в себе возможности зрения с обработкой текста. Эти модели могут анализировать изображения и предоставлять ответы на основе их визуального содержимого, открывая новый спектр приложений.

AMD представила данные, демонстрирующие производительность процессора с такими моделями, как:

• IBM Granite Vision: до семи раз быстрее в IBM Granite Vision 3.2 3b.
• Google Gemma 3: до 4,6 раз быстрее в Google Gemma 3 4b и до шести раз быстрее в Google Gemma 3 12b.

Примечательно, что ASUS ROG Flow Z13 с 64 ГБ памяти был даже способен запускать более крупную модель Google Gemma 3 27B Vision, демонстрируя способность платформы справляться даже с самыми требовательными мультимодальными рабочими нагрузками.

Реальные приложения: от медицинской диагностики до генерации кода

Практические последствия этих достижений далеко идущие. Демонстрация показала потенциал моделей зрения в медицинской диагностике, где модель проанализировала стандартное изображение компьютерной томографии, идентифицировала органы и поставила диагноз. Это подчеркивает потенциал ИИ для оказания помощи медицинским работникам в проведении более быстрых и точных оценок.

Еще одно убедительное приложение – генерация кода. AMD продемонстрировала возможность запуска больших языковых моделей, таких как DeepSeek R1 Distill Qwen 32b (с 6-битной точностью), для написания кода простой игры, такой как Pong, за удивительно короткий промежуток времени. Это демонстрирует потенциал ИИ для ускорения разработки программного обеспечения и предоставления разработчикам мощных инструментов помощи в кодировании.

Оптимизация производительности: раскрытие полного потенциала

Для достижения оптимальной производительности с рабочими нагрузками LLM на ноутбуках, оснащенных процессорами Ryzen AI серии 300, AMD предоставляет конкретные рекомендации:

1. Обновление драйвера: Убедитесь, что у вас установлена последняя версия драйвера AMD Software: Adrenalin Edition. Этот драйвер имеет решающее значение для включения новейших функций и оптимизаций.
2. Variable Graphics Memory (VGM): Включите VGM и установите для него значение «High». Это позволяет системе динамически выделять память для встроенной графики, повышая пропускную способность токенов и позволяя использовать более крупные модели ИИ.
3. Настройки LM Studio: В LM Studio вручную выберите параметры и установите для параметра «GPU Offload» значение «MAX». Это гарантирует, что графический процессор полностью используется для обработки ИИ.
4. Квантование (Quantization):
   • Для общего использования AMD предлагает квантование Q4 K M.
   • Для задач кодирования рекомендуется квантование Q6 или Q8.

Следуя этим рекомендациям, пользователи могут раскрыть весь потенциал своих ноутбуков с поддержкой Ryzen AI и испытать преобразующую силу передовых моделей ИИ.

Платформа для будущего ИИ

По сути, процессор AMD Ryzen AI MAX+ 395 представляет собой нечто большее, чем просто повышение производительности. Это платформа, которая позволяет пользователям испытать передовые технологии ИИ в портативном и доступном форм-факторе. Будь то игры, продуктивность или изучение быстро развивающегося мира ИИ, этот процессор призван переопределить то, что возможно на тонких и легких ноутбуках. Он открывает двери к новым возможностям, позволяя пользователям взаимодействовать с моделями ИИ способами, которые ранее были невообразимы на таких портативных устройствах. Акцент на удобстве использования в сочетании с чистой вычислительной мощностью позиционирует Ryzen AI MAX+ 395 как значительный шаг к будущему, в котором ИИ будет органично интегрирован в нашу повседневную жизнь.