Ryzen AI MAX+ 395: Nowy lider AI w laptopach

Nowa definicja wydajności w cienkich i lekkich laptopach

Procesor Ryzen AI MAX+ 395 firmy AMD (o nazwie kodowej ‘Strix Halo’) to znaczący krok naprzód w możliwościach cienkich i lekkich laptopów. Ten nowy układ APU x86 to nie tylko stopniowe ulepszenie; to znaczący skok, szczególnie w dziedzinie przetwarzania AI, gdzie AMD twierdzi, że ma przewagę nad konkurencją.

Ryzen AI MAX+ 395 opiera się na fundamencie najnowocześniejszej technologii. Sercem są rdzenie CPU AMD ‘Zen 5’, zapewniające solidny i wydajny szkielet przetwarzania. Jednak prawdziwa innowacja polega na integracji jednostki NPU (Neural Processing Unit) XDNA 2, oferującej ponad 50 szczytowych AI TOPS (bilionów operacji na sekundę). Ten dedykowany silnik AI, w połączeniu ze zintegrowanym układem GPU opartym na architekturze RDNA 3.5 firmy AMD (z 40 jednostkami obliczeniowymi), przekształca potencjał cienkich i lekkich laptopów klasy premium.

To potężne połączenie pozwala na bezprecedensowe konfiguracje pamięci, od 32 GB do oszałamiających 128 GB pamięci zunifikowanej. Kluczową cechą, AMD Variable Graphics Memory (VGM), jest możliwość dynamicznego przydzielania do 96 GB tej zunifikowanej pamięci jako VRAM. Ta elastyczność ma kluczowe znaczenie dla obsługi wymagających obciążeń AI, które często wymagają znacznych zasobów pamięci.

Wprowadzenie AI do konsumenta: Moc lokalnych LLM

Koncentracja AMD wykracza poza surową moc obliczeniową; chodzi o umożliwienie użytkownikom wykorzystania potencjału AI w praktycznych, codziennych zastosowaniach. Doskonałym przykładem jest obsługa aplikacji opartych na llama.cpp, takich jak LM Studio. To oprogramowanie działa jako brama, umożliwiając użytkownikom uruchamianie dużych modeli językowych (LLM) bezpośrednio na laptopach bez konieczności posiadania specjalistycznej wiedzy technicznej. Ta demokratyzacja technologii AI otwiera użytkownikom możliwości eksperymentowania i wdrażania nowych modeli tekstowych i wizyjnych AI z łatwością.

Dominacja w testach porównawczych: Rzeczywiste wzrosty wydajności

Wewnętrzne testy porównawcze AMD przedstawiają przekonujący obraz możliwości Ryzen AI MAX+ 395. Testy przeprowadzono przy użyciu laptopa ASUS ROG Flow Z13 wyposażonego w 64 GB pamięci zunifikowanej i zintegrowany układ GPU Radeon 8060S. Wyniki pokazały znaczną przewagę wydajności nad laptopami wyposażonymi w karty graficzne Intel Arc 140V.

Pod względem przepustowości tokenów – miary szybkości, z jaką LLM może generować tekst – Ryzen AI MAX+ 395 wykazał do 2,2 razy większą poprawę. Testy te zostały starannie zaprojektowane, aby zapewnić kompatybilność z konkurencyjnymi laptopami, koncentrując się na LLM, które mogłyby działać w ramach 16 GB pamięci (typowo dla laptopów z 32 GB pamięci wbudowanej).

Ta przewaga wydajności nie ograniczała się do określonych typów modeli. Pozostała spójna w szerokim zakresie LLM, w tym:

• Modele łańcucha myśli (Chain-of-thought): takie jak DeepSeek R1 Distills.
• Modele standardowe: takie jak Microsoft Phi 4.
• Różne rozmiary parametrów: wykazując wszechstronność w różnych złożonościach modeli.

Nowa definicja responsywności: Czas do pierwszego tokena

Poza surową przepustowością, responsywność modelu AI ma kluczowe znaczenie dla płynnego i interaktywnego doświadczenia użytkownika. W tym miejscu pojawia się metryka „czasu do pierwszego tokena”, wskazująca, jak szybko model zaczyna generować dane wyjściowe po otrzymaniu danych wejściowych.

Ryzen AI MAX+ 395 wykazał jeszcze bardziej dramatyczne wzrosty w tym obszarze:

• Mniejsze modele (np. Llama 3.2 3b Instruct): Do czterech razy szybciej niż konkurencja.
• Większe modele z 7 miliardami i 8 miliardami parametrów (np. DeepSeek R1 Distill Qwen 7b, DeepSeek R1 Distill Llama 8b): Wzrosty prędkości sięgające 9,1 razy.
• Modele z 14 miliardami parametrów: ASUS ROG Flow Z13, napędzany przez Ryzen AI MAX+ 395, był podobno do 12,2 razy szybszy niż laptop z procesorem Intel Core Ultra 258V.

Liczby te podkreślają znaczący skok w interaktywnych możliwościach modeli AI na laptopach, umożliwiając niemal natychmiastowe reakcje i bardziej płynne doświadczenie użytkownika.

Poza tekstem: Uwolnienie mocy wielomodalnego AI

Możliwości Ryzen AI MAX+ 395 wykraczają poza tekstowe LLM. Doskonale radzi sobie również z obsługą modeli wielomodalnych, które oprócz przetwarzania tekstu obejmują funkcje wizyjne. Modele te mogą analizować obrazy i dostarczać odpowiedzi na podstawie ich treści wizualnej, otwierając nowy zakres zastosowań.

AMD przedstawiło dane pokazujące wydajność procesora z modelami takimi jak:

• IBM Granite Vision: Do siedmiu razy szybciej w IBM Granite Vision 3.2 3b.
• Google Gemma 3: Do 4,6 razy szybciej w Google Gemma 3 4b i do sześciu razy szybciej w Google Gemma 3 12b.

Warto zauważyć, że ASUS ROG Flow Z13 z 64 GB pamięci był w stanie uruchomić nawet większy model Google Gemma 3 27B Vision, demonstrując zdolność platformy do obsługi nawet najbardziej wymagających obciążeń wielomodalnych.

Zastosowania w świecie rzeczywistym: Od diagnozy medycznej po generowanie kodu

Praktyczne implikacje tych postępów są dalekosiężne. Demonstracja pokazała potencjał modeli wizyjnych w diagnostyce medycznej, gdzie model analizował obraz tomografii komputerowej, identyfikował narządy i stawiał diagnozę. Podkreśla to potencjał AI do wspomagania pracowników służby zdrowia w szybszym i dokładniejszym dokonywaniu ocen.

Kolejnym atrakcyjnym zastosowaniem jest generowanie kodu. AMD zademonstrowało możliwość uruchamiania dużych modeli językowych, takich jak DeepSeek R1 Distill Qwen 32b (w 6-bitowej precyzji), w celu zakodowania prostej gry, takiej jak Pong, w niezwykle krótkim czasie. Pokazuje to potencjał AI do przyspieszenia rozwoju oprogramowania i wzmocnienia pozycji programistów dzięki potężnym narzędziom wspomagającym kodowanie.

Optymalizacja wydajności: Uwolnienie pełnego potencjału

Aby osiągnąć optymalną wydajność z obciążeniami LLM na laptopach wyposażonych w procesory Ryzen AI z serii 300, AMD przedstawia szczegółowe zalecenia:

1. Aktualizacja sterownika: Upewnij się, że masz zainstalowany najnowszy sterownik AMD Software: Adrenalin Edition. Ten sterownik ma kluczowe znaczenie dla włączenia najnowszych funkcji i optymalizacji.
2. Variable Graphics Memory (VGM): Włącz VGM i ustaw go na „High”. Umożliwia to systemowi dynamiczne przydzielanie pamięci do zintegrowanej grafiki, zwiększając przepustowość tokenów i umożliwiając korzystanie z większych modeli AI.
3. Ustawienia LM Studio: W LM Studio ręcznie wybierz parametry i ustaw „GPU Offload” na „MAX”. Zapewnia to pełne wykorzystanie GPU do przetwarzania AI.
4. Kwantyzacja:
   • Do ogólnego użytku AMD sugeruje kwantyzację Q4 K M.
   • Do zadań kodowania zalecana jest kwantyzacja Q6 lub Q8.

Postępując zgodnie z tymi zaleceniami, użytkownicy mogą odblokować pełny potencjał swoich laptopów z procesorami Ryzen AI i doświadczyć transformacyjnej mocy zaawansowanych modeli AI.

Platforma dla przyszłości AI

Zasadniczo procesor AMD Ryzen AI MAX+ 395 to coś więcej niż tylko ulepszenie wydajności. To platforma, która umożliwia użytkownikom korzystanie z najnowocześniejszej technologii AI w przenośnym i dostępnym formacie. Niezależnie od tego, czy chodzi o gry, produktywność, czy odkrywanie szybko rozwijającego się świata AI, ten procesor ma na celu przedefiniowanie tego, co jest możliwe w cienkich i lekkich laptopach. Otwiera drzwi do nowych możliwości, umożliwiając użytkownikom interakcję z modelami AI w sposób, który wcześniej był niewyobrażalny na tak przenośnych urządzeniach. Koncentracja na łatwości obsługi, w połączeniu z surową mocą obliczeniową, pozycjonuje Ryzen AI MAX+ 395 jako znaczący krok w kierunku przyszłości, w której AI jest płynnie zintegrowana z naszym codziennym życiem.