Een Krachtpatser van Innovatie
De Ryzen AI MAX+ 395 is gebouwd op een fundament van geavanceerde technologie. Het maakt gebruik van ‘Zen 5’ CPU-cores, een krachtige XDNA 2 NPU met meer dan 50 piek AI TOPS, en een enorme geïntegreerde GPU aangedreven door 40 AMD RDNA 3.5 Compute Units. Deze combinatie van krachtige componenten maakt een ongekend niveau van verwerkingskracht mogelijk binnen de beperkingen van een dun en licht ontwerp. De Ryzen AI Max+ 395 wordt geleverd met configuraties variërend van 32 GB tot 128 GB unified memory. Een belangrijk kenmerk is AMD’s Variable Graphics Memory, dat een grote hoeveelheid (tot 96 GB) van dat unified memory kan converteren naar VRAM.
Lokaal AI: De Toekomst is Nu
Een van de meest aantrekkelijke aspecten van de Ryzen AI MAX+ 395 is het vermogen om veeleisende AI-workloads voor consumenten met uitzonderlijke efficiëntie af te handelen. Een goed voorbeeld is de prestatie in LM Studio, een gebruiksvriendelijke applicatie waarmee iedereen de nieuwste taalmodellen lokaal kan draaien, zonder dat daarvoor gespecialiseerde technische expertise nodig is. Dit opent een wereld van mogelijkheden voor gebruikers om direct op hun laptops te interageren met geavanceerde AI-tekst- en -visiemodellen. Met het ‘Strix Halo’-platform verstevigt AMD zijn leiderschap op dit gebied, waardoor gebruikers AI kunnen ervaren op een manier die voorheen ondenkbaar was in zo’n compact apparaat.
Geheugen: De Flessenhals Doorbreken
Veel concurrerende processors in de categorie dun en licht worden beperkt door hun on-package geheugencapaciteit, die vaak maximaal 32 GB bedraagt. Hoewel dit voldoende kan zijn voor het uitvoeren van sommige grote taalmodellen (LLM’s), creëert het een aanzienlijke bottleneck voor veeleisendere AI-toepassingen. De Ryzen AI MAX+ 395 doorbreekt deze barrière echter.
Benchmarking Excellence: Prestaties in de Praktijk
Om het prestatievoordeel van de Ryzen AI MAX+ 395 echt te begrijpen, bekijken we benchmarks uit de praktijk met een ASUS ROG Flow Z13 uitgerust met 64 GB unified memory. Om een eerlijke vergelijking te garanderen met concurrenten die doorgaans laptops van 32 GB aanbieden, werd de LLM-grootte beperkt tot modellen die binnen een footprint van 16 GB passen.
De resultaten zijn opvallend:
Token Throughput: De ASUS ROG Flow Z13, aangedreven door de Ryzen AI MAX+ 395, behaalde tot 2,2 keer de token throughput van een laptop met een Intel Arc 140V. Deze prestatieverbetering bleef opmerkelijk consistent over verschillende modeltypen en parametergroottes.
Time to First Token: Deze metriek is cruciaal voor het meten van de responsiviteit van een AI-model. De Ryzen AI MAX+ 395 toonde een aanzienlijk voordeel, met tot 4 keer snellere prestaties dan de concurrentie in kleinere modellen zoals Llama 3.2 3b Instruct.
Schalen met Modelgrootte: Het prestatieverschil wordt nog groter naarmate de grootte van het LLM toeneemt. Met modellen van 7 miljard en 8 miljard parameters, zoals DeepSeek R1 Distill Qwen 7b en DeepSeek R1 Distill Llama 8b, was de Ryzen AI MAX+ 395 tot 9,1 keer sneller. Bij het aanpakken van modellen met 14 miljard parameters was de ASUS ROG Flow Z13 maar liefst 12,2 keer sneller dan een laptop met Intel Core Ultra 258V – een verschil van meer dan een orde van grootte.
Dit toont een duidelijke trend: hoe groter het LLM, hoe uitgesprokener het prestatievoordeel van de Ryzen AI MAX+ 395 wordt. Of het nu gaat om een conversatie met het model of het toewijzen van complexe samenvattingstaken met duizenden tokens, de door AMD aangedreven machine biedt een aanzienlijk snellere en responsievere ervaring. Het voordeel is recht evenredig met de lengte van de prompt, wat betekent dat hoe veeleisender de taak, hoe groter het voordeel.
Verder dan Tekst: Multi-Modale AI Omarmen
De evolutie van AI gaat verder dan LLM’s die alleen tekst verwerken. De opkomst van zeer capabele multi-modale modellen, met visie-adapters en visuele redeneermogelijkheden, transformeert het landschap. Voorbeelden hiervan zijn IBM Granite Vision en de onlangs gelanceerde Google Gemma 3-familie van modellen, die beide geavanceerde visiemogelijkheden bieden aan de volgende generatie AMD AI-pc’s. Deze modellen draaien uitzonderlijk goed op de Ryzen AI MAX+ 395-processor.
Bij het werken met visiemodellen vertegenwoordigt de metriek ‘time to first token’ in feite de tijd die het model nodig heeft om de invoerafbeelding te analyseren. De Ryzen AI MAX+ 395 levert indrukwekkende prestatieverbeteringen op dit gebied:
- Tot 7 keer sneller in IBM Granite Vision 3.2 3b.
- Tot 4,6 keer sneller in Google Gemma 3 4b.
- Tot 6x sneller in Google Gemma 3 12b.
Bovendien kan de ASUS ROG Flow Z13 met de 64 GB geheugenoptie moeiteloos het Google Gemma 3 27B Vision-model draaien, dat algemeen wordt beschouwd als het huidige state-of-the-art (SOTA) visiemodel.
Praktische Toepassingen: Coderen met AI
Een ander overtuigend voorbeeld is het draaien van het DeepSeek R1 Distill Qwen 32b-model in 6-bit precisie. Deze configuratie stelt gebruikers in staat om een klassiek spel in een opmerkelijk kort tijdsbestek te coderen, ongeveer 5 minuten, wat het praktische potentieel van AI-gestuurde ontwikkeling aantoont.
Optimaliseren voor LLM-Prestaties
Om de prestaties van LLM’s op AMD Ryzen AI 300-serie processors te maximaliseren, worden verschillende belangrijke stappen aanbevolen:
Driver Updates: Zorg ervoor dat u de nieuwste AMD Software: Adrenalin Edition-driver gebruikt.
Variable Graphics Memory (VGM): AMD-laptops die zijn uitgerust met deze processors, beschikken over VGM. Het inschakelen van VGM, met name het instellen op ‘High’, wordt sterk aanbevolen voor LLM-workloads. Dit helpt de token throughput te verbeteren en zorgt ervoor dat grotere modellen efficiënt kunnen draaien. VGM-opties zijn toegankelijk via het tabblad Performance > Tuning in AMD Software: Adrenalin Edition.
Handmatige Parameterselectie: Selecteer bij het uitvoeren van LLM’s ‘manually select parameters’ en stel de GPU Offload-instelling in op ‘MAX’.
Kwantisatie: AMD raadt aan om Q4 K M-kwantisatie te gebruiken voor dagelijks gebruik en Q6 of Q8 voor coderingstaken.
Een Nieuw Tijdperk van Mobiele AI
De AMD Ryzen AI MAX+ 395-processor vertegenwoordigt een paradigmaverschuiving in de mogelijkheden van dunne en lichte laptops. Door geavanceerde hardware te combineren met intelligente software-optimalisaties, heeft AMD een platform gecreëerd dat gebruikers in staat stelt om state-of-the-art AI-modellen te ervaren op een draagbare, krachtige en gebruiksvriendelijke manier. Deze processor gaat niet alleen over hogere snelheden; het gaat over het mogelijk maken van een nieuw tijdperk van mobiele AI-ervaringen, waar gebruikers naadloos kunnen interageren met geavanceerde AI-modellen voor een breed scala aan taken, van creatieve inspanningen tot complexe probleemoplossing. De Ryzen AI MAX+ 395 herdefinieert echt wat mogelijk is in een dunne en lichte vormfactor, waardoor de grenzen tussen draagbaarheid en high-performance computing vervagen. De mogelijkheid om krachtige AI-modellen lokaal uit te voeren, die ooit beperkt waren tot desktopsystemen of clouddiensten, opent ongekende mogelijkheden voor innovatie en productiviteit onderweg. Of het nu gaat om gaming, contentcreatie of dagelijkse productiviteit, deze chip is een game-changer.