Libérer le potentiel de l’IA avec LM Studio
Le Ryzen AI Max+ 395 brille véritablement dans les charges de travail d’IA grand public exigeantes, comme le démontre ses performances exceptionnelles dans LM Studio, une application basée sur llama.cpp. S’imposant comme la plateforme de référence pour les opérations de grands modèles de langage (LLM) côté client, LM Studio permet aux utilisateurs d’exécuter les derniers modèles de langage localement, éliminant ainsi le besoin d’expertise technique spécialisée. Cette facilité d’utilisation rend le déploiement de nouveaux modèles d’IA de texte et de vision dès le premier jour remarquablement simple.
La plateforme ‘Strix Halo’, dotée des processeurs AMD Ryzen AI MAX+ series, étend considérablement le leadership d’AMD en matière de performances dans l’environnement LM Studio.
De nombreux processeurs concurrents dans ce segment sont limités à 32 Go de mémoire intégrée. Bien que cette capacité soit généralement suffisante pour exécuter de grands modèles de langage d’une taille d’environ 16 Go, le Ryzen AI MAX+ 395 surpasse ces limitations, offrant un avantage substantiel dans la gestion de modèles plus grands et plus complexes.
Domination des benchmarks : modèles de langage texte et vision
Des tests de performance rigoureux au sein de LM Studio révèlent la puissance brute de l’AMD Ryzen AI MAX+ 395. Lorsqu’il est associé à un appareil tel que l’ASUS ROG Flow Z13, le processeur atteint un débit de jetons jusqu’à 2,2 fois supérieur à celui de l’Intel Arc 140V. Cette amélioration remarquable des performances n’est pas un cas isolé ; elle reste remarquablement constante pour différents types de modèles et tailles de paramètres.
Dans la métrique cruciale du temps jusqu’au premier jeton, le processeur AMD Ryzen AI MAX+ 395 démontre des gains encore plus impressionnants. Il atteint des vitesses jusqu’à 4 fois plus rapides que la concurrence lorsqu’il travaille avec des modèles plus petits, tels que Llama 3.2 3b Instruct.
L’avantage en termes de performances augmente considérablement avec les modèles plus grands. Lors de la manipulation de modèles de 7 milliards et 8 milliards de paramètres, comme DeepSeek R1 Distill Qwen 7b et DeepSeek R1 Distill Llama 8b, le Ryzen AI Max+ 395 atteint une vitesse 9,1 fois plus rapide. Et avec les modèles de 14 milliards de paramètres, l’ASUS ROG Flow Z13, alimenté par le Ryzen AI Max+ 395, atteint des performances inégalées 12,2 fois plus rapides qu’un ordinateur portable équipé de l’Intel Core Ultra 258V – une différence dépassant un ordre de grandeur !
La corrélation est claire : plus le LLM est grand, plus l’avantage de vitesse du processeur AMD Ryzen AI Max+ 395 est prononcé pour répondre aux requêtes des utilisateurs. Qu’il s’agisse de conversations interactives avec le modèle ou de l’attribution de tâches de résumé complexes impliquant des milliers de jetons, la machine équipée d’AMD offre des temps de réponse considérablement plus rapides. Cet avantage est proportionnel à la longueur de l’invite, ce qui signifie que plus la tâche est exigeante, plus le gain de performance est important.
Adopter l’IA multimodale : capacités de vision
L’évolution de l’IA dépasse rapidement les LLM uniquement textuels. De plus en plus, des modèles multimodaux très performants émergent, intégrant des adaptateurs de vision et des capacités de raisonnement visuel. L’IBM Granite Vision et la famille de modèles Google Gemma 3 récemment lancée en sont de parfaits exemples, offrant tous deux des capacités de vision avancées qui sont parfaitement intégrées aux PC IA AMD de nouvelle génération. Ces modèles présentent des performances exceptionnelles sur les systèmes équipés du processeur AMD Ryzen AI MAX+ 395.
Dans le contexte des modèles de vision, la métrique du temps jusqu’au premier jeton représente effectivement le temps nécessaire au modèle pour analyser une image fournie.
Ici encore, le processeur Ryzen AI Max+ 395 démontre un leadership incontestable. Il est jusqu’à 7 fois plus rapide dans IBM Granite Vision 3.2 3b, jusqu’à 4,6 fois plus rapide dans Google Gemma 3 4b, et jusqu’à 6 fois plus rapide dans Google Gemma 3 12b. L’ASUS ROG Flow Z13, équipé d’une option de mémoire de 64 Go, peut même gérer sans effort le modèle Google Gemma 3 27B Vision, qui est actuellement reconnu comme le modèle de vision de pointe (SOTA).
Une autre démonstration convaincante consiste à exécuter le DeepSeek R1 Distill Qwen 32b en précision 6 bits. Cette configuration permet aux utilisateurs de coder un jeu classique dans un laps de temps remarquablement court, environ 5 minutes.
Optimisation des paramètres pour les performances LLM
Pour exploiter pleinement le potentiel du processeur AMD Ryzen AI MAX+ 395 pour les charges de travail LLM, il est essentiel de s’assurer que votre système exécute le dernier pilote AMD Software: Adrenalin Edition. Les ordinateurs portables AMD équipés de processeurs AMD Ryzen AI 300 series sont dotés de la technologie Variable Graphics Memory (VGM). AMD recommande fortement d’activer VGM pour toutes les charges de travail LLM afin d’améliorer le débit de jetons et de faciliter l’exécution de modèles plus grands. Un paramètre VGM ‘High’ est recommandé pour des performances optimales. Les options VGM sont accessibles via l’onglet Performance > Tuning dans AMD Software: Adrenalin Edition.
Lors de l’exécution de LLM, il est également crucial de cocher l’option ‘manually select parameters’ et de régler le paramètre GPU Offload sur ‘MAX’. AMD recommande d’utiliser la quantification Q4 K M pour une utilisation quotidienne et la quantification Q6 ou Q8 pour les tâches de codage.
L’avenir de l’IA en déplacement
L’expérience de l’IA localement sur les ordinateurs portables équipés du processeur AMD Ryzen AI MAX+ 395 offre aux utilisateurs expérimentés une occasion unique de s’engager avec des modèles d’IA de pointe tout en conservant la portabilité et la polyvalence d’un format fin et léger. Cette combinaison de puissance et de portabilité rend ces appareils idéaux pour les jeux et la productivité, établissant une nouvelle norme pour l’informatique mobile. Le Ryzen AI MAX +395 n’est pas simplement un processeur ; c’est une passerelle vers une nouvelle ère d’expériences basées sur l’IA, facilement accessibles et exceptionnellement mobiles. Il permet d’effectuer des opérations complexes avec facilité et établit une nouvelle norme pour ce que les utilisateurs devraient attendre. Le processeur AMD Ryzen AI MAX+ 395 marque un changement de paradigme dans les capacités des ordinateurs portables fins et légers. Ce nouveau processeur offre une augmentation de performance inégalée, spécialement adaptée au domaine en plein essor des applications d’intelligence artificielle. En tirant parti des cœurs de CPU ‘Zen 5’ de pointe, d’un puissant NPU XDNA 2 de plus de 50 TOPS d’IA de pointe et d’un GPU intégré remarquablement robuste alimenté par 40 unités de calcul AMD RDNA 3.5, le Ryzen AI MAX+ 395 élève le format fin et léger haut de gamme à des hauteurs sans précédent. De plus, ce processeur est disponible avec des options de mémoire unifiée allant de 32 Go à 128 Go, avec la flexibilité d’allouer jusqu’à 96 Go en tant que VRAM grâce à la technologie innovante Variable Graphics Memory d’AMD.