מעצמת חדשנות
ה-Ryzen AI MAX+ 395 בנוי על בסיס טכנולוגיה חדשנית. הוא ממנף ליבות CPU ‘Zen 5’, NPU XDNA 2 רב עוצמה המתגאה ביותר מ-50 TOPS AI בשיא, ו-GPU משולב מסיבי המונע על ידי 40 יחידות מחשוב AMD RDNA 3.5. שילוב זה של רכיבי ביצועים גבוהים מאפשר רמת כוח עיבוד חסרת תקדים במסגרת המגבלות של עיצוב דק וקל. ה-Ryzen AI Max+ 395 מגיע עם תצורות הנעות בין 32 GB ל-128 GB של זיכרון מאוחד. תכונה מרכזית היא Variable Graphics Memory של AMD, שיכולה להמיר כמות גדולה (עד 96GB) מהזיכרון המאוחד הזה ל-VRAM.
בינה מלאכותית מקומית: העתיד כבר כאן
אחד ההיבטים המשכנעים ביותר של Ryzen AI MAX+ 395 הוא היכולת שלו להתמודד עם עומסי עבודה תובעניים של AI לצרכן ביעילות יוצאת דופן. דוגמה מצוינת היא הביצועים שלו ב-LM Studio, יישום ידידותי למשתמש המאפשר לכל אחד להריץ את דגמי השפה העדכניים ביותר באופן מקומי, מבלי לדרוש מומחיות טכנית מיוחדת. זה פותח עולם של אפשרויות למשתמשים ליצור אינטראקציה עם מודלים חדישים של טקסט וחזון AI ישירות במחשבים הניידים שלהם. עם פלטפורמת ‘Strix Halo’, AMD מחזקת את מעמדה המוביל בתחום זה, ומעצימה את המשתמשים לחוות AI באופן שבעבר לא היה ניתן להעלות על הדעת במכשיר כה קומפקטי.
זיכרון: שבירת צוואר הבקבוק
מעבדים מתחרים רבים בקטגוריית הדקים והקלים מוגבלים על ידי קיבולת הזיכרון שלהם על האריזה, ולעתים קרובות מגיעים למקסימום של 32GB. בעוד שזה עשוי להספיק להרצת כמה מודלים גדולים של שפה (LLMs), זה יוצר צוואר בקבוק משמעותי עבור יישומי AI תובעניים יותר. Ryzen AI MAX+ 395, לעומת זאת, פורץ את המחסום הזה.
מבחני ביצועים מצוינים: ביצועים בעולם האמיתי
כדי להבין באמת את יתרון הביצועים של Ryzen AI MAX+ 395, שקול מבחני ביצועים בעולם האמיתי באמצעות ASUS ROG Flow Z13 המצויד ב-64GB של זיכרון מאוחד. כדי להבטיח השוואה הוגנת עם מתחרים המציעים בדרך כלל מחשבים ניידים של 32GB, גודל ה-LLM הוגבל לדגמים שמתאימים לטביעת רגל של 16GB.
התוצאות בולטות:
תפוקת אסימונים: ה-ASUS ROG Flow Z13, המופעל על ידי Ryzen AI MAX+ 395, השיג תפוקת אסימונים של עד פי 2.2 ממחשב נייד הכולל Intel Arc 140V. שיפור ביצועים זה נותר עקבי להפליא בין סוגי דגמים שונים וגדלי פרמטרים.
זמן לאסימון ראשון: מדד זה חיוני למדידת ההיענות של מודל AI. Ryzen AI MAX+ 395 הדגים יתרון משמעותי, בהיותו מהיר עד פי 4 מהמתחרים בדגמים קטנים יותר כמו Llama 3.2 3b Instruct.
התאמה לגודל הדגם: פער הביצועים מתרחב עוד יותר ככל שגודל ה-LLM גדל. עם דגמים של 7 מיליארד ו-8 מיליארד פרמטרים, כגון DeepSeek R1 Distill Qwen 7b ו-DeepSeek R1 Distill Llama 8b, Ryzen AI MAX+ 395 היה מהיר עד פי 9.1. כאשר מתמודדים עם דגמים של 14 מיליארד פרמטרים, ה-ASUS ROG Flow Z13 היה מהיר להפליא פי 12.2 ממחשב נייד המופעל על ידי Intel Core Ultra 258V – הבדל של יותר מסדר גודל.
זה מדגים מגמה ברורה: ככל שה-LLM גדול יותר, כך יתרון הביצועים של Ryzen AI MAX+ 395 בולט יותר. בין אם מדובר בשיחה עם המודל או בהקצאת משימות סיכום מורכבות הכוללות אלפי אסימונים, המכונה המופעלת על ידי AMD מספקת חוויה מהירה ומגיבה הרבה יותר. היתרון הוא פרופורציונלי ישירות לאורך ההנחיה, כלומר ככל שהמשימה תובענית יותר, כך התועלת גדולה יותר.
מעבר לטקסט: אימוץ AI רב-מודאלי
האבולוציה של AI עוברת מעבר ל-LLMs של טקסט בלבד. עלייתם של מודלים רב-מודאליים בעלי יכולת גבוהה, המשלבים מתאמי ראייה ויכולות חשיבה חזותית, משנה את הנוף. דוגמאות לכך כוללות את IBM Granite Vision ואת משפחת דגמי Google Gemma 3 שהושקה לאחרונה, שניהם מציעים יכולות ראייה מתקדמות לדור הבא של מחשבי AI של AMD. דגמים אלה פועלים בצורה יוצאת דופן במעבד Ryzen AI MAX+ 395.
בעבודה עם מודלים של ראייה, מדד ‘הזמן לאסימון הראשון’ מייצג למעשה את הזמן שלוקח למודל לנתח את תמונת הקלט. Ryzen AI MAX+ 395 מספק שיפורי ביצועים מרשימים בתחום זה:
- עד פי 7 מהר יותר ב-IBM Granite Vision 3.2 3b.
- עד פי 4.6 מהר יותר ב-Google Gemma 3 4b.
- עד פי 6 מהר יותר ב-Google Gemma 3 12b.
יתר על כן, אפשרות הזיכרון של 64GB של ASUS ROG Flow Z13 מאפשרת לו להריץ ללא מאמץ את דגם Google Gemma 3 27B Vision, הנחשב באופן נרחב למודל הראייה החדיש ביותר (SOTA) הנוכחי.
יישומים מעשיים: קידוד עם AI
דוגמה משכנעת נוספת היא הפעלת מודל DeepSeek R1 Distill Qwen 32b בדיוק של 6 סיביות. תצורה זו מאפשרת למשתמשים לקודד משחק קלאסי במסגרת זמן קצרה להפליא, כ-5 דקות, ומציגה את הפוטנציאל המעשי של פיתוח המופעל על ידי AI.
אופטימיזציה לביצועי LLM
כדי למקסם את הביצועים של LLMs במעבדי AMD Ryzen AI 300 series, מומלצים מספר צעדים מרכזיים:
עדכוני מנהלי התקנים: ודא שאתה משתמש במנהל ההתקן העדכני ביותר של AMD Software: Adrenalin Edition.
זיכרון גרפי משתנה (VGM): מחשבים ניידים של AMD המצוידים במעבדים אלה כוללים VGM. הפעלת VGM, במיוחד הגדרתו ל-‘High’, מומלצת מאוד עבור עומסי עבודה של LLM. זה עוזר לשפר את תפוקת האסימונים ומאפשר לדגמים גדולים יותר לפעול ביעילות. ניתן לגשת לאפשרויות VGM דרך הכרטיסייה Performance > Tuning ב-AMD Software: Adrenalin Edition.
בחירת פרמטרים ידנית: בעת הפעלת LLMs, בחר ‘manually select parameters’ והגדר את ההגדרה GPU Offload ל-‘MAX’.
קוונטיזציה: AMD ממליצה להשתמש בקוונטיזציה Q4 K M לשימוש יומיומי וב-Q6 או Q8 למשימות קידוד.
עידן חדש של AI נייד
מעבד AMD Ryzen AI MAX+ 395 מייצג שינוי פרדיגמה ביכולות של מחשבים ניידים דקים וקלים. על ידי שילוב חומרה חדשנית עם אופטימיזציות תוכנה חכמות, AMD יצרה פלטפורמה המעצימה את המשתמשים לחוות מודלים חדישים של AI בצורה ניידת, חזקה וידידותית למשתמש. מעבד זה אינו עוסק רק במהירויות גבוהות יותר; מדובר בהפעלת עידן חדש של חוויות AI ניידות, שבו משתמשים יכולים ליצור אינטראקציה חלקה עם מודלים מתקדמים של AI עבור מגוון רחב של משימות, ממאמצים יצירתיים ועד לפתרון בעיות מורכבות. Ryzen AI MAX+ 395 מגדיר מחדש באמת את מה שאפשר בגורם צורה דק וקל, ומטשטש את הגבולות בין ניידות למחשוב בעל ביצועים גבוהים. היכולת להריץ באופן מקומי מודלים חזקים של AI, שהיו מוגבלים פעם למערכות שולחניות או לשירותי ענן, פותחת הזדמנויות חסרות תקדים לחדשנות ופרודוקטיביות בדרכים. בין אם מדובר במשחקים, יצירת תוכן או פרודוקטיביות יומיומית, השבב הזה הוא מחליף משחק.