Kituo cha Nguvu cha Ubunifu
Ryzen AI MAX+ 395 imejengwa juu ya msingi wa teknolojia ya kisasa kabisa. Inatumia ‘Zen 5’ CPU cores, XDNA 2 NPU yenye nguvu inayojivunia zaidi ya 50 kilele cha AI TOPS, na GPU kubwa iliyounganishwa inayoendeshwa na 40 AMD RDNA 3.5 Compute Units. Mchanganyiko huu wa vipengele vya utendaji wa juu huruhusu kiwango ambacho hakijawahi kushuhudiwa cha nguvu ya uchakataji ndani ya mipaka ya muundo mwembamba na mwepesi. Ryzen AI Max+ 395 inakuja na usanidi kuanzia GB 32 hadi GB 128 ya kumbukumbu iliyounganishwa. Kipengele muhimu ni AMD’s Variable Graphics Memory, ambayo inaweza kubadilisha kiasi kikubwa (hadi 96GB) cha kumbukumbu hiyo iliyounganishwa kuwa VRAM.
AI ya Ndani: Wakati Ujao ni Sasa
Moja ya vipengele vya kuvutia zaidi vya Ryzen AI MAX+ 395 ni uwezo wake wa kushughulikia kazi ngumu za AI za watumiaji kwa ufanisi wa kipekee. Mfano mkuu ni utendaji wake katika LM Studio, programu-tumizi inayomfaa mtumiaji ambayo inaruhusu mtu yeyote kuendesha miundo ya hivi punde ya lugha ndani ya nchi, bila kuhitaji utaalamu maalum wa kiufundi. Hii inafungua ulimwengu wa uwezekano kwa watumiaji kuingiliana na miundo ya kisasa ya maandishi na maono ya AI moja kwa moja kwenye kompyuta zao ndogo. Kwa jukwaa la ‘Strix Halo’, AMD inaimarisha uongozi wake katika uwanja huu, ikiwezesha watumiaji kupata uzoefu wa AI kwa njia ambayo hapo awali haikuweza kufikirika katika kifaa kidogo kama hicho.
Kumbukumbu: Kuvunja Kizuizi
Prosesa nyingi zinazoshindana katika kitengo chembamba na chepesi zina mipaka ya uwezo wa kumbukumbu kwenye kifurushi, mara nyingi zikifikia kiwango cha juu cha 32GB. Ingawa hii inaweza kutosha kwa kuendesha baadhi ya miundo mikubwa ya lugha (LLMs), inaunda kizuizi kikubwa kwa programu zinazohitaji zaidi za AI. Ryzen AI MAX+ 395, hata hivyo, inavunja kizuizi hiki.
Ulinganishaji wa Ubora: Utendaji wa Ulimwengu Halisi
Ili kuelewa kikweli faida ya utendaji ya Ryzen AI MAX+ 395, zingatia vigezo vya ulimwengu halisi kwa kutumia ASUS ROG Flow Z13 iliyo na 64GB ya kumbukumbu iliyounganishwa. Ili kuhakikisha ulinganisho wa haki na washindani ambao kwa kawaida hutoa kompyuta ndogo za 32GB, saizi ya LLM ilizuiliwa kwa miundo inayotoshea ndani ya eneo la 16GB.
Matokeo yanashangaza:
Uwezo wa Tokeni: ASUS ROG Flow Z13, inayoendeshwa na Ryzen AI MAX+ 395, ilifikia hadi mara 2.2 ya uwezo wa tokeni wa kompyuta ndogo iliyo na Intel Arc 140V. Uboreshaji huu wa utendaji ulibaki thabiti sana katika aina mbalimbali za miundo na ukubwa wa vigezo.
Muda wa Kufikia Tokeni ya Kwanza: Kipimo hiki ni muhimu kwa kupima mwitikio wa muundo wa AI. Ryzen AI MAX+ 395 ilionyesha faida kubwa, ikiwa hadi mara 4 kwa kasi zaidi kuliko shindano katika miundo midogo kama Llama 3.2 3b Instruct.
Kuongezeka kwa Ukubwa wa Muundo: Pengo la utendaji linazidi kupanuka kadiri ukubwa wa LLM unavyoongezeka. Kwa miundo yenye vigezo bilioni 7 na bilioni 8, kama vile DeepSeek R1 Distill Qwen 7b na DeepSeek R1 Distill Llama 8b, Ryzen AI MAX+ 395 ilikuwa hadi mara 9.1 kwa kasi zaidi. Wakati wa kushughulikia miundo yenye vigezo bilioni 14, ASUS ROG Flow Z13 ilikuwa ya kushangaza mara 12.2 kwa kasi zaidi kuliko kompyuta ndogo inayoendeshwa na Intel Core Ultra 258V – tofauti ya zaidi ya mpangilio wa ukubwa.
Hii inaonyesha mwelekeo ulio wazi: kadiri LLM inavyokuwa kubwa, ndivyo faida ya utendaji ya Ryzen AI MAX+ 395 inavyozidi kudhihirika. Ikiwa unashiriki katika mazungumzo na muundo au kuikabidhi kazi ngumu za muhtasari zinazohusisha maelfu ya tokeni, mashine inayoendeshwa na AMD hutoa uzoefu wa haraka na msikivu zaidi. Faida ni sawia moja kwa moja na urefu wa kidokezo, kumaanisha kuwa kadiri kazi inavyohitaji, ndivyo faida inavyokuwa kubwa.
Zaidi ya Maandishi: Kukumbatia AI ya Aina Nyingi
Mageuzi ya AI yanaenda zaidi ya LLMs za maandishi pekee. Kuongezeka kwa miundo yenye uwezo wa aina nyingi, inayojumuisha adapta za maono na uwezo wa kufikiri kwa kuona, kunabadilisha mandhari. Mifano ni pamoja na IBM Granite Vision na familia ya miundo ya Google Gemma 3 iliyozinduliwa hivi karibuni, zote zikitoa uwezo wa hali ya juu wa maono kwa kizazi kijacho cha AMD AI PCs. Miundo hii inaendeshwa vizuri sana kwenye prosesa ya Ryzen AI MAX+ 395.
Wakati wa kufanya kazi na miundo ya maono, kipimo cha “muda wa kufikia tokeni ya kwanza” kinawakilisha kwa ufanisi muda unaochukua kwa muundo kuchambua picha ya ingizo. Ryzen AI MAX+ 395 inatoa maboresho ya kuvutia ya utendaji katika eneo hili:
- Hadi mara 7 kwa kasi zaidi katika IBM Granite Vision 3.2 3b.
- Hadi mara 4.6 kwa kasi zaidi katika Google Gemma 3 4b.
- Hadi mara 6 kwa kasi zaidi katika Google Gemma 3 12b.
Zaidi ya hayo, chaguo la kumbukumbu la 64GB la ASUS ROG Flow Z13 linaruhusu kuendesha muundo wa Google Gemma 3 27B Vision bila shida, unaochukuliwa sana kuwa muundo wa sasa wa hali ya juu (SOTA) wa maono.
Matumizi ya Vitendo: Kuweka Msimbo kwa kutumia AI
Mfano mwingine wa kulazimisha ni kuendesha muundo wa DeepSeek R1 Distill Qwen 32b katika usahihi wa biti 6. Usanidi huu huwezesha watumiaji kuweka msimbo wa mchezo wa kawaida katika muda mfupi sana, takriban dakika 5, kuonyesha uwezo wa vitendo wa maendeleo yanayoendeshwa na AI.
Kuboresha Utendaji wa LLM
Ili kuongeza utendaji wa LLMs kwenye prosesa za mfululizo wa AMD Ryzen AI 300, hatua kadhaa muhimu zinapendekezwa:
Sasisho za Dereva: Hakikisha unatumia dereva ya hivi punde ya AMD Software: Adrenalin Edition.
Variable Graphics Memory (VGM): Kompyuta ndogo za AMD zilizo na prosesa hizi zina kipengele cha VGM. Kuwezesha VGM, haswa kuiweka kuwa “High,” inapendekezwa sana kwa kazi za LLM. Hii husaidia kuboresha uwezo wa tokeni na kuruhusu miundo mikubwa kuendeshwa kwa ufanisi. Chaguo za VGM zinaweza kupatikana kupitia kichupo cha Performance > Tuning katika AMD Software: Adrenalin Edition.
Uteuzi wa Vigezo kwa Mwongozo: Wakati wa kuendesha LLMs, chagua “manually select parameters” na uweke mpangilio wa GPU Offload kuwa “MAX.”
Quantization: AMD inapendekeza kutumia Q4 K M quantization kwa matumizi ya kila siku na Q6 au Q8 kwa kazi za kuweka msimbo.
Enzi Mpya ya AI ya Simu
Prosesa ya AMD Ryzen AI MAX+ 395 inawakilisha mabadiliko ya dhana katika uwezo wa kompyuta ndogo nyembamba na nyepesi. Kwa kuchanganya maunzi ya kisasa na uboreshaji wa programu wenye akili, AMD imeunda jukwaa ambalo linawawezesha watumiaji kupata uzoefu wa miundo ya kisasa ya AI kwa njia inayobebeka, yenye nguvu, na inayomfaa mtumiaji. Prosesa hii si tu kuhusu kasi zaidi; ni kuhusu kuwezesha enzi mpya ya uzoefu wa AI ya simu, ambapo watumiaji wanaweza kuingiliana bila mshono na miundo ya hali ya juu ya AI kwa anuwai ya kazi, kutoka kwa juhudi za ubunifu hadi utatuzi wa shida ngumu. Ryzen AI MAX+ 395 inafafanua upya kile kinachowezekana katika umbo jembamba na jepesi, ikififisha mipaka kati ya ubebaji na kompyuta ya utendaji wa juu. Uwezo wa kuendesha miundo yenye nguvu ya AI ndani ya nchi, ambayo hapo awali ilikuwa imefungwa kwa mifumo ya mezani au huduma za wingu, inafungua fursa ambazo hazijawahi kushuhudiwa za uvumbuzi na tija popote ulipo. Iwe ni michezo ya kubahatisha, uundaji wa maudhui, au tija ya kila siku, chipu hii ni kibadilishaji mchezo.