Mazingira ya akili bandia (AI) yanapitia mabadiliko makubwa. Kwa miaka mingi, mahitaji makubwa ya kikokotozi ya mifumo tata ya AI, hasa mifumo mikubwa ya lugha (LLMs), yaliifunga operesheni yao hasa kwenye seva zenye nguvu, zinazotumia nishati nyingi zilizofichwa katika vituo vikubwa vya data. Ufikiaji kwa kawaida ulihusisha kutuma maswali kupitia intaneti na kusubiri majibu yaliyochakatwa kwa mbali. Hata hivyo, mwelekeo wa kuvutia kuelekea ukokotozi wa ndani unapata kasi, ukichochewa na maendeleo katika teknolojia ya prosesa na wasiwasi unaokua kuhusu faragha ya data na muda wa kusubiri (latency). Advanced Micro Devices (AMD), mchezaji hodari katika uwanja wa semikondakta, inakumbatia kikamilifu mwelekeo huu, ikitafuta kuwawezesha watumiaji kutumia uwezo wa AI genereta moja kwa moja kwenye kompyuta zao binafsi. Mpango wa hivi karibuni wa kampuni katika eneo hili ni mradi wa chanzo huria unaoitwa kwa kuvutia GAIA, kifupi cha ‘Generative AI Is Awesome.’
Kuanzisha Enzi ya Uchakataji wa AI wa Ndani
Mvuto wa kuendesha mifumo ya AI genereta ndani ya kifaa una pande nyingi. Kwanza, unashughulikia wasiwasi unaoongezeka wa faragha. Data inapochakatwa kwenye kifaa cha mtumiaji mwenyewe, haja ya kusambaza taarifa zinazoweza kuwa nyeti kwa seva za watu wengine huondolewa, ikitoa mfumo wa uendeshaji salama zaidi kiasili. Pili, utekelezaji wa ndani unaweza kupunguza kwa kiasi kikubwa muda wa kusubiri; ucheleweshaji kati ya ingizo na tokeo hupunguzwa wakati kazi nzito ya kikokotozi inafanyika milimita chache tu kutoka kwa kiolesura cha mtumiaji, badala ya uwezekano wa kuvuka mabara. Tatu, inademokrasisha ufikiaji. Wakati AI inayotegemea wingu mara nyingi inahusisha ada za usajili au vikomo vya matumizi, uchakataji kwenye kifaa hutumia maunzi ambayo mtumiaji tayari anamiliki, ikiwezekana kupunguza kizuizi cha kuingia kwa kujaribu na kutumia zana za AI.
Ikitambua uwezo huu, AMD imekuwa ikiunganisha kimkakati chembe maalum za uchakataji zilizoundwa waziwazi kwa ajili ya mizigo ya kazi ya AI katika usanifu wake wa prosesa. Kilele cha juhudi hizi kinaonekana katika prosesa zao za hivi karibuni za mfululizo wa Ryzen AI 300, ambazo zina Vitengo vya Uchakataji wa Neural (NPUs) vilivyoboreshwa. NPUs hizi zimeundwa kushughulikia aina maalum za operesheni za kihisabati zinazojitokeza sana katika kazi za kujifunza kwa mashine, zikifanya hivyo kwa ufanisi mkubwa zaidi - kwa upande wa kasi na matumizi ya nishati - ikilinganishwa na chembe za jadi za CPU. Ni maunzi haya maalum ambayo AMD inalenga kuyafungua kwa watumiaji wa kawaida kupitia mradi wake wa GAIA. Victoria Godsoe, Meneja wa Uwezeshaji Wasanidi Programu wa AI wa AMD, alisisitiza lengo hili, akisema kwamba GAIA ‘inatumia nguvu ya Ryzen AI Neural Processing Unit (NPU) kuendesha mifumo mikubwa ya lugha (LLMs) ya faragha na ya ndani.’ Aliongeza kusisitiza faida: ‘Ujumuishaji huu unaruhusu uchakataji wa haraka zaidi, wenye ufanisi zaidi - yaani, matumizi madogo ya nishati - huku ukiweka data yako ndani na salama.’
Kuanzisha GAIA: Kurahisisha Uwekaji wa LLM Kwenye Kifaa
GAIA inajitokeza kama jibu la AMD kwa swali: Watumiaji wanawezaje kugusa kwa urahisi uwezo wa NPU wa mashine zao mpya zinazoendeshwa na Ryzen AI ili kuendesha mifumo tata ya AI? Ikiwasilishwa kama programu ya chanzo huria, GAIA inatoa kiolesura kilichorahisishwa kilichoundwa mahsusi kwa ajili ya kupeleka na kuingiliana na LLMs za kiwango kidogo moja kwa moja kwenye PC za Windows zilizo na maunzi ya hivi karibuni ya AMD. Mradi huu kwa makusudi unajengwa juu ya mifumo iliyopo ya chanzo huria, ikitaja hasa Lemonade kama msingi, ikionyesha roho ya ushirikiano ndani ya jumuiya pana ya wasanidi programu.
Kazi kuu ya GAIA ni kuondoa ugumu mwingi unaohusishwa kwa kawaida na kusanidi na kuendesha LLMs. Watumiaji hupewa mazingira yanayofikika zaidi, yaliyoboreshwa kutoka mwanzo kwa usanifu wa Ryzen AI wa AMD. Uboreshaji huu ni muhimu; unahakikisha kuwa programu inatumia NPU kwa ufanisi, ikiongeza utendaji na kupunguza matumizi ya nishati. Ingawa lengo kuu ni mfululizo wa Ryzen AI 300 na NPU yake yenye nguvu, AMD haijawaondoa kabisa watumiaji wa usanidi wa maunzi ya zamani au tofauti.
Mradi huu unaunga mkono familia maarufu na ndogo kiasi za LLM, ikiwa ni pamoja na mifumo inayotegemea usanifu unaopatikana kwa wingi wa Llama na Phi. Mifumo hii, ingawa labda haina ukubwa mkubwa wa majitu kama GPT-4, ina uwezo wa ajabu kwa aina mbalimbali za kazi kwenye kifaa. AMD inapendekeza matumizi yanayowezekana kuanzia chatbots zinazoingiliana zenye uwezo wa mazungumzo ya asili hadi kazi ngumu zaidi za hoja, ikionyesha utofauti unaotarajiwa kwa AI ya ndani inayoendeshwa na GAIA.
Kuchunguza Uwezo wa GAIA: Agents na Nguvu Mseto
Ili kuonyesha matumizi ya vitendo na kufanya teknolojia iwe muhimu mara moja, GAIA inakuja na uteuzi wa ‘agents’ zilizofafanuliwa awali, kila moja ikiundwa kwa kazi maalum:
- Chaty: Kama jina linavyopendekeza, agent hii hutoa uzoefu wa AI wa mazungumzo, ikifanya kazi kama chatbot kwa mwingiliano wa jumla na mazungumzo. Inatumia uwezo wa msingi wa LLM wa kutoa majibu ya maandishi yanayofanana na ya binadamu.
- Clip: Agent hii inazingatia kazi za kujibu maswali. Hasa, inajumuisha uwezo wa Retrieval-Augmented Generation (RAG), ikiiruhusu uwezekano wa kuchukua taarifa kutoka vyanzo vya nje kama nakala za YouTube ili kutoa majibu yenye taarifa zaidi au yanayohusiana na muktadha. Utendaji huu wa RAG huongeza kwa kiasi kikubwa msingi wa maarifa wa agent zaidi ya data ya awali ya mafunzo ya LLM.
- Joker: Agent nyingine inayotegemea RAG, Joker imeundwa mahsusi kwa ajili ya ucheshi, ikiwa na jukumu la kutengeneza vichekesho. Hii inaonyesha uwezekano wa matumizi maalum, ya ubunifu ya LLMs za ndani.
- Simple Prompt Completion: Hii inatoa mstari wa moja kwa moja zaidi kwa LLM ya msingi, ikiruhusu watumiaji kuingiza vidokezo na kupokea ukamilishaji wa moja kwa moja bila tabaka za mazungumzo au kazi maalum za agents zingine. Inatumika kama kiolesura cha msingi kwa mwingiliano wa moja kwa moja wa mfumo.
Utekelezaji wa agents hizi, hasa mchakato wa inference ambapo mfumo unazalisha majibu, hushughulikiwa hasa na NPU kwenye chipu zinazolingana za mfululizo wa Ryzen AI 300. Hii inahakikisha operesheni yenye ufanisi, ya matumizi madogo ya nishati. Hata hivyo, AMD pia imejumuisha hali ya juu zaidi ya ‘hybrid’ kwa mifumo fulani inayoungwa mkono. Mbinu hii bunifu inahusisha kwa nguvu kitengo cha usindikaji wa michoro kilichounganishwa cha prosesa (iGPU) pamoja na NPU. Kwa kutumia nguvu ya usindikaji sambamba ya iGPU, hali hii ya hybrid inaweza kutoa ongezeko kubwa la utendaji kwa kazi zinazohitaji nguvu nyingi za AI, ikiwapa watumiaji njia ya kuharakisha inference zaidi ya kile ambacho NPU inaweza kufikia peke yake.
Ikitambua mazingira tofauti ya maunzi, AMD pia hutoa chaguo mbadala. Toleo la GAIA lipo linalotegemea tu chembe za CPU kwa ukokotozi. Ingawa ni polepole zaidi na hutumia nishati nyingi zaidi kuliko hali za NPU au hybrid, toleo hili la CPU-pekee linahakikisha upatikanaji mpana zaidi, likiruhusu watumiaji wasio na maunzi ya hivi karibuni ya Ryzen AI kujaribu GAIA, ingawa kwa adhabu ya utendaji.
Msimamo wa Kimkakati na Faida ya Chanzo Huria
Uzinduzi wa GAIA unaweza kutazamwa ndani ya muktadha mpana wa soko la ushindani la semikondakta, hasa kuhusu uharakishaji wa AI. Kwa kipindi kirefu, NVIDIA imefurahia nafasi kubwa katika anga ya AI, kwa kiasi kikubwa kutokana na GPU zake zenye nguvu na mfumo ikolojia wa programu wa CUDA (Compute Unified Device Architecture) uliokomaa, ambao umekuwa kiwango cha ukweli kwa ajili ya kujifunza kwa mashine kwa utendaji wa juu. Kuendesha mifumo mikubwa kwa ufanisi kwenye maunzi ya watumiaji mara nyingi kuliwaelekeza wasanidi programu na wapenzi kuelekea matoleo ya NVIDIA.
Mpango wa GAIA wa AMD, pamoja na maunzi maalum ya NPU katika chipu za Ryzen AI, unawakilisha hatua ya kimkakati ya kupinga utawala huu, hasa katika soko linalokua la AI kwenye kifaa kwenye kompyuta ndogo na kompyuta za mezani. Kwa kutoa zana rahisi kutumia, iliyoboreshwa, na ya chanzo huria, AMD inalenga kujenga mfumo ikolojia kuzunguka uwezo wake wa maunzi ya AI, ikifanya majukwaa ya Ryzen AI kuvutia zaidi kwa wasanidi programu na watumiaji wa mwisho wanaopenda utekelezaji wa AI wa ndani. Lengo la wazi la uboreshaji wa NPU linatofautisha na mbinu zinazozingatia GPU na huangazia faida za ufanisi wa nishati zinazopatikana katika prosesa maalum za neural kwa kazi maalum za AI.
Uamuzi wa kutoa GAIA chini ya leseni huria ya MIT pia ni muhimu kimkakati. Inakaribisha ushirikiano na mchango kutoka kwa jumuiya ya kimataifa ya wasanidi programu. Mbinu hii inaweza kuharakisha maendeleo ya mradi, kusababisha ujumuishaji wa vipengele na mifumo mipya, na kukuza jumuiya iliyowekeza katika jukwaa la AI la AMD. AMD inakaribisha waziwazi maombi ya kuvuta (pull requests) kwa ajili ya marekebisho ya hitilafu na uboreshaji wa vipengele, ikiashiria kujitolea kwa kuendeleza GAIA kupitia juhudi za pamoja. Kufanya chanzo huria kunapunguza kizuizi kwa wasanidi programu kujaribu, kuunganisha, na uwezekano wa kujenga programu za kibiashara juu ya mfumo wa GAIA, na hivyo kuchochea zaidi mfumo ikolojia kuzunguka Ryzen AI.
Ingawa toleo la sasa linazingatia LLMs ndogo zinazofaa kwa utekelezaji kwenye kifaa, msingi uliowekwa na GAIA unaweza kufungua njia ya kusaidia mifumo na programu ngumu zaidi kadri teknolojia ya NPU inavyoendelea kusonga mbele. Inawakilisha taarifa wazi ya dhamira kutoka kwa AMD: kuwa nguvu kubwa katika enzi ya akili bandia ya kibinafsi, ya ndani, ikitoa maunzi na zana za programu zinazofikika zinazohitajika kuleta uwezo wa AI moja kwa moja mikononi mwa watumiaji, kwa usalama na ufanisi. Jina la utani ‘Generative AI Is Awesome’, ingawa labda si rasmi, linasisitiza shauku na tamaa ya kampuni katika mpaka huu wa kiteknolojia unaobadilika haraka.