Wakati watu wanazungumzia akili bandia (AI), mara nyingi wanawaza kuhusu models ambazo zinaendeshwa kwenye wingu kama ChatGPT au Google Gemini. Hata hivyo, Microsoft imezindua njia rahisi sana ya kuendesha AI ya ndani kwenye kompyuta binafsi (PC), na urahisi wake unastahili umakinifu wako.
Katika mkutano wa Microsoft Build Developers Conference uliofanyika wiki iliyopita, Microsoft ilitangaza Microsoft Foundry AI Local. Hii ni model kubwa ya lugha (LLM) ya ndani ya AI iliyoandaliwa kwa ajili ya watengenezaji programu, lakini ina umuhimu mkubwa kwa kila mtu anayetumaini kujaribu uwezo wa AI ya ndani. Hebu tuingie kwa undani zaidi kuhusu zana hii na tuone kwa nini inavutia sana.
Foundry AI Local: Enzi Mpya ya AI ya Ndani
Microsoft Foundry AI Local kimsingi ni zana ya mstari wa amri ambayo inaendesha LLM本地 kwenye mashine yako. Ingawa hadhira iliyokusudiwa hapo awali ni watengenezaji programu, ni mojawapo ya njia rahisi zaidi za kujaribu AI ya ndani kwa sasa, kwani inakushughulikia karibu kila kitu. Muhimu zaidi, pia inaweza kuboresha utendaji wa PC yako.
Fikiria kwamba unataka kusakinisha programu mpya. Njia ya jadi ni kwamba unahitaji kwenda kwenye tovuti au Microsoft Store, pata kiungo cha kupakua, kisha uambie Windows wapi kila kitu kiwekwe. Sasa kwa "winget," kila kitu kinakuwa rahisi zaidi. "winget" ni kama DoorDash ya maombi. Unafungua tu mstari wa amri na kuingiza jina la programu unayotaka, na "winget" hufanya kazi iliyobaki moja kwa moja kwako. Hata hauhitaji kuingia kwenye tovuti ya mtu mwingine.
Foundry AI Local inafanya kazi kwa njia sawa. Unahitaji tu kunakili na kubandika amri mbili kutoka kwa nakala hii, na unaweza kuanza mara moja kutumia. Ingawa Microsoft haijasema wazi kwamba unahitaji GPU au NPU maalum, hakika zitasaidia. Kimsingi, unahitaji mfumo wa Windows 10 au 11, angalau 8GB ya RAM na 3GB ya hifadhi (16GB ya RAM na nafasi ya diski ya 15GB inapendekezwa). Copilot+ PC ni ya hiari, lakini ikiwa unamiliki kifaa kilicho na processor ya Qualcomm Snapdragon X Elite, Nvidia RTX 2000 mfululizo au AMD Radeon 6000 mfululizo wa GPU au mifano mpya zaidi, utapata uzoefu bora zaidi.
Kuanza Haraka: Hatua za Kutumia Foundry AI Local
Hizi ndizo hatua za kina za jinsi ya kuanza kutumia Foundry AI Local:
Fungua terminal ya mstari wa amri: Bonyeza kitufe cha Windows na uanze kuingiza "terminal." Unapaswa kuona programu ya Windows Terminal kwenye orodha ya programu zinazopendekezwa, au inaweza kuonyeshwa kama Windows PowerShell. Hiyo haijalishi sana, zote zinaweza kutumika.
Ingiza amri: Katika kidokezo, ingiza amri zifuatazo: