Kuboresha Mfululizo wa Granite: Uwezo Uliozingatia, Alama Ndogo
Mifumo ya Granite 3.2 ya IBM inawakilisha mwendelezo wa mkakati wa kampuni wa kutengeneza mifumo midogo. Mifumo hii imeundwa ili kutoa uwezo maalum bila kuweka mahitaji makubwa kwenye rasilimali za kompyuta. Mbinu hii inalingana na mahitaji ya vitendo ya biashara nyingi zinazohitaji suluhisho za AI ambazo zina nguvu na zinafaa kwa gharama.
Mifumo hii inapatikana kwa uwazi chini ya leseni ya Apache 2.0 kwenye Hugging Face. Matoleo yaliyochaguliwa yanapatikana pia kupitia jukwaa la IBM lenyewe la watsonx.ai, pamoja na Ollama, Replicate, na LM Studio. Upatikanaji huu mpana unaimarishwa zaidi na mipango ya kuunganisha mifumo hii katika Red Hat Enterprise Linux AI 1.5 katika miezi ijayo, ikisisitiza kujitolea kwa IBM kwa AI ya chanzo huria.
Kuleta Mapinduzi katika Uchakataji wa Hati: Muundo wa Granite Vision
Kipengele bora cha toleo hili ni muundo mpya wa lugha ya ‘vision’ iliyoundwa mahsusi kwa ajili ya kazi za uelewa wa hati. Muundo huu unawakilisha maendeleo makubwa katika jinsi biashara zinavyoweza kuingiliana na na kutoa taarifa kutoka kwa hati. Kulingana na majaribio ya ndani ya IBM, muundo huu mpya unafanya kazi sawa na, au hata kuzidi, mifumo mikubwa zaidi ya washindani kwenye majaribio yaliyoundwa mahsusi kuakisi mzigo wa kazi wa kiwango cha biashara.
Ukuzaji wa uwezo huu ulihusisha kutumia zana ya chanzo huria ya IBM ya Docling. Zana hii ilitumika kuchakata hati za PDF milioni 85, na kuzalisha jozi milioni 26 za maswali na majibu ya kubuni. Maandalizi haya ya kina yanahakikisha kuwa muundo huo umewekwa vizuri kushughulikia mtiririko wa kazi wenye hati nyingi ambao ni tabia ya mazingira mengi ya biashara, ikiwa ni pamoja na huduma za fedha, afya, na sheria.
Takwimu Muhimu Zinaangazia Ukubwa na Ufanisi:
- Milioni 85: Idadi ya hati za PDF zilizochakatwa kwa kutumia zana ya Docling ya IBM ili kufunza muundo mpya wa ‘vision’. Seti hii kubwa ya data inasisitiza utayari wa muundo kwa changamoto za uchakataji wa hati za ulimwengu halisi.
- 30%: Upunguzaji wa ukubwa uliofikiwa katika mifumo ya usalama ya Granite Guardian huku ikidumisha viwango vya utendaji. Hii inaonyesha kujitolea kwa IBM katika kuboresha ufanisi bila kuathiri usalama.
- Miaka 2: Kiwango cha juu cha utabiri wa mifumo ya TinyTimeMixers ya IBM, licha ya kuwa na vigezo chini ya milioni 10. Hii inaonyesha uwezo wa ajabu wa mifumo hii maalum kwa utabiri wa muda mrefu.
Uboreshaji wa Hoja: Mlolongo wa Mawazo na Kuongeza Ufahamu
IBM pia imejumuisha hoja za “mlolongo wa mawazo” katika matoleo ya vigezo 2B na 8B ya Granite 3.2. Kipengele hiki kinaruhusu mifumo kukaribia matatizo kwa njia iliyopangwa, ya kimfumo, ikiyavunja katika hatua zinazoakisi michakato ya hoja ya binadamu. Hii huongeza uwezo wa mifumo kukabiliana na kazi ngumu zinazohitaji upunguzaji wa kimantiki.
Muhimu zaidi, watumiaji wana unyumbufu wa kuwezesha au kuzima uwezo huu kulingana na ugumu wa kazi. Uwezo huu wa kubadilika ni tofauti muhimu, kuruhusu mashirika kuboresha matumizi ya rasilimali kulingana na mahitaji yao maalum. Kwa kazi rahisi, hoja za mlolongo wa mawazo zinaweza kuzimwa ili kuhifadhi nguvu ya kompyuta, wakati kwa matatizo magumu zaidi, inaweza kuwezeshwa ili kutumia uwezo kamili wa hoja wa mfumo.
Maboresho haya yamesababisha maboresho makubwa katika utendaji wa mfumo wa 8B kwenye vigezo vya kufuata maagizo, ikizidi matoleo ya awali. Kupitia mbinu bunifu za “kuongeza ufahamu”, IBM imeonyesha kuwa hata mfumo huu mdogo unaweza kushindana kwa ufanisi na mifumo mikubwa zaidi kwenye vigezo vya hoja za hisabati. Hii inaangazia uwezo wa mifumo midogo, iliyoboreshwa ili kutoa utendaji wa kuvutia katika vikoa maalum.
Usalama na Uhalisi: Masasisho ya Granite Guardian
Mifumo ya usalama ya Granite Guardian, iliyoundwa kufuatilia na kupunguza hatari zinazoweza kuhusishwa na maudhui yanayozalishwa na AI, pia imepitia masasisho makubwa. Mifumo hii imepunguzwa kwa ukubwa kwa 30% huku ikidumisha viwango vyao vya utendaji. Uboreshaji huu unachangia ufanisi mkubwa na kupunguza matumizi ya rasilimali.
Zaidi ya hayo, mifumo hii sasa inajumuisha kipengele kinachoitwa “imani iliyosemwa.” Kipengele hiki kinatoa tathmini ya hatari ya kina zaidi kwa kukubali viwango vya kutokuwa na uhakika katika ufuatiliaji wa usalama. Badala ya kutoa tu uainishaji wa binary salama/si salama, mifumo inaweza kueleza viwango tofauti vya imani katika tathmini zao, ikitoa watumiaji tathmini ya taarifa zaidi na ya uwazi.
TinyTimeMixers: Utabiri wa Muda Mrefu kwa Mipango ya Kimkakati
Mbali na masasisho ya Granite, IBM pia imetoa kizazi kijacho cha mifumo yake ya TinyTimeMixers. Mifumo hii ni midogo sana, ikiwa na vigezo chini ya milioni 10 – sehemu ya ukubwa wa mifumo mingine mingi katika tasnia. Licha ya ukubwa wao mdogo, mifumo hii maalum ina uwezo wa kutabiri data ya mfululizo wa wakati hadi miaka miwili katika siku zijazo.
Uwezo huu ni muhimu sana kwa anuwai ya matumizi ya biashara, ikiwa ni pamoja na:
- Uchambuzi wa Mwenendo wa Kifedha: Kutabiri mienendo ya soko na kutambua fursa za uwekezaji.
- Mipango ya Ugavi: Kuboresha viwango vya hesabu na kutarajia mabadiliko ya mahitaji.
- Usimamizi wa Hesabu ya Rejareja: Kuhakikisha viwango vya kutosha vya hisa ili kukidhi mahitaji ya wateja huku ukipunguza taka.
Matumizi haya yote yanategemea uwezo wa kufanya maamuzi sahihi kulingana na makadirio ya muda mrefu, na kufanya mifumo ya TinyTimeMixers kuwa zana yenye nguvu kwa mipango ya kimkakati ya biashara.
Kushughulikia Vikwazo vya Biashara vya Ulimwengu Halisi
Uwezo wa kugeuza uwezo wa hoja ndani ya mifumo ya Granite unashughulikia moja kwa moja changamoto ya vitendo katika utekelezaji wa AI. Mbinu za hoja za hatua kwa hatua, ingawa zina nguvu, zinahitaji nguvu kubwa ya kompyuta ambayo si lazima kila wakati. Kwa kufanya kipengele hiki kuwa cha hiari, IBM inawezesha mashirika kupunguza gharama za kompyuta kwa kazi rahisi huku ikihifadhi chaguo la hoja ya hali ya juu kwa matatizo magumu zaidi.
Mbinu hii inaonyesha ufahamu wa kina wa vikwazo vya biashara vya ulimwengu halisi, ambapo ufanisi na ufanisi wa gharama mara nyingi ni muhimu kama utendaji mbichi. Kuzingatia kwa IBM katika kutoa suluhisho za vitendo ambazo zinaweza kulengwa kwa mahitaji maalum ya biashara ni tofauti muhimu katika soko la AI lililojaa watu wengi.
Kupata Nguvu: Ushahidi wa Athari ya Vitendo
Mkakati wa IBM wa kutengeneza mifumo midogo, maalum unaonekana kuendana na soko. Mfumo uliopita wa Granite 3.1 8B hivi karibuni ulipata utendaji mzuri kwenye Salesforce LLM Benchmark for Customer Relationship Management (CRM). Kipimo hiki kimeundwa mahsusi kutathmini utendaji wa LLMs kwenye kazi zinazohusiana na CRM, kama vile uchambuzi wa mwingiliano wa wateja na uzalishaji wa maudhui ya kibinafsi.
Utendaji mzuri wa mfumo wa Granite 3.1 8B kwenye kipimo hiki unaonyesha kuwa mifumo midogo, maalum inaweza kukidhi mahitaji maalum ya biashara kwa ufanisi. Hii inatoa ushahidi zaidi kwamba mbinu ya IBM si tu ya kinadharia bali pia inafaa kivitendo.
Kuzingatia Ufanisi, Muunganisho, na Athari ya Ulimwengu Halisi
Sriram Raghavan, Makamu wa Rais wa Utafiti wa AI wa IBM, anafupisha falsafa ya kampuni kwa ufupi: “Enzi inayofuata ya AI inahusu ufanisi, muunganisho, na athari ya ulimwengu halisi – ambapo biashara zinaweza kufikia matokeo mazuri bila matumizi makubwa kwenye kompyuta. Maendeleo ya hivi karibuni ya Granite ya IBM yanazingatia suluhisho huria yanaonyesha hatua nyingine mbele katika kufanya AI ipatikane zaidi, iwe na gharama nafuu na yenye thamani kwa biashara za kisasa.”
Taarifa hii inajumuisha kujitolea kwa IBM katika kutengeneza suluhisho za AI ambazo si tu za kiteknolojia bali pia za vitendo, zinazopatikana, na zinazolingana na mahitaji ya ulimwengu halisi ya biashara. Kuzingatia suluhisho huria kunasisitiza zaidi kujitolea kwa IBM katika kukuza ushirikiano na uvumbuzi ndani ya jamii ya AI. Mkazo unabadilika kutoka kwa kujenga tu mifumo mikubwa zaidi hadi kuunda zana za AI ambazo zinatoa thamani inayoonekana na kuwezesha biashara kufikia malengo yao ya kimkakati.