Mbinu za ‘Ulishaji wa LLM’
Mtandao wa Pravda unafanya kazi kupitia mtandao mpana wa takriban tovuti 150 za habari bandia. Tovuti hizi, hata hivyo, hazijaundwa kwa ajili ya matumizi ya binadamu. Zikiwa na idadi ndogo ya watembeleaji – kurasa nyingi zikipokea chini ya wageni 1,000 kwa mwezi – lengo lao kuu ni kulisha maudhui kwenye mifumo ya AI. Mkakati huu unawakilisha mbinu mpya ya upotoshaji, inayoenda zaidi ya mbinu za jadi zinazolenga wasomaji wa kibinadamu moja kwa moja.
Mbinu hii inajulikana kama ‘LLM grooming,’ neno linaloelezea ujanja wa makusudi wa data ya mafunzo ya AI. Mtandao unafanikisha hili kwa kuchapisha kwa wingi maudhui ambayo yameboreshwa sana kwa injini za utafutaji (SEO). Hii inahakikisha kwamba propaganda inamezwa kwa urahisi na kusambazwa tena na miundo ya AI, ikishawishi matokeo yao na uwezekano wa kuunda mtazamo wa umma.
John Mark Dougan, Mmarekani anayeishi Moscow na aliyetambuliwa na NewsGuard kama anayedaiwa kuunga mkono kampeni za upotoshaji za Urusi, alielezea kanuni ya msingi katika mkutano wa ndani: ‘Kadiri habari hii inavyozidi kuwa tofauti, ndivyo inavyoathiri mafunzo na AI ya baadaye.’ Taarifa hii inaangazia asili ya hila ya operesheni hiyo, inayolenga kuharibu kwa hila data ya msingi ambayo mifumo ya AI imejengwa.
Ukubwa na Upeo wa Operesheni
Ukubwa wa shughuli za mtandao wa Pravda ni wa kushangaza. Mnamo 2024 pekee, tovuti hizi zilichapisha takriban nakala milioni 3.6 katika nchi 49. Majina ya vikoa huchaguliwa kimkakati kuiga vyanzo halali vya habari, na mifano ikijumuisha NATO.News-Pravda.com, Trump.News-Pravda.com, na Macron.News-Pravda.com. Uigaji huu unaongeza safu ya udanganyifu, na kuifanya iwe vigumu zaidi kwa watazamaji wa kawaida kutofautisha kati ya maudhui halisi na yaliyotungwa.
Maudhui yenyewe yanahusu mada mbalimbali, lakini mara kwa mara yanakuza masimulizi yanayounga mkono Urusi na kudhoofisha mitazamo ya Magharibi. Mtandao umekuwa ukifanya kazi tangu angalau Aprili 2022, na uchambuzi wa NewsGuard ulilenga hadithi 15 za uwongo zinazoweza kuthibitishwa zilizosambazwa na mtandao wa Pravda kati ya wakati huo na Februari 2025.
Udhaifu wa Chatbots za AI
Uchunguzi wa NewsGuard ulihusisha kujaribu chatbots kadhaa maarufu za AI ili kutathmini udhaifu wao kwa upotoshaji wa mtandao wa Pravda. Mifumo iliyojaribiwa ilijumuisha:
- OpenAI’s ChatGPT-4o
- You.com’s Smart Assistant
- xAI’s Grok
- Inflection’s Pi
- Mistral’s le Chat
- Microsoft’s Copilot
- Meta AI
- Anthropic’s Claude
- Google’s Gemini
- Perplexity
Matokeo yalikuwa ya kutia wasiwasi. Chatbots za AI zilikubali masimulizi ya uwongo kutoka kwa mtandao wa Pravda katika 33.5% ya kesi. Wakati mifumo ilitambua kwa usahihi maudhui ya Kirusi kama upotoshaji katika 48.2% ya matukio, wakati mwingine ilinukuu vyanzo vya kupotosha, na uwezekano wa kuvipa uaminifu usiofaa. 18.2% iliyobaki ya majibu hayakuwa na uhakika, ikionyesha zaidi changamoto katika kutambua ukweli kutoka kwa uwongo katika enzi ya maudhui yanayozalishwa na AI.
Changamoto ya Kukabiliana na Upotoshaji Unaoendeshwa na AI
Kukabiliana na aina hii ya ujanja kunaleta changamoto kubwa. Mbinu za jadi za kuzuia tovuti zinazojulikana za upotoshaji zinathibitika kuwa hazifai. Mamlaka yanapozuia vikoa vya Pravda, vipya huibuka haraka, ikionyesha wepesi na ustahimilivu wa mtandao.
Zaidi ya hayo, upotoshaji unapita kupitia njia nyingi kwa wakati mmoja, mara nyingi na tovuti tofauti za mtandao zikirudisha maudhui ya kila mmoja. Hii inaunda mtandao tata wa vyanzo vilivyounganishwa, na kuifanya iwe vigumu kutenga na kuondoa propaganda kwenye mzizi wake. Kuzuia tovuti tu kunatoa ulinzi mdogo dhidi ya kampeni pana, iliyoratibiwa.
Muktadha Mpana: Ujanja wa AI Unaofadhiliwa na Serikali
Shughuli za mtandao wa Pravda sio matukio ya pekee. Zinalingana na muundo mpana wa juhudi zinazofadhiliwa na serikali za kutumia AI kwa madhumuni ya upotoshaji. Utafiti wa hivi majuzi wa OpenAI ulifichua kuwa wahusika wanaoungwa mkono na serikali kutoka Urusi, Uchina, Iran, na Israeli tayari wamejaribu kutumia mifumo ya AI kwa kampeni za propaganda. Operesheni hizi mara nyingi huchanganya maudhui yanayozalishwa na AI na nyenzo za jadi, zilizoundwa kwa mikono, zikififisha mipaka kati ya habari halisi na iliyodanganywa.
Matumizi ya AI katika ujanja wa kisiasa hayazuiliwi kwa wahusika wa serikali. Vikundi vya kisiasa, kama vile chama cha mrengo mkali wa kulia cha Ujerumani AFD, pia vimeonekana vikitumia miundo ya picha ya AI kwa madhumuni ya propaganda. Hata watu kama Donald Trump wamejihusisha na maudhui yanayozalishwa na AI, kama mtumiaji na, kwa kushangaza, kwa kuweka lebo habari halisi kama bandia zinazozalishwa na AI. Mbinu hii, iliyotambuliwa kama aina ya propaganda-kinzani, inapanda kutoaminiana katika habari zote za mtandaoni, na uwezekano wa kuwafanya watu kutegemea tu watu wanaoaminika, bila kujali usahihi wa ukweli.
Hata muundo wa miundo ya AI yenyewe unaweza kuathiriwa na ajenda za serikali. Miundo ya AI ya Kichina, kwa mfano, imepatikana kuwa imepakiwa awali na udhibiti na propaganda, ikionyesha vipaumbele vya kisiasa vya serikali ya China.
Kuzama kwa Kina: Mifano Maalum ya Masimulizi ya Uongo
Ingawa ripoti ya NewsGuard haielezi kwa kina kila simulizi la uwongo lililoenezwa na mtandao wa Pravda, mbinu ya kutumia hadithi za uwongo zinazoweza kuthibitishwa inapendekeza muundo wa kueneza habari potofu iliyoundwa ili:
- Kudhoofisha Taasisi za Magharibi: Hadithi zinaweza kuonyesha kwa uwongo NATO kama ya kichokozi au isiyo imara, au kutunga kashfa zinazohusisha viongozi wa Magharibi.
- Kukuza Hisia za Kuunga Mkono Urusi: Masimulizi yanaweza kutia chumvi mafanikio ya kijeshi ya Urusi, kupunguza unyanyasaji wake wa haki za binadamu, au kuhalalisha vitendo vyake kwenye jukwaa la kimataifa.
- Kupanda Mifarakano na Mgawanyiko: Maudhui yanaweza kulenga kuzidisha mivutano iliyopo ya kijamii na kisiasa ndani ya nchi za Magharibi, yakikuza masuala yenye migawanyiko na kukuza mgawanyiko.
- Kupotosha Ukweli Kuhusu Matukio Maalum: Habari za uwongo zinaweza kuenezwa kuhusu matukio kama vile chaguzi, migogoro, au matukio ya kimataifa, ikipotosha simulizi ili kupendelea tafsiri inayounga mkono Urusi.
Uzi thabiti ni ujanja wa habari ili kutumikia ajenda maalum ya kijiografia. Matumizi ya AI yanakuza ufikiaji na athari inayowezekana ya masimulizi haya, na kuyafanya kuwa magumu zaidi kugundua na kukabiliana nayo.
Athari za Muda Mrefu
Athari za upotoshaji huu unaoendeshwa na AI ni kubwa. Mmonyoko wa uaminifu katika vyanzo vya habari, uwezekano wa ujanja wa maoni ya umma, na kuyumbisha michakato ya kidemokrasia yote ni mambo ya kutia wasiwasi sana. Kadiri mifumo ya AI inavyozidi kuunganishwa katika maisha yetu ya kila siku, uwezo wa kutofautisha kati ya ukweli na uwongo unazidi kuwa muhimu.
Mbinu ya ‘LLM grooming’ inawakilisha ongezeko kubwa katika mazingira ya vita vya habari. Inaangazia udhaifu wa mifumo ya AI kwa ujanja na hitaji la ulinzi thabiti dhidi ya tishio hili linaloibuka. Changamoto haipo tu katika kutambua na kuzuia vyanzo vya upotoshaji lakini pia katika kuandaa mikakati ya kuchanja miundo ya AI dhidi ya aina hizi za hila lakini zilizoenea za ushawishi. Hii inahitaji mbinu yenye pande nyingi, inayohusisha:
- Ujuzi ulioboreshwa wa AI: Kuelimisha umma kuhusu uwezekano wa upotoshaji unaozalishwa na AI na kukuza ujuzi wa kufikiri kwa kina.
- Zana zilizoboreshwa za Ugunduzi wa AI: Kuandaa mbinu za kisasa zaidi za kutambua na kuweka alama maudhui yanayozalishwa na AI na upotoshaji.
- Data ya Mafunzo ya AI iliyoimarishwa: Kutekeleza hatua za kuhakikisha uadilifu na utofauti wa data ya mafunzo ya AI, na kuifanya iwe sugu zaidi kwa ujanja.
- Ushirikiano wa Kimataifa: Kukuza ushirikiano kati ya serikali, kampuni za teknolojia, na watafiti ili kushughulikia changamoto hii ya kimataifa.
- Kuongezeka kwa Uwazi: Watengenezaji wa AI wanapaswa kuwa wazi kuhusu data ya mafunzo inayotumiwa na upendeleo unaowezekana ambao unaweza kuwepo ndani ya miundo yao.
- Uwajibikaji wa Kialgoriti: Kuwawajibisha watengenezaji wa AI kwa matokeo ya mifumo yao, haswa wakati matokeo hayo yanatumiwa kueneza upotoshaji.
Vita dhidi ya upotoshaji unaoendeshwa na AI ni ngumu na inabadilika. Inahitaji juhudi za pamoja kutoka kwa watu binafsi, mashirika, na serikali ili kulinda uadilifu wa habari na kulinda misingi ya kufanya maamuzi sahihi. Shughuli za mtandao wa Pravda zinatumika kama ukumbusho mkali wa hatari zinazohusika na uharaka wa kushughulikia tishio hili linaloongezeka. Mustakabali wa mazungumzo ya umma yenye taarifa, na uwezekano wa uthabiti wa jamii za kidemokrasia, unaweza kutegemea uwezo wetu wa kukabiliana kwa mafanikio na aina hii mpya ya ujanja. Changamoto sio ya kiteknolojia tu; pia ni ya kijamii, inayohitaji kujitolea upya kwa ukweli, usahihi, na kufikiri kwa kina katika enzi ya kidijitali.