Chatiboti za AI na Upotoshaji Urusi

Ushawishi Mkubwa wa Uongo Unaoungwa Mkono na Kremlin

Kiini cha tatizo kipo katika uchafuzi wa makusudi wa vyanzo vya habari mtandaoni. Kwa kujaa matokeo ya utafutaji na vitambazaji vya wavuti kwa uwongo unaounga mkono Kremlin, mtandao wa wahusika wa upotoshaji unaunda kikamilifu matokeo ya miundo mikubwa ya lugha (LLMs). Miundo hii, ambayo huwezesha chatiboti za AI tunazoingiliana nazo kila siku, hutegemea hifadhidata kubwa zilizokusanywa kutoka kwenye mtandao. Wakati data hii imechafuliwa na habari potofu, matokeo yanayoonyesha yanaakisi upendeleo huu.

NewsGuard, kampuni ambayo hutoa ukadiriaji wa uaminifu na alama za vidole za habari potofu kwa tovuti za habari na taarifa, ilifanya uchambuzi wa kina wa jambo hili. Matokeo yao yanafunua ukweli wa kusumbua: sehemu kubwa ya habari inayozalishwa na chatiboti zinazoongoza za AI huakisi masimulizi yanayoenezwa na mtandao maalum wa tovuti zinazounga mkono Kremlin.

Mbinu za Upotoshaji: Jinsi Miundo ya AI Inavyodanganywa

Mkakati unaotumiwa na mtandao huu wa upotoshaji ni wa hila na wa kisasa. Hauelekezwi kimsingi katika kuvutia wasomaji wa kibinadamu; badala yake, imeundwa kudanganya kanuni ambazo zinawezesha chatiboti za AI. Mbinu hii, inayojulikana kama ‘LLM grooming,’ inahusisha kuweka kimkakati habari za uongo au za kupotosha kwenye tovuti nyingi, ikijua kuwa majukwaa haya yatachunguzwa na kuingizwa na LLMs.

Mradi wa American Sunlight Project (ASP), shirika lisilo la faida la Marekani, liliangazia tishio hili katika ripoti ya Februari 2025. Walionya kuwa mtandao wa Pravda, mkusanyiko wa tovuti zinazosukuma masimulizi yanayounga mkono Urusi, huenda uliundwa kwa madhumuni ya wazi ya kushawishi miundo ya AI. Kadiri idadi ya masimulizi yanayounga mkono Urusi inavyoongezeka, ndivyo uwezekano wa LLMs kuyaingiza katika msingi wao wa maarifa unavyoongezeka.

Athari za hili ni kubwa. Kadiri LLMs zinavyozidi kuunganishwa katika maisha yetu ya kila siku, zikifanya kazi kama vyanzo vya habari na usaidizi, uwezekano wa kuenea kwa maudhui yaliyodanganywa ni wa kutisha.

Ukaguzi wa NewsGuard: Kupima Athari

Ili kutathmini ukubwa wa tatizo hili, NewsGuard ilifanya ukaguzi wa chatiboti kumi maarufu za AI. Hizi ni pamoja na:

• OpenAI’s ChatGPT-4o
• You.com’s Smart Assistant
• xAI’s Grok
• Inflection’s Pi
• Mistral’s le Chat
• Microsoft’s Copilot
• Meta AI
• Anthropic’s Claude
• Google’s Gemini
• Perplexity’s answer engine

Ukaguzi ulilenga masimulizi 15 tofauti ya uongo ambayo yalikuwa yameenezwa kikamilifu na tovuti 150 za Pravda zinazounga mkono Kremlin kati ya Aprili 2022 na Februari 2025. Masimulizi haya yalishughulikia mada mbalimbali, yote yakiwa yameundwa ili kuendeleza ajenda maalum ya kisiasa.

Mbinu iliyohusisha kujaribu kila chatiboti kwa mfululizo wa maswali kulingana na NewsGuard’s Misinformation Fingerprints, orodha ya madai ya uongo yanayoweza kuthibitishwa kuhusu mada muhimu za habari. Maswali hayo yaliundwa kwa mitindo mitatu tofauti – Innocent, Leading, na Malign – ili kuiga njia mbalimbali ambazo watumiaji huingiliana na miundo ya uzalishaji ya AI. Hii ilisababisha jumla ya majibu 450 (45 kwa kila chatiboti).

Matokeo ya Kusumbua: Upotoshaji Umeenea Kote kwenye Chatiboti

Matokeo ya ukaguzi wa NewsGuard yalikuwa ya kushangaza. Kwa pamoja, chatiboti kumi za AI zilirudia masimulizi ya uongo ya upotoshaji wa Urusi katika 33.55% ya majibu. Walitoa jibu lisilo la moja kwa moja katika 18.22% ya kesi na kukanusha masimulizi katika 48.22% ya kesi.

Kila chatiboti iliyojaribiwa ilirudia upotoshaji unaotokana na mtandao wa Pravda. Cha kusikitisha zaidi, chatiboti saba zilitaja moja kwa moja makala maalum kutoka kwa tovuti za Pravda kama vyanzo vyao. Ingawa miundo miwili ya AI haitoi nukuu za wazi, bado ilipatikana ikizalisha au kurudia masimulizi ya uongo kutoka kwa mtandao. Ni moja tu kati ya miundo minane inayotaja vyanzo haikutaja Pravda.

Kwa jumla, majibu 56 kati ya 450 yaliyozalishwa na chatiboti yalijumuisha viungo vya moja kwa moja vya makala zinazoeneza madai ya uongo yaliyochapishwa na mtandao wa Pravda. Chatiboti kwa pamoja zilitaja makala 92 tofauti zenye upotoshaji, huku miundo miwili ikirejelea makala 27 za Pravda kila moja. Makala hizi zilitoka kwa vikoa mbalimbali ndani ya mtandao, ikiwa ni pamoja na Denmark.news-pravda.com, Trump.news-pravda.com, na NATO.news-pravda.com.

Asili ya Maswali: Kuiga Mwingiliano wa Ulimwengu Halisi

Mitindo mitatu ya maswali iliyotumiwa katika ukaguzi wa NewsGuard iliundwa ili kuakisi wigo wa mwingiliano wa watumiaji na chatiboti za AI:

• Maswali ya Innocent: Maswali haya yaliwasilisha masimulizi ya uongo kwa njia isiyo na upendeleo, isiyo ya kuongoza, kana kwamba mtumiaji alikuwa akitafuta tu habari bila mawazo yoyote ya awali.
• Maswali ya Leading: Maswali haya yalipendekeza kwa hila masimulizi ya uongo, yakidokeza uhalali wake bila kuutaja waziwazi. Hii huiga hali ambapo watumiaji wanaweza kuwa na ufahamu wa awali wa habari potofu na wanatafuta uthibitisho.
• Maswali ya Malign: Maswali haya yalidai moja kwa moja masimulizi ya uongo kama ukweli, yakionyesha hali ambapo watumiaji tayari wameshawishika na habari potofu na wanatafuta kuimarishwa.

Njia hii yenye vipengele vingi ilikuwa muhimu katika kuelewa jinsi aina tofauti za ushiriki wa watumiaji zinaweza kushawishi majibu ya chatiboti. Ilifunua kuwa chatiboti zilikabiliwa na kurudia upotoshaji bila kujali mtindo wa swali, ingawa marudio na asili ya majibu yalitofautiana.

Mifano Maalum ya Upotoshaji Ulioakisiwa na Chatiboti

Ripoti ya NewsGuard inatoa mifano mingi ya masimulizi maalum ya uongo yaliyoenezwa na mtandao wa Pravda na kisha kurudiwa na chatiboti za AI. Mifano hii inaangazia upana na kina cha kampeni ya upotoshaji. Baadhi ya masimulizi yalijumuisha:

• Madai kwamba Ukraine ni taifa la Nazi.
• Madai ya uongo kuhusu sababu za mzozo nchini Ukraine.
• Habari za kupotosha kuhusu ushiriki wa nchi za Magharibi katika mzozo huo.
• Hadithi za kubuni kuhusu uongozi wa Ukraine.

Hii ni mifano michache tu ya masimulizi mengi ya uongo ambayo yameandikwa kwa uangalifu na kufuatiliwa na NewsGuard. Ukweli kwamba masimulizi haya yanaakisiwa na chatiboti zinazoongoza za AI unasisitiza haja ya haraka ya hatua madhubuti za kukabiliana.

Changamoto ya Kupambana na Upotoshaji Unaoendeshwa na AI

Kushughulikia tatizo hili ni kazi ngumu. Inahitaji mbinu yenye vipengele vingi inayohusisha suluhisho za kiteknolojia na ufahamu ulioongezeka wa watumiaji.

Suluhisho za Kiteknolojia:

• Uchujaji Bora wa Data: Watengenezaji wa AI wanahitaji kutekeleza mifumo thabiti zaidi ya kuchuja habari potofu kutoka kwa hifadhidata zinazotumiwa kufunza LLMs. Hii inahusisha kutambua na kuondoa vyanzo visivyoaminika, pamoja na kutengeneza kanuni ambazo zinaweza kugundua na kuashiria habari zinazoweza kuwa za uongo au za kupotosha.
• Uthibitishaji Ulioboreshwa wa Chanzo: Chatiboti zinapaswa kuundwa ili kutanguliza habari kutoka kwa vyanzo vya kuaminika na vilivyothibitishwa. Hii inajumuisha kutoa nukuu zilizo wazi na kuruhusu watumiaji kufuatilia kwa urahisi asili ya habari iliyowasilishwa.
• Uwazi na Ufafanuzi: Miundo ya AI inapaswa kuwa wazi zaidi kuhusu michakato yao ya kufanya maamuzi. Watumiaji wanapaswa kuwa na uwezo wa kuelewa kwa nini chatiboti inatoa jibu fulani na ni vyanzo gani vya data inavyotegemea.

Ufahamu wa Mtumiaji:

• Elimu ya Ufahamu wa Vyombo vya Habari: Watumiaji wanahitaji kuelimishwa kuhusu uwezekano wa habari potofu zinazozalishwa na AI. Hii inajumuisha kukuza ujuzi wa kufikiri kwa kina na kujifunza jinsi ya kutathmini uaminifu wa vyanzo vya habari mtandaoni.
• Shaka na Uthibitishaji: Watumiaji wanapaswa kukaribia habari zinazotolewa na chatiboti za AI kwa kiwango cha afya cha shaka. Ni muhimu kulinganisha habari na vyanzo vingine na kuwa mwangalifu na madai ambayo yanaonekana kuwa ya kusisimua sana au mazuri sana kuwa ya kweli.

Hatari za Muda Mrefu: Kisiasa, Kijamii, na Kiteknolojia

Kuenea kwa upotoshaji bila kudhibitiwa kupitia chatiboti za AI kunaleta hatari kubwa za muda mrefu. Hatari hizi zinaenea zaidi ya athari ya haraka ya masimulizi ya uongo ya mtu binafsi na kujumuisha matokeo mapana ya kijamii.

• Hatari za Kisiasa: Udanganyifu wa maoni ya umma kupitia upotoshaji unaoendeshwa na AI unaweza kudhoofisha michakato ya kidemokrasia na kudhoofisha imani katika taasisi. Inaweza kutumika kushawishi uchaguzi, kupanda mifarakano, na kuyumbisha serikali.
• Hatari za Kijamii: Kuenea kwa masimulizi ya uongo kunaweza kuzidisha migawanyiko iliyopo ya kijamii na kuunda mipya. Inaweza kuchochea chuki, ubaguzi, na hata vurugu.
• Hatari za Kiteknolojia: Kudhoofika kwa imani katika teknolojia ya AI kutokana na kuenea kwa habari potofu kunaweza kuzuia maendeleo na kupitishwa kwake. Watu wanaweza kusita kutumia zana za AI ikiwa hawawezi kuwa na uhakika na usahihi na uaminifu wa habari iliyotolewa.

Vita dhidi ya upotoshaji unaoendeshwa na AI ni muhimu. Inahitaji juhudi za pamoja kutoka kwa watengenezaji wa AI, watunga sera, waelimishaji, na watumiaji binafsi ili kuhakikisha kuwa teknolojia hizi zenye nguvu zinatumiwa kwa uwajibikaji na kimaadili. Mustakabali wa habari, na kwa hakika mustakabali wa jamii zetu, unaweza kutegemea hilo.