Tangazo la hivi majuzi la Google la kuanzisha Gemini artificial intelligence (AI) chatbot kwa watoto walio chini ya miaka 13 limezua mjadala mkubwa na kuibua maswali muhimu kuhusu usalama mtandaoni na ulinzi wa watoto katika enzi ya kidijitali. Mpango huu, uliopangwa kuzinduliwa awali nchini Marekani na Kanada na baadaye nchini Australia, utafanya chatbot ipatikane kupitia akaunti za Google’s Family Link. Ingawa mbinu hii inawapa wazazi kiwango fulani cha udhibiti, pia inasisitiza changamoto inayoendelea ya kuwalinda watoto katika mazingira ya kiteknolojia yanayoendelea.
Uamuzi wa kuanzisha AI chatbots kwa watoto wadogo unatoa fursa na hatari. Kwa upande mmoja, zana hizi zinaweza kutoa msaada wa kielimu, kukuza ubunifu, na kutoa uzoefu wa kujifunza unaovutia. Kwa upande mwingine, zinaibua wasiwasi kuhusu kuambukizwa kwa maudhui yasiyofaa, uwezekano wa udanganyifu, na ukuzaji wa ujuzi wa kufikiri muhimu.
Jinsi Gemini AI Chatbot Inavyofanya Kazi
Akaunti za Google’s Family Link zimeundwa kuwapa wazazi usimamizi wa shughuli za mtandaoni za watoto wao. Wazazi wanaweza kudhibiti ufikiaji wa maudhui na programu mahususi, kama vile YouTube, kuweka mipaka na kufuatilia matumizi. Ili kuanzisha akaunti ya mtoto, wazazi lazima watoe taarifa za kibinafsi, ikiwa ni pamoja na jina la mtoto na tarehe ya kuzaliwa. Ingawa ukusanyaji huu wa data unaweza kuibua wasiwasi kuhusu faragha, Google inahakikisha kwamba data ya watoto haitatumika kwa mafunzo ya mfumo wa AI.
Kwa chaguo-msingi, ufikiaji wa chatbot utawezeshwa, na kuwataka wazazi kuzima kipengele kikamilifu ili kuzuia ufikiaji wa mtoto wao. Watoto wanaweza kutumia chatbot kutoa majibu ya maandishi au kuunda picha. Hata hivyo, Google inakiri uwezekano wa makosa na usahihi, ikisisitiza haja ya tathmini makini ya maudhui yanayotokana. Jambo la "hallucination" la AI, ambapo chatbots hubuni taarifa, linahitaji watoto kuthibitisha ukweli na vyanzo vya kuaminika, hasa wanapotumia chombo hicho kwa usaidizi wa kazi za nyumbani.
Hali ya Habari Inayotolewa
Injini za utafutaji za jadi kama Google hurejesha nyenzo zilizopo kwa watumiaji kukagua na kuchambua. Wanafunzi wanaweza kufikia makala za habari, majarida ya kitaaluma, na vyanzo vingine kukusanya taarifa kwa ajili ya kazi. Hata hivyo, zana za AI zinazozalisha hufanya kazi tofauti. Wanachambua mifumo katika nyenzo chanzo ili kuunda majibu mapya ya maandishi au picha kulingana na vidokezo vya mtumiaji. Kwa mfano, mtoto anaweza kuuliza mfumo "uchore paka," na AI itachanganua data ili kutambua sifa bainishi (k.m., masharubu, masikio yenye ncha, mkia mrefu) na kutoa picha inayojumuisha vipengele hivyo.
Tofauti kati ya taarifa iliyopatikana kupitia utafutaji wa Google na maudhui yaliyotolewa na chombo cha AI inaweza kuwa vigumu kwa watoto wadogo kuielewa. Tafiti zimeonyesha kuwa hata watu wazima wanaweza kudanganywa na maudhui yanayotokana na AI. Hata wataalamu wenye ujuzi wa hali ya juu, kama vile wanasheria, wamepotoshwa kutumia maudhui bandia yaliyotolewa na ChatGPT na chatbots nyingine. Hii inasisitiza umuhimu wa kuwafundisha watoto kuhusu hali ya maudhui yanayotokana na AI na haja ya tathmini muhimu.
Kuhakikisha Ufaafu wa Umri
Google inasisitiza kwamba Gemini itajumuisha "ulinzi uliojengwa ndani ulioundwa ili kuzuia uzalishaji wa maudhui yasiyofaa au yasiyo salama." Ulinzi huu unalenga kuwalinda watoto kutokana na kuambukizwa na nyenzo hatari.
Hata hivyo, ulinzi huu unaweza kuunda matatizo mapya bila kukusudia. Kwa mfano, kuzuia maneno fulani (k.m., "matiti") ili kuzuia ufikiaji wa maudhui yasiyofaa ya ngono kunaweza pia kuzuia ufikiaji wa taarifa zinazofaa kuhusu mabadiliko ya mwili wakati wa kubalehe. Hii inaangazia usawa mzuri kati ya kuwalinda watoto na kuwapa taarifa sahihi na muhimu.
Watoto wengi wana ujuzi mkubwa wa teknolojia na wana ujuzi wa kuvinjari programu na kukwepa udhibiti wa mfumo. Wazazi hawawezi kutegemea tu ulinzi uliojengwa ndani. Lazima wakague kikamilifu maudhui yanayotokana, wawasaidie watoto wao kuelewa jinsi mfumo unavyofanya kazi, na kutathmini usahihi na ufaafu wa taarifa iliyotolewa.
Hatari Zinazoweza Kutokea za AI Chatbots kwa Watoto
Tume ya eSafety imetoa ushauri wa usalama mtandaoni unaoelezea hatari zinazoweza kutokea za AI chatbots, hasa zile zilizoundwa kuiga mahusiano ya kibinafsi, kwa watoto wadogo. Ushauri huo unaonya kwamba marafiki wa AI wanaweza "kushiriki maudhui hatari, kupotosha ukweli, na kutoa ushauri ambao ni hatari." Watoto wadogo, ambao bado wanaendeleza ujuzi wa kufikiri muhimu na ujuzi wa maisha, wako katika hatari kubwa ya kupotoshwa au kudanganywa na programu za kompyuta.
Utafiti umechungua njia ambazo AI chatbots, kama vile ChatGPT, Replika, na Tessa, huiga mwingiliano wa kibinadamu kwa kuzingatia kanuni na makubaliano ya kijamii. Mifumo hii imeundwa kupata uaminifu wetu kwa kuakisi sheria zisizoandikwa zinazoongoza tabia ya kijamii. Kwa kuiga adabu hizi za kijamii, mifumo hii imeundwa kupata uaminifu wetu.
Mwingiliano huu unaofanana na binadamu unaweza kuchanganya na uwezekano wa hatari kwa watoto wadogo. Wanaweza kuamini kwamba chatbot ni mtu halisi na kuamini maudhui inayotoa, hata kama si sahihi au imebuniwa. Hii inaweza kuzuia ukuzaji wa ujuzi wa kufikiri muhimu na kuwafanya watoto waweze kudanganywa zaidi.
Kuwalinda Watoto Dhidi ya Madhara
Uzinduzi wa AI chatbot ya Gemini unaambatana na marufuku inayokuja ya Australia ya akaunti za mitandao ya kijamii kwa watoto walio chini ya miaka 16, iliyopangwa kufanyika Desemba mwaka huu. Ingawa marufuku hii inalenga kuwalinda watoto dhidi ya madhara ya mtandaoni, AI chatbots zinazozalisha zinaonyesha kwamba hatari za ushiriki wa mtandaoni zinaenea zaidi ya mitandao ya kijamii. Watoto na wazazi sawa lazima wafundishwe kuhusu matumizi sahihi na salama ya aina zote za zana za kidijitali.
Kwa kuwa AI chatbot ya Gemini haijaainishwa kama chombo cha mitandao ya kijamii, haitafungwa na marufuku ya Australia. Hii inamaanisha kwamba wazazi wa Australia wataendelea kukabiliana na changamoto ya kukaa mbele ya teknolojia zinazoibuka na kuelewa hatari zinazoweza kukabili watoto wao. Lazima pia watambue mapungufu ya marufuku ya mitandao ya kijamii katika kuwalinda watoto dhidi ya madhara.
Hali hii inasisitiza haja ya haraka ya kupitia upya sheria iliyopendekezwa ya wajibu wa utunzaji wa kidijitali ya Australia. Ingawa Umoja wa Ulaya na Uingereza zilitumia sheria ya wajibu wa utunzaji wa kidijitali mwaka wa 2023, toleo la Australia limekuwa limesimamishwa tangu Novemba 2024. Sheria hii ingewawajibisha makampuni ya teknolojia kwa kushughulikia maudhui hatari kwenye chanzo chake, na hivyo kuwalinda watumiaji wote.
Utangulizi wa AI chatbots kwa watoto wadogo unatoa changamoto ngumu ambayo inahitaji mbinu nyingi. Wazazi, waelimishaji, watunga sera, na makampuni ya teknolojia lazima wafanye kazi pamoja ili kuhakikisha kwamba watoto wanaweza kufaidika na fursa zinazotolewa na zana hizi huku wakisalia salama na kulindwa dhidi ya madhara. Hii ni pamoja na kuwafundisha watoto kuhusu hali ya AI, kukuza ujuzi wa kufikiri muhimu, na kutekeleza ulinzi thabiti ili kuzuia kuambukizwa na maudhui yasiyofaa.