Utaalamu wa AI waongeza wasiwasi wa biohazard

Upanga Wenye Makali Kuwili wa AI katika Utafiti wa Virusi

Utafiti mpya unaonyesha kwamba mifumo ya kisasa ya akili bandia (AI), ikiwa ni pamoja na ile inayoendesha majukwaa kama ChatGPT na Claude, sasa inaonyesha uwezo wa kutatua matatizo katika maabara za virusi (virology wet labs) ambao unazidi ule wa wataalamu wa virusi wenye uzoefu walio na PhD. Ufunuo huu, ingawa una uwezo mkubwa wa kuendeleza kinga ya magonjwa, pia unazua wasiwasi mkubwa kuhusu uwezekano wa matumizi mabaya ya AI kutengeneza silaha hatari za kibiolojia, hasa na watu wasio na utaalamu na maadili muhimu.

Utafiti huo, ambao ulishirikishwa na TIME pekee, ulikuwa juhudi za pamoja zilizohusisha watafiti kutoka Center for AI Safety, MIT’s Media Lab, UFABC (chuo kikuu cha Brazil), na SecureBio, shirika lisilo la faida lililojitolea kuzuia milipuko ya magonjwa. Timu ya utafiti ilishauriana na wataalamu wakuu wa virusi kuunda mtihani mgumu wa vitendo ambao ulipima uwezo wa mifumo ya AI kutatua kwa ufanisi matatizo ya taratibu ngumu za maabara na itifaki zinazotumiwa sana katika utafiti wa virusi.

Matokeo ya mtihani yalikuwa ya kushangaza. Wataalamu wa virusi wa ngazi ya PhD, licha ya mafunzo yao makubwa na uzoefu, walipata wastani wa alama za usahihi wa 22.1% tu katika maeneo yao ya utaalamu. Kwa upande mwingine, mfumo wa o3 wa OpenAI ulifikia usahihi wa 43.8%, huku Gemini 2.5 Pro wa Google akipata 37.6%. Matokeo haya yanaonyesha kwamba mifumo ya AI inapata haraka ujuzi na stadi zinazohitajika kufanya kazi ngumu katika maabara za virusi, na inaweza kuzidi uwezo wa wataalamu wa kibinadamu katika maeneo fulani.

Wasiwasi Kuhusu Uundaji wa Silaha za Kibiolojia

Seth Donoughe, mwanasayansi wa utafiti katika SecureBio na mwandishi mwenza wa utafiti huo, alieleza wasiwasi wake kuhusu matokeo ya utafiti huu. Alisema kwamba, kwa mara ya kwanza katika historia, karibu mtu yeyote aliye na uwezo wa kufikia mifumo hii ya AI anaweza kuwa na mtaalamu wa virusi wa AI ambaye hana uamuzi, ambaye anaweza kuwaongoza kupitia taratibu ngumu za maabara zinazohitajika kuunda silaha za kibiolojia.

Donoughe alisisitiza kwamba katika historia yote, majaribio mengi yamefanywa kuunda silaha za kibiolojia, lakini mengi ya majaribio haya yameshindwa kutokana na ukosefu wa upatikanaji wa utaalamu muhimu. Alionya kwamba upatikanaji mpana wa mifumo ya AI yenye uwezo wa kutoa utaalamu huu unazua wasiwasi mkubwa kuhusu uwezekano wa matumizi mabaya na haja ya tahadhari katika jinsi uwezo huu unasambazwa.

• Hatari ya matumizi mabaya na watu wasio na utaalamu.
• Uwezekano wa kuunda silaha hatari za kibiolojia.
• Haja ya tahadhari katika kusambaza utaalamu wa AI katika virusi.

Maabara za AI Zaitikia Wasiwasi

Kujibu matokeo ya utafiti, waandishi walishirikisha matokeo na maabara kuu za AI, na kusababisha baadhi kuchukua hatua. Kwa mfano, xAI ilichapisha mfumo wa usimamizi wa hatari unaoelezea nia yake ya kutekeleza ulinzi wa virusi katika matoleo ya baadaye ya mfumo wake wa AI Grok. OpenAI iliarifu TIME kwamba ilikuwa ‘imetumia hatua mpya za kupunguza hatari za kibiolojia katika ngazi ya mfumo’ kwa mifumo yake mipya iliyotolewa wiki iliyopita. Anthropic ilijumuisha matokeo ya utendaji wa mfumo kwenye karatasi katika kadi za mfumo za hivi karibuni, lakini haikupendekeza hatua maalum za kupunguza. Gemini ya Google ilikataa kutoa maoni kwa TIME.

Majibu haya yanaonyesha ufahamu unaoongezeka miongoni mwa watengenezaji wa AI kuhusu hatari zinazoweza kutokea zinazohusiana na uwezo unaoongezeka wa AI katika virusi na haja ya kutekeleza ulinzi ili kuzuia matumizi mabaya.

Ahadi ya AI katika Kupambana na Magonjwa

Licha ya wasiwasi kuhusu uundaji wa silaha za kibiolojia, AI pia ina ahadi kubwa ya kuendeleza utafiti wa virusi na kupambana na magonjwa ya kuambukiza. Viongozi wa AI wamegundua kwa muda mrefu uwezo wa AI kubadilisha biomedicine na kuharakisha maendeleo ya matibabu na tiba mpya.

Kwa mfano, Mkurugenzi Mtendaji wa OpenAI, Sam Altman, alisema katika Ikulu ya White House mnamo Januari kwamba ‘kadiri teknolojia hii inavyoendelea, tutaona magonjwa yakitibiwa kwa kiwango ambacho hakijawahi kushuhudiwa.’ Matumaini haya yanaungwa mkono na dalili za kutia moyo za maendeleo katika eneo hili. Mapema mwaka huu, watafiti katika Chuo Kikuu cha Florida’s Emerging Pathogens Institute waliunda algorithm yenye uwezo wa kutabiri ni aina gani ya virusi vya korona inaweza kuenea haraka zaidi.

Kutathmini Uwezo wa AI Kufanya Kazi ya Maabara ya Virusi

Ingawa AI imeonyesha ahadi katika kutoa habari za mtindo wa kitaaluma zinazohusiana na virusi, pengo kubwa lilibaki katika kuelewa uwezo wake wa kufanya kazi ya maabara ya virusi. Ili kushughulikia pengo hili, Donoughe na wenzake walibuni mtihani mahususi kwa maswali magumu, yasiyoweza kutafutwa na Google ambayo yanahitaji usaidizi wa vitendo na tafsiri ya picha na habari ambazo hazipatikani kwa kawaida katika karatasi za kitaaluma.

Maswali yaliundwa ili kuiga changamoto zinazokabiliwa na wataalamu wa virusi katika kazi zao za kila siku, kama vile kutatua matatizo yanayokutana nayo wakati wa kulima virusi katika aina na hali mahususi za seli.

Muundo uliundwa kama ifuatavyo:

• Kuwakilisha hali maalum.
• Kutoa maelezo kuhusu usanidi wa jaribio.
• Kuuliza AI kutambua tatizo linalowezekana zaidi.

AI Yawazidi Wataalamu wa Virusi Katika Mitihani ya Vitendo

Matokeo ya mtihani yalifichua kwamba karibu kila mfumo wa AI uliwazidi wataalamu wa virusi wa ngazi ya PhD, hata katika maeneo yao ya utaalamu. Matokeo haya yanaonyesha kwamba mifumo ya AI haiwezi tu kufikia na kuchakata kiasi kikubwa cha ujuzi wa virusi lakini pia kutumia ujuzi huu kutatua matatizo ya vitendo katika maabara.

Watafiti pia waliona kwamba mifumo ilionyesha uboreshaji mkubwa baada ya muda, ikionyesha kwamba wanaendelea kujifunza na kuboresha ujuzi wao katika virusi. Kwa mfano, Claude 3.5 Sonnet ya Anthropic iliruka kutoka 26.9% hadi 33.6% usahihi kutoka kwa mfumo wake wa Juni 2024 hadi mfumo wake wa Oktoba 2024. Na hakikisho la GPT 4.5 la OpenAI mnamo Februari liliwashinda GPT-4o kwa karibu alama 10 za asilimia.

Matokeo ya Uwezo Unaokua wa AI

Dan Hendrycks, mkurugenzi wa Center for AI Safety, alisisitiza kwamba mifumo ya AI sasa inapata kiasi cha kushangaza cha ujuzi wa vitendo. Ikiwa mifumo ya AI ina uwezo katika mazingira ya maabara kama inavyopendekezwa na utafiti, matokeo yake ni makubwa.

Kwa upande mmoja, AI inaweza kutoa msaada muhimu kwa wataalamu wa virusi wenye uzoefu katika kazi yao muhimu ya kupambana na virusi, kuharakisha ratiba za dawa na maendeleo ya chanjo, na kuboresha majaribio ya kimatibabu na ugunduzi wa magonjwa. Tom Inglesby, mkurugenzi wa Johns Hopkins Center for Health Security, alisema kuwa AI inaweza kuwawezesha wanasayansi katika sehemu tofauti za ulimwengu, haswa wale ambao hawana ujuzi maalum au rasilimali, kufanya kazi muhimu ya kila siku juu ya magonjwa yanayotokea katika nchi zao.

• Kuharakisha dawa na maendeleo ya chanjo.
• Kuboresha majaribio ya kimatibabu na ugunduzi wa magonjwa.
• Kuwezesha wanasayansi katika mazingira yenye rasilimali chache.

Hatari ya Matumizi Mabaya na Wahusika Wabaya

Kwa upande mwingine, utafiti unazua wasiwasi mkubwa kuhusu uwezekano wa matumizi mabaya ya AI na wahusika wabaya ambao wanaweza kutumia mifumo hii kujifunza jinsi ya kuunda virusi bila hitaji la mafunzo ya kawaida na ufikiaji unaohitajika kuingia katika maabara ya Biosafety Level 4 (BSL-4), ambayo hushughulikia mawakala hatari na wa kigeni wa kuambukiza. Inglesby alionya kwamba AI inaweza kuwawezesha watu zaidi wenye mafunzo kidogo kusimamia na kudhibiti virusi, ambayo inaweza kusababisha matokeo mabaya.

Hendrycks aliwataka kampuni za AI kutekeleza ulinzi ili kuzuia aina hii ya matumizi, akipendekeza kwamba kushindwa kufanya hivyo ndani ya miezi sita kutakuwa ni uzembe. Alipendekeza kuwa suluhisho moja ni kufanya mifumo hii iwe yakulipiwa (gated), ili tu watu wa tatu wanaoaminika wenye sababu halali za kudhibiti virusi hatari, kama vile watafiti katika idara ya biolojia ya MIT, waweze kufikia matoleo yao ambayo hayajachujwa.

• Kuzuia matumizi mabaya kwa kutekeleza ulinzi.
• Kufunga mifumo ili kuzuia ufikiaji kwa pande zinazoaminika.
• Kuhakikisha kwamba watafiti walioidhinishwa tu wana ufikiaji wa uwezo nyeti.

Uwezekano wa Udhibiti wa Sekta Binafsi

Hendrycks anaamini kwamba inawezekana kiteknolojia kwa kampuni za AI kujidhibiti na kutekeleza aina hizi za ulinzi. Hata hivyo, alieleza wasiwasi wake kuhusu kama kampuni zingine zitachelewesha au kushindwa kuchukua hatua muhimu.

xAI, maabara ya AI ya Elon Musk, ilikubali karatasi hiyo na kuashiria kwamba kampuni hiyo ‘inaweza kutumia’ ulinzi fulani karibu na kujibu maswali ya virusi, ikiwa ni pamoja na kumfundisha Grok kukataa maombi hatari na kutumia vichungi vya ingizo na pato.

OpenAI ilisema kwamba mifumo yake mpya zaidi, o3 na o4-mini, ilitumwa na safu ya ulinzi unaohusiana na hatari za kibiolojia, ikiwa ni pamoja na kuzuia matokeo hatari. Kampuni hiyo pia iliripoti kwamba ilifanya kampeni ya masaa elfu moja ya timu nyekundu ambapo 98.7% ya mazungumzo yasiyo salama yanayohusiana na bio yalifanikiwa kupeperushwa na kuzuiwa.

• Kufundisha mifumo ya AI kukataa maombi hatari.
• Kutumia vichungi vya ingizo na pato kuzuia maudhui hatari.
• Kufanya mazoezi ya timu nyekundu kutambua na kupunguza hatari.

Haja ya Sera na Udhibiti

Licha ya juhudi hizi, Inglesby anadai kwamba udhibiti wa sekta binafsi hautoshi na anatoa wito kwa watunga sheria na viongozi wa kisiasa kuendeleza mbinu ya sera ya kudhibiti hatari za bio za AI. Alisisitiza kwamba wakati kampuni zingine zinawekeza wakati na pesa kushughulikia hatari hizi, zingine haziwezi kufanya hivyo, na kuunda hali ambapo umma hauna ufahamu juu ya kile kinachotokea.

Inglesby alipendekeza kwamba kabla ya toleo jipya la LLM kutolewa, linapaswa kutathminiwa ili kuhakikisha kuwa halitoi matokeo ya kiwango cha janga. Hii itahitaji mbinu pana zaidi na iliyoratibiwa ya kudhibiti uwezo wa AI katika virusi, inayohusisha wadau wa sekta na serikali.

• Kutathmini LLM kabla ya kutolewa ili kuzuia matokeo ya kiwango cha janga.
• Kuendeleza mbinu pana ya sera ya kudhibiti hatari za bio za AI.
• Kuhusisha wadau wa sekta na serikali katika mchakato wa udhibiti.

Kupata Usawa Kati ya Ubunifu na Usalama

Changamoto iko katika kupata usawa kati ya kukuza ubunifu katika AI na kuhakikisha kuwa teknolojia hizi zenye nguvu hazitumiwi vibaya kuunda silaha hatari za kibiolojia. Hii inahitaji mbinu yenye vipengele vingi ambayo inajumuisha:

• Kuendeleza ulinzi madhubuti ili kuzuia matumizi mabaya.
• Kuzuia ufikiaji wa uwezo nyeti kwa pande zinazoaminika.
• Kudhibiti uwezo wa AI katika virusi.
• Kukuza ubunifu unaowajibika na mazingatio ya kimaadili.

Kwa kuchukua hatua hizi, tunaweza kutumia uwezo mkubwa wa AI kuendeleza utafiti wa virusi na kupambana na magonjwa ya kuambukiza huku tukipunguza hatari zinazohusiana na matumizi yake mabaya. Mustakabali wa AI katika virusi unategemea uwezo wetu wa kusafiri katika mazingira haya magumu kwa uwajibikaji na kuhakikisha kuwa teknolojia hizi zenye nguvu zinatumiwa kwa manufaa ya ubinadamu.