Mnamo 2019, Karen Hao, mwandishi mahiri wa MIT Technology Review, alimpendekeza mhariri wake hadithi kuhusu OpenAI, kampuni ambayo wakati huo ilikuwa ikifanya kazi kwa kiasi kikubwa chini ya rada. Kilichofuata kilikuwa safari iliyojaa mabadiliko yasiyotarajiwa, ikifichua kiwango ambacho matarajio ya OpenAI yalikuwa yamepotoka kutoka kwa malengo yake ya awali.
Nilifika ofisi za OpenAI kwa mara ya kwanza mnamo Agosti 7, 2019. Greg Brockman, CTO wa kampuni hiyo wakati huo, alinisalimia kwa tabasamu la kusita, akikiri kwamba kutoa ufikiaji mkubwa kama huo haukuwa wa kawaida kwao.
Ingawa OpenAI inaweza kuwa haijulikani sana kwa umma kwa ujumla, mimi, kama mwandishi ninayefuatilia mazingira yanayoendelea kubadilika ya akili bandia, nilikuwa nikifuatilia kwa karibu maendeleo yake.
Siku za Mwanzo za OpenAI na Mabadiliko ya Mawimbi
Kabla ya 2019, OpenAI ilizingatiwa kuwa kama mtu wa nje katika jumuiya ya utafiti wa AI. Madai yake ya ujasiri ya kufikia Artificial General Intelligence (AGI) ndani ya muongo mmoja yalikutana na mashaka na watu wengi. Licha ya ufadhili mkubwa, kampuni ilikosa mwelekeo wazi, na juhudi zake za uuzaji mara nyingi zilichukuliwa kama kuzidisha utafiti uliokosa asili na wataalam wengine. Hata hivyo, OpenAI pia ilivutia wivu. Kama shirika lisilo la faida, lilitangaza kutopendezwa na uuzaji, na kuunda mazingira ya kipekee ya uchunguzi wa kiakili bila vikwazo vya shinikizo la kifedha.
Hata hivyo, katika miezi sita iliyoongoza kwa ziara yangu, mfululizo wa mabadiliko ya haraka yalionyesha mabadiliko makubwa katika mwelekeo wa OpenAI. Ishara ya kwanza ilikuwa uamuzi wa utata wa kuzuia GPT-2, licha ya kutangaza uwezo wake. Ifuatayo ilikuwa tangazo la kuteuliwa kwa Sam Altman kama CEO, kufuatia kuondoka kwake kutoka Y Combinator (YC), pamoja na uundaji wa muundo wa "faida iliyowekwa kikomo". Huku kukiwa na maendeleo haya, OpenAI ilifunua ushirikiano na Microsoft, ikimpa jitu la teknolojia kipaumbele katika uuzaji wa teknolojia za OpenAI na matumizi ya kipekee ya huduma za wingu za Microsoft Azure.
Kila moja ya matangazo haya ilizua utata, uvumi, na kuongezeka kwa umakini, kufikia zaidi ya mipaka ya tasnia ya teknolojia. Kadiri mabadiliko yalivyokuwa yakijitokeza, ilikuwa ngumu kufahamu kikamilifu umuhimu wao. Ilikuwa dhahiri, hata hivyo, kwamba OpenAI ilikuwa ikianza kutumia ushawishi mkubwa juu ya utafiti wa AI na jinsi watunga sera walivyoelewa teknolojia hiyo. Uamuzi wa kubadilika kuwa biashara ya sehemu ya faida bila shaka ungekuwa na athari kubwa katika tasnia na serikali.
Jioni moja, nikihimizwa na mhariri wangu, nilimfikia Jack Clark, mkurugenzi wa sera wa OpenAI, ambaye niliyokuwa nimezungumza naye hapo awali. Nilipendekeza wasifu kuhusu OpenAI, nikihisi kwamba ulikuwa wakati muhimu katika historia ya kampuni. Clark aliniunganisha na mkuu wa mawasiliano, ambaye alitoa mwaliko wa kuwahoji viongozi na kuingia ndani ya kampuni kwa siku tatu.
Ndani ya OpenAI: Dhamira na Malengo
Brockman na mimi tulijiunga na mwanasayansi mkuu Ilya Sutskever katika chumba cha mikutano cha glasi. Wakiwa wamekaa upande kwa upande, walikamilishana majukumu yao. Brockman, coder na mtekelezaji, alionekana mwenye hamu ya kutoa maoni mazuri, wakati Sutskever, mtafiti na mwanafalsafa, alionekana ametulia zaidi na kutengwa.
Nilianza kwa kuuliza kuhusu dhamira ya OpenAI: kuhakikisha AGI yenye manufaa. Kwa nini uwekeze mabilioni katika tatizo hili juu ya mengine?
Brockman, mwenye ujuzi wa kutosha katika kutetea msimamo wa OpenAI, alisema kuwa AGI ilikuwa muhimu kwa kutatua matatizo magumu zaidi ya uwezo wa binadamu. Alitoa mfano wa mabadiliko ya tabianchi na dawa kama mifano, akionyesha uwezo wa AGI kuchambua kiasi kikubwa cha data na kuharakisha maendeleo katika maeneo haya muhimu.
Alisimulia uzoefu wa rafiki na ugonjwa adimu, akionyesha jinsi AGI inaweza kurahisisha uchunguzi na matibabu kwa kuunganisha wataalamu kwa ufanisi.
Kisha niliuliza kuhusu tofauti kati ya AGI na AI.
AGI, mara moja dhana ya niche, ilikuwa imepata umaarufu, kwa kiasi kikubwa kutokana na ushawishi wa OpenAI. AGI inarejelea AI ya kubahatisha inayolingana au kuzidi akili ya binadamu katika kazi nyingi za thamani ya kiuchumi. Ingawa watafiti walikuwa wamepiga hatua, mijadala iliendelea kuhusu uwezekano wa kuiga ufahamu wa binadamu.
AI, kwa upande mwingine, ilirejelea teknolojia ya sasa na uwezo wa karibu wa siku zijazo, ikionyesha matumizi katika kupunguza mabadiliko ya tabianchi na huduma ya afya.
Sutskever aliongeza kuwa AGI inaweza kutatua changamoto za kimataifa kwa kuwezesha kompyuta zenye akili kuwasiliana na kufanya kazi pamoja kwa ufanisi zaidi kuliko wanadamu, kukwepa matatizo ya motisha.
Taarifa hii ilinifanya kuuliza ikiwa AGI ilikusudiwa kuchukua nafasi ya wanadamu. Brockman alijibu kwamba teknolojia inapaswa kuwahudumia watu na kuhakikisha "uhuru wa kiuchumi" huku ikidumisha ubora wa maisha yao.
Brockman alidai kuwa jukumu la OpenAI halikuwa kuamua ikiwa AGI itajengwa, lakini badala yake kushawishi mazingira ambayo inaundwa. Alisisitiza kwamba dhamira yao ilikuwa kuhakikisha kwamba AGI inanufaisha ubinadamu wote kwa kuijenga na kusambaza manufaa yake ya kiuchumi.
Mazungumzo yetu yaliendelea katika duru, na mafanikio kidogo katika kupata maelezo madhubuti. Nilijaribu mbinu tofauti, nikiuliza kuhusu hasara zinazowezekana za teknolojia.
Brockman alitoa mfano wa deepfakes kama matumizi hasi yanayowezekana.
Niliuliza kuhusu athari ya kimazingira ya AI yenyewe.
Sutskever alikiri suala hilo lakini alidai kuwa AGI inaweza kukabiliana na gharama ya kimazingira. Alisisitiza haja ya vituo vya data vya kijani.
"Vituo vya data ndio watumiaji wakubwa wa nishati, ya umeme," Sutskever aliendelea.
"Ni asilimia 2 ulimwenguni," nilitoa.
"Je, Bitcoin si kama asilimia 1?" Brockman alisema.
Sutskever baadaye angesema, "Nadhani inawezekana kabisa kwamba haitachukua muda mrefu kwa uso mzima wa Dunia kufunikwa na vituo vya data na vituo vya nguvu." Kutakuwa na "tsunami ya kompyuta. . . karibu kama jambo la asili."
Niliwapa changamoto kwamba OpenAI ilikuwa ikicheza kamari kwamba itafanikiwa kufikia AGI yenye manufaa ili kukabiliana na ongezeko la joto duniani kabla ya tendo la kufanya hivyo linaweza kulizidisha.
Brockman alisema kwa haraka, "Njia tunayofikiria kuhusu hili ni kama ifuatavyo: Tuko kwenye njia panda ya maendeleo ya AI. Hii ni kubwa kuliko OpenAI, sawa? Ni uwanja. Na nadhani jamii inapata faida kutoka kwayo."
“Siku tulipotangaza mpango,” alisema, akirejelea uwekezaji mpya wa Microsoft wa $1 bilioni, “soko la Microsoft liliongezeka kwa $10 bilioni. Watu wanaamini kuna ROI chanya hata kwenye teknolojia ya muda mfupi tu."
Mkakati wa OpenAI kwa hivyo ulikuwa rahisi sana, alielezea: kuendana na maendeleo hayo.
Baadaye siku hiyo, Brockman alisisitiza kwamba hakuna mtu aliyefahamu kikamilifu AGI itakuwa kama nini akiongeza kuwa kazi yao ilikuwa kuendelea kusonga mbele, kufunua sura ya teknolojia hatua kwa hatua.
Nyuma ya Pazia: Uwazi na Udhibiti
Hapo awali nilikuwa nimepangwa kula chakula cha mchana na wafanyakazi katika mkahawa, lakini niliambiwa kwamba nilihitaji kuwa nje ya ofisi. Brockman angekuwa mlinzi wangu.
Mpangilio huu ulirudiwa katika ziara yangu yote: ufikiaji mdogo kwa maeneo fulani, mikutano ambayo sikuweza kuhudhuria, na watafiti wakiangalia kichwa cha mawasiliano ili kuhakikisha kwamba hawakiuki sera zozote za ufichuzi. Baada ya ziara yangu, Jack Clark alituma onyo kali kwa wafanyakazi kwenye Slack kutozungumza nami zaidi ya mazungumzo yaliyoidhinishwa. Mwangalizi wa usalama alipokea picha yangu pia, ili waweze kunitafuta ikiwa ningeonekana bila idhini kwenye eneo hilo. Tabia hizi zilipingana na kujitolea kwa OpenAI kwa uwazi, na kuibua maswali kuhusu kile kilichokuwa kikifichwa.
Wakati wa chakula cha mchana na katika siku zilizofuata, nilimuuliza Brockman kuhusu nia zake za kuanzisha OpenAI. Alisema kwamba alikuwa ameshikwa na wazo la kuiga akili ya binadamu kufuatia karatasi kutoka kwa Alan Turing. Ilimhimiza. Aliweka programu ya mchezo wa majaribio ya Turing na kuiweka mtandaoni, akipata takriban watu 1,500. Ilimfanya ajisikie vizuri sana. “Niligundua tu kwamba ndilo jambo ambalo nilitaka kufuata,” alisema.
Alijiunga na OpenAI kama mwanzilishi mwenza mnamo 2015, akigundua kwamba angefanya chochote kuleta AGI kwa matunda, hata ikiwa ina maana ya kuwa mtunza usafi. Alipofunga ndoa miaka minne baadaye, alifanya sherehe ya kiraia katika ofisi ya OpenAI mbele ya ukuta wa maua ulioandaliwa kwa umbo la nembo ya hexagonal ya maabara. Sutskever alisimamia.
“Kimsingi, nataka kufanya kazi kwenye AGI kwa maisha yangu yote,” Brockman aliniambia.
Niliuliza kuhusu kile kilichomhimiza.
Brockman alitaja uwezekano wa kufanya kazi kwenye teknolojia ya mageuzi wakati wa uhai wake. Aliamini kuwa alikuwa katika nafasi ya kipekee ya kuleta mabadiliko hayo. “Kile ambacho ninavutiwa nacho ni matatizo ambayo hayatachezwa kwa njia sawa ikiwa sitashiriki,” alisema.
Alitaka kuongoza AGI na alitamani kutambuliwa kwa mafanikio yake. Mnamo 2022, alikua rais wa OpenAI.
Faida, Dhamira, na Ushindani
Wakati wa mazungumzo yetu, Brockman alisisitiza kwamba mabadiliko ya kimuundo ya OpenAI hayakubadilisha dhamira yake ya msingi. Muundo wa faida iliyowekwa kikomo na wawekezaji wapya uliiboresha. “Tulifanikiwa kupata wawekezaji hawa waliojipanga kwa dhamira ambao wako tayari kuweka dhamira kipaumbele kuliko mapato. Hilo ni jambo la ajabu,” alisema.
OpenAI sasa ilikuwa na rasilimali za kupanua miundo yake na kukaa mbele ya ushindani. Kushindwa kufanya hivyo kunaweza kudhoofisha dhamira yake. Ilikuwa dhana hii ambayo ilianzisha matendo yote ya OpenAI na matokeo yao ya mbali. Iliweka saa ya kuhesabu kwa kila maendeleo ya utafiti wa OpenAI, haikutegemea wakati wa majadiliano makini lakini kwa kasi isiyo na huruma inayohitajika kuvuka mstari wa kumalizia kabla ya mtu mwingine yeyote. Ilidhihirisha matumizi ya OpenAI ya kiasi kikubwa cha rasilimali.
Brockman alisisitiza umuhimu wa kusambaza tena manufaa ya AGI.
Niliuliza kuhusu mifano ya kihistoria ya teknolojia zinazofaulu kusambaza manufaa kwa umma.
“Vema, kwa kweli nadhani hiyo—inavutia sana hata kuangalia mtandao kama mfano,” alisema. “Kuna matatizo pia, sawa?” alisema kama onyo. “Wakati wowote unapokuwa na kitu cha mageuzi makubwa, haitakuwa rahisi kujua jinsi ya kuongeza chanya, kupunguza hasi.
"Moto ni mfano mwingine," aliongeza. “Pia ina hasara halisi. Kwa hivyo tunapaswa kujua jinsi ya kuiweka chini ya udhibiti na kuwa na viwango vya pamoja.
"Magari ni mfano mzuri," alifuata. “Watu wengi wana magari, wananufaika sana. Pia wana hasara fulani. Wana mambo ya nje ambayo si lazima yawe mazuri kwa ulimwengu," alimaliza kwa kusitasita.
“Nadhani mimi tu ninaona—jambo tunalotaka kwa AGI halitofautiani sana na upande chanya wa mtandao, pande chanya za magari, pande chanya za moto. Utekelezaji ni tofauti sana, ingawa, kwa sababu ni aina tofauti sana ya teknolojia.”
Macho yake yaliangaza kwa wazo jipya. “Angalia tu huduma. Kampuni za umeme, kampuni za umeme ni vyombo vilivyojikita sana ambavyo hutoa vitu vya gharama nafuu, vya ubora wa juu ambavyo huboresha maisha ya watu kwa maana sana.”
Brockman alionekana tena wazi kuhusu jinsi OpenAI ingejigeuza kuwa huduma.
Alirejea kwenye jambo moja alilolijua kwa hakika. OpenAI ilijitolea kusambaza tena manufaa ya AGI na kumpa kila mtu uhuru wa kiuchumi. "Kwa kweli tunamaanisha hilo," alisema.
“Njia tunayofikiria kuhusu hili ni: Teknolojia hadi sasa imekuwa kitu ambacho huinua boti zote, lakini ina athari halisi ya kujilimbikizia,” alisema. “AGI inaweza kuwa kali zaidi. Je, ikiwa thamani yote imefungwa mahali pamoja? Hiyo ndiyo njia tunayoifuata kama jamii. Na hatujawahi kuona uliokithiri wa hili. Sidhani kama ni ulimwengu mzuri. Huo sio ulimwengu ambao ninataka kusaidia kujenga.”
Kuanguka na Majibu
Mnamo Februari 2020, nilichapisha wasifu wangu kwa MIT Technology Review, nikifichua kutokuelewana kati ya taswira ya umma ya OpenAI na mazoea yake ya ndani. Nilisema kwamba "Baada ya muda, imeruhusu ushindani mkali na kuongezeka kwa shinikizo la ufadhili zaidi na zaidi kudhoofisha maadili yake ya msingi ya uwazi, uadilifu, na ushirikiano.”
Elon Musk alijibu kwa tweets tatu:
“OpenAI inapaswa kuwa wazi zaidi imo”
“Sina udhibiti & ufahamu mdogo sana juu ya OpenAI. Imani kwa Dario kwa usalama sio ya juu,” alisema, akirejelea Dario Amodei, mkurugenzi wa utafiti.
“Mashirika yote yanayoendeleza AI ya hali ya juu yanapaswa kudhibitiwa, pamoja na Tesla”
Altman alituma barua pepe kwa wafanyakazi wa OpenAI.
“Ingawa hakika sio janga, ilikuwa mbaya wazi," aliandika, kuhusu makala ya MIT Technology Review.
Aliandika kwamba ilikuwa "ukosoaji wa haki," kwamba kipande hicho kilikuwa kimebainisha kukatika kati ya mtazamo wa OpenAI na ukweli wake. Angependekeza kwamba Amodei na Musk wakutane ili kutatua ukosoaji wa Musk. Kwa kuepusha shaka yoyote, kazi ya Amodei na usalama wa AI zilikuwa muhimu kwa dhamira, aliandika. "Nadhani tunapaswa wakati fulani katika siku zijazo kupata njia ya kutetea timu yetu hadharani (lakini tusipe vyombo vya habari vita vya umma ambavyo wangependa hivi sasa)."
Baada ya makala hiyo, OpenAI haingenizungumzia tena kwa miaka mitatu.