Pada tahun 2019, Karen Hao, seorang wartawan berpengalaman di MIT Technology Review, mencadangkan satu cerita kepada editornya mengenai OpenAI, sebuah syarikat yang ketika itu beroperasi di bawah radar. Apa yang berlaku seterusnya adalah satu perjalanan yang penuh dengan perubahan yang tidak dijangka, mendedahkan sejauh mana cita-cita OpenAI telah menyimpang daripada matlamat awalnya.
Saya pertama kali menjejakkan kaki ke pejabat OpenAI pada 7 Ogos 2019. Greg Brockman, CTO syarikat itu pada masa itu, menyambut saya dengan senyuman teragak-agak, mengakui bahawa memberikan akses yang begitu luas adalah sesuatu yang belum pernah terjadi sebelum ini bagi mereka.
Walaupun OpenAI mungkin agak tidak dikenali oleh orang ramai, saya, sebagai seorang wartawan yang meliputi landskap kecerdasan buatan yang sentiasa berkembang, telah memantau rapat perkembangannya.
Hari-Hari Awal OpenAI dan Perubahan Arus
Sebelum tahun 2019, OpenAI dianggap sebagai sesuatu yang luar biasa dalam komuniti penyelidikan AI. Dakwaan beraninya untuk mencapai Kecerdasan Umum Buatan (AGI) dalam tempoh sedekad telah disambut dengan keraguan oleh ramai pihak. Walaupun dengan pembiayaan yang besar, syarikat itu kekurangan arah yang jelas, dan usaha pemasaran sering dilihat sebagai membesar-besarkan penyelidikan yang dianggap tidak asli oleh pakar lain. Walaupun begitu, OpenAI juga menarik perhatian. Sebagai sebuah organisasi bukan untung, ia mengisytiharkan tidak berminat dalam pengkomersialan, mewujudkan persekitaran yang unik untuk penerokaan intelektual yang bebas daripada kekangan tekanan kewangan.
Walau bagaimanapun, dalam tempoh enam bulan yang membawa kepada lawatan saya, satu siri perubahan pesat membayangkan peralihan yang ketara dalam hala tuju OpenAI. Tanda pertama adalah keputusan kontroversi untuk menahan GPT-2, walaupun menghebahkan kemampuannya. Seterusnya ialah pengumuman pelantikan Sam Altman sebagai CEO, berikutan pemergiannya dari Y Combinator (YC), bersama-sama dengan penciptaan struktur “keuntungan terhad”. Di tengah-tengah perkembangan ini, OpenAI mendedahkan kerjasama dengan Microsoft, memberikan gergasi teknologi itu keutamaan dalam mengkomersialkan teknologi OpenAI dan penggunaan eksklusif perkhidmatan awan Microsoft Azure.
Setiap pengumuman ini menjana kontroversi, spekulasi dan perhatian yang semakin meningkat, yang menjangkaui sempadan industri teknologi. Apabila perubahan itu berlaku, sukar untuk memahami sepenuhnya kepentingannya. Walau bagaimanapun, jelas bahawa OpenAI mula memberikan pengaruh yang besar terhadap penyelidikan AI dan cara pembuat dasar memahami teknologi tersebut. Keputusan untuk beralih kepada perniagaan separa keuntungan pasti akan mempunyai kesan yang meluas di seluruh industri dan kerajaan.
Pada suatu petang, didorong oleh editor saya, saya menghubungi Jack Clark, pengarah dasar OpenAI, yang pernah saya bincangkan sebelum ini. Saya mencadangkan profil mengenai OpenAI, merasakan bahawa ia adalah satu saat yang penting dalam sejarah syarikat. Clark menghubungkan saya dengan ketua komunikasi, yang menghulurkan jemputan untuk menemuramah kepimpinan dan menyerapkan diri dalam syarikat selama tiga hari.
Di Dalam OpenAI: Misi dan Cita-Cita
Brockman dan saya telah disertai oleh ketua saintis Ilya Sutskever di dalam bilik mesyuarat kaca. Duduk bersebelahan, mereka saling melengkapi peranan masing-masing. Brockman, pengekod dan pelaksana, kelihatan berminat untuk memberi kesan yang positif, manakala Sutskever, penyelidik dan ahli falsafah, kelihatan lebih santai dan tidak mempedulikan.
Saya mulakan dengan bertanya tentang misi OpenAI: untuk memastikan AGI yang bermanfaat. Mengapa melabur berbilion dolar dalam masalah ini berbanding yang lain?
Brockman, yang mahir dalam mempertahankan kedudukan OpenAI, menyatakan bahawa AGI adalah penting untuk menyelesaikan masalah kompleks di luar kemampuan manusia. Beliau menyebut perubahan iklim dan perubatan sebagai contoh, menggambarkan potensi AGI untuk menganalisis sejumlah besar data dan mempercepatkan kemajuan dalam bidang kritikal ini.
Beliau menceritakan pengalaman seorang rakan dengan gangguan yang jarang berlaku, menonjolkan bagaimana AGI boleh menyelaraskan diagnosis dan rawatan dengan menghubungkan pakar dengan cekap.
Saya kemudian bertanya tentang perbezaan antara AGI dan AI.
AGI, yang dahulunya merupakan konsep khusus, telah mendapat perhatian, sebahagian besarnya disebabkan oleh pengaruh OpenAI. AGI merujuk kepada AI hipotetikal yang sepadan atau melebihi kecerdasan manusia dalam kebanyakan tugas yang bernilai dari segi ekonomi. Walaupun para penyelidik telah membuat kemajuan, perdebatan berterusan mengenai kemungkinan mensimulasikan kesedaran manusia.
AI, sebaliknya, merujuk kepada kedua-dua teknologi semasa dan keupayaan masa depan yang terdekat, yang menunjukkan aplikasi dalam mitigasi perubahan iklim dan penjagaan kesihatan.
Sutskever menambah bahawa AGI boleh menyelesaikan cabaran global dengan membolehkan komputer pintar berkomunikasi dan bekerjasama dengan lebih cekap daripada manusia, memintas masalah insentif.
Penyataan ini membawa saya untuk mempersoalkan sama ada AGI bertujuan untuk menggantikan manusia. Brockman menjawab bahawa teknologi harus berkhidmat untuk orang ramai dan memastikan “kebebasan ekonomi” sambil mengekalkan kualiti hidup mereka.
Brockman berpendapat bahawa peranan OpenAI bukan untuk menentukan sama ada AGI akan dibina atau tidak, tetapi sebaliknya untuk mempengaruhi keadaan di mana ia dicipta. Beliau menekankan bahawa misi mereka adalah untuk memastikan bahawa AGI memberi manfaat kepada seluruh umat manusia dengan membina dan mengedarkan manfaat ekonominya.
Perbualan kami berterusan secara berputar-putar, dengan kejayaan yang terhad dalam mendapatkan butiran konkrit. Saya mencuba pendekatan yang berbeza, bertanya tentang potensi keburukan teknologi tersebut.
Brockman menyebut deepfake sebagai aplikasi negatif yang mungkin.
Saya membangkitkan impak alam sekitar AI itu sendiri.
Sutskever mengakui isu itu tetapi berhujah bahawa AGI boleh menangkis kos alam sekitar. Beliau menekankan keperluan untuk pusat data hijau.
"Pusat data adalah pengguna tenaga terbesar, elektrik," Sutskever meneruskan.
"Ia 2 peratus secara global," saya menawarkan.
"Bukankah Bitcoin seperti 1 peratus?" Kata Brockman.
Sutskever kemudiannya berkata, "Saya fikir ianya agak berkemungkinan bahawa ia tidak akan mengambil masa yang terlalu lama untuk seluruh permukaan Bumi diliputi dengan pusat data dan stesen janakuasa." Akan ada "tsunami pengkomputeran . . . hampir seperti fenomena alam semula jadi."
Saya mencabar mereka bahawa OpenAI sedang berjudi bahawa ia akan berjaya mencapai AGI yang bermanfaat untuk menangkis pemanasan global sebelum tindakan melakukannya mungkin memburukkannya.
Brockman tergesa-gesa berkata, "Cara kami memikirkannya adalah seperti berikut: Kami berada di landasan kemajuan AI. Ini lebih besar daripada OpenAI, kan? Ia adalah bidangnya. Dan saya fikir masyarakat sebenarnya mendapat manfaat daripadanya."
"Hari kami mengumumkan perjanjian itu," katanya, merujuk kepada pelaburan baharu Microsoft sebanyak $1 bilion, "Modal pasaran Microsoft meningkat sebanyak $10 bilion. Orang ramai percaya terdapat ROI positif walaupun hanya pada teknologi jangka pendek."
Strategi OpenAI adalah sangat mudah, jelasnya: untuk mengikuti kemajuan itu.
Kemudian pada hari itu, Brockman menegaskan bahawa tiada siapa yang benar-benar tahu bagaimana rupa AGI sambil menambah bahawa tugas mereka adalah untuk terus maju, untuk membongkar bentuk teknologi langkah demi langkah.
Di Sebalik Tabir: Ketelusan dan Kawalan
Saya pada asalnya dijadualkan untuk makan tengah hari dengan pekerja di kafeteria, tetapi saya diberitahu bahawa saya perlu berada di luar pejabat. Brockman akan menjadi pengiring saya.
Corak ini berulang sepanjang lawatan saya: akses terhad ke kawasan tertentu, mesyuarat yang saya tidak boleh hadiri, dan penyelidik menjeling ke arah ketua komunikasi untuk memastikan mereka tidak melanggar sebarang dasar pendedahan. Selepas lawatan saya, Jack Clark menghantar amaran keras kepada pekerja di Slack untuk tidak bercakap dengan saya melebihi perbualan yang dibenarkan. Pengawal keselamatan juga menerima foto saya, supaya mereka boleh mencari saya jika saya muncul tanpa kelulusan di premis tersebut. Tingkah laku ini berbeza dengan komitmen OpenAI terhadap ketelusan, menimbulkan persoalan tentang apa yang disembunyikan.
Semasa makan tengah hari dan pada hari-hari berikutnya, saya menyoal Brockman tentang motifnya untuk mengasaskan OpenAI. Beliau menyatakan bahawa beliau telah taksub dengan idea meniru kecerdasan manusia berikutan kertas kerja daripada Alan Turing. Ia memberi inspirasi kepadanya. Beliau mengekod permainan ujian Turing dan meletakkannya dalam talian, mengumpul kira-kira 1,500 hits. Ia membuatkannya berasa hebat. "Saya baru sedar bahawa itu adalah jenis perkara yang saya ingin kejar," katanya.
Beliau menyertai OpenAI sebagai pengasas bersama pada tahun 2015, menyatakan bahawa beliau akan melakukan apa sahaja untuk merealisasikan AGI, walaupun ia bermakna menjadi seorang penjaga. Apabila beliau berkahwin empat tahun kemudian, beliau mengadakan majlis sivil di pejabat OpenAI di hadapan dinding bunga tersuai yang tertera bentuk logo heksagon makmal. Sutskever menjadi pegawai.
"Pada asasnya, saya mahu bekerja pada AGI sepanjang hayat saya," kata Brockman kepada saya.
Saya bertanya tentang apa yang mendorongnya.
Brockman menyebut peluang untuk bekerja pada teknologi transformatif sepanjang hayatnya. Beliau percaya bahawa beliau berada dalam kedudukan yang unik untuk membawa perubahan itu. "Apa yang benar-benar menarik perhatian saya adalah masalah yang tidak akan dimainkan dengan cara yang sama jika saya tidak mengambil bahagian," katanya.
Beliau mahu menerajui AGI dan mengidamkan pengiktirafan untuk pencapaiannya. Pada tahun 2022, beliau menjadi presiden OpenAI.
Keuntungan, Misi dan Persaingan
Semasa perbualan kami, Brockman menegaskan bahawa perubahan struktur OpenAI tidak mengubah misi terasnya. Struktur keuntungan terhad dan pelabur baharu mempertingkatkannya. "Kami berjaya mendapatkan pelabur yang selaras dengan misi ini yang sanggup mengutamakan misi berbanding pulangan. Itu adalah perkara yang gila," katanya.
OpenAI kini mempunyai sumber untuk menskala modelnya dan terus mendahului persaingan. Gagal berbuat demikian boleh menjejaskan misinya. Andaian inilah yang mendorong semua tindakan OpenAI dan akibatnya yang meluas. Ia meletakkan jam yang berdetik pada setiap kemajuan penyelidikan OpenAI, berdasarkan bukan pada garis masa pertimbangan yang teliti tetapi pada kadar tanpa henti yang diperlukan untuk melepasi garisan penamat sebelum orang lain. Ia mewajarkan penggunaan sumber OpenAI yang tidak terhingga.
Brockman menekankan kepentingan mengagihkan semula manfaat AGI.
Saya bertanya tentang contoh sejarah teknologi yang berjaya mengagihkan manfaat kepada orang ramai.
"Nah, saya sebenarnya berfikir bahawa—ia sebenarnya menarik untuk melihat walaupun internet sebagai contoh," katanya. "Terdapat masalah juga, kan?" katanya sebagai amaran. "Bila-bila masa anda mempunyai sesuatu yang sangat transformatif, ia tidak akan mudah untuk memikirkan cara untuk memaksimumkan positif, meminimumkan negatif.
"Api adalah satu lagi contoh," tambahnya. "Ia juga mempunyai beberapa kelemahan yang sebenar kepadanya. Jadi kita perlu memikirkan cara untuk mengawalnya dan mempunyai standard yang dikongsi.
"Kereta adalah contoh yang baik," katanya. "Ramai orang mempunyai kereta, memberi manfaat kepada ramai orang. Mereka juga mempunyai beberapa kelemahan kepada mereka. Mereka mempunyai beberapa luaran yang tidak semestinya baik untuk dunia," katanya dengan teragak-agak.
"Saya rasa saya hanya melihat—perkara yang kita mahukan untuk AGI tidak jauh berbeza daripada sisi positif internet, sisi positif kereta, sisi positif api. Pelaksanaannya sangat berbeza, walaupun, kerana ia adalah jenis teknologi yang sangat berbeza."
Matanya bersinar dengan idea baharu. "Hanya lihat utiliti. Syarikat kuasa, syarikat elektrik adalah entiti yang sangat berpusat yang menyediakan perkara berkualiti tinggi dan kos rendah yang meningkatkan kehidupan orang ramai secara bermakna."
Brockman sekali lagi kelihatan tidak jelas tentang bagaimana OpenAI akan mengubah dirinya menjadi utiliti.
Beliau kembali kepada satu perkara yang beliau tahu pasti. OpenAI komited untuk mengagihkan semula manfaat AGI dan memberikan setiap orang kebebasan ekonomi. "Kami benar-benar bermaksudkannya," katanya.
"Cara kami memikirkannya adalah: Sehingga kini, teknologi telah menjadi sesuatu yang menaikkan semua bot, tetapi ia mempunyai kesan penumpuan yang sebenar," katanya. "AGI boleh menjadi lebih ekstrem. Bagaimana jika semua nilai terkunci di satu tempat? Itulah trajektori yang kita lalui sebagai masyarakat. Dan kita tidak pernah melihat yang ekstrem daripadanya. Saya tidak fikir itu dunia yang baik. Itu bukan dunia yang saya mahu bantu bina."
Kejatuhan dan Reaksi
Pada Februari 2020, saya menerbitkan profil saya untuk MIT Technology Review, mendedahkan ketidakselarasan antara imej awam OpenAI dan amalannya. Saya berkata bahawa "Lama kelamaan, ia telah membenarkan persaingan sengit dan tekanan yang semakin meningkat untuk mendapatkan lebih banyak lagi pembiayaan untuk menghakis cita-cita pengasasnya iaitu ketelusan, keterbukaan dan kerjasama."
Elon Musk membalas dengan tiga tweet:
"OpenAI harus lebih terbuka imo"
"Saya tidak mempunyai kawalan & hanya pandangan yang sangat terhad ke dalam OpenAI. Keyakinan terhadap Dario untuk keselamatan tidak tinggi," katanya, merujuk kepada Dario Amodei, pengarah penyelidikan.
"Semua organisasi yang membangunkan AI lanjutan harus dikawal selia, termasuk Tesla"
Altman menghantar e-mel kepada pekerja OpenAI.
"Walaupun pastinya tidak membawa bencana, ia jelas buruk," tulisnya, mengenai artikel MIT Technology Review.
Beliau menulis bahawa ia adalah "kritikan yang adil," bahawa karya itu telah mengenal pasti jurang antara persepsi OpenAI dan realitinya. Beliau mencadangkan agar Amodei dan Musk bertemu untuk menyelesaikan kritikan Musk. Untuk mengelakkan sebarang keraguan, kerja Amodei dan keselamatan AI adalah penting kepada misi, tulisnya. "Saya fikir kita pada satu ketika di masa hadapan harus mencari jalan untuk mempertahankan pasukan kita secara terbuka (tetapi tidak memberikan akhbar pergaduhan awam yang mereka sukai sekarang)."
Selepas artikel itu, OpenAI tidak akan bercakap dengan saya lagi selama tiga tahun.