Pada tahun 2019, Karen Hao, seorang reporter berpengalaman di MIT Technology Review, mengajukan sebuah cerita kepada editornya tentang OpenAI, sebuah perusahaan yang saat itu beroperasi sebagian besar di bawah radar. Apa yang terungkap adalah sebuah perjalanan yang penuh dengan liku-liku tak terduga, yang mengungkap sejauh mana ambisi OpenAI telah menyimpang dari tujuan awalnya.
Saya pertama kali menginjakkan kaki di kantor OpenAI pada tanggal 7 Agustus 2019. Greg Brockman, CTO perusahaan pada saat itu, menyambut saya dengan senyum ragu-ragu, mengakui bahwa memberikan akses seluas itu belum pernah terjadi sebelumnya bagi mereka.
Meskipun OpenAI mungkin relatif tidak dikenal oleh masyarakat umum, saya, sebagai seorang reporter yang meliput lanskap kecerdasan buatan yang terus berkembang, telah memantau perkembangannya dengan cermat.
Awal Mula OpenAI dan Perubahan Arus
Sebelum tahun 2019, OpenAI dianggap agak berbeda dalam komunitas penelitian AI. Klaimnya yang berani untuk mencapai Artificial General Intelligence (AGI) dalam satu dekade disambut dengan skeptisisme oleh banyak orang. Terlepas dari pendanaan yang signifikan, perusahaan tersebut tidak memiliki arah yang jelas, dan upaya pemasarannya sering dianggap melebih-lebihkan penelitian yang dianggap tidak orisinal oleh para ahli lainnya. Meskipun demikian, OpenAI juga menarik kecemburuan. Sebagai organisasi nirlaba, ia menyatakan tidak tertarik pada komersialisasi, menciptakan lingkungan unik untuk eksplorasi intelektual yang bebas dari kendala tekanan keuangan.
Namun, dalam enam bulan menjelang kunjungan saya, serangkaian perubahan cepat mengisyaratkan pergeseran signifikan dalam arah OpenAI. Tanda pertama adalah keputusan kontroversial untuk menahan GPT-2, meskipun mempublikasikan kemampuannya. Selanjutnya datang pengumuman pengangkatan Sam Altman sebagai CEO, setelah kepergiannya dari Y Combinator (YC), bersamaan dengan pembuatan struktur “laba terbatas”. Di tengah perkembangan ini, OpenAI mengungkapkan kemitraan dengan Microsoft, memberikan raksasa teknologi tersebut prioritas dalam mengkomersialkan teknologi OpenAI dan penggunaan eksklusif layanan cloud Microsoft Azure.
Setiap pengumuman ini menghasilkan kontroversi, spekulasi, dan peningkatan perhatian, mencapai di luar batas-batas industri teknologi. Saat perubahan terungkap, sulit untuk sepenuhnya memahami signifikansinya. Namun, jelas bahwa OpenAI mulai memberikan pengaruh yang cukup besar terhadap penelitian AI dan cara pembuat kebijakan memahami teknologi tersebut. Keputusan untuk beralih menjadi bisnis yang sebagian mencari keuntungan pasti akan memiliki dampak luas di seluruh industri dan pemerintahan.
Suatu malam, didorong oleh editor saya, saya menghubungi Jack Clark, direktur kebijakan OpenAI, yang sebelumnya pernah saya ajak bicara. Saya mengusulkan profil tentang OpenAI, merasakan bahwa itu adalah momen penting dalam sejarah perusahaan. Clark menghubungkan saya dengan kepala komunikasi, yang memberikan undangan untuk mewawancarai kepemimpinan dan menyematkan di dalam perusahaan selama tiga hari.
Di Dalam OpenAI: Misi dan Ambisi
Brockman dan saya bergabung dengan kepala ilmuwan Ilya Sutskever di ruang rapat kaca. Duduk berdampingan, mereka saling melengkapi peran masing-masing. Brockman, coder dan pelaksana, tampak bersemangat untuk memberikan kesan positif, sementara Sutskever, peneliti dan filsuf, tampak lebih santai dan terlepas.
Saya mulai dengan bertanya tentang misi OpenAI: untuk memastikan AGI yang bermanfaat. Mengapa menginvestasikan miliaran dalam masalah ini daripada yang lain?
Brockman, yang berpengalaman dalam membela posisi OpenAI, menyatakan bahwa AGI sangat penting untuk memecahkan masalah kompleks di luar kemampuan manusia. Dia menyebutkan perubahan iklim dan kedokteran sebagai contoh, yang menggambarkan potensi AGI untuk menganalisis sejumlah besar data dan mempercepat kemajuan di bidang-bidang penting ini.
Dia menceritakan pengalaman seorang teman dengan gangguan langka, menyoroti bagaimana AGI dapat merampingkan diagnosis dan pengobatan dengan menghubungkan para spesialis secara efisien.
Saya kemudian bertanya tentang perbedaan antara AGI dan AI.
AGI, yang dulunya merupakan konsep khusus, telah mendapatkan daya tarik, sebagian besar karena pengaruh OpenAI. AGI mengacu pada AI hipotetis yang cocok atau melampaui kecerdasan manusia dalam sebagian besar tugas yang bernilai ekonomis. Sementara para peneliti telah membuat kemajuan, perdebatan terus berlanjut mengenai kemungkinan mensimulasikan kesadaran manusia.
AI, di sisi lain, mengacu pada teknologi saat ini dan kemampuan masa depan yang dekat, yang menunjukkan aplikasi dalam mitigasi perubahan iklim dan perawatan kesehatan.
Sutskever menambahkan bahwa AGI dapat memecahkan tantangan global dengan memungkinkan komputer cerdas untuk berkomunikasi dan bekerja sama lebih efisien daripada manusia, melewati masalah insentif.
Pernyataan ini membuat saya mempertanyakan apakah AGI dimaksudkan untuk menggantikan manusia. Brockman menjawab bahwa teknologi harus melayani orang-orang dan memastikan “kebebasan ekonomi” sambil mempertahankan kualitas hidup mereka.
Brockman berpendapat bahwa peran OpenAI bukanlah untuk menentukan apakah AGI akan dibangun, tetapi untuk memengaruhi keadaan di mana ia diciptakan. Dia menekankan bahwa misi mereka adalah untuk memastikan bahwa AGI bermanfaat bagi seluruh umat manusia dengan membangunnya dan mendistribusikan manfaat ekonominya.
Percakapan kami terus berputar-putar, dengan keberhasilan terbatas dalam mendapatkan rincian konkret. Saya mencoba pendekatan yang berbeda, menanyakan tentang potensi kerugian dari teknologi tersebut.
Brockman menyebutkan deepfake sebagai kemungkinan aplikasi negatif.
Saya mengangkat dampak lingkungan dari AI itu sendiri.
Sutskever mengakui masalah tersebut tetapi berpendapat bahwa AGI dapat melawan biaya lingkungan. Dia menekankan perlunya pusat data hijau.
“Pusat data adalah konsumen energi terbesar, listrik,” lanjut Sutskever.
“Itu 2 persen secara global,” saya menawarkan.
“Bukankah Bitcoin seperti 1 persen?” kata Brockman.
Sutskever kemudian berkata, “Saya pikir cukup mungkin bahwa tidak akan terlalu lama bagi seluruh permukaan Bumi untuk ditutupi dengan pusat data dan pembangkit listrik.” Akan ada “tsunami komputasi . . . hampir seperti fenomena alam.”
Saya menantang mereka bahwa OpenAI berjudi bahwa ia akan berhasil mencapai AGI yang bermanfaat untuk melawan pemanasan global sebelum tindakan melakukannya dapat memperburuknya.
Brockman dengan tergesa-gesa berkata, “Cara kami memikirkannya adalah sebagai berikut: Kami berada di jalur kemajuan AI. Ini lebih besar dari OpenAI, kan? Ini adalah bidangnya. Dan saya pikir masyarakat sebenarnya mendapatkan manfaat darinya.”
“Hari kami mengumumkan kesepakatan,” katanya, merujuk pada investasi baru Microsoft sebesar $1 miliar, “kapitalisasi pasar Microsoft naik sebesar $10 miliar. Orang-orang percaya ada ROI positif bahkan hanya pada teknologi jangka pendek.”
Strategi OpenAI dengan demikian cukup sederhana, jelasnya: untuk mengikuti kemajuan itu.
Kemudian hari itu, Brockman menegaskan bahwa tidak ada yang benar-benar tahu seperti apa AGI itu, menambahkan bahwa tugas mereka adalah untuk terus mendorong maju, untuk mengungkap bentuk teknologi langkah demi langkah.
Di Balik Layar: Transparansi dan Kontrol
Saya awalnya dijadwalkan untuk makan siang dengan karyawan di kafetaria, tetapi saya diberi tahu bahwa saya harus berada di luar kantor. Brockman akan menjadi pendamping saya.
Pola ini berulang sepanjang kunjungan saya: akses terbatas ke area tertentu, pertemuan yang tidak dapat saya hadiri, dan para peneliti melirik kepala komunikasi untuk memastikan mereka tidak melanggar kebijakan pengungkapan apa pun. Setelah kunjungan saya, Jack Clark mengirimkan peringatan keras kepada karyawan di Slack untuk tidak berbicara dengan saya di luar percakapan yang disetujui. Penjaga keamanan juga menerima foto saya, sehingga mereka dapat mencari saya jika saya muncul tanpa persetujuan di tempat tersebut. Perilaku ini kontras dengan komitmen OpenAI terhadap transparansi, menimbulkan pertanyaan tentang apa yang disembunyikan.
Saat makan siang dan pada hari-hari berikutnya, saya bertanya kepada Brockman tentang motifnya untuk mendirikan OpenAI. Dia menyatakan bahwa dia telah terobsesi dengan gagasan mereplikasi kecerdasan manusia setelah sebuah makalah dari Alan Turing. Itu menginspirasinya. Dia membuat kode permainan uji Turing dan meletakkannya secara online, mengumpulkan sekitar 1.500 hit. Itu membuatnya merasa luar biasa. “Saya baru menyadari bahwa itulah hal yang ingin saya kejar,” katanya.
Dia bergabung dengan OpenAI sebagai salah satu pendiri pada tahun 2015, mencatat bahwa dia akan melakukan apa saja untuk mewujudkan AGI, bahkan jika itu berarti menjadi seorang pesuruh. Ketika dia menikah empat tahun kemudian, dia mengadakan upacara sipil di kantor OpenAI di depan dinding bunga khusus yang terpampang dengan bentuk logo heksagonal lab. Sutskever bertindak sebagai pejabat.
“Pada dasarnya, saya ingin mengerjakan AGI selama sisa hidup saya,” kata Brockman kepada saya.
Saya bertanya tentang apa yang memotivasinya.
Brockman menyebutkan peluang untuk mengerjakan teknologi transformatif selama masa hidupnya. Dia percaya dia berada dalam posisi unik untuk mewujudkan transformasi itu. “Apa yang benar-benar menarik bagi saya adalah masalah yang tidak akan berjalan dengan cara yang sama jika saya tidak berpartisipasi,” katanya.
Dia ingin memimpin AGI dan sangat menginginkan pengakuan atas pencapaiannya. Pada tahun 2022, ia menjadi presiden OpenAI.
Laba, Misi, dan Persaingan
Selama percakapan kami, Brockman menegaskan bahwa perubahan struktural OpenAI tidak mengubah misi intinya. Struktur laba terbatas dan investor baru meningkatkannya. “Kami berhasil mendapatkan investor yang selaras dengan misi ini yang bersedia memprioritaskan misi di atas keuntungan. Itu adalah hal yang gila,” katanya.
OpenAI sekarang memiliki sumber daya untuk menskalakan modelnya dan tetap unggul dari persaingan. Kegagalan untuk melakukannya dapat merusak misinya. Asumsi inilah yang memicu semua tindakan OpenAI dan konsekuensinya yang luas. Ini menempatkan jam yang berdetak pada setiap kemajuan penelitian OpenAI, berdasarkan bukan pada skala waktu pertimbangan yang cermat tetapi pada laju tanpa henti yang diperlukan untuk melewati garis akhir sebelum orang lain. Ini membenarkan konsumsi sejumlah sumber daya yang tak terbayangkan dari OpenAI.
Brockman menekankan pentingnya mendistribusikan kembali manfaat AGI.
Saya bertanya tentang contoh-contoh historis teknologi yang berhasil mendistribusikan manfaat kepada publik.
“Ya, saya benar-benar berpikir bahwa—sebenarnya menarik untuk melihat bahkan internet sebagai contoh,” katanya. “Ada masalah juga, kan?” katanya sebagai peringatan. “Kapan pun Anda memiliki sesuatu yang sangat transformatif, tidak akan mudah untuk mencari tahu bagaimana memaksimalkan positif, meminimalkan negatif.
“Api adalah contoh lain,” tambahnya. “Itu juga memiliki beberapa kelemahan nyata. Jadi kita harus mencari tahu bagaimana menjaganya tetap terkendali dan memiliki standar bersama.
“Mobil adalah contoh yang bagus,” lanjutnya. “Banyak orang memiliki mobil, memberi manfaat bagi banyak orang. Mereka juga memiliki beberapa kelemahan. Mereka memiliki beberapa eksternalitas yang tidak selalu baik untuk dunia,” dia selesai dengan ragu-ragu.
“Saya kira saya hanya melihat—hal yang kita inginkan untuk AGI tidak berbeda dengan sisi positif internet, sisi positif mobil, sisi positif api. Implementasinya sangat berbeda, meskipun, karena ini adalah jenis teknologi yang sangat berbeda.”
Matanya berbinar dengan ide baru. “Lihat saja utilitas. Perusahaan listrik, perusahaan listrik adalah entitas yang sangat terpusat yang menyediakan hal-hal berkualitas tinggi berbiaya rendah yang secara berarti meningkatkan kehidupan masyarakat.”
Brockman tampaknya sekali lagi tidak jelas tentang bagaimana OpenAI akan mengubah dirinya menjadi utilitas.
Dia kembali ke satu hal yang dia tahu pasti. OpenAI berkomitmen untuk mendistribusikan kembali manfaat AGI dan memberi semua orang kebebasan ekonomi. “Kami benar-benar bersungguh-sungguh,” katanya.
“Cara kami memikirkannya adalah: Teknologi sejauh ini adalah sesuatu yang menaikkan semua perahu, tetapi ia memiliki efek konsentrasi yang nyata,” katanya. “AGI bisa lebih ekstrem. Bagaimana jika semua nilai terkunci di satu tempat? Itulah lintasan yang kita lalui sebagai masyarakat. Dan kita belum pernah melihat ekstrem itu. Saya tidak berpikir itu dunia yang baik. Itu bukan dunia yang ingin saya bantu bangun.”
Akibat dan Reaksi
Pada Februari 2020, saya menerbitkan profil saya untuk MIT Technology Review, mengungkapkan ketidakselarasan antara citra publik OpenAI dan praktik internalnya. Saya mengatakan bahwa “Seiring waktu, ia telah memungkinkan daya saing yang ketat dan meningkatnya tekanan untuk pendanaan yang semakin besar untuk mengikis cita-cita pendirinya tentang transparansi, keterbukaan, dan kolaborasi.”
Elon Musk menanggapi dengan tiga tweet:
“OpenAI seharusnya lebih terbuka imo”
“Saya tidak memiliki kendali & hanya wawasan yang sangat terbatas ke OpenAI. Kepercayaan pada Dario untuk keselamatan tidak tinggi,” katanya, merujuk pada Dario Amodei, direktur penelitian.
“Semua organisasi yang mengembangkan AI canggih harus diatur, termasuk Tesla”
Altman mengirim email kepada karyawan OpenAI.
“Meskipun jelas tidak menimbulkan bencana, itu jelas buruk,” tulisnya, tentang artikel MIT Technology Review.
Dia menulis bahwa itu adalah “kritik yang adil,” bahwa bagian itu telah mengidentifikasi pemutusan antara persepsi OpenAI dan realitasnya. Dia akan menyarankan agar Amodei dan Musk bertemu untuk menyelesaikan kritik Musk. Untuk menghindari keraguan, pekerjaan Amodei dan keselamatan AI sangat penting untuk misi tersebut, tulisnya. “Saya pikir kita harus pada titik tertentu di masa depan menemukan cara untuk secara publik membela tim kita (tetapi tidak memberikan pers pertarungan publik yang mereka sukai saat ini).”
Setelah artikel tersebut, OpenAI tidak akan berbicara dengan saya lagi selama tiga tahun.