Teguran Terbuka di Media Sosial
Pada hari Rabu, seorang bekas penyelidik dasar berprofil tinggi di OpenAI, Miles Brundage, secara terbuka mengkritik syarikat itu. Beliau menuduh OpenAI ‘menulis semula sejarah’ pendekatannya terhadap penggunaan sistem AI yang berpotensi berisiko. Brundage, yang sebelum ini memegang peranan penting dalam membentuk rangka kerja dasar OpenAI, menyuarakan kebimbangannya melalui media sosial, mencetuskan perdebatan mengenai pendirian syarikat yang berubah-ubah mengenai keselamatan AI.
Falsafah ‘Iterative Deployment’ OpenAI
Kritikan Brundage muncul susulan dokumen yang diterbitkan oleh OpenAI pada awal minggu. Dokumen ini memperincikan falsafah semasa syarikat mengenai keselamatan dan penjajaran AI. Penjajaran, dalam konteks ini, merujuk kepada proses mereka bentuk sistem AI yang berkelakuan dengan cara yang boleh diramal, diingini dan boleh dijelaskan.
Dalam dokumen itu, OpenAI mencirikan pembangunan Artificial General Intelligence (AGI) sebagai ‘laluan berterusan.’ AGI secara amnya ditakrifkan sebagai sistem AI yang mampu melaksanakan sebarang tugas intelektual yang boleh dilakukan oleh manusia. OpenAI menyatakan bahawa laluan berterusan ini memerlukan ‘penggunaan dan pembelajaran secara iteratif’ daripada teknologi AI. Ini mencadangkan pendekatan beransur-ansur, langkah demi langkah di mana pengajaran yang diperoleh daripada penggunaan terdahulu memaklumkan penggunaan seterusnya.
Kontroversi GPT-2: Titik Pertikaian
Brundage, bagaimanapun, mencabar naratif OpenAI, khususnya mengenai pelancaran GPT-2. Beliau menegaskan bahawa GPT-2, pada masa pelancarannya, sememangnya memerlukan langkah berjaga-jaga yang ketara. Penegasan ini secara langsung bercanggah dengan implikasi bahawa strategi penggunaan iteratif semasa mewakili perubahan daripada amalan masa lalu.
Brundage berhujah bahawa pendekatan berhati-hati OpenAI terhadap pelancaran GPT-2, sebenarnya, konsisten sepenuhnya dengan strategi penggunaan iteratifnya pada masa kini. Beliau berpendapat bahawa pembingkaian semasa syarikat mengenai sejarahnya bertujuan untuk memperkecilkan risiko yang berkaitan dengan model terdahulu.
Kebimbangan Mengenai Peralihan Beban Bukti
Elemen teras kritikan Brundage tertumpu pada apa yang dilihatnya sebagai peralihan dalam beban bukti mengenai kebimbangan keselamatan AI. Beliau menyuarakan kebimbangan bahawa dokumen OpenAI bertujuan untuk mewujudkan rangka kerja di mana kebimbangan mengenai potensi risiko dilabelkan sebagai ‘mencemaskan’.
Menurut Brundage, rangka kerja ini akan memerlukan ‘bukti kukuh tentang bahaya yang akan berlaku’ untuk mewajarkan sebarang tindakan yang diambil untuk mengurangkan risiko tersebut. Beliau berhujah bahawa mentaliti sedemikian adalah ‘sangat berbahaya’ apabila berurusan dengan sistem AI termaju, di mana akibat yang tidak dijangka boleh membawa kesan yang ketara.
Tuduhan Mengutamakan ‘Produk Berkilat’
OpenAI telah menghadapi tuduhan pada masa lalu kerana mengutamakan pembangunan dan pelancaran ‘produk berkilat’ berbanding pertimbangan keselamatan. Pengkritik telah mencadangkan bahawa syarikat itu, kadangkala, tergesa-gesa melancarkan produk untuk mendapatkan kelebihan daya saing dalam landskap AI yang berkembang pesat.
Pembubaran Pasukan Kesediaan AGI dan Perlepasan
Lebih memarakkan kebimbangan mengenai komitmen OpenAI terhadap keselamatan ialah pembubaran pasukan kesediaan AGI tahun lepas. Pasukan ini ditugaskan khusus untuk menilai dan bersedia untuk potensi kesan AGI terhadap masyarakat.
Selain itu, beberapa penyelidik keselamatan dan dasar AI telah meninggalkan OpenAI, yang kebanyakannya kemudiannya menyertai syarikat pesaing. Perlepasan ini telah menimbulkan persoalan mengenai budaya dalaman dan keutamaan dalam OpenAI.
Tekanan Persaingan yang Meningkat
Landskap persaingan dalam bidang AI telah meningkat dengan ketara sejak kebelakangan ini. Sebagai contoh, makmal AI China, DeepSeek, mendapat perhatian global dengan model R1 yang tersedia secara terbuka. Model ini menunjukkan prestasi yang setanding dengan model ‘penaakulan’ o1 OpenAI pada beberapa penanda aras utama.
Ketua Pegawai Eksekutif OpenAI, Sam Altman, telah mengakui secara terbuka bahawa kemajuan DeepSeek telah mengurangkan kelebihan teknologi OpenAI. Altman juga telah menyatakan bahawa OpenAI akan mempercepatkan pelancaran produk tertentu untuk meningkatkan kedudukan daya saingnya.
Taruhan Kewangan
Tekanan kewangan ke atas OpenAI adalah besar. Syarikat itu kini beroperasi pada kerugian yang ketara, dengan defisit tahunan berbilion dolar. Unjuran menunjukkan bahawa kerugian ini boleh meningkat tiga kali ganda kepada $14 bilion menjelang 2026.
Kitaran keluaran produk yang lebih pantas berpotensi meningkatkan prospek kewangan OpenAI dalam jangka pendek. Walau bagaimanapun, pakar seperti Brundage mempersoalkan sama ada langkah yang dipercepatkan ini mengorbankan pertimbangan keselamatan jangka panjang. Pertukaran antara inovasi pantas dan pembangunan bertanggungjawab kekal menjadi titik perdebatan utama.
Penyelaman Lebih Mendalam ke dalam Perdebatan ‘Iterative Deployment’
Konsep ‘iterative deployment’ adalah penting dalam perbincangan semasa mengenai keselamatan AI. Penyokong berhujah bahawa ia membolehkan ujian dan pembelajaran dunia sebenar, membolehkan pembangun mengenal pasti dan menangani isu yang berpotensi apabila ia timbul. Pendekatan ini berbeza dengan strategi yang lebih berhati-hati iaitu ujian dan analisis pra-penggunaan yang meluas.
Walau bagaimanapun, pengkritik ‘iterative deployment’ menimbulkan kebimbangan mengenai potensi akibat yang tidak dijangka. Mereka berhujah bahawa melepaskan sistem AI ke dunia luar sebelum ia difahami sepenuhnya boleh membawa kepada hasil yang tidak diingini dan berpotensi membahayakan. Cabarannya terletak pada mencari keseimbangan antara faedah pembelajaran dunia sebenar dan risiko yang berkaitan dengan penggunaan teknologi yang berpotensi tidak dapat diramalkan.
Peranan Ketelusan dan Keterbukaan
Satu lagi aspek penting dalam perdebatan berkisar tentang ketelusan dan keterbukaan. Sesetengah pihak berhujah bahawa ketelusan yang lebih besar mengenai pembangunan dan penggunaan AI adalah penting untuk membina kepercayaan orang ramai dan memastikan akauntabiliti. Ini termasuk berkongsi maklumat mengenai potensi risiko dan had sistem AI.
Walau bagaimanapun, yang lain berpendapat bahawa keterbukaan yang berlebihan boleh dieksploitasi oleh pelaku berniat jahat, yang berpotensi membawa kepada penyalahgunaan teknologi AI. Mencari keseimbangan yang tepat antara ketelusan dan keselamatan kekal menjadi cabaran yang kompleks.
Keperluan untuk Rangka Kerja Tadbir Urus yang Teguh
Memandangkan sistem AI menjadi semakin canggih dan disepadukan ke dalam pelbagai aspek masyarakat, keperluan untuk rangka kerja tadbir urus yang teguh menjadi semakin kritikal. Rangka kerja ini harus menangani isu seperti keselamatan, akauntabiliti, ketelusan dan pertimbangan etika.
Membangunkan mekanisme tadbir urus yang berkesan memerlukan kerjasama antara penyelidik, penggubal dasar, pihak berkepentingan industri dan orang ramai. Matlamatnya adalah untuk mewujudkan rangka kerja yang memupuk inovasi sambil mengurangkan potensi risiko dan memastikan AI memberi manfaat kepada masyarakat secara keseluruhan.
Implikasi yang Lebih Luas untuk Masa Depan AI
Perdebatan mengenai pendekatan OpenAI terhadap keselamatan AI mencerminkan kebimbangan yang lebih luas mengenai masa depan pembangunan AI. Memandangkan sistem AI terus maju pada kadar yang tidak pernah berlaku sebelum ini, persoalan mengenai potensi kesannya terhadap masyarakat menjadi semakin mendesak.
Cabarannya terletak pada memanfaatkan potensi transformatif AI sambil mengurangkan risiko yang berkaitan dengan pembangunan dan penggunaannya. Ini memerlukan pendekatan pelbagai aspek yang merangkumi penyelidikan teknikal, pembangunan dasar, pertimbangan etika dan penglibatan orang ramai. Masa depan AI akan bergantung pada pilihan yang kita buat hari ini.
Perbincangan yang berterusan berfungsi sebagai peringatan tentang kepentingan penelitian kritikal dan dialog terbuka dalam bidang AI. Memandangkan teknologi AI terus berkembang, adalah penting untuk mengadakan perbualan berterusan mengenai potensi kesannya dan untuk memastikan pembangunannya sejajar dengan nilai manusia dan kesejahteraan masyarakat.