Web Kusut: Llama, DeepSeek, AI Tentera

Jaringan Kusut: Llama Meta, DeepSeek dan Momok AI Tentera

Sifat sumber terbuka teknologi AI telah menjadi pedang bermata dua, seperti yang dibuktikan oleh hubungan rumit antara model bahasa Llama Meta dan syarikat permulaan AI China, DeepSeek. Hubungan ini telah menimbulkan kebimbangan tentang potensi penyalahgunaan AI sumber terbuka untuk aplikasi ketenteraan, menekankan keseimbangan halus antara kemajuan teknologi, persaingan global dan keselamatan negara.

Pendengaran Senat Mendedahkan Hubungan

Semasa pendengaran Senat AS, bekas eksekutif Meta, Sarah Wynn-Williams menjelaskan butiran kerjasama teknologi Meta dengan China. Testimoninya mencetuskan gelombang kontroversi mengenai strategi sumber terbuka Meta dan potensi risikonya terhadap keselamatan negara. Senator Josh Hawley seterusnya menekankan betapa seriusnya keadaan itu, memberi amaran bahawa tindakan Meta boleh secara tidak sengaja mendorong pembangunan AI ketenteraan di China, yang menimbulkan ancaman besar kepada Amerika Syarikat.

Wynn-Williams secara khusus menunjukkan bahawa model Llama Meta bukan sahaja diterima pakai secara meluas oleh pasukan penyelidik China tetapi juga berkongsi pautan teknikal langsung dengan model DeepSeek, yang dilancarkan pada akhir tahun 2024. DeepSeek, bintang yang semakin meningkat dalam landskap AI China, mendapat pengiktirafan global untuk model R1nya, yang menyaingi o1 OpenAI dari segi keberkesanan kos dan kecekapan. Menurut Wynn-Williams, kejayaan DeepSeek sebahagiannya disebabkan oleh model Llama Meta, yang berfungsi sebagai asas untuk kemajuan AI China.

Dari Sumber Terbuka kepada Aplikasi Ketenteraan

Implikasi penerimaan Llama oleh tentera China amat membimbangkan. Laporan menunjukkan bahawa Tentera Pembebasan Rakyat (PLA) telah menggunakan Llama untuk pembangunan AI ketenteraan. Penyelidik di Akademi Sains Ketenteraan (AMS) PLA dilaporkan telah membangunkan alat AI yang dipanggil ‘ChatBIT’ berdasarkan model Llama 13B, yang direka untuk pengumpulan risikan dan membuat keputusan operasi. Selain itu, Aviation Industry Corporation of China (AVIC) telah menggunakan Llama 2 untuk melatih strategi gangguan peperangan elektronik. Contoh-contoh ini menunjukkan bagaimana model sumber terbuka Meta sedang diubah suai untuk aplikasi ketenteraan, jauh melangkaui kegunaan komersial dan akademik yang dimaksudkan.

Penglibatan Meta dengan China: Usaha untuk Akses Pasaran

Testimoni Wynn-Williams selanjutnya mendedahkan bahawa Meta memulakan taklimat mengenai teknologi AInya kepada pegawai Parti Komunis China seawal tahun 2015, dengan tujuan untuk mendapatkan akses ke pasaran China melalui kerjasama teknologi. Dokumen dalaman Meta, yang dipetik oleh Wynn-Williams, mendedahkan bahawa syarikat itu berusaha untuk memujuk pihak berkuasa China dengan menekankan potensinya untuk ‘membantu China meningkatkan pengaruh globalnya’ dan ‘mempromosikan impian China’. Strategi ini menggariskan usaha Meta untuk kepentingan komersial dan ketidakhairanan yang jelas terhadap risiko geopolitik.

Kebimbangan Keselamatan Negara: Membantu Pembangunan AI Ketenteraan China

Amaran keras Senator Hawley menekankan bahawa tindakan Meta bukan sahaja menyumbang kepada aliran keluar teknologi tetapi juga secara tidak sengaja membantu pembangunan AI ketenteraan China, meningkatkan pengaruh strategiknya. Beliau berhujah bahawa isu ini melampaui pertimbangan komersial dan menimbulkan ancaman besar kepada keselamatan negara AS. Dalam konteks persaingan teknologi yang berterusan antara AS dan China, AS telah mengenakan sekatan eksport yang ketat ke atas cip AI untuk menghalang kemajuan teknologi China. Walau bagaimanapun, strategi sumber terbuka Meta secara tidak sengaja menyediakan China dengan jalan keluar untuk mengelak sekatan ini, sekali gus menjejaskan usaha strategik AS.

Perbahasan Mengenai AI Sumber Terbuka: Inovasi lwn. Keselamatan

Hubungan antara Llama dan DeepSeek telah menghidupkan semula perdebatan mengenai implikasi keselamatan AI sumber terbuka. Penyokong sumber terbuka, seperti ketua saintis AI Meta, Yann LeCun, berhujah bahawa ia memupuk kerjasama dan inovasi global. Mereka melihat kejayaan DeepSeek sebagai bukti model sumber terbuka, bukannya bukti China mengatasi AS. LeCun menegaskan bahawa DeepSeek memanfaatkan sumber sumber terbuka, termasuk Llama, dan menggabungkannya dengan inovasinya sendiri untuk mencapai kejayaan teknologi, yang memberi manfaat kepada penyelidik di seluruh dunia.

Walaupun Meta telah mewujudkan sekatan penggunaan untuk Llama, secara eksplisit melarang penggunaannya untuk aktiviti ketenteraan, peperangan, industri nuklear atau aktiviti perisikan, sifat terbuka model menjadikan sekatan ini sebahagian besarnya tidak berkesan. Institusi penyelidikan China nampaknya telah mengabaikan terma Meta dan menggunakan Llama untuk domain ketenteraan, manakala Meta tidak mempunyai cara yang berkesan untuk mencegah penyalahgunaan sedemikian. Ini menyerlahkan cabaran kawal selia dan penguatkuasaan yang berkaitan dengan AI sumber terbuka, mendorong pembuat dasar AS untuk menilai semula keseimbangan antara inovasi dan keselamatan.

Kebangkitan DeepSeek: Panggilan Bangun untuk AS

Kemunculan DeepSeek menunjukkan keupayaan China untuk mencapai kejayaan walaupun dengan sumber yang terhad, yang berfungsi sebagai panggilan bangun untuk AS. Percubaan Meta untuk mengalih tanggungjawab dengan memetik sifat sumber terbuka yang ‘tidak terkawal’ digagalkan oleh kerjasama teknologi sebelumnya dengan China, yang meletakkan asas untuk kontroversi semasa.

Hala Tuju Masa Depan: Menavigasi Landskap AI Sumber Terbuka

Dalam konteks persaingan teknologi yang semakin meningkat antara AS dan China, AS mesti menghadapi kebimbangan keselamatan negara yang berkaitan dengan AI sumber terbuka dan menerima pakai langkah kawal selia dan perlindungan yang lebih kukuh. Kes seperti ketenteraan Llama mungkin akan berkembang biak, menimbulkan cabaran yang lebih besar kepada keselamatan global dan tatanan teknologi.

• Memikirkan Semula Tadbir Urus AI Sumber Terbuka: Kes Llama-DeepSeek menggariskan keperluan mendesak untuk menilai semula tadbir urus AI sumber terbuka. Pembuat dasar mesti meneroka mekanisme untuk memastikan bahawa model sumber terbuka tidak dieksploitasi untuk tujuan jahat, terutamanya dalam domain ketenteraan.
• Memperkukuh Kawalan Eksport: AS harus memperkukuh kawalan eksport ke atas teknologi AI untuk mengelakkan pemindahannya yang tidak dibenarkan ke negara yang menimbulkan risiko keselamatan negara. Ini termasuk menangani jalan keluar yang membolehkan model sumber terbuka mengelak sekatan sedia ada.
• Mempromosikan Pembangunan AI Selamat: AS harus melabur dalam penyelidikan dan pembangunan teknologi AI selamat yang kurang terdedah kepada penyalahgunaan. Ini termasuk meneroka paradigma pembangunan AI alternatif yang mengutamakan keselamatan dan kawalan.
• Meningkatkan Kerjasama Antarabangsa: AS harus bekerjasama dengan sekutunya untuk mewujudkan norma dan piawaian antarabangsa untuk pembangunan dan penggunaan AI yang bertanggungjawab. Ini termasuk mempromosikan ketelusan dan akauntabiliti dalam ekosistem AI sumber terbuka.
• Memupuk Inovasi AI Beretika: AS harus memupuk persekitaran yang menggalakkan inovasi AI beretika. Ini termasuk mempromosikan penyelidikan tentang keselamatan dan penjajaran AI, serta membangunkan garis panduan etika untuk pembangunan dan penggunaan AI.

Pertimbangan Utama untuk Pembuat Dasar

Situasi Meta-DeepSeek membentangkan satu set cabaran yang kompleks untuk pembuat dasar. Ia memerlukan pendekatan bernuansa yang mengimbangi faedah AI sumber terbuka dengan keperluan untuk melindungi keselamatan negara. Beberapa pertimbangan utama termasuk:

• Penilaian Risiko: Menjalankan penilaian risiko menyeluruh terhadap model AI sumber terbuka untuk mengenal pasti potensi kelemahan dan senario penyalahgunaan.
• Ketelusan: Mempromosikan ketelusan dalam pembangunan dan penggunaan model AI sumber terbuka, termasuk mendedahkan data dan algoritma yang digunakan untuk melatihnya.
• Akauntabiliti: Mewujudkan garis akauntabiliti yang jelas untuk penyalahgunaan model AI sumber terbuka, termasuk menahan pembangun dan pengguna bertanggungjawab atas tindakan mereka.
• Penguatkuasaan: Membangunkan mekanisme penguatkuasaan yang berkesan untuk mencegah penyalahgunaan model AI sumber terbuka, termasuk sekatan dan penalti lain.
• Kesedaran Awam: Meningkatkan kesedaran awam tentang potensi risiko dan faedah AI sumber terbuka, serta kepentingan pembangunan dan penggunaan AI yang bertanggungjawab.

Peranan Syarikat Teknologi

Syarikat teknologi juga mempunyai peranan penting dalam menangani cabaran yang ditimbulkan oleh AI sumber terbuka. Mereka patut:

• Melaksanakan Langkah Keselamatan Teguh: Melaksanakan langkah keselamatan yang teguh untuk mencegah penyalahgunaan model AI sumber terbuka mereka. Ini termasuk mewujudkan sekatan penggunaan yang jelas dan membangunkan alat untuk memantau dan menguatkuasakan pematuhan.
• Bekerjasama dalam Penyelidikan Keselamatan: Bekerjasama dengan penyelidik dan pembuat dasar untuk membangunkan amalan terbaik untuk pembangunan dan penggunaan AI yang selamat.
• Melabur dalam Penyelidikan Keselamatan AI: Melabur dalam penyelidikan tentang keselamatan dan penjajaran AI untuk memastikan sistem AI sejajar dengan nilai dan matlamat manusia.
• Mempromosikan Pembangunan AI Beretika: Mempromosikan pembangunan AI beretika dengan menerima pakai garis panduan etika dan melatih pekerja mengenai pertimbangan etika.
• Melibatkan Diri dengan Pembuat Dasar: Melibatkan diri dengan pembuat dasar untuk membangunkan peraturan dan dasar yang berkesan untuk AI sumber terbuka.

Menavigasi Masa Depan AI Sumber Terbuka

Masa depan AI sumber terbuka akan bergantung pada betapa berkesannya kita menangani cabaran yang ditimbulkannya. Dengan mengambil langkah proaktif untuk mengurangkan risiko dan mempromosikan pembangunan yang bertanggungjawab, kita boleh memanfaatkan faedah AI sumber terbuka sambil melindungi keselamatan negara dan nilai etika.

Kes Llama-DeepSeek berfungsi sebagai peringatan keras tentang keperluan untuk kewaspadaan dan kerjasama dalam menghadapi teknologi AI yang berkembang pesat. Dengan bekerjasama, pembuat dasar, syarikat teknologi dan penyelidik boleh mewujudkan masa depan di mana AI memberi manfaat kepada seluruh umat manusia.