Jaring Kusut: Llama, DeepSeek, & AI Militer

Era sumber terbuka (open-source) dalam teknologi AI telah menjadi pedang bermata dua, sebagaimana dibuktikan oleh keterkaitan rumit antara model bahasa Llama milik Meta dan startup AI asal Tiongkok, DeepSeek. Keterkaitan ini memunculkan kekhawatiran tentang potensi penyalahgunaan AI sumber terbuka untuk aplikasi militer, menyoroti keseimbangan yang rapuh antara kemajuan teknologi, persaingan global, dan keamanan nasional.

Sidang Senat Mengungkap Keterkaitan

Dalam sidang Senat AS, mantan eksekutif Meta, Sarah Wynn-Williams, menyingkap detail kolaborasi teknologi Meta dengan Tiongkok. Testimoninya memicu kontroversi seputar strategi sumber terbuka Meta dan potensi risikonya terhadap keamanan nasional. Senator Josh Hawley lebih lanjut menekankan keseriusan situasi ini, memperingatkan bahwa tindakan Meta dapat secara tidak sengaja memicu pengembangan AI militer di Tiongkok, yang menimbulkan ancaman signifikan bagi Amerika Serikat.

Wynn-Williams secara spesifik menunjukkan bahwa model Llama Meta tidak hanya diadopsi secara luas oleh tim riset Tiongkok, tetapi juga berbagi tautan teknis langsung dengan model DeepSeek, yang diluncurkan pada akhir tahun 2024. DeepSeek, bintang yang sedang naik daun di lanskap AI Tiongkok, memperoleh pengakuan global atas model R1-nya, yang menyaingi o1 OpenAI dalam hal efektivitas biaya dan efisiensi. Menurut Wynn-Williams, keberhasilan DeepSeek sebagian disebabkan oleh model Llama Meta, yang berfungsi sebagai fondasi bagi kemajuan AI Tiongkok.

Dari Sumber Terbuka ke Aplikasi Militer

Implikasi adopsi Llama oleh militer Tiongkok sangat mengkhawatirkan. Laporan menunjukkan bahwa Tentara Pembebasan Rakyat (PLA) telah memanfaatkan Llama untuk pengembangan AI militer. Peneliti di Akademi Ilmu Militer (AMS) PLA dilaporkan telah mengembangkan alat AI bernama ‘ChatBIT’ berdasarkan model Llama 13B, yang dirancang untuk pengumpulan intelijen dan pengambilan keputusan operasional. Selain itu, Aviation Industry Corporation of China (AVIC) telah menggunakan Llama 2 untuk melatih strategi jamming peperangan elektronik. Contoh-contoh ini menunjukkan bagaimana model sumber terbuka Meta diubah fungsinya untuk aplikasi militer, jauh melampaui tujuan komersial dan akademis yang dimaksudkan.

Keterlibatan Meta dengan Tiongkok: Upaya Mendapatkan Akses Pasar

Testimoni Wynn-Williams lebih lanjut mengungkapkan bahwa Meta memulai briefing tentang teknologi AI-nya kepada pejabat Partai Komunis Tiongkok sejak tahun 2015, dengan tujuan mengamankan akses ke pasar Tiongkok melalui kolaborasi teknologi. Dokumen internal Meta, yang dikutip oleh Wynn-Williams, mengungkapkan bahwa perusahaan berusaha meyakinkan otoritas Tiongkok dengan menyoroti potensinya untuk ‘membantu Tiongkok meningkatkan pengaruh globalnya’ dan ‘mempromosikan impian Tiongkok.’ Strategi ini menggarisbawahi pengejaran kepentingan komersial Meta dan pengabaiannya yang jelas terhadap risiko geopolitik.

Kekhawatiran Keamanan Nasional: Membantu Pengembangan AI Militer Tiongkok

Peringatan keras Senator Hawley menekankan bahwa tindakan Meta tidak hanya berkontribusi pada arus keluar teknologi tetapi juga secara tidak sengaja membantu pengembangan AI militer Tiongkok, yang memperkuat pengaruh strategisnya. Dia berpendapat bahwa masalah ini melampaui pertimbangan komersial dan menimbulkan ancaman signifikan bagi keamanan nasional AS. Dalam konteks persaingan teknologi yang sedang berlangsung antara AS dan Tiongkok, AS telah memberlakukan pembatasan ekspor yang ketat pada chip AI untuk menghambat kemajuan teknologi Tiongkok. Namun, strategi sumber terbuka Meta secara tidak sengaja memberi Tiongkok celah untuk menghindari pembatasan ini, sehingga merusak upaya strategis AS.

Perdebatan Mengenai AI Sumber Terbuka: Inovasi vs. Keamanan

Keterkaitan antara Llama dan DeepSeek telah menyulut kembali perdebatan seputar implikasi keamanan dari AI sumber terbuka. Pendukung sumber terbuka, seperti kepala ilmuwan AI Meta, Yann LeCun, berpendapat bahwa hal itu mendorong kolaborasi dan inovasi global. Mereka memandang keberhasilan DeepSeek sebagai bukti model sumber terbuka, bukan bukti Tiongkok melampaui AS. LeCun menunjukkan bahwa DeepSeek memanfaatkan sumber daya sumber terbuka, termasuk Llama, dan menggabungkannya dengan inovasinya sendiri untuk mencapai terobosan teknologi, yang bermanfaat bagi para peneliti di seluruh dunia.

Meskipun Meta telah menetapkan batasan penggunaan untuk Llama, secara eksplisit melarang penggunaannya untuk kegiatan militer, peperangan, industri nuklir, atau spionase, sifat terbuka dari model tersebut membuat batasan ini sebagian besar tidak efektif. Lembaga penelitian Tiongkok tampaknya mengabaikan persyaratan Meta dan menerapkan Llama ke domain militer, sementara Meta tidak memiliki cara yang efektif untuk mencegah penyalahgunaan semacam itu. Hal ini menyoroti tantangan regulasi dan penegakan hukum yang terkait dengan AI sumber terbuka, mendorong para pembuat kebijakan AS untuk menilai kembali keseimbangan antara inovasi dan keamanan.

Kebangkitan DeepSeek: Peringatan bagi AS

Kemunculan DeepSeek menunjukkan kemampuan Tiongkok untuk mencapai terobosan bahkan dengan sumber daya yang terbatas, yang berfungsi sebagai peringatan bagi AS. Upaya Meta untuk mengalihkan tanggung jawab dengan mengutip sifat ‘tidak terkendali’ dari sumber terbuka dirusak oleh kolaborasi teknologi sebelumnya dengan Tiongkok, yang meletakkan dasar bagi kontroversi saat ini.

Jalan ke Depan: Menavigasi Lanskap AI Sumber Terbuka

Dalam konteks meningkatnya persaingan teknologi antara AS dan Tiongkok, AS harus menghadapi kekhawatiran keamanan nasional yang terkait dengan AI sumber terbuka dan mengadopsi langkah-langkah regulasi dan perlindungan yang lebih kuat. Kasus-kasus seperti militerisasi Llama kemungkinan akan berkembang biak, menimbulkan tantangan yang lebih besar bagi keamanan global dan tatanan teknologi.

• Memikirkan Kembali Tata Kelola AI Sumber Terbuka: Kasus Llama-DeepSeek menggarisbawahi kebutuhan mendesak untuk mengevaluasi kembali tata kelola AI sumber terbuka. Para pembuat kebijakan harus menjajaki mekanisme untuk memastikan bahwa model sumber terbuka tidak dieksploitasi untuk tujuan jahat, terutama di domain militer.
• Memperkuat Kontrol Ekspor: AS harus memperkuat kontrol ekspor pada teknologi AI untuk mencegah transfernya yang tidak sah ke negara-negara yang menimbulkan risiko keamanan nasional. Ini termasuk mengatasi celah yang memungkinkan model sumber terbuka untuk menghindari pembatasan yang ada.
• Mempromosikan Pengembangan AI yang Aman: AS harus berinvestasi dalam penelitian dan pengembangan teknologi AI yang aman yang kurang rentan terhadap penyalahgunaan. Ini termasuk menjajaki paradigma pengembangan AI alternatif yang memprioritaskan keamanan dan kontrol.
• Meningkatkan Kolaborasi Internasional: AS harus bekerja sama dengan sekutunya untuk menetapkan norma dan standar internasional untuk pengembangan dan penggunaan AI yang bertanggung jawab. Ini termasuk mempromosikan transparansi dan akuntabilitas dalam ekosistem AI sumber terbuka.
• Mendorong Inovasi AI yang Etis: AS harus mendorong lingkungan yang mendorong inovasi AI yang etis. Ini termasuk mempromosikan penelitian tentang keselamatan dan keselarasan AI, serta mengembangkan pedoman etika untuk pengembangan dan penyebaran AI.

Pertimbangan Utama bagi Pembuat Kebijakan

Situasi Meta-DeepSeek menghadirkan serangkaian tantangan kompleks bagi para pembuat kebijakan. Ini membutuhkan pendekatan bernuansa yang menyeimbangkan manfaat AI sumber terbuka dengan kebutuhan untuk melindungi keamanan nasional. Beberapa pertimbangan utama meliputi:

• Penilaian Risiko: Melakukan penilaian risiko menyeluruh terhadap model AI sumber terbuka untuk mengidentifikasi potensi kerentanan dan skenario penyalahgunaan.
• Transparansi: Mempromosikan transparansi dalam pengembangan dan penyebaran model AI sumber terbuka, termasuk mengungkap data dan algoritma yang digunakan untuk melatihnya.
• Akuntabilitas: Menetapkan jalur akuntabilitas yang jelas untuk penyalahgunaan model AI sumber terbuka, termasuk meminta pertanggungjawaban pengembang dan pengguna atas tindakan mereka.
• Penegakan Hukum: Mengembangkan mekanisme penegakan hukum yang efektif untuk mencegah penyalahgunaan model AI sumber terbuka, termasuk sanksi dan hukuman lainnya.
• Kesadaran Publik: Meningkatkan kesadaran publik tentang potensi risiko dan manfaat AI sumber terbuka, serta pentingnya pengembangan dan penggunaan AI yang bertanggung jawab.

Peran Perusahaan Teknologi

Perusahaan teknologi juga memiliki peran penting dalam mengatasi tantangan yang ditimbulkan oleh AI sumber terbuka. Mereka harus:

• Menerapkan Langkah-Langkah Keamanan yang Kuat: Menerapkan langkah-langkah keamanan yang kuat untuk mencegah penyalahgunaan model AI sumber terbuka mereka. Ini termasuk menetapkan batasan penggunaan yang jelas dan mengembangkan alat untuk memantau dan menegakkan kepatuhan.
• Berkolaborasi dalam Penelitian Keamanan: Berkolaborasi dengan para peneliti dan pembuat kebijakan untuk mengembangkan praktik terbaik untuk pengembangan dan penyebaran AI yang aman.
• Berinvestasi dalam Penelitian Keselamatan AI: Berinvestasi dalam penelitian tentang keselamatan dan keselarasan AI untuk memastikan bahwa sistem AI selaras dengan nilai dan tujuan manusia.
• Mempromosikan Pengembangan AI yang Etis: Mempromosikan pengembangan AI yang etis dengan mengadopsi pedoman etika dan melatih karyawan tentang pertimbangan etika.
• Terlibat dengan Pembuat Kebijakan: Terlibat dengan para pembuat kebijakan untuk mengembangkan peraturan dan kebijakan yang efektif untuk AI sumber terbuka.

Menavigasi Masa Depan AI Sumber Terbuka

Masa depan AI sumber terbuka akan bergantung pada seberapa efektif kita mengatasi tantangan yang ditimbulkannya. Dengan mengambil langkah-langkah proaktif untuk mengurangi risiko dan mempromosikan pengembangan yang bertanggung jawab, kita dapat memanfaatkan manfaat AI sumber terbuka sambil menjaga keamanan nasional dan nilai-nilai etika.

Kasus Llama-DeepSeek berfungsi sebagai pengingat yang jelas tentang perlunya kewaspadaan dan kolaborasi dalam menghadapi teknologi AI yang berkembang pesat. Dengan bekerja sama, para pembuat kebijakan, perusahaan teknologi, dan peneliti dapat menciptakan masa depan di mana AI bermanfaat bagi seluruh umat manusia.