Model AI Tiongkok, DeepSeek, yang sebelumnya mendapat perhatian besar, baru-baru ini menjadi sorotan dari Robin Li, Chairman dan CEO Baidu. Dalam Konferensi Pengembang AI Baidu pada 25 April, Li menyatakan keraguannya tentang kemampuan DeepSeek, dengan alasan keterbatasannya dalam memproses berbagai format media, kinerja lambat dan biaya tinggi, serta kecenderungannya menghasilkan informasi yang tidak akurat, sehingga tidak dapat diandalkan untuk penggunaan luas.
Debut Kontroversial DeepSeek
Menurut laporan dari Guancha.cn dan Sina.com, Li membahas lanskap model AI skala besar yang berfluktuasi selama konferensi. Dia menyoroti persaingan ketat di antara pengembang model, sering digambarkan sebagai ‘perlombaan tikus’, dan kebingungan serta keraguan yang dihasilkan di antara para pengembang untuk dengan percaya diri membuat aplikasi.
Li menekankan bahwa ‘Tanpa aplikasi, chip dan model tidak berharga.’ Dia menunjukkan biaya tinggi dan tidak praktisnya penggunaan model skala besar saat ini sebagai kendala utama bagi pengembang yang bertujuan untuk membangun aplikasi AI.
DeepSeek, sebuah startup yang berbasis di Hangzhou, Tiongkok, merilis model penalaran open-source, R1, pada bulan Januari. Pada saat itu, media pemerintah memuji DeepSeek karena melampaui OpenAI. Namun, investigasi selanjutnya oleh pengguna dan peneliti mengungkapkan kekurangan, kerentanan keamanan, dan potensi risiko. Sejumlah pemerintah, termasuk Taiwan, Jepang, Korea Selatan, Amerika Serikat, Kanada, Italia, Australia, dan Belanda, bersama dengan ratusan perusahaan, telah melarang penggunaan DeepSeek pada perangkat pemerintah dan perusahaan.
Pada tanggal 8 Februari, para ahli keamanan AI berbagi hasil pengujian keamanan mendalam pada DeepSeek dengan media. Mereka menemukan bahwa DeepSeek lebih rentan terhadap ‘jailbreaking’ dibandingkan dengan ChatGPT, Gemini, dan Claude. Kerentanan ini memungkinkan pengguna untuk melewati batasan keamanan asli AI, sehingga lebih mudah untuk mendapatkan konten yang berpotensi berbahaya, merugikan, atau ilegal.
Pada bulan Maret, ‘Luchen Technology,’ sebuah perusahaan infrastruktur AI yang terkait dengan Universitas Tsinghua, yang merupakan salah satu yang pertama mengintegrasikan model DeepSeek untuk menyediakan layanan API dan cloud mirror, mengumumkan penangguhan layanan terkait. Pendiri perusahaan, You Yang, mengungkapkan dalam sebuah posting bahwa biaya sebenarnya yang terkait dengan DeepSeek secara signifikan lebih tinggi daripada biaya teoretis. Menyusul reaksi keras online, ia secara terbuka menyatakan bahwa DeepSeek tidak dapat beroperasi tanpa menggunakan teknologi Amerika dalam jangka pendek, mempertanyakan mengapa realitas ini tidak dapat diakui secara terbuka.
Menurut laporan oleh Sina Technology pada 4 Maret, DeepSeek mengumumkan margin keuntungan biaya teoretis sebesar 545% untuk sistem online-nya pada 1 Maret pukul 17:02. Selanjutnya, Luchen Technology mengumumkan bahwa mereka akan menghentikan penyediaan layanan API DeepSeek dalam waktu seminggu, mendesak pengguna untuk menggunakan sisa saldo mereka.
Laporan tersebut mencatat bahwa Luchen Technology belum secara terbuka mengungkapkan alasan spesifik untuk menghentikan layanan API DeepSeek. Namun, analisis ekstensif pendiri tentang biaya DeepSeek pada platform seperti Zhihu menunjukkan bahwa biaya adalah faktor utama dalam keputusan untuk berhenti menyediakan layanan API.
Kekhawatiran Atas Keamanan Nasional
Hubungan antara DeepSeek dan pemerintah Tiongkok berpotensi lebih langsung daripada yang diperkirakan semula. Feroot Security, sebuah perusahaan cybersecurity Kanada, menemukan hubungan signifikan antara halaman login situs web DeepSeek dan China Mobile, sebuah perusahaan milik negara Tiongkok yang sebelumnya dikenai sanksi oleh pemerintah AS.
Dalam beberapa bulan terakhir, kekhawatiran atas keamanan nasional telah menyebabkan peningkatan seruan untuk pelarangan DeepSeek.
Pada tanggal 24 April, beberapa anggota Dewan Perwakilan Rakyat AS mengirim surat kepada DeepSeek, menyatakan kekhawatiran tentang hubungan perusahaan dengan Partai Komunis Tiongkok (PKT) dan meminta informasi mengenai data AS yang digunakan untuk melatih model AI-nya.
Perwakilan Brett Guthrie, Ketua Komite Energi dan Perdagangan DPR, dan Perwakilan Gus Bilirakis, Ketua Subkomite Inovasi, Data, dan Perdagangan, bersama dengan sepuluh anggota subkomite lainnya, menyampaikan surat kepada DeepSeek yang menyatakan kekhawatiran tentang ‘pengumpulan data pribadi warga Amerika’ oleh perusahaan dan risiko keamanan nasional yang terkait.
Dalam surat itu, Guthrie dan Bilirakis menyatakan bahwa ‘DeepSeek mengakui mengirimkan data pribadi pengguna Amerika ke server di Tiongkok, di mana informasi itu pasti akan diakses oleh pejabat yang berafiliasi dengan Partai Komunis Tiongkok. Kami khawatir bahwa hubungan keagenan ini dengan musuh utama kami membahayakan data dan keamanan nasional kami.
‘Untuk memastikan bahwa pengguna Amerika dan bisnis mereka terlindungi dari campur tangan asing, kami meluncurkan investigasi terhadap DeepSeek dan ancaman yang ditimbulkannya bagi negara kita.’
Surat itu lebih lanjut menyatakan, ‘Menurut laporan media, perusahaan juga berbagi informasi pribadi pengguna dengan entitas lain yang berafiliasi dengan Partai Komunis Tiongkok, termasuk ByteDance.
‘Pada saat yang sama, para peneliti telah menemukan kerentanan kritis dalam kontrol keamanan dan perlindungan model DeepSeek. Menanggapi risiko ini, semakin banyak negara bagian, termasuk New York, Texas, dan Virginia, telah melarang penggunaan DeepSeek pada perangkat pemerintah, dan jaksa agung negara bagian telah menyerukan larangan yang lebih luas.’
Pada tanggal 16 April, Komite Pemilihan DPR AS tentang Partai Komunis Tiongkok merilis sebuah laporan yang menekankan bahwa DeepSeek menimbulkan ancaman signifikan bagi keamanan nasional AS. Laporan itu menuduh DeepSeek mengumpulkan data pengguna untuk PKT dan secara diam-diam memanipulasi hasil, menjadi alat terbaru bagi PKT untuk mempercantik diri, memantau warga negara asing, dan mencuri serta merusak batasan kontrol ekspor AS.
Laporan itu menunjukkan bahwa meskipun DeepSeek mungkin tampak seperti chatbot AI lain yang menyediakan cara bagi pengguna untuk menghasilkan teks dan menjawab pertanyaan, pemeriksaan lebih dekat mengungkapkan bahwa DeepSeek secara diam-diam mengirimkan data pribadi yang diperoleh ke China Mobile, yang memiliki hubungan dengan militer Tiongkok, menciptakan kerentanan keamanan bagi pengguna. AS telah melarang China Mobile beroperasi di Amerika Serikat.
Penyelaman Mendalam ke dalam Kekurangan yang Diduga dari DeepSeek
Meskipun hype awal seputar DeepSeek melukiskan gambaran keajaiban AI yang siap untuk merevolusi berbagai sektor, pengawasan yang lebih ketat telah mengungkapkan realitas yang lebih bernuansa dan kompleks. Kekhawatiran yang diangkat oleh CEO Baidu, Robin Li, dan investigasi selanjutnya oleh para ahli keamanan siber dan badan-badan pemerintah, menyoroti beberapa area kritis di mana DeepSeek gagal memenuhi harapan dan menimbulkan potensi risiko.
Kemampuan Multimodal Terbatas
Salah satu kritik utama yang dilontarkan terhadap DeepSeek adalah kemampuannya yang terbatas untuk memproses konten multimodal. Tidak seperti model AI yang lebih canggih yang dapat dengan mulus mengintegrasikan dan memahami berbagai bentuk data, termasuk teks, gambar, audio, dan video, DeepSeek dilaporkan berjuang untuk memahami apa pun di luar input teks dasar. Keterbatasan ini secara signifikan membatasi penerapannya dalam skenario dunia nyata di mana informasi sering disajikan dalam kombinasi format. Misalnya, DeepSeek mungkin kesulitan menganalisis posting media sosial yang menyertakan teks dan gambar, atau untuk menyalin dan memahami konferensi video.
Masalah Kinerja: Kecepatan dan Biaya
Selain keterbatasannya dalam menangani media yang beragam, DeepSeek juga menghadapi tantangan terkait dengan kinerjanya. Menurut Robin Li, model ini dicirikan oleh kecepatan ‘lambat’ dan biaya ‘tinggi’, sehingga kurang menarik bagi para pengembang yang ingin membangun aplikasi AI yang terukur dan hemat biaya. Sumber daya komputasi yang tinggi yang diperlukan untuk menjalankan DeepSeek dapat diterjemahkan ke dalam pengeluaran yang signifikan bagi bisnis, terutama yang memiliki penyebaran skala besar. Selain itu, kecepatan pemrosesan yang lambat dapat menghambat aplikasi real-time, seperti chatbot atau asisten virtual, di mana responsivitas sangat penting untuk pengalaman pengguna yang positif.
Masalah ‘Tingkat Halusinasi’
Kekhawatiran utama lainnya seputar DeepSeek adalah ‘tingkat halusinasi’ yang tinggi, yang mengacu pada kecenderungan model untuk menghasilkan informasi yang tidak akurat atau tidak masuk akal. Masalah ini menimbulkan tantangan yang signifikan bagi aplikasi yang membutuhkan output yang andal dan dapat dipercaya. Dalam domain kritis, seperti perawatan kesehatan atau keuangan, di mana akurasi sangat penting, risiko DeepSeek menghasilkan informasi yang salah atau menyesatkan dapat memiliki konsekuensi serius. ‘Tingkat halusinasi’ merusak kredibilitas model dan membatasi kegunaannya dalam konteks sensitif.
Kerentanan Keamanan dan Jailbreaking
Pengungkapan bahwa DeepSeek lebih rentan terhadap ‘jailbreaking’ daripada model AI terkemuka lainnya menimbulkan kekhawatiran keamanan yang signifikan. ‘Jailbreaking’ mengacu pada proses melewati batasan keamanan AI untuk mendapatkan konten yang berbahaya, tidak etis, atau ilegal. Fakta bahwa DeepSeek dapat lebih mudah dimanipulasi dengan cara ini menunjukkan kelemahan dalam arsitektur keamanan yang mendasarinya. Kerentanan ini dapat dieksploitasi oleh aktor jahat untuk menghasilkan disinformasi, menyebarkan propaganda, atau terlibat dalam kegiatan berbahaya lainnya.
Privasi Data dan Risiko Keamanan Nasional
Dugaan hubungan antara DeepSeek dan pemerintah Tiongkok, khususnya praktik berbagi datanya dengan China Mobile, telah memicu alarm tentang privasi data dan keamanan nasional. Transmisi data pribadi pengguna Amerika ke server di Tiongkok, di mana data tersebut dapat diakses oleh pejabat yang berafiliasi dengan PKT, menimbulkan kekhawatiran serius tentang potensi pengawasan, spionase, dan kompromi informasi sensitif. Pengawasan pemerintah AS terhadap DeepSeek menggarisbawahi meningkatnya kesadaran akan potensi risiko yang terkait dengan model AI yang dikembangkan oleh entitas asing yang memiliki hubungan dekat dengan pemerintah yang bermusuhan.
Implikasi yang Lebih Luas
Kekhawatiran seputar DeepSeek meluas melampaui keterbatasan dan kerentanan khusus dari model AI tertentu ini. Mereka mencerminkan tantangan dan risiko yang lebih luas yang terkait dengan pengembangan dan penerapan teknologi AI yang pesat. Kasus DeepSeek menyoroti pentingnya:
- Pengujian dan Evaluasi yang Ketat: Pengujian dan evaluasi yang menyeluruh sangat penting untuk mengidentifikasi dan mengatasi potensi kelemahan, bias, dan kerentanan keamanan dalam model AI sebelum disebarkan secara luas.
- Transparansi dan Akuntabilitas: Pengembang harus transparan tentang data yang digunakan untuk melatih model mereka dan algoritma yang mereka gunakan. Mereka juga harus bertanggung jawab atas output dan konsekuensi dari sistem AI mereka.
- Privasi Data dan Perlindungan Keamanan: Privasi data yang kuat dan langkah-langkah keamanan diperlukan untuk melindungi informasi pribadi pengguna dari akses, penyalahgunaan, atau eksploitasi yang tidak sah.
- Kerja Sama Internasional: Kerja sama internasional sangat penting untuk menetapkan standar dan peraturan umum untuk pengembangan dan penerapan AI, memastikan bahwa teknologi ini digunakan secara bertanggung jawab dan etis.
- Berpikir Kritis dan Literasi Media: Pengguna harus didorong untuk secara kritis mengevaluasi informasi yang dihasilkan oleh model AI dan untuk mengembangkan keterampilan literasi media untuk membedakan antara konten yang akurat dan menyesatkan.
Kontroversi DeepSeek berfungsi sebagai kisah peringatan, mengingatkan kita bahwa pengejaran inovasi AI harus diimbangi dengan pertimbangan cermat terhadap potensi risiko dan implikasi sosial.