Perusahaan rintisan kecerdasan buatan Tiongkok, DeepSeek, baru-baru ini merilis model kecerdasan buatan terbarunya yang telah mencapai hasil luar biasa dalam tolok ukur pengkodean, matematika, dan pengetahuan umum, hampir melampaui model o3 andalan OpenAI. Namun, R1 yang ditingkatkan, juga dikenal sebagai "R1-0528", mungkin kurang bersedia menjawab pertanyaan kontroversial, terutama tentang topik yang dianggap kontroversial oleh pemerintah Tiongkok.
Menurut pengujian yang dilakukan oleh pengembang anonim di balik SpeechMap, R1-0528 jauh lebih toleran terhadap topik kebebasan berbicara yang diperdebatkan daripada versi DeepSeek sebelumnya, dan merupakan "model DeepSeek dengan sensor paling ketat terhadap kritik terhadap pemerintah Tiongkok hingga saat ini". SpeechMap adalah platform yang membandingkan bagaimana berbagai model menangani topik sensitif dan kontroversial.
Seperti yang dijelaskan oleh Wired dalam sebuah artikel di bulan Januari, model-model Tiongkok perlu mematuhi kontrol informasi yang ketat. Sebuah undang-undang tahun 2023 melarang model-model untuk menghasilkan konten yang "merusak persatuan nasional dan keharmonisan sosial", yang dapat diartikan sebagai konten yang bertentangan dengan narasi sejarah dan politik pemerintah. Untuk mematuhi peraturan, perusahaan rintisan Tiongkok biasanya menyensor model mereka dengan menggunakan filter tingkat prompt atau fine-tuning. Sebuah studi menemukan bahwa R1 awal DeepSeek menolak untuk menjawab 85% pertanyaan tentang topik yang dianggap pemerintah Tiongkok sebagai topik yang secara politis kontroversial.
Menurut xlr8harder, R1-0528 menyensor jawaban tentang topik-topik seperti kamp-kamp penahanan di wilayah Xinjiang Tiongkok, tempat lebih dari satu juta Muslim Uighur ditahan secara sewenang-wenang. Meskipun terkadang mengkritik aspek-aspek tertentu dari kebijakan pemerintah Tiongkok - dalam pengujian xlr8harder, ia menawarkan kamp-kamp Xinjiang sebagai contoh pelanggaran hak asasi manusia - model tersebut sering memberikan pendirian resmi pemerintah Tiongkok ketika ditanya langsung tentang masalah tersebut.
TechCrunch juga mengamati hal ini dalam pengujian singkat kami.
Model AI yang tersedia untuk umum di Tiongkok, termasuk model pembangkit video, di masa lalu telah dikritik karena menyensor topik-topik sensitif bagi pemerintah Tiongkok, seperti Pembantaian Lapangan Tiananmen. Pada bulan Desember, CEO platform pengembangan AI Hugging Face, Clément Delangue, memperingatkan tentang konsekuensi yang tidak diinginkan dari perusahaan-perusahaan Barat yang membangun di atas AI Tiongkok berlisensi publik yang berkinerja baik.
Dampak sensor terhadap model AI telah lama menjadi perhatian, terutama di tengah ketegangan geopolitik. Kasus DeepSeek R1-0528 menyoroti keseimbangan kompleks antara mengejar kemajuan teknologi AI dan menjaga kebebasan berpikir dan akses informasi. Perlu dieksplorasi lebih lanjut bagaimana DeepSeek mengatasi tantangan-tantangan ini, dan apa artinya ini bagi pengembangan industri AI di masa depan.
Definisi dan Bentuk Sensor
Sensor, dalam arti luas, mengacu pada pembatasan atau penindasan informasi, dan dapat mengambil berbagai bentuk. Di bidang kecerdasan buatan, sensor biasanya bermanifestasi sebagai:
- Penyaringan Konten: Mencegah model menghasilkan atau menampilkan jenis konten tertentu, seperti yang melibatkan topik sensitif politik, kekerasan, diskriminasi, dll.
- Distorsi Informasi: Informasi yang disajikan oleh model dimodifikasi atau diputarbalikkan agar sesuai dengan ideologi atau posisi politik tertentu.
- Penghindaran Jawaban: Model menolak untuk menjawab pertanyaan tertentu, atau memberikan jawaban yang samar-samar dan ambigu.
- Rekayasa Prompt: Memandu model untuk memberikan jawaban yang sesuai dengan maksud tertentu melalui prompt yang dirancang dengan cermat.
Kasus DeepSeek R1-0528 menunjukkan bahwa model tersebut mungkin telah mengadopsi berbagai sarana sensor di atas, terutama ketika melibatkan topik sensitif bagi pemerintah Tiongkok.
Alasan dan Motivasi untuk Sensor
Alasan dan motivasi untuk menyensor model kecerdasan buatan seringkali beragam:
- Hukum dan Peraturan: Beberapa negara atau wilayah telah memberlakukan hukum dan peraturan yang mengharuskan model kecerdasan buatan untuk mematuhi standar kontrol informasi tertentu. Misalnya, undang-undang terkait di Tiongkok melarang model untuk menghasilkan konten yang "merusak persatuan nasional dan keharmonisan sosial".
- Tekanan Politik: Pemerintah atau kelompok politik dapat memberikan tekanan kepada perusahaan kecerdasan buatan, meminta mereka untuk menyensor konten model untuk mempertahankan kepentingan politik mereka.
- Tanggung Jawab Sosial: Perusahaan kecerdasan buatan dapat secara proaktif menyensor konten model karena pertimbangan tanggung jawab sosial, untuk menghindari penyebaran informasi berbahaya atau memicu kerusuhan sosial.
- Kepentingan Komersial: Untuk menghindari menyinggung pemerintah atau publik, perusahaan kecerdasan buatan dapat menyensor konten model untuk mempertahankan kepentingan komersial mereka.
DeepSeek, sebagai perusahaan kecerdasan buatan Tiongkok, mungkin menghadapi pertimbangan dari berbagai aspek seperti hukum dan peraturan, tekanan politik, dan tanggung jawab sosial, sehingga harus menyensor R1-0528.
Potensi Dampak Sensor
Sensor model kecerdasan buatan dapat memiliki potensi dampak berikut:
- Pembatasan Akses Informasi: Sensor akan membatasi pengguna dari memperoleh informasi yang komprehensif dan objektif, yang mempengaruhi penilaian dan pengambilan keputusan mereka.
- Menghambat Inovasi: Sensor akan membatasi pengembangan teknologi kecerdasan buatan, karena para peneliti mungkin tidak dapat dengan bebas mengeksplorasi dan menguji berbagai ide.
- Memperburuk Perpecahan Sosial: Sensor dapat memperburuk perpecahan sosial, karena kelompok-kelompok yang berbeda mungkin hanya memiliki akses ke informasi yang sesuai dengan posisi mereka sendiri.
- Merusak Kepercayaan: Jika pengguna menemukan bahwa model kecerdasan buatan memiliki perilaku sensor, mereka mungkin kehilangan kepercayaan pada model tersebut.
Kasus DeepSeek R1-0528 menunjukkan bahwa sensor dapat membatasi kemampuan pengguna untuk memperoleh informasi tentang topik sensitif bagi pemerintah Tiongkok.
Strategi untuk Menghadapi Sensor Kecerdasan Buatan
Untuk menghadapi sensor kecerdasan buatan, strategi berikut dapat diambil:
- Sarana Teknis: Mengembangkan teknologi yang dapat mendeteksi dan melewati filter sensor.
- Gugatan Hukum: Mengajukan gugatan hukum terhadap perilaku sensor yang melanggar kebebasan berbicara.
- Advokasi Publik: Meningkatkan kesadaran publik tentang sensor kecerdasan buatan dan menyerukan kepada pemerintah dan perusahaan untuk mengambil tindakan.
- Kecerdasan Buatan yang Terdesentralisasi: Mengembangkan platform kecerdasan buatan yang terdesentralisasi untuk mengurangi kemungkinan sensor.
- Kerja Sama Sumber Terbuka: Mendorong kerja sama sumber terbuka untuk bersama-sama mengembangkan model kecerdasan buatan yang lebih terbuka dan transparan.
Tanggapan DeepSeek
DeepSeek belum secara terbuka menanggapi tuduhan tentang sensor R1-0528. Jika DeepSeek memberikan tanggapan tentang hal ini, layak untuk memperhatikan beberapa aspek berikut:
- Apakah DeepSeek mengakui telah menyensor R1-0528?
- Jika diakui, apa alasan dan motivasi DeepSeek untuk menyensor?
- Apakah DeepSeek berencana untuk mengubah kebijakan sensornya?
- Bagaimana DeepSeek menyeimbangkan hubungan antara kemajuan teknologi dan kebebasan informasi?
Tanggapan DeepSeek akan memiliki dampak penting pada industri kecerdasan buatan.
Diskusi Sensor dan Etika Moral
Sensor kecerdasan buatan memunculkan serangkaian pertanyaan etika moral, termasuk:
- Kebebasan Berbicara: Haruskah model kecerdasan buatan menikmati kebebasan berbicara?
- Akses Informasi: Apakah pengguna memiliki hak untuk memperoleh informasi yang komprehensif dan objektif?
- Transparansi: Apakah perusahaan kecerdasan buatan memiliki kewajiban untuk mengungkapkan kebijakan sensor mereka?
- Tanggung Jawab: Siapa yang harus bertanggung jawab atas sensor kecerdasan buatan?
- Kepercayaan: Bagaimana membangun kepercayaan di era kecerdasan buatan?
Pertanyaan-pertanyaan etika moral ini perlu dieksplorasi lebih lanjut.
Kekhususan Sensor Tiongkok
Sensor Tiongkok memiliki kekhususan, yang terutama tercermin dalam beberapa aspek berikut:
- Cakupan Luas: Cakupan sensor Tiongkok mencakup berbagai bidang seperti politik, sejarah, budaya, dan agama.
- Kekuatan Ketat: Kekuatan sensor Tiongkok sangat ketat, bahkan melibatkan sensor terhadap ucapan individu.
- Teknologi Tingkat Lanjut: Tiongkok memiliki tim sensor yang besar dan menggunakan sarana teknologi canggih untuk melakukan sensor.
- Dukungan Hukum: Tiongkok telah memberlakukan serangkaian hukum dan peraturan untuk memberikan dukungan hukum untuk sistem sensor.
Kekhususan ini membuat pengembangan model kecerdasan buatan di Tiongkok menghadapi tantangan unik.
Perbandingan Sensor Kecerdasan Buatan Global
Selain Tiongkok, negara-negara lain juga memiliki berbagai bentuk sensor kecerdasan buatan, yang terutama tercermin dalam beberapa aspek berikut:
- Eropa: Uni Eropa telah mengeluarkan "Undang-Undang Kecerdasan Buatan", yang bertujuan untuk mengatur penerapan kecerdasan buatan dan mencegahnya digunakan untuk diskriminasi atau pelanggaran hak asasi manusia.
- Amerika Serikat: Amerika Serikat terutama mengatur pengembangan kecerdasan buatan melalui mekanisme pasar dan disiplin industri sendiri, tetapi ada juga beberapa kontroversi tentang sensor konten.
- Negara Lain: Negara-negara lain juga telah merumuskan kebijakan pengawasan kecerdasan buatan yang berbeda sesuai dengan kondisi nasional mereka sendiri, dan beberapa kebijakan ini mungkin melibatkan sensor konten.
Dengan membandingkan sistem sensor kecerdasan buatan yang berbeda di berbagai negara, kita dapat lebih memahami kompleksitas dan keragaman sensor.
Tren Masa Depan Sensor Kecerdasan Buatan
Tren masa depan sensor kecerdasan buatan mungkin mencakup beberapa aspek berikut:
- Kemajuan Teknologi: Teknologi sensor dan anti-sensor akan terus berkembang, membentuk permainan kucing dan tikus.
- Pengawasan yang Ditingkatkan: Pemerintah dari berbagai negara dapat meningkatkan pengawasan terhadap kecerdasan buatan, termasuk dalam hal sensor konten.
- Kerja Sama Internasional: Berbagai negara dapat meningkatkan kerja sama internasional dalam tata kelola kecerdasan buatan, termasuk dalam hal sensor konten.
- Perhatian Sosial: Semua sektor masyarakat akan lebih memperhatikan dampak sensor kecerdasan buatan dan menyerukan tindakan yang lebih bertanggung jawab.
Dampak Sensor pada DeepSeek
Sebagai perusahaan kecerdasan buatan Tiongkok, perkembangan DeepSeek sangat dipengaruhi oleh sistem sensor Tiongkok. DeepSeek perlu menemukan keseimbangan antara mematuhi hukum dan peraturan Tiongkok dan memenuhi kebutuhan pengguna. Perkembangan DeepSeek di masa depan akan bergantung pada bagaimana ia mengatasi tantangan yang ditimbulkan oleh sensor.
Kecerdasan Buatan dan Bias
Sensor terkait erat dengan masalah bias kecerdasan buatan. Sensor dapat menyebabkan model hanya mempelajari sebagian informasi, sehingga menghasilkan bias. DeepSeek perlu mengambil langkah-langkah untuk memastikan bahwa modelnya dapat mempelajari informasi yang komprehensif dan objektif dan menghindari menghasilkan bias.
Transparansi dan Kemampuan Menjelaskan
Untuk mengatasi tantangan yang ditimbulkan oleh sensor, DeepSeek harus meningkatkan transparansi dan kemampuan menjelaskan modelnya. DeepSeek harus mengungkapkan kebijakan sensornya dan menjelaskan bagaimana modelnya menangani topik sensitif. Ini akan membantu membangun kepercayaan pengguna dan mempromosikan pengembangan kecerdasan buatan yang sehat.
Ringkasan
Kasus DeepSeek R1-0528 menyoroti kompleksitas dan pentingnya sensor kecerdasan buatan. Sensor memiliki dampak penting pada perolehan informasi, inovasi teknologi, perpecahan sosial, dan kepercayaan pengguna. Menghadapi sensor membutuhkan berbagai strategi seperti sarana teknis, gugatan hukum, advokasi publik, kecerdasan buatan yang terdesentralisasi, dan kerja sama sumber terbuka. Sebagai perusahaan kecerdasan buatan Tiongkok, DeepSeek perlu menemukan keseimbangan antara mematuhi hukum dan peraturan Tiongkok dan memenuhi kebutuhan pengguna. DeepSeek harus meningkatkan transparansi dan kemampuan menjelaskan modelnya untuk mengatasi tantangan yang ditimbulkan oleh sensor.