Syarikat permulaan kecerdasan buatan (AI) China, DeepSeek, baru-baru ini menyaksikan model AI terbaharunya mencapai skor memberangsangkan dalam ujian penanda aras pengekodan, matematik dan pengetahuan am, hampir menandingi model utama o3 OpenAI. Walau bagaimanapun, R1 yang dinaik taraf, juga dikenali sebagai "R1-0528", mungkin kurang bersedia untuk menjawab soalan yang kontroversi, terutamanya mengenai topik yang dianggap kontroversi oleh kerajaan China.
Menurut ujian yang dijalankan oleh pembangun tanpa nama di sebalik SpeechMap, R1-0528 jauh lebih bertolak ansur terhadap topik kebebasan bersuara yang dipertikaikan berbanding versi DeepSeek sebelumnya, dan merupakan "model DeepSeek yang paling ketat setakat ini dalam menyemak kritikan terhadap kerajaan China". SpeechMap ialah platform yang membandingkan cara model yang berbeza mengendalikan topik sensitif dan kontroversi.
Seperti yang dijelaskan oleh Wired dalam artikel Januari, model China perlu mematuhi kawalan maklumat yang ketat. Undang-undang 2023 melarang model daripada menjana kandungan yang "menjejaskan perpaduan negara dan keharmonian sosial," yang boleh ditafsirkan sebagai menentang naratif sejarah dan politik kerajaan. Untuk mematuhi peraturan, syarikat permulaan China biasanya menapis model mereka dengan menggunakan penapis tahap gesaan atau talaan halus. Satu kajian mendapati bahawa R1 DeepSeek yang asal enggan menjawab 85% soalan mengenai topik yang dianggap kontroversi dari segi politik oleh kerajaan China.
Menurut xlr8harder, R1-0528 menapis jawapan mengenai subjek seperti kem tahanan di wilayah Xinjiang China, di mana lebih sejuta umat Islam Uighur ditahan sewenang-wenangnya. Walaupun kadangkala mengkritik aspek tertentu dasar kerajaan China—dalam ujian xlr8harder, ia memberikan kem Xinjiang sebagai contoh pelanggaran hak asasi manusia—model itu sering memberikan pendirian rasmi kerajaan China apabila ditanya soalan secara langsung.
TechCrunch juga memerhatikan ini dalam ujian ringkas kami.
Model AI yang tersedia secara terbuka di China, termasuk model penjanaan video, sebelum ini dikritik kerana menapis topik yang sensitif kepada kerajaan China, seperti Pembunuhan Beramai-ramai Dataran Tiananmen. Pada bulan Disember, Ketua Pegawai Eksekutif platform pembangunan AI Hugging Face, Clément Delangue, memberi amaran tentang akibat yang tidak diingini bagi syarikat Barat yang membina AI China berlesen awam yang berprestasi baik.
Kesan penapisan pada model AI telah lama menjadi isu yang membimbangkan, terutamanya dalam konteks ketegangan geopolitik. Kes DeepSeek R1-0528 menyerlahkan keseimbangan rumit antara mengejar kemajuan teknologi AI dan mengekalkan kebebasan berfikir dan akses kepada maklumat. Patut diterokai secara mendalam bagaimana DeepSeek menangani cabaran ini dan apakah implikasinya terhadap pembangunan masa depan industri AI.
##Definisi dan Bentuk Penapisan
Penapisan, secara umumnya merujuk kepada sekatan atau penindasan maklumat, boleh mengambil pelbagai bentuk. Dalam bidang AI, penapisan biasanya ditunjukkan sebagai:
- Penapisan kandungan: Menghalang model daripada menjana atau memaparkan jenis kandungan tertentu, seperti yang melibatkan topik sensitif politik, keganasan, diskriminasi, dan lain-lain.
- Penyimpangan maklumat: Maklumat yang disampaikan oleh model diubah suai atau diputarbelitkan agar sesuai dengan ideologi atau kedudukan politik tertentu.
- Elakan jawapan: Model enggan menjawab soalan tertentu, atau memberikan jawapan yang samar-samar dan tidak jelas.
- Kejuruteraan gesaan: Melalui gesaan yang direka dengan teliti, membimbing model untuk memberikan jawapan yang sesuai dengan niat tertentu.
Kes DeepSeek R1-0528 menunjukkan bahawa model itu mungkin telah menggunakan pelbagai cara penapisan di atas, terutamanya apabila melibatkan topik sensitif kerajaan China.
##Sebab dan Motivasi Penapisan
Sebab dan motivasi untuk menapis model AI selalunya pelbagai:
- Undang-undang dan peraturan: Sesetengah negara atau wilayah telah merangka undang-undang dan peraturan yang memerlukan model AI untuk mematuhi piawaian kawalan maklumat tertentu. Contohnya, undang-undang berkaitan di China melarang model daripada menjana kandungan yang "menjejaskan perpaduan negara dan keharmonian sosial".
- Tekanan politik: Kerajaan atau kumpulan politik mungkin memberi tekanan kepada syarikat AI, yang memerlukan mereka untuk menapis kandungan model untuk mengekalkan kepentingan politik mereka.
- Tanggungjawab sosial: Syarikat AI mungkin secara proaktif menapis kandungan model atas sebab tanggungjawab sosial untuk mengelakkan penyebaran maklumat berbahaya atau menimbulkan pergolakan sosial.
- Faedah komersial: Untuk mengelakkan daripada menyinggung kerajaan atau orang ramai, syarikat AI mungkin menapis kandungan model untuk mengekalkan kepentingan komersial mereka.
DeepSeek, sebagai sebuah syarikat AI China, mungkin menghadapi pertimbangan daripada undang-undang dan peraturan, tekanan politik, dan tanggungjawab sosial, jadi ia terpaksa menapis R1-0528.
##Potensi Kesan Penapisan
Penapisan model AI boleh menghasilkan kesan yang berpotensi berikut:
- Hadkan pemerolehan maklumat: Penapisan akan mengehadkan pengguna daripada memperoleh maklumat yang komprehensif dan objektif, yang akan menjejaskan pertimbangan dan membuat keputusan mereka.
- Melumpuhkan inovasi: Penapisan akan mengehadkan pembangunan teknologi AI kerana penyelidik mungkin tidak bebas untuk meneroka dan menguji pelbagai idea.
- Mempercepatkan perpecahan sosial: Penapisan boleh mempercepatkan perpecahan sosial kerana kumpulan yang berbeza mungkin hanya dapat mengakses maklumat yang sesuai dengan kedudukan mereka.
- Menjejaskan kepercayaan: Jika pengguna mendapati bahawa model AI mempunyai tingkah laku penapisan, mereka mungkin kehilangan kepercayaan terhadap model itu.
Kes DeepSeek R1-0528 menunjukkan bahawa penapisan mungkin mengenakan batasan kepada pengguna untuk mendapatkan maklumat mengenai topik sensitif kerajaan China.
##Strategi untuk Menangani Penapisan AI
Untuk menangani penapisan AI, strategi berikut boleh diambil:
- Cara teknikal: Membangunkan teknologi yang dapat mengesan dan memintas penapis penapisan.
- Litigasi: Membuka tindakan undang-undang terhadap tingkah laku penapisan yang melanggar kebebasan bersuara.
- Advokasi awam: Meningkatkan kesedaran awam tentang penapisan AI dan menyeru kerajaan dan perniagaan untuk mengambil tindakan.
- AI terpencar: Membangunkan platform AI terpencar untuk mengurangkan kemungkinan penapisan.
- Kerjasama sumber terbuka: Menggalakkan kerjasama sumber terbuka untuk membangunkan model AI yang lebih terbuka dan telus.
##Tindak Balas DeepSeek
DeepSeek belum memberikan respons awam terhadap dakwaan penapisan R1-0528. Jika DeepSeek memberikan respons, aspek berikut patut diberi perhatian:
- Adakah DeepSeek mengakui penapisan R1-0528?
- Jika diakui, apakah sebab dan motivasi DeepSeek untuk penapisan?
- Adakah DeepSeek merancang untuk mengubah dasar penapisannya?
- Bagaimanakah DeepSeek mengimbangi hubungan antara kemajuan teknologi dan kebebasan maklumat?
Respons DeepSeek akan mempunyai kesan penting ke atas industri AI.
##Perbincangan Etika dan Moral Penapisan
Penapisan AI menimbulkan beberapa isu etika dan moral, termasuk:
- Kebebasan bersuara: Haruskah model AI menikmati kebebasan bersuara?
- Pemerolehan maklumat: Adakah pengguna berhak untuk mendapatkan maklumat yang komprehensif dan objektif?
- Ketelusan: Adakah syarikat AI berkewajipan untuk mendedahkan dasar penapisan mereka?
- Tanggungjawab: Siapa yang harus bertanggungjawab untuk penapisan AI?
- Kepercayaan: Bagaimanakah kepercayaan dapat dibina dalam era AI?
Isu etika dan moral ini perlu diterokai secara mendalam.
##Keanehan Penapisan China
Sistem penapisan China mempunyai kekhususannya, yang terutamanya ditunjukkan dalam aspek berikut:
- Skop yang luas: Skop semakan China meliputi pelbagai bidang seperti politik, sejarah, budaya dan agama.
- Ketegasan yang ketat: Kekuatan semakan China sangat ketat, malah melibatkan semakan ucapan individu.
- Teknologi canggih: China mempunyai pasukan semakan yang besar dan menggunakan cara teknologi yang canggih untuk menyemak.
- Sokongan undang-undang: China telah merangka satu siri undang-undang dan peraturan untuk menyediakan sokongan undang-undang untuk sistem semakan.
Keanehan ini menimbulkan cabaran unik untuk membangunkan model AI di China.
##Perbandingan Sistem Penapisan AI Global
Sebagai tambahan kepada China, terdapat juga bentuk penapisan AI yang berbeza di negara lain, yang terutamanya ditunjukkan dalam aspek berikut:
- Eropah: Kesatuan Eropah telah memperkenalkan "Akta AI", yang bertujuan untuk mengawal selia aplikasi AI dan mencegahnya daripada digunakan untuk mendiskriminasi atau melanggar hak asasi manusia.
- Amerika Syarikat: Amerika Syarikat terutamanya mengawal selia pembangunan AI melalui mekanisme pasaran dan disiplin industri, tetapi terdapat juga beberapa kontroversi mengenai penapisan kandungan.
- Negara lain: Negara lain juga telah merangka dasar kawal selia AI yang berbeza berdasarkan keadaan negara mereka sendiri, dan beberapa dasar ini mungkin melibatkan penapisan kandungan.
Dengan membandingkan sistem penapisan AI yang berbeza di negara yang berbeza, kompleksiti dan kepelbagaian sistem penapisan dapat difahami dengan lebih baik.
##Trend Masa Depan Penapisan AI
Trend masa depan penapisan AI mungkin termasuk aspek berikut:
- Kemajuan teknologi: Teknologi kajian semula dan anti-semakan akan terus berkembang, membentuk permainan kucing dan tikus.
- Peraturan yang diperkukuh: Kerajaan di pelbagai negara mungkin memperkukuhkan peraturan AI, termasuk aspek kajian semula kandungan.
- Kerjasama antarabangsa: Negara-negara mungkin mengukuhkan kerjasama antarabangsa dalam tadbir urus AI, termasuk aspek kajian semula kandungan.
- Perhatian sosial: Semua sektor masyarakat akan lebih prihatin terhadap kesan penapisan AI dan menyeru agar amalan yang lebih bertanggungjawab diambil.
##Kesan Penapisan terhadap DeepSeek
Sebagai sebuah syarikat AI China, pembangunan DeepSeek sangat dipengaruhi oleh sistem penapisan China. DeepSeek perlu mencari keseimbangan antara mematuhi undang-undang dan peraturan China dan memenuhi keperluan pengguna. Pembangunan DeepSeek pada masa hadapan akan bergantung kepada cara ia menangani cabaran yang ditimbulkan oleh sistem penapisan.
##AI dan Berat Sebelah
Penapisan berkait rapat dengan isu berat sebelah AI. Penapisan boleh menyebabkan model hanya mempelajari sebahagian maklumat, seterusnya mewujudkan berat sebelah. DeepSeek perlu mengambil langkah-langkah untuk memastikan modelnya dapat mempelajari maklumat yang komprehensif dan objektif, dan mengelakkan daripada menghasilkan berat sebelah.
##Ketelusan dan Kebolehtafsiran
Untuk mengatasi cabaran yang ditimbulkan oleh penapisan, DeepSeek harus meningkatkan ketelusan dan kebolehtafsiran modelnya. DeepSeek harus mendedahkan dasar penapisannya dan menerangkan cara modelnya mengendalikan topik sensitif. Ini akan membantu membina kepercayaan pengguna dan menggalakkan pembangunan AI yang sihat.
##Kesimpulan
Kes DeepSeek R1-0528 menyerlahkan kerumitan dan kepentingan penapisan AI. Penapisan akan mempunyai kesan penting ke atas perolehan maklumat, inovasi teknologi, perpecahan masyarakat dan kepercayaan pengguna. Menangani penapisan memerlukan pelbagai strategi seperti cara teknikal, litigasi, advokasi awam, AI terpencar, dan kerjasama sumber terbuka. DeepSeek, sebagai sebuah syarikat AI China, perlu mencari keseimbangan antara mematuhi undang-undang dan peraturan China dan memenuhi keperluan pengguna. DeepSeek harus meningkatkan ketelusan dan kebolehtafsiran modelnya untuk menangani cabaran yang ditimbulkan oleh penapisan.