Baru-baru ini, badan pengatur Tiongkok melayangkan tuduhan terhadap perusahaan-perusahaan kecerdasan buatan (AI) terkemuka, Zhipu AI dan Moonshot AI, dengan menyatakan bahwa aplikasi chatbot mereka telah mengumpulkan data pengguna secara berlebihan. Perkembangan ini menyoroti meningkatnya pengawasan terhadap praktik privasi data dalam sektor AI Tiongkok yang berkembang pesat.
Tuduhan: Kajian Mendalam
Pusat Informasi Keamanan Siber Nasional, melalui akun WeChat resminya, mempublikasikan temuan-temuan tersebut, membayangi dua usaha AI paling menjanjikan di Tiongkok. Secara khusus, tuduhan tersebut menargetkan chatbot "Qingyan" milik Zhipu, yang juga dikenal sebagai ChatGLM, karena mengumpulkan informasi pengguna di luar cakupan izin yang diberikan. Chatbot "Kimi" milik Moonshot menghadapi tuduhan serupa, dituduh mengakses data yang tidak relevan dengan fungsi yang ditetapkan.
ChatGLM Zhipu AI: Melampaui Batas?
Zhipu AI, sebuah startup yang berasal dari Universitas Tsinghua yang bergengsi, telah dengan cepat menjadi terkenal dengan chatbot ChatGLM-nya. Namun, tuduhan baru-baru ini menunjukkan bahwa praktik pengumpulan data chatbot mungkin telah melanggar batas etika dan hukum. Tuduhan mengumpulkan informasi di luar otorisasi pengguna menimbulkan kekhawatiran tentang sejauh mana privasi pengguna dilindungi.
Kimi Moonshot AI: Mengakses Data yang Tidak Relevan?
Moonshot AI, startup lain yang berbasis di Beijing, juga telah mendapatkan perhatian yang signifikan dengan chatbot Kimi-nya. Tuduhan bahwa Kimi telah mengakses data yang tidak relevan dengan fungsinya menunjukkan potensi kurangnya transparansi dalam penggunaan dan penanganan data. Hal ini menimbulkan pertanyaan tentang perlindungan yang ada untuk memastikan bahwa data pengguna hanya digunakan untuk tujuan yang dimaksudkan.
Konteks: Lanskap AI Tiongkok yang Berkembang Pesat
Zhipu AI dan Moonshot AI telah muncul sebagai pemain kunci dalam lanskap AI Tiongkok, menawarkan alternatif kompetitif untuk ChatGPT OpenAI, yang tidak tersedia secara resmi di Tiongkok. Chatbot mereka telah mendapatkan popularitas yang cukup besar, menarik jutaan pengguna dan mengumpulkan minat investor yang besar.
ChatGLM dan Kimi: Popularitas dan Kehadiran Pasar
ChatGLM dan Kimi dengan cepat menjadi dua aplikasi AI paling populer di Tiongkok. Pada bulan April, kedua aplikasi ini memiliki total gabungan sekitar 35 juta pengguna aktif per bulan.
Tidak Hadirnya Pesaing Utama dalam Daftar
Khususnya, tiga aplikasi AI teratas di Tiongkok – Quark dari Alibaba Group Holding, Doubao dari ByteDance, dan layanan bernamaDeepSeek – tidak ada dalam daftar keamanan siber. Tidak adanya ini menimbulkan pertanyaan tentang praktik pengumpulan data dari aplikasi AI terkemuka ini dan apakah mereka mematuhi standar privasi pengguna yang sama.
Inisiatif Pemerintah: Melindungi Privasi Pengguna
Tuduhan terhadap Zhipu AI dan Moonshot AI adalah bagian dari inisiatif pemerintah yang lebih luas yang diluncurkan pada bulan Maret, yang bertujuan untuk melindungi privasi pengguna aplikasi seluler Tiongkok. Administrasi Siber Tiongkok, bersama dengan badan-badan pemerintah lainnya, terlibat aktif dalam inisiatif ini.
Lingkup Inisiatif: Menangani Pelanggaran Privasi
Inisiatif ini berupaya untuk menindak berbagai pelanggaran, termasuk pengumpulan informasi pengguna yang berlebihan dan tidak perlu, praktik ilegal yang melibatkan pengenalan wajah, dan eksploitasi data pribadi untuk kegiatan kriminal. Pendekatan komprehensif ini menggarisbawahi komitmen pemerintah untuk melindungi privasi pengguna di era digital.
Inspeksi Sebelumnya: Mengungkapkan Praktik Buruk Privasi
Sejak peluncuran inisiatif tersebut, beberapa inspeksi telah dilakukan, mengungkapkan sejumlah besar aplikasi dengan pelanggaran privasi. Inspeksi ini menyoroti luasnya praktik buruk privasi dalam ekosistem aplikasi seluler dan perlunya pengawasan peraturan yang lebih besar.
Implikasi bagi Industri AI
Tuduhan terhadap Zhipu AI dan Moonshot AI memiliki implikasi signifikan bagi industri AI Tiongkok. Mereka berfungsi sebagai pengingat bahwa privasi data merupakan perhatian penting yang harus ditangani secara bertanggung jawab oleh pengembang dan perusahaan AI.
Sentimen Investor: Dampak pada Pendanaan dan Valuasi
Tuduhan tersebut berpotensi berdampak pada sentimen investor terhadap Zhipu AI dan Moonshot AI. Investor mungkin menjadi lebih berhati-hati dalam mendanai perusahaan yang menghadapi tuduhan pelanggaran privasi, yang dapat memengaruhi valuasi dan prospek pertumbuhan masa depan mereka.
Peraturan Masa Depan: Penegakan Privasi Data yang Lebih Ketat
Penindakan pemerintah terhadap pelanggaran privasi menunjukkan bahwa peraturan dan mekanisme penegakan yang lebih ketat kemungkinan akan diterapkan di masa depan. Hal ini dapat menciptakan lingkungan yang lebih menantang bagi perusahaan AI, yang mengharuskan mereka untuk berinvestasi dalam langkah-langkah perlindungan data yang kuat dan mematuhi persyaratan peraturan yang terus berkembang.
Zhipu dan Moonshot: Pemain Kunci di Arena AI Tiongkok
Terlepas dari tuduhan baru-baru ini, Zhipu AI dan Moonshot AI tetap menjadi pemain terkemuka di industri AI Tiongkok, sering dianggap sebagai dua dari "macan AI" negara itu, bersama dengan rekan-rekan seperti Baichuan dan MiniMax.
Zhipu AI: Didukung oleh Raksasa Industri
Zhipu AI, dengan akarnya di Universitas Tsinghua, membanggakan dukungan kuat dari raksasa industri seperti Alibaba dan Tencent Holdings, serta dana pemerintah dan perusahaan modal ventura. Landasan keuangan yang kuat ini telah memungkinkan perusahaan untuk mengejar proyek penelitian dan pengembangan AI yang ambisius.
Moonshot AI: Bintang yang Sedang Naik Daun
Moonshot AI, yang didirikan oleh alumni Tsinghua, telah dengan cepat muncul sebagai bintang yang sedang naik daun di lanskap AI. Pertumbuhan pesat perusahaan dan teknologi chatbot yang inovatif telah menarik minat investor yang cukup besar, dengan Alibaba dan Tencent juga termasuk di antara pendukungnya.
Sengketa Hukum Pendiri: Faktor yang Mempersulit
Menambah kerumitan pada situasi tersebut, pendiri Moonshot AI, Yang Zhilin, telah terlibat dalam sengketa hukum dengan beberapa pendukung dari usaha sebelumnya. Sengketa ini berpotensi mengalihkan perhatian dari fokus perusahaan pada pengembangan AI dan menimbulkan kekhawatiran tentang kepemimpinan dan stabilitasnya.
Konteks yang Lebih Luas: Privasi Data di Tiongkok
Tuduhan terhadap Zhipu dan Moonshot harus dilihat dalam konteks yang lebih luas dari privasi data di Tiongkok. Pemerintah Tiongkok semakin fokus pada pengaturan pengumpulan, penggunaan, dan penyimpanan data oleh perusahaan teknologi, yang mencerminkan tren global menuju perlindungan data yang lebih besar.
Peningkatan Pengawasan Peraturan
Regulator Tiongkok telah meningkatkan pengawasan mereka terhadap praktik data di berbagai sektor, termasuk e-commerce, media sosial, dan keuangan. Peningkatan perhatian peraturan ini menggarisbawahi komitmen pemerintah untuk melindungi data pengguna dan mempromosikan tata kelola data yang bertanggung jawab.
Undang-Undang Perlindungan Informasi Pribadi (PIPL)
Undang-UndangPerlindungan Informasi Pribadi (PIPL), yang mulai berlaku pada tahun 2021, adalah undang-undang utama Tiongkok yang mengatur perlindungan data. PIPL menetapkan aturan komprehensif untuk pemrosesan informasi pribadi, termasuk persyaratan untuk persetujuan, minimisasi data, dan langkah-langkah keamanan.
Undang-Undang Keamanan Siber
Undang-Undang Keamanan Siber, yang diberlakukan pada tahun 2017, juga memainkan peran penting dalam mengatur praktik data di Tiongkok. Undang-undang ini berfokus pada perlindungan infrastruktur informasi penting dan memastikan keamanan ruang siber.
Implikasi bagi Perusahaan AI Internasional
Peningkatan fokus pada privasi data di Tiongkok memiliki implikasi bagi perusahaan AI internasional yang beroperasi di negara tersebut. Perusahaan-perusahaan ini harus memastikan bahwa praktik data mereka sesuai dengan hukum dan peraturan Tiongkok, yang mungkin berbeda dari yang ada di negara asal mereka.
Persyaratan Lokalisasi
Tiongkok telah menerapkan persyaratan lokalisasi untuk jenis data tertentu, yang berarti bahwa data yang dikumpulkan di Tiongkok harus disimpan dan diproses di dalam negara tersebut. Persyaratan ini dapat menimbulkan tantangan bagi perusahaan internasional yang mengandalkan infrastruktur data global.
Transfer Data Lintas Batas
Transfer data lintas batas juga tunduk pada peraturan ketat di Tiongkok. Perusahaan harus memperoleh persetujuan dari otoritas Tiongkok sebelum mentransfer data keluar dari negara tersebut, yang bisa menjadi proses yang kompleks dan memakan waktu.
Melihat ke Depan: Masa Depan AI dan Privasi Data di Tiongkok
Tuduhan terhadap Zhipu AI dan Moonshot AI, ditambah dengan lanskap peraturan yang lebih luas, menunjukkan bahwa privasi data akan terus menjadi masalah penting bagi industri AI di Tiongkok.
Perlunya Transparansi yang Lebih Besar
Perusahaan AI perlu lebih transparan tentang praktik pengumpulan dan penggunaan data mereka. Ini termasuk memberikan informasi yang jelas dan ringkas kepada pengguna tentang bagaimana data mereka digunakan dan memberi mereka kontrol yang lebih besar atas informasi pribadi mereka.
Berinvestasi dalam Langkah-Langkah Perlindungan Data
Perusahaan AI harus berinvestasi dalam langkah-langkah perlindungan data yang kuat untuk memastikan keamanan data pengguna. Ini termasuk menerapkan perlindungan teknis, seperti enkripsi dan kontrol akses, serta langkah-langkah organisasi, seperti kebijakan privasi data dan program pelatihan.
Kolaborasi dengan Regulator
Perusahaan AI harus berkolaborasi dengan regulator untuk mengembangkan dan menerapkan praktik terbaik untuk privasi data. Ini termasuk berpartisipasi dalam forum industri, berbagi wawasan dan keahlian, dan bekerja sama untuk mengatasi tantangan yang muncul.
Pertimbangan Etika
Selain kepatuhan hukum, perusahaan AI juga harus mempertimbangkan implikasi etis dari praktik data mereka. Ini termasuk memastikan bahwa sistem AI digunakan secara bertanggung jawab dan etis dan bahwa mereka tidak melakukan diskriminasi atau membahayakan individu atau kelompok.
Kesimpulan: Seruan untuk Pengembangan AI yang Bertanggung Jawab
Tuduhan terhadap Zhipu AI dan Moonshot AI berfungsi sebagai peringatan bagi industri AI di Tiongkok. Privasi data bukan hanya masalah kepatuhan hukum, tetapi tanggung jawab etis mendasar. Seiring AI terus mengubah bisnis dan individu, begitu juga pengumpulan data. Kegagalan untuk melakukannya mengikis hak privasi penting yang diperlukan untuk masyarakat yang bebas. Dengan menjunjung tinggi standar perlindungan data tertinggi, perusahaan AI dapat membangun kepercayaan dengan pengguna, mendorong inovasi, dan berkontribusi pada masa depan digital yang lebih aman dan adil.