Sand AI, sebuah startup video AI asal Cina, baru-baru ini meluncurkan model AI sumber terbuka (open-source) untuk pembuatan video, yang mendapatkan pujian dari tokoh-tokoh terkemuka seperti Kai-Fu Lee, pendiri Microsoft Research Asia. Namun, pengujian oleh TechCrunch mengungkapkan bahwa Sand AI menyensor versi modelnya yang dihosting secara publik, mencegah pembuatan gambar yang mungkin memprovokasi kemarahan regulator Cina.
Magi-1: Model yang Menjanjikan Namun Terbatas
Awal pekan ini, Sand AI memperkenalkan Magi-1, model yang mampu menghasilkan video dengan “autoregresif” memprediksi urutan frame. Perusahaan mengklaim bahwa model ini dapat menghasilkan rekaman berkualitas tinggi dan terkontrol yang lebih akurat menangkap fisika dibandingkan pesaing sumber terbukanya.
Meskipun berpotensi besar, Magi-1 saat ini tidak praktis untuk sebagian besar perangkat keras konsumen. Dengan 24 miliar parameter, ia membutuhkan antara empat dan delapan GPU Nvidia H100 untuk berfungsi secara efektif. Parameter adalah variabel internal yang digunakan model AI untuk membuat prediksi. Bagi banyak pengguna, termasuk jurnalis TechCrunch yang mengujinya, platform Sand AI adalah satu-satunya jalan yang dapat diakses untuk mengevaluasi Magi-1.
Aksi Sensor: Gambar Apa yang Diblokir?
Platform ini membutuhkan prompt teks atau gambar awal untuk memulai pembuatan video. Namun, tidak semua prompt diizinkan, seperti yang dengan cepat ditemukan oleh TechCrunch. Sand AI secara aktif memblokir pengunggahan gambar yang menampilkan:
- Xi Jinping
- Lapangan Tiananmen dan Tank Man
- Bendera Taiwan
- Tanda-tanda yang mendukung pembebasan Hong Kong
Penyaringan tampaknya terjadi pada tingkat gambar, karena mengganti nama file gambar tidak melewati blok tersebut.
Sand AI Tidak Sendirian dalam Menerapkan Sensor
Sand AI tidak unik dalam pendekatannya. Hailuo AI, platform media generatif yang dioperasikan oleh MiniMax yang berbasis di Shanghai, juga mencegah pengunggahan gambar yang sensitif secara politik, khususnya yang menggambarkan Xi Jinping. Namun, penyaringan Sand AI tampaknya sangat ketat, karena Hailuo AI mengizinkan gambar Lapangan Tiananmen.
Lanskap Hukum Sensor AI di Cina
Seperti yang dijelaskan Wired dalam artikel Januari, model AI yang beroperasi di Cina tunduk pada kontrol informasi yang ketat. Undang-undang tahun 2023 melarang model-model ini menghasilkan konten yang “membahayakan persatuan nasional dan harmoni sosial.” Ini dapat diartikan sebagai konten yang bertentangan dengan narasi sejarah dan politik pemerintah. Untuk mematuhi peraturan ini, startup Cina sering menyensor model mereka melalui filter tingkat prompt atau fine-tuning.
Kontras dalam Sensor: Politik vs. Pornografi
Menariknya, sementara model AI Cina cenderung memblokir ekspresi politik, mereka sering memiliki lebih sedikit filter terhadap konten pornografi daripada rekan-rekan Amerika mereka. 404 baru-baru ini melaporkan bahwa beberapa generator video yang dirilis oleh perusahaan Cina tidak memiliki pengamanan dasar untuk mencegah pembuatan gambar eksplisit non-konsensual.
Implikasi Sensor AI
Praktik penyensoran yang diterapkan oleh Sand AI dan perusahaan AI Cina lainnya menimbulkan pertanyaan penting tentang masa depan pengembangan dan aksesibilitas AI di Cina. Praktik-praktik ini tidak hanya membatasi berbagai konten yang dapat dihasilkan, tetapi juga mencerminkan batasan politik dan sosial yang lebih luas di mana perusahaan-perusahaan ini beroperasi.
Analisis Rinci Gambar yang Diblokir
Gambar-gambar spesifik yang diblokir oleh Sand AI menawarkan jendela ke dalam sensitivitas pemerintah Cina. Sensor gambar Xi Jinping, misalnya, menggarisbawahi penekanan pemerintah pada mempertahankan citra yang dikuratori dengan hati-hati dari pemimpinnya. Demikian pula, pemblokiran gambar Lapangan Tiananmen dan Tank Man menyoroti upaya pemerintah untuk menekan diskusi dan peringatan protes tahun 1989. Sensor bendera Taiwan dan tanda-tanda yang mendukung pembebasan Hong Kong mencerminkan sikap pemerintah terhadap isu-isu sensitif politik ini.
Aspek Teknis Sensor
Fakta bahwa sensor Sand AI beroperasi pada tingkat gambar menunjukkan sistem penyaringan canggih yang dapat mengidentifikasi dan memblokir konten visual tertentu. Sistem ini kemungkinan menggunakan teknologi pengenalan gambar untuk menganalisis gambar yang diunggah dan membandingkannya dengan database konten terlarang. Fakta bahwa mengganti nama file gambar tidak melewati blok tersebut menunjukkan bahwa sistem tersebut tidak hanya bergantung pada nama file tetapi benar-benar menganalisis data gambar itu sendiri.
Konteks Global Sensor AI
Meskipun pendekatan Cina terhadap sensor AI sangat ketat, itu bukan satu-satunya negara yang bergulat dengan masalah bagaimana mengatur konten yang dihasilkan AI. Di Amerika Serikat dan Eropa, pembuat kebijakan mempertimbangkan peraturan untuk mengatasi masalah seperti misinformasi, deepfake, dan pelanggaran hak cipta. Namun, pendekatan dan prioritas spesifik berbeda secara signifikan dari yang ada di Cina.
Peran AI Sumber Terbuka
Fakta bahwa Sand AI merilis model Magi-1-nya sebagai sumber terbuka menimbulkan pertanyaan menarik tentang keseimbangan antara inovasi dan sensor. Di satu sisi, AI sumber terbuka dapat mempromosikan inovasi dan kolaborasi dengan memungkinkan para peneliti dan pengembang untuk bebas mengakses dan memodifikasi kode. Di sisi lain, itu juga dapat membuat lebih sulit untuk mengendalikan penggunaan teknologi dan mencegahnya digunakan untuk tujuan jahat.
Masa Depan AI di Cina
Masa depan AI di Cina kemungkinan akan dibentuk oleh ketegangan yang sedang berlangsung antara keinginan pemerintah untuk mempromosikan inovasi teknologi dan komitmennya untuk mempertahankan kontrol sosial dan politik. Perusahaan AI Cina perlu menavigasi lanskap peraturan yang kompleks dan menemukan cara untuk mengembangkan dan menyebarkan teknologi mereka dengan cara yang inovatif dan sesuai dengan peraturan pemerintah.
Implikasi yang Lebih Luas
Kasus Sand AI menyoroti implikasi yang lebih luas dari sensor AI untuk kebebasan berekspresi dan akses ke informasi. Karena teknologi AI menjadi lebih kuat dan meresap, semakin penting untuk mempertimbangkan implikasi etis dan sosial dari penggunaannya dan untuk memastikan bahwa itu tidak digunakan untuk menekan perbedaan pendapat atau membatasi akses ke informasi.
Analisis Perbandingan dengan Platform Lain
Perbandingan praktik penyensoran Sand AI dengan Hailuo AI mengungkapkan bahwa ada beberapa variasi dalam ketatnya penyensoran di antara perusahaan AI Cina. Fakta bahwa Hailuo AI mengizinkan gambar Lapangan Tiananmen menunjukkan bahwa kebijakan penyensorannya kurang komprehensif daripada Sand AI. Variasi ini mungkin mencerminkan perbedaan dalam toleransi risiko perusahaan, interpretasi mereka terhadap peraturan pemerintah, atau kemampuan teknis mereka.
Dampak Ekonomi Sensor
Sensor konten yang dihasilkan AI di Cina mungkin memiliki implikasi ekonomi juga. Di satu sisi, itu dapat melindungi perusahaan domestik dari persaingan dari perusahaan asing yang tidak tunduk pada persyaratan sensor yang sama. Di sisi lain, itu juga dapat menghambat inovasi dan membatasi potensi perusahaan AI Cina untuk bersaing di pasar global.
Tantangan Menyeimbangkan Inovasi dan Kontrol
Pemerintah Cina menghadapi tantangan untuk menyeimbangkan keinginannya untuk mempromosikan inovasi AI dengan komitmennya untuk mempertahankan kontrol sosial dan politik. Terlalu banyak sensor dapat menghambat inovasi dan membatasi potensi perusahaan AI Cina. Terlalu sedikit sensor dapat menyebabkan penyebaran misinformasi dan erosi stabilitas sosial dan politik.
Lanskap AI Global
Lanskap AI berkembang pesat, dengan teknologi dan aplikasi baru muncul setiap saat. Cina adalah pemain utama di bidang AI, tetapi menghadapi tantangan terkait dengan sensor, privasi data, dan akses ke talenta. Masa depan AI akan tergantung pada bagaimana tantangan-tantangan ini diatasi dan sejauh mana negara-negara dapat berkolaborasi dan bersaing secara adil dan terbuka.
Pertimbangan Etis
Penggunaan AI menimbulkan sejumlah pertimbangan etis, termasuk masalah terkait dengan bias, keadilan, transparansi, dan akuntabilitas. Penting untuk mengembangkan pedoman dan standar etis untuk pengembangan dan penyebaran AI untuk memastikan bahwa itu digunakan secara bertanggung jawab dan bermanfaat.
Pentingnya Transparansi
Transparansi sangat penting untuk membangun kepercayaan pada sistem AI. Penting untuk memahami bagaimana model AI bekerja dan bagaimana mereka membuat keputusan. Ini membutuhkan penyediaan akses ke data, algoritma, dan proses pengambilan keputusan. Transparansi dapat membantu mengidentifikasi dan mengurangi bias, memastikan keadilan, dan mempromosikan akuntabilitas.
Peran Pendidikan
Pendidikan memainkan peran penting dalam mempersiapkan individu dan masyarakat untuk era AI. Penting untuk mendidik orang tentang teknologi AI, potensi manfaat dan risikonya, dan implikasi etis dan sosialnya. Pendidikan dapat membantu mempromosikan literasi AI, pemikiran kritis, dan inovasi yang bertanggung jawab.
Masa Depan Pekerjaan
AI kemungkinan akan memiliki dampak yang signifikan pada masa depan pekerjaan. Beberapa pekerjaan mungkin diotomatisasi, sementara yang lain mungkin dibuat atau diubah. Penting untuk mempersiapkan pekerja untuk perubahan ini dengan memberi mereka keterampilan dan pelatihan yang mereka butuhkan untuk berhasil dalam ekonomi berbasis AI.
Pentingnya Kolaborasi
Kolaborasi sangat penting untuk mengatasi tantangan dan peluang yang dihadirkan oleh AI. Ini termasuk kolaborasi antara peneliti, pengembang, pembuat kebijakan, dan publik. Kolaborasi dapat membantu memastikan bahwa AI dikembangkan dan disebarkan dengan cara yang bermanfaat bagi semua.
AI dan Keamanan Nasional
AI juga memainkan peran yang semakin penting dalam keamanan nasional. Ini digunakan untuk aplikasi seperti pengawasan, pengumpulan intelijen, dan sistem senjata otonom. Penggunaan AI dalam keamanan nasional menimbulkan pertanyaan etis dan strategis yang kompleks yang perlu dipertimbangkan dengan hati-hati.
Perlunya Regulasi
Regulasi AI adalah masalah yang kompleks dan berkembang. Beberapa orang berpendapat bahwa AI harus diatur secara ketat untuk mencegah potensi bahaya, sementara yang lain berpendapat bahwa regulasi yang berlebihan dapat menghambat inovasi. Penting untuk mencapai keseimbangan antara mempromosikan inovasi dan melindungi dari risiko.
AI dan Kesehatan
AI memiliki potensi untuk mengubah perawatan kesehatan dalam sejumlah cara. Ini dapat digunakan untuk meningkatkan diagnosis, perawatan, dan pencegahan penyakit. AI juga dapat digunakan untuk mempersonalisasi perawatan kesehatan dan membuatnya lebih mudah diakses dan terjangkau.
AI dan Pendidikan
AI juga dapat digunakan untuk meningkatkan pendidikan. Ini dapat digunakan untuk mempersonalisasi pembelajaran, memberikan umpan balik, dan mengotomatiskan tugas-tugas administratif. AI juga dapat digunakan untuk membuat alat dan sumber daya pendidikan baru.
AI dan Lingkungan
AI dapat digunakan untuk mengatasi tantangan lingkungan seperti perubahan iklim, polusi, dan penipisan sumber daya. Ini dapat digunakan untuk mengoptimalkan konsumsi energi, meningkatkan praktik pertanian, dan memantau kondisi lingkungan.
Kekuatan AI
AI adalah teknologi yang kuat yang memiliki potensi untuk mengubah banyak aspek kehidupan kita. Penting untuk mengembangkan dan menyebarkan AI secara bertanggung jawab dan etis untuk memastikan bahwa itu bermanfaat bagi seluruh umat manusia. Praktik penyensoran di Cina menawarkan pengingat yang jelas tentang potensi AI untuk digunakan untuk tujuan kontrol dan penindasan. Ketika AI terus berkembang, sangat penting untuk terlibat dalam dialog dan debat yang berkelanjutan tentang implikasi etisnya dan untuk memastikan bahwa itu digunakan untuk mempromosikan kebebasan, keadilan, dan kesejahteraan manusia. Sifat sumber terbuka dari beberapa model AI menawarkan peluang dan tantangan dalam hal ini. Sementara AI sumber terbuka dapat mendorong inovasi dan kolaborasi, itu juga membuatnya lebih sulit untuk mengendalikan penggunaan teknologi dan untuk mencegahnya digunakan untuk tujuan jahat. Tantangannya adalah menemukan cara untuk memanfaatkan kekuatan AI sambil mengurangi risikonya dan memastikan bahwa itu digunakan untuk kepentingan semua. Ini membutuhkan pendekatan multi-faceted yang mencakup pedoman etis, regulasi, pendidikan, dan dialog dan debat yang berkelanjutan.
Peran Kerja Sama Internasional
Pengembangan dan penyebaran AI adalah upaya global yang membutuhkan kerja sama internasional. Negara-negara perlu bekerja sama untuk mengembangkan standar umum, berbagi praktik terbaik, dan mengatasi implikasi etis dan sosial AI. Kerja sama internasional dapat membantu memastikan bahwa AI digunakan untuk mempromosikan perdamaian, keamanan, dan kemakmuran bagi semua.
Kesimpulan
Kisah Sand AI dan praktik penyensorannya adalah mikrokosmos dari tantangan dan peluang yang lebih besar yang dihadirkan oleh AI. Ketika AI terus berkembang dan menjadi lebih meresap, sangat penting untuk mengatasi implikasi etis, sosial, dan politik dari penggunaannya. Masa depan AI akan tergantung pada kemampuan kita untuk memanfaatkan kekuatannya untuk kebaikan sambil mengurangi risikonya dan memastikan bahwa itu digunakan untuk mempromosikan kebebasan, keadilan, dan kesejahteraan manusia. Dialog dan debat yang berkelanjutan tentang AI sangat penting untuk membentuk masa depannya dan memastikan bahwa itu digunakan untuk menciptakan dunia yang lebih baik bagi semua.