Sand AI, sebuah startup video dari China, baru-baru ini melancarkan model AI sumber terbuka untuk penciptaan video, yang mendapat pujian daripada tokoh terkemuka seperti Kai-Fu Lee, pengarah pengasas Microsoft Research Asia. Walau bagaimanapun, ujian TechCrunch mendedahkan bahawa Sand AI menapis versi model yang dihoskan secara awam, menghalang penjanaan imej yang mungkin menimbulkan kemarahan pengawal selia China.
Magi-1: Model Yang Menjanjikan Tetapi Terhad
Awal minggu ini, Sand AI melancarkan Magi-1, model yang mampu menjana video dengan “autoregresif” meramalkan urutan bingkai. Syarikat itu mendakwa bahawa model ini boleh menghasilkan rakaman berkualiti tinggi dan terkawal yang lebih tepat menangkap fizik daripada pesaing sumber terbukanya.
Walaupun berpotensi, Magi-1 pada masa ini tidak praktikal untuk kebanyakan perkakasan pengguna. Dengan 24 bilion parameter, ia memerlukan antara empat dan lapan GPU Nvidia H100 untuk berfungsi dengan berkesan. Parameter adalah pembolehubah dalaman yang digunakan oleh model AI untuk membuat ramalan. Bagi kebanyakan pengguna, termasuk wartawan TechCrunch yang mengujinya, platform Sand AI adalah satu-satunya jalan yang boleh diakses untuk menilai Magi-1.
Penapisan Dalam Tindakan: Imej Apa Yang Disekat?
Platform ini memerlukan gesaan teks atau imej awal untuk memulakan penjanaan video. Walau bagaimanapun, tidak semua gesaan dibenarkan, seperti yang ditemui oleh TechCrunch dengan cepat. Sand AI secara aktif menyekat pemunggahan imej yang menampilkan:
- Xi Jinping
- Dataran Tiananmen dan Tank Man
- Bendera Taiwan
- Tanda-tanda yang menyokong pembebasan Hong Kong
Penapisan itu nampaknya berlaku di peringkat imej, kerana menamakan semula fail imej tidak memintas sekatan itu.
Sand AI Tidak Bersendirian Dalam Melaksanakan Penapisan
Sand AI tidak unik dalam pendekatannya. Hailuo AI, platform media generatif yang dikendalikan oleh MiniMax yang berpangkalan di Shanghai, juga menghalang pemunggahan imej yang sensitif dari segi politik, khususnya yang menggambarkan Xi Jinping. Walau bagaimanapun, penapisan Sand AI nampaknya sangat ketat, kerana Hailuo AI membenarkan imej Dataran Tiananmen.
Landskap Undang-undang Penapisan AI di China
Seperti yang dijelaskan oleh Wired dalam artikel Januari, model AI yang beroperasi di China tertakluk kepada kawalan maklumat yang ketat. Undang-undang 2023 melarang model ini daripada menjana kandungan yang “membahayakan perpaduan negara dan keharmonian sosial.” Ini boleh ditafsirkan sebagai kandungan yang bercanggah dengan naratif sejarah dan politik kerajaan. Untuk mematuhi peraturan ini, startup China sering menapis model mereka melalui penapis peringkat gesaan atau penalaan halus.
Perbezaan Dalam Penapisan: Politik vs. Pornografi
Menariknya, walaupun model AI China cenderung menyekat ekspresi politik, mereka sering mempunyai lebih sedikit penapis terhadap kandungan pornografi daripada rakan sejawat Amerika mereka. 404 baru-baru ini melaporkan bahawa beberapa penjana video yang dikeluarkan oleh syarikat China tidak mempunyai perlindungan asas untuk mencegah penciptaan imej eksplisit bukan persetujuan.
Implikasi Penapisan AI
Amalan penapisan yang digunakan oleh Sand AI dan syarikat AI China yang lain menimbulkan persoalan penting tentang masa depan pembangunan dan kebolehcapaian AI di China. Amalan ini bukan sahaja menyekat pelbagai kandungan yang boleh dijana tetapi juga mencerminkan kekangan politik dan sosial yang lebih luas di mana syarikat-syarikat ini beroperasi.
Analisis Terperinci Imej Yang Disekat
Imej khusus yang disekat oleh Sand AI menawarkan gambaran tentang sensitiviti kerajaan China. Penapisan imej Xi Jinping, contohnya, menggariskan penekanan kerajaan untuk mengekalkan imej pemimpinnya yang dikendalikan dengan teliti. Begitu juga, penyekatan imej Dataran Tiananmen dan Tank Man menyoroti usaha kerajaan untuk menyekat perbincangan dan peringatan protes 1989. Penapisan bendera Taiwan dan tanda-tanda yang menyokong pembebasan Hong Kong mencerminkan pendirian kerajaan mengenai isu-isu sensitif politik ini.
Aspek Teknikal Penapisan
Hakikat bahawa penapisan Sand AI beroperasi di peringkat imej mencadangkan sistem penapisan yang canggih yang boleh mengenal pasti dan menyekat kandungan visual tertentu. Sistem ini mungkin menggunakan teknologi pengecaman imej untuk menganalisis imej yang dimuat naik dan membandingkannya dengan pangkalan data kandungan terlarang. Hakikat bahawa menamakan semula fail imej tidak memintas sekatan itu menunjukkan bahawa sistem itu tidak hanya bergantung pada nama fail tetapi sebenarnya menganalisis data imej itu sendiri.
Konteks Global Penapisan AI
Walaupun pendekatan China terhadap penapisan AI sangat ketat, ia bukan satu-satunya negara yang bergulat dengan isu bagaimana untuk mengawal selia kandungan yang dijana AI. Di Amerika Syarikat dan Eropah, penggubal dasar sedang mempertimbangkan peraturan untuk menangani isu-isu seperti maklumat salah, deepfake, dan pelanggaran hak cipta. Walau bagaimanapun, pendekatan dan keutamaan khusus berbeza dengan ketara daripada yang ada di China.
Peranan AI Sumber Terbuka
Hakikat bahawa Sand AI mengeluarkan model Magi-1nya sebagai sumber terbuka menimbulkan persoalan menarik tentang keseimbangan antara inovasi dan penapisan. Di satu pihak, AI sumber terbuka boleh menggalakkan inovasi dan kerjasama dengan membenarkan penyelidik dan pembangun untuk mengakses dan mengubah suai kod secara bebas. Sebaliknya, ia juga boleh menjadikannya lebih sukar untuk mengawal penggunaan teknologi dan menghalangnya daripada digunakan untuk tujuan jahat.
Masa Depan AI di China
Masa depan AI di China mungkin akan dibentuk oleh ketegangan berterusan antara keinginan kerajaan untuk menggalakkan inovasi teknologi dan komitmennya untuk mengekalkan kawalan sosial dan politik. Syarikat AI China perlu mengemudi landskap peraturan yang kompleks dan mencari cara untuk membangunkan dan menggunakan teknologi mereka dengan cara yang inovatif dan mematuhi peraturan kerajaan.
Implikasi Yang Lebih Luas
Kes Sand AI menyoroti implikasi yang lebih luas dari penapisan AI untuk kebebasan bersuara dan akses kepada maklumat. Apabila teknologi AI menjadi lebih berkuasa dan meluas, adalah semakin penting untuk mempertimbangkan implikasi etika dan sosial penggunaannya dan untuk memastikan bahawa ia tidak digunakan untuk menindas perbezaan pendapat atau mengehadkan akses kepada maklumat.
Analisis Perbandingan Dengan Platform Lain
Perbandingan amalan penapisan Sand AI dengan Hailuo AI mendedahkan bahawa terdapat beberapa variasi dalam keketatan penapisan di kalangan syarikat AI China. Hakikat bahawa Hailuo AI membenarkan imej Dataran Tiananmen menunjukkan bahawa dasar penapisannya kurang komprehensif daripada Sand AI. Variasi ini mungkin mencerminkan perbezaan dalam toleransi risiko syarikat, tafsiran mereka terhadap peraturan kerajaan, atau keupayaan teknikal mereka.
Kesan Ekonomi Penapisan
Penapisan kandungan yang dijana AI di China mungkin mempunyai implikasi ekonomi juga. Di satu pihak, ia boleh melindungi syarikat domestik daripada persaingan daripada firma asing yang tidak tertakluk kepada keperluan penapisan yang sama. Sebaliknya, ia juga boleh menghalang inovasi dan menghadkan potensi syarikat AI China untuk bersaing di pasaran global.
Cabaran Mengimbangi Inovasi dan Kawalan
Kerajaan China menghadapi cabaran mengimbangi keinginannya untuk menggalakkan inovasi AI dengan komitmennya untuk mengekalkan kawalan sosial dan politik. Terlalu banyak penapisan boleh menghalang inovasi dan menghadkan potensi syarikat AI China. Terlalu sedikit penapisan boleh membawa kepada penyebaran maklumat salah dan hakisan kestabilan sosial dan politik.
Landskap AI Global
Landskap AI berkembang pesat, dengan teknologi dan aplikasi baharu muncul sepanjang masa. China adalah pemain utama dalam bidang AI, tetapi ia menghadapi cabaran yang berkaitan dengan penapisan, privasi data, dan akses kepada bakat. Masa depan AI akan bergantung kepada bagaimana cabaran ini ditangani dan sejauh mana negara boleh bekerjasama dan bersaing secara adil dan terbuka.
Pertimbangan Etika
Penggunaan AI menimbulkan beberapa pertimbangan etika, termasuk isu yang berkaitan dengan berat sebelah, keadilan, ketelusan, dan akauntabiliti. Adalah penting untuk membangunkan garis panduan dan piawaian etika untuk pembangunan dan penggunaan AI untuk memastikan bahawa ia digunakan dengan cara yang bertanggungjawab dan bermanfaat.
Kepentingan Ketelusan
Ketelusan adalah penting untuk membina kepercayaan dalam sistem AI. Adalah penting untuk memahami bagaimana model AI berfungsi dan bagaimana mereka membuat keputusan. Ini memerlukan menyediakan akses kepada data, algoritma, dan proses membuat keputusan. Ketelusan boleh membantu mengenal pasti dan mengurangkan berat sebelah, memastikan keadilan, dan menggalakkan akauntabiliti.
Peranan Pendidikan
Pendidikan memainkan peranan penting dalam menyediakan individu dan masyarakat untuk era AI. Adalah penting untuk mendidik orang ramai tentang teknologi AI, potensi manfaat dan risikonya, dan implikasi etika dan sosialnya. Pendidikan boleh membantu menggalakkan celik AI, pemikiran kritis, dan inovasi yang bertanggungjawab.
Masa Depan Kerja
AI mungkin akan mempunyai kesan yang ketara terhadap masa depan kerja. Sesetengah pekerjaan mungkin diautomasikan, manakala yang lain mungkin dicipta atau diubah. Adalah penting untuk menyediakan pekerja untuk perubahan ini dengan menyediakan mereka dengan kemahiran dan latihan yang mereka perlukan untuk berjaya dalam ekonomi yang dipacu AI.
Kepentingan Kerjasama
Kerjasama adalah penting untuk menangani cabaran dan peluang yang dibentangkan oleh AI. Ini termasuk kerjasama antara penyelidik, pembangun, penggubal dasar, dan orang ramai. Kerjasama boleh membantu memastikan bahawa AI dibangunkan dan digunakan dengan cara yang bermanfaat kepada semua.
AI dan Keselamatan Negara
AI juga memainkan peranan yang semakin penting dalam keselamatan negara. Ia digunakan untuk aplikasi seperti pengawasan, pengumpulan risikan, dan sistem senjata autonomi. Penggunaan AI dalam keselamatan negara menimbulkan persoalan etika dan strategik yang kompleks yang perlu dipertimbangkan dengan teliti.
Keperluan Untuk Peraturan
Peraturan AI adalah isu yang kompleks dan berkembang. Sesetengah berpendapat bahawa AI harus dikawal selia dengan ketat untuk mencegah potensi bahaya, manakala yang lain berpendapat bahawa peraturan yang berlebihan boleh menghalang inovasi. Adalah penting untuk mencapai keseimbangan antara menggalakkan inovasi dan melindungi daripada risiko.
AI dan Penjagaan Kesihatan
AI mempunyai potensi untuk mengubah penjagaan kesihatan dalam beberapa cara. Ia boleh digunakan untuk memperbaiki diagnosis, rawatan, dan pencegahan penyakit. AI juga boleh digunakan untuk memperibadikan penjagaan kesihatan dan menjadikannya lebih mudah diakses dan berpatutan.
AI dan Pendidikan
AI juga boleh digunakan untuk memperbaiki pendidikan. Ia boleh digunakan untuk memperibadikan pembelajaran, memberikan maklum balas, dan mengautomasikan tugas pentadbiran. AI juga boleh digunakan untuk mencipta alat dan sumber pendidikan baharu.
AI dan Alam Sekitar
AI boleh digunakan untuk menangani cabaran alam sekitar seperti perubahan iklim, pencemaran, dan penipisan sumber. Ia boleh digunakan untuk mengoptimumkan penggunaan tenaga, memperbaiki amalan pertanian, dan memantau keadaan alam sekitar.
Kuasa AI
AI adalah teknologi berkuasa yang berpotensi untuk mengubah banyak aspek kehidupan kita. Adalah penting untuk membangunkan dan menggunakan AI dengan cara yang bertanggungjawab dan beretika untuk memastikan bahawa ia memberi manfaat kepada semua manusia. Amalan penapisan di China menawarkan peringatan yang jelas tentang potensi AI untuk digunakan untuk tujuan kawalan dan penindasan. Apabila AI terus berkembang, adalah penting untuk melibatkan diri dalam dialog dan perdebatan yang berterusan tentang implikasi etikanya dan untuk memastikan bahawa ia digunakan untuk menggalakkan kebebasan, keadilan, dan kesejahteraan manusia. Sifat sumber terbuka sesetengah model AI menawarkan kedua-dua peluang dan cabaran dalam hal ini. Walaupun AI sumber terbuka boleh memupuk inovasi dan kerjasama, ia juga menjadikannya lebih sukar untuk mengawal penggunaan teknologi dan menghalangnya daripada digunakan untuk tujuan jahat. Cabarannya adalah untuk mencari cara untuk memanfaatkan kuasa AI sambil mengurangkan risikonya dan memastikan bahawa ia digunakan untuk faedah semua. Ini memerlukan pendekatan pelbagai dimensi yang merangkumi garis panduan etika, peraturan, pendidikan, dan dialog dan perdebatan yang berterusan.
Peranan Kerjasama Antarabangsa
Pembangunan dan penggunaan AI adalah usaha global yang memerlukan kerjasama antarabangsa. Negara perlu bekerjasama untuk membangunkan piawaian biasa, berkongsi amalan terbaik, dan menangani implikasi etika dan sosial AI. Kerjasama antarabangsa boleh membantu memastikan bahawa AI digunakan untuk menggalakkan keamanan, keselamatan, dan kemakmuran untuk semua.
Kesimpulan
Kisah Sand AI dan amalan penapisannya adalah mikrokosmos cabaran dan peluang yang lebih besar yang dibentangkan oleh AI. Apabila AI terus berkembang dan menjadi lebih meluas, adalah penting untuk menangani implikasi etika, sosial, dan politik penggunaannya. Masa depan AI akan bergantung kepada keupayaan kita untuk memanfaatkan kuasanya untuk kebaikan sambil mengurangkan risikonya dan memastikan bahawa ia digunakan untuk menggalakkan kebebasan, keadilan, dan kesejahteraan manusia. Dialog dan perdebatan yang berterusan tentang AI adalah penting untuk membentuk masa depannya dan memastikan bahawa ia digunakan untuk mewujudkan dunia yang lebih baik untuk semua.