Strategi Pertahanan daripada Deepfake AI

Deepfake AI telah berkembang pesat, menimbulkan cabaran yang belum pernah terjadi sebelumnya kepada kepercayaan sosial dan keselamatan maklumat. Memandangkan keupayaan untuk mencegah penyebaran deepfake bergantung pada pemahaman yang komprehensif tentang teknologi itu sendiri, artikel ini akan meneroka cara untuk mencegah deepfake kecerdasan buatan (AI).

Enjin Deepfake: Analisis Teknikal

Inti kepada deepfake terletak pada model penjanaan, iaitu AI yang mampu mempelajari daripada set data besar dan menjana imej, video dan audio realistik. Dalam beberapa tahun kebelakangan ini, rangkaian permusuhan generatif (GAN) telah berkembang menjadi model penyebaran, yang lebih berkuasa. Oleh itu, analisis teknikal enjin penjanaan ini adalah perlu untuk mewujudkan rangka kerja pencegahan yang mantap.

Permainan Adversarial: Rangkaian Permusuhan Generatif (GAN)

GAN terdiri daripada dua rangkaian saraf: penjana dan diskriminator. Tugas penjana adalah untuk mencipta data sintetik yang meniru data dunia sebenar. Ia bermula dengan input rawak (sering dirujuk sebagai vektor laten) dan cuba mengubahnya menjadi output yang koheren. Diskriminator, sebaliknya, bertindak sebagai pengelas, menilai data untuk menentukan sama ada ia nyata (daripada set data latihan sebenar) atau palsu (dicipta oleh penjana).

Proses latihan melibatkan gelung maklum balas berterusan antara kedua-dua rangkaian, menyerupai permainan sifar-jumlah. Penjana mencipta imej palsu dan menyerahkannya kepada diskriminator, yang juga menerima imej sebenar daripada set latihan. Diskriminator kemudian meramalkan ketulenan setiap imej. Jika diskriminator mengenal pasti dengan betul output penjana sebagai palsu, ia memberikan maklum balas. Penjana menggunakan maklum balas ini melalui backpropagation untuk melaraskan parameter dalamannya, dengan harapan dapat menghasilkan imej yang lebih meyakinkan dalam lelaran seterusnya. Pada masa yang sama, diskriminator melaraskan parameternya sendiri untuk mengesan pemalsuan dengan lebih baik. Persaingan permusuhan ini berterusan sehingga sistem mencapai titik keseimbangan, kadangkala dirujuk sebagai keseimbangan Nash, di mana output penjana adalah begitu realistik sehinggakan diskriminator tidak lagi boleh membezakannya dengan pasti daripada data sebenar dan ia meneka dengan ketepatan kira-kira 50%.

GAN telah terbukti berkesan dalam menghasilkan media sintetik dan membentuk asas kepada banyak model deepfake yang berpengaruh. Seni bina seperti GAN Konvolusi Dalam (DCGAN) memperkenalkan peningkatan penting dengan meningkatkan kestabilan dengan menggantikan lapisan pengumpulan dan menggunakan normalisasi kelompok. StyleGAN NVIDIA dan penggantinya StyleGAN2 dan StyleGAN3 mencapai realisme foto yang belum pernah terjadi sebelumnya dalam penjanaan muka dengan membetulkan artifak ciri dan memajukan seni bina model. Varian lain seperti CycleGAN telah membolehkan tugas pemindahan gaya dan oleh itu telah digunakan secara meluas dalam aplikasi seperti Face App untuk mengubah umur penampilan seseorang.

Walaupun kuat, GAN terkenal sukar untuk dilatih. Keseimbangan halus antara penjana dan diskriminator boleh dipecahkan dengan mudah, yang membawa kepada ketidakstabilan latihan, penumpuan perlahan atau mod kegagalan kritikal yang dikenali sebagai "keruntuhan mod". Keruntuhan mod berlaku apabila penjana menemui kelemahan dalam diskriminator dan mengeksploitasinya dengan hanya menjana jenis output terhad yang ia tahu boleh memperdayakan diskriminator, dengan itu gagal untuk menangkap kepelbagaian sebenar data latihan. Cabaran-cabaran inheren ini, dan artifak halus yang sering dihasilkannya, menjadi sasaran utama bagi sistem pengesanan deepfake yang terdahulu itu.

Membalikkan Kekacauan: Model Penyebaran

Teknologi terkini dalam AI generatif telah beralih secara pasti ke arah kelas model baharu: Model Penyebaran. Diilhamkan oleh konsep termodinamik tidak seimbang, model penyebaran beroperasi pada prinsip yang berbeza sama sekali daripada persaingan permusuhan GAN. Mereka ialah model generatif probabilistik yang menjana data berkualiti tinggi dan pelbagai secara luar biasa dengan mempelajari untuk membalikkan proses yang merosot secara beransur-ansur.

Mekanisme ini melibatkan proses dua fasa:

1. Proses Penyebaran ke Hadapan: Fasa ini menambah jumlah kecil hingar Gaussian secara sistematik dan berperingkat pada imej dari semasa ke semasa (cth., langkah T). Ini ialah proses rantai Markov, di mana setiap langkah bersyarat pada yang sebelumnya, merendahkan kualiti imej secara beransur-ansur sehingga, pada langkah masa akhir T, ia tidak dapat dibezakan daripada hingar tidak berstruktur semata-mata.

2. Proses Penyahasian Terbalik: Inti kepada model ialah rangkaian saraf (biasanya seni bina U-Net) yang dilatih untuk membalikkan proses ini. Ia mempelajari untuk meramalkan hingar yang ditambah pada setiap langkah masa dalam proses ke hadapan dan menolaknya. Selepas latihan, model boleh menjana imej baharu yang berkualiti tinggi dengan bermula dengan sampel hingar rawak dan menggunakan fungsi "penghapusan hingar" yang dipelajari ini secara berulang untuk langkah masa ke belakang, menukar kekacauan menjadi sampel koheren daripada taburan data asal.

Proses penghalusan berulang ini membolehkan model penyebaran mencapai tahap realisme foto dan kepelbagaian yang terbaik malah GAN. Proses latihan mereka juga jauh lebih stabil berbanding dengan GAN, mengelakkan masalah seperti keruntuhan mod dan menghasilkan output yang lebih boleh dipercayai dan pelbagai. Kelebihan teknikal ini menjadikan model penyebaran sebagai asas kepada alatan AI generatif yang paling menonjol dan berkuasa hari ini, termasuk model teks-ke-imej seperti DALL-E 2 OpenAI, Imagen Google dan Stable Diffusion Stability AI, serta model teks-ke-video seperti Sora OpenAI. Ketersediaan dan kualiti output unggul model ini telah meningkatkan ancaman deepfake secara ketara.

Modus Operandi

Sama ada menggunakan GAN atau model penyebaran, enjin penjanaan asas digunakan melalui rangkaian teknik khusus untuk mencipta video deepfake. Kaedah ini mengendalikan pelbagai aspek video sasaran untuk mencapai kesan penipuan yang dikehendaki.

• Penghidupan semula: Teknik ini memindahkan ekspresi muka, pergerakan kepala dan pergerakan yang berkaitan dengan ucapan watak sumber kepada subjek sasaran dalam video. Proses ini biasanya terdiri daripada tiga langkah utama: Pertama, ciri muka dikesan dalam video sumber dan sasaran; Kedua, ciri ini diselaraskan dengan model muka 3D generik menggunakan metrik ketekalan; Ketiga, ekspresi dipindahkan dari sumber ke sasaran, diikuti oleh penghalusan pasca pemprosesan untuk meningkatkan realisme dan ketekalan.

• Penyegerakan Bibir: Deepfake penyegerakan bibir secara khusus tertumpu pada pengendalian pertuturan, terutamanya menggunakan input audio untuk menjana pergerakan mulut yang realistik. Audio ditukar kepada bentuk dan tekstur mulut dinamik yang kemudiannya dipadankan dan diadunkan dengan teliti dengan video sasaran, menghasilkan ilusi bahawa orang sasaran bercakap audio input.

• Sintesis Berasaskan Teks: Kaedah yang sangat halus ini mengubah suai video berdasarkan skrip teks. Ia berfungsi dengan menganalisis teks ke dalam fonem konstituennya (unit bunyi) dan viseme (perwakilan visual bunyi ucapan). Ini kemudiannya dipadankan dengan jujukan yang sesuai dalam video sumber, dan parameter daripada model kepala 3D digunakan untuk menjana dan melancarkan pergerakan bibir untuk memadankan teks baharu, dengan itu membolehkan penyuntingan perkataan demi perkataan tentang perkara yang dilihat oleh seseorang itu berkata.

Kemajuan teknikal daripada GAN kepada model penyebaran adalah lebih daripada peningkatan tambahan; ia adalah perubahan paradigma yang asas yang mengubah landskap strategi pencegahan deepfake. GAN, walaupun berkuasa, mempunyai kelemahan seni bina yang diketahui seperti ketidakstabilan latihan dan keruntuhan mod yang sering membawa kepada artifak yang boleh diramal dan dikesan dalam domain frekuensi imej. Akibatnya, seluruh generasi alatan pengesanan telah dibina secara khusus untuk mengenal pasti cap jari khusus GAN ini. Walau bagaimanapun, model penyebaran, dengan latihan yang lebih stabil dan output yang lebih pelbagai, realistik dan sesuai secara statistik dengan imej sebenar, tidak mempunyai banyak kekurangan terang-terangan yang ada pada pendahulunya.

Akibatnya, sebahagian besar infrastruktur pengesanan deepfake sedia ada dengan cepat menjadi usang. Kajian telah menunjukkan "penurunan prestasi dramatik" apabila pengesan yang dilatih pada imej yang dijana GAN digunakan pada kandungan daripada model penyebaran. Terutamanya, pengesan yang dilatih pada imej model penyebaran boleh mengenal pasti kandungan yang dijana GAN dengan jayanya, tetapi tidak sebaliknya, yang menunjukkan bahawa model penyebaran mewakili kelas pemalsuan yang lebih canggih dan mencabar. Ini telah dengan berkesan menetapkan semula perlumbaan senjata teknologi, yang memerlukan reka bentuk semula strategi pertahanan untuk menangani ciri-ciri unik dan lebih halus media yang dihasilkan penyebaran.

Tambahan pula, sifat "kotak hitam" model penjanaan ini meningkatkan kerumitan kerja pencegahan sumber. GAN dan model penyebaran beroperasi secara tanpa pengawasan atau separa pengawasan, mempelajari untuk meniru taburan statistik set data tanpa label semantik eksplisit. Daripada mempelajari "apakah itu muka" dengan cara yang boleh difahami oleh manusia, mereka mempelajari "corak piksel yang mungkin dalam set data muka." Ini menjadikannya amat sukar untuk memprogramkan kekangan secara langsung ke dalam proses penjanaan (cth., "jangan menjana imej berbahaya"). Model itu hanya mengoptimumkan fungsi matematik: sama ada untuk memperdayakan diskriminator atau untuk membalikkan proses hingar. Implikasinya ialah pencegahan tidak boleh bergantung pada mengawal algoritma teras dari dalam. Campur tangan yang paling berdaya maju mesti berlaku sebelum penjanaan (dengan mengawal data latihan) atau selepas penjanaan (melalui pengesanan, tera air dan asal usul), kerana tindakan mencipta itu sendiri secara inheren menentang tadbir urus langsung.

Analisis Perbandingan Enjin Generatif

Memahami perbezaan strategik antara GAN dan model penyebaran adalah penting bagi mana-mana pihak berkepentingan, daripada penggubal dasar hingga pegawai keselamatan korporat. Peralihan daripada penguasaan teknologi bekas kepada penguasaan teknologi yang terakhir mempunyai implikasi yang mendalam untuk kesukaran pengesanan, potensi penipuan dan landskap ancaman keseluruhan.

Sistem Imun Digital: Analisis Perbandingan Kaedah Pengesanan

Sebagai tindak balas kepada proliferasi media sintetik, sebuah medan kaedah pengesanan yang pelbagai telah muncul, membentuk "sistem imun digital" yang baru dilahirkan. Teknik ini merangkumi analisis forensik artifak digital serta pendekatan baharu untuk mengesan isyarat biologi yang mendasari. Walau bagaimanapun, keberkesanan sistem imun ini sentiasa dicabar oleh evolusi pantas model penjanaan dan serangan permusuhan yang direka untuk mengelak daripada pengesanan. Perjuangan berterusan antara mencipta dan mengesan ialah paradoks "Ratu Merah", di mana pertahanan mesti terus berinovasi hanya untuk mengekalkan status quo.

Analisis Forensik Artifak Digital

Kategori pengesanan deepfake yang paling mantap melibatkan analisis forensik artifak digital, iaitu kecacatan dan ketidaktekalan halus dalam proses penjanaan. Kecacatan dan ketidaktekalan ini sering sukar dikenal pasti dan tidak dapat dilihat oleh mata kasar, tetapi boleh dikesan oleh algoritma khusus.

• Ketidaktekalan Visual dan Anatomi: Beberapa model penjanaan yang lebih awal dan bahkan semasa bergelut untuk meniru dengan sempurna kerumitan anatomi manusia dan fizik dunia sebenar. Kaedah pengesanan mengeksploitasi kekurangan ini dengan menganalisis anomali tertentu dalam media. Ini termasuk corak kelipan yang tidak wajar seperti berkelip terlalu banyak, berkelip terlalu sedikit atau tidak berkelip sama sekali (selalunya disebabkan oleh kekurangan imej mata tertutup dalam data latihan), pergerakan mata robotik atau tidak tekal, serta bibir atau bentuk mulut yang terhad yang gigi bawah tidak pernah kelihatan. Petunjuk lain ialah kekurangan perubahan halus pada lubang hidung semasa pertuturan, pencahayaan yang tidak sepadan dan ketidaktekalan bayang yang tidak sepadan dengan persekitaran, serta pantulan yang salah atau hilang pada cermin mata atau permukaan reflektif lain.

• Analisis Piksel dan Pemampatan: Teknik ini beroperasi pada tahap yang lebih rendah, memeriksa struktur digital imej atau video. Analisis Tahap Ralat (ELA) ialah kaedah untuk mengenal pasti kawasan dalam imej yang mempunyai tahap pemampatan yang berbeza. Memandangkan kawasan yang telah diubah suai selalunya disimpan semula atau dimampatkan semula, ia mungkin menunjukkan tahap ralat yang berbeza daripada bahagian asal imej, dengan itu menyerlahkan pemalsuan. Berkaitan rapat dengan ini ialah Analisis Tepi dan Pengadunan, yang dengan teliti memeriksa sempadan dan kontur antara elemen sintetik (cth., muka yang ditukar) dan latar belakang sebenar. Kawasan ini boleh mendedahkan manipulasi melalui tanda-tanda seperti pempikselan yang tidak tekal, ketajaman atau kekaburan yang tidak wajar, dan perbezaan halus dalam warna dan tekstur.

• Analisis Domain Frekuensi: Daripada menganalisis piksel secara langsung, kaedah ini mengubah imej kepada komponen frekuensinya untuk mencari corak yang tidak wajar. Disebabkan oleh fakta bahawa penjana GAN menggunakan seni bina pensampelan atas, mereka sering meninggalkan artifak spektrum ciri, mewujudkan corak berkala yang tidak wujud dalam imej sebenar. Walaupun ini berfungsi untuk kebanyakan GAN, kaedah ini kurang berjaya dengan model penyebaran, yang menjana imej dengan profil frekuensi yang lebih semula jadi. Walau bagaimanapun, beberapa kajian telah menunjukkan bahawa model penyebaran mungkin masih menunjukkan ketidakpadanan yang boleh dikesan dalam butiran frekuensi tinggi berbanding dengan imej sebenar, yang menyediakan laluan yang berpotensi untuk pengesanan.

Analisis Isyarat Biologi: "Degupan Jantung" Deepfake

Domain pengesanan deepfake yang lebih baharu dan sangat menjanjikan melibatkan analisis kehadiran isyarat biologi sebenar dalam media. Premis terasnya ialah walaupun model penjanaan semakin mahir dalam meniru penampilan visual, mereka tidak dapat mensimulasikan proses fisiologi yang mendasari seseorang yang hidup.

Teknik utama dalam bidang ini ialah fotopletismografi jauh (rPPG). Teknik ini menggunakan kamera standard untuk mengesan variasi berkala yang kecil dalam warna kulit yang berlaku apabila jantung mengepam darah ke dalam saluran darah yang cetek di muka. Dalam video sebenar seseorang, ini menghasilkan isyarat nadi yang lemah tetapi konsisten. Dalam deepfake, isyarat ini selalunya tidak hadir, herot atau tidak tekal.

Kaedah pengesanan inimelibatkan beberapa langkah:

1. Pengekstrakan Isyarat: Isyarat rPPG diekstrak daripada berbilang rantau minat (ROI) di muka orang itu dalam video.

2. Pemprosesan Isyarat: Isyarat mentah dibersihkan daripada hingar dan kemudian diproses (selalunya menggunakan Transformasi Fourier Pantas (FFT)) untuk menganalisis ciri domain masa dan frekuensinya. FFT boleh mendedahkan frekuensi dominan dalam isyarat, yang sepadan dengan kadar denyutan jantung.

3. Pengelasan: Pengelas (cth., CNN) dilatih untuk membezakan corak irama yang padu daripada degupan jantung sebenar daripada isyarat yang bising, tidak tekal atau tidak hadir yang ditemui dalam video palsu.

Dalam tetapan eksperimen terkawal, pendekatan ini telah mencapai ketepatan pengesanan yang sangat tinggi, dengan beberapa kajian melaporkan sehingga 99.22%. Walau bagaimanapun, terdapat kelemahan penting kepada kaedah ini. Teknik deepfake yang lebih canggih (terutamanya yang melibatkan penghidupan semula) boleh mewarisi isyarat fisiologi daripada video sumber atau "pemandu". Ini bermakna deepfake mungkin menunjukkan isyarat rPPG yang normal dan konsisten sepenuhnya. Ia hanya nadi pelakon sumber dan bukan nadi orang yang digambarkan dalam video akhir. Penemuan ini mencabar andaian mudah bahawa deepfake kekurangan isyarat fisiologi dan meningkatkan halangan untuk pengesanan. Kaedah masa depan mesti melangkaui sekadar menyemak kehadiran nadi dan sebaliknya mengesahkan ketekalan fisiologi dan ciri-ciri khusus identiti isyarat tersebut.

Perlumbaan Senjata Pengesanan: Cabaran Model Penyebaran dan Serangan Permusuhan

Medan pengesanan deepfake ditakrifkan oleh perlumbaan senjata yang tidak henti-hentinya. Sebaik sahaja kaedah pengesanan yang boleh dipercayai dibangunkan, model penjanaan sentiasa berkembang untuk mengatasinya. Kebangkitan baru-baru ini model penyebaran dan penggunaan serangan permusuhan merupakan dua cabaran yang paling ketara yang dihadapi oleh pengesan moden.

• Kegagalan Generalisasi: Kelemahan utama bagi banyak model pengesanan ialah ketidakupayaan mereka untuk menjana. Pengesan yang dilatih untuk mengenal pasti pemalsuan daripada model penjanaan tertentu (cth., StyleGAN2) atau pada set data tertentu sering gagal apabila berhadapan dengan teknik manipulasi baharu atau domain data yang berbeza. Model penyebaran menjadikan masalah ini sangat akut. Disebabkan output mereka mengandungi artifak yang lebih ketara, lebih pelbagai dan lebih dekat dengan ciri statistik imej sebenar, mereka boleh mengelak daripada pengesan yang direka untuk GAN dengan berkesan. Untuk menangani masalah ini, penyelidik membangunkan set data penanda aras baharu dan lebih sukar yang mengandungi deepfake penyebaran terkini untuk mendorong penciptaan Pengesan yang lebih teguh dan menjana.

• Serangan Permusuhan: Malah pengesan yang sangat tepat terdedah kepada subversion langsung melalui serangan permusuhan. Dalam senario ini, penyerang memperkenalkan gangguan piksel yang kecil dan tidak dapat dilihat pada imej deepfake. Walaupun perubahan ini tidak dapat dilihat oleh manusia, ia direka bentuk secara khusus untuk mengeksploitasi kelemahan dalam rangkaian saraf pengesan, menyebabkannya mengelas imej palsu sebagai sebenar secara salah. Ancaman ini wujud dalam tetapan "kotak putih" (di mana penyerang mempunyai pengetahuan penuh tentang seni bina pengesan) dan tetapan "kotak hitam" yang lebih realistik (di mana penyerang hanya boleh menyoal pengesan dan memerhatikan outputnya).

Sebagai tindak balas, komuniti penyelidikan memfokuskan pada pembangunan pengesan generasi akan datang dengan ketahanan yang dipertingkatkan. Strategi utama termasuk:

• Kepelbagaian Data Latihan: Memperkayakan set data latihan untuk memasukkan kepelbagaian pemalsuan daripada GAN dan model penyebaran, serta domain imej yang pelbagai, telah terbukti meningkatkan generalisasi.

• Strategi Latihan Lanjutan: Teknik baharu seperti "latihan yang dipertingkatkan momentum-kesukaran" sedang diterokai untuk membantu model berlatih dengan lebih berkesan pada set data heterogen dengan menimbang sampel berdasarkan kesukaran pengelasan dinamik.

• Seni bina Teguh: Reka bentuk seni bina baharu yang secara inheren lebih tahan terhadap serangan. Pendekatan yang menjanjikan ialah menggunakan ensemble yang tidak bergabungan, di mana berbilang model dilatih pada subset yang berbeza dan tidak bertindih bagi spektrum frekuensi imej. Ini memaksa penyerang untuk mencari gangguan yang boleh memperdayakan berbilang model serentak, tugas yang jauh lebih sukar. Pendekatan hibrid lain menggabungkan ciri daripada domain spatial dan frekuensi untuk membina model data yang lebih komprehensif.

Tukar belakang berterusan antara teknologi penjanaan dan pengesanan mencadangkan bahawa sebarang pertahanan statik ditakdirkan untuk menjadi usang. Apabila model penjanaan terus berkembang untuk menghapuskan isyarat seperti anomali kelipan atau artifak GAN, pengesan mesti beralih kepada isyarat yang lebih halus seperti ketidakpadanan frekuensi tinggi atau tandatangan rPPG. Sebaliknya, model penjanaan boleh dilatih untuk meniru isyarat ini, seperti yang dilihat dengan pewarisan rPPG daripada video sumber. Gelung kekal ini mencadangkan bahawa strategi pencegahan yang bergantung semata-mata pada pengesanan reaktif ialah perlumbaan senjata yang mahal dan mungkin tidak boleh dimenangi.

Strategi pengesanan yang paling berkekalan berkemungkinan besar ialah strategi yang mengeksploitasi jurang asas antara simulasi digital dan realiti fizikal. Walaupun artifak visual ialah kecacatan dalam simulacrum yang boleh ditampal secara beransur-ansur dengan algoritma yang lebih baik dan lebih banyak kuasa pengiraan, model sifat-sifat kemunculan biologi dan fizik daripada prinsip pertama adalah jauh lebih sukar untuk AI. Model penjanaan tidak "tahu" tentang sistem kardiovaskular manusia. Ia hanya belajar untuk meniru corak piksel yang dikaitkan dengan muka. Walaupun ia boleh dilatih untuk meniru hasil visual degupan jantung, menjana isyarat yang tekal secara fisiologi dan tepat dari awal untuk identiti baharu akan memerlukan pemodelan keseluruhan sistem biologi, cabaran peringkat tinggi. Oleh itu, penyelidikan pengesanan yang paling boleh dipercayai akan memfokuskan pada "jurang fizikalitas" ini, bukan sahaja termasuk rPPG tetapi mungkin isyarat lain seperti corak pernafasan halus, pembesaran anak mata yang tidak disengajakan dan mikroekspresi yang didorong oleh proses biologi yang kompleks yang sukar untuk disimulasikan dengan ketepatan tinggi.

Membina Kepercayaan Digital: Pencegahan Proaktif Melalui Tera Air dan Asal Usul

Memandangkan batasan inheren strategi pengesanan reaktif semata-mata, skim yang lebih berdaya tahan dan mampan untuk mencegah bahaya deepfake melibatkan ukuran proaktif. Teknik ini bertujuan untuk mewujudkan kepercayaan dan akauntabiliti dalam ekosistem media digital dari awal penciptaan. Daripada memfokuskan pada mengenal pasti pemalsuan selepas ia telah dicipta dan disebarkan, paradigma ini mengalihkan tumpuan kepada mengesahkan ketulenan dan sumber kandungan yang sah. Dua teknik terkemuka dalam bidang ini ialah tera air digital forensik dan asal usul kandungan berasaskan blok rantai.

Tera Air Digital Forensik: Tandatangan Tidak Kelihatan

Tera air digital forensik ialah teknik proaktif yang membenamkan pengecam unik dan tidak ketara terus ke dalam kandungan digital, seperti imej, video atau dokumen. Tidak seperti tera air yang boleh dilihat (cth., logo yang ditindihkan pada imej), tera air forensik tersembunyi dalam data fail itu sendiri dan direka bentuk supaya sangat teguh. Tera air forensik yang direka dengan baik boleh bertahan daripada manipulasi fail biasa, termasuk pemampatan, pemangkasan, pengubahsuaian saiz, pelarasan warna malah tangkapan skrin atau tangkapan skrin ke kamera.

Dalam konteks pencegahan deepfake, tera air forensik menyediakan berbilang fungsi utama:

• Pengesanan Sumber dan Akauntabiliti: Dengan membenamkan maklumat unik yang mengenal pasti pencipta, pengguna atau saluran pengedaran, tera air boleh digunakan untuk mengesan sumber deepfake berniat jahat jika ia dibocorkan atau disalahgunakan. Sebagai contoh, dalam persekitaran Video on Demand (VOD) atau perusahaan, sistem boleh menggunakan tera air A/B untuk berkhidmat kepada setiap pengguna dengan versi video yang sedikit berbeza dan tera air unik. Jika salinan muncul dalam talian, tera air boleh diekstrak untuk mengenal pasti dengan tepat sumber kebocoran, menyediakan bukti kukuh untuk prosedur undang-undang atau pentadbiran.

• Pengesahan Ketulenan: Tera air boleh berfungsi sebagai setem ketulenan untuk kandungan rasmi. Agensi kerajaan, syarikat atau organisasi berita boleh membenamkan tera air unik dalam media sah mereka. Ini membolehkan pengesahan komunikasi sebenar dan membantu mengesan dan menghalang percubaan penyamaran menggunakan deepfake.

• Pengesanan Hayat: Pembekal mencadangkan tera air boleh disepadukan pada pelbagai peringkat kitaran hayat kandungan. Contohnya, tera air boleh dibenamkan semasa memuat naik ke media sosial, dalam apl pemesejan atau malah oleh apl penciptaan deepfake itu sendiri untuk mencipta rekod boleh dijejaki tentang cara kandungan yang diubah suai dijana dan diedarkan.

Teknologi tera air canggih sedang dibangunkan secara khusus untuk menentang manipulasi deepfake. Pendekatan baharu melibatkan reka bentuk rangkaian saraf yang membenamkan tera air terus ke dalam ciri identiti imej muka. Ini menjadikan tera air sangat sensitif terhadap manipulasi pertukaran muka, kerana operasi sedemikian secara inheren mengubah ciri identity dan oleh itu merosakkan tera air, sambil mengekalkan keteguhan terhadap pengubahsuaian imej tradisional seperti pemampatan atau perubahan saiz.

Walaupun janji tera air, terdapat halangan penting untuk diatasi. Pertama, tera air tidak boleh dipercayai. Kajian telah menunjukkan bahawa adalah mungkin untuk "membubarkan" atau membentuk semula imej untuk menghapuskan tera air terbenam dengan berkesan dengan menggunakan teknik permusuhan, terutamanya yang menggunakan model penyebaran. Kedua, dan lebih penting lagi, keberkesanan tera air sebagai penyelesaian sistemik bergantung pada penerimaan pakai yang meluas. Pada masa ini tiada keperluan undang-undang atau peraturan bahawa apl deepfake atau platform media sosial melaksanakan tera air, yang menjadikan penggunaannya sukarela dan berpecah-pecah.

Rantaian Blok dan Asal Usul Kandungan: Lejar yang Tidak Boleh Diubah

Strategi proaktif yang saling melengkapi ialah menggunakan teknologi blok rantai untuk mewujudkan asal usul kandungan, iaitu sejarah yang boleh dipercayai, boleh disahkan dan kalis gangguan terhadap sumber dan kitaran hayat fail media. Pendekatan ini memanfaatkan sifat teras blok rantai desentralisasi dan ketidakbolehubahan untuk mencipta rekod ketulenan kekal dan awam.

Pendekatan untuk mewujudkan asal usul berasaskan blok rantai biasanya melibatkan tiga langkah:

1. Cap Jari Kandungan.: Apabila kali pertama mencipta atau memuat naik ke platform yang mengambil bahagian, kekunci dan pengecam dienkripsi unik dijana daripada data fail. Kekunci ini bertindak seperti cap jari digital, tidak kira betapa kecil perubahan yang dibuat pada fail itu, ia akan menghasilkan kekunci yang sama sekali berbeza.

2. Rekod Blok Rantai: Kekunci unik ini, bersama-sama dengan metadata kritikal, seperti identiti digital pencipta yang disahkan, tanda masa dan butiran berkaitan yang lain, direkodkan sebagai transaksi pada lejar blok rantai. Memandangkan lejar ini diagihkan dan dilindungi secara kriptografi, rekod ini secara praktikalnya kekal dan tidak boleh diubah atau dipadamkan.

3. Pengesahan Berterusan: Pada sebarang ketika masa hadapan, sesiapa sahaja atau mana-mana sistem boleh mengesahkan ketulenan media. Mereka hanya mengira kekunci semasa fail yang dipersoalkan dan membandingkannya dengan kekunci asal yang disimpan pada blok rantai. Jika kekunci sepadan, ia membuktikan bahawa fail tersebut tidak diubah sejak masa pendaftaran. Jika kekunci tidak sepadan, fail tersebut telah diganggu.

Sistem ini mencipta "rantaian jagaan" yang telus dan boleh disahkan untuk kandungan digital. Ia membenarkan pencipta menandatangani karya mereka secara digital menggunakan kunci peribadi mereka, dengan itu memberikan reputasi mereka sebagai jaminan untuk ketulenan. Platform boleh menyepadukan sistem ini kepada rujukan silang kandungan automatik dengan blok rantai sebelum membenarkannya disiarkan secara langsung, dan menanda atau menyekat media yang kekurangan rekod asal usul yang sah. Kajian tentang sistem hibrid yang menggabungkan asal usul berasaskan blok rantai dengan tera air digital telah menunjukkan kejayaan yang sangat tinggi bagi ketepatan pengesanan, yang berpotensi mencapai 95%.

Walau bagaimanapun, seperti tera air, asal usul berasaskan blok rantai masih mempunyai batasan. Kelemahan utamanya terletak pada pergantungan pada kesan rangkaian. Sistem ini bernilai jika dan hanya jika ia diserap pakai sebagai piawai universal oleh pencipta, platform teknologi dan peranti pengguna. Tambahan pula, adalah penting untuk ambil perhatian bahawa pendekatan ini mengesahkan integriti fail digital dari masa ia didaftarkan, bukan ketulenan kandungan itu sendiri. Pencipta boleh mendaftarkan deepfake pada blok rantai. Sistem ini hanya akan membuktikan bahawa fail deepfake khusus ini tidak diubah sejak masa pendaftaran.

Penggunaan teknologi proaktif ini menandakan perubahan strategik yang penting dalam memerangi deepfake. Daripada terlibat dalam perlumbaan senjata pasif bagi "mengesan pemalsuan", pendekatan ini bertujuan untuk mewujudkan sistem "mengesahkan kebenaran". Perlumbaan senjata dicirikan oleh ancaman dan tindak balas balas yang sentiasa berkembang di mana pengesan yang canggih boleh menjadi usang dalam sekelip mata oleh model penjanaan baharu. Sebaliknya, langkah proaktif dilaksanakan sama ada pada masa atau sebelum kandungan yang sahih dikeluarkan. Matlamatnya bukan lagi untuk membuktikan bahawa sekeping media adalah palsu dengan mencari kekurangan tetapi untuk membuktikan bahawa ia sahih dengan mengesahkan kehadiran tera air yang sah atau mencari entri padanan pada buku ledjar yang tidak boleh diubah.

Pergeseran ini mempunyai implikasi yang mendalam untuk keseluruhan ekosistem maklumat. Dalam dunia yang semakin dipenuhi dengan media sintetik, dianggarkan bahawa dalam beberapa tahun kandungan dalam talian mungkin 90% sintetik, andaian lalai untuk pengguna dan sistem mesti berubah daripada "benar sehingga terbukti palsu" menjadi "tidak disahkan sehingga terbukti benar". Teknologi proaktif seperti tera air dan asal usul menyediakan asas teknikal untuk paradigma baharu ini. Mereka meletakkan tanggungjawab pengesahan ke atas pencipta kandungan yang sah untuk membuktikan kesahihan kerja mereka, dan bukannya membebankan pengguna dengan beban yang mustahil untuk membongkar sebilangan besar potensi pemalsuan.

Walau bagaimanapun, penghalang terbesar kepada masa depan yang lebih berdaya tahan ini bukanlah teknikal tetapi masalah penyelarasan skala besar. Teknologi untuk tera air dan asal usul blok rantai sudah wujud, tetapi keberkesanannya bergantung sepenuhnya kepada mencapai kesan rangkaian melalui penggunaan standard yang meluas. Tera air tidak berguna jika tiada cara standard untuk membacanya, buku ledjar blok rantai bernilai kecil jika platform utama tidak menyoal siasatnya. Untuk sistem ini berfungsi pada skala masyarakat, ia mesti disepadukan pada tahap asas, dalam kamera, dalam perisian penyuntingan, dalam protokol muat naik media sosial, dan dalam penyemak imbas serta apl yang digunakan oleh orang setiap hari. Ini memerlukan kerjasama berasaskan industri yang besar dan mungkin didorong oleh mandat dan insentif peraturan yang dibincangkan dalam bahagian berikutnya. Kejayaan pakatan industri seperti Content Authenticity and Provenance Alliance (C2PA) (yang mempromosikan piawaian teknikal terbuka untuk asal usul kandungan) akan menjadi barometrik kunci untuk peralihan strategik ini.

Undang-undang dalam Dunia Sintetik: Kerangka Kawal Selia dan Undang-undang Global

Apabila teknologi deepfake menembusimasyarakat, kerajaan di seluruh dunia bergelut untuk mengawal penggunaannya dan mengurangkan bahayanya. Respons mereka adalah pelbagai, mencerminkan tradisi undang-undang, sistem politik dan keutamaan sosial yang berbeza. Konsensus global terbukti sukar difahami, yang membawa kepada landskap undang-undang kebangsaan dan serantau yang berpecah-belah. Keseragaman ini mewujudkan persekitaran pematuhan yang kompleks untuk syarikat teknologi global dan menyerlahkan pelbagai pendekatan falsafah yang diambil untuk mengimbangi inovasi, kebebasan bersuara dan keselamatan awam.

Amerika Syarikat: Gabungan Tindakan Persekutuan dan Negeri

Pendekatan Amerika Syarikat untuk mengawal selia deepfake terbahagi kepada gabungan undang-undang persekutuan yang disasarkan dengan perundangan peringkat negeri yang lebih luas, semuanya dikenakan sekatan oleh perlindungan perlembagaan yang kukuh bagi kebebasan bersuara di bawah Pindaan Pertama.

Di peringkat persekutuan, undang-undang yang paling ketara ialah Akta TAKE OFF IT DOWN, yang digubal pada Mei 2025. Undang-undang ini adalah berdasarkan sokongan dwipartisan yang jarang berlaku, sebahagian besarnya disebabkan oleh krisis yang semakin meningkat bagi imej intim tanpa kebenaran (NCII) yang dijana AI, atau "porno dendam". Akta itu ialah undang-undang persekutuan pertama yang memformalkan pengedaran kandungan sedemikian sebagai jenayah, termasuk deepfake yang dijana AI. Peruntukan utamanya termasuk:

• Keganasan Jenayah: Larangan terhadap penggunaan video sintetik yang menampilkan aktiviti seksual tanpa kerelaan individu yang digambarkan.

• Kebenaran Pemberitahuan dan Penyingkiran: Menghendaki platform dalam talian yang menganjurkan kandungan yang dijana pengguna untuk menubuhkan prosedur bagi mengalih keluar NCII yang dibenderakan dan mengalih keluar pendua dalam tempoh 48 jam daripada pelaporan.

• Penguatkuasaan: Memberikan kuasa kepada Suruhanjaya Perdagangan Persekutuan (FTC) untuk menguatkuasakan peraturan ini pada platform yang tidak mematuhi.

Undang-undang persekutuan sedia ada yang lain juga mungkin digunakan untuk menangani bahaya berkaitan deepfake. Akta