डीपफेक तकनीक से बचाव

डीपफेक की रोकथाम के लिए रणनीतियाँ

डीपफेक तकनीक तेजी से विकसित हो रही है और समाज में विश्वास और सूचना सुरक्षा के लिए अभूतपूर्व खतरे पैदा कर रही है। डीपफेक के प्रसार को रोकने की क्षमता डीपफेक तकनीक की व्यापक समझ पर निर्भर करती है, इसलिए यह लेख आर्टिफिशियल इंटेलिजेंस डीपफेक तकनीक को रोकने के तरीकों का पता लगाएगा।

डीपफेक का इंजन: तकनीकी विश्लेषण

डीपफेक का मूल जेनेरेटिव मॉडल में है, जो आर्टिफिशियल इंटेलिजेंस का एक रूप है जो विशाल डेटासेट से सीखने और यथार्थवादी चित्र, वीडियो और ऑडियो उत्पन्न करने में सक्षम है। हाल के वर्षों में, जेनेरेटिव एडवर्सैरियल नेटवर्क (GAN) विकसित होकर डिफ्यूजन मॉडल बन गए हैं, जो और भी अधिक शक्तिशाली हैं। इसलिए, एक मजबूत रोकथाम ढांचा बनाने के लिए इन जनरेटिंग इंजनों का तकनीकी विश्लेषण करना आवश्यक है।

विरोधी खेल: उत्पत्ति विरोध नेटवर्क (GAN)

एक GAN में दो न्यूरल नेटवर्क होते हैं: एक जनरेटर और एक भेदभाव करने वाला। जनरेटर का काम सिंथेटिक डेटा बनाना है जो वास्तविक दुनिया के डेटा की नकल करता है। यह यादृच्छिक इनपुट के साथ शुरू होता है, जिसे आमतौर पर एक गुप्त वेक्टर कहा जाता है, और इसे एक सुसंगत आउटपुट में बदलने की कोशिश करता है। दूसरी ओर, भेदभाव करने वाला एक वर्गीकरणकर्ता के रूप में कार्य करता है जो डेटा का मूल्यांकन यह निर्धारित करने के लिए करता है कि यह वास्तविक है (वास्तविक प्रशिक्षण डेटासेट से) या नकली (जनरेटर द्वारा बनाया गया)।

प्रशिक्षण प्रक्रिया में दो नेटवर्कों के बीच एक निरंतर फीडबैक लूप शामिल होता है, जो शून्य-राशि वाले खेल के समान होता है। जनरेटर एक नकली छवि बनाता है और उसे भेदभाव करने वाले को पास करता है, जिसे प्रशिक्षण सेट से वास्तविक छवियों भी मिलती हैं। फिर भेदभाव करने वाला प्रत्येक छवि की प्रामाणिकता की भविष्यवाणी करता है। यदि भेदभाव करने वाला जनरेटर आउटपुट को नकली के रूप में सही ढंग से पहचानता है, तो यह प्रतिक्रिया प्रदान करता है। जनरेटर अगली पुनरावृत्ति में और अधिक ठोस छवियां बनाने के लिए बैकप्रोपेगेशन के माध्यम से इस प्रतिक्रिया का उपयोग करके अपने आंतरिक मापदंडों को समायोजित करता है। उसी समय, भेदभाव करने वाला जालसाजी का पता लगाने के लिए अपने स्वयं के मापदंडों को समायोजित करता है। यह विरोधी प्रतियोगिता तब तक जारी रहती है जब तक कि सिस्टम एक संतुलन बिंदु पर नहीं पहुंच जाता, जिसे कभी-कभी नैश संतुलन कहा जाता है, जिस पर जनरेटर का आउटपुट इतना यथार्थवादी होता है कि भेदभाव करने वाला अब उन्हें वास्तविक डेटा से विश्वसनीय रूप से अलग नहीं कर सकता है और लगभग 50% सटीकता के साथ अनुमान लगा रहा है ।

GAN ने सिंथेटिक मीडिया उत्पन्न करने में अपनी प्रभावशीलता साबित कर दी है और कई प्रभावशाली डीपफेक मॉडल के लिए आधारशिला के रूप में कार्य किया है। डीप कन्वेलेशनल GAN (DCGAN) जैसे आर्किटेक्चर ने पूलिंग लेयर्स को बदलकर और बैच सामान्यीकरण का उपयोग करके स्थिरता में सुधार करके महत्वपूर्ण सुधार पेश किए। NVIDIA के StyleGAN और इसके उत्तराधिकारी StyleGAN2 और StyleGAN3 ने चेहरे के जनरेशन के संबंध में अभूतपूर्व फोटो-रियलिज्म प्राप्त किया है, जो सुविधा कलाकृतियों को ठीक कर रहा है और मॉडल आर्किटेक्चरिंग को आगे बढ़ा रहा है। CycleGAN जैसे अन्य रूपों ने शैली हस्तांतरण कार्यों को सक्षम किया है और परिणामस्वरूप फेस ऐप जैसे अनुप्रयोगों में व्यापक रूप से उपयोग किया गया है ताकि किसी व्यक्ति के दिखावे की उम्र में परिवर्तन किया जा सके।

GAN की शक्ति के बावजूद, यह ज्ञात है कि GAN को प्रशिक्षित करना मुश्किल है। जनरेटर और भेदभाव करने वाले के बीच नाजुक संतुलन को आसानी से तोड़ा जा सकता है, जिससे प्रशिक्षण अस्थिरता, धीमी गति से अभिसरण या “मोड पतन” नामक एक महत्वपूर्ण विफलता मोड हो सकती है। मोड पतन तब होता है जब जनरेटर भेदभाव करने वाले में एक कमजोरी की खोज करता है और केवल सीमित संख्या में आउटपुट उत्पन्न करके इसका फायदा उठाता है (जिसे वह जानता है कि भेदभाव करने वाले को बेवकूफ बना सकता है), इस प्रकार प्रशिक्षण डेटा की वास्तविक विविधता को कैप्चर करने में विफल रहता है। ये अंतर्निहित चुनौतियां, साथ ही वे आमतौर पर उत्पन्न होने वाली सूक्ष्म कलाकृतियां, प्रारंभिक डीपफेक डिटेक्शन सिस्टम के लिए प्रमुख लक्ष्य बन गईं।

अराजकता का उलटा : प्रसार मॉडल

उत्पादक कृत्रिम बुद्धिमत्ता में, नवीनतम तकनीक निर्णायक रूप से नए मॉडल के वर्ग की ओर स्थानांतरित हो गई है: प्रसार मॉडल। गैर-संतुलन थर्मोडायनामिक अवधारणाओं से प्रेरित, प्रसार मॉडल GAN की विरोधी प्रतियोगिता के सिद्धांतों से मौलिक रूप से अलग तरीके से काम करते हैं। वे संभाव्य उत्पादक मॉडल हैं जो धीरे-धीरे क्षरण की प्रक्रिया को उलट कर असाधारण उच्च गुणवत्ता और विविध डेटा उत्पन्न करने में सक्षम हैं।

प्रसार मॉडल का तंत्र एक द्वि-चरणीय प्रक्रिया है:

1. अग्र प्रसार प्रक्रिया: यह चरण टी (उदाहरण के लिए, टी चरण) के दौरान एक छवि में छोटी मात्रा में गाऊसी शोर को व्यवस्थित रूप से और उत्तरोत्तर जोड़ता है। यह एक मार्कोव श्रृंखला प्रक्रिया है, जहां प्रत्येक चरण पिछले एक पर सशर्त होता है, धीरे-धीरे छवि गुणवत्ता को तब तक कम करता है जब तक कि अंतिम समय चरण T पर, यह विशुद्ध रूप से असंरचित शोर से अप्रभेद्य न हो जाए।

2. विपरीत डेनोइज़िंग प्रक्रिया: मॉडल की कुंजी एक न्यूरल नेटवर्क है (आमतौर पर एक यू-नेट आर्किटेक्चर लिया गया है) जिसे इस प्रक्रिया को उलटने के लिए प्रशिक्षित किया जाता है। यह आगे की प्रक्रिया में प्रत्येक समय चरण में जोड़े गए शोर की भविष्यवाणी करना और इसे घटाना सीखता है। प्रशिक्षण के बाद, मॉडल यादृच्छिक शोर नमूनों के साथ शुरू करके और इस सीखी हुई “डेनोइज़िंग” फ़ंक्शन को बार-बार लागू करके समय चरणों को पीछे की ओर संसाधित कर सकता है, जिससे अराजकता को मूल डेटा वितरण के सुसंगत नमूने में बदल दिया जाता है, जिससे नई, उच्च-गुणवत्ता वाली छवियां उत्पन्न होती हैं।

यह पुनरावृत्त परिशोधन प्रक्रिया प्रसार मॉडल को सर्वश्रेष्ठ GAN या अधिक फोटो-यथार्थवाद और विविधता के स्तर से भी अधिक प्राप्त करने की अनुमति देती है। उनकी प्रशिक्षण प्रक्रिया GAN की तुलना में बहुत अधिक स्थिर होती है, मोड पतन जैसी समस्याओं से बचाती है और अधिक विश्वसनीय और विविध आउटपुट उत्पन्न करती है। यह तकनीकी लाभ प्रसार मॉडल को आज के सबसे प्रमुख और शक्तिशाली उत्पादक कृत्रिम बुद्धिमत्ता उपकरणों के लिए आधारशिला बनाता है, जिसमें OpenAI का DALL-E 2, Google का Imagen और Stability AI का Stable Diffusion जैसे टेक्स्ट-टू-इमेज मॉडल और OpenAI का Sora जैसे टेक्स्ट-टू-वीडियो मॉडल शामिल हैं। इन मॉडलों की व्यापक उपलब्धता और उत्कृष्ट आउटपुट गुणवत्ता ने डीपफेक खतरे को बहुत बढ़ा दिया है।

क्रियातंत्र

GAN या प्रसार मॉडल की परवाह किए बिना, अंतर्निहित पीढ़ी इंजन का उपयोग डीपफेक वीडियो बनाने के लिए कई विशिष्ट तकनीकों के माध्यम से किया जाता है। ये विधियाँ वांछित धोखे के प्रभाव को प्राप्त करने के लिए लक्षित वीडियो के विभिन्न पहलुओं को संसाधित करती हैं।

• पुनः प्रदर्शन: यह तकनीक स्रोत चरित्र के चेहरे के भाव, सिर की गति और भाषण से संबंधित आंदोलनों को वीडियो में लक्षित विषय में स्थानांतरित करती है। इस प्रक्रिया में आमतौर पर तीन मुख्य चरण शामिल होते हैं: सबसे पहले, स्रोत वीडियो और लक्षित वीडियो में चेहरे की विशेषताओं को ट्रैक करना; दूसरा, स्थिरता मेट्रिक्स का उपयोग करके इन विशेषताओं को एक सामान्य 3डी चेहरे मॉडल के साथ संरेखित करना; तीसरा, स्रोत से लक्ष्य तक भावों को स्थानांतरित करना, फिर यथार्थवाद और स्थिरता को बढ़ाने के लिए उसके बाद परिशोधन करना।

• लिप सिंक: लिप सिंक डीपफेक तकनीक विशेष रूप से भाषण को संभालने के लिए समर्पित है, मुख्य रूप से यथार्थवादी मुंह आंदोलनों को उत्पन्न करने के लिए ऑडियो इनपुट का उपयोग करना। ऑडियो को डायनामिक मुंह आकार और बनावट में परिवर्तित किया जाता है, जिसे तब लक्षित वीडियो के साथ सावधानीपूर्वक मिलाया और मिश्रित किया जाता है, ताकि यह भ्रम हो कि लक्षित व्यक्ति इनपुट ऑडियो बोल रहा है।

• टेक्स्ट-आधारित संश्लेषण: यह अत्यधिक परिष्कृत विधि टेक्स्ट स्क्रिप्ट के आधार पर वीडियो को संशोधित करती है। यह टेक्स्ट को उसके घटक ध्वनियों (ध्वनि इकाइयाँ) और विज़ेम (वाक् ध्वनियों के दृश्य संरेखण) में विश्लेषण करके काम करता है। फिर उन्हें स्रोत वीडियो में संबंधित अनुक्रमों से मिलान किया जाता है, और 3डी प्रमुख मॉडल के मापदंडों का उपयोग करके नए टेक्स्ट से मेल खाने के लिए होंठ आंदोलनों को उत्पन्न और सुचारू किया जाता है, जिससे अक्षरशः संपादित करना संभव हो जाता है कि कोई व्यक्ति क्या कह रहा है।

GAN से लेकर प्रसार मॉडल तक की तकनीकी प्रगति केवल एक क्रमिक सुधार से कहीं अधिक थी; यह एक प्रतिमान बदलाव था जिसने अनिवार्य रूप से डीपफेक रोकथाम के लिए रणनीतिक परिदृश्य को बदल दिया। GAN शक्तिशाली होने के बावजूद, प्रशिक्षण अस्थिरता और मोड पतन जैसी ज्ञात वास्तुकला कमजोरियों के साथ आया, जिसके परिणामस्वरूप अक्सर छवि आवृत्ति डोमेन में अनुमानित और पता लगाने योग्य कलाकृतियां होती हैं। नतीजतन, डिटेक्शन टूल की एक पूरी पीढ़ी विशेष रूप से इन GAN-विशिष्ट फिंगरप्रिंट को पहचानने के लिए बनाई गई थी। हालांकि, प्रसार मॉडल प्रशिक्षित करने के लिए अधिक स्थिर होते हैं और अधिक विविध, व्यावहारिक और सांख्यिकीय रूप से वास्तविक छवियों के करीब आउटपुट उत्पन्न करते हैं, जिससे वे अपने पूर्ववर्तियों की अपरिहार्य कमियों की कई चीजों को खारिज करते हैं।

इसलिए, मौजूदा डीपफेक डिटेक्शन इंफ्रास्ट्रक्चर का एक महत्वपूर्ण हिस्सा तेजी से अप्रचलित हो रहा है। अध्ययनों से पता चला है कि जब GAN-जनरेटेड छवियों पर प्रशिक्षित डिटेक्टर को प्रसार मॉडल से सामग्री पर लागू किया जाता है तो “गंभीर प्रदर्शन गिरावट” का अनुभव होता है। उल्लेखनीय रूप से, प्रसार मॉडल छवियों पर प्रशिक्षित डिटेक्टर GAN-जनरेटेड सामग्री की सफलतापूर्वक पहचान कर सकते हैं, लेकिन इसके विपरीत नहीं, यह दर्शाता है कि प्रसार मॉडल जालसाजी के अधिक जटिल और चुनौतीपूर्ण वर्ग का प्रतिनिधित्व करते हैं। वास्तव में, इसने प्रभावी रूप से तकनीकी हथियारों की दौड़ को रीसेट कर दिया है, जिसमें प्रसार-जनरेटेड मीडिया की विशिष्ट और अधिक सूक्ष्म विशेषताओं का मुकाबला करने के लिए रक्षा रणनीतियों को फिर से डिजाइन करने की आवश्यकता है।

इसके अतिरिक्त, इन पीढ़ी मॉडलों की “ब्लैक बॉक्स” प्रकृति स्रोत पर निवारण के प्रयासों को जटिल बनाती है। GAN और प्रसार मॉडल दोनों ही बिना पर्यवेक्षण या अर्ध-पर्यवेक्षण फैशन में काम करते हैं, स्पष्ट अर्थपूर्ण लेबल की आवश्यकता के बिना डेटासेट के सांख्यिकीय वितरण की नकल करना सीखते हैं। वे मानवीय रूप से समझने योग्य अर्थों में “एक चेहरा क्या होता है” नहीं सीखते हैं, बल्कि वे सीखते हैं कि “चेहरे के डेटासेट में कौन से पिक्सेल पैटर्न संभावित हैं”। यह पीढ़ी प्रक्रिया को सीधे बाधाओं में प्रोग्राम करना असाधारण रूप से कठिन बनाता है (उदाहरण के लिए, “हानिकारक छवियां उत्पन्न न करें”)। मॉडल केवल एक गणितीय फ़ंक्शन को अनुकूलित कर रहा है: या तो भेदभाव करने वाले को बेवकूफ बनाना या शोर प्रक्रिया को उलटना। इसका मतलब है कि रोकथाम आंतरिक रूप से मूल कलन विधि को विनियमित करने पर निर्भर नहीं हो सकती है। सबसे व्यवहार्य हस्तक्षेप पीढ़ी से पहले (प्रशिक्षण डेटा को नियंत्रित करके) या पीढ़ी के बाद (पता लगाने, वॉटरमार्किंग और सिद्धता के माध्यम से) घटित होने चाहिए, क्योंकि निर्माण इस प्रकार मूल रूप से प्रत्यक्ष शासन का प्रतिरोधी है।

जनरेटिंग इंजनों का तुलनात्मक विश्लेषण

नीति निर्माताओं से लेकर कॉरपोरेट सुरक्षा अधिकारियों तक, किसी भी हितधारक के लिए GAM और डिफ्यूजन मॉडल के बीच रणनीतिक अंतर को समझना महत्वपूर्ण है। पूर्व से बाद के लिए तकनीकी प्रभुत्व में बदलाव का पता लगाने की कठिनाई, धोखे की संभावना और समग्र खतरे की तस्वीर पर गहरा प्रभाव पड़ता है।

डिजिटल प्रतिरक्षा प्रणाली: पहचान विधियों का तुलनात्मक विश्लेषण

सिंथेटिक मीडिया के प्रसार का मुकाबला करने के लिए, पहचान विधियों का एक विविध क्षेत्र उभरा है, जो एक नवजात “डिजिटल प्रतिरक्षा प्रणाली” का निर्माण करता है। इन तकनीकों में डिजिटल कलाकृतियों का फोरेंसिक विश्लेषण शामिल है, साथ ही संभावित जैविक संकेतों को जानने के लिए नए दृष्टिकोण भी शामिल हैं। हालांकि, इस प्रतिरक्षा प्रणाली की प्रभावशीलता को लगातार पीढ़ी मॉडल के तेजी से विकास और पहचान से बचने के लिए डिज़ाइन किए गए विरोधी हमलों से चुनौती दी जाती है। निर्माण और पहचान के बीच चल रहा संघर्ष एक “रेड क्वीन” विरोधाभास है, जिसमें रक्षकों को यथास्थिति बनाए रखने के लिए लगातार आविष्कार करना चाहिए।

डिजिटल कलाकृतियों का फोरेंसिक विश्लेषण

सबसे स्थापित डीपफेक पहचान श्रेणी में डिजिटल कलाकृतियों का फोरेंसिक विश्लेषण शामिल है, यानी निर्माण प्रक्रिया में छोड़ी गई सूक्ष्म कमियों और असंगतताओं। ये कमियां और असंगतताएं अक्सर पहचानना मुश्किल होती हैं और नग्न आंखों से नहीं देखी जा सकती हैं, लेकिन इन्हें विशेष एल्गोरिदम द्वारा पहचाना जा सकता है।

• दृश्य और शारीरिक असंगतताएं: कुछ प्रारंभिक और यहां तक कि वर्तमान पीढ़ी मॉडल मानव शरीर रचना विज्ञान की जटिलता और वास्तविक दुनिया के भौतिक गुणों को पूरी तरह से दोहराने के लिए संघर्ष करते हैं। पहचान विधियाँ मीडिया में विशिष्ट असामान्य घटनाओं का विश्लेषण करके इन कमियों का लाभ उठाती हैं। इनमें अप्राकृतिक पलक पैटर्न शामिल हैं, यानी बहुत अधिक पलक झपकाना, बहुत कम पलक झपकाना या बिल्कुल भी पलक झपकाना नहीं (अक्सर प्रशिक्षण डेटा में बंद आँखों की छवियों की कमी के कारण), रोबोटिक या असंगत आँखों की गति, और निचला दाँत कभी नहीं दिखाने के लिए विवश होंठ या मुँह का आकार। अन्य संकेत बोलने की अवधि के दौरान नथुनों में सूक्ष्म परिवर्तन की कमी, आसपास के वातावरण से मेल नहीं खाने वाली रोशनी और छाया असंगतताएं और चश्मे या अन्य परावर्तक सतहों पर त्रुटियां या गायब परावर्तन हैं।

• पिक्सेल और संपीड़न विश्लेषण: ये तकनीकें निचले स्तर पर काम करती हैं, छवियों या वीडियो की डिजिटल संरचना की जांच करती हैं। त्रुटि स्तर विश्लेषण(ELA) एक छवि में विभिन्न संपीड़न स्तरों वाले क्षेत्रों की पहचान करने की एक विधि है। चूंकि हेरफेर किए गए क्षेत्रों को अक्सर फिर से सहेजा या फिर से संपीड़ित किया जाता है, इसलिए वे छवि के मूल भाग से अलग त्रुटि स्तर दिखा सकते हैं, जिससे जालसाजी उजागर हो सकती है। इससे निकटता से संबंधित किनारा और मिश्रण विश्लेषण है, जो सिंथेटिक तत्वों (उदाहरण के लिए, विनिमय किए गए चेहरे) और वास्तविक पृष्ठभूमि के बीच सीमाओं और रूपरेखाओं की सावधानीपूर्वक जांच करता है। इन क्षेत्रों को असंगत पिक्सेलाइजेशन, अप्राकृतिक तीक्ष्णता या धुंधलापन और रंग और बनावट में सूक्ष्म अंतर जैसे लक्षणों के माध्यम से हेरफेर को उजागर किया जा सकता है।

• आवृत्ति डोमेन विश्लेषण: ये विधियाँ सीधे पिक्सेल का विश्लेषण करने के बजाय, अप्राकृतिक पैटर्न खोजने के लिए छवियों को उनके आवृत्ति घटकों में बदल देती हैं। चूंकि GAN के जनरेटर में अपसांपलिंग आर्किटेक्चर होता है, इसलिए यह अक्सर विशेषता स्पेक्ट्रम कलाकृतियों को छोड़ देता है, जिससे आवधिक पैटर्न बनते हैं जो वास्तविक छवियों में मौजूद नहीं होते हैं। हालाँकि यह अधिकांश GAN के लिए प्रभावी है, लेकिन यह विधि प्रसार मॉडल के लिए कम सफल दर वाली है, जिससे अधिक प्राकृतिक आवृत्ति प्रोफ़ाइल वाली छवियां उत्पन्न होती हैं। हालांकि, कुछ अध्ययनों से पता चला है कि प्रसार मॉडल अभी भी वास्तविक छवियों की तुलना में उच्च आवृत्ति विवरण में पता लगाने योग्य बेमेल प्रदर्शित कर सकते हैं, जो पहचान के लिए एक संभावित मार्ग प्रदान करता है।

जैविक संकेत विश्लेषण: डीपफेक की “दिल की धड़कन”

डीपफेक पहचान के क्षेत्र में एक नया और अत्यधिक आशाजनक क्षेत्र मीडिया में वास्तविक जैविक संकेतों की उपस्थिति का विश्लेषण करना शामिल है। इसका मूल आधार यह है कि हालांकि पीढ़ी मॉडल दृश्य स्वरूप को दोहराने में तेजी से बेहतर हो रहे हैं, लेकिन वे जीवित लोगों की अंतर्निहित शारीरिक प्रक्रियाओं का अनुकरण नहीं कर सकते हैं।

इस क्षेत्र में प्रमुख तकनीक दूरस्थ फोटोवॉल्यूमग्रामी (rPPG) है। यह तकनीक त्वचा के रंग में छोटे आवधिक परिवर्तनों का पता लगाने के लिए एक मानक कैमरे का उपयोग करती है, जो तब होती है जब हृदय चेहरे की सतही रक्त वाहिकाओं में रक्त पंप करता है। किसी व्यक्ति के वास्तविक वीडियो में, यह एक कमजोर लेकिन लगातार पल्स सिग्नल उत्पन्न करता है। डीपफेक में, यह सिग्नल अक्सर मौजूद नहीं होता है, विकृत होता है या असंगत होता है।

पहचान विधि में कई चरण शामिल हैं:

1. सिग्नल निष्कर्षण: वीडियो में चेहरे पर कई रुचि(Interest) के क्षेत्रों (ROI) से rPPG सिग्नल निकालें।

2. सिग्नल प्रोसेसिंग: मूल सिग्नल से शोर को साफ़ करें, फिर समय और स्पेक्ट्रम डोमेन विशेषताओं का विश्लेषण करने के लिए इसे संसाधित करें (आमतौर पर तेज़ फूरियर ट्रांसफ़ॉर्म (FFT) का उपयोग करके)। FFT सिग्नल की प्रमुख आवृत्ति को प्रकट कर सकता है, जो हृदय गति से मेल खाती है।

3. वर्गीकरण: जालसाजी वीडियो में पाए जाने वाले शोरगुल, असंगत या अनुपस्थित संकेतों से वास्तविक दिल की धड़कन के सुसंगत लयबद्ध पैटर्न को अलग करने के लिए एक क्लासिफायर (उदाहरण के लिए, CNN) को प्रशिक्षित करें।

नियंत्रित प्रयोगात्मक वातावरण में, इस विधि ने बहुत उच्च पहचान सटीकता हासिल की है, कुछ अध्ययनों में 99.22% तक की सटीकता बताई गई है। हालांकि, इस विधि में एक महत्वपूर्ण खामी मौजूद है। अधिक उन्नत डीपफेक तकनीक (विशेष रूप से पुन: अभिनय से संबंधित) स्रोत वीडियो या “ड्राइविंग” वीडियो से शारीरिक संकेतों को विरासत में मिल सकती हैं। इसका मतलब है कि डीपफेक पूरी तरह से सामान्य और सुसंगत rPPG सिग्नल प्रदर्शित कर सकता है। यह केवल स्रोत अभिनेता की दिल की धड़कन होगी, न कि अंतिम वीडियो में चित्रित चरित्र की। इस खोज ने डीपफेक में शारीरिक संकेतों की कमी की सरल धारणा को चुनौती दी और पहचान के लिए सीमा को बढ़ा दिया। भविष्य के तरीकों को न केवल पल्स की उपस्थिति की जांच से आगे जाना चाहिए, बल्कि उस सिग्नल की शारीरिक स्थिरता और पहचान-विशिष्ट विशेषताओं को भी सत्यापित करना चाहिए।

पहचान हथियारों की दौड़: प्रसार मॉडलऔर विरोधी हमलों की चुनौतियां

डीपफेक पहचान क्षेत्र को एक अथक हथियारों की दौड़ द्वारा परिभाषित किया गया है। एक बार एक विश्वसनीय पहचान विधि विकसित हो जाने के बाद, जेनेरेटिव मॉडल लगातार इसे दूर करने के लिए विकसित होते हैं। प्रसार मॉडल का हालिया उदय और विरोधी हमलों का उपयोग आधुनिक डिटेक्टरों के लिए दो सबसे महत्वपूर्ण चुनौतियां हैं।

• सामान्यीकरण विफलता: कई पहचान मॉडलों की एक प्रमुख कमजोरी यह है कि वे सामान्य नहीं हो पाते हैं। एक विशिष्ट पीढ़ी मॉडल (उदाहरण के लिए, StyleGAN2) या एक विशिष्ट डेटासेट पर जालसाजी की पहचान करने के लिए प्रशिक्षित एक डिटेक्टर, नई हेरफेर तकनीकों या विभिन्न डेटा डोमेन का सामना करने पर अक्सर विफल हो जाएगा। प्रसार मॉडल इस समस्या को विशेष रूप से गंभीर बनाते हैं। चूंकि उनके आउटपुट में कम स्पष्ट कलाकृतियां होती हैं, सामग्री अधिक विविध होती है और यह वास्तविक छवियों की सांख्यिकीय विशेषताओं से अधिक मेल खाती है, इसलिए वे GAN के लिए डिज़ाइन किए गए डिटेक्टरों से प्रभावी ढंग से बच सकते हैं। इस समस्या को हल करने के लिए, शोधकर्ता सबसे आधुनिक प्रसार डीपफेक वाले नए और अधिक कठिन बेंचमार्क डेटासेट विकसित कर रहे हैं ताकि अधिक मजबूत और सामान्य डिटेक्टरों के निर्माण को बढ़ावा दिया जा सके।

• विरोधी हमले: यहां तक कि अत्यधिक सटीक डिटेक्टर भी विरोधी हमलों के माध्यम से सीधे विनाश के लिए कमजोर होते हैं। इस स्थिति में, हमलावर डीपफेक छवि के पिक्सेल में छोटे, अगोचर विक्षोभ पैदा करेगा। हालांकि ये परिवर्तन मनुष्यों को दिखाई नहीं देते हैं, लेकिन उन्हें विशेष रूप से डिटेक्टर न्यूरल नेटवर्क में कमजोरियों का फायदा उठाने के लिए डिज़ाइन किया गया है, जिससे यह नकली छवि को वास्तविक छवि के रूप में गलत तरीके से वर्गीकृत करता है। यह खतरा “व्हाइट बॉक्स” सेटिंग्स में मौजूद है (हमलावर डिटेक्टर के आर्किटेक्चर को पूरी तरह से समझता है) और अधिक यथार्थवादी “ब्लैक बॉक्स” सेटिंग्स में (हमलावर केवल डिटेक्टर को क्वेरी कर सकता है और उसके आउटपुट का अवलोकन कर सकता है)।

इसके जवाब में, अनुसंधान समुदाय बढ़ी हुई लचीलापन वाले अगली पीढ़ी के डिटेक्टरों के विकास पर ध्यान केंद्रित कर रहा है। प्रमुख रणनीतियों में शामिल हैं:

• प्रशिक्षण डेटा विविधता: यह साबित हो गया है कि GAN और प्रसार मॉडल से विभिन्न प्रकार के जालसाजी, साथ ही विभिन्न छवि डोमेन शामिल करने के लिए प्रशिक्षण डेटासेट को बढ़ाना, सामान्यीकरण क्षमता में सुधार कर सकता है।

• उन्नत प्रशिक्षण रणनीतियों: विषम डेटासेट पर मॉडल को अधिक प्रभावी ढंग से प्रशिक्षित करने में मदद करने के लिए गति कठिनाई बढ़ाना जैसी नई तकनीकों की खोज की जा रही है, जो गतिशील नमूना कठिनाई के आधार पर नमूनों को भारित करती हैं।

• मजबूत आर्किटेक्चर: नए आर्किटेक्चर डिज़ाइन किए जा रहे हैं जो मूल रूप से हमलों के प्रति अधिक प्रतिरोधी हैं। एक आशाजनक दृष्टिकोण असंबद्ध समूह का उपयोग करना है, जहां कई मॉडलों को छवि के आवृत्ति स्पेक्ट्रम के विभिन्न और गैर-अतिव्यापी उपसमुच्चय पर प्रशिक्षित किया जाता है। यह हमलावरों को ऐसे विक्षोभ खोजने के लिए मजबूर करता है जो एक ही समय