योगी आणि कंगनाचा 'AI' व्हिडिओ व्हायरल

फसवेगिरीचे विश्लेषण: AI-निर्मित व्हिडिओचा पर्दाफाश

उत्तर प्रदेशचे मुख्यमंत्री योगी आदित्यनाथ आणि भाजप खासदार कंगना राणावत यांना आलिंगन देतानाचा एक व्हिडिओ सोशल मीडिया प्लॅटफॉर्मवर वेगाने पसरत आहे. तथापि, बारकाईने तपासणी केल्यास हा व्हिडिओ खरा नसल्याचे उघडकीस येते. हा व्हिडिओ आर्टिफिशियल इंटेलिजेंस (AI) वापरून तयार करण्यात आला आहे, आणि व्हिडिओमधील काही सूक्ष्म तपशील हे स्पष्ट करतात.

डिजिटल फेरफारची लक्षणे: वॉटरमार्क आणि AI चा वापर

व्हिडिओच्या कृत्रिम स्वरूपाचे सर्वात महत्त्वाचे लक्षण म्हणजे त्याच्या खालच्या उजव्या कोपऱ्यात असलेले वॉटरमार्क. हे वॉटरमार्क, “Minimax“ आणि “Hailuo AI,” असे दर्शवतात, जे സാധാരണतः अस्सल, संपादित न केलेल्या फुटेजमध्ये आढळत नाहीत. त्याऐवजी, ते विशिष्ट AI साधनांनी तयार केलेल्या सामग्रीची ओळख दर्शवतात. यामुळे संशय निर्माण होतो आणि व्हिडिओच्या उगमाबद्दल अधिक तपास करण्यास प्रवृत्त करते.

“Minimax” आणि “Hailuo AI” या अज्ञात संस्था नाहीत. त्या, खरं तर, व्हिडिओ निर्मितीमध्ये खास असलेल्या AI प्लॅटफॉर्म आहेत. ही साधने वापरकर्त्यांना मजकूर आणि प्रतिमा वापरून सुरवातीपासून व्हिडिओ तयार करण्यास सक्षम करतात. त्यांच्या वॉटरमार्कची उपस्थिती हे दर्शवते की व्हायरल व्हिडिओ हा कैद केलेला क्षण नसून, तयार केलेली कृत्रिम रचना आहे.

उगमाचा शोध: 2021 च्या भेटीतील दृश्ये

सत्य उलगडण्यासाठी, व्हायरल व्हिडिओमधून काढलेल्या कीफ्रेमचा वापर करून रिव्हर्स इमेज सर्च करण्यात आले. हे तंत्र तपासकर्त्यांना दृश्यात्मक घटकांचा उगम शोधण्याची आणि ते ऑनलाइन इतरत्र कुठे दिसले आहेत हे ओळखण्याची परवानगी देते. या शोधाचे परिणाम थेट 1 ऑक्टोबर 2021 रोजी योगी आदित्यनाथ यांच्या कार्यालयाच्या अधिकृत X (पूर्वीचे ट्विटर) हँडलवरील पोस्टकडे निर्देश करतात.

2021 मधील या पोस्टमध्ये व्हायरल व्हिडिओसारखेच दृश्य घटक होते. तथापि, संदर्भ पूर्णपणे भिन्न होता. पोस्टमध्ये अभिनेत्री कंगना राणावतने मुख्यमंत्री योगी आदित्यनाथ यांची त्यांच्या लखनऊ येथील अधिकृत निवासस्थानी सदिच्छा भेट घेतल्याचे वर्णन केले होते. त्यात कोणत्याही आलिंगनाचा उल्लेख नव्हता आणि सोबतच्या प्रतिमांमध्ये औपचारिक, व्यावसायिक संवाद दर्शविला गेला होता.

भेटीचा संदर्भ: कंगना राणावतचा ‘तेजस’ चित्रपट आणि ब्रँड ॲम्बेसेडर

गुगलवर कीवर्ड सर्च वापरून केलेल्या पुढील तपासात, त्याच कालावधीतील अनेक मीडिया रिपोर्ट्स समोर आले. या रिपोर्ट्सनी राणावत आणि आदित्यनाथ यांच्या भेटीला अतिरिक्त संदर्भ दिला. त्यावेळी राणावत तिच्या ‘तेजस‘ चित्रपटाच्या शूटिंगसाठी उत्तर प्रदेशमध्ये होती.

तिच्या भेटीदरम्यान, तिने मुख्यमंत्री योगी आदित्यनाथ यांची भेट घेतली आणि या भेटीमुळे तिला राज्याच्या ‘वन डिस्ट्रिक्ट-वन प्रॉडक्ट’ कार्यक्रमाची ब्रँड ॲम्बेसेडर म्हणून नियुक्त करण्यात आले. या कार्यक्रमाचा उद्देश उत्तर प्रदेशातील प्रत्येक जिल्ह्यातील स्थानिक उत्पादने आणि हस्तकला यांना प्रोत्साहन देणे हा होता. या कार्यक्रमाच्या मीडिया कव्हरेजमध्ये सातत्याने औपचारिक आणि आदरयुक्त संवाद दर्शविला गेला, ज्यामध्ये व्हायरल व्हिडिओमध्ये दर्शविलेल्या आलिंगनाचा कोणताही उल्लेख नव्हता.

AI-निर्मित सामग्रीची शक्ती आणि धोका: वाढती चिंता

ही घटना डिजिटल युगातील एका वाढत्या चिंतेवर प्रकाश टाकते: AI चा वापर करून खात्रीशीर पण पूर्णपणे बनावट सामग्री तयार करणे किती सोपे आहे. आदित्यनाथ आणि राणावत यांचा व्हिडिओ हे AI साधनांचा वापर कसा केला जाऊ शकतो याचे एक उत्तम उदाहरण आहे, ज्याद्वारे वास्तवात फेरफार करून लोकांना चुकीच्या मार्गावर नेले जाऊ शकते.

“Minimax” आणि “Hailuo AI” मागील तंत्रज्ञान प्रगत आहे. हे प्लॅटफॉर्म वापरकर्त्यांना साधे मजकूर आणि प्रतिमा वापरून व्हिडिओ क्लिप तयार करण्याची परवानगी देतात. याचा अर्थ असा की ज्यांच्याकडे या साधनांचा प्रवेश आहे ते असे व्हिडिओ तयार करू शकतात जे प्रत्यक्षात कधीही घडले नाहीत. याचे परिणाम दूरगामी आहेत, विशेषतः राजकारण, बातम्या आणि लोकांच्या मतांच्या क्षेत्रात.

সমালোচনামূলক मूल्यांकनाचे महत्त्व: डिजिटल युगात सत्य आणि असत्य ओळखणे

या AI-निर्मित व्हिडिओचा प्रसार ऑनलाइन सामग्रीचे সমালোচনামূলক मूल्यांकन करण्याचे महत्त्व अधोरेखित करतो. अशा युगात जिथे माहिती सहज उपलब्ध आहे आणि सहजपणे प्रसारित केली जाते, तिथे आपण जे पाहतो आणि ऐकतो त्याच्या सत्यतेबद्दल प्रश्न विचारणे आणि चिकित्सक दृष्टी विकसित करणे महत्त्वाचे आहे.

अनेक घटक व्यक्तींना ऑनलाइन सामग्रीची विश्वासार्हता तपासण्यात मदत करू शकतात:

• स्रोताची पडताळणी: माहितीचा स्रोत तपासणे अत्यंत महत्त्वाचे आहे. तो प्रतिष्ठित वृत्तसंस्था, सत्यापित खाते किंवा अज्ञात संस्था आहे?
• क्रॉस-रेफरन्सिंग: अनेक स्रोतांकडून माहितीची तुलना केल्याने त्याची अचूकता निश्चित करण्यात मदत होऊ शकते. इतर विश्वसनीय स्रोत तीच माहिती देत आहेत का?
• विसंगती शोधणे: दृश्यात्मक विसंगती, वॉटरमार्क किंवा असामान्य ऑडिओ संकेत हे फेरफार केल्याचे निर्देशक असू शकतात.
• रिव्हर्स इमेज सर्चिंग: गुगलच्या रिव्हर्स इमेज सर्चसारखी साधने वापरल्याने प्रतिमा आणि व्हिडिओचा उगम शोधण्यात मदत होऊ शकते.
• मीडिया साक्षरता शिक्षण: मीडिया साक्षरता शिक्षणाला प्रोत्साहन दिल्याने व्यक्तींना माहितीचे विश्लेषण आणि मूल्यांकन करण्यास सक्षम बनवता येते.

AI फेरफारची नैतिक चिंता: जबाबदारीची मागणी

फेरफार केलेल्या सामग्रीची निर्मिती आणि प्रसार महत्त्वपूर्ण नैतिक प्रश्न उभे करतात. AI तंत्रज्ञान अनेक फायदे देत असले तरी, त्याचा गैरवापर होण्याची शक्यता नाकारता येत नाही. अस्सल दिसणारे व्हिडिओ आणि प्रतिमा तयार करण्याची क्षमता सत्य, विश्वास आणि माहितीपूर्ण निर्णय घेण्याच्या प्रक्रियेसाठी धोकादायक आहे.

AI च्या जबाबदार वापराबाबत चर्चा होणे आवश्यक आहे. यामध्ये खालील गोष्टींचा समावेश आहे:

• नैतिक मार्गदर्शक तत्त्वे विकसित करणे: AI तंत्रज्ञानाच्या विकासासाठी आणि उपयोजनासाठी स्पष्ट नैतिक मार्गदर्शक तत्त्वे स्थापित करणे.
• पारदर्शकतेला प्रोत्साहन देणे: AI च्या वापरात पारदर्शकतेला प्रोत्साहन देणे, जसे की सामग्री AI-निर्मित असल्यास ते उघड करणे.
• खोट्या माहितीचा सामना करणे: AI-निर्मित खोट्या माहितीचा प्रसार रोखण्यासाठी धोरणे विकसित करणे.
• वापरकर्त्यांना सक्षम करणे: वापरकर्त्यांना फेरफार केलेली सामग्री ओळखण्यासाठी आणि तक्रार करण्यासाठी साधने आणि ज्ञान प्रदान करणे.
• कायदेशीर चौकट: AI-निर्मित सामग्रीचा दुर्भावनापूर्ण वापर रोखण्यासाठी कायदेशीर चौकटीचा विचार करणे.

आलिंगनाच्या पलीकडे: AI-चालित फसवणुकीचे व्यापक परिणाम

योगी आदित्यनाथ आणि कंगना राणावत यांच्या बनावट व्हिडिओची घटना AI चा वापर फसवणुकीसाठी कसा केला जाऊ शकतो याची आठवण करून देणारी आहे. ही विशिष्ट घटना तुलनेने किरकोळ वाटू शकते, परंतु ती AI-चालित फेरफाराच्या व्यापक प्रवृत्तीचे प्रतिनिधित्व करते, ज्याचे दूरगामी परिणाम आहेत.

वास्तववादी पण खोटे व्हिडिओ तयार करण्याची क्षमता खालील गोष्टींसाठी वापरली जाऊ शकते:

• राजकीय प्रचाराचा प्रसार: बनावट व्हिडिओंचा वापर राजकीय विरोधकांची प्रतिमा खराब करण्यासाठी किंवा खोट्या कथा पसरवण्यासाठी केला जाऊ शकतो.
• लोकांच्या मतांवर प्रभाव टाकणे: AI-निर्मित सामग्रीचा वापर महत्त्वाच्या मुद्द्यांवर लोकांची मते बदलण्यासाठी केला जाऊ शकतो.
• सामाजिक अशांतता वाढवणे: खोट्या व्हिडिओंचा वापर समाजात राग, भीती आणि फूट पाडण्यासाठी केला जाऊ शकतो.
• संस्थांवरील विश्वास कमी करणे: फेरफार केलेल्या सामग्रीच्या प्रसारामुळे मीडिया, सरकार आणि इतर संस्थांवरील लोकांचा विश्वास कमी होऊ शकतो.
• आर्थिक फसवणुकीला प्रोत्साहन: AI-निर्मित व्हिडिओंचा वापर व्यक्तींची नक्कल करण्यासाठी आणि आर्थिक फसवणूक करण्यासाठी केला जाऊ शकतो.

बहुआयामी दृष्टिकोनाची गरज: AI फेरफारच्या आव्हानाला सामोरे जाणे

AI फेरफारच्या आव्हानाला सामोरे जाण्यासाठी व्यक्ती, तंत्रज्ञान कंपन्या, सरकार आणि शैक्षणिक संस्था यांचा समावेश असलेल्या बहुआयामी दृष्टिकोनाची आवश्यकता आहे.

व्यक्तींनी चिकित्सक विचार कौशल्ये विकसित करणे आणि ते ऑनलाइन वापरत असलेल्या सामग्रीबद्दल सावधगिरी बाळगणे आवश्यक आहे.

तंत्रज्ञान कंपन्यांची जबाबदारी आहे की त्यांनी AI-निर्मित खोटी माहिती शोधण्यासाठी आणि त्याचा प्रसार रोखण्यासाठी उपाय विकसित करावे आणि लागू करावे. यामध्ये AI शोध तंत्रज्ञानामध्ये गुंतवणूक करणे, सामग्री नियंत्रण धोरणे सुधारणे आणि AI च्या वापरात पारदर्शकतेला प्रोत्साहन देणे समाविष्ट आहे.

सरकारने AI-निर्मित सामग्रीचा दुर्भावनापूर्ण वापर रोखण्यासाठी योग्य नियम विचारात घेणे आवश्यक आहे, त्याचबरोबर भाषण स्वातंत्र्य आणि नवकल्पना यांचे संरक्षण करणे आवश्यक आहे. यामध्ये विद्यमान कायद्यांमध्ये सुधारणा करणे किंवा AI-संबंधित हानींना विशेषतः संबोधित करण्यासाठी नवीन कायदे तयार करणे समाविष्ट असू शकते.

शैक्षणिक संस्था मीडिया साक्षरता आणि चिकित्सक विचार कौशल्यांना प्रोत्साहन देण्यात महत्त्वपूर्ण भूमिका बजावतात. यामध्ये प्राथमिक शाळांपासून उच्च शिक्षणापर्यंत सर्व स्तरांवर अभ्यासक्रमांमध्ये मीडिया साक्षरता शिक्षणाचा समावेश करणे आवश्यक आहे.

कृतीची हाक: AI च्या युगात सत्याचे रक्षण

AI-निर्मित सामग्रीचा उदय सत्य आणि असत्य यातील फरक ओळखण्याच्या आपल्या क्षमतेसमोर एक मोठे आव्हान उभे करतो. हे असे आव्हान आहे ज्याला सामोरे जाण्यासाठी सामूहिक प्रयत्नांची आवश्यकता आहे. चिकित्सक विचार, जबाबदार AI विकास आणि माहितीपूर्ण धोरण-निर्मितीला प्रोत्साहन देऊन, आपण सत्याचे रक्षण करण्यासाठी आणि AI तंत्रज्ञानाचा वापर फसवणुकीसाठी नव्हे तर चांगल्यासाठी केला जाईल याची खात्री करण्यासाठी कार्य करू शकतो. बनावट व्हिडिओची घटना एक इशारा आहे, जी आपल्याला कृती करण्यास आणि डिजिटल युगात माहितीची अखंडता जपण्यास प्रवृत्त करते. माहितीपूर्ण निर्णय घेण्याचे भविष्य, लोकांचा विश्वास आणि लोकशाही चर्चा या विकसित होत असलेल्या परिस्थितीत यशस्वीपणे मार्गक्रमण करण्याच्या आपल्या क्षमतेवर अवलंबून आहे.