भारतासोबतच्या अल्पकालीन संघर्षादरम्यान, चुकीच्या माहितीचा प्रसार झपाट्याने वाढला, ज्यामुळे सोशल मीडिया वापरकर्त्यांनी पडताळणीसाठी AI चॅटबॉट्सवर अवलंबून राहण्यास सुरुवात केली. तथापि, या चॅटबॉट्सनी अधिक खोटी माहिती पुरवली, ज्यामुळे तथ्य तपासणी साधने म्हणून त्यांची अविश्वसनीयता दिसून आली. मोठ्या तंत्रज्ञान प्लॅटफॉर्मनी मानवी तथ्य तपासणी करणाऱ्यांची संख्या कमी केल्यामुळे, वापरकर्ते आता माहितीसाठी AI-आधारित चॅटबॉट्स, जसे की xAI चे Grok, OpenAI चे ChatGPT आणि Google चे Gemini, यांवर अधिकाधिक अवलंबून आहेत.
AI चॅटबॉट्सद्वारे तथ्य तपासणीचा उदय
Elon Musk यांच्या X प्लॅटफॉर्मवर (पूर्वीचे Twitter), “@Grok, हे खरे आहे का?” हा प्रश्न विचारण्याची पद्धत सामान्य झाली आहे. Grok हे X प्लॅटफॉर्मवर तयार केलेले AI सहाय्यक आहे, जे सोशल मीडियावर त्वरित निराकरण शोधण्याच्या वापरकर्त्यांच्या प्रवृत्तीला दर्शवते. तथापि, या AI चॅटबॉट्सची उत्तरे अनेकदा चुकीच्या माहितीने भरलेली असतात.
Grok कडे अलीकडेच जास्त लक्ष देण्यात आले कारण त्याने अत्यंत उजव्या विचारसरणीचा कट सिद्धांत “White Race Extinction (गोऱ्या लोकांचे उच्चाटन)” असंबंधित प्रश्नांमध्ये घातला. Grok ने सुदानच्या खार्तूम विमानतळावरील जुन्या व्हिडिओ क्लिपला भारत-पाकिस्तान संघर्षादरम्यान पाकिस्तानच्या नूर खान एअर फोर्स बेसवर क्षेपणास्त्रांनी हल्ला केल्याचे चुकीचे ओळखले. याव्यतिरिक्त, नेपाळमधील आगीत जळणारी इमारत “शक्‍यतो” पाकिस्तानने भारतावरील हल्ल्याला दिलेला लष्करी प्रतिसाद असल्याचे चुकीचे दर्शवण्यात आले.
AI तथ्य तपासणीची मर्यादा
NewsGuard चे संशोधक McKenzie Sadeghi यांनी AFP ला सांगितले: "X आणि इतर मोठ्या तंत्रज्ञान कंपन्यांनी मानवी तथ्य तपासणी करणाऱ्यांमधील गुंतवणूक कमी केल्यामुळे, लोक तथ्य तपासणीसाठी Grok वर अधिकाधिक अवलंबून आहेत." त्या पुढे म्हणाल्या, "आमच्या संशोधनातून वारंवार असे दिसून आले आहे की, AI चॅटबॉट्स हे बातम्या आणि माहितीचे विश्वसनीय स्रोत नाहीत, विशेषत: ताज्या बातम्यांच्या बाबतीत.”
NewsGuard च्या संशोधनात असे आढळून आले की Grok सह 10 आघाडीच्या चॅटबॉट्सनी रशियन Propaganda (खोट्या बातम्या) कथा आणि ऑस्ट्रेलियातील निवडणुकीशी संबंधित खोट्या किंवा दिशाभूल करणाऱ्या दाव्यांसह खोटी माहिती सहजपणे पुन्हा सांगितली. कोलंबिया युनिव्हर्सिटीच्या Tow Center फॉर डिजिटल जर्नालिझमने अलीकडेच केलेल्या अभ्यासात आठ AI शोध साधनांचे विश्लेषण केले. त्यामध्ये असे आढळून आले की चॅटबॉट्स "सामान्यतः ज्या प्रश्नांची उत्तरे ते अचूकपणे देऊ शकत नाहीत, त्यांना नकार देत नाहीत, त्याऐवजी चुकीची किंवा काल्पनिक उत्तरे देतात.”
AFP च्या उरुग्वे येथील तथ्य तपासणी करणाऱ्यांनी Gemini ला AI द्वारे तयार केलेल्या एका महिलेच्या प्रतिमेबद्दल विचारले. Gemini ने केवळ त्या प्रतिमेची सत्यता प्रमाणित केली नाही, तर त्या महिलेच्या ओळखीबद्दल आणि प्रतिमा कोठे काढली गेली असेल याबद्दल काल्पनिक तपशील देखील सांगितले.
Grok ने अलीकडेच ॲमेझॉन नदीत पोहणाऱ्या एका मोठ्या अजगराचा व्हिडिओ "खरा" असल्याचे सांगितले आणि त्याच्या खोट्या दाव्याला समर्थन देण्यासाठी विश्वासार्ह वाटणाऱ्या वैज्ञानिक मोहिमेचा हवाला दिला. वास्तविक, तो व्हिडिओ AI ने तयार केला होता. लॅटिन अमेरिकेतील AFP च्या तथ्य तपासणी करणाऱ्यांनी सांगितले की अनेक वापरकर्त्यांनी Grok च्या मूल्यांकनाचा पुरावा म्हणून हवाला दिला.
AI तथ्य तपासणीबद्दल चिंता
या निष्कर्षांमुळे चिंता वाढली आहे, कारण सर्वेक्षणातून असे दिसून आले आहे की अधिकाधिक ऑनलाइन वापरकर्ते माहिती गोळा करण्यासाठी आणिपडताळणी करण्यासाठी पारंपरिक सर्च इंजिनऐवजी AI चॅटबॉट्सकडे वळत आहेत. दरम्यान, Meta ने या वर्षाच्या सुरुवातीला अमेरिकेतील तृतीय-पक्ष तथ्य तपासणी कार्यक्रम बंद करण्याची घोषणा केली आणि X प्लॅटफॉर्मने प्रसिद्ध केलेल्या "Community Notes" मॉडेलचा वापर करून हे काम सामान्य वापरकर्त्यांकडे सोपवले. तथापि, संशोधकांनी वारंवार Community Notes खोट्या माहितीचा मुकाबला करण्यात किती प्रभावी आहेत यावर प्रश्नचिन्ह उपस्थित केले आहेत.
मानवी तथ्य तपासणी नेहमीच ध्रुवीकरण झालेल्या राजकीय वातावरणातील एक कळीचा मुद्दा ठरला आहे, विशेषत: अमेरिकेत, जिथे консервативн लोक असा युक्तिवाद करतात की ते अभिव्यक्ती स्वातंत्र्यावर नियंत्रण ठेवतात आणि उजव्या विचारसरणीच्या Content सेन्सॉर करतात, परंतु व्यावसायिक तथ्य तपासणी करणारे या युक्तिवादाचा जोरदार विरोध करतात.
AFP सध्या आशिया, लॅटिन अमेरिका आणि EU सह 26 भाषांमध्ये Facebook च्या तथ्य तपासणी कार्यक्रमासोबत काम करते.
AI चॅटबॉट्सची गुणवत्ता आणि अचूकता त्यांच्या प्रशिक्षणावर आणि प्रोग्रामिंगवर अवलंबून असते, ज्यामुळे त्यांची निष्पत्ती राजकीयदृष्ट्या प्रभावित किंवा नियंत्रित होण्याची शक्यता आहे.
Elon Musk च्या xAI ने अलीकडेच Grok ने दक्षिण आफ्रिकेतील "White Race Extinction (गोऱ्या लोकांचे उच्चाटन)” चा उल्लेख करणाऱ्या अनपेक्षित पोस्ट्स तयार करण्याचे कारण "अनधिकृत बदल" असल्याचे सांगितले. जेव्हा AI तज्ञ David Caswell यांनी Grok ला विचारले की कोणी त्याच्या सिस्टम सूचनांमध्ये बदल केला असेल, तेव्हा चॅटबॉटने Elon Musk यांचे नाव "सर्वात शक्य" गुन्हेगार म्हणून घेतले.
Elon Musk यांचा जन्म दक्षिण आफ्रिकेत झाला आहे आणि ते अमेरिकेचे माजी अध्यक्ष Donald Trump यांचे समर्थक आहेत. त्यांनी यापूर्वी निराधार दावे केले आहेत की दक्षिण आफ्रिकेचे नेते "गोऱ्या लोकांचे उच्चाटन करण्यासाठी उघडपणे प्रोत्साहन देत आहेत.”
आंतरराष्ट्रीय तथ्य तपासणी नेटवर्कच्या संचालिका Angie Holan यांनी AFP ला सांगितले: "आम्ही पाहिले आहे की AI सहाय्यक मानवी कोडिंग तज्ञांनी त्यांच्या सूचनांमध्ये बदल केल्यानंतर खोटे निष्कर्ष काढू शकतात किंवा पक्षपाती उत्तरे देऊ शकतात.” "विशेषतः Grok अत्यंत संवेदनशील प्रकरणांवरील विनंत्या कशा हाताळतो याबद्दल मला चिंता आहे.”
माहिती क्षेत्रात AI चॅटबॉट्सचे धोके
AI चॅटबॉट्सचा माहिती देण्यासाठी वाढता वापर अनेक गंभीर चिंतांना जन्म देतो, ज्यात त्यांच्या संभाव्य दिशाभूल आणि Manipulative (फसवणूक) प्रभावांचा समावेश आहे. जरी या तंत्रज्ञानामध्ये माहितीमध्ये त्वरित प्रवेश करणे आणि संशोधनाला सुलभ करणे हे फायदे असले तरी, त्यांच्यात असलेल्या मर्यादा आणि त्रुटींमुळे नकळतपणे किंवा हेतुपुरस्सरपणे चुकीची माहिती किंवा Propaganda (खोट्या बातम्या) पसरण्याची शक्यता आहे.
AI चॅटबॉट्सच्या अंगभूत मर्यादा
AI चॅटबॉट्स मोठ्या प्रमाणात मजकूर डेटाचे विश्लेषण करून शिकतात, परंतु त्यांच्यात मानवी महत्वपूर्ण विचार करण्याची क्षमता नसते. याचा अर्थ ते डेटातील नमुने शोधू शकतात आणि योग्य वाटणारी उत्तरे तयार करू शकतात, परंतु त्यामागील अर्थ किंवा संदर्भ त्यांना समजत नाही. ज्ञानाच्या या कमतरतेमुळे चुकीची, अपूर्ण किंवा दिशाभूल करणारी माहिती तयार होऊ शकते.
याव्यतिरिक्त, AI चॅटबॉट्सच्या प्रशिक्षण डेटा मध्ये त्रुटी असू शकतात, ज्या तयार झालेल्या उत्तरांमध्ये दिसून येतात. उदाहरणार्थ, जर प्रशिक्षण डेटा प्रामुख्याने विशिष्ट स्त्रोतावरून किंवा दृष्टिकोनातून आला असेल, तर चॅटबॉट त्या स्त्रोताला किंवा दृष्टिकोनाला प्राधान्य देऊ शकतो, ज्यामुळे पक्षपाती माहितीचा प्रसार होतो.
AI चॅटबॉट्समुळे होणारे धोके
AI चॅटबॉट्सवर माहितीसाठी अवलंबून राहणाऱ्या लोकांची संख्या वाढत असल्यामुळे, चुकीच्या माहितीचा प्रसार होण्याचा धोकाही वाढतो. जर चॅटबॉट चुकीची किंवा दिशाभूल करणारी माहिती तयार करत असेल, तर वापरकर्ते नकळतपणे ती स्वीकारू शकतात आणि पसरवू शकतात, ज्यामुळे चुकीच्या समजुती वाढू शकतात.
याव्यतिरिक्त, AI चॅटबॉट्सचा उपयोग वाईट हेतूसाठी केला जाऊ शकतो, जसे की Propaganda (खोट्या बातम्या) पसरवणे किंवा लोकांच्या मतांवर प्रभाव टाकणे. प्रशिक्षण डेटा काळजीपूर्वक तयार करून किंवा अल्गोरिदममध्ये बदल करून, वाईट हेतू असणारे लोक चॅटबॉटला विशिष्ट प्रकारची उत्तरे तयार करण्यास भाग पाडू शकतात, ज्यामुळे वापरकर्त्यांच्या श्रद्धा आणि वर्तनावर परिणाम होतो.
धोके कसे कमी करावे
AI चॅटबॉट्सशी संबंधित धोके कमी करण्यासाठी काही उपाययोजना करणे आवश्यक आहे. सर्वप्रथम, AI चॅटबॉट्सचा प्रशिक्षण डेटा शक्य तितका सर्वसमावेशक आणि त्रुटीरहित असावा यासाठी विकासकांनी प्रयत्न केले पाहिजेत. त्रुटींचा प्रभाव कमी करण्यासाठी विविध स्त्रोतांकडून आणि दृष्टिकोनातून डेटा नमुन्यांचा समावेश करणे आवश्यक आहे. दुसरे म्हणजे, AI चॅटबॉट्सची अचूकता तपासण्यासाठी कठोर चाचणी आणि मूल्यांकन करणे आवश्यक आहे. यासाठी मानवी पडताळणी आणि विविध Metric (मापदंड) वापरून त्यांच्या उत्तरांचे मूल्यांकन करणे आवश्यक आहे. तिसरे म्हणजे, वापरकर्त्यांनी महत्वपूर्ण विचारसरणीचा अवलंब केला पाहिजे आणि AI चॅटबॉट्सनी दिलेल्या माहितीवर आंधळेपणाने विश्वास ठेवू नये. वापरकर्त्यांनी नेहमी विविध स्त्रोतांकडून माहितीची तुलना करावी आणि चॅटबॉट्समध्ये त्रुटी असण्याची शक्यता लक्षात घ्यावी.
तांत्रिक प्लॅटफॉर्म आणि समुदायाची भूमिका
AI चॅटबॉट्सद्वारे तयार केलेल्या Content चे नियमन आणि पर्यवेक्षण करण्यात तांत्रिक प्लॅटफॉर्म आणि समुदाय महत्त्वपूर्ण भूमिका बजावतात. प्लॅटफॉर्म चुकीची माहिती किंवा Propaganda (खोट्या बातम्या) ओळखण्यासाठी आणि काढण्यासाठी धोरणे अंमलात आणू शकतात आणि चॅटबॉट्सद्वारे तयार केलेल्या उत्तरांची अचूकता सत्यापित करण्यासाठी तथ्य तपासणी संस्थांसोबत भागीदारी करू शकतात. याव्यतिरिक्त, समुदाय AI चॅटबॉट्सच्या मर्यादा आणि दोषांबद्दल चर्चा करून जनजागृती वाढविण्यात मदत करू शकतात आणि वापरकर्त्यांना महत्वपूर्ण विचारसरणीचा अवलंब करण्यास प्रोत्साहित करू शकतात.
निष्कर्ष
AI चॅटबॉट्स हे उपयुक्त साधन आहे, परंतु त्यांच्यात काही मर्यादा आणि धोके आहेत. या तंत्रज्ञानाचा जबाबदारीने वापर सुनिश्चित करण्यासाठी आणि चुकीच्या माहितीचा प्रसार कमी करण्यासाठी विकासक, नियामक आणि वापरकर्ते या सर्वांनी दक्षता बाळगणे आवश्यक आहे. आवश्यक उपाययोजना करून, आपण AI चॅटबॉट्सचे फायदे जास्तीत जास्त वाढवू शकतो आणि त्यांचे संभाव्य धोके कमी करू शकतो.