Google ने अलीकडेच 13 वर्षांखालील मुलांसाठी त्याचे Gemini कृत्रिम बुद्धिमत्ता (AI) चॅटबॉट सादर करण्याची घोषणा केली आहे. या निर्णयामुळे ऑनलाइन सुरक्षा आणि डिजिटल युगात मुलांच्या संरक्षणाबद्दल महत्त्वपूर्ण वाद आणि प्रश्न निर्माण झाले आहेत. हे ॲप सुरुवातीला युनायटेड स्टेट्स आणि कॅनडामध्ये आणि नंतर ऑस्ट्रेलियामध्ये लाँच केले जाईल. Google च्या Family Link खात्यांद्वारे चॅटबॉट उपलब्ध करून दिला जाईल. या दृष्टिकोन पालकांना काही प्रमाणात नियंत्रण ठेवण्याची परवानगी देतो. त्याच वेळी, तंत्रज्ञानाच्या सतत बदलत्या युगात मुलांचे संरक्षण करण्याचे आव्हान कायम आहे.
लहान मुलांना AI चॅटबॉट सादर करण्याच्या निर्णयामुळे अनेक संधी आणि धोके निर्माण होतात. एकीकडे, ही साधने शैक्षणिक मदत, सर्जनशीलतेला प्रोत्साहन आणि आकर्षक शिक्षण अनुभव देऊ शकतात. तर दुसरीकडे, অনুপযুক্ত सामग्रीच्या संपर्कात येणे, फसवणूक होण्याची शक्यता आणि गंभीर विचार कौशल्ये विकसित करण्याच्या दृष्टीने धोके आहेत.
Gemini AI चॅटबॉट कसे कार्य करते
Google चे Family Link खाते पालकांना त्यांच्या मुलांच्या ऑनलाइन क्रियाकलापांवर लक्ष ठेवण्यासाठी तयार केले आहे. पालक YouTube सारख्या विशिष्ट सामग्री आणि ॲप्लिकेशन्सवर प्रवेश व्यवस्थापित करू शकतात. तसेच मर्यादा सेट करू शकतात आणि वापरावर लक्ष ठेवू शकतात. मुलाचे खाते तयार करण्यासाठी, पालकांनी मुलाचे नाव आणि जन्मतारीख यासारखी वैयक्तिक माहिती देणे आवश्यक आहे. हा डेटा संग्रह गोपनीयतेच्या दृष्टीने समस्या निर्माण करू शकतो. परंतु GoogleAssured करतो की मुलांचा डेटा AI प्रणाली प्रशिक्षणासाठी वापरला जाणार नाही.
डीफॉल्टनुसार, चॅटबॉट ॲक्सेस सक्षम केला जाईल. त्यामुळे पालकांनी त्यांच्या मुलाचा ॲक्सेस प्रतिबंधित करण्यासाठी हे फीचर अक्षम करणे आवश्यक आहे. त्यानंतर मुले टेक्स्ट रिस्पॉन्स तयार करण्यासाठी किंवा प्रतिमा तयार करण्यासाठी चॅटबॉट वापरू शकतात. तथापि, Google त्रुटी आणि चुका होण्याची शक्यता स्वीकारतो. त्यामुळे तयार केलेल्या सामग्रीचे काळजीपूर्वक मूल्यांकन करण्याची आवश्यकता आहे. AI "hallucination" (एखाद्या गोष्टीचा चुकीचा अर्थ लावणे) मुळे चॅटबॉट चुकीची माहिती देऊ शकतो. त्यामुळे मुलांनी विशेषतः होमवर्कसाठी या टूलचा वापर करताना विश्वसनीय स्त्रोतांकडून तथ्ये तपासणे आवश्यक आहे.
पुरवलेल्या माहितीचे स्वरूप
Google सारखी पारंपरिक सर्च इंजिन वापरकर्त्यांना पाहण्यासाठी आणि विश्लेषण करण्यासाठी असलेल्या सामग्रीमध्ये प्रवेश देतात. विद्यार्थी असाइनमेंटसाठी माहिती गोळा करण्यासाठी बातम्यांचे लेख, शैक्षणिक जर्नल्स आणि इतर स्त्रोतांमध्ये प्रवेश करू शकतात. जनरेटिव्ह AI टूल्स मात्र वेगळ्या पद्धतीने कार्य करतात. ते वापरकर्त्याच्या मागणीनुसार नवीन टेक्स्ट रिस्पॉन्स किंवा प्रतिमा तयार करण्यासाठी स्त्रोत सामग्रीमधील पॅटर्नचे विश्लेषण करतात. उदाहरणार्थ, जर एखाद्या मुलाने सिस्टमला "मांजर काढा" असे सांगितले, तर AI डेटा स्कॅन करेल आणि वैशिष्ट्ये (जसे की, मिशा, टोकदार कान, लांब शेपटी) ओळखून ती वैशिष्ट्ये समाविष्ट करून एक प्रतिमा तयार करेल.
Google सर्चद्वारे मिळवलेली माहिती आणि AI टूलद्वारे तयार केलेली सामग्री यांच्यातील फरक लहान मुलांना समजणे कठीण होऊ शकते. अभ्यासातून असे दिसून आले आहे की प्रौढ लोक देखील AI-व्युत्पन्न सामग्रीद्वारे फसवले जाऊ शकतात. वकील, ChatGPT आणि इतर चॅटबॉटद्वारे तयार केलेली खोटी सामग्री वापरण्यात फसवले गेले आहेत. त्यामुळे AI-व्युत्पन्न सामग्रीचे स्वरूप आणि गंभीर मूल्यांकनाची गरज याबद्दल मुलांना शिक्षित करणे महत्त्वाचे आहे.
वयानुसार योग्य असल्याची खात्री करणे
Google चा दावा आहे की Gemini मध्ये "अनुपयुक्त किंवा असुरक्षित सामग्री तयार करण्यापासून रोखण्यासाठी ‘अंतर्निहित सुरक्षा उपाय’ (built-in safeguards) असतील.” हे सुरक्षा उपाय मुलांचे हानिकारक सामग्रीपासून संरक्षण करण्याचे उद्दिष्ट ठेवतात.
परंतु, या उपायांमुळे नकळतपणे नवीन समस्या निर्माण होऊ शकतात. उदाहरणार्थ, विशिष्ट शब्द (उदा. "ब्रेस्ट") प्रतिबंधित केल्याने অনুপযুক্ত लैंगिक सामग्रीवर प्रवेश प्रतिबंधित होऊ शकतो. तसेच तारुण्यदरम्यान शारीरिक बदलांविषयी वयानुसार योग्य माहिती मिळवण्यापासून मुले वंचित राहू शकतात. त्यामुळे मुलांचे संरक्षण करणे आणि त्यांना अचूक आणि संबंधित माहिती प्रदान करणे यांमध्ये नाजूक संतुलन राखणे आवश्यक आहे.
आजकालची मुले खूप टेक्नोसॅव्ही आहेत आणि ॲप्स वापरण्यात आणि सिस्टम नियंत्रणे टाळण्यात तरबेज आहेत. त्यामुळे पालकांनी केवळ ‘अंतर्निहित सुरक्षा उपायां’वर अवलंबून राहू नये. त्यांनी तयार केलेल्या सामग्रीचे सक्रियपणे पुनरावलोकन केले पाहिजे. तसेच सिस्टम कसे कार्य करते हे समजून घेण्यास मुलांना मदत केली पाहिजे आणि पुरवलेल्या माहितीची अचूकता आणि योग्यता तपासली पाहिजे.
मुलांसाठी AI चॅटबॉट्सचे संभाव्य धोके
eSafety Commission ने AI चॅटबॉट्सच्या संभाव्य धोक्यांविषयी एक ऑनलाइन सुरक्षा सल्लागार जारी केला आहे. विशेषत: जे वैयक्तिक संबंधांचे अनुकरण करण्यासाठी डिझाइन केलेले आहेत, ते लहान मुलांसाठी अधिक धोकादायक आहेत. सल्लागारामध्ये म्हटले आहे की AI सोबती "हानिकारक सामग्री सामायिक करू शकतात, वास्तविकतेचे विकृत रूप दर्शवू शकतात आणि धोकादायक सल्ला देऊ शकतात." लहान मुले, ज्यांची गंभीर विचार करण्याची आणि जीवन कौशल्ये विकसित होत आहेत, ते संगणक प्रोग्रामद्वारे फसवले जाण्याची किंवा त्यांच्यावर प्रभाव पाडला जाण्याची शक्यता असते.
संशोधनात असे दिसून आले आहे की ChatGPT, Replika आणि Tessa सारखे AI चॅटबॉट्स सामाजिक नियम आणि करारांचे पालन करून मानवी संवादांचे अनुकरण करतात. ही प्रणाली सामाजिक वर्तनावर नियंत्रण ठेवणारे अलिखित नियम वापरून आपला विश्वास संपादन करण्यासाठी डिझाइन केलेली आहे.
हे मानवी-सारखे संवाद लहान मुलांसाठी गोंधळात टाकणारे आणि संभाव्य धोकादायक ठरू शकतात. ते चॅटबॉटला एक वास्तविक व्यक्ती मानू शकतात आणि ती पुरवत असलेल्या सामग्रीवर विश्वास ठेवू शकतात, जरी ती चुकीची किंवा बनावट असली तरीही. यामुळे गंभीर विचार कौशल्ये विकसित होण्यास बाधा येऊ शकते आणि मुले सहजपणे फसवले जाऊ शकतात.
मुलांचे धोक्यांपासून संरक्षण
Gemini च्या AI चॅटबॉटची सुरुवात ऑस्ट्रेलियामध्ये 16 वर्षांखालील मुलांसाठी सोशल मीडिया खात्यांवर बंदी घालण्याच्या वेळेस होत आहे, जी यावर्षी डिसेंबरमध्ये होणार आहे. या बंदीचा उद्देश मुलांना ऑनलाइन धोक्यांपासून वाचवणे आहे. जनरेटिव्ह AI चॅटबॉट्स हे दर्शवतात की ऑनलाइन सहभागाचे धोके सोशल मीडियाच्या पलीकडेही आहेत. त्यामुळे मुले आणि पालक दोघांनाही सर्व प्रकारच्या डिजिटल साधनांचा योग्य आणि सुरक्षित वापर करण्याबद्दल शिक्षित केले पाहिजे.
Gemini च्या AI चॅटबॉटला सोशल मीडिया साधन म्हणून वर्गीकृत केले जात नाही. त्यामुळे ऑस्ट्रेलियातील बंदी यावर लागू होणार नाही. याचा अर्थ असा आहे की ऑस्ट्रेलियन पालकांना नवीन तंत्रज्ञान आणि त्यांच्या मुलांसमोरील संभाव्य धोक्यांबद्दल जागरूक राहण्याचे आव्हान कायम राहील. तसेच मुलांना धोक्यांपासून वाचवण्यासाठी सोशल मीडिया बंदीच्या मर्यादा ओळखणे आवश्यक आहे.
या परिस्थितीमुळे ऑस्ट्रेलियाच्या प्रस्तावित डिजिटल ड्युटी ऑफ केअर कायद्यावर पुनर्विचार करण्याची तातडीची गरज आहे. युरोपियन युनियन आणि युनायटेड किंगडमने 2023 मध्ये डिजिटल ड्युटी ऑफ केअर कायदा लागू केला, तर ऑस्ट्रेलियाची आवृत्ती नोव्हेंबर 2024 पासून प्रलंबित आहे. हा कायदा तंत्रज्ञान कंपन्यांना हानिकारक सामग्री त्यांच्या मूळ स्त्रोतावर रोखण्यासाठी जबाबदार धरेल, ज्यामुळे सर्व वापरकर्त्यांचे संरक्षण होईल.
लहान मुलांना AI चॅटबॉट सादर करणे हे एक गुंतागुंतीचे आव्हान आहे, ज्यासाठी बहुआयामी दृष्टिकोन आवश्यक आहे. पालक, शिक्षक, धोरणकर्ते आणि तंत्रज्ञान कंपन्यांनी एकत्रितपणे काम केले पाहिजे. जेणेकरून मुलांना या साधनांद्वारे मिळणाऱ्या संधींचा फायदा घेता येईल आणि ते सुरक्षित राहतील. यामध्ये मुलांना AI च्या स्वरूपाबद्दल शिक्षित करणे, गंभीर विचार कौशल्यांना प्रोत्साहन देणे आणि অনুপযুক্ত सामग्रीच्या संपर्कात येण्यापासून रोखण्यासाठी मजबूत सुरक्षा उपायांची अंमलबजावणी करणे आवश्यक आहे.