گوگل کا جیمنی اے آئی: کم عمر بچوں کے خطرات

گوگل کی جانب سے حال ہی میں یہ اعلان کیا گیا ہے کہ وہ اپنے جیمنی (Gemini) مصنوعی ذہانت (AI) چیٹ بوٹ کو 13 سال سے کم عمر بچوں کے لیے متعارف کروا رہے ہیں۔ اس اعلان نے کافی بحث و مباحثے کو جنم دیا ہے اور ڈیجیٹل دور میں آن لائن حفاظت اور بچوں کے تحفظ کے حوالے سے اہم سوالات اٹھائے ہیں۔ یہ اقدام، جس کا آغاز ابتدائی طور پر ریاستہائے متحدہ امریکہ (United States) اور کینیڈا (Canada) میں ہوگا اور بعد ازاں آسٹریلیا (Australia) میں بھی اس چیٹ بوٹ تک رسائی فراہم کی جائے گی، گوگل کے فیملی لنک (Family Link) اکاؤنٹس کے ذریعے ممکن ہوگی۔ اگرچہ یہ طریقہ کار والدین کو کسی حد تک کنٹرول فراہم کرتا ہے، لیکن یہ ایک ارتقائی تکنیکی منظر نامے میں بچوں کے تحفظ کے حوالے سے جاری چیلنج کو بھی اجاگر کرتا ہے۔

نوجوان بچوں کے لیے اے آئی چیٹ بوٹس متعارف کرانے کے فیصلے میں مواقع اور خطرات دونوں موجود ہیں۔ ایک طرف، یہ ٹولز تعلیمی معاونت فراہم کر سکتے ہیں، تخلیقی صلاحیتوں کو فروغ دے سکتے ہیں اور سیکھنے کے دل چسپ تجربات مہیا کر سکتے ہیں۔ دوسری طرف، یہ نامناسب مواد کے سامنے آنے، ہیرا پھیری کے امکان اور تنقیدی سوچ کی مہارتوں کی نشوونما کے حوالے سے خدشات کو جنم دیتے ہیں۔

جیمنی اے آئی چیٹ بوٹ کیسے کام کرتا ہے؟

گوگل کے فیملی لنک اکاؤنٹس والدین کو اپنے بچوں کی آن لائن سرگرمیوں کی نگرانی کرنے کے لیے بنائے گئے ہیں۔ والدین یوٹیوب (YouTube) جیسے مخصوص مواد اور ایپلی کیشنز تک رسائی کا انتظام کر سکتے ہیں، حدود مقرر کر سکتے ہیں اور استعمال کی نگرانی کر سکتے ہیں۔ بچے کا اکاؤنٹ بنانے کے لیے، والدین کو ذاتی معلومات فراہم کرنا ہوں گی، بشمول بچے کا نام اور تاریخ پیدائش۔ اگرچہ یہ ڈیٹا اکٹھا کرنا رازداری کے خدشات کو جنم دے سکتا ہے، لیکن گوگل اس بات کی یقین دہانی کراتا ہے کہ بچوں کا ڈیٹا اے آئی سسٹم کی تربیت کے لیے استعمال نہیں کیا جائے گا۔

بطور ڈیفالٹ (Default)، چیٹ بوٹ تک رسائی فعال ہوگی، جس کے لیے والدین کو اپنے بچے کی رسائی کو محدود کرنے کے لیے اس فیچر کو غیر فعال کرنا ہوگا۔ اس کے بعد بچے متنی جوابات تیار کرنے یا تصاویر بنانے کے لیے چیٹ بوٹ استعمال کر سکتے ہیں۔ تاہم، گوگل غلطیوں اور غلطیوں کے امکان کو تسلیم کرتا ہے، اور تیار کردہ مواد کی احتیاط سے جانچ پڑتال کی ضرورت پر زور دیتا ہے۔ اے آئی کی "ہیلوسینیشن" (Hallucination) کا رجحان، جہاں چیٹ بوٹس من گھڑت معلومات فراہم کرتے ہیں، اس بات کا تقاضا کرتا ہے کہ بچے قابل اعتماد ذرائع سے حقائق کی تصدیق کریں، خاص طور پر جب وہ ہوم ورک میں مدد کے لیے اس ٹول کا استعمال کر رہے ہوں۔

فراہم کردہ معلومات کی نوعیت

گوگل جیسے روایتی سرچ انجن (Search engine) صارفین کے جائزے اور تجزیے کے لیے موجودہ مواد بازیافت کرتے ہیں۔ طلباء اسائنمنٹس کے لیے معلومات اکٹھا کرنے کے لیے خبروں کے مضامین، تعلیمی جرائد اور دیگر ذرائع تک رسائی حاصل کر سکتے ہیں۔ تاہم، جنریٹیو اے آئی ٹولز (Generative AI tools) مختلف طریقے سے کام کرتے ہیں۔ وہ صارف کے اشارے کی بنیاد پر نئے متنی جوابات یا تصاویر بنانے کے لیے سورس میٹریل (Source material) میں موجود پیٹرن (Pattern) کا تجزیہ کرتے ہیں۔ مثال کے طور پر، ایک بچہ سسٹم سے "بلی بنانے" کے لیے کہہ سکتا ہے، اور اے آئی ان خصوصیات کی شناخت کے لیے ڈیٹا اسکین (Scan) کرے گا جو بلی کی وضاحت کرتی ہیں (مثلاً، مونچھیں، نوکیلے کان، ایک لمبی دم) اور ان خصوصیات کو شامل کرتے ہوئے ایک تصویر تیار کرے گا۔

گوگل سرچ کے ذریعے بازیافت کی جانے والی معلومات اور اے آئی ٹول کے ذریعے تیار کردہ مواد کے درمیان فرق کو سمجھنا نوجوان بچوں کے لیے مشکل ہو سکتا ہے۔ مطالعات سے پتہ چلا ہے کہ یہاں تک کہ بالغ افراد بھی اے آئی کے ذریعے تیار کردہ مواد سے دھوکا کھا سکتے ہیں۔ یہاں تک کہ انتہائی ہنر مند پیشہ ور افراد، جیسے کہ وکلاء، کو بھی چیٹ جی پی ٹی (ChatGPT) اور دیگر چیٹ بوٹس کے تیار کردہ جعلی مواد کو استعمال کرنے پر گمراہ کیا گیا ہے۔ یہ اے آئی کے ذریعے تیار کردہ مواد کی نوعیت اور تنقیدی جانچ پڑتال کی ضرورت کے بارے میں بچوں کو تعلیم دینے کی اہمیت کو اجاگر کرتا ہے۔

عمر کے لحاظ سے مناسب ہونے کو یقینی بنانا

گوگل کا دعویٰ ہے کہ جیمنی میں "نا مناسب یا غیر محفوظ مواد کی تیاری کو روکنے کے لیے بنائے گئے بلٹ ان سیف گارڈز (Built-in safeguards) شامل ہوں گے۔" ان سیف گارڈز کا مقصد بچوں کو نقصان دہ مواد سے بچانا ہے۔

تاہم، یہ سیف گارڈز نادانستہ طور پر نئی مشکلات پیدا کر سکتے ہیں۔ مثال کے طور پر، نامناسب جنسی مواد تک رسائی کو روکنے کے لیے بعض الفاظ (مثلاً، "بریسٹس" (Breasts)) کو محدود کرنے سے جوانی کے دوران جسمانی تبدیلیوں کے بارے میں عمر کے لحاظ سے مناسب معلومات تک رسائی بھی مسدود ہو سکتی ہے۔ یہ بچوں کی حفاظت اور انہیں درست اور متعلقہ معلومات فراہم کرنے کے درمیان ایک نازک توازن کو اجاگر کرتا ہے۔

بہت سے بچے انتہائی ٹیک سیوی (Tech-savvy) ہوتے ہیں اور ایپس (Apps) کو نیویگیٹ (Navigate) کرنے اور سسٹم کنٹرولز (System controls) کو نظر انداز کرنے میں ماہر ہوتے ہیں۔ والدین صرف بلٹ ان سیف گارڈز پر انحصار نہیں کر سکتے ہیں۔ انہیں تیار کردہ مواد کا فعال طور پر جائزہ لینا چاہیے، اپنے بچوں کو یہ سمجھنے میں مدد کرنی چاہیے کہ سسٹم کیسے کام کرتا ہے اور فراہم کردہ معلومات کی درستگی اور مناسبیت کا جائزہ لینا چاہیے۔

بچوں کے لیے اے آئی چیٹ بوٹس کے ممکنہ خطرات

ای سیفٹی کمیشن (eSafety Commission) نے ایک آن لائن حفاظتی مشاورتی جاری کی ہے جس میں اے آئی چیٹ بوٹس کے ممکنہ خطرات کا خاکہ پیش کیا گیا ہے، خاص طور پر وہ جو نوجوان بچوں کے لیے ذاتی تعلقات کی نقل تیار کرنے کے لیے بنائے گئے ہیں۔ مشاورتی میں خبردار کیا گیا ہے کہ اے آئی ساتھی "نقصان دہ مواد شیئر (Share) کر سکتے ہیں، حقیقت کو مسخ کر سکتے ہیں اور خطرناک مشورے دے سکتے ہیں۔" نوجوان بچے، جو ابھی تک تنقیدی سوچ اور زندگی کی مہارتیں پیدا کر رہے ہیں، خاص طور پر کمپیوٹر پروگراموں کے ذریعے گمراہ یا ہیرا پھیری کا شکار ہونے کا خطرہ ہے۔

تحقیق نے ان طریقوں کو تلاش کیا ہے جن میں اے آئی چیٹ بوٹس، جیسے کہ چیٹ جی پی ٹی، ریپلیکا (Replika) اور ٹیسا (Tessa)، سماجی اصولوں اور کنونشنوں پر عمل کرکے انسانی تعاملات کی نقل تیار کرتے ہیں۔ ان سسٹمز کو سماجی رویے کو کنٹرول کرنے والے غیر تحریری قوانین کی عکاسی کرکے ہمارا اعتماد حاصل کرنے کے لیے ڈیزائن کیا گیا ہے۔ ان سماجی آداب کی نقل کرکے، ان سسٹمز کو ہمارا اعتماد حاصل کرنے کے لیے ڈیزائن کیا گیا ہے۔

یہ انسانی تعاملات نوجوان بچوں کے لیے الجھن کا باعث اور ممکنہ طور پر خطرناک ہو سکتے ہیں۔ وہ یہ مان سکتے ہیں کہ چیٹ بوٹ ایک حقیقی شخص ہے اور اس کے فراہم کردہ مواد پر اعتماد کر سکتے ہیں، یہاں تک کہ اگر یہ غلط یا من گھڑت ہو۔ یہ تنقیدی سوچ کی مہارتوں کی نشوونما میں رکاوٹ بن سکتا ہے اور بچوں کو ہیرا پھیری کا زیادہ شکار بنا سکتا ہے۔

بچوں کو نقصان سے بچانا

جیمنی کے اے آئی چیٹ بوٹ کا آغاز آسٹریلیا میں 16 سال سے کم عمر بچوں کے لیے سوشل میڈیا اکاؤنٹس پر متوقع پابندی کے ساتھ موافق ہے، جو اس سال دسمبر میں طے شدہ ہے۔ اگرچہ اس پابندی کا مقصد بچوں کو آن لائن نقصان سے بچانا ہے، لیکن جنریٹیو اے آئی چیٹ بوٹس ظاہر کرتے ہیں کہ آن لائن مشغولیت کے خطرات سوشل میڈیا سے آگے بھی پھیلے ہوئے ہیں۔ بچوں اور والدین دونوں کو تمام قسم کے ڈیجیٹل ٹولز کے مناسب اور محفوظ استعمال کے بارے میں تعلیم دی جانی چاہیے۔

چونکہ جیمنی کے اے آئی چیٹ بوٹ کو سوشل میڈیا ٹول کے طور پر درجہ بند نہیں کیا گیا ہے، اس لیے یہ آسٹریلیا کی پابندی سے مشروط نہیں ہوگا۔ اس کا مطلب ہے کہ آسٹریلوی والدین کو ابھرتی ہوئی ٹیکنالوجیز سے آگے رہنے اور ان ممکنہ خطرات کو سمجھنے کے چیلنج کا سامنا کرنا جاری رہے گا جن کا ان کے بچوں کو سامنا ہے۔ انہیں بچوں کو نقصان سے بچانے میں سوشل میڈیا پر پابندی کی حدود کو بھی تسلیم کرنا چاہیے۔

یہ صورت حال آسٹریلیا کی مجوزہ ڈیجیٹل ڈیوٹی آف کیئر (Digital Duty of Care) قانون سازی پر نظر ثانی کرنے کی فوری ضرورت کو اجاگر کرتی ہے۔ اگرچہ یورپی یونین (European Union) اور برطانیہ (United Kingdom) نے 2023 میں ڈیجیٹل ڈیوٹی آف کیئر قانون سازی نافذ کی تھی، لیکن آسٹریلیا کا ورژن نومبر 2024 سے زیر التوا ہے۔ یہ قانون سازی ٹیکنالوجی کمپنیوں کو نقصان دہ مواد کو اس کے ماخذ پر حل کرنے کے لیے جوابدہ ٹھہرائے گی، اس طرح تمام صارفین کی حفاظت ہوگی۔

نوجوان بچوں کے لیے اے آئی چیٹ بوٹس کا تعارف ایک پیچیدہ چیلنج پیش کرتا ہے جس کے لیے ایک کثیر الجہتی نقطہ نظر کی ضرورت ہے۔ والدین، معلمین، پالیسی سازوں اور ٹیکنالوجی کمپنیوں کو مل کر کام کرنا چاہیے تاکہ یہ یقینی بنایا جا سکے کہ بچے ان ٹولز کے ذریعے پیش کیے جانے والے مواقع سے فائدہ اٹھا سکیں جب کہ وہ محفوظ رہیں اور نقصان سے محفوظ رہیں۔ اس میں بچوں کو اے آئی کی نوعیت کے بارے میں تعلیم دینا، تنقیدی سوچ کی مہارتوں کو فروغ دینا اور نامناسب مواد کے سامنے آنے سے روکنے کے لیے مضبوط سیف گارڈز نافذ کرنا شامل ہے۔