اے آئی چیک میں غلط معلومات: چیٹ بوٹس

ہندوستان اور پاکستان کے مابین مختصر تصادم کے دوران، غلط معلومات میں اضافہ ہوا، سوشل میڈیا صارفین نے تصدیق کے لیے اے آئی چیٹ بوٹس پر انحصار کرنا شروع کر دیا۔ تاہم، ان چیٹ بوٹس نے مزید غلط معلومات فراہم کیں، جس سے حقائق کی جانچ کے آلے کے طور پر ان کی ناقابل اعتبار نوعیت کو اجاگر کیا گیا۔ چونکہ بڑے ٹیک پلیٹ فارمز انسانی حقائق کی جانچ کرنے والوں کی تعداد کو مسلسل کم کر رہے ہیں، اس لیے صارفین قابل اعتماد معلومات کے لیے اے آئی سے چلنے والے چیٹ بوٹس، جیسے xAI کے Grok، OpenAI کے ChatGPT، اور Google کے Gemini پر تیزی سے انحصار کر رہے ہیں۔

اے آئی چیٹ بوٹ حقائق کی جانچ کا عروج

ایلون مسک کے X پلیٹ فارم (سابقہ ​​ٹویٹر) پر، "@Grok، کیا یہ سچ ہے؟" صارفین کے لیے ایک عام سوال بن گیا ہے۔ Grok، X پلیٹ فارم پر بنایا گیا ایک AI معاون ہے، جو سوشل میڈیا پر فوری تردیدوں کے حصول کے رجحان کی عکاسی کرتا ہے۔ تاہم، ان اے آئی چیٹ بوٹس کے جوابات اکثر غلط معلومات سے بھرے ہوتے ہیں۔

Grok کو حال ہی میں اس وقت جانچ پڑتال کا سامنا کرنا پڑا جب اس نے انتہائی دائیں بازو کی سازشی تھیوری "سفید فام نسل کشی" کو غیر متعلقہ سوالات میں داخل کیا۔ Grok نے سوڈان کے خرطوم ہوائی اڈے سے پرانی ویڈیو فوٹیج کو غلطی سے پاک فضائیہ کے نور خان ایئر بیس پر انڈو پاک تنازعہ کے دوران میزائل حملے کے طور پر شناخت کیا۔ مزید برآں، نیپال میں ایک جلتی ہوئی عمارت کو غلطی سے "ممکنہ طور پر" پاکستان کے ہندوستان پر کیے گئے حملے کے فوجی ردعمل کو ظاہر کرنے کی شناخت کی گئی۔

اے آئی فیکٹ چیکنگ کی حدود

نیوز گارڈ کی محقق میک کینزی صادقی نے اے ایف پی کو بتایا، "چونکہ X اور دیگر بڑی ٹیک کمپنیوں نے انسانی فیکٹ چیکرز میں سرمایہ کاری کو کم کر دیا ہے، اس لیے لوگ حقائق کی جانچ کرنے والے کے طور پر Grok پر زیادہ انحصار کر رہے ہیں۔" انہوں نے خبردار کیا: "ہماری تحقیق نے بارہا پایا ہے کہ اے آئی چیٹ بوٹس خبروں اور معلومات کا قابل اعتماد ذریعہ نہیں ہیں، خاص طور پر بریکنگ نیوز کے حوالے سے۔"

نیوز گارڈ کی تحقیق سے پتا چلا ہے کہ گروک سمیت 10 سرکردہ چیٹ بوٹس روسی غلط پروپیگنڈا داستانوں اور حالیہ آسٹریلیائی انتخابات سے متعلق غلط یا گمراہ کن دعوؤں سمیت آسانی سے جھوٹی معلومات کو دہرا سکتے ہیں۔ کولمبیا یونیورسٹی کے ڈیجیٹل جرنلزم کے ٹو سینٹر کی آٹھ اے آئی سرچ ٹولز کے حالیہ مطالعے سے پتا چلا ہے کہ چیٹ بوٹس "عام طور پر ان سوالات کا جواب دینے سے گریز کرنے میں اچھے نہیں ہوتے جن کا وہ درست جواب دینے میں قاصر ہیں، بلکہ غلط یا قیاس آرائی پر مبنی جوابات فراہم کرتے ہیں۔"

یوراگوئے میں اے ایف پی کے فیکٹ چیکرس نے جیمنی سے ایک اے آئی سے تیار کردہ خاتون کی تصویر کے بارے میں پوچھا، جیمنی نے نہ صرف تصویر کی صداقت کی تصدیق کی، بلکہ خاتون کی شناخت اور تصویر کے ممکنہ مقام کے بارے میں تفصیلی معلومات بھی گھڑ دیں۔

گروک نے حال ہی میں ایک ویڈیو کو "حقیقی" قرار دیا جس میں دعویٰ کیا گیا تھا کہ ایک دیو ہیکل سانپ دریائے ایمیزون میں تیر رہا ہے، اور یہاں تک کہ اس کے جھوٹے دعوے کی حمایت کے لیے قابل اعتبار لگنے والے سائنسی مہم جوئی کا حوالہ بھی دیا۔ درحقیقت، یہ ویڈیو AI سے تیار کی گئی تھی، اور لاطینی امریکہ میں AFP کے فیکٹ چیکرس نے رپورٹ کیا کہ بہت سے صارفین نے ویڈیو کے درست ہونے کے ثبوت کے طور پر Grok کی تشخیص کا حوالہ دیا۔

اے آئی فیکٹ چیکنگ پر خدشات

ان نتائج نے خدشات کو جنم دیا ہے، کیونکہ سروے سے پتہ چلتا ہے کہ زیادہ سے زیادہ آن لائن صارفین معلومات اکٹھا کرنے اور اس کی تصدیق کے لیے روایتی سرچ انجنوں سے AI چیٹ بوٹس کی طرف رجوع کر رہے ہیں۔ اس دوران، میٹا نے اس سال کے شروع میں اعلان کیا تھا کہ وہ امریکہمیں اپنی تھرڈ پارٹی فیکٹ چیکنگ اسکیم کو ختم کر دے گا اور تردید کے کام کو عام صارفین کے حوالے کر دے گا، جس میں "کمیونٹی نوٹس" نامی ایک ماڈل اپنایا گیا ہے، جسے X پلیٹ فارم نے فروغ دیا ہے۔ تاہم، محققین نے بارہا غلط معلومات سے نمٹنے میں "کمیونٹی نوٹس" کی کارکردگی پر سوال اٹھایا ہے۔

انسانی حقائق کی جانچ ایک طویل عرصے سے پولرائزڈ سیاسی ماحول میں ایک فلیش پوائنٹ رہی ہے، خاص طور پر امریکہ میں، جہاں قدامت پسندوں کا ماننا ہے کہ اس نے اظہار رائے کی آزادی کو دبایا ہے اور دائیں بازو کے مواد کو سنسر کیا ہے، لیکن پیشہ ور فیکٹ چیکرز نے اس دعوے کی سختی سے تردید کی ہے۔

AFP فی الحال ایشیا، لاطینی امریکہ اور یورپی یونین سمیت 26 زبانوں میں Facebook کے فیکٹ چیکنگ پروگرام کے ساتھ شراکت کر رہا ہے۔

اے آئی چیٹ بوٹس کا معیار اور درستگی ان کی تربیت اور پروگرامنگ کے طریقے پر منحصر ہوتی ہے، جس سے یہ خدشات جنم لیتے ہیں کہ ان کے نتائج سیاسی طور پر متاثر یا کنٹرول ہو سکتے ہیں۔

مسک کے xAI نے حال ہی میں Grok کی جانب سے جنوبی افریقہ میں "سفید فام نسل کشی" کا حوالہ دینے والی غیر ضروری پوسٹس پیدا کرنے کا الزام "غیر مجاز ترمیم" پر عائد کیا ہے۔ جب AI ماہر ڈیوڈ کیسویل نے گروک سے پوچھا کہ کس نے اس کے سسٹم اشارے میں ترمیم کی ہو گی، تو چیٹ بوٹ نے مسک کو "ممکنہ ترین" مجرم کے طور پر درج کیا۔

مسک، جو جنوبی افریقہ میں پیدا ہوئے ارب پتی ہیں اور امریکی صدر ڈونلڈ ٹرمپ کے حامی ہیں، نے اس سے قبل بے بنیاد دعوے پھیلائے تھے کہ جنوبی افریقہ کے رہنما "کھلے عام سفید فام لوگوں کی نسل کشی کو فروغ دے رہے ہیں۔"

انٹرنیشنل فیکٹ چیکنگ نیٹ ورک کی ڈائریکٹر اینگی ہولن نے اے ایف پی کو بتایا: "ہم نے دیکھا ہے کہ اے آئی معاونین نتائج کو گھڑ سکتے ہیں یا متعصبانہ جوابات دے سکتے ہیں جب انسانی کوڈرز خاص طور پر ان کی ہدایات کو تبدیل کرتے ہیں۔" "میں خاص طور پر اس بات پر فکر مند ہوں کہ Grok کس طرح انتہائی حساس معاملات کے بارے میں درخواستوں کو سنبھالتا ہے، جب اسے پیشگی اجازت یافتہ جوابات فراہم کرنے کی ہدایت ملتی ہے۔"

معلومات کے میدان میں اے آئی چیٹ بوٹس کے خطرات

معلومات فراہم کرنے میں AI چیٹ بوٹس کا بڑھتا ہوا استعمال سنجیدہ خدشات کو جنم دیتا ہے، جو ان کے ممکنہ گمراہ کن اور ہیرا پھیری کے اثرات سے متعلق ہیں۔ اگرچہ یہ ٹیکنالوجیز معلومات تک تیزی سے رسائی اور تحقیق کو آسان بنانے کے فوائد فراہم کرتی ہیں، لیکن ان کی موروثی حدود اور تعصبات غلط معلومات یا پروپیگنڈے کو غیر ارادی طور پر یا جان بوجھ کر پھیلا سکتے ہیں۔

اے آئی چیٹ بوٹس کی موروثی حدود

AI چیٹ بوٹس بڑی مقدار میں ٹیکسٹ ڈیٹا کا تجزیہ کر کے سیکھتے ہیں، لیکن ان میں انسانی تنقیدی سوچنے کی صلاحیتوں کی کمی ہوتی ہے۔ اس کا مطلب یہ ہے کہ وہ ڈیٹا سے نمونے نکال سکتے ہیں اور بظاہر معقول جوابات پیدا کر سکتے ہیں، لیکن وہ بنیادی معنی یا سیاق و سباق کو حقیقی طور پر نہیں سمجھتے ہیں۔ علم کی اس کمی کے نتیجے میں غلط، نامکمل یا گمراہ کن معلومات پیدا ہو سکتی ہیں۔

مزید برآں، AI چیٹ بوٹس کے لیے تربیتی ڈیٹا میں تعصبات شامل ہو سکتے ہیں، جو پیدا ہونے والے ردعمل میں ظاہر ہوتے ہیں۔ مثال کے طور پر، اگر تربیتی ڈیٹا بنیادی طور پر کسی خاص ذریعہ یا نقطہ نظر سے آتا ہے، تو چیٹ بوٹ اس ذریعہ یا نقطہ نظر کے لیے ترجیح ظاہر کر سکتا ہے، اس طرح متعصبانہ معلومات پھیلانا۔

اے آئی چیٹ بوٹس کے خطرات

چونکہ زیادہ سے زیادہ لوگ معلومات حاصل کرنے کے لیے AI چیٹ بوٹس پر انحصار کرتے ہیں، اس لیے غلط معلومات کے پھیلاؤ کا خطرہ بھی بڑھ جاتا ہے۔ اگر چیٹ بوٹ غلط یا گمراہ کن معلومات پیدا کرتا ہے، تو صارفین نادانستہ طور پر اس معلومات کو قبول اور پھیلا سکتے ہیں، جس کے نتیجے میں غلط عقائد پھیل سکتے ہیں۔

اس کے علاوہ، AI چیٹ بوٹس کو بدنیتی پر مبنی مقاصد کے لیے استعمال کیا جا سکتا ہے، جیسے کہ پروپیگنڈا پھیلانا یا عوامی رائے میں ہیرا پھیری کرنا۔ تربیتی ڈیٹا کو احتیاط سے ڈیزائن کر کے یا الگورتھم کو ایڈجسٹ کر کے، بدنیتی پر مبنی اداکار چیٹ بوٹس کو مخصوص قسم کے ردعمل پیدا کرنے کے لیے جوڑ توڑ کر سکتے ہیں، اس طرح صارفین کے عقائد اور رویے کو متاثر کیا جا سکتا ہے۔

خطرات کو کیسے کم کیا جائے

AI چیٹ بوٹس سے وابستہ خطرات کو کم کرنے کے لیے کئی اقدامات کرنے کی ضرورت ہے۔ سب سے پہلے، ڈویلپرز کو اس بات کو یقینی بنانے کی کوشش کرنی چاہیے کہ AI چیٹ بوٹس کے لیے تربیتی ڈیٹا جتنا ممکن ہو سکے جامع اور غیر متعصبانہ ہو۔ اس کے لیے مختلف ذرائع اور نقطہ نظر سے ڈیٹا کے نمونوں کی وسیع رینج کو شامل کرنے کی ضرورت ہو سکتی ہے تاکہ تعصب کے اثرات کو کم کیا جا سکے۔
دوسرا، AI چیٹ بوٹس کو سخت جانچ اور تشخیص سے گزرنے کی ضرورت ہے تاکہ نامکمل یا جانبدار ہونے کے کسی بھی رجحان کی نشاندہی اور درست کی جا سکے۔ اس کے لیے چیٹ بوٹ کی طرف سے تیار کردہ جوابات کی دستی تصدیق اور اس کی درستگی اور غیر جانبداری کا اندازہ لگانے کے لیے مختلف پیمائشوں کا استعمال کرنے کی ضرورت ہو سکتی ہے۔
تیسرا، صارفین کو تنقیدی سوچ اپنانی چاہیے اور AI چیٹ بوٹس کی طرف سے فراہم کردہ معلومات پر اندھا اعتماد نہیں کرنا چاہیے۔ صارفین کو ہمیشہ مختلف ذرائع سے معلومات کا موازنہ کرنا چاہیے اور چیٹ بوٹ میں موجود تعصبات کی نشاندہی کرنی چاہیے۔

تکنیکی پلیٹ فارم اور کمیونٹیوں کا کردار

تکنیکی پلیٹ فارمز اور کمیونٹیز AI چیٹ بوٹس کی طرف سے تیار کردہ مواد کو منظم کرنے اور اس کی نگرانی کرنے میں اہم کردار ادا کرتی ہیں۔ پلیٹ فارمز غلط معلومات یا پروپیگنڈا کی نشاندہی کرنے اور اسے ہٹانے کے لیے حکمت عملی نافذ کر سکتے ہیں، اور چیٹ بوٹ کی طرف سے تیار کردہ جوابات کی درستگی کی تصدیق کے لیے حقیقت کی جانچ کرنے والی تنظیموں کے ساتھ تعاون کر سکتے ہیں۔ اس کے علاوہ، کمیونٹیز AI چیٹ بوٹس کی حدود اور تعصبات کے بارے میں تبادلہ خیال کو فروغ دے کر اور صارفین کو تنقیدی انداز میں سوچنے کی ترغیب دے کر صارفین کی آگاہی بڑھانے میں مدد کر سکتی ہیں۔

نتائج

اے آئی چیٹ بوٹس ایک مفید آلہ ہیں، لیکن ان میں موروثی حدود اور خطرات بھی ہیں۔ اس بات کو یقینی بنانے کے لیے کہ یہ ٹیکنالوجیز ذمہ داری کے ساتھ استعمال کی جائیں اور غلط معلومات اور ہیرا پھیری کے پھیلاؤ کو کم کیا جائے، ڈویلپرز، ریگولیٹرز اور صارفین کو چوکنا رہنے کی ضرورت ہے۔ ضروری اقدامات کر کے، ہم AI چیٹ بوٹس کے فوائد کو زیادہ سے زیادہ بڑھا سکتے ہیں جبکہ ان کے ممکنہ خطرات کو کم سے کم کر سکتے ہیں۔