اے جی آئی کا بڑھتا ہوا خطرہ: کیا ہم تیار ہیں؟

مصنوعی ذہانت (Artificial Intelligence) کی تیز رفتار ترقی نے جوش و خروش کے ساتھ ساتھ خدشات کو بھی جنم دیا ہے۔ معروف اے آئی لیبارٹریوں میں، ایک نئی اصطلاح تیزی سے زیر بحث ہے: اے جی آئی (AGI)، یعنی مصنوعی عمومی ذہانت (Artificial General Intelligence)۔ ایک وقت تھا جب یہ محض ایک دور کا خواب تھا، لیکن اب اسے آنے والی دہائی میں ایک قابل حصول ہدف سمجھا جا رہا ہے۔ جیسے جیسے جنریٹیو اے آئی (Generative AI) ترقی کر رہی ہے اور نئی بلندیوں کو چھو رہی ہے، اے جی آئی کا تصور محض ایک اصطلاح سے بڑھ کر ایک ٹھوس حقیقت میں بدل رہا ہے۔

اوپن اے آئی کا اعتماد اور شک کا سایہ

اوپن اے آئی (OpenAI) کے سی ای او (CEO) سیم آلٹمین (Sam Altman) نے اپنی ٹیم کی اے جی آئی تخلیق کرنے کی صلاحیت پر غیر متزلزل اعتماد کا اظہار کیا ہے، اور اشارہ دیا ہے کہ ان کی توجہ اب فوق الفطری ذہانت (superintelligence) کے حصول پر مرکوز ہے۔ آلٹمین نے پیش گوئی کی ہے کہ اوپن اے آئی اگلے پانچ سالوں میں اس اہم سنگ میل کو عبور کر لے گی، جس نے پوری ٹیک دنیا میں جوش و خروش اور تشویش کی لہر دوڑا دی ہے۔ دلچسپ بات یہ ہے کہ ان کا خیال ہے کہ یہ انقلابی تبدیلی معاشرے میں حیرت انگیز طور پر کم خلل کے ساتھ رونما ہو سکتی ہے، جو کہ اس شعبے کے بہت سے ماہرین کے خدشات کے بالکل برعکس ہے۔

تاہم، اس پر امید نقطہ نظر کو عالمی سطح پر تسلیم نہیں کیا جاتا۔ اے آئی ریسرچ کمیونٹی (AI research community) کے گوشوں سے احتیاط اور تشویش کی آوازیں بلند ہو رہی ہیں۔ رومن یمپولسکی (Roman Yampolskiy)، جو کہ ایک معتبر اے آئی سیفٹی ریسرچر (AI safety researcher) ہیں، ایک انتہائی خوفناک تصویر پیش کرتے ہیں، اور یہ کہتے ہوئے کہ اے آئی بالآخر انسانیت کے خاتمے کا سبب بنے گی، اس کا 99.999999% امکان ظاہر کرتے ہیں۔ یمپولسکی کے مطابق، اس تباہ کن انجام سے بچنے کا واحد راستہ یہ ہے کہ اے آئی کی ترقی اور تعیناتی کو مکمل طور پر روک دیا جائے۔ ان کی یہ سخت وارننگ اے آئی ٹیکنالوجی میں ہونے والی تیز رفتار پیش رفت کے ساتھ آنے والے گہرے اخلاقی اور وجودی سوالات کو اجاگر کرتی ہے۔

ڈیمس ہاسابِس کی آدھی رات کی پریشانیاں

حال ہی میں ایک انٹرویو میں، گوگل ڈیپ مائنڈ (Google DeepMind) کے سی ای او ڈیمس ہاسابِس (Demis Hassabis) نے اے آئی کی تیز رفتار ترقی اور بڑھتی ہوئی صلاحیتوں کے بارے میں اپنی گہری تشویش کا اظہار کیا۔ ہاسابِس کا خیال ہے کہ ہم اگلے پانچ سے دس سالوں میں اے جی آئی کی دہلیز کو عبور کرنے کے بالکل قریب ہیں۔ انہوں نے اعتراف کیا کہ اس حقیقت نے انہیں راتوں کو جگا رکھا ہے، جو کہ اس غیر یقینی صورتحال میں رہنمائی کرنے کی ذمہ داری کا ثبوت ہے۔

ہاسابِس کی تشویش خاص طور پر موجودہ منظر نامے کو دیکھتے ہوئے سنگین ہے، جہاں سرمایہ کار اے آئی کے میدان میں بے تحاشا سرمایہ ڈال رہے ہیں، اس کے باوجود کہ اس میں بہت سی غیر یقینی صورتحالیں موجود ہیں اور منافع کے حصول کا کوئی واضح راستہ نہیں ہے۔ ممکنہ فوائد بہت زیادہ ہیں، لیکن خطرات بھی اسی قدر زیادہ ہیں۔ اے جی آئی کے حصول کے لیے ایک محتاط اور سوچ سمجھ کر اختیار کرنے کی ضرورت ہے، جس میں تکنیکی جدت طرازی کے ساتھ ساتھ حفاظت اور اخلاقی considerations کو بھی ترجیح دی جائے۔

ہاسابِس نے صورتحال کی نزاکت کو ایک سخت وارننگ کے ساتھ بیان کیا:

یہ ایک قسم کی احتمالی تقسیم (probability distribution) ہے۔ لیکن یہ آ رہی ہے، کسی بھی صورت میں یہ بہت جلد آ رہی ہے اور مجھے یقین نہیں ہے کہ معاشرہ ابھی تک اس کے لیے تیار ہے۔ اور ہمیں اس کے بارے میں سوچنے کی ضرورت ہے اور ان مسائل کے بارے میں بھی سوچنے کی ضرورت ہے جن کے بارے میں میں نے پہلے بات کی تھی، ان سسٹمز کے قابو میں ہونے کے ساتھ ساتھ ان سسٹمز تک رسائی اور اس بات کو یقینی بنانا کہ سب کچھ ٹھیک رہے۔

اے آئی کی ناقابل فہم گہرائیاں: ایک بلیک باکس اسرار

اے جی آئی کے بارے میں جاری بحث میں ایک اور پیچیدگی کا اضافہ اینتھروپک (Anthropic) کے سی ای او ڈاریو اموڈی (Dario Amodei) کا یہ اعتراف ہے کہ ان کی کمپنی کو یہ مکمل طور پر معلوم نہیں ہے کہ ان کے اپنے اے آئی ماڈل کیسے کام کرتے ہیں۔ اس انکشاف نے صارفین اور ماہرین دونوں میں تشویش کی لہر دوڑا دی ہے، اور ان تیزی سے ترقی کرتی ہوئی سسٹمز کی شفافیت اور کنٹرول کے بارے میں بنیادی سوالات اٹھائے ہیں۔ اگر ہم اے آئی کے اندرونی کاموں کو مکمل طور پر نہیں سمجھ سکتے تو ہم اس کی محفوظ اور ذمہ دارانہ ترقی کو کیسے یقینی بنا سکتے ہیں؟

اے جی آئی، اپنی تعریف کے مطابق، ایک ایسا اے آئی سسٹم ہے جو انسانی ذہانت سے بالاتر ہے اور ہماری علمی صلاحیتوں سے تجاوز کر جاتا ہے۔ ذہانت میں یہ گہری عدم مساوات اس بات کا تقاضا کرتی ہے کہ مضبوط حفاظتی اقدامات نافذ کیے جائیں تاکہ یہ یقینی بنایا جا سکے کہ انسان ہر وقت ان سسٹمز پر قابو رکھیں۔ ایسا کرنے میں ناکامی کے ممکنہ نتائج ناقابل تصور ہیں۔ انسانیت کی بقا کا انحصار اے جی آئی کی طاقت کو منظم اور کنٹرول کرنے کی ہماری صلاحیت پر منحصر ہو سکتا ہے۔

مصنوعات کو حفاظت پر فوقیت دینا: ایک خطرناک جوا

اے جی آئی کے بارے میں بڑھتی ہوئی بے چینی کو مزید ہوا دینے والی ایک رپورٹ میں اوپن اے آئی کے ایک سابق ریسرچر کا حوالہ دیا گیا ہے، جس کا دعویٰ ہے کہ کمپنی اے جی آئی کے حصول کے دہانے پر ہو سکتی ہے، لیکن اس کے گہرے مضمرات سے نمٹنے کے لیے ضروری تیاری نہیں رکھتی۔ ریسرچر کا الزام ہے کہ نئی مصنوعات کے حصول کو حفاظت کے considerations پر ترجیح دی جاتی ہے، جو کہ ایک ممکنہ طور پر تباہ کن غلط فیصلہ ہے اور اس کے دور رس نتائج ہو سکتے ہیں۔

جدت طرازی کی کشش اور شاندار مصنوعات کی فراہمی کا دباؤ بعض اوقات سخت حفاظتی پروٹوکول کی اہم ضرورت پر غالب آ سکتا ہے۔ تاہم، جب اے جی آئی جیسی طاقتور اور ممکنہ طور پر تبدیلی لانے والی ٹیکنالوجیز سے نمٹا جائے تو حفاظت کو سب سے زیادہ اہمیت دی جانی چاہیے۔ حفاظت کو ترجیح دینے میں ناکامی کے نتیجے میں غیر متوقع نتائج برآمد ہو سکتے ہیں، جس سے نہ صرف اے آئی کی ترقی بلکہ مجموعی طور پر معاشرے کی فلاح و بہبود بھی خطرے میں پڑ سکتی ہے۔

اے جی آئی کے غیر دریافت شدہ پانیوں میں رہنمائی: احتیاط اور تعاون کی پکار

اے جی آئی کا ظہور انسانیت کے لیے ایک گہرا چیلنج اور ایک بے مثال موقع فراہم کرتا ہے۔ جیسے جیسے ہم اس غیر دریافت شدہ علاقے میں قدم رکھ رہے ہیں، یہ ضروری ہے کہ ہم احتیاط سے کام لیں، ذمہ داری کے گہرے احساس اور اخلاقی اصولوں کے ساتھ وابستگی کی رہنمائی میں۔ اے جی آئی کی ترقی کو جیتنے کے لیے ایک دوڑ کے طور پر نہیں دیکھا جانا چاہیے، بلکہ اے آئی کی مکمل صلاحیت کو کھولنے کے لیے ایک مشترکہ کوشش کے طور پر دیکھا جانا چاہیے، جبکہ اس میں موجود خطرات کو کم کیا جائے۔

ہمیں محققین، پالیسی سازوں اور عوام کے درمیان کھلا اور شفاف مکالمہ فروغ دینا چاہیے تاکہ یہ یقینی بنایا جا سکے کہ اے جی آئی کی ترقی ہمارے مشترکہ اقدار اور خواہشات کے مطابق ہے۔ ہمیں اے آئی کی صلاحیتوں اور حدود کو بہتر طور پر سمجھنے کے لیے تحقیق میں سرمایہ کاری کرنی چاہیے، اور اس کی حفاظت اور کنٹرول کو یقینی بنانے کے لیے مؤثر طریقے تیار کرنے چاہئیں۔ اور ہمیں مضبوط ریگولیٹری فریم ورک قائم کرنے چاہئیں جو جدت طرازی کو فروغ دیں، جبکہ ممکنہ نقصانات سے بچائیں۔

انسانیت کا مستقبل اے جی آئی کی جانب سے پیش کیے جانے والے پیچیدہ اور کثیر الجہتی چیلنجوں سے نمٹنے کی ہماری صلاحیت پر منحصر ہو سکتا ہے۔ تعاون کے جذبے کو اپناتے ہوئے، حفاظت کو ترجیح دے کر، اور اخلاقی اصولوں کو برقرار رکھتے ہوئے، ہم سب کے لیے ایک بہتر مستقبل بنانے کے لیے اے آئی کی تبدیلی لانے والی طاقت سے فائدہ اٹھا سکتے ہیں۔

فوق الفطری ذہانت کی اخلاقی رسی

مصنوعی عمومی ذہانت (AGI) کی ترقی ایک بے مثال اخلاقی چیلنج پیش کرتی ہے۔ جیسے جیسے اے آئی سسٹمز انسانی علمی صلاحیتوں کے قریب پہنچتے ہیں اور ممکنہ طور پر ان سے تجاوز کر جاتے ہیں، ہمیں شعور، اخلاقی ایجنسی، اور انسان ہونے کی تعریف کے بارے میں گہرے سوالات سے نمٹنا چاہیے۔ آج ہم جو فیصلے کرتے ہیں وہ آنے والی نسلوں کے لیے اے آئی کے مستقبل اور معاشرے پر اس کے اثرات کو تشکیل دیں گے۔

سب سے زیادہ دباؤ والے اخلاقی خدشات میں سے ایک اے آئی سسٹمز میں تعصب کا امکان ہے۔ اے آئی الگورتھم کو بڑے پیمانے پر ڈیٹا سیٹس پر تربیت دی جاتی ہے، اور اگر یہ ڈیٹا سیٹس موجودہ سماجی تعصبات کی عکاسی کرتے ہیں، تو اے آئی سسٹمز لامحالہ ان تعصبات کو جاری رکھیں گے اور ان کو بڑھاوا دیں گے۔ اس سے بھرتی، قرض دینے اور فوجداری انصاف جیسے شعبوں میں امتیازی نتائج برآمد ہو سکتے ہیں۔ یہ ضروری ہے کہ ہم اے آئی سسٹمز میں تعصب کی نشاندہی اور تخفیف کے طریقے تیار کریں تاکہ یہ یقینی بنایا جا سکے کہ وہ منصفانہ اور مساوی ہیں۔

ایک اور اخلاقی چیلنج اے آئی کے بدنیتی پر مبنی مقاصد کے لیے استعمال ہونے کا امکان ہے۔ اے آئی کو خود مختار ہتھیار بنانے، غلط معلومات پھیلانے یا سائبر جنگ میں مشغول ہونے کے لیے استعمال کیا جا سکتا ہے۔ یہ ضروری ہے کہ ہم اے آئی کو افراد یا معاشرے کو مجموعی طور پر نقصان پہنچانے سے روکنے کے لیے حفاظتی اقدامات تیار کریں۔ اس میں اے آئی کے استعمال پر حکمرانی کرنے والے بین الاقوامی اصول و ضوابط تیار کرنے کے ساتھ ساتھ اے آئی کی حفاظت اور سلامتی پر تحقیق میں سرمایہ کاری کرنا شامل ہے۔

مزید برآں، اے جی آئی کی ترقی اس کے فوائد کی تقسیم کے بارے میں سوالات اٹھاتی ہے۔ کیا اے جی آئی سے معاشی عدم مساوات میں اضافہ ہو گا، یا اسے زیادہ منصفانہ اور مساوی معاشرہ بنانے کے لیے استعمال کیا جائے گا؟ یہ ضروری ہے کہ ہم اے جی آئی کے ممکنہ سماجی اور اقتصادی اثرات پر غور کریں اور اس بات کو یقینی بنانے کے لیے اقدامات کریں کہ اس کے فوائد بڑے پیمانے پر شیئر کیے جائیں۔ اس کے لیے عالمگیر بنیادی آمدنی یا تعلیم اور تربیت میں اضافہ جیسی پالیسیاں درکار ہو سکتی ہیں۔

آخر میں، اے جی آئی کی ترقی انسانوں اور مشینوں کے درمیان تعلق کے بارے میں بنیادی سوالات اٹھاتی ہے۔ جیسے جیسے اے آئی سسٹمز زیادہ ذہین ہوتے جائیں گے، ہم دنیا میں اپنی جگہ کیسے متعین کریں گے؟ کیا ہم فوق الفطری ذہین اے آئی کے ساتھ امن و امان سے بقائے باہمی کر سکیں گے، یا ہمیں اس سے خطرہ لاحق ہو گا؟ یہ وہ سوالات ہیں جن کا جواب ہمیں ابھی سے دینا شروع کر دینا چاہیے، اس سے پہلے کہ اے جی آئی ایک حقیقت بن جائے۔

کنٹرول کی معما: انسانی نگرانی کو یقینی بنانا

اے جی آئی کے بارے میں جاری بحث میں کنٹرول کا سوال سب سے اہم ہے۔ اے آئی سسٹمز کے زیادہ ذہین ہونے کے ساتھ ساتھ یہ یقینی بنانا کہ انسان ان پر قابو رکھیں، غیر ارادی نتائج کو روکنے اور ممکنہ خطرات کو کم کرنے کے لیے سب سے اہم ہے۔ اس کے لیے اے آئی سسٹمز کے رویے کی نگرانی، سمجھنے اور اس پر اثر انداز ہونے کے لیے مضبوط میکانزم تیار کرنے کی ضرورت ہے۔

کنٹرول کو یقینی بنانے کا ایک طریقہ یہ ہے کہ اے آئی سسٹمز کو شفاف اور قابل وضاحت بنایا جائے۔ اس کا مطلب یہ ہے کہ ہمیں یہ سمجھنے کے قابل ہونا چاہیے کہ اے آئی سسٹمز کیسے فیصلے کرتے ہیں اور وہ بعض اقدامات کیوں کرتے ہیں۔ اس سے ہمیں اے آئی سسٹمز میں غلطیوں یا تعصبات کی نشاندہی اور درست کرنے کے ساتھ ساتھ یہ یقینی بنانے میں مدد ملے گی کہ وہ ہماری اقدار کے مطابق ہیں۔

ایک اور طریقہ یہ ہے کہ اے آئی سسٹمز کو انسانی اہداف کے مطابق تیار کیا جائے۔ اس کا مطلب یہ ہے کہ ہمیں اے آئی سسٹمز کو ایسے مقاصد کے حصول کے لیے تیار کرنا چاہیے جو انسانیت کے لیے فائدہ مند ہوں، بجائے اس کے کہ وہ اپنے ذاتی مفادات کا تعاقب کریں۔ اس کے لیے انسانی اقدار کی واضح تفہیم اور اس بات کی ضرورت ہے کہ انہیں اے آئی سسٹمز کے لیے ٹھوس اہداف میں کیسے تبدیل کیا جا سکتا ہے۔

مزید برآں، ہنگامی حالات میں اے آئی سسٹمز کو رد کرنے کے لیے میکانزم تیار کرنا ضروری ہے۔ اس سے ہمیں اے آئی سسٹمز کو بند کرنے یا تبدیل کرنے کی اجازت ملے گی اگر وہ کسی ایسے طریقے سے برتاؤ کر رہے ہیں جو نقصان دہ یا خطرناک ہو۔ اس کے لیے اے آئی سسٹمز کو کنٹرول کرنےکے لیے محفوظ اور قابل اعتماد طریقے تیار کرنے کے ساتھ ساتھ یہ قائم کرنے کی ضرورت ہے کہ کب اور کیسے اس کنٹرول کا استعمال کیا جائے۔

کنٹرول کا چیلنج محض ایک تکنیکی چیلنج نہیں ہے۔ اس کے لیے اخلاقی اور سماجی considerations سے نمٹنے کی بھی ضرورت ہے۔ ہمیں یہ فیصلہ کرنا چاہیے کہ اے آئی سسٹمز کو کنٹرول کرنے کا اختیار کس کے پاس ہونا چاہیے اور اس اختیار کا استعمال کیسے کیا جانا چاہیے۔ ہمیں محدود حالات میں بھی اے آئی سسٹمز کو کنٹرول سونپنے کے ممکنہ مضمرات پر بھی غور کرنا چاہیے۔

رسائی کا مساوات: مساوی تقسیم کو یقینی بنانا

اے جی آئی تک رسائی کا سوال اس کی ترقی کے اخلاقی اور سماجی مضمرات کے ساتھ گہرا تعلق رکھتا ہے۔ اے جی آئی تک مساوی رسائی کو یقینی بنانا اس کے لیے ضروری ہے کہ موجودہ عدم مساوات کو بڑھاوا دینے اور سماجی درجہ بندی کی نئی شکلیں پیدا کرنے سے روکا جائے۔

ایک تشویش یہ ہے کہ اے جی آئی کو چند لوگوں کے ہاتھوں میں دولت اور طاقت کو مزید مرتکز کرنے کے لیے استعمال کیا جا سکتا ہے۔ اگر اے جی آئی کو بنیادی طور پر کارپوریشنوں یا حکومتوں کے ذریعہ تیار اور کنٹرول کیا جاتا ہے، تو اسے ملازمتوں کو خودکار بنانے، اجرتوں کو دبانے اور نگرانی کی صلاحیتوں کو بڑھانے کے لیے استعمال کیا جا سکتا ہے۔ اس سے امیر اور غریب کے درمیان فرق وسیع ہو سکتا ہے، اس کے ساتھ ساتھ انفرادی آزادی اور خود مختاری میں بھی کمی واقع ہو سکتی ہے۔

اس کو روکنے کے لیے، یہ یقینی بنانا ضروری ہے کہ اے جی آئی کو اس طریقے سے تیار اور تعینات کیا جائے جو پوری انسانیت کے لیے فائدہ مند ہو۔ اس میں اوپن سورس اے آئی پلیٹ فارم بنانا، عوامی تحقیقی ادارے قائم کرنا، اور اے آئی سے متعلقہ ٹیکنالوجیز اور وسائل تک مساوی رسائی کو فروغ دینے والی پالیسیوں پر عمل درآمد کرنا شامل ہو سکتا ہے۔

ایک اور تشویش یہ ہے کہ اے جی آئی کو بعض گروہوں کے خلاف امتیازی سلوک کرنے کے لیے استعمال کیا جا سکتا ہے۔ اگر اے آئی سسٹمز کو متعصبانہ اعدادو شمار پر تربیت دی جاتی ہے، تو وہ ان تعصبات کو جاری رکھ سکتے ہیں اور ان کو بڑھاوا دے سکتے ہیں، جس سے بھرتی، قرض دینے اور فوجداری انصاف جیسے شعبوں میں امتیازی نتائج برآمد ہو سکتے ہیں۔

اس سے نمٹنے کے لیے، اے آئی سسٹمز میں تعصب کی نشاندہی اور تخفیف کے طریقے تیار کرنا ضروری ہے۔ اس میں اے آئی سسٹمز کو تربیت دینے کے لیے استعمال ہونے والے ڈیٹا سیٹس کو متنوع بنانا، اور منصفانہ اور مساوی الگورتھم تیار کرنا شامل ہے۔ اس کے لیے فیصلہ سازی کے عمل میں اے آئی کے استعمال کے لیے واضح قانونی اور اخلاقی معیارات قائم کرنے کی بھی ضرورت ہے۔

مزید برآں، روزگار پر اے جی آئی کے ممکنہ اثرات پر غور کرنا ضروری ہے۔ جیسے جیسے اے آئی سسٹمز زیادہ قابل ہوتے جائیں گے، وہ بہت سی ملازمتوں کو خودکار بنا سکتے ہیں جو فی الحال انسانوں کے ذریعہ انجام دی جاتی ہیں۔ اس سے بڑے پیمانے پر بیروزگاری اور سماجی بدامنی پیدا ہو سکتی ہے۔

اس خطرے کو کم کرنے کے لیے، تعلیم اور تربیت کے پروگراموں میں سرمایہ کاری کرنا ضروری ہے جو کارکنوں کو مستقبل کی ملازمتوں کے لیے تیار کریں۔ اس میں اے آئی کی ترقی، ڈیٹا تجزیہ اور تنقیدی سوچ جیسے شعبوں میں مہارتیں تیار کرنا شامل ہے۔ اس کے لیے سماجی تحفظ کے نئے طریقے، جیسے کہ عالمگیر بنیادی آمدنی، بھی پیدا کرنے کی ضرورت ہے تاکہ ان لوگوں کے لیے معاشی تحفظ فراہم کیا جا سکے جو اے آئی کے ذریعہ بے گھر ہو جاتے ہیں۔

آگے کا راستہ: ایک اجتماعی ذمہ داری

اے جی آئی کی ترقی ایک تبدیلی لانے والی کوشش ہے جو دنیا کو گہرے طریقوں سے نئی شکل دے گی۔ یہ ایک ایسا چیلنج ہے جس کے لیے محققین، پالیسی سازوں اور عوام کی اجتماعی کوششوں کی ضرورت ہے۔ تعاون کے جذبے کو اپناتے ہوئے، حفاظت کو ترجیح دے کر، اور اخلاقی اصولوں کو برقرار رکھتے ہوئے، ہم سب کے لیے ایک بہتر مستقبل بنانے کے لیے اے آئی کی تبدیلی لانے والی طاقت سے فائدہ اٹھا سکتے ہیں۔ عمل کرنے کا وقت اب ہے۔