گوگل کے جیمنی 2.5 پرو پر سوالات

گوگل کے جیمنی 2.5 پرو (Gemini 2.5 Pro) اے آئی ماڈل کے حالیہ اجراء پر ایک اہم حفاظتی رپورٹ کی عدم موجودگی کے باعث تنازعہ پیدا ہوگیا ہے۔ ایسا لگتا ہے کہ یہ کوتاہی امریکی حکومت اور بین الاقوامی سربراہی اجلاسوں میں گوگل کی طرف سے کیے گئے وعدوں سے متصادم ہے، جس سے کمپنی کی جانب سے شفافیت اور ذمہ دارانہ اے آئی ڈیولپمنٹ کے حوالے سے تشویشات جنم لے رہی ہیں۔ ماہرین اب سوال کر رہے ہیں کہ کیا گوگل اور دیگر صف اول کی اے آئی لیبز اپنی اے آئی ماڈلز کی صلاحیتوں اور ممکنہ خطرات کے بارے میں عوام کو آگاہ کرنے کے وعدوں سے پیچھے ہٹ رہے ہیں۔

ٹوٹے ہوئے وعدے اور نامکمل عہد

جیمنی 2.5 پرو کے اجراء کے ساتھ حفاظتی تحقیقی رپورٹ فراہم کرنے میں گوگل کی ناکامی کو سابقہ ​​عہد کی خلاف ورزی سمجھا جا رہا ہے۔ جولائی 2023 میں، گوگل نے بائیڈن انتظامیہ کی جانب سے بلائے گئے وائٹ ہاؤس کے اجلاس میں شرکت کی، جہاں اس نے دیگر ممتاز اے آئی کمپنیوں کے ساتھ مل کر متعدد وعدوں پر دستخط کیے۔ ایک اہم وعدہ یہ تھا کہ تمام بڑے پبلک ماڈل ریلیز کے لیے رپورٹس شائع کی جائیں جو اس وقت کی جدید ترین اے آئی سے آگے ہوں۔ اپنی ترقی کے پیش نظر، جیمنی 2.5 پرو یقینی طور پر ان وائٹ ہاؤس کمٹمنٹس کے دائرے میں آئے گا۔

اس وقت گوگل نے اتفاق کیا تھا کہ ان رپورٹس میں یہ چیزیں شامل ہونی چاہئیں:

• خطرناک صلاحیتوں کے جائزوں سمیت، منعقد کی جانے والی حفاظتی تشخیصات۔
• اہم کارکردگی کی حدود جو مناسب استعمال کے طریقوں پر اثر انداز ہو سکتی ہیں۔
• منصفانہ پن اور تعصب جیسے معاشرتی خطرات پر ماڈل کے اثرات پر تبادلہ خیال۔
• ماڈل کی تعیناتی کے لیے فٹنس کا جائزہ لینے کے لیے مخالفانہ جانچ کے نتائج۔

اکتوبر 2023 میں ہیروشیما، جاپان میں جی 7 اجلاس کے بعد، گوگل اور دیگر کمپنیوں نے ایڈوانسڈ اے آئی کی ترقی کے لیے رضاکارانہ ضابطہ اخلاق پر عمل کرنے کا عہد کیا۔ اس جی 7 کوڈ نے ایڈوانسڈ اے آئی سسٹمز کی صلاحیتوں، حدود اور موزوں اور ناموزوں ایپلی کیشنز کی عوامی طور پر رپورٹنگ کی اہمیت پر زور دیا۔ اس کا مقصد اے آئی کے شعبے میں شفافیت اور جوابدہی کو بڑھانا تھا۔

مئی 2024 میں، سیول، جنوبی کوریا میں منعقدہ اے آئی سیفٹی پر ایک بین الاقوامی سربراہی اجلاس میں، گوگل نے اپنے وعدوں کا اعادہ کیا۔ کمپنی نے ماڈل کی صلاحیتوں، حدود، مناسب اور نامناسب استعمال کے طریقوں کو عوامی طور پر ظاہر کرنے اور اپنے رسک اسسمنٹس اور نتائج کے بارے میں شفافیت فراہم کرنے کا وعدہ کیا۔

گوگل کا ردعمل اور تاخیر سے شفافیت

گمشدہ سیفٹی رپورٹ کے بارے میں پوچھ گچھ کے جواب میں، گوگل ڈیپ مائنڈ کے ترجمان، جو جیمنی ماڈلز تیار کرنے کے ذمہ دار ہیں، نے کہا کہ تازہ ترین جیمنی نے پری ریلیز ٹیسٹنگ کی ہے۔ اس میں ماڈل کے اجراء سے قبل اندرونی ترقیاتی تشخیص اور یقین دہانی کی تشخیص شامل تھی۔ ترجمان نے یہ بھی اشارہ کیا کہ اضافی حفاظتی معلومات اور ماڈل کارڈز کے ساتھ ایک رپورٹ “جلد آنے والی ہے”۔ تاہم، 2 اپریل کو جاری ہونے والے ابتدائی بیان کے باوجود، آج تک کوئی ماڈل کارڈ شائع نہیں کیا گیا ہے۔

سیفٹی رپورٹنگ کو نظر انداز کرنے کا وسیع رجحان

اے آئی سیفٹی کے لیے اپنی کمٹمنٹ کے حوالے سے تنقید کا سامنا کرنے میں گوگل اکیلا نہیں ہے۔ اس سال کے شروع میں، اوپن اے آئی کو بھی اس کے ڈیپ ریسرچ ماڈل کے لیے بروقت ماڈل کارڈ جاری کرنے میں ناکامی پر تنقید کا سامنا کرنا پڑا۔ اس کے بجائے، انہوں نے پروجیکٹ کے ابتدائی اجراء کے ہفتوں بعد ایک سسٹم کارڈ شائع کیا۔ اسی طرح، میٹا کی لاما 4 کے لیے حالیہ حفاظتی رپورٹ کو بہت مختصر اور تفصیلات کی کمی پر تنقید کا نشانہ بنایا گیا ہے۔

یہ مثالیں اے آئی انڈسٹری کے اندر ایک تشویشناک رجحان کو اجاگر کرتی ہیں، جہاں کچھ بڑی لیبز اپنے ماڈل ریلیز کے مطابق حفاظتی رپورٹنگ کو ترجیح نہیں دے رہی ہیں۔ یہ خاص طور پر پریشان کن ہے کیونکہ ان کمپنیوں نے امریکی حکومت اور عالمی برادری سے اس طرح کی رپورٹس تیار کرنے کے رضاکارانہ عہد کیے ہیں۔ یہ وعدے ابتدائی طور پر 2023 میں بائیڈن انتظامیہ سے کیے گئے تھے اور بعد میں ہیروشیما میں جی 7 اقوام کے اے آئی سربراہی اجلاس میں اختیار کردہ اے آئی کوڈ آف کنڈکٹ کی تعمیل کرنے کے وعدوں کے ذریعے ان کی توثیق کی گئی۔

سینٹر فار ڈیموکریسی اینڈ ٹیکنالوجی میں اے آئی گورننس کے مشیر کیون بینک اسٹون نے اپنی مایوسی کا اظہار کرتے ہوئے کہا کہ یہ ناکامیاں ملوث کمپنیوں کی ساکھ کو مجروح کرتی ہیں اور ذمہ دار اے آئی ڈویلپمنٹ کے لیے ان کے عزم کے بارے میں سوالات اٹھاتی ہیں۔

غیر جوابی سوالات اور بیرونی تشخیص

گوگل کے ترجمان کے بیان میں اس مخصوص سوال کا بھی جواب نہیں دیا گیا کہ کیا جیمنی 2.5 پرو کو یوکے اے آئی سیکیورٹی انسٹی ٹیوٹ یا یو ایس اے آئی سیفٹی انسٹی ٹیوٹ کے ذریعے بیرونی تشخیص کے لیے جمع کرایا گیا ہے۔ اس سے قبل، گوگل نے اپنی جیمنی ماڈلز کی ابتدائی نسلیں یوکے اے آئی سیفٹی انسٹی ٹیوٹ کو تشخیص کے لیے فراہم کی تھیں۔

سیول سیفٹی سمٹ میں، گوگل نے “فرنٹیئر اے آئی سیفٹی کمٹمنٹس” پر دستخط کیے، جس میں سیفٹی تشخیص کے نفاذ پر عوامی شفافیت فراہم کرنے کا عہد بھی شامل تھا۔ اس کے واحد استثناء وہ معاملات تھے جہاں ایسا کرنے سے خطرہ بڑھ جائے گا یا حساس تجارتی معلومات کو اس حد تک ظاہر کیا جائے گا جو معاشرتی فائدے کے تناسب سے متناسب ہو۔ عہد میں یہ بھی کہا گیا کہ مزید تفصیلی معلومات جنہیں عوامی طور پر شیئر نہیں کیا جا سکتا انہیں اب بھی ان ممالک کی حکومتوں کے ساتھ شیئر کیا جانا چاہیے جہاں کمپنیاں مقیم ہیں، جو گوگل کے معاملے میں امریکہ ہوگا۔

کمپنیوں نے اس بات کی وضاحت کرنے کا بھی عہد کیا کہ کس طرح بیرونی اداکار، جیسے کہ حکومتیں، سول سوسائٹی، ماہرین تعلیم اور عوام، ان کے اے آئی ماڈلز کے خطرات کا جائزہ لینے کے عمل میں شامل ہیں۔ گوگل کی جانب سے اس براہ راست سوال کا جواب دینے میں ناکامی کہ آیا اس نے جیمنی 2.5 پرو کو امریکی یا برطانوی حکومت کے تشخیص کرنے والوں کو جمع کرایا ہے ممکنہ طور پر اس عہد کی خلاف ورزی ہے۔

شفافیت پر تعیناتی کو ترجیح دینا

حفاظتی رپورٹ کی عدم موجودگی نے اس خدشے کو جنم دیا ہے کہ گوگل شفافیت اور مکمل حفاظتی جائزوں پر تیزی سے تعیناتی کو ترجیح دے رہا ہے۔ آکسفورڈ انٹرنیٹ انسٹی ٹیوٹ میں پروفیسر اور سینئر محقق سینڈرا واچٹر نے ذمہ دارانہ تحقیق اور اختراع میں شفافیت کی اہمیت پر زور دیا۔ انہوں نے دیگر صنعتوں سے مشابہت پیش کرتے ہوئے کہا کہ “اگر یہ کوئی کار یا ہوائی جہاز ہوتا، تو ہم یہ نہیں کہتے: آئیے اسے جلد از جلد مارکیٹ میں لاتے ہیں اور ہم بعد میں حفاظتی پہلوؤں پر غور کریں گے۔” واچٹر نے تشویش کا اظہار کیا کہ جنریٹیو اے آئی کے شعبے میں ایک غالب رویہ ہے کہ “اسے باہر نکالو اور فکر کرو، جانچ کرو اور بعد میں اس کے مسائل کو ٹھیک کرو۔”

سیاسی تبدیلیاں اور مسابقتی دباؤ

حالیہ سیاسی تبدیلیاں، بڑے ٹیک کمپنیوں کے درمیان بڑھتی ہوئی دشمنی کے ساتھ مل کر، سابقہ ​​حفاظتی وعدوں سے دور ہٹنے میں معاون ثابت ہو سکتی ہیں کیونکہ کمپنیاں اے آئی ماڈلز کو تعینات کرنے کے لیے دوڑ رہی ہیں۔ واچٹر نے نوٹ کیا کہ “ان کمپنیوں کے لیے تیز تر، بہتر، پہلے، بہترین اور غالب ہونے کا دباؤ پہلے سے کہیں زیادہ عام ہے،” انہوں نے مزید کہا کہ پوری صنعت میں حفاظتی معیارات گر رہے ہیں۔

یہ کم ہوتے ہوئے معیارات ٹیک ممالک اور کچھ حکومتوں کے درمیان اس بڑھتی ہوئی تشویش کی وجہ سے ہو سکتے ہیں کہ اے آئی سیفٹی کے طریقہ کار اختراع میں رکاوٹ ڈال رہے ہیں۔ امریکہ میں، ٹرمپ انتظامیہ نے بائیڈن انتظامیہ کے مقابلے اے آئی ریگولیشن کے لیے کم سخت نقطہ نظر اپنانے کے اپنے ارادے کا اظہار کیا ہے۔ نئی انتظامیہ پہلے ہی بائیڈن دور کے اے آئی پر ایگزیکٹو آرڈر کو منسوخ کر چکی ہے اور اس نے ٹیک رہنماؤں کے ساتھ قریبی تعلقات استوار کیے ہیں۔ پیرس میں ہونے والی حالیہ اے آئی سربراہی اجلاس میں، امریکی نائب صدر جے ڈی وینس نے کہا کہ “نمو کے حامی اے آئی پالیسیوں” کو حفاظت پر ترجیح دی جانی چاہیے، اور یہ کہ اے آئی “ایک ایسا موقع ہے جسے ٹرمپ انتظامیہ ضائع نہیں کرے گی۔”

اسی سربراہی اجلاس میں، برطانیہ اور امریکہ دونوں نے مصنوعی ذہانت پر ایک بین الاقوامی معاہدے پر دستخط کرنے سے انکار کر دیا جس میں ٹیکنالوجی کی ترقی کے لیے ایک “کھلا”، “جامع” اور “اخلاقی” نقطہ نظر کو فروغ دیا گیا تھا۔

واضح شفافیت کی ضروریات کی ضرورت

بینک اسٹون نے زور دیا کہ “اگر ہم ان کمپنیوں پر یہ بھی اعتماد نہیں کر سکتے ہیں کہ وہ نئے ماڈلز جاری کرتے وقت اپنے سب سے بنیادی حفاظتی اور شفافیت کے وعدوں کو پورا کریں—وہ وعدے جو انہوں نے خود رضاکارانہطور پر کیے تھے—تو وہ واضح طور پر اس شعبے پر غلبہ حاصل کرنے کے لیے اپنی مسابقتی دوڑ میں بہت تیزی سے ماڈلز جاری کر رہی ہیں۔” انہوں نے مزید کہا کہ جیسے جیسے اے آئی ڈیولپرز ان وعدوں میں ناکام ہوتے رہتے ہیں، قانون سازوں پر یہ لازم ہو گا کہ وہ واضح شفافیت کی ضروریات تیار کریں اور ان پر عمل درآمد کریں جن سے کمپنیاں بچ نہیں سکتیں۔

اے آئی گورننس کے لیے وسیع مضمرات

گوگل کے جیمنی 2.5 پرو اور گمشدہ حفاظتی رپورٹ کے گرد تنازعہ مضبوط اے آئی گورننس فریم ورک کی اہم ضرورت کو اجاگر کرتا ہے۔ ان فریم ورکس کو اہم مسائل کو حل کرنا چاہیے جیسے کہ:

• شفافیت: اس بات کو یقینی بنانا کہ اے آئی ڈویلپرز اپنی ماڈلز کی صلاحیتوں، حدود اور ممکنہ خطرات کے بارے میں شفاف ہیں۔
• جوابدہی: اے آئی سسٹمز کی ترقی اور تعیناتی کے لیے جوابدہی کی واضح لائنیں قائم کرنا۔
• حفاظت: نقصان کے خطرے کو کم سے کم کرنے کے لیے سخت حفاظتی جانچ اور تشخیص کے طریقہ کار کو نافذ کرنا۔
• اخلاقی تحفظات: اے آئی سسٹمز کے ڈیزائن اور ترقی میں اخلاقی اصولوں کو ضم کرنا۔
• عوامی شمولیت: اے آئی اور اس کے مضمرات کے بارے میں وسیع تر تفہیم کو فروغ دینے کے لیے عوام کے ساتھ مشغول ہونا۔
• بین الاقوامی تعاون: اے آئی گورننس کے لیے مشترکہ معیارات اور بہترین طریقوں کو تیار کرنے کے لیے بین الاقوامی سطح پر تعاون کرنا۔

جیمنی 2.5 پرو کے ارد گرد شفافیت کی کمی اے آئی گورننس کے ان اہم پہلوؤں کو نظر انداز کرنے کے ممکنہ نتائج کو اجاگر کرتی ہے۔ مناسب شفافیت اور جوابدہی کے بغیر، اے آئی سسٹمز کے حقیقی اثرات کا جائزہ لینا اور یہ یقینی بنانا مشکل ہو جاتا ہے کہ انہیں ذمہ دارانہ اور اخلاقی انداز میں تیار اور تعینات کیا گیا ہے۔

آگے بڑھنا: زیادہ ذمہ داری کا مطالبہ

اے آئی انڈسٹری ایک نازک موڑ پر ہے۔ جیسے جیسے اے آئی ٹیکنالوجیز تیزی سے طاقتور اور وسیع ہوتی جارہی ہیں، یہ ضروری ہے کہ ڈویلپرز حفاظت، شفافیت اور اخلاقی تحفظات کو ترجیح دیں۔ جیمنی 2.5 پرو کے گرد تنازعہ اس بات کی یاد دہانی کا کام کرتا ہے کہ رضاکارانہ وعدے ہمیشہ کافی نہیں ہوتے۔ حکومتوں اور ریگولیٹری اداروں کو واضح معیارات قائم کرنے اور ان پر عمل درآمد کرنے میں زیادہ فعال کردار ادا کرنا چاہیے۔

مزید برآں، اے آئی ڈویلپرز کے لیے یہ ضروری ہے کہ وہ عوام کے ساتھ مشغول ہوں اور اے آئی اور اس کے مضمرات کے بارے میں وسیع تر تفہیم کو فروغ دیں۔ اس میں اے آئی سسٹمز کی حدود اور ممکنہ خطرات کے بارے میں شفاف ہونا، نیز ان خطرات کو کم کرنے کے لیے اٹھائے جانے والے اقدامات کے بارے میں بھی شفاف ہونا شامل ہے۔ مل کر کام کرنے سے، اے آئی انڈسٹری، حکومتیں اور عوام اس بات کو یقینی بنا سکتے ہیں کہ اے آئی ٹیکنالوجیز کو اس انداز میں تیار اور تعینات کیا جائے جو پورے معاشرے کے لیے فائدہ مند ہو۔