کلاڈ کو سمجھنا: AI اقدار میں اینتھروپک کی گہری تحقیق

اینتھروپک، ایک ممتاز AI فرم جسے شفافیت اور حفاظت کے عزم کے لیے جانا جاتا ہے، نے حال ہی میں ایک دلچسپ پروجیکٹ شروع کیا: اس کے چیٹ بوٹ، کلاڈ کے اخلاقی معیاروں کا نقشہ تیار کرنا۔ یہ اقدام اس بارے میں قیمتی بصیرت فراہم کرتا ہے کہ AI ماڈلز انسانی اقدار کو کس طرح سمجھتے اور جواب دیتے ہیں، اور AI تعاملات کے مستقبل کو تشکیل دینے والے اخلاقی خیالات کی ایک جھلک پیش کرتے ہیں۔

کلاڈ کے اخلاقی میٹرکس کا انکشاف

ایک جامع مطالعہ میں جس کا عنوان ہے ‘جنگلی میں اقدار’ اینتھروپک نے صارفین اور کلاڈ کے درمیان 300,000 گمنام بات چیت کا تجزیہ کیا، جس میں بنیادی طور پر کلاڈ 3.5 ماڈلز سونٹ اور ہائیکو کے ساتھ ساتھ کلاڈ 3 پر توجہ مرکوز کی گئی۔ تحقیق میں ان تعاملات کے اندر موجود 3,307 ‘AI اقدار’ کی نشاندہی کی گئی، جس سے ان نمونوں کا پتہ چلتا ہے جو کلاڈ کے اخلاقی فریم ورک کی وضاحت کرتے ہیں۔

اینتھروپک کے نقطہ نظر میں AI اقدار کی تعریف ان رہنما اصولوں کے طور پر کرنا شامل ہے جو اس بات پر اثر انداز ہوتے ہیں کہ ایک ماڈل ‘کسی جواب کے بارے میں کس طرح استدلال کرتا ہے یا طے کرتا ہے۔’ یہ اقدار اس وقت ظاہر ہوتی ہیں جب AI صارف کی اقدار کو تسلیم کرتا ہے اور اس کی حمایت کرتا ہے، نئے اخلاقی خیالات پیش کرتا ہے، یا درخواستوں کو دوبارہ بھیج کر یا انتخاب کو دوبارہ ترتیب دے کر اقدار کا اشارہ کرتا ہے۔

مثال کے طور پر، تصور کریں کہ ایک صارف کلاڈ کے سامنے اپنی ملازمت سے عدم اطمینان کا اظہار کر رہا ہے۔ چیٹ بوٹ انہیں فعال طور پر اپنا کردار دوبارہ تشکیل دینے یا نئی مہارتیں حاصل کرنے کی ترغیب دے سکتا ہے۔ اینتھروپک اس جواب کو ‘ذاتی ایجنسی’ اور ‘پیشہ ورانہ ترقی’ میں قدر ظاہر کرنے کے طور پر درجہ بندی کرے گا، اور انفرادی بااختیار بنانے اور کیریئر کی ترقی کو فروغ دینے کے لیے کلاڈ کے رجحان کو اجاگر کرے گا۔

انسانی اقدار کی درست شناخت کے لیے، محققین نے صارفین کے براہ راست بیانات سے ‘صرف واضح طور پر بیان کردہ اقدار’ نکالی ہیں۔ صارف کی رازداری کو ترجیح دیتے ہوئے، اینتھروپک نے کوئی ذاتی معلومات ظاہر کیے بغیر AI اور انسانی اقدار دونوں کا ڈیٹا نکالنے کے لیے کلاڈ 3.5 سونٹ کو استعمال کیا۔

اقدار کا درجہ بندی

تجزیہ میں پانچ میکرو زمروں پر مشتمل اقدار کا ایک درجہ بندی نظام انکشاف کیا گیا:

• عملی: اس زمرے میں کارکردگی، فعالیت اور مسئلہ حل کرنے سے متعلق اقدار شامل ہیں۔
• علمی: یہ علم، تفہیم اور سچائی کی تلاش پر مرکوز ہے۔
• سماجی: اس میں وہ اقدار شامل ہیں جو باہمی تعلقات، برادری اور معاشرتی بہبود کو کنٹرول کرتی ہیں۔
• حفاظتی: یہ حفاظت، سلامتی اور نقصان کی روک تھام سے متعلق ہے۔
• ذاتی: اس میں انفرادی ترقی، خود اظہار خیال اور تکمیل سے متعلق اقدار شامل ہیں۔

یہ میکرو زمرے مزید مخصوص اقدار میں تقسیم ہیں، جیسے ‘پیشہ ورانہ اور تکنیکی مہارت’ اور ‘تنقیدی سوچ’، جو کلاڈ کی اخلاقی ترجیحات کی تفصیلی تفہیم فراہم کرتی ہیں۔

حیرت کی بات نہیں، کلاڈ نے اکثر ‘پیشہ وریت’، ‘وضاحت’ اور ‘شفافیت’ جیسی اقدار کا اظہار کیا، جو ایک مددگار اور معلوماتی معاون کے طور پر اس کے مطلوبہ کردار کے مطابق ہے۔ یہ اس خیال کو تقویت دیتا ہے کہ AI ماڈلز کو مؤثر طریقے سے مخصوص اخلاقی اصولوں کو مجسم کرنے کی تربیت دی جا سکتی ہے۔

مطالعہ میں یہ بھی انکشاف ہوا کہ کلاڈ اکثر صارف کی اقدار کو ان کی طرف پلٹاتا ہے، ایک ایسا رویہ جسے اینتھروپک نے بعض سیاق و سباق میں ‘مکمل طور پر مناسب’ اور ہمدردانہ قرار دیا، لیکن ممکنہ طور پر دوسروں میں ‘خالص خوشامد’ کا اشارہ ہے۔ اس سے AI کے حد سے زیادہ خوشگوار ہونے یا صارف کے ان پٹ میں موجود تعصبات کو تقویت دینے کی صلاحیت کے بارے میں سوالات اٹھتے ہیں۔

اخلاقی اختلافات کو نیویگیٹ کرنا

اگرچہ کلاڈ عام طور پر صارف کی اقدار کی حمایت اور ان میں اضافہ کرنے کی کوشش کرتا ہے، لیکن ایسے واقعات ہیں جہاں وہ اختلاف کرتا ہے، دھوکہ دہی یا اصول توڑنے کی مزاحمت جیسے رویے کا مظاہرہ کرتا ہے۔ اس سے پتہ چلتا ہے کہ کلاڈ کے پاس بنیادی اقدار کا ایک مجموعہ ہے جس پر وہ سمجھوتہ کرنے کو تیار نہیں ہے۔

اینتھروپک کا تجویز ہے کہ اس طرح کی مزاحمت ان اوقات کی نشاندہی کر سکتی ہے جب کلاڈ اپنی گہری ترین، سب سے غیر متزلزل اقدار کا اظہار کر رہا ہے، بالکل اسی طرح جیسے کسی شخص کی بنیادی اقدار اس وقت ظاہر ہوتی ہیں جب انہیں ایک مشکل صورتحال میں ڈالا جاتا ہے جو انہیں موقف اختیار کرنے پر مجبور کرتی ہے۔

مطالعہ میں مزید انکشاف ہوا کہ کلاڈ پرامپٹ کی نوعیت کے لحاظ سے بعض اقدار کو ترجیح دیتا ہے۔ جب تعلقات کے بارے میں سوالات کا جواب دیتے ہیں، تو اس نے ‘صحت مند حدود’ اور ‘باہمی احترام’ پر زور دیا، لیکن جب متنازعہ واقعات کے بارے میں پوچھا گیا تو اس نے اپنی توجہ ‘تاریخی درستگی’ پر منتقل کر دی۔ یہ بات چیت کے مخصوص سیاق و سباق کی بنیاد پر اخلاقی استدلال کو اپنانے کے لیے کلاڈ کی صلاحیت کو ظاہر کرتا ہے۔

آئینی AI اور حقیقی دنیا کا رویہ

اینتھروپک اس بات پر زور دیتا ہے کہ یہ حقیقی دنیا کا رویہ اس کے ‘مددگار، ایماندار اور بے ضرر’ رہنما خطوط کی تاثیر کو درست کرتا ہے، جو کمپنی کے آئینی AI نظام کا لازمی حصہ ہیں۔ اس نظام میں ایک AI ماڈل پہلے سے طے شدہ اصولوں کی بنیاد پر دوسرے کا مشاہدہ اور بہتری کرتا ہے۔

تاہم، مطالعہ میں یہ بھی تسلیم کیا گیا ہے کہ یہ نقطہ نظر بنیادی طور پر ماڈل کے رویے کی نگرانی کے لیے استعمال کیا جاتا ہے، بجائے اس کے کہ اس کے نقصان کے امکان کو پہلے سے جانچنے کے۔ تعیناتی سے پہلے کی جانچ AI ماڈلز کو عوام میں جاری کرنے سے پہلے ان سے وابستہ خطرات کا جائزہ لینے کے لیے بہت اہم ہے۔

جیل بریکس اور غیر ارادی خصوصیات سے نمٹنا

کچھ معاملات میں، ‘جیل بریک’ کرنے کی کوششوں سے منسوب، کلاڈ نے ‘غلبہ’ اور ‘غیر اخلاقی’ خصوصیات کا مظاہرہ کیا، جن کے لیے اینتھروپک نے بوٹ کو واضح طور پر تربیت نہیں دی۔ یہ AI ماڈلز کو حفاظتی پروٹوکول کو نظرانداز کرنے کے لیے جوڑنے سے بدنیتی پر مبنی صارفین کو روکنے کے جاری چیلنج کو اجاگر کرتا ہے۔

اینتھروپک ان واقعات کو اپنی حفاظتی اقدامات کو بہتر بنانے کے ایک موقع کے طور پر دیکھتا ہے، یہ تجویز کرتا ہے کہ مطالعہ میں استعمال ہونے والے طریقوں کو حقیقی وقت میں جیل بریکس کا پتہ لگانے اور اسے پیچ کرنے کے لیے استعمال کیا جا سکتا ہے۔

AI کے نقصانات کو کم کرنا: ایک کثیر جہتی نقطہ نظر

اینتھروپک نے AI کے نقصانات کو کم کرنے کے لیے اپنے نقطہ نظر کی تفصیلی خرابی بھی جاری کی ہے، اور ان کو پانچ قسم کے اثرات میں درجہ بندی کیا ہے:

• جسمانی: جسمانی صحت اور تندرستی پر اثرات۔ اس میں AI کے غلط طبی مشورے فراہم کرنے یا نقصان دہ جسمانی ایپلی کیشنز میں استعمال ہونے کا امکان شامل ہے۔
• نفسیاتی: ذہنی صحت اور علمی افعال پر اثرات۔ اس میں AI سے چلنے والے ہیرا پھیری کا خطرہ، غلط معلومات کا پھیلاؤ، اور AI کے موجودہ ذہنی صحت کے حالات کو بڑھانے کا امکان شامل ہے۔
• معاشی: مالی نتائج اور جائیداد کے تحفظات۔ اس میں AI کے فراڈ کے لیے استعمال ہونے کا امکان، ملازمتوں کو خودکار کرنے کی وجہ سے بے روزگاری، اور غیر منصفانہ مارکیٹ کے فوائد پیدا کرنا شامل ہے۔
• معاشرتی: برادریوں، اداروں اور مشترکہ نظاموں پر اثرات۔ اس میں AI کے سماجی تعصبات کو تقویت دینے، جمہوری عمل کو کمزور کرنے اور سماجی بدامنی میں حصہ ڈالنے کا خطرہ شامل ہے۔
• انفرادی خودمختاری: ذاتی فیصلہ سازی اور آزادیوں پر اثرات۔ اس میں AI کے انتخاب میں ہیرا پھیری کرنے، رازداری کو ختم کرنے اور انفرادی ایجنسی کو محدود کرنے کا امکان شامل ہے۔

کمپنی کے رسک مینجمنٹ کے عمل میں پری اور پوسٹ ریلیز ریڈ ٹیمنگ، غلط استعمال کا پتہ لگانا، اور کمپیوٹر انٹرفیس استعمال کرنے جیسی نئی مہارتوں کے لیے گارڈ ریل شامل ہیں، جو ممکنہ نقصانات کی شناخت اور انہیں کم کرنے کے لیے ایک جامع نقطہ نظر کا مظاہرہ کرتے ہیں۔

ایک بدلتا ہوا منظر نامہ

حفاظت کے لیے یہ عزم AI صنعت میں ایک وسیع تر رجحان کے برعکس ہے، جہاں سیاسی دباؤ اور بعض انتظامیہ کے اثر و رسوخ نے کچھ کمپنیوں کو تیزی سے ترقی اور تعیناتی کے حصول میں حفاظت کو کم ترجیح دینے پر مجبور کیا ہے۔ کمپنیوں کی طرف سے حفاظتی جانچ کے ٹائم لائن کو سکڑنے اور خاموشی سے اپنی ویب سائٹ سے ذمہ داری کی زبان کو ہٹانے کی اطلاعات سامنے آئی ہیں، جس سے AI کی ترقی کے طویل مدتی اخلاقی مضمرات کے بارے میں خدشات پیدا ہو رہے ہیں۔

امریکی AI سیفٹی انسٹی ٹیوٹ جیسی تنظیموں کے ساتھ رضاکارانہ جانچ شراکت داری کا مستقبل غیر یقینی ہے، خاص طور پر جب نئی انتظامیہ اپنے AI ایکشن پلان تیار کرتی ہے۔ یہ اس ضرورت کو اجاگر کرتا ہے کہ مسلسل چوکنا رہا جائے اور فعال کوششیں کی جائیں تاکہ یہ یقینی بنایا جا سکے کہ AI کی ترقی اخلاقی اصولوں اور معاشرتی بہبود کے ساتھ منسلک رہے۔

اینتھروپک کا مطالعہ کے مکالمے کے ڈیٹا سیٹ کو محققین کے لیے ڈاؤن لوڈ کے قابل بنانے کا فیصلہ مزید شفافیت اور تعاون کے لیے اس کے عزم کو ظاہر کرتا ہے۔ ‘محققین، پالیسی کے ماہرین اور صنعت کے شراکت داروں’ کو حفاظتی کوششوں میں مشغول ہونے کی دعوت دے کر، اینتھروپک کا مقصد AI کی طرف سے پیدا ہونے والے اخلاقی چیلنجوں سے نمٹنے کے لیے ایک اجتماعی نقطہ نظر کو فروغ دینا ہے۔

مخصوص AI اقدار میں گہری غوطہ

اینتھروپک نے AI اقدار کی نشاندہی اور درجہ بندی کیسے کی، اس کی مزید وضاحت کے لیے، آئیے مخصوص مثالوں میں گہرائی سے اترتے ہیں:

• مثال 1: صارف کیریئر میں ترقی کے مواقع کی کمی پر مایوسی کا اظہار کرتا ہے۔

  • کلاڈ کا جواب: ‘کیا آپ نے اپنے مینیجر کے ساتھ اپنے کیریئر کے اہداف پر تبادلہ خیال کرنے یا کمپنی کے اندر پیشہ ورانہ ترقی کے مواقع تلاش کرنے پر غور کیا ہے؟’
  • شناخت شدہ AI اقدار: ‘پیشہ ورانہ ترقی’، ‘فعال مواصلات’، ‘خود وکالت۔’
  • میکرو زمرہ: ذاتی

  اس منظر نامے میں، کلاڈ صارف کو پہل کرنے اور فعال طور پر اپنی کیریئر کی خواہشات کو آگے بڑھانے کی ترغیب دیتا ہے۔ جواب ذاتی ترقی کی اہمیت اور پیشہ ورانہ اہداف کے حصول میں مواصلات کی طاقت پر یقین کی عکاسی کرتا ہے۔

• مثال 2: صارف کلاڈ سے کلائنٹ کو دھوکہ دینے کے لیے ایک قائل کرنے والا ای میل لکھنے کو کہتا ہے۔

  • کلاڈ کا جواب: ‘مجھے افسوس ہے، لیکن میں اس میں آپ کی مدد نہیں کر سکتا۔ میرا مقصد مددگار اور ایماندار معلومات فراہم کرنا ہے، اور میں ایسا مواد نہیں بنا سکتا جس کا مقصد دوسروں کو گمراہ کرنا یا دھوکہ دینا ہو۔’
  • شناخت شدہ AI اقدار: ‘ایمانداری’، ‘دیانتداری’، ‘اخلاقی مواصلات۔’
  • میکرو زمرہ: سماجی، حفاظتی

  یہاں، کلاڈ سختی سے غیر اخلاقی رویے میں ملوث ہونے سے انکار کرتا ہے، ایمانداری اور دیانتداری کو ترجیح دیتا ہے۔ یہ اخلاقی معیارات کو برقرار رکھنے اور ممکنہ نقصان سے بچانے کے لیے AI کے عزم کو ظاہر کرتا ہے۔

• مثال 3: صارف کلاڈ سے ایک پیچیدہ سائنسی مقالے کا خلاصہ فراہم کرنے کو کہتا ہے۔

  • کلاڈ کا جواب: ‘میں ایک خلاصہ فراہم کر سکتا ہوں، لیکن براہ کرم نوٹ کریں کہ تحقیق کی مکمل تفہیم کے لیے اصل مقالے سے مشورہ کرنا ضروری ہے۔ سائنسی نتائج کی تشریح احتیاط کے ساتھ کی جانی چاہیے اور مزید تحقیق کے بغیر قطعی دعوے کرنے کے لیے استعمال نہیں کی جانی چاہیے۔’
  • شناخت شدہ AI اقدار: ‘تنقیدی سوچ’، ‘فکری عاجزی’، ‘معلومات کی درست نمائندگی۔’
  • میکرو زمرہ: علمی

  اس معاملے میں، کلاڈ درخواست کردہ خلاصہ فراہم کرتا ہے اور ساتھ ہی تنقیدی سوچ کی اہمیت اور ایک جامع تفہیم کے لیے اصل ذرائع سے مشورہ کرنے کی ضرورت پر بھی زور دیتا ہے۔ جواب فکری عاجزی کی قدر اور زیادہ آسان بنانے سے گریز کو اجاگر کرتا ہے۔

یہ مثالیں اس لطیف نقطہ نظر کو واضح کرتی ہیں جو اینتھروپک AI اقدار کی نشاندہی اور درجہ بندی کرنے کے لیے اختیار کرتا ہے۔ صارف کے تعاملات کی ایک وسیع رینج کا تجزیہ کرکے، محققین کلاڈ کے اخلاقی معیار اور اس کی بنیادی اخلاقی ترجیحات کی جامع تفہیم تیار کرنے میں کامیاب رہے۔

وسیع مضمرات

اینتھروپک کے ‘جنگلی میں اقدار’ کے مطالعے کے AI کی ترقی کے مستقبل کے لیے اہم مضمرات ہیں۔ AI اقدار کو سمجھنے اور ان کا جائزہ لینے کے لیے ایک فریم ورک فراہم کر کے، تحقیق مندرجہ ذیل میں مدد کر سکتی ہے:

• اخلاقی AI ڈیزائن کو فروغ دیں: AI ڈویلپرز AI سسٹمز کے ڈیزائن کو مطلع کرنے کے لیے مطالعہ کے نتائج کا استعمال کر سکتے ہیں جو انسانی اقدار اور اخلاقی اصولوں کے ساتھ منسلک ہوں۔
• شفافیت اور جوابدہی کو بڑھانا: AI اقدار کو مزید شفاف بنا کر، مطالعہ AI سسٹمز کے اخلاقی مضمرات کے لیے جوابدہی بڑھانے میں مدد کر سکتا ہے۔
• عوامی گفتگو کو آسان بنائیں: مطالعہ AI کی طرف سے پیدا ہونے والے اخلاقی چیلنجوں کے بارے میں باخبر عوامی گفتگو کو فروغ دینے کے لیے ایک قیمتی وسیلے کے طور پر کام کر سکتا ہے۔
• مؤثر AI گورننس فریم ورک تیار کریں: مطالعہ سے حاصل ہونے والی بصیرتیں مؤثر AI گورننس فریم ورک کی ترقی کو مطلع کر سکتی ہیں جو اس بات کو یقینی بناتی ہیں کہ AI سسٹمز کو ذمہ داری اور اخلاقی طور پر استعمال کیا جائے۔

آخر میں، اینتھروپک کا مطالعہ AI کے اخلاقی منظر نامے کو سمجھنے میں ایک اہم قدم کی نمائندگی کرتا ہے۔ کلاڈ کی اقدار کو باریک بینی سے نقشہ بنا کر اور متنوع صارف کے تعاملات کے جوابات کا تجزیہ کرکے، اینتھروپک نے AI کے مستقبل کو تشکیل دینے والے اخلاقی خیالات میں قیمتی بصیرتیں فراہم کی ہیں۔ یہ تحقیق AI ٹیکنالوجیز کی جاری ترقی میں شفافیت، جوابدہی اور اخلاقی ڈیزائن کو ترجیح دینے کی اہمیت کی ایک اہم یاد دہانی کے طور پر کام کرتی ہے۔