ٹین ایبل ریسرچ نے ایک اہم تحقیق کا انکشاف کیا ہے جو بڑے پیمانے پر زیر بحث اے آئی کمزوری کے نقطہ نظر کو نئی تعریف دیتی ہے۔ ایک تفصیلی تجزیہ میں، ٹین ایبل کے بین سمتھ نے یہ واضح کیا ہے کہ کس طرح پرامپٹ انجیکشن سے ملتی جلتی تکنیکوں کو بڑے لسانی ماڈل (LLM) ٹول کالز کی آڈٹ، نگرانی اور یہاں تک کہ فائر وال بنانے کے لیے مؤثر طریقے سے دوبارہ استعمال کیا جا سکتا ہے جو تیزی سے مقبول ماڈل کانٹیکسٹ پروٹوکول (MCP) کے اندر کام کرتے ہیں۔
ماڈل کانٹیکسٹ پروٹوکول (MCP)، جو اینتھروپک کی طرف سے تیار کردہ ایک نیا معیار ہے، اے آئی چیٹ بوٹس کو بیرونی ٹولز کے ساتھ انضمام کی سہولت فراہم کرتا ہے، جس سے وہ خود مختار طور پر کام انجام دینے کے قابل ہوتے ہیں۔ تاہم، یہ سہولت نئی حفاظتی چیلنجوں کو متعارف کراتی ہے۔ حملہ آور پوشیدہ ہدایات داخل کر سکتے ہیں، جنہیں پرامپٹ انجیکشن کے نام سے جانا جاتا ہے، یا اے آئی کو اس کے اپنے قوانین کی خلاف ورزی کرنے پر مجبور کرنے کے لیے بدنیتی پر مبنی ٹولز متعارف کروا سکتے ہیں۔ ٹین ایبل کی تحقیق ان خطرات کا جامع جائزہ لیتی ہے اور ایک منفرد حل تجویز کرتی ہے: حملوں میں استعمال ہونے والی تکنیکوں کو مضبوط دفاع بنانے کے لیے استعمال کرنا جو ہر اس ٹول کی نگرانی، معائنہ اور کنٹرول کرتے ہیں جسے اے آئی استعمال کرنے کی کوشش کرتا ہے۔
ایم سی پی سیکیورٹی کو سمجھنے کی اہمیت
جیسے جیسے کاروبار تیزی سے ایل ایل ایم کو اہم کاروباری ٹولز کے ساتھ ضم کر رہے ہیں، سی آئی ایس اوز، اے آئی انجینئرز اور سیکیورٹی محققین کے لیے یہ ضروری ہے کہ وہ ایم سی پی کی طرف سے پیش کردہ خطرات اور دفاعی مواقع کو مکمل طور پر سمجھیں۔
ٹین ایبل میں سینئر اسٹاف ریسرچ انجینئر بین سمتھ نے نوٹ کیا کہ "ایم سی پی ایک تیزی سے تیار ہونے والی اور ناتجربہ کار ٹیکنالوجی ہے جو ہمارے اے آئی کے ساتھ تعامل کرنے کے انداز کو نئی شکل دے رہی ہے۔ ایم سی پی ٹولز کو تیار کرنا آسان اور وافر ہے، لیکن وہ ڈیزائن کے ذریعے سیکیورٹی کے اصولوں کو مجسم نہیں کرتے اور ان سے احتیاط سے نمٹا جانا چاہیے۔ لہذا، اگرچہ یہ نئی تکنیک طاقتور ٹولز بنانے کے لیے کارآمد ہیں، لیکن ان طریقوں کو مذموم مقاصد کے لیے دوبارہ استعمال کیا جا سکتا ہے۔ احتیاط کو ہوا میں نہ اڑائیں؛ اس کے بجائے، ایم سی پی سرورز کو اپنے حملے کی سطح کی توسیع کے طور پر سلوک کریں۔"
تحقیق کی اہم جھلکیاں
مختلف ماڈل کا برتاؤ مختلف:
- کلاڈ سونیٹ 3.7 اور جیمنی 2.5 پرو تجرباتی نے مسلسل لاگر کو استعمال کیا اور سسٹم پرامپٹ کے حصوں کو بے نقاب کیا۔
- جی پی ٹی-4o نے بھی لاگر داخل کیا لیکن ہر رن میں مختلف (اور بعض اوقات غیر حقیقی) پیرامیٹر ویلیوز تیار کیں۔
سیکیورٹی اپ سائیڈ: حملہ آوروں کے ذریعہ استعمال ہونے والے میکانزم کو ڈیفنڈرز ٹول چینز کی آڈٹ کرنے، بدنیتی پر مبنی یا نامعلوم ٹولز کا پتہ لگانے اور ایم سی پی میزبانوں کے اندر گارڈ ریل بنانے کے لیے استعمال کرسکتے ہیں۔
واضح صارف کی منظوری: کسی بھی ٹول کے عمل سے پہلے ایم سی پی کو پہلے ہی واضح صارف کی منظوری کی ضرورت ہے۔ یہ تحقیق سخت کم سے کم مراعات کے اصولوں اور مکمل انفرادی ٹول کے جائزے اور جانچ کی ضرورت پر زور دیتی ہے۔
ماڈل کانٹیکسٹ پروٹوکول (MCP) میں گہری غوطہ
ماڈل کانٹیکسٹ پروٹوکول (ایم سی پی) اس بات میں ایک مثالی تبدیلی کی نمائندگی کرتا ہے کہ اے آئی ماڈلز بیرونی دنیا کے ساتھ کیسے تعامل کرتے ہیں۔ روایتی اے آئی سسٹمز کے برعکس جو تنہائی میں کام کرتے ہیں، ایم سی پی اے آئی ماڈلز کو بیرونی ٹولز اور سروسز کے ساتھ بغیر کسی رکاوٹ کے ضم ہونے کی اجازت دیتا ہے، جس سے وہ وسیع پیمانے پر کام انجام دینے کے قابل ہوتے ہیں، ڈیٹا بیس تک رسائی اور ای میل بھیجنے سے لے کر فزیکل ڈیوائسز کو کنٹرول کرنے تک۔ یہ انضمام اے آئی ایپلی کیشنز کے لیے نئی امکانات کھولتا ہے، لیکن یہ نئے حفاظتی خطرات بھی متعارف کراتا ہے جنہیں احتیاط سے حل کرنا ضروری ہے۔
MCP کے فن تعمیر کو سمجھنا
اپنے مرکز میں، ایم سی پی کئی اہم اجزاء پر مشتمل ہے جو اے آئی ماڈلز اور بیرونی ٹولز کے مابین مواصلات کو آسان بنانے کے لیے مل کر کام کرتے ہیں۔ ان اجزاء میں شامل ہیں:
- اے آئی ماڈل: یہ مرکزی ذہانت ہے جو سسٹم کو چلاتی ہے۔ یہ ایک بڑا لسانی ماڈل (ایل ایل ایم) جیسے جی پی ٹی-4 یا ایک مخصوص ٹاسک کے لیے ڈیزائن کیا گیا ایک خصوصی اے آئی ماڈل ہو سکتا ہے۔
- ایم سی پی سرور: یہ اے آئی ماڈل اور بیرونی ٹولز کے درمیان ثالث کا کام کرتا ہے۔ یہ اے آئی ماڈل سے درخواستیں وصول کرتا ہے، ان کی توثیق کرتا ہے، اور انہیں مناسب ٹول پر بھیجتا ہے۔
- بیرونی ٹولز: یہ وہ خدمات اور ایپلی کیشنز ہیں جن کے ساتھ اے آئی ماڈل تعامل کرتا ہے۔ ان میں ڈیٹا بیس، اے پی آئی، ویب سروسز اور یہاں تک کہ فزیکل ڈیوائسز شامل ہو سکتے ہیں۔
- یوزر انٹرفیس: یہ صارفین کے لیے اے آئی سسٹم کے ساتھ تعامل کرنے اور اس کے رویے کو کنٹرول کرنے کا ایک طریقہ فراہم کرتا ہے۔ یہ صارفین کے لیے ٹول کی درخواستوں کو منظور یا مسترد کرنے کا ایک طریقہ بھی فراہم کر سکتا ہے۔
ایم سی پی کے فوائد
ماڈل کانٹیکسٹ پروٹوکول روایتی اے آئی سسٹمز کے مقابلے میں کئی اہم فوائد پیش کرتا ہے:
- فعالیت میں اضافہ: بیرونی ٹولز کے ساتھ ضم ہو کر، اے آئی ماڈلز بہت زیادہ وسیع پیمانے پر کام انجام دے سکتے ہیں جو وہ خود سے کر سکتے تھے۔
- بہتر کارکردگی: ایم سی پی ان کاموں کو خودکار کر سکتا ہے جن کے لیے بصورت دیگر انسانی مداخلت کی ضرورت ہوگی، وقت اور وسائل کی بچت ہوگی۔
- بڑھی ہوئی لچک: ایم سی پی اے آئی ماڈلز کو بدلتے ہوئے حالات کے مطابق ڈھالنے اور حقیقی وقت میں نئی معلومات کا جواب دینے کی اجازت دیتا ہے۔
- زیادہ توسیع پذیری: ایم سی پی کو صارفین اور ٹولز کی بڑھتی ہوئی تعداد کو ایڈجسٹ کرنے کے لیے آسانی سے بڑھایا جا سکتا ہے۔
ایم سی پی میں ابھرتے ہوئے حفاظتی خطرات
اپنے فوائد کے باوجود، ایم سی پی کئی حفاظتی خطرات متعارف کراتا ہے جن پر احتیاط سے غور کرنا ضروری ہے۔ یہ خطرات اس حقیقت سے پیدا ہوتے ہیں کہ ایم سی پی اے آئی ماڈلز کو بیرونی دنیا کے ساتھ تعامل کرنے کی اجازت دیتا ہے، جو حملہ آوروں کے استحصال کے لیے نئے راستے کھولتا ہے۔
پرامپٹ انجیکشن حملے
پرامپٹ انجیکشن حملے ایم سی پی سسٹمز کے لیے خاص طور پر تشویشناک خطرہ ہیں۔ پرامپٹ انجیکشن حملے میں، ایک حملہ آور ایک بدنیتی پر مبنی ان پٹ تیار کرتا ہے جو اے آئی ماڈل کو غیر ارادی افعال انجام دینے پر مجبور کرتا ہے۔ یہ اے آئی ماڈل کے ان پٹ میں بدنیتی پر مبنی کمانڈز یا ہدایات داخل کرکے کیا جا سکتا ہے، جسے ماڈل پھر جائز کمانڈز کے طور پر تعبیر کرتا ہے۔
مثال کے طور پر، ایک حملہ آور ایک کمانڈ داخل کر سکتا ہے جو اے آئی ماڈل کو ڈیٹا بیس میں موجود تمام ڈیٹا کو حذف کرنے یا غیر مجاز پارٹی کو حساس معلومات بھیجنے کے لیے کہتی ہے۔ ایک کامیاب پرامپٹ انجیکشن حملے کے ممکنہ نتائج سنگین ہو سکتے ہیں، بشمول ڈیٹا کی خلاف ورزی، مالی نقصان اور ساکھ کو نقصان۔
بدنیتی پر مبنی ٹول انضمام
ایک اور اہم خطرہ ایم سی پی ایکو سسٹم میں بدنیتی پر مبنی ٹولز کا انضمام ہے۔ ایک حملہ آور ایک ٹول بنا سکتا ہے جو جائز دکھائی دیتا ہے لیکن اس میں درحقیقت بدنیتی پر مبنی کوڈ موجود ہوتا ہے۔ جب اے آئی ماڈل اس ٹول کے ساتھ تعامل کرتا ہے، تو بدنیتی پر مبنی کوڈ پر عمل کیا جا سکتا ہے، ممکنہ طور پر پورے سسٹم کو خطرے میں ڈال سکتا ہے۔
مثال کے طور پر، ایک حملہ آور ایک ایسا ٹول بنا سکتا ہے جو صارف کے اسناد چرا لیتا ہے یا سسٹم پر مالویئر انسٹال کرتا ہے۔ بدنیتی پر مبنی کوڈ کے تعارف کو روکنے کے لیے ایم سی پی ایکو سسٹم میں انضمام کرنے سے پہلے تمام ٹولز کی احتیاط سے جانچ کرنا ضروری ہے۔
مراعات میں اضافہ
مراعات میں اضافہ ایم سی پی سسٹمز میں ایک اور ممکنہ حفاظتی خطرہ ہے۔ اگر کوئی حملہ آور محدود مراعات والے اکاؤنٹ تک رسائی حاصل کر سکتا ہے، تو وہ سسٹم میں موجود کمزوریوں کا استحصال کرکے اعلیٰ سطحی مراعات حاصل کرنے کے قابل ہو سکتا ہے۔ یہ حملہ آور کو حساس ڈیٹا تک رسائی، سسٹم کنفیگریشنز میں ترمیم یا یہاں تک کہ پورے سسٹم کا کنٹرول حاصل کرنے کی اجازت دے سکتا ہے۔
ڈیٹا پوائزننگ
ڈیٹا پوائزننگ میں اے آئی ماڈلز بنانے کے لیے استعمال ہونے والے تربیتی ڈیٹا میں بدنیتی پر مبنی ڈیٹا داخل کرنا شامل ہے۔ یہ ماڈل کے رویے کو خراب کر سکتا ہے، جس کی وجہ سے وہ غلط پیشین گوئیاں کرتا ہے یا غیر ارادی افعال انجام دیتا ہے۔ ایم سی پی کے تناظر میں، ڈیٹا پوائزننگ کا استعمال اے آئی ماڈل کو بدنیتی پر مبنی ٹولز کے ساتھ تعامل کرنے یا دیگر نقصان دہ افعال انجام دینے پر مجبور کرنے کے لیے کیا جا سکتا ہے۔
مرئیت اور کنٹرول کی کمی
روایتی حفاظتی ٹولز اکثر ایم سی پی سسٹمز کے خلاف حملوں کا پتہ لگانے اور روکنے میں غیر مؤثر ہوتے ہیں۔ اس کی وجہ یہ ہے کہ ایم سی پی ٹریفک اکثر انکرپٹڈ ہوتا ہے اور اسے جائز ٹریفک سے الگ کرنا مشکل ہو سکتا ہے۔ نتیجے کے طور پر، اے آئی ماڈل کی سرگرمی کی نگرانی کرنا اور بدنیتی پر مبنی رویے کی شناخت کرنا مشکل ہو سکتا ہے۔
میزیں پلٹنا: دفاع کے لیے پرامپٹ انجیکشن کا استعمال
ٹین ایبل کی تحقیق سے ثابت ہوتا ہے کہ پرامپٹ انجیکشن حملوں میں استعمال ہونے والی تکنیکوں کو ایم سی پی سسٹمز کے لیے مضبوط دفاع بنانے کے لیے دوبارہ استعمال کیا جا سکتا ہے۔ احتیاط سے ڈیزائن کیے گئے پرامپٹس تیار کرکے، سیکیورٹی ٹیمیں اے آئی ماڈل کی سرگرمی کی نگرانی کر سکتی ہیں، بدنیتی پر مبنی ٹولز کا پتہ لگا سکتی ہیں اور حملوں کو روکنے کے لیے گارڈ ریل بنا سکتی ہیں۔
آڈٹنگ ٹول چینز
پرامپٹ انجیکشن کی اہم دفاعی ایپلی کیشنز میں سے ایک آڈٹنگ ٹول چینز ہے۔ اے آئی ماڈل کے ان پٹ میں مخصوص پرامپٹس داخل کرکے، سیکیورٹی ٹیمیں ٹریک کر سکتی ہیں کہ اے آئی ماڈل کون سے ٹولز استعمال کر رہا ہے اور وہ ان کے ساتھ کیسے تعامل کر رہا ہے۔ اس معلومات کا استعمال مشکوک سرگرمی کی شناخت کرنے اور یہ یقینی بنانے کے لیے کیا جا سکتا ہے کہ اے آئی ماڈل صرف مجاز ٹولز استعمال کر رہا ہے۔
بدنیتی پر مبنی یا نامعلوم ٹولز کا پتہ لگانا
پرامپٹ انجیکشن کا استعمال بدنیتی پر مبنی یا نامعلوم ٹولز کا پتہ لگانے کے لیے بھی کیا جا سکتا ہے۔ مخصوص رویے کو متحرک کرنے والے پرامپٹس داخل کرکے، سیکیورٹی ٹیمیں ان ٹولز کی شناخت کر سکتی ہیں جو مشکوک طور پر کام کر رہے ہیں یا جنہیں استعمال کرنے کی اجازت نہیں ہے۔ یہ اے آئی ماڈل کو بدنیتی پر مبنی ٹولز کے ساتھ تعامل کرنے سے روکنے اور سسٹم کو حملے سے بچانے میں مدد کر سکتا ہے۔
ایم سی پی میزبانوں کے اندر گارڈ ریل بنانا
شاید پرامپٹ انجیکشن کی سب سے طاقتور دفاعی ایپلی کیشن ایم سی پی میزبانوں کے اندر گارڈ ریل بنانا ہے۔ مخصوص سیکیورٹی پالیسیوں کو نافذ کرنے والے پرامپٹس داخل کرکے، سیکیورٹی ٹیمیں اے آئی ماڈل کو غیر مجاز افعال انجام دینے یا حساس ڈیٹا تک رسائی سے روک سکتی ہیں۔ یہ اے آئی ماڈل پر عمل درآمد کے لیے ایک محفوظ ماحول بنانے اور سسٹم کو حملے سے بچانے میں مدد کر سکتا ہے۔
واضح صارف کی منظوری کی اہمیت
تحقیق ایم سی پی ماحول میں کسی بھی ٹول کے عمل سے پہلے واضح صارف کی منظوری کی اہم ضرورت کو اجاگر کرتی ہے۔ ایم سی پی میں پہلے ہی یہ ضرورت شامل ہے، لیکن نتائج سخت کم سے کم مراعات کے اصولوں اور مکمل انفرادی ٹول کے جائزے اور جانچ کی ضرورت کو تقویت بخشتے ہیں۔ یہ نقطہ نظر اس بات کو یقینی بناتا ہے کہ صارفین اے آئی سسٹم پر کنٹرول برقرار رکھیں اور اسے غیر ارادی افعال انجام دینے سے روک سکیں۔
کم سے کم مراعات کے ڈیفالٹس
کم سے کم مراعات کا اصول یہ حکم دیتا ہے کہ صارفین کو صرف ان کی نوکری کے افعال انجام دینے کے لیے ضروری رسائی کی کم سے کم سطح دی جانی چاہیے۔ ایم سی پی کے تناظر میں، اس کا مطلب ہے کہ اے آئی ماڈلز کو صرف ان ٹولز اور ڈیٹا تک رسائی دی جانی چاہیے جن کی انہیں اپنے کام انجام دینے کے لیے بالکل ضرورت ہے۔ یہ ایک کامیاب حملے کے ممکنہ اثرات کو کم کرتا ہے اور حملہ آور کی مراعات میں اضافے کی صلاحیت کو محدود کرتا ہے۔
مکمل ٹول کا جائزہ اور جانچ
ایم سی پی ایکو سسٹم میں کسی بھی ٹول کو ضم کرنے سے پہلے، اس کی احتیاط سے جانچ کرنا اور جانچنا ضروری ہے تاکہ یہ یقینی بنایا جا سکے کہ یہ محفوظ ہے اور اس میں کوئی بدنیتی پر مبنی کوڈ موجود نہیں ہے۔ اس میں خودکار اور دستی جانچ کی تکنیکوں کا مجموعہ شامل ہونا چاہیے، بشمول کوڈ تجزیہ، پینیٹریشن ٹیسٹنگ اور کمزوری سکیننگ۔
مضمرات اور سفارشات
ٹین ایبل کی تحقیق ان تنظیموں کے لیے اہم مضمرات رکھتی ہے جو ایم سی پی استعمال کر رہی ہیں یا کرنے کا ارادہ رکھتی ہیں۔ نتائج ایم سی پی سے وابستہ حفاظتی خطرات کو سمجھنے اور ان خطرات کو کم کرنے کے لیے مناسب حفاظتی اقدامات نافذ کرنے کی اہمیت کو اجاگر کرتے ہیں۔
اہم سفارشات
- مضبوط ان پٹ کی توثیق نافذ کریں: اے آئی ماڈل میں تمام ان پٹ کو پرامپٹ انجیکشن حملوں کو روکنے کے لیے احتیاط سے توثیق کی جانی چاہیے۔ اس میں بدنیتی پر مبنی کمانڈز اور ہدایات کو فلٹر کرنا اور ان پٹ کی لمبائی اور پیچیدگی کو محدود کرنا شامل ہونا چاہیے۔
- سخت رسائی کنٹرولز نافذ کریں: حساس ڈیٹا اور ٹولز تک رسائی کو غیر مجاز رسائی کو روکنے کے لیے سختی سے کنٹرول کیا جانا چاہیے۔ اس میں مضبوط توثیق میکانزم کا استعمال کرنا اور کم سے کم مراعات کے اصول کو نافذ کرنا شامل ہونا چاہیے۔
- اے آئی ماڈل کی سرگرمی کی نگرانی کریں: اے آئی ماڈل کی سرگرمی کی مشکوک رویے کا پتہ لگانے کے لیے قریب سے نگرانی کی جانی چاہیے۔ اس میں تمام ٹول کی درخواستوں اور جوابات کو لاگ کرنا اور بے ضابطگیوں کے لیے ڈیٹا کا تجزیہ کرنا شامل ہونا چاہیے۔
- مضبوط حادثے کے ردعمل کا منصوبہ نافذ کریں: تنظیموں کے پاس ایم سی پی سسٹمز میں شامل حفاظتی واقعات سے نمٹنے کے لیے ایک مضبوط حادثے کے ردعمل کا منصوبہ ہونا چاہیے۔ اس میں حملوں کی شناخت، ان پر قابو پانے اور ان سے بحالی کے طریقہ کار شامل ہونے چاہئیں۔
- باخبر رہیں: ایم سی پی منظر نامہ مسلسل تیار ہو رہا ہے، اس لیے تازہ ترین حفاظتی خطرات اور بہترین طریقوں کے بارے میں باخبر رہنا ضروری ہے۔ یہ حفاظتی میلنگ لسٹوں میں سبسکرائب کرکے، حفاظتی کانفرنسوں میں شرکت کرکے اور سوشل میڈیا پر حفاظتی ماہرین کی پیروی کرکے کیا جا سکتا ہے۔
ان سفارشات پر عمل کرکے، تنظیمیں اپنے ایم سی پی سسٹمز کے خلاف حملوں کے خطرے کو نمایاں طور پر کم کر سکتی ہیں اور اپنے حساس ڈیٹا کی حفاظت کر سکتی ہیں۔ اے آئی کا مستقبل محفوظ اور قابل اعتماد سسٹمز بنانے کی ہماری صلاحیت پر منحصر ہے، اور اس کے لیے سیکیورٹی کے لیے ایک فعال اور چوکس انداز کی ضرورت ہے۔