ڈیپ سیک: بیدو سی ای او کے خدشات

چین کا ایک اے آئی ماڈل، ڈیپ سیک (DeepSeek)، جس نے اس سال کے شروع میں کافی توجہ اور تعریف حاصل کی تھی، حال ہی میں بیدو (Baidu) کے چیئرمین اور سی ای او رابن لی (Robin Li) کی جانچ پڑتال کی زد میں آیا ہے۔ 25 اپریل کو بیدو اے آئی ڈویلپر کانفرنس کے دوران، لی نے ڈیپ سیک کی صلاحیتوں کے بارے میں تحفظات کا اظہار کیا، جس میں مختلف میڈیا فارمیٹس پر کارروائی کرنے میں اس کی حدود، اس کی سست کارکردگی اور زیادہ لاگت، اور غلط معلومات پیدا کرنے کے رجحان کا حوالہ دیا، جس کی وجہ سے یہ وسیع پیمانے پر استعمال کے لیے ناقابل اعتبار ہے۔

ڈیپ سیک کا متنازعہ آغاز

گوانچا ڈاٹ سی این (Guancha.cn) اور سینا ڈاٹ کام (Sina.com) کی رپورٹوں کے مطابق، لی نے کانفرنس کے دوران بڑے پیمانے پر اے آئی ماڈلز کے اتار چڑھاؤ والے منظر نامے پر خطاب کیا۔ انہوں نے ماڈل ڈویلپرز کے درمیان شدید مقابلے کو اجاگر کیا، جسے اکثر “چوہوں کی دوڑ” (rat race) کے طور پر بیان کیا جاتا ہے، اور اس کے نتیجے میں ڈویلپرز کے درمیان اعتماد کے ساتھ ایپلی کیشنز بنانے میں الجھن اور ہچکچاہٹ پیدا ہوتی ہے۔

لی نے اس بات پر زور دیا کہ “ایپلی کیشنز کے بغیر، چپس اور ماڈلز بیکار ہیں۔” انہوں نے موجودہ بڑے پیمانے پر ماڈلز کو استعمال کرنے کی زیادہ لاگت اور ناقابل عملیت کو اے آئی ایپلی کیشنز بنانے کے خواہشمند ڈویلپرز کے لیے ایک بڑی رکاوٹ قرار دیا۔

ڈیپ سیک، جو کہ ہانگجو (Hangzhou)، چین میں قائم ایک اسٹارٹ اپ ہے، نے جنوری میں اپنا اوپن سورس ریزننگ ماڈل، آر 1 (R1) جاری کیا۔ اس وقت، ریاستی میڈیا نے ڈیپ سیک کی تعریف کرتے ہوئے اسے اوپن اے آئی (OpenAI) جیسوں سے بھی بہتر قرار دیا۔ تاہم، صارفین اور محققین کی جانب سے بعد میں کی جانے والی تحقیقات میں کوتاہیاں، سیکیورٹی کمزوریاں، اور ممکنہ خطرات سامنے آئے۔ تائیوان، جاپان، جنوبی کوریا، ریاستہائے متحدہ امریکہ، کینیڈا، اٹلی، آسٹریلیا، اور نیدرلینڈ سمیت متعدد حکومتوں نے، سیکڑوں کمپنیوں کے ساتھ، ڈیپ سیک کے استعمال پر سرکاری اور کارپوریٹ آلات پر پابندی عائد کر دی ہے۔

8 فروری کو، اے آئی سیکیورٹی کے ماہرین نے ڈیپ سیک پر گہرائی سے کی جانے والی سیکیورٹی ٹیسٹوں کے نتائج میڈیا کے ساتھ شیئر کیے۔ انہوں نے دریافت کیا کہ ڈیپ سیک چیٹ جی پی ٹی (ChatGPT)، جیمنی (Gemini)، اور کلاڈ (Claude) کے مقابلے میں “جیل بریکنگ” (jailbreaking) کا زیادہ شکار ہے۔ اس کمزوری نے صارفین کو اے آئی کی اصل حفاظتی پابندیوں کو نظرانداز کرنے کی اجازت دی، جس سے ممکنہ طور پر خطرناک، نقصان دہ، یا غیر قانونی مواد حاصل کرنا آسان ہو گیا۔

مارچ میں، “لوچین ٹیکنالوجی” (Luchen Technology)، جو کہ سنگھوا یونیورسٹی (Tsinghua University) سے منسلک ایک اے آئی انفراسٹرکچر کمپنی ہے، جو ڈیپ سیک ماڈلز کو اے پی آئی (API) اور کلاؤڈ مرر سروسز فراہم کرنے والی پہلی کمپنیوں میں سے تھی، نے متعلقہ سروسز کی معطلی کا اعلان کیا۔ کمپنی کے بانی، یو یانگ (You Yang)، نے ایک پوسٹ میں انکشاف کیا کہ ڈیپ سیک سے وابستہ اصل اخراجات نظریاتی اخراجات سے نمایاں طور پر زیادہ تھے۔ آن لائن ردعمل کے بعد، انہوں نے عوامی طور پر کہا کہ ڈیپ سیک مختصر مدت میں امریکی ٹیکنالوجی استعمال کیے بغیر کام نہیں کر سکتا، اور سوال اٹھایا کہ اس حقیقت کو کھلے عام کیوں تسلیم نہیں کیا جا سکتا۔

4 مارچ کو سینا ٹیکنالوجی (Sina Technology) کی ایک رپورٹ کے مطابق، ڈیپ سیک نے 1 مارچ کو 17:02 پر اپنے آن لائن سسٹم کے لیے 545 فیصد کے نظریاتی لاگت منافع مارجن کا اعلان کیا۔ اس کے بعد، لوچین ٹیکنالوجی نے اعلان کیا کہ وہ ایک ہفتے کے اندر ڈیپ سیک اے پی آئی سروسز فراہم کرنا بند کر دے گی، اور صارفین سے درخواست کی کہ وہ اپنے بقیہ بیلنس کو استعمال کریں۔

رپورٹ میں بتایا گیا کہ لوچین ٹیکنالوجی نے ڈیپ سیک اے پی آئی سروس کو بند کرنے کی مخصوص وجوہات کو عوامی طور پر ظاہر نہیں کیا ہے۔ تاہم، زھیو (Zhihu) جیسے پلیٹ فارمز پر کمپنی کے بانی کی جانب سے ڈیپ سیک کے اخراجات کا تفصیلی تجزیہ بتاتا ہے کہ لاگت اے پی آئی سروس کی فراہمی بند کرنے کے فیصلے میں ایک بنیادی عنصر تھا۔

قومی سلامتی کے خدشات

ڈیپ سیک اور چینی حکومت کے درمیان روابط ممکنہ طور پر ابتدائی طور پر سمجھے جانے سے کہیں زیادہ براہ راست ہیں۔ کینیڈا کی سائبر سیکیورٹی فرم فیروٹ سیکیورٹی (Feroot Security) نے ڈیپ سیک کی ویب سائٹ کے لاگ ان پیج اور چائنا موبائل (China Mobile) کے درمیان اہم روابط دریافت کیے، جو کہ ایک چینی سرکاری کمپنی ہے جس پر پہلے امریکی حکومت نے پابندی عائد کی تھی۔

حالیہ مہینوں میں، قومی سلامتی کے خدشات کی وجہ سے ڈیپ سیک پر پابندی لگانے کے لیے بڑھتی ہوئی کالیں سامنے آئی ہیں۔

24 اپریل کو، امریکی ایوان نمائندگان کے متعدد اراکین نے ڈیپ سیک کو ایک خط بھیجا، جس میں کمپنی کے چینی کمیونسٹ پارٹی (CCP) سے تعلقات پر تشویش کا اظہار کیا گیا اور اس کے اے آئی ماڈلز کو تربیت دینے کے لیے استعمال ہونے والے امریکی ڈیٹا کے بارے میں معلومات طلب کی گئیں۔

ایوان توانائی اور کامرس کمیٹی کے چیئرمین نمائندہ بریٹ گتھری (Brett Guthrie)، اور اختراع، ڈیٹا اور کامرس کی ذیلی کمیٹی کے چیئرمین نمائندہ گس بلراکس (Gus Bilirakis)، نے ذیلی کمیٹی کے دس دیگر اراکین کے ساتھ مل کر، ڈیپ سیک کو ایک خط لکھا جس میں کمپنی کی جانب سے “امریکیوں کے ذاتی ڈیٹا کے جمع کرنے” اور اس سے منسلک قومی سلامتی کے خطرات پر تشویش کا اظہار کیا گیا۔

خط میں، گتھری اور بلراکس نے کہا کہ “ڈیپ سیک تسلیم کرتا ہے کہ وہ امریکی صارفین کے ذاتی ڈیٹا کو چین میں سرورز پر منتقل کرتا ہے، جہاں اس معلومات تک چینی کمیونسٹ پارٹی سے منسلک حکام بلاشبہ رسائی حاصل کریں گے۔ ہمیں خدشہ ہے کہ ہمارے بنیادی مخالف کے ساتھ یہ ایجنسی تعلق ہمارے ڈیٹا اور قومی سلامتی کو خطرے میں ڈالتا ہے۔”

“اس بات کو یقینی بنانے کے لیے کہ امریکی صارفین اور ان کے کاروبار کو غیر ملکی مداخلت سے محفوظ رکھا جائے، ہم ڈیپ سیک اور اس سے ہمارے ملک کو لاحق خطرے کی تحقیقات شروع کر رہے ہیں۔”

خط میں مزید کہا گیا کہ “میڈیا رپورٹس کے مطابق، کمپنی صارفین کی ذاتی معلومات کو چینی کمیونسٹ پارٹی سے منسلک دیگر اداروں کے ساتھ بھی شیئر کرتی ہے، بشمول بائٹ ڈانس (ByteDance)۔”

“اس کے ساتھ ہی، محققین نے ڈیپ سیک کے مبینہ سیکیورٹی کنٹرولز اور ماڈل سیف گارڈز میں اہم کمزوریاں دریافت کی ہیں۔ ان خطرات کے جواب میں، نیویارک، ٹیکساس اور ورجینیا سمیت ریاستوں کی بڑھتی ہوئی تعداد نے سرکاری آلات پر ڈیپ سیک کے استعمال پر پابندی عائد کر دی ہے، اور ریاست کے اٹارنی جنرل نے وسیع تر پابندیوں کا مطالبہ کیا ہے۔”

16 اپریل کو، چینی کمیونسٹ پارٹی پر امریکی ایوان کی سلیکٹ کمیٹی نے ایک رپورٹ جاری کی جس میں اس بات پر زور دیا گیا کہ ڈیپ سیک امریکی قومی سلامتی کے لیے ایک اہم خطرہ ہے۔ رپورٹ میں ڈیپ سیک پر سی سی پی (CCP) کے لیے صارف کا ڈیٹا جمع کرنے اور خفیہ طور پر نتائج میں ہیرا پھیری کرنے کا الزام لگایا گیا، جو سی سی پی کے لیے خود کو خوبصورت بنانے، غیر ملکی شہریوں کی نگرانی کرنے، اور امریکی برآمدی کنٹرول کی پابندیوں کو چرانے اور کمزور کرنے کا تازہ ترین ذریعہ بن گیا ہے۔

رپورٹ میں نشاندہی کی گئی کہ اگرچہ ڈیپ سیک صرف ایک اور اے آئی چیٹ بوٹ دکھائی دے سکتا ہے جو صارفین کو متن تیار کرنے اور سوالات کے جوابات دینے کا ایک طریقہ فراہم کرتا ہے، لیکن گہری جانچ سے پتہ چلتا ہے کہ ڈیپ سیک خفیہ طور پر حاصل کردہ ذاتی ڈیٹا کو چائنا موبائل کو منتقل کرتا ہے، جس کے چینی فوج کے ساتھ تعلقات ہیں، جس سے صارفین کے لیے سیکیورٹی کمزوریاں پیدا ہوتی ہیں۔ امریکہ نے پہلے ہی چائنا موبائل پر امریکہ میں کام کرنے پر پابندی عائد کر دی ہے۔

ڈیپ سیک کی مبینہ کوتاہیوں میں گہری غوطہ

جبکہ ڈیپ سیک کے گرد ابتدائی ہائپ نے ایک اے آئی معجزے کی تصویر پیش کی جو مختلف شعبوں میں انقلاب برپا کرنے کے لیے تیار ہے، لیکن گہری جانچ نے ایکزیادہ باریک بینی اور پیچیدہ حقیقت کو ظاہر کیا ہے۔ بیدو کے سی ای او رابن لی کی طرف سے اٹھائے گئے خدشات، اور اس کے بعد سائبر سیکیورٹی ماہرین اور سرکاری اداروں کی جانب سے کی جانے والی تحقیقات، کئی اہم شعبوں کو اجاگر کرتی ہیں جہاں ڈیپ سیک توقعات پر پورا نہیں اترتا اور ممکنہ خطرات کو جنم دیتا ہے۔

محدود ملٹی ماڈل صلاحیتیں

ڈیپ سیک پر لگائی جانے والی بنیادی تنقیدوں میں سے ایک ملٹی ماڈل مواد پر کارروائی کرنے کی اس کی محدود صلاحیت ہے۔ زیادہ جدید اے آئی ماڈلز کے برعکس جو متن، تصاویر، آڈیو اور ویڈیو سمیت مختلف شکلوں کے ڈیٹا کو بغیر کسی رکاوٹ کے مربوط اور سمجھ سکتے ہیں، ڈیپ سیک بنیادی متن ان پٹ سے آگے کچھ بھی سمجھنے کے لیے جدوجہد کرتا ہے۔ یہ حد حقیقی دنیا کے منظرناموں میں اس کی اطلاقیت کو نمایاں طور پر محدود کرتی ہے جہاں معلومات اکثر فارمیٹس کے امتزاج میں پیش کی جاتی ہیں۔ مثال کے طور پر، ڈیپ سیک کسی سوشل میڈیا پوسٹ کا تجزیہ کرنے کے لیے جدوجہد کر سکتا ہے جس میں متن اور تصویر دونوں شامل ہوں، یا کسی ویڈیو کانفرنس کو نقل کرنے اور سمجھنے کے لیے۔

کارکردگی کے مسائل: رفتار اور لاگت

متنوع میڈیا کو ہینڈل کرنے میں اپنی حدود کے علاوہ، ڈیپ سیک کو اس کی کارکردگی سے متعلق چیلنجز کا بھی سامنا ہے۔ رابن لی کے مطابق، ماڈل کو اس کی “سست” رفتار اور “زیادہ” لاگت سے نمایاں کیا جاتا ہے، جو اسے قابل توسیع اور لاگت سے موثر اے آئی ایپلی کیشنز بنانے کے خواہشمند ڈویلپرز کے لیے کم پرکشش بناتا ہے۔ ڈیپ سیک کو چلانے کے لیے درکار زیادہ کمپیوٹیشنل وسائل کاروباروں کے لیے اہم اخراجات میں تبدیل ہو سکتے ہیں، خاص طور پر بڑے پیمانے پر تعیناتیوں والے کاروباروں کے لیے۔ مزید برآں، سست پروسیسنگ کی رفتار ریئل ٹائم ایپلی کیشنز میں رکاوٹ بن سکتی ہے، جیسے کہ چیٹ بوٹس یا ورچوئل اسسٹنٹس، جہاں مثبت صارف کے تجربے کے لیے جوابی عمل بہت ضروری ہے۔

“ہیلوکینیشن ریٹ” کا مسئلہ

ڈیپ سیک کے گرد ایک اور بڑا خدشہ اس کی اعلی “ہیلوکینیشن ریٹ” ہے، جو ماڈل کے غلط یا بے معنی معلومات پیدا کرنے کے رجحان سے مراد ہے۔ یہ مسئلہ ان ایپلی کیشنز کے لیے ایک اہم چیلنج ہے جن کے لیے قابل اعتماد اور قابل اعتماد آؤٹ پٹ کی ضرورت ہوتی ہے۔ صحت کی دیکھ بھال یا فنانس جیسے اہم ڈومینز میں، جہاں درستگی سب سے اہم ہے، ڈیپ سیک کی جانب سے جھوٹی یا گمراہ کن معلومات تیار کرنے کے خطرے کے سنگین نتائج ہو سکتے ہیں۔ “ہیلوکینیشن ریٹ” ماڈل کی ساکھ کو کمزور کرتا ہے اور حساس سیاق و سباق میں اس کی افادیت کو محدود کرتا ہے۔

سیکیورٹی کمزوریاں اور جیل بریکنگ

یہ انکشاف کہ ڈیپ سیک دیگر معروف اے آئی ماڈلز کے مقابلے میں “جیل بریکنگ” کا زیادہ شکار ہے، سیکیورٹی کے اہم خدشات کو جنم دیتا ہے۔ “جیل بریکنگ” سے مراد اے آئی کی حفاظتی پابندیوں کو نظرانداز کرنے کا عمل ہے تاکہ نقصان دہ، غیر اخلاقی، یا غیر قانونی مواد حاصل کیا جا سکے۔ یہ حقیقت کہ ڈیپ سیک کو اس طرح سے زیادہ آسانی سے ہیرا پھیری کی جا سکتی ہے اس کے بنیادی سیکیورٹی فن تعمیر میں کمزوریوں کی نشاندہی کرتی ہے۔ اس کمزوری کا استحصال بدنیتی پر مبنی اداکاروں کی جانب سے غلط معلومات پیدا کرنے، پروپیگنڈا پھیلانے، یا دیگر نقصان دہ سرگرمیوں میں مشغول ہونے کے لیے کیا جا سکتا ہے۔

ڈیٹا کی رازداری اور قومی سلامتی کے خطرات

ڈیپ سیک اور چینی حکومت کے درمیان مبینہ روابط، خاص طور پر چائنا موبائل کے ساتھ اس کے ڈیٹا شیئرنگ کے طریقوں نے ڈیٹا کی رازداری اور قومی سلامتی کے بارے میں خطرے کی گھنٹیاں بجا دی ہیں۔ امریکی صارفین کے ذاتی ڈیٹا کی چین میں سرورز کو منتقلی، جہاں اس تک سی سی پی سے منسلک حکام رسائی حاصل کر سکتے ہیں، ممکنہ نگرانی، جاسوسی، اور حساس معلومات کے سمجھوتے کے بارے میں سنگین خدشات کو جنم دیتی ہے۔ امریکی حکومت کی جانب سے ڈیپ سیک کی جانچ پڑتال دشمن حکومتوں کے ساتھ قریبی تعلقات رکھنے والے غیر ملکی اداروں کی جانب سے تیار کردہ اے آئی ماڈلز سے وابستہ ممکنہ خطرات کے بارے میں بڑھتی ہوئی آگاہی کو اجاگر کرتی ہے۔

وسیع تر مضمرات

ڈیپ سیک کے گرد خدشات اس خاص اے آئی ماڈل کی مخصوص حدود اور کمزوریوں سے آگے بڑھتے ہیں۔ وہ اے آئی ٹیکنالوجیز کی تیز رفتار ترقی اور تعیناتی سے وابستہ وسیع تر چیلنجوں اور خطرات کی عکاسی کرتے ہیں۔ ڈیپ سیک کیس اس کی اہمیت کو اجاگر کرتا ہے:

• سخت جانچ اور تشخیص: اے آئی ماڈلز میں ممکنہ کمزوریوں، تعصبات، اور سیکیورٹی کمزوریوں کی بڑے پیمانے پر تعیناتی سے پہلے شناخت اور ان سے نمٹنے کے لیے مکمل جانچ اور تشخیص ضروری ہے۔
• شفافیت اور احتساب: ڈویلپرز کو اپنے ماڈلز کو تربیت دینے کے لیے استعمال ہونے والے ڈیٹا اور ان کے استعمال کردہ الگورتھم کے بارے میں شفاف ہونا چاہیے۔ انہیں اپنے اے آئی سسٹمز کے آؤٹ پٹ اور نتائج کے لیے بھی جوابدہ ٹھہرایا جانا چاہیے۔
• ڈیٹا کی رازداری اور سیکیورٹی سیف گارڈز: صارفین کی ذاتی معلومات کو غیر مجاز رسائی، غلط استعمال، یا استحصال سے بچانے کے لیے مضبوط ڈیٹا کی رازداری اور سیکیورٹی اقدامات کی ضرورت ہے۔
• بین الاقوامی تعاون: اے آئی کی ترقی اور تعیناتی کے لیے مشترکہ معیارات اور ضوابط قائم کرنے کے لیے بین الاقوامی تعاون بہت ضروری ہے، اس بات کو یقینی بناتے ہوئے کہ ان ٹیکنالوجیز کو ذمہ داری اور اخلاقی طور پر استعمال کیا جائے۔
• تنقیدی سوچ اور میڈیا خواندگی: صارفین کو اے آئی ماڈلز کی جانب سے تیار کردہ معلومات کا تنقیدی جائزہ لینے اور درست اور گمراہ کن مواد میں فرق کرنے کے لیے میڈیا خواندگی کی مہارتیں تیار کرنے کی ترغیب دی جانی چاہیے۔

ڈیپ سیک تنازعہ ایک انتباہی کہانی کے طور پر کام کرتا ہے، جو ہمیں یاد دلاتا ہے کہ اے آئی جدت کی تلاش کو ممکنہ خطرات اور معاشرتی مضمرات پر احتیاط سے غور کرنے کے ساتھ متوازن ہونا چاہیے۔