آرم اور علی بابا کی شراکت داری

آرم کلیڈی: آرم سی پی یوز پر اے آئی انفرنس کو آپٹمائز کرنا

Arm Kleidi خاص طور پر اس چیلنج سے نمٹنے کے لیے ڈیزائن کیا گیا ہے، جو Arm CPUs پر چلنے والے تمام AI انفرنس ورک بوجھ کے لیے ہموار کارکردگی کی اصلاح فراہم کرتا ہے۔ کلیڈی کے مرکز میں KleidiAI ہے، جو AI کو تیز کرنے کے لیے بنائے گئے انتہائی موثر، اوپن سورس Arm روٹینز کا ایک ہموار مجموعہ ہے۔

KleidiAI پہلے ہی ایج ڈیوائسز کے لیے وسیع پیمانے پر استعمال ہونے والے AI فریم ورکس کے تازہ ترین ورژنز میں ضم ہے۔ ان میں ExecuTorch، Llama.cpp، LiteRT بذریعہ XNNPACK، اور MediaPipe شامل ہیں۔ یہ وسیع انضمام لاکھوں ڈویلپرز کو ایک اہم فائدہ فراہم کرتا ہے، جو اب بغیر کسی اضافی کوشش کے AI کارکردگی کی اصلاح سے خود بخود فائدہ اٹھا سکتے ہیں۔

علی بابا کے ساتھ شراکت: Qwen2-VL-2B-Instruct ماڈل

MNN کے ساتھ قریبی تعاون کے ذریعے ایج ڈیوائسز پر ملٹی موڈل AI کی ترقی میں ایک نیا سنگ میل حاصل کیا گیا ہے۔ MNN ایک ہلکا پھلکا، اوپن سورس ڈیپ لرننگ فریم ورک ہے جسے علی بابا نے تیار کیا اور اسے برقرار رکھا ہے۔ اس شراکت داری کے نتیجے میں KleidiAI کا کامیاب انضمام ہوا ہے، جس سے ملٹی موڈل AI ورک بوجھ Arm CPUs کا استعمال کرتے ہوئے موبائل ڈیوائسز پر موثر طریقے سے چل سکتے ہیں۔ اس کامیابی کی کلید علی بابا کا انسٹرکشن ٹیونڈ 2B پیرامیٹر Qwen2-VL-2B-Instruct ماڈل ہے۔ یہ ماڈل خاص طور پر امیج انڈرسٹینڈنگ، ٹیکسٹ ٹو امیج ریزننگ، اور ایج ڈیوائسز کی رکاوٹوں کے لیے تیار کردہ متعدد زبانوں میں ملٹی موڈل جنریشن کے لیے ڈیزائن کیا گیا ہے۔

قابل پیمائش کارکردگی کے فوائد

MNN کے ساتھ KleidiAI کے انضمام نے Qwen2-VL-2B-Instruct ماڈل کے لیے اہم، قابل پیمائش کارکردگی میں بہتری لائی ہے۔ ایج پر اہم AI ملٹی موڈل استعمال کے معاملات میں تیز رفتار رسپانس ٹائمز کا مشاہدہ کیا گیا ہے۔ یہ بہتری علی بابا کی کسٹمر پر مرکوز ایپلی کیشنز کی ایک قسم میں بہتر صارف کے تجربات کو کھولتی ہے۔ مثالوں میں شامل ہیں:

• کسٹمر سروس کے لیے چیٹ بوٹس: کسٹمر کے سوالات کے تیز اور زیادہ موثر جوابات فراہم کرنا۔
• ای شاپنگ ایپلی کیشنز: فوٹو ٹو گڈز سرچنگ کو فعال کرنا، جس سے صارفین کو صرف ایک تصویر اپ لوڈ کرکے اپنی مطلوبہ اشیاء کو تیزی سے تلاش کرنے کی اجازت ملتی ہے۔

ان ایپلی کیشنز میں بہتر رفتار کارکردگی میں خاطر خواہ فوائد کا براہ راست نتیجہ ہے:

• پری فل امپرومنٹ: پری فل میں 57 فیصد کارکردگی میں بہتری حاصل کی گئی ہے۔ یہ اس اہم مرحلے سے مراد ہے جہاں AI ماڈلز جواب دینے سے پہلے ملٹی سورس پرامپٹ ان پٹس کو ہینڈل کرتے ہیں۔
• ڈیکوڈ اینہانسمنٹ: ڈیکوڈ میں 28 فیصد کارکردگی میں بہتری دیکھی گئی ہے۔ یہ وہ عمل ہے جہاں AI ماڈل پرامپٹ پر کارروائی کرنے کے بعد ٹیکسٹ تیار کرتا ہے۔

رفتار کے علاوہ، KleidiAI انضمام ایج پر AI ورک بوجھ کی زیادہ موثر پروسیسنگ میں بھی حصہ ڈالتا ہے۔ یہ ملٹی موڈل ورک بوجھ سے وابستہ کمپیوٹیشنل لاگت کو کم کرکے حاصل کیا جاتا ہے۔ یہ کارکردگی اور کارکردگی کے فوائد لاکھوں ڈویلپرز کے لیے آسانی سے دستیاب ہیں۔ کوئی بھی ڈویلپر جو MNN فریم ورک پر ایپلی کیشنز اور ورک بوجھ چلا رہا ہے، ساتھ ہی ایج ڈیوائسز کے لیے دیگر مشہور AI فریم ورکس جہاں KleidiAI مربوط ہے، فوری طور پر فائدہ اٹھا سکتا ہے۔

حقیقی دنیا کا مظاہرہ: MWC شوکیس

Qwen2-VL-2B-Instruct ماڈل کی عملی صلاحیتیں، جو MNN کے ساتھ نئے KleidiAI انضمام سے چلتی ہیں، Mobile World Congress (MWC) میں دکھائی گئیں۔ Arm بوتھ پر ایک مظاہرے میں ماڈل کی بصری اور ٹیکسٹ ان پٹس کے متنوع امتزاج کو سمجھنے کی صلاحیت کو اجاگر کیا گیا۔ اس کے بعد ماڈل نے تصویر کے مواد کا ایک جامع خلاصہ پیش کیا۔ یہ پورا عمل اسمارٹ فونز کے Arm CPU پر عمل میں لایا گیا، جس میں حل کی طاقت اور کارکردگی کو ظاہر کیا گیا۔ یہ اسمارٹ فونز MediaTek کے Arm-powered Dimensity 9400 موبائل سسٹم آن چپ (SoC) پر بنائے گئے تھے، جس میں vivo X200 سیریز بھی شامل ہے۔

صارف کے تجربے میں ایک اہم قدم

Arm کے KleidiAI کا MNN فریم ورک کے ساتھ علی بابا کے Qwen2-VL-2B-Instruct ماڈل کے لیے انضمام ملٹی موڈل AI ورک بوجھ کے لیے صارف کے تجربے میں ایک اہم چھلانگ کی نمائندگی کرتا ہے۔ یہ ایڈوانسمنٹ ان بہتر تجربات کو براہ راست ایج پر فراہم کرتی ہے، یہ سب Arm CPU سے چلتے ہیں۔ یہ صلاحیتیں موبائل ڈیوائسز پر آسانی سے دستیاب ہیں، جس میں معروف کسٹمر فیسنگ ایپلی کیشنز پہلے ہی KleidiAI کے فوائد سے فائدہ اٹھا رہی ہیں۔

ایج ڈیوائسز پر ملٹی موڈل AI کا مستقبل

مستقبل کو دیکھتے ہوئے، AI ورک بوجھ کے لیے KleidiAI کی ہموار اصلاحات لاکھوں ڈویلپرز کو بااختیار بناتی رہیں گی۔ وہ ایج ڈیوائسز پر تیزی سے نفیس ملٹی موڈل تجربات تخلیق کرنے کے قابل ہوں گے۔ یہ مسلسل جدت AI کے ارتقاء میں ایک اہم قدم کو نشان زد کرتے ہوئے، ذہین کمپیوٹنگ کی اگلی لہر کے لیے راہ ہموار کرے گی۔

علی بابا لیڈرشپ کے اقتباسات

‘ہم علی بابا کلاؤڈ کے بڑے لینگویج ماڈل Qwen، Arm KleidiAI، اور MNN کے درمیان تعاون دیکھ کر خوش ہیں۔ MNN کے آن ڈیوائس انفرنس فریم ورک کو Arm KleidiAI کے ساتھ ضم کرنے سے Qwen کی تاخیر اور توانائی کی کارکردگی میں نمایاں بہتری آئی ہے۔ یہ شراکت داری موبائل ڈیوائسز پر LLMs کی صلاحیت کی توثیق کرتی ہے اور AI صارف کے تجربے کو بڑھاتی ہے۔ ہم آن ڈیوائس AI کمپیوٹنگ کو آگے بڑھانے میں مسلسل کوششوں کے منتظر ہیں۔’ - ڈونگ سو، جی ایم آف ٹونگی لارج ماڈل بزنس، علی بابا کلاؤڈ۔

‘MNN انفرنس فریم ورک اور Arm KleidiAI کے درمیان تکنیکی انضمام آن ڈیوائس ایکسلریشن میں ایک بڑی کامیابی کی نشاندہی کرتا ہے۔ آرکیٹیکچر کی مشترکہ اصلاح کے ساتھ، ہم نے Tongyi LLM کی آن ڈیوائس انفرنس کی کارکردگی کو بہت بہتر کیا ہے، محدود موبائل کمپیوٹنگ پاور اور جدید AI صلاحیتوں کے درمیان فرق کو ختم کیا ہے۔ یہ کامیابی ہماری تکنیکی مہارت اور کراس انڈسٹری تعاون کو اجاگر کرتی ہے۔ ہم آن ڈیوائس کمپیوٹنگ ایکو سسٹم کو بڑھانے، موبائل پر ہموار اور زیادہ موثر AI تجربات فراہم کرنے کے لیے اس شراکت داری کو جاری رکھنے کے منتظر ہیں۔’ - Xiaotang Jiang، ہیڈ آف MNN، Taobao اور Tmall گروپ، علی بابا۔

تکنیکی پہلوؤں میں گہرائی سے غور کرنا

اس تعاون کی اہمیت کو پوری طرح سمجھنے کے لیے، کچھ بنیادی تکنیکی تفصیلات کا جائزہ لینا مددگار ہے۔

MNN کا کردار

MNN کا ڈیزائن فلسفہ کارکردگی اور پورٹیبلٹی کے گرد مرکوز ہے۔ یہ کئی اہم خصوصیات کے ذریعے اسے حاصل کرتا ہے:

• ہلکا پھلکا آرکیٹیکچر: MNN کو ایک چھوٹا فوٹ پرنٹ رکھنے کے لیے ڈیزائن کیا گیا ہے، جو ایج ڈیوائسز پر اسٹوریج اور میموری کی ضروریات کو کم کرتا ہے۔
• آپٹمائزڈ آپریشنز: فریم ورک میں Arm CPUs کے لیے خاص طور پر تیار کردہ انتہائی آپٹمائزڈ ریاضیاتی آپریشنز شامل ہیں، جو کارکردگی کو زیادہ سے زیادہ کرتے ہیں۔
• کراس پلیٹ فارم مطابقت: MNN آپریٹنگ سسٹمز اور ہارڈ ویئر پلیٹ فارمز کی ایک وسیع رینج کو سپورٹ کرتا ہے، جو اسے ڈویلپرز کے لیے ایک ورسٹائل انتخاب بناتا ہے۔

KleidiAI کا حصہ

KleidiAI MNN کی طاقتوں کی تکمیل کرتا ہے خصوصی روٹینز کا ایک سیٹ فراہم کرکے جو AI انفرنس کو مزید تیز کرتا ہے۔ یہ روٹینز Arm کے CPU آرکیٹیکچر میں وسیع تجربے سے فائدہ اٹھاتے ہیں تاکہ کارکردگی کے فوائد کو کھولا جا سکے جو بصورت دیگر حاصل کرنا مشکل ہوگا۔ KleidiAI کے تعاون کے اہم پہلوؤں میں شامل ہیں:

• انتہائی آپٹمائزڈ کرنلز: KleidiAI عام AI آپریشنز، جیسے میٹرکس ضرب اور کنوولیشن کے لیے انتہائی آپٹمائزڈ کرنل فراہم کرتا ہے۔ یہ کرنل Arm CPUs کی مخصوص خصوصیات سے فائدہ اٹھانے کے لیے احتیاط سے بنائے گئے ہیں۔
• خودکار انضمام: KleidiAI کا مقبول AI فریم ورکس میں ہموار انضمام کا مطلب ہے کہ ڈویلپرز کو ان اصلاحات کو دستی طور پر شامل کرنے کی ضرورت نہیں ہے۔ کارکردگی کے فوائد خود بخود لاگو ہوتے ہیں، ترقی کے عمل کو آسان بناتے ہیں۔
• مسلسل بہتری: Arm KleidiAI کو مسلسل اپ ڈیٹ کرنے اور بہتر بنانے کے لیے پرعزم ہے، اس بات کو یقینی بناتے ہوئے کہ یہ AI ایکسلریشن ٹیکنالوجی میں سب سے آگے رہے۔

Qwen2-VL-2B-Instruct: ایک طاقتور ملٹی موڈل ماڈل

Qwen2-VL-2B-Instruct ماڈل بڑے لینگویج ماڈلز اور ملٹی موڈل AI میں علی بابا کی مہارت کا ثبوت ہے۔ اس کی اہم خصوصیات میں شامل ہیں:

• انسٹرکشن ٹیوننگ: ماڈل خاص طور پر ہدایات پر عمل کرنے کے لیے بنایا گیا ہے، جو اسے کاموں کی ایک وسیع رینج کے لیے انتہائی موافق بناتا ہے۔
• ملٹی موڈل صلاحیتیں: یہ بصری اور متنی معلومات دونوں کو سمجھنے اور اس پر کارروائی کرنے میں مہارت رکھتا ہے، جس سے امیج کیپشننگ اور بصری سوالوں کے جوابات جیسی ایپلی کیشنز کو فعال کیا جاتا ہے۔
• کثیر لسانی سپورٹ: ماڈل کو متعدد زبانوں کے ساتھ کام کرنے کے لیے ڈیزائن کیا گیا ہے، جو مختلف علاقوں اور صارف کی بنیادوں پر اس کے اطلاق کو وسیع کرتا ہے۔
• ایج ڈیوائسز کے لیے آپٹمائزڈ: اپنی طاقتور صلاحیتوں کے باوجود، ماڈل کو ایج ڈیوائسز کے وسائل کی رکاوٹوں کے اندر کام کرنے کے لیے احتیاط سے ڈیزائن کیا گیا ہے۔

ملٹی موڈل AI کے دائرہ کار کو بڑھانا

یہاں زیر بحث پیشرفت صرف اسمارٹ فونز تک محدود نہیں ہے۔ اسی اصول اور ٹیکنالوجیز کو ایج ڈیوائسز کی ایک وسیع رینج پر لاگو کیا جا سکتا ہے، بشمول:

• اسمارٹ ہوم ڈیوائسز: وائس اسسٹنٹس، سیکیورٹی کیمروں کے لیے امیج ریکگنیشن، اور دیگر ذہین خصوصیات کو فعال کرنا۔
• پہننے کے قابل ڈیوائسز: صحت کی نگرانی، فٹنس ٹریکنگ، اور بڑھی ہوئی حقیقت ایپلی کیشنز کو طاقت دینا۔
• صنعتی IoT: مینوفیکچرنگ سیٹنگز میں پیشن گوئی کی دیکھ بھال، کوالٹی کنٹرول، اور آٹومیشن کی سہولت فراہم کرنا۔
• آٹوموٹو: ڈرائیور اسسٹنس سسٹم، ان کیبن انٹرٹینمنٹ، اور خود مختار ڈرائیونگ صلاحیتوں کو بڑھانا۔

ایج پر ملٹی موڈل AI کی ممکنہ ایپلی کیشنز وسیع ہیں اور پھیلتی رہتی ہیں۔ جیسے جیسے ماڈل زیادہ نفیس ہوتے جاتے ہیں اور ہارڈ ویئر زیادہ طاقتور ہوتا جاتا ہے، ہم توقع کر سکتے ہیں کہ مزید جدید اور اثر انگیز استعمال کے معاملات سامنے آئیں گے۔ Arm اور علی بابا کے درمیان یہ تعاون اس سمت میں ایک اہم قدم ہے، جو ملٹی موڈل AI کی طاقت کو وسیع تر سامعین تک پہنچاتا ہے اور ذہین آلات کی ایک نئی نسل کو فعال کرتا ہے۔ کارکردگی، کارکردگی، اور ڈویلپر کی رسائی پر توجہ اس بات کو یقینی بناتی ہے کہ ان پیشرفتوں کا ٹیکنالوجی کے مستقبل پر وسیع اور دیرپا اثر پڑے گا۔