این وڈیا ایجنٹ پر مبنی آرٹیفیشل انٹیلی جنس (اے آئی) کی مستقبل کی لہر پر نظریں مرکوز کیے ہوئے ہے، جو استنباطی صلاحیتوں پر بے مثال مطالبات کرنے کا وعدہ کرتا ہے۔ اس چیلنج سے نمٹنے کے لیے، این وڈیا نے ہارڈویئر اور سافٹ ویئر دونوں جدتوں پر مشتمل ایک جامع حکمت عملی کا انکشاف کیا ہے۔
ہارڈویئر حکمت عملی: اوپر اور باہر کی طرف توسیع
این وڈیا کی ہارڈویئر حکمت عملی کا مرکز زیادہ سے زیادہ طاقتور جی پی یوز کی مسلسل جستجو ہے۔ کمپنی دو رخی حکمت عملی اپنا رہی ہے، پہلے عمودی توسیع پر توجہ مرکوز کر رہی ہے، پھر افقی توسیع پر۔ مقصد صرف ایک، انتہائی طاقتور اے آئی سپر کمپیوٹر تیار کرنا نہیں ہے، بلکہ آپس میں جڑے ہوئے ریکوں کا ایک مکمل ماحولیاتی نظام بنانا ہے، جو ایک بڑے پیمانے پر اے آئی سپر کمپیوٹر کمپلیکس تشکیل دیتا ہے۔ یہ ‘اے آئی فیکٹری’ نقطہ نظر انتہائی مطالبہ کرنے والے اے آئی ورک لوڈز کے لیے درکار کمپیوٹیشنل طاقت فراہم کرنے کے لیے ڈیزائن کیا گیا ہے۔
نیا بلیک ویل الٹرا ریک ماؤنٹڈ اے آئی سپر کمپیوٹر، جو حال ہی میں جی ٹی سی کانفرنس میں پیش کیا گیا، اس حکمت عملی کی مثال ہے۔ تربیت اور ٹیسٹ کے وقت کی توسیع پذیر استنباط دونوں کو تیز کرنے کے لیے ڈیزائن کیا گیا، بلیک ویل الٹرا موجودہ بلیک ویل آرکیٹیکچر سے فائدہ اٹھاتا ہے لیکن اس میں زیادہ طاقتور جی بی 300 این وی ایل 72 شامل ہے۔ اس ترتیب میں 72 بلیک ویل الٹرا جی پی یوز این وی لنک کے ذریعے آپس میں جڑے ہوئے ہیں، جو ایف پی 4 پریسیشن کمپیوٹ پاور کا ایک حیران کن 1.1ایکسا فلاپس فراہم کرتے ہیں۔ جی بی 300 این وی ایل 72 جی بی 200 این وی ایل 72 کے مقابلے میں 1.5 گنا زیادہ اے آئی کارکردگی کا حامل ہے۔ ایک واحد ڈی جی ایس جی بی 300 سسٹم 15 ایکسا فلاپس کمپیوٹ پیش کرتا ہے۔ 2025 کی دوسری ششماہی میں جاری ہونے والے بلیک ویل الٹرا کو سرور سازوسامان فراہم کرنے والے وسیع پیمانے پر وینڈرز کی حمایت حاصل ہوگی، جن میں سسکو، ڈیل، ایچ پی ای، لینووو، آسس، فاکس کون، گیگا بائٹ، پیگاٹرون اور کوانٹا شامل ہیں۔ اس کے علاوہ، کلاؤڈ سروس فراہم کرنے والے جیسے اے ڈبلیو ایس، جی سی پی اور ایزور بلیک ویل الٹرا پر مبنی کمپیوٹ سروسز پیش کریں گے۔
ان پاور پلانٹ لیول اے آئی فیکٹری سسٹمز سے آگے، این وڈیا نے انٹرپرائزز کے اندر استنباطی ضروریات کو نشانہ بنانے والے کمپیوٹرز کی ایک نئی لائن بھی متعارف کرائی ہے۔ ان میں ڈی جی ایکس سپارک اور ڈی جی ایکس اسٹیشن پرسنل اے آئی کمپیوٹرز شامل ہیں۔ ڈی جی ایکس سپارک، سائز میں میک منی سے مشابہت رکھتا ہے، جو 1 پی فلاپس تک کمپیوٹ پاور فراہم کرتا ہے۔
اسے تناظر میں رکھنے کے لیے، تائیوانیا 3 سپر کمپیوٹر، جو 2021 میں 50,000 سے زیادہ کور کے ساتھ لانچ کیا گیا تھا، صرف 2.7 پی فلاپس کارکردگی فراہم کرتا ہے۔ صرف چار سالوں میں، تین ڈیسک ٹاپ سائز کے پرسنل اے آئی کمپیوٹرز کی کمپیوٹ پاور تائیوانیا 3 سے تجاوز کر گئی ہے۔ 128 جی بی میموری کنفیگریشن کے لیے $3,999 (تقریباً NT$130,000) کی قیمت پر، یہ نئے پرسنل اے آئی کمپیوٹرز انٹرپرائزز کے اندر مستقبل کی اندرونی اے آئی ضروریات کو پورا کرنے، منی اے آئی فیکٹریوں کے طور پر کام کرنے یا یہاں تک کہ ایج اے آئی ماحول میں کام کرنے کے لیے ڈیزائن کیے گئے ہیں۔
مستقبل کا روڈ میپ: ویرا رابن اور اس سے آگے
مستقبل کی طرف دیکھتے ہوئے، این وڈیا کے سی ای او جینسن ہوانگ نے اگلے دو سالوں کے لیے ایک پروڈکٹ روڈ میپ کا خاکہ پیش کیا ہے۔ 2026 کی دوسری ششماہی میں، کمپنی کا منصوبہ ہے کہ وہ ویرا رابن این وی ایل 144 جاری کرے، جس کا نام امریکی ماہر فلکیات ویرا رابن کے نام پر رکھا گیا ہے جس نے ڈارک میٹر دریافت کیا۔ ویرا رابن این وی ایل 144 جی بی 300 این وی ایل 72 کے مقابلے میں 3.3 گنا زیادہ کارکردگی پیش کرے گا، جس میں میموری کی گنجائش، بینڈوڈتھ اور این وی لنک کی رفتار 1.6 گنا سے زیادہ بڑھ جائے گی۔ 2027 کی دوسری ششماہی میں، این وڈیا روبن الٹرا این وی ایل 576 لانچ کرے گا، جو جی بی 300 این وی ایل 72 کے مقابلے میں 14 گنا زیادہ کارکردگی فراہم کرے گا، جس میں این وی لنک 7 اور سی ایکس 9 کے ذریعے میموری کی گنجائش اور بینڈوڈتھ کی رفتار میں نمایاں اضافہ ہوگا۔
ویرا رابن آرکیٹیکچر کے بعد، این وڈیا کا اگلی نسل کا آرکیٹیکچر مشہور امریکی ماہر طبیعیات رچرڈ فین مین کے نام پر رکھا جائے گا، جو چیلنجر خلائی شٹل حادثے کی تحقیقات پر اپنے کام کے لیے جانے جاتے ہیں۔
سافٹ ویئر حکمت عملی: این وڈیا ڈائنامو
این وڈیا نے ہمیشہ سافٹ ویئر پر ایک مضبوط زور دیا ہے، اسے ہارڈ ویئر سے بھی زیادہ اہم سمجھتا ہے۔ یہ اسٹریٹجک توجہ کمپنی کے اے آئی فیکٹری اقدامات تک پھیلی ہوئی ہے۔
مختلف ڈومینز میں سی یو ڈی اے-ایکس اے آئی ایکسلریشن لائبریری کو بڑھانے اور خصوصی ایکسلریشن لائبریریوں کی تیاری کے علاوہ، این وڈیا نے این وڈیا ڈائنامو متعارف کرایا ہے، جو ایک نیا اے آئی فیکٹری آپریٹنگ سسٹم ہے۔ خاص طور پر، این وڈیا نے اس آپریٹنگ سسٹم کو اوپن سورس کیا ہے۔
این وڈیا ڈائنامو ایک اوپن سورس استنباطی سروس فریم ورک ہے جو ایل ایل ایم استنباطی سروسز فراہم کرنے والے پلیٹ فارمز بنانے کے لیے ڈیزائن کیا گیا ہے۔ اسے کے 8 ایس ماحول میں تعینات کیا جا سکتا ہے اور بڑے پیمانے پر اے آئی استنباطی کاموں کو تعینات اور منظم کرنے کے لیے استعمال کیا جا سکتا ہے۔ این وڈیا کا منصوبہ ہے کہ ڈائنامو کو اپنے این آئی ایم مائیکرو سروسز فریم ورک میں ضم کرے، جس سے یہ این وڈیا اے آئی انٹرپرائز فریم ورک کا ایک جزو بن جائے۔
ڈائنامو این وڈیا کے موجودہ اوپن سورس استنباطی سرور پلیٹ فارم، ٹرائٹن کی اگلی نسل کی پروڈکٹہے۔ اس کی کلیدی خصوصیت ایل ایل ایم استنباطی کاموں کو دو مراحل میں تقسیم کرنا ہے، جو جی پی یوز کے زیادہ لچکدار اور موثر استعمال کی اجازت دیتا ہے تاکہ استنباطی پروسیسنگ کو بہتر بنایا جا سکے، کارکردگی کو بہتر بنایا جا سکے اور جی پی یو کے استعمال کو زیادہ سے زیادہ کیا جا سکے۔ ڈائنامو متحرک طور پر جی پی یوز کو استنباطی ضروریات کی بنیاد پر مختص کر سکتا ہے اور جی پی یوز کے درمیان غیر مطابقت پذیر ڈیٹا کی منتقلی کو تیز کر سکتا ہے، جس سے ماڈل استنباطی ردعمل کے اوقات کم ہو جاتے ہیں۔
ٹرانسفارمر پر مبنی جی اے آئی ماڈلز استنباط کو دو مراحل میں تقسیم کرتے ہیں: پری فل (پری ان پٹ)، جو ان پٹ ڈیٹا کو اسٹوریج کے لیے ٹوکن میں تبدیل کرتا ہے، اور ڈی کوڈ، ایک سلسلہ وار عمل جو پچھلے ایک کی بنیاد پر اگلا ٹوکن تیار کرتا ہے۔
روایتی ایل ایل ایم استنباط ایک ہی جی پی یو کو پری فل اور ڈی کوڈ دونوں کام تفویض کرتا ہے۔ تاہم، ان کاموں کی مختلف حسابی خصوصیات کی وجہ سے، ڈائنامو انہیں تقسیم کرتا ہے، جی پی یو وسائل کو اسی کے مطابق تفویض کرتا ہے اور کام کی خصوصیات کی بنیاد پر متحرک طور پر تخصیص کو ایڈجسٹ کرتا ہے۔ یہ جی پی یو کلسٹر کی کارکردگی کو بہتر بناتا ہے۔
این وڈیا کی جانچ سے پتہ چلتا ہے کہ جی بی 200 این وی ایل 72 پر 671 بلین پیرامیٹر ڈیپ سیک-آر 1 ماڈل کے ساتھ ڈائنامو کا استعمال استنباطی کارکردگی کو 30 گنا تک بہتر بنا سکتا ہے۔ ہاپر جی پی یوز پر چلنے والے لاما 70 بی پر کارکردگی کو بھی دوگنا سے زیادہ بہتر بنایا جا سکتا ہے۔
استنباطی کاموں کا انتظام پیچیدہ ہے کیونکہ استنباطی حساب کی پیچیدہ نوعیت اور متوازی پروسیسنگ ماڈلز کی مختلف قسم ہے۔ ہوانگ نے زور دیا کہ این وڈیا نے اے آئی فیکٹریوں کے لیے ایک آپریٹنگ سسٹم فراہم کرنے کے لیے ڈائنامو فریم ورک لانچ کیا ہے۔
روایتی ڈیٹا سینٹرز انٹرپرائز آئی ٹی وسائل پر مختلف ایپلی کیشنز کو ترتیب دینے کے لیے وی ایم ویئر جیسے آپریٹنگ سسٹم پر انحصار کرتے ہیں۔ اے آئی ایجنٹ مستقبل کی ایپلی کیشنز ہیں، اور اے آئی فیکٹریوں کو ڈائنامو کی ضرورت ہے، وی ایم ویئر کی نہیں۔
ہوانگ نے نئے اے آئی فیکٹری آپریٹنگ سسٹم کا نام ڈائنامو کے نام پر رکھا، جو ایک ایسا انجن ہے جس نے صنعتی انقلاب کو جنم دیا، اس پلیٹ فارم کے لیے ان کی توقعات اور عزائم کو ظاہر کرتا ہے۔