NVIDIA Blackwell: آفاق جديدة لتجاوز LLM

معمارية Blackwell: محرك قوي لاستنتاج LLM

تم تصميم وحدات معالجة الرسوميات (GPU) بمعمارية Blackwell من NVIDIA خصيصًا لتسريع أعباء عمل الذكاء الاصطناعي، وتتميز بشكل خاص في مجال نماذج اللغة الكبيرة (LLM). تتيح قدرتها الحاسوبية القوية وهندستها المعمارية المحسّنة للأجهزة معالجة مهام استنتاج LLM المعقدة بسرعات مذهلة.

أعلنت NVIDIA مؤخرًا أن عقدة NVIDIA DGX B200 المزودة بثمانية وحدات معالجة رسوميات NVIDIA Blackwell حققت سرعة تزيد عن 1000 رمز (TPS) لكل مستخدم في الثانية باستخدام نموذج Llama 4 Maverick الذي يضم 400 مليار معلمة. تم قياس هذه السرعة بواسطة خدمة قياس الذكاء الاصطناعي المستقلة Artificial Analysis، مما يؤكد بشكل أكبر الأداء المتميز لمعمارية Blackwell.

إذن، ما هو TPS؟ باختصار، TPS هو مقياس رئيسي لسرعة استنتاج LLM. وهو يمثل عدد الرموز التي يمكن للنموذج إنتاجها في الثانية، والرموز هي الوحدات الأساسية للنص، ويمكن أن تكون كلمات أو كلمات فرعية أو أحرف. يعني TPS الأعلى أوقات استجابة أسرع وتجربة مستخدم أكثر سلاسة.

Llama 4 Maverick: مزيج مثالي من الحجم والأداء

يعد نموذج Llama 4 Maverick هو الأكبر والأقوى في سلسلة Llama 4. يحتوي على 400 مليار معلمة، مما يجعله قادرًا على فهم وإنشاء نصوص معقدة وتنفيذ مهام معالجة اللغة الطبيعية المختلفة.

يتطلب هذا النموذج الضخم موارد حسابية قوية لإجراء استنتاج فعال. إن ظهور وحدات معالجة الرسوميات بمعمارية NVIDIA Blackwell يجعل الاستنتاج في الوقت الفعلي لـ Llama 4 Maverick ممكنًا، مما يفتح أبوابًا جديدة لمجموعة متنوعة من سيناريوهات التطبيقات.

تدعي NVIDIA أيضًا أن معمارية Blackwell، في أعلى تكوين للإنتاجية، يمكن أن تصل إلى 72000 TPS/خادم. يشير هذا إلى أن Blackwell لا يمكنه فقط توفير سرعات استنتاج سريعة لمستخدم واحد، ولكن أيضًا دعم عدد كبير من المستخدمين في وقت واحد، وتلبية احتياجات التطبيقات مختلفة الأحجام.

تحسين البرامج: إطلاق العنان للإمكانات الكاملة لـ Blackwell

قوة الأجهزة ليست سوى نصف النجاح، وتحسين البرامج لا يقل أهمية. قامت NVIDIA بتحسين أداء استنتاج LLM لمعمارية Blackwell بشكل أكبر من خلال سلسلة من تقنيات تحسين البرامج.

TensorRT-LLM: محرك لتسريع استنتاج LLM

TensorRT-LLM هي مكتبة برامج طورتها NVIDIA خصيصًا لتسريع استنتاج LLM. يستخدم تقنيات تحسين مختلفة، مثل القياس الكمي والتشذيب ودمج النواة، لتقليل الكمية الحسابية واستهلاك الذاكرة للنموذج، وبالتالي زيادة سرعة الاستنتاج.

فك التشفير التخميني: تكنولوجيا تسريع للتنبؤ بالمستقبل

اعتمدت NVIDIA أيضًا تقنية فك التشفير التخميني، باستخدام تقنية EAGLE-3 لتدريب نموذج مسودة فك التشفير التخميني. فك التشفير التخميني هو تقنية لتسريع الاستنتاج من خلال التنبؤ بالرموز التي قد ينتجها النموذج في الخطوة التالية. من خلال إنشاء الرموز المحتملة مسبقًا، يمكن تقليل وقت انتظار النموذج، وبالتالي زيادة سرعة الاستنتاج الإجمالية.

من خلال الجمع بين TensorRT-LLM وتقنيات فك التشفير التخميني، نجحت NVIDIA في زيادة أداء معمارية Blackwell بمقدار 4 مرات، مما يجعلها حاليًا أسرع منصة لاستنتاج LLM.

الكمون والإنتاجية: خيارات Blackwell المرنة

في استنتاج LLM، يكون الكمون والإنتاجية مقياسين مهمين للأداء. يشير الكمون إلى الوقت الذي يستغرقه النموذج لإنشاء استجابة، بينما تشير الإنتاجية إلى عدد الطلبات التي يمكن للنموذج معالجتها في الثانية.

تختلف متطلبات الكمون والإنتاجية لتطبيقات مختلفة. على سبيل المثال، في تطبيقات المحادثة في الوقت الفعلي، يكون الكمون المنخفض أمرًا بالغ الأهمية لضمان حصول المستخدمين على استجابات فورية. في تطبيقات المعالجة الدفعية، تكون الإنتاجية العالية أكثر أهمية لضمان إمكانية معالجة عدد كبير من الطلبات بسرعة.

يمكن لوحدات معالجة الرسوميات بمعمارية NVIDIA Blackwell تحسين الكمون والإنتاجية بمرونة وفقًا لمتطلبات التطبيقات المختلفة. يمكنه زيادة الإنتاجية إلى أقصى حد أو موازنة الإنتاجية والكمون أو تقليل الكمون لمستخدم واحد إلى الحد الأدنى، مما يجعله خيارًا مثاليًا لمجموعة متنوعة من سيناريوهات تطبيق LLM.

تشير NVIDIA في مدونة إلى: "تتطلب معظم سيناريوهات تطبيقات الذكاء الاصطناعي التوليدية موازنة الإنتاجية والكمون لضمان تمتع العديد من العملاء بتجربة 'جيدة بما فيه الكفاية' في وقت واحد. ومع ذلك، بالنسبة للتطبيقات الهامة التي يجب أن تتخذ قرارات مهمة بسرعة، فإن تقليل الكمون لعميل واحد إلى الحد الأدنى أمر بالغ الأهمية. كما هو موضح في سجل TPS/المستخدم، فإن أجهزة Blackwell هي الخيار الأفضل لأي مهمة - سواء كنت بحاجة إلى زيادة الإنتاجية إلى أقصى حد، أو موازنة الإنتاجية والكمون، أو تقليل الكمون لمستخدم واحد إلى الحد الأدنى."

تحسين النواة: تحسين دقيق للأداء

لزيادة تحسين أداء معمارية Blackwell، قامت NVIDIA بتحسين دقيق لنواتها. تتضمن هذه التحسينات ما يلي:

• نواة GEMM ذات الكمون المنخفض: GEMM (ضرب المصفوفة العام) هي عملية أساسية في استنتاج LLM. نفذت NVIDIA العديد من نوى GEMM ذات الكمون المنخفض لتقليل وقت الحساب.
• دمج النواة: طبقت NVIDIA أيضًا تقنيات دمج النواة المختلفة، مثل FC13 + SwiGLU وFC_QKV + attn_scaling وAllReduce + RMSnorm. دمج النواة هو دمج عمليات متعددة في عملية واحدة لتقليل الوصول إلى الذاكرة والنفقات العامة للحساب.
• نوع بيانات FP8: تحسين استخدام نوع بيانات FP8 لعمليات GEMM وMoE وAttention لتقليل حجم النموذج والاستفادة الكاملة من إنتاجية FP8 العالية لتقنية Blackwell Tensor Core.

تتيح هذه التحسينات الأساسية لمعمارية Blackwell تحقيق أداء متميز بأقل كمون.

سيناريوهات التطبيق: إمكانات Blackwell اللانهائية

يفتح الأداء المتميز لوحدات معالجة الرسوميات بمعمارية NVIDIA Blackwell أبوابًا جديدة لمجموعة متنوعة من سيناريوهات تطبيق LLM. فيما يلي بعض سيناريوهات التطبيق المحتملة:

• روبوتات الدردشة: يمكن أن توفر Blackwell لروبوتات الدردشة سرعات استجابة أسرع وتجربة محادثة أكثر سلاسة.
• إنشاء المحتوى: يمكن أن تسرع Blackwell مهام إنشاء المحتوى، مثل كتابة المقالات وإنشاء التعليمات البرمجية وإنشاء الصور.
• الترجمة الآلية: يمكن أن تحسن Blackwell دقة وسرعة الترجمة الآلية.
• التحليل المالي: يمكن استخدام Blackwell للتحليل المالي، مثل إدارة المخاطر والكشف عن الاحتيال وتحسين المحفظة.
• الرعاية الصحية: يمكن استخدام Blackwell في الرعاية الصحية، مثل تشخيص الأمراض واكتشاف الأدوية والعلاج الشخصي.

مع التطور المستمر لتقنية LLM، ستلعب وحدات معالجة الرسوميات بمعمارية NVIDIA Blackwell دورًا مهمًا في المزيد من المجالات، مما يدفع ابتكار وتطوير تطبيقات الذكاء الاصطناعي.

ابتكار NVIDIA المستمر

تلتزم NVIDIA دائمًا بتعزيز تقدم تقنية الذكاء الاصطناعي، وإصدار وحدات معالجة الرسوميات بمعمارية Blackwell هو مثال آخر على جهود NVIDIA المستمرة في الابتكار. من خلال التحسين المستمر للأجهزة والبرامج، توفر NVIDIA للمستخدمين حلول ذكاء اصطناعي أقوى وأكثر كفاءة، مما يساعدهم على حل التحديات المختلفة وخلق قيمة جديدة.

خاتمة

تعد وحدات معالجة الرسوميات بمعمارية NVIDIA Blackwell، بفضل أدائها المتميز وقدرات التحسين المرنة، خيارًا مثاليًا لاستنتاج LLM. يوفر سرعة وكفاءة غير مسبوقتين لمجموعة متنوعة من سيناريوهات التطبيق، مما يدفع تقدم تقنية الذكاء الاصطناعي. مع الابتكار المستمر من NVIDIA، لدينا سبب للاعتقاد بأن معمارية Blackwell ستلعب دورًا أكثر أهمية في مجال الذكاء الاصطناعي في المستقبل.