همکاری Google Cloud و Nvidia با هدف پیشبرد پیشرفت‌ها در زمینه هوش مصنوعی، عمیق‌تر می‌شود. این مشارکت بر ادغام مدل‌های Gemini گوگل و GPUهای Blackwell انویدیا به منظور بهینه‌سازی حجم‌های کاری هوش مصنوعی متمرکز است. نوآوری‌های کلیدی شامل استقرار مدل‌های Gemini در محل، افزایش عملکرد Gemini در GPUهای انویدیا، جوامع توسعه‌دهنده جدید، ماشین‌های مجازی محرمانه (Confidential VMs) و در دسترس بودن A4 VMها بر روی GPUهای Blackwell می‌باشد.
مدل‌های Gemini در محل با Nvidia Blackwell
اکنون می‌توان Gemini گوگل را در محل با استفاده از Nvidia Blackwell از طریق Google Distributed Cloud مستقر کرد. این استقرار، سازمان‌ها را قادر می‌سازد تا با خیال راحت از مدل‌های Gemini در مراکز داده خود استفاده کنند و آنها را با قابلیت‌های هوش مصنوعی عامل محور (agentic AI capabilities) توانمند سازد.
درک مدل‌های Gemini
خانواده مدل‌های Gemini، پیشرفته‌ترین مدل‌های هوش مصنوعی گوگل تا به امروز را نشان می‌دهد. این مدل‌ها برای استدلال پیچیده، کدنویسی و درک چندوجهی طراحی شده‌اند و آنها را به ابزاری همه‌کاره برای برنامه‌های مختلف تبدیل می‌کند.
Google Distributed Cloud
Google Distributed Cloud یک راه‌حل کاملاً مدیریت‌شده برای محیط‌های در محل (on-premises)، جدا از اینترنت (air-gapped) و محاسبات لبه (edge computing) ارائه می‌دهد. این امر به مشتریان امکان می‌دهد تا کنترل داده‌های خود را حفظ کنند و در عین حال از قدرت فناوری‌های هوش مصنوعی گوگل استفاده کنند.
مزایای استقرار در محل
کنترل پیشرفته: سازمان‌ها کنترل کامل بر داده‌های خود را حفظ می‌کنند و از انطباق با مقررات حفظ حریم خصوصی و سیاست‌های داخلی اطمینان حاصل می‌کنند.
امنیت: استقرار مدل‌های Gemini در مراکز داده خود، امنیت و حفاظت بیشتر از اطلاعات حساس را فراهم می‌کند.
سفارشی‌سازی: استقرار در محل امکان سفارشی‌سازی بیشتر راه‌حل‌های هوش مصنوعی را برای پاسخگویی به نیازهای خاص تجاری فراهم می‌کند.
این مشارکت تضمین می‌کند که مشتریان می‌توانند با Gemini نوآوری کنند و در عین حال به سیاست‌های دقیق حاکمیت داده (data governance policies) پایبند باشند.
بهینه‌سازی Gemini و Gemma برای GPUهای Nvidia
انویدیا و گوگل برای بهینه‌سازی عملکرد حجم‌های کاری استنتاج (inference workloads) مبتنی بر Gemini در GPUهای Nvidia، به‌ویژه در پلتفرم Vertex AI گوگل کلود، همکاری کرده‌اند. این بهینه‌سازی به گوگل امکان می‌دهد تا به طور کارآمد تعداد قابل توجهی از درخواست‌های کاربران برای مدل‌های Gemini را در زیرساخت شتاب‌دهنده Nvidia در Vertex AI و Google Distributed Cloud مدیریت کند.
پلتفرم Vertex AI
Vertex AI پلتفرم جامع گوگل کلود برای یادگیری ماشین است که ابزارها و خدماتی را برای آموزش، استقرار و مدیریت مدل‌های هوش مصنوعی ارائه می‌دهد. بهینه‌سازی Gemini برای GPUهای Nvidia در Vertex AI، قابلیت‌های این پلتفرم را افزایش می‌دهد و ساخت و استقرار راه‌حل‌های هوش مصنوعی را برای توسعه‌دهندگان آسان‌تر می‌کند.
خانواده مدل‌های Gemma
خانواده Gemma از مدل‌های سبک و باز، برای استنتاج با استفاده از کتابخانه Nvidia TensorRT-LLM بهینه شده است. انتظار می‌رود این مدل‌ها به عنوان میکروسرویس‌های Nvidia NIM با قابلیت استقرار آسان ارائه شوند و آنها را برای طیف گسترده‌تری از توسعه‌دهندگان در دسترس قرار دهند.
Nvidia TensorRT-LLM
Nvidia TensorRT-LLM کتابخانه‌ای برای بهینه‌سازی و استقرار مدل‌های زبانی بزرگ (LLMs) در GPUهای Nvidia است. انویدیا و گوگل با بهینه‌سازی مدل‌های Gemma با TensorRT-LLM، استفاده از قدرت LLMها را در برنامه‌های خود برای توسعه‌دهندگان آسان‌تر می‌کنند.
دسترسی برای توسعه‌دهندگان
این بهینه‌سازی‌ها عملکرد را به حداکثر میرساند و هوش مصنوعی پیشرفته را برای توسعه‌دهندگان در دسترس‌تر می‌کند و آنها را قادر می‌سازد تا حجم‌های کاری خود را در معماری‌های مختلف در مراکز داده و رایانه‌های شخصی و ایستگاه‌های کاری محلی مجهز به Nvidia RTX اجرا کنند.
شروع به کار جامعه توسعه‌دهندگان Google Cloud و Nvidia
گوگل کلود و انویدیا یک جامعه توسعه‌دهندگان مشترک جدید را برای تسریع مهارت‌آموزی متقابل و نوآوری راه‌اندازی کرده‌اند. این جامعه، متخصصان و همتایان را برای همکاری و به اشتراک گذاشتن دانش گرد هم می‌آورد و ساخت، مقیاس‌بندی و استقرار نسل بعدی برنامه‌های هوش مصنوعی را برای توسعه‌دهندگان آسان‌تر می‌کند.
مزایای جامعه توسعه‌دهندگان
تبادل دانش: جامعه بستری را برای توسعه‌دهندگان فراهم می‌کند تا تخصص خود را به اشتراک بگذارند و از دیگران بیاموزند.
همکاری: توسعه‌دهندگان می‌توانند در پروژه‌ها با یکدیگر همکاری کنند و کدها را به اشتراک بگذارند و روند توسعه را تسریع بخشند.
پشتیبانی: این جامعه پشتیبانی و راهنمایی را برای توسعه‌دهندگانی که برنامه‌های هوش مصنوعی می‌سازند، ارائه می‌دهد.
این ابتکار عمل، تعالی مهندسی، رهبری متن‌باز و یک اکوسیستم توسعه‌دهنده پر جنب و جوش را برای توانمندسازی توسعه‌دهندگان و پیشبرد نوآوری در فضای هوش مصنوعی ترکیب می‌کند.
چارچوب‌های متن‌باز
این شرکت‌ها با بهینه‌سازی چارچوب‌های متن‌باز مانند JAX برای مقیاس‌بندی یکپارچه در GPUهای Blackwell، از جامعه توسعه‌دهندگان پشتیبانی می‌کنند. این امر حجم‌های کاری هوش مصنوعی را قادر می‌سازد تا به طور کارآمد در ده‌ها هزار گره اجرا شوند و آموزش و استقرار مدل‌های هوش مصنوعی در مقیاس بزرگ را آسان‌تر می‌کند.
بهینه‌سازی JAX
JAX یک کتابخانه محاسباتی عددی با کارایی بالا است که توسط گوگل توسعه یافته است. انویدیا و گوگل با بهینه‌سازی JAX برای GPUهای Blackwell، استفاده از قدرت JAX را در برنامه‌های هوش مصنوعی برای توسعه‌دهندگان آسان‌تر می‌کنند.
ماشین‌های مجازی محرمانه و گره‌های GKE با GPUهای Nvidia H100
ماشین‌های مجازی محرمانه (VMها) گوگل کلود در سری ماشین A3 بهینه‌سازی‌شده برای شتاب‌دهنده با GPUهای Nvidia H100 اکنون در پیش‌نمایش در دسترس هستند. به طور مشابه، گره‌های Google Kubernetes Engine (GKE) محرمانه آن نیز ارائه می‌شود. این راه‌حل‌های محاسباتی محرمانه، محرمانگی و یکپارچگی حجم‌های کاری هوش مصنوعی، یادگیری ماشین و شبیه‌سازی علمی را با استفاده از GPUهای محافظت‌شده در حین استفاده از داده‌ها، تضمین می‌کنند.
ماشین‌های مجازی محرمانه
VMهای محرمانه، داده‌ها را در حین استفاده رمزگذاری می‌کنند و یک لایه امنیتی اضافی برای حجم‌های کاری حساس فراهم می‌کنند. این تضمین می‌کند که داده‌ها حتی در طول پردازش محافظت می‌شوند و خطر دسترسی غیرمجاز را کاهش می‌دهد.
Google Kubernetes Engine
Google Kubernetes Engine (GKE) یک سرویس مدیریت‌شده Kubernetes است که استقرار و مدیریت برنامه‌های کانتینری‌شده را ساده می‌کند. گره‌های GKE محرمانه همان سطح امنیتی را مانند VMهای محرمانه ارائه می‌دهند و تضمین می‌کنند که حجم‌های کاری کانتینری‌شده محافظت می‌شوند.
مزایای امنیتی
حفاظت از داده‌ها: VMهای محرمانه و گره‌های GKE از داده‌ها در حین استفاده محافظت می‌کنند و خطر نقض داده‌ها را کاهش می‌دهند.
انطباق: این راه‌حل‌ها به سازمان‌ها کمک می‌کنند تا با مقررات حفظ حریم خصوصی و استانداردهای صنعت مطابقت داشته باشند.
اعتماد: محاسبات محرمانه با اطمینان از اینکه داده‌ها در طول کل چرخه عمر محرمانه و محافظت‌شده باقی می‌مانند، اعتماد ایجاد می‌کند.
این امر به صاحبان داده و مدل قدرت می‌دهد تا کنترل مستقیم بر سفر داده‌های خود را حفظ کنند، و Nvidia Confidential Computing امنیت سخت‌افزاری پیشرفته‌ای را برای محاسبات شتاب‌یافته به ارمغان می‌آورد. این امر اعتماد بیشتری را هنگام ایجاد و اتخاذ راه‌حل‌ها و خدمات نوآورانه هوش مصنوعی فراهم می‌کند.
A4 VMهای جدید گوگل به طور کلی در Nvidia Blackwell GPUها در دسترس هستند
در فوریه، گوگل کلود ماشین‌های مجازی A4 جدید خود را راه‌اندازی کرد که دارای هشت GPU Blackwell متصل به هم توسط Nvidia NVLink است. این امر عملکرد قابل توجهی نسبت به نسل قبلی ارائه می‌دهد و آموزش و استقرار مدل‌های هوش مصنوعی در مقیاس بزرگ را آسان‌تر می‌کند. A4 VMهای جدید گوگل کلود در Nvidia HGX B200 اکنون به طور کلی در دسترس هستند و دسترسی مشتریان به آخرین سخت‌افزار هوش مصنوعی را فراهم می‌کنند.
Nvidia NVLink
Nvidia NVLink یک فناوری اتصال متقابل پرسرعت است که ارتباط سریع بین GPUها را امکان‌پذیر می‌کند. A4 VMهای گوگل کلود با اتصال هشت GPU Blackwell با NVLink، عملکرد بی‌نظیری را برای حجم‌های کاری هوش مصنوعی ارائه می‌دهند.
افزایش عملکرد
A4 VMها نسبت به نسل قبلی، افزایش عملکرد قابل توجهی را ارائه می‌دهند و آنها را برای آموزش و استقرار مدل‌های هوش مصنوعی در مقیاس بزرگ ایده‌آل می‌کنند. این امر به توسعه‌دهندگان امکان می‌دهد تا سریعتر تکرار کنند و نتایج بهتری را با برنامه‌های هوش مصنوعی خود به دست آورند.
دسترسی از طریق Vertex AI و GKE
VMها و معماری Hypercomputer AI جدید گوگل از طریق سرویس‌هایی مانند Vertex AI و GKE در دسترس هستند و مشتریان را قادر می‌سازند تا مسیری را برای توسعه و استقرار برنامه‌های هوش مصنوعی عامل محور در مقیاس انتخاب کنند. این امر استفاده از قدرت هوش مصنوعی را در برنامه‌های خود برای سازمان‌ها آسان‌تر می‌کند.
بررسی عمیق‌تر معماری GPU Blackwell
معماری GPU Blackwell انویدیا نشان‌دهنده یک جهش بزرگ در قدرت محاسباتی است که به طور اساسی چشم‌انداز هوش مصنوعی و محاسبات با کارایی بالا را تغییر می‌دهد. برای درک واقعی قابلیت‌های A4 VMها و تأثیر آنها بر نوآوری هوش مصنوعی، درک فناوری زیربنایی GPUهای Blackwell بسیار مهم است.
قابلیت‌های محاسباتی دگرگون‌کننده
معماری Blackwell برای مدیریت سخت‌ترین حجم‌های کاری هوش مصنوعی، از جمله آموزش مدل‌های زبانی بزرگ (LLMها) و اجرای شبیه‌سازی‌های پیچیده طراحی شده است. ویژگی‌های کلیدی آن عبارتند از:
- موتور Transformer نسل دوم: این موتور به طور خاص برای مدل‌های transformer بهینه شده است که اساس بسیاری از برنامه‌های هوش مصنوعی مدرن را تشکیل می‌دهند. این موتور آموزش و استنتاج این مدل‌ها را به طور قابل توجهی تسریع می‌کند.
- NVLink نسل پنجم: همانطور که قبلاً ذکر شد، NVLink ارتباط پرسرعت بین GPUها را امکان‌پذیر می‌کند و به آنها اجازه می‌دهد تا به طور یکپارچه روی وظایف پیچیده با هم کار کنند. این امر به ویژه برای آموزش مدل‌های بسیار بزرگی که به قدرت پردازش جمعی چندین GPU نیاز دارند، مهم است.
- پشتیبانی از محاسبات محرمانه: GPUهای Blackwell شامل ویژگی‌های امنیتی مبتنی بر سخت‌افزار هستند که محاسبات محرمانه را امکان‌پذیر می‌کنند و از حریم خصوصی و یکپارچگی داده‌های حساس اطمینان حاصل می‌کنند.
- فناوری حافظه پیشرفته: GPUهای Blackwell از آخرین فناوری حافظه استفاده می‌کنند و پهنای باند و ظرفیت بالایی را برای مدیریت مجموعه‌های داده عظیم مورد استفاده در برنامه‌های هوش مصنوعی فراهم می‌کنند.
تأثیر بر حجم‌های کاری هوش مصنوعی
ترکیب این ویژگی‌ها منجر به بهبود عملکرد قابل توجهی برای طیف گسترده‌ای از حجم‌های کاری هوش مصنوعی می‌شود. GPUهای Blackwell توسعه‌دهندگان را قادر می‌سازند تا:
- آموزش مدل‌های بزرگتر: افزایش قدرت محاسباتی و ظرفیت حافظه امکان آموزش مدل‌های هوش مصنوعی به طور قابل توجهی بزرگتر و پیچیده‌تر را فراهم می‌کند که منجر به بهبود دقت و عملکرد می‌شود.
- کاهش زمان آموزش: معماری بهینه‌سازی‌شده و اتصالات متقابل پرسرعت به طور چشمگیری زمان مورد نیاز برای آموزش مدل‌های هوش مصنوعی را کاهش می‌دهند و روند توسعه را تسریع می‌کنند.
- استقرار کارآمدتر: GPUهای Blackwell برای بهره‌وری انرژی طراحی شده‌اند و امکان استقرار مدل‌های هوش مصنوعی در مقیاس بزرگ را بدون مصرف بیش از حد انرژی فراهم می‌کنند.
- باز کردن برنامه‌های هوش مصنوعی جدید: عملکرد بی‌نظیر GPUهای Blackwell امکانات جدیدی را برای برنامه‌های هوش مصنوعی که قبلاً به دلیل محدودیت‌های محاسباتی غیرممکن بودند، باز می‌کند.
پیامدهای استراتژیک برای Google Cloud و مشتریان آن
مشارکت پیشرفته بین Google Cloud و Nvidia، که بر Gemini، Blackwell و زیرساخت پشتیبانی‌کننده متمرکز است، پیامدهای استراتژیک قابل توجهی را برای هر دو شرکت و مشتریان آنها ارائه می‌دهد.
مزیت رقابتی برای Google Cloud
- جذب کسب و کارهای متمرکز بر هوش مصنوعی: Google Cloud با ارائه زیرساخت های هوش مصنوعی پیشرفته مجهز به GPUهای Nvidia Blackwell، می تواند کسب و کارهایی را که به شدت در تحقیق و توسعه هوش مصنوعی سرمایه گذاری می کنند، جذب کند.
- تمایز از رقبا: ادغام Gemini و عملکرد بهینه شده VM های Google Cloud آن را از سایر ارائه دهندگان ابر متمایز می کند.
- تقویت اکوسیستم هوش مصنوعی خود: این مشارکت با توانمندسازی توسعه دهندگان، پرورش نوآوری و ارائه دسترسی به ابزارها و منابع پیشرفته، به یک اکوسیستم هوش مصنوعی قوی کمک می کند.
مزایا برای مشتریان
- تسریع نوآوری هوش مصنوعی: مشتریان می توانند از قدرت Gemini و GPUهای Blackwell برای تسریع ابتکارات هوش مصنوعی خود استفاده کنند و آنها را قادر سازد تا راه حل های نوآورانه را سریعتر توسعه و مستقر کنند.
- بهبود عملکرد و مقیاس پذیری: زیرساخت بهینه شده تضمین می کند که حجم های کاری هوش مصنوعی به طور کارآمد اجرا می شوند و می توانند برای پاسخگویی به تقاضای رو به رشد مقیاس شوند.
- افزایش امنیت و انطباق: VM های محرمانه و گره های GKE ویژگی های امنیتی و انطباق لازم برای محافظت از داده های حساس را فراهم می کنند.
- کاهش هزینه ها: با بهینه سازی حجم های کاری هوش مصنوعی برای GPUهای Nvidia، مشتریان می توانند به طور بالقوه هزینه های محاسباتی خود را کاهش دهند.
آینده توسعه هوش مصنوعی
این مشارکت نشان دهنده یک گام مهم به جلو در تکامل توسعه هوش مصنوعی است. دو شرکت با ترکیب تخصص گوگل در مدل های هوش مصنوعی با رهبری انویدیا در فناوری GPS، در حال پیشبرد نوآوری و در دسترس قرار دادن ابزارهای هوش مصنوعی پیشرفته برای توسعه دهندگان هستند. این امر بدون شک منجر به ایجاد برنامه های هوش مصنوعی جدید و هیجان انگیز می شود که صنایع را متحول می کند و زندگی ها را بهبود می بخشد.
درک نقش Nvidia NIM Microservices
یکی از مولفه های مهم این ابتکار مشترک، معرفی Nvidia NIM microservices است. برای درک اهمیت آنها، باید آنها را با دقت بیشتری بررسی کنیم.
تعریف و عملکرد
Nvidia NIM (Nvidia Inference Microservice) یک راه حل نرم افزاری است که برای ساده سازی استقرار مدل های هوش مصنوعی طراحی شده است. این مدل ها شامل مدل های از پیش آموزش دیده، موتورهای استنتاج و وابستگی های لازم به یک میکروسرویس کانتینری شده است. این بدان معنی است که NIM یک روش استاندارد برای استقرار مدل های هوش مصنوعی، صرف نظر از چارچوب یا سخت افزار، ارائه می دهد.
مزایای کلیدی Nvidia NIM:
- استقرار ساده: NIM به طور قابل توجهی پیچیدگی استقرار مدل های هوش مصنوعی را کاهش می دهد و به توسعه دهندگان این امکان را می دهد که به جای مدیریت زیرساخت، بر ساخت برنامه ها تمرکز کنند.
- شتاب سخت افزاری: NIM برای GPUهای Nvidia بهینه شده است و از قابلیت های تسریع آنها برای ارائه استنتاج با کارایی بالا استفاده می کند.
- مقیاس پذیری: NIM برای مقیاس بندی افقی طراحی شده است و به توسعه دهندگان این امکان را می دهد که بدون افت عملکرد، تقاضای رو به افزایش را مدیریت کنند.
- مدولاریتی: NIM امکان مدولاریتی و به روز رسانی سریع مدل های مختلف را بدون وقفه در سایر مدل ها فراهم می کند.
نحوه سود NIM به توسعه دهندگان و سازمان ها:
- زمان عرضه سریعتر به بازار: NIM با ساده سازی استقرار به توسعه دهندگان کمک می کند تا برنامه های مجهز به هوش مصنوعی را سریعتر به بازار عرضه کنند.
- کاهش هزینه ها: NIM با بهینه سازی استفاده از منابع، زیرساخت و هزینه های عملیاتی را به حداقل میرساند.
- بهبود عملکرد: شتاب سخت افزاری از طریق NIM توان عملیاتی بالاتر و تاخیر کمتری را ارائه می دهد و تجربه کاربری را افزایش می دهد.
- افزایش انعطاف پذیری: استقرار استاندارد با NIM انعطاف پذیری بیشتری را فراهم می کند و به توسعه دهندگان این امکان را می دهد که به راحتی بین مدل های مختلف هوش مصنوعی جابجا شوند.
نکات نتیجه گیری
همکاری گسترده بین Google Cloud و Nvidia نشان دهنده پیشرفت قابل توجهی در توسعه هوش مصنوعی است. ادغام مدل‌های Gemini گوگل با GPUهای Blackwell انویدیا، معیارهای جدیدی را برای بهینه‌سازی حجم کاری هوش مصنوعی ایجاد می‌کند. این مشارکت نه‌تنها نوآوری را تسریع می‌کند، بلکه امنیت، مقیاس‌پذیری و دسترسی را برای توسعه‌دهندگان و سازمان‌های درگیر در هوش مصنوعی افزایش می‌دهد. علاوه بر این، راه‌اندازی A4 VMs گوگل و Nvidia’s NIM microservices نقطه عطفی در توانمندسازی برنامه‌های هوش مصنوعی است که آینده‌ای را تقویت می‌کند که در آن راه‌حل‌های هوش مصنوعی به‌طور کارآمد و مؤثر در مقیاس بزرگ‌تری پیاده‌سازی می‌شوند.