עלייתה של RISC-V כאריכטקטורת מחשוב מקורית ל-AI
הפופולריות העצומה והפתאומית של DeepSeek הכתה גלים בתעשיית הבינה המלאכותית, והשפעתה חורגת מעבר לתחום הבינה המלאכותית בלבד. תעשיית המוליכים למחצה, בפרט, שמה לב. במהלך ראש השנה הסיני, Xuantie של Alibaba’s DAMO Academy הכריזה על התאמת מודל הזיקוק DeepSeek-R1, והציגה את המומנטום החזק של ארכיטקטורת סט הפקודות הפתוחה המתפתחת, RISC-V, בתחום הבינה המלאכותית.
בכנס Xuantie RISC-V Ecosystem האחרון, הופיעו חדשות מרגשות: RISC-V השיגה פריצות דרך הן במחשוב עתיר ביצועים והן בבינה מלאכותית. ה-Xuantie C930, המעבד הראשון ברמת השרת מ-DAMO Academy, אמור להתחיל במשלוח בחודש הבא. כוח מחשוב הבינה המלאכותית המשופר שלו באופן משמעותי מאיץ את הפריסה של מערכת אקולוגית מקיפה של RISC-V ‘ביצועים גבוהים + AI’.
האם ארכיטקטורת המחשוב הקוד הפתוח RISC-V יכולה להיות השותפה האידיאלית לבינה מלאכותית בקוד פתוח?
טרנספורמציה של מודל AI מזינה חדשנות בארכיטקטורת מחשוב
מומחה ותיק בתעשיית השבבים הסביר שההשפעה של DeepSeek מורגשת לא רק בחוגי הבינה המלאכותית אלא גם באופן עמוק בתעשיית השבבים. DeepSeek, באמצעות העיצוב הממוטב ביותר שלה, הפחיתה באופן דרסטי את עלויות האימון וההסקה של מודלי שפה גדולים. שינוי זה שינה באופן דרמטי את האיזון הקיים בין כוח מחשוב, זיכרון וקישוריות, ויצר הזדמנויות משמעותיות לפריצות דרך בארכיטקטורת המחשוב.
באופן מסורתי, מודלי AI גדולים, בשל דרישות המחשוב והזיכרון האינטנסיביות שלהם, התאימו יותר לפריסה בענן ולא במכשירי קצה. עם זאת, הגעתו של DeepSeek ערערה על הסתמכות זו על כוח מחשוב גבוה. על ידי הפחתת עלויות האימון וההסקה, היא סוללת את הדרך למודלים גדולים לעבור מהענן לקצה.
באופן ספציפי, הדרישות החישוביות המופחתות של DeepSeek הופכות פריסה של מכונה בודדת לאפשרית, ומשפרות את התאימות שלה למכשירי קצה וקצה. ככל שהבינה המלאכותית מבקשת לחדור לתעשיות ולתרחישים מגוונים, הצורך לעבור מהענן לקצה הופך להיות קריטי יותר ויותר. שינוי זה נחוץ כדי לענות על צרכים מגוונים כגון אבטחת מידע, התאמה אישית והתקנה פרטית.
ניתן לצפות כי, עם האימוץ הנרחב של טכנולוגיית DeepSeek, הנוף של שבבי AI יעבור טרנספורמציה. ממחשוב מקבילי בקנה מידה גדול המסתמך על תשתית ענן, שבבי AI מתפתחים לעבר עיצובים מגוונים, יעילים ובעלי הספק נמוך המסוגלים לפעול באופן עצמאי במכשירי קצה.
זה גרם לרבים בתעשייה להרהר: איזו ארכיטקטורת מחשוב מתאימה ביותר לבינה מלאכותית?
GPUs, עם יכולות העיבוד המקבילי שלהם, עשויים שלא להיות הפתרון היחיד. מחשוב טורי (מחשוב לשימוש כללי) מתגלה גם כבסיס בר-קיימא למחשוב AI. ניסיון בתעשייה מראה ש-DeepSeek מפגין תאימות טובה למערכות מחשוב שונות. היכולת שלה להיפרס במהירות ולבצע הסקה יעילה על מעבדים החזירה את המעבדים לאור הזרקורים. בהשוואה למעבדים גרפיים מיוחדים, מעבדים מציעים את היתרון של רב-תכליתיות, תזמון פשוט, הפחתה משמעותית בדרישות כוח המחשוב והיתרונות של מחשוב הומוגני.
בין המעבדים, הכוכב העולה, RISC-V, מושך תשומת לב משמעותית.
במהלך ראש השנה הסיני, DAMO Academy התאימה את מודל הזיקוק DeepSeek-R1 על שבב המופעל על ידי מעבד RISC-V Xuantie C920. התהליך כולו ארך שעה אחת בלבד, והדגים חוויה מהירה וחלקה. זה מצביע על כך שניתן לפרוס ולהפעיל את מודלי סדרת DeepSeek בצורה חלקה על כל מגוון פלטפורמות המעבד Xuantie ומכשירי קצה AI אחרים המצוידים בשבבי ארכיטקטורת RISC-V.
הבולטות של RISC-V נובעת ממספר גורמים. ראשית, כארכיטקטורת סט פקודות מתפתחת, היא מבדילה את עצמה ממודלי הרישוי הסגורים או בתשלום של x86 ו-ARM על ידי אימוץ גישה של קוד פתוח. רוח הקוד הפתוח הזו מתיישרת באופן טבעי עם AI. האופי הפתוח שלה משך את השתתפותן של למעלה מ-1,000 חברות ברחבי העולם, וטיפח צמיחה מהירה במערכת האקולוגית שלה, מעיצוב חומרה ועד שרשראות כלים של תוכנה. על פי קרן RISC-V International, יותר מ-80 מוצרי שבבי RISC-V שונים כבר נכנסו לשוק.
שנית, RISC-V מציע גמישות ומדרגיות יוצאות דופן. זה מאפשר למפתחים להתאים אישית את סט הפקודות בהתאם לצרכים ספציפיים. האופי המודולרי של סט הפקודות שלו מאפשר התאמה אישית עבור תרחישי יישומים שונים, רמת גמישות שאין דומה לה בארכיטקטורות מסורתיות.
מבחינה טכנית, RISC-V מתאים היטב גם לסוגים חדשים של מחשוב AI. ההרחבה הווקטורית שלו (V-extension) יכולה להתמודד ביעילות עם פעולות מקבילות בקנה מידה גדול, ולעמוד בדרישות היעילות של מחשוב AI. הארכיטקטורה הפתוחה של RISC-V יכולה לעבוד בסינרגיה עם מודולי האצת חומרה כדי לשפר את יעילות הביצוע של משימות AI. באמצעות אינטגרקציה עמוקה עם אלגוריתמי AI, ניתן להשתמש בארכיטקטורת RISC-V כדי לתכנן יחידות האצת חומרה ייעודיות, ולמטב את הביצועים עבור מודלי AI ספציפיים.
לכן,מומחים ותיקים רבים בתעשיית השבבים צופים ש-RISC-V תהפוך לארכיטקטורת המחשוב המקורית של עידן הבינה המלאכותית.
בכנס Xuantie RISC-V Ecosystem השלישי שאורגן על ידי DAMO Academy של Alibaba, ציפייה זו סוף סוף התממשה.
המעבד הראשון ברמת השרת של Xuantie מוכן למשלוח: שילוב של ביצועים גבוהים ו-AI
בכנס, ני גואנגנן, אקדמאי מהאקדמיה הסינית להנדסה, הצהיר, “קוד פתוח RISC-V הוא לא רק חידוש טכנולוגי אלא גם טרנספורמציה גלובלית שתשפיע על עתיד ארכיטקטורת המחשוב.” כארכיטקטורת סט פקודות שבב “שנולדה בקוד פתוח”, RISC-V הפגינה ביצועים יוצאי דופן במחזור זה של תעשיית המוליכים למחצה. היא האיצה את התקדמותה ממערכות משובצות לתרחישים מורכבים כגון מחשוב עתיר ביצועים, והציעה אפשרות חדשה לכוח מחשוב AI.
מבין 25 התקנים שאושרו על ידי קרן RISC-V International בשנת 2024, יותר ממחציתם קשורים לביצועים גבוהים או לבינה מלאכותית. לו דאי, יו”ר מועצת המנהלים של קרן RISC-V International, הצהיר בכנס שאחת ההתקדמויות המרגשות ביותר בסט הפקודות RISC-V היא הרחבת Matrix, שתניע את RISC-V להפוך לכוח אדיר בתחום הבינה המלאכותית.
צופים שעד 2030, נתח השוק הכולל של RISC-V יגיע ל-20%, כאשר חלקו במאיצי AI עשוי לעלות על 50%.
בכנס, DAMO Academy חשפה את מעבד הדגל מהדור הבא שלה, והמעבד הראשון ברמת השרת, ה-C930.
ה-C930 משיג מדד כוח מחשוב לשימוש כללי של 15/GHz במבחן המדד SPECint2006. מה זה אומר? האקדמאי ני גואנגנן ציין שכדי ש-RISC-V ייכנס באמת לשוק המחשוב עתיר הביצועים, עליו להשיג ציון ביצועים גבוה העולה על 15 במבחן התוכנה SPECint 2006. לכן, ה-C930 מייצג צעד אבן דרך עבור RISC-V.
יתר על כן, ה-C930 מצויד בשני מנועים: 512-bit RVV1.0 ו-8 TOPS Matrix. זה משלב כוח מחשוב לשימוש כללי בעל ביצועים גבוהים עם כוח מחשוב AI באופן מקורי. הוא גם מספק ממשק הרחבה פתוח של DSA כדי לתמוך בדרישות תכונות נוספות.
במקביל, DAMO Academy חשפה את תוכניות הפיתוח שלה עבור חברים חדשים במשפחת מעבדי Xuantie, כולל C908X, R908A ו-XL200, הממשיכים להתפתח בכיוונים כגון האצת AI, יישומים לרכב וקישוריות מהירה. באופן ספציפי, ה-C908X ממוצב כמעבד ה-AI הייעודי הראשון של Xuantie, התומך בהרחבה וקטורית RVV1.0 ברוחב סיביות נתונים ארוך במיוחד של 4096 סיביות. ה-R908A מיועד לדרישות האמינות הגבוהות של שבבים ברמת רכב. ה-XL200 יספק קישוריות מרובת אשכולות בקנה מידה גדול יותר וביצועים גבוהים יותר.
כדי להשלים את היכולות של מעבדי Xuantie, DAMO Academy השיקה גם שלושה ערכות SDK של Xuantie המבוססות על שלוש מערכות ההפעלה המרכזיות: Linux, Android ו-RTOS. ערכות SDK אלו משלבות באופן מקיף את יכולות התוכנה שנצברו של Xuantie לאורך השנים, ומספקות אותן לתעשייה בצורה שלמה, נוחה ויציבה יותר. ביניהם, Xuantie Linux SDK מציע קבוצה עשירה של תת-מערכות, כולל וירטואליזציה של Hypervisor, מסגרת אבטחה CoVE, מסגרת Xuantie AI וספריות מפעילים בעלות ביצועים גבוהים, המאפשרות פיתוח של RISC-V בתרחישים של ביצועים גבוהים ו-AI.
בזמן פיתוח טכנולוגיות חומרה ותוכנה בעלות ביצועים גבוהים, Xuantie מקדמת באופן פעיל גם חדשנות שיתופית בין שותפים בתעשייה במעלה הזרם ובמורד הזרם, ומאיצה את הפריסה של מערכת אקולוגית מקיפה של RISC-V ‘ביצועים גבוהים + AI’.
המסירות של Alibaba: RISC-V Xuantie מובילה את קהילת הקוד הפתוח הבינלאומית
למי שלא מכיר את Xuantie, הנה הקדמה קצרה.
בשנת 2018, Alibaba הקימה את המותג Xuantie, תוך התמקדות בכיוון RISC-V. שנה לאחר מכן, המעבד הראשון, ה-C910, הופיע כמעבד RISC-V החזק ביותר באותה תקופה. מאז, Xuantie הייתה מובילה במערכת האקולוגית הבינלאומית של RISC-V ואחת התורמות הסיניות הגדולות ביותר לקהילת הקוד הפתוח הבינלאומית. היא מחזיקה כיום בתפקידי יו”ר או סגן יו”ר בוועדה הטכנית של הקרן וביותר מ-10 ועדות משנה טכניות, ומקדמת באופן פעיל את התקינה של טכנולוגיות הקשורות לבינה מלאכותית.
מאז 2019, Xuantie השיקה 13 מעבדי RISC-V, המכסים תרחישים שונים כגון ביצועים גבוהים, יעילות אנרגטית גבוהה וצריכת חשמל נמוכה. אלו כוללים:
- C Series (Computing): מכוון בעיקר לשרתים מתקדמים, מחשוב קצה מתקדם ומחשבי IPC ברמה תעשייתית/צרכנית.
- E Series (Embedded): משמש בעיקר ב-MPUs מתקדמים וב-MCUs שונים.
- R Series (Reliability & Realtime): מכוון לכונני SSD מתקדמים, תקשורת, בקרה תעשייתית מתקדמת, רכב ותרחישים אחרים.
- XT-Link: IP קישוריות מרובת אשכולות של מעבד.
עד היום, משלוחי מעבדי Xuantie עלו על 4 מיליארד יחידות, מה שהופך אותה לאחת מסדרות מוצרי המעבדים המשפיעות והמובילות בשוק בתחום RISC-V המקומי.
לאורך התפתחותה, Xuantie דחפה בעקביות את גבולות הביצועים של RISC-V, ושואפת לביצועים גבוהים יותר ויותר. במקביל, היא אימצה באופן פעיל את הבינה המלאכותית, במטרה לבסס את RISC-V כארכיטקטורת מחשוב AI מקורית.
ברמת טכנולוגיית ארכיטקטורת סט הפקודות, תוך מינוף הפתיחות והגמישות המעולות של ארכיטקטורת RISC-V, Xuantie התאימה זה מכבר הרחבות של סט פקודות עבור יישומי AI. הרחבת סט הפקודות Matrix המוצעת שלה ואופטימיזציה של מפעיל הליבה GEMM עבור מודלים גדולים יכולים להאיץ הסקה ואימון של AI, ולשפר את יעילות האנרגיה של AI במכשירי קצה.
מבחינת מעבדים, ה-Xuantie C907 היה הראשון ליישם את הרחבת Matrix, והשיג האצה של פי 15 בהשוואה לפתרונות מסורתיים. ה-C920 המשודרג תומך בטכנולוגיות Vector 1.0 ו-Vector Crypto, ומשפר את ביצועי GEMM ביותר מפי 7 ואת ביצועי מפעיל Transformer ביותר מפי 17. מעבד הדגל האחרון, ה-C930, כולל שני מנועי וקטור ומטריצה, וממצב אותו כשותף מבטיח עבור מודלי AI גדולים במכשירי קצה.
ברמת ערימת התוכנה, Xuantie יצרה פלטפורמת חומרה ותוכנה מלאה של RISC-V AI מקצה לקצה. פלטפורמה זו מספקת ליצרני שבבים תשתית מחשוב AI כללית ויעילה, ויוצרת עיצוב צינור המכוון לצרכים עסקיים, ומאפשרת באמת אופטימיזציה נוחה ועמוקה מעיצוב חומרה בסיסי ועד שרשראות כלים של תוכנה בשכבה העליונה. פלטפורמה זו יושמה על מוצרי קצה כגון כרטיסי קידוד וידאו בענן, קופסאות מחשוב קצה AI ומחשבים ניידים RISC-V.
בנוסף לטכנולוגיה שלה, צוות DAMO Academy RISC-V עסק בעקביות בשותפים בתעשייה במעלה הזרם ובמורד הזרם כדי לשפר את המערכת האקולוגית ‘ביצועים גבוהים + AI’ של RISC-V.
בכנס בשנה שעברה, המחשב הנייד הקוד הפתוח RISC-V ‘Ruyi BOOK Jia Chen Edition’ הופיע בהפתעה, והדגים פעולה יציבה וחלקה של תוכנה מסחרית גדולה. השנה, המכון לתוכנה, האקדמיה הסינית למדעים, הציג עוד את ‘Ruyi BOOK Yi Si Edition’, רובוטים חכמים, מחשבי AI אישיים ויישומי RISC-V אחרים בעלי ביצועים גבוהים.
ביניהם,אב הטיפוס של מחשב AI אישי המבוסס על ה-C920 הפעיל בהצלחה מודלים של קוד פתוח כגון Llama, Qwen ו-DeepSeek, התומכים ביישומי AI כגון עוזרים אישיים של AI, תכנות AI וזיהוי חזותי. זה מדגים ‘שרשרת מלאה של AI קוד פתוח’ מארכיטקטורת חומרה בקוד פתוח ועד מערכות הפעלה בקוד פתוח ומודלים של AI בקוד פתוח, תוך הפחתת צריכת האנרגיה של יחידת מחשוב ב-30%.
יתר על כן, Xuantie שיתפה פעולה עם שותפים כדי לבנות פתרונות מעשיים כגון פתרונות קידוד וידאו RISC-V ופתרונות שולחן עבודה בענן. כדי לתמוך ביישומים בתעשיות נוספות, Xuantie פרסה גם כוח מחשוב RISC-V במחשבי All-in-One, AI בקרה תעשייתית, רובוטים ותחומים אחרים.
האקדמאי ני גואנגנן הצהיר שההשקעה והחדשנות הפרגמטיות של Xuantie הן כוחות מניעים מכריעים להתפתחות הבריאה של המערכת האקולוגית RISC-V.
עתיד הקוד הפתוח
ההצלחה של DeepSeek היא עדות לכוחו של הקוד הפתוח. ארכיטקטורת סט הפקודות הקוד הפתוח RISC-V, מאז הקמתה לפני למעלה מעשור, התוותה נתיב פיתוח שונה מה-x86 הסגור וממודלי ARM המורשים. היא הציגה לתעשייה הזדמנות לחדש ארכיטקטורות בצורה תמציתית ופתוחה יותר, וזכתה להכרה הולכת וגוברת.
היא מתגלה כמועמדת הטובה ביותר לארכיטקטורה המקורית של עידן הבינה המלאכותית. מצד אחד, RISC-V, עם מחויבותה לפתיחות והתפתחות מתמדת, יכולה לעמוד בקצב השינויים המהירים בבינה מלאכותית. מצד שני, ההרחבה החזקה של RISC-V מאפשרת לה להיות תואמת למערכות אקולוגיות ארכיטקטוניות קיימות באמצעות העברה והתאמה, תוך שהיא משמשת גם כארכיטקטורה מקורית לתמיכה בתרחישים מתפתחים.
כפי שאמר גואו סונגליו, ראש RISC-V במכון לתוכנה, האקדמיה הסינית למדעים: “ערימת התוכנה של AI עדיין מתפתחת במהירות. כגמישה והפתוחה ביותר מבין שלוש ארכיטקטורות סט הפקודות המרכזיות, RISC-V היא ללא ספק המתאימה ביותר לקצב החדשנות הטכנולוגית בעידן הבינה המלאכותית.”