Kebangkitan RISC-V sebagai Arsitektur Komputasi AI-Native
Popularitas DeepSeek yang meledak baru-baru ini telah mengirimkan riak ke seluruh industri AI, dan dampaknya melampaui ranah kecerdasan buatan. Industri semikonduktor, khususnya, telah memperhatikan. Selama Tahun Baru Imlek, Xuantie dari Alibaba DAMO Academy mengumumkan adaptasinya terhadap model distilasi seri DeepSeek-R1, yang menunjukkan momentum kuat dari arsitektur set instruksi sumber terbuka yang sedang berkembang, RISC-V, dalam domain AI.
Pada Konferensi Ekosistem Xuantie RISC-V baru-baru ini, berita menarik muncul: RISC-V telah mencapai terobosan dalam komputasi kinerja tinggi dan AI. Xuantie C930, CPU tingkat server pertama dari DAMO Academy, akan mulai dikirimkan bulan depan. Kekuatan komputasi AI-nya yang ditingkatkan secara signifikan mempercepat penerapan ekosistem RISC-V ‘kinerja tinggi + AI’ yang komprehensif.
Mungkinkah arsitektur komputasi sumber terbuka RISC-V menjadi mitra ideal untuk AI sumber terbuka?
Transformasi Model AI Memicu Inovasi dalam Arsitektur Komputasi
Seorang ahli berpengalaman di industri chip menjelaskan bahwa dampak DeepSeek tidak hanya terasa di kalangan AI tetapi juga sangat terasa di dalam industri chip. DeepSeek, melalui desainnya yang sangat optimal, telah secara drastis mengurangi biaya pelatihan dan inferensi model bahasa besar. Pergeseran ini telah secara dramatis mengubah keseimbangan yang ada antara daya komputasi, memori, dan interkoneksi, menciptakan peluang signifikan untuk terobosan dalam arsitektur komputasi.
Secara tradisional, model AI besar, karena kebutuhan komputasi dan memorinya yang intensif, lebih cocok untuk diterapkan di cloud daripada di perangkat edge. Namun, kedatangan DeepSeek telah menantang ketergantungan pada daya komputasi tinggi ini. Dengan mengurangi biaya pelatihan dan inferensi, ini membuka jalan bagi model besar untuk bertransisi dari cloud ke edge.
Secara khusus, tuntutan komputasi DeepSeek yang berkurang membuat penerapan mesin tunggal menjadi layak, meningkatkan kompatibilitasnya dengan perangkat edge dan end-side. Ketika AI berupaya menembus berbagai industri dan skenario, kebutuhan untuk berpindah dari cloud ke edge menjadi semakin penting. Pergeseran ini diperlukan untuk memenuhi beragam kebutuhan seperti keamanan data, kustomisasi yang dipersonalisasi, dan penerapan pribadi.
Dapat diperkirakan bahwa, dengan adopsi teknologi DeepSeek yang meluas, lanskap chip AI akan mengalami transformasi. Dari komputasi paralel skala besar yang bergantung pada infrastruktur cloud, chip AI berkembang menuju desain yang beragam, efisien, dan berdaya rendah yang mampu beroperasi secara independen pada perangkat edge.
Hal ini telah mendorong banyak orang di industri untuk merenungkan: arsitektur komputasi apa yang paling cocok untuk AI?
GPU, dengan kemampuan pemrosesan paralelnya, mungkin bukan satu-satunya solusi. Komputasi serial (komputasi tujuan umum) juga muncul sebagai fondasi yang layak untuk komputasi AI. Pengalaman industri menunjukkan bahwa DeepSeek menunjukkan kompatibilitas yang baik dengan berbagai sistem komputasi. Kemampuannya untuk diterapkan dengan cepat dan melakukan inferensi yang efektif pada CPU telah membawa CPU kembali menjadi sorotan. Dibandingkan dengan GPU khusus, CPU menawarkan keuntungan keserbagunaan, penjadwalan yang disederhanakan, pengurangan signifikan dalam persyaratan daya komputasi, dan manfaat komputasi homogen.
Di antara CPU, bintang yang sedang naik daun, RISC-V, menarik perhatian yang signifikan.
Selama Tahun Baru Imlek, DAMO Academy mengadaptasi model distilasi seri DeepSeek-R1 pada chip yang ditenagai oleh prosesor RISC-V Xuantie C920. Seluruh proses hanya memakan waktu satu jam, menunjukkan pengalaman yang cepat dan mulus. Ini menandakan bahwa model seri DeepSeek dapat diterapkan dan dijalankan dengan lancar di seluruh jajaran platform CPU Xuantie dan perangkat AI end-side lainnya yang dilengkapi dengan chip arsitektur RISC-V.
Keunggulan RISC-V berasal dari beberapa faktor. Pertama, sebagai arsitektur set instruksi yang sedang berkembang, ia membedakan dirinya dari model lisensi tertutup atau berbayar x86 dan ARM dengan merangkul pendekatan sumber terbuka. Semangat sumber terbuka ini selaras secara alami dengan AI. Sifat terbukanya telah menarik partisipasi lebih dari 1.000 perusahaan di seluruh dunia, mendorong pertumbuhan pesat dalam ekosistemnya, dari desain perangkat keras hingga toolchain perangkat lunak. Menurut RISC-V International Foundation, lebih dari 80 produk chip RISC-V yang berbeda telah memasuki pasar.
Kedua, RISC-V menawarkan fleksibilitas dan skalabilitas yang luar biasa. Ini memungkinkan pengembang untuk menyesuaikan set instruksi sesuai dengan kebutuhan spesifik. Sifat modular dari set instruksinya memungkinkan penyesuaian untuk skenario aplikasi yang berbeda, tingkat fleksibilitas yang tak tertandingi oleh arsitektur tradisional.
Secara teknis, RISC-V juga cocok untuk jenis komputasi AI baru. Ekstensi vektornya (V-extension) dapat secara efektif menangani operasi paralel skala besar, memenuhi tuntutan efisiensi komputasi AI. Arsitektur terbuka RISC-V dapat bekerja secara sinergis dengan modul akselerasi perangkat keras untuk meningkatkan efisiensi eksekusi tugas AI. Melalui integrasi mendalam dengan algoritma AI, arsitektur RISC-V dapat digunakan untuk merancang unit akselerasi perangkat keras khusus, mengoptimalkan kinerja untuk model AI tertentu.
Oleh karena itu, banyak ahli berpengalaman di industri chip mengantisipasi bahwa RISC-V akan menjadi arsitektur komputasi asli dari era AI.
Pada Konferensi Ekosistem Xuantie RISC-V ketiga yang diselenggarakan oleh Alibaba DAMO Academy, harapan ini akhirnya terwujud.
CPU Tingkat Server Pertama Xuantie Siap Dikirim: Perpaduan Performa Tinggi dan AI
Pada konferensi tersebut, Ni Guangnan, seorang akademisi dari Chinese Academy of Engineering, menyatakan, ‘RISC-V sumber terbuka bukan hanya inovasi teknologi tetapi juga transformasi global yang akan memengaruhi masa depan arsitektur komputasi.’ Sebagai arsitektur set instruksi chip yang ‘terlahir sebagai sumber terbuka,’ RISC-V telah menunjukkan kinerja yang luar biasa dalam siklus industri semikonduktor ini. Ini telah mempercepat kemajuannya dari sistem tertanam ke skenario kompleks seperti komputasi kinerja tinggi, menawarkan opsi baru untuk daya komputasi AI.
Di antara 25 standar yang disetujui oleh RISC-V International Foundation pada tahun 2024, lebih dari setengahnya terkait dengan kinerja tinggi atau AI. Lu Dai, Ketua Dewan Direksi RISC-V International Foundation, menyatakan pada konferensi tersebut bahwa salah satu kemajuan paling menarik dalam set instruksi RISC-V adalah Matrix extension, yang akan mendorong RISC-V untuk menjadi kekuatan yang tangguh di bidang AI.
Diperkirakan bahwa pada tahun 2030, pangsa pasar keseluruhan RISC-V akan mencapai 20%, dengan pangsa di akselerator AI berpotensi melebihi 50%.
Pada konferensi tersebut, DAMO Academy meluncurkan prosesor andalan generasi berikutnya, dan prosesor tingkat server pertama, C930.
C930 mencapai benchmark daya komputasi tujuan umum 15/GHz dalam uji benchmark SPECint2006. Apa artinya ini? Akademisi Ni Guangnan menunjukkan bahwa agar RISC-V benar-benar memasuki pasar komputasi kinerja tinggi, ia harus mencapai skor kinerja tinggi yang melebihi 15 dalam uji perangkat lunak SPECint 2006. Oleh karena itu, C930 mewakili langkah tonggak sejarah bagi RISC-V.
Selain itu, C930 dilengkapi dengan mesin ganda: RVV1.0 512-bit dan Matrix 8 TOPS. Ini mengintegrasikan daya komputasi kinerja tinggi tujuan umum dengan daya komputasi AI secara native. Ini juga menyediakan antarmuka ekstensi DSA terbuka untuk mendukung lebih banyak persyaratan fitur.
Secara bersamaan, DAMO Academy mengungkapkan rencana pengembangannya untuk anggota baru dari keluarga prosesor Xuantie, termasuk C908X, R908A, dan XL200, terus berkembang ke arah seperti akselerasi AI, aplikasi otomotif, dan interkoneksi berkecepatan tinggi. Secara khusus, C908X diposisikan sebagai prosesor AI khusus pertama Xuantie, mendukung ekstensi vektor RVV1.0 lebar bit data ultra-panjang 4096-bit. R908A ditargetkan pada persyaratan keandalan tinggi dari chip kelas otomotif. XL200 akan menyediakan interkoneksi koheren multi-cluster skala yang lebih besar dan kinerja yang lebih tinggi.
Untuk melengkapi kemampuan prosesor Xuantie, DAMO Academy juga telah meluncurkan tiga SDK Xuantie berdasarkan tiga sistem operasi utama: Linux, Android, dan RTOS. SDK ini secara komprehensif mengintegrasikan kemampuan perangkat lunak Xuantie yang terakumulasi selama bertahun-tahun, menyediakannya ke industri dengan cara yang lebih lengkap, nyaman, dan stabil. Di antaranya, SDK Linux Xuantie menawarkan serangkaian subsistem yang kaya, termasuk virtualisasi Hypervisor, kerangka kerja keamanan CoVE, kerangka kerja AI Xuantie, dan pustaka operator kinerja tinggi, memfasilitasi pengembangan RISC-V dalam skenario kinerja tinggi dan AI.
Sambil mengembangkan teknologi perangkat keras dan perangkat lunak berkinerja tinggi, Xuantie juga secara aktif mendorong inovasi kolaboratif di antara mitra industri hulu dan hilir, mempercepat penerapan ekosistem RISC-V ‘kinerja tinggi + AI’ yang komprehensif.
Dedikasi Alibaba: RISC-V Xuantie Memimpin Komunitas Sumber Terbuka Internasional
Bagi mereka yang tidak terbiasa dengan Xuantie, berikut adalah pengantar singkat.
Pada tahun 2018, Alibaba mendirikan merek Xuantie, yang berfokus pada arah RISC-V. Setahun kemudian, prosesor pertama, C910, muncul sebagai prosesor RISC-V paling kuat saat itu. Sejak itu, Xuantie telah menjadi pemimpin dalam ekosistem RISC-V internasional dan salah satu kontributor Tiongkok terbesar bagi komunitas sumber terbuka internasional. Saat ini memegang posisi ketua atau wakil ketua di komite teknis yayasan dan lebih dari 10 subkomite teknis, secara aktif mempromosikan standardisasi teknologi terkait AI.
Sejak 2019, Xuantie telah meluncurkan 13 prosesor RISC-V, yang mencakup berbagai skenario seperti kinerja tinggi, efisiensi energi tinggi, dan konsumsi daya rendah. Ini termasuk:
- Seri C (Computing): Terutama menargetkan server kelas atas, komputasi edge kelas atas, dan IPC kelas industri/konsumen.
- Seri E (Embedded): Terutama digunakan dalam MPU kelas atas dan berbagai MCU.
- Seri R (Reliability & Realtime): Menargetkan SSD kelas atas, komunikasi, kontrol industri kelas atas, otomotif, dan skenario lainnya.
- XT-Link: IP interkoneksi multi-cluster CPU.
Hingga saat ini, pengiriman prosesor Xuantie telah melebihi 4 miliar unit, menjadikannya salah satu seri produk prosesor yang paling berpengaruh dan terdepan di pasar di bidang RISC-V domestik.
Sepanjang perkembangannya, Xuantie secara konsisten mendorong batas kinerja RISC-V, berjuang untuk kinerja yang lebih tinggi. Secara bersamaan, ia secara aktif merangkul AI, yang bertujuan untuk menjadikan RISC-V sebagai arsitektur komputasi AI asli.
Pada tingkat teknologi arsitektur set instruksi, memanfaatkan keterbukaan dan fleksibilitas superior dari arsitektur RISC-V, Xuantie telah lama menyesuaikan ekstensi set instruksi untuk aplikasi AI. Ekstensi set instruksi Matrix yang diusulkannya dan optimalisasi operator inti GEMM untuk model besar dapat mempercepat inferensi dan pelatihan AI, meningkatkan efisiensi energi AI pada perangkat edge.
Dalam hal prosesor, Xuantie C907 adalah yang pertama menerapkan ekstensi Matrix, mencapai percepatan 15x dibandingkan dengan solusi tradisional. C920 yang ditingkatkan mendukung teknologi Vector 1.0 dan Vector Crypto, meningkatkan kinerja GEMM lebih dari 7x dan kinerja operator Transformer lebih dari 17x. Prosesor andalan terbaru, C930, menampilkan mesin ganda vektor dan matriks, memposisikannya sebagai mitra yang menjanjikan untuk model AI besar pada perangkat edge.
Pada tingkat tumpukan perangkat lunak, Xuantie telah menciptakan platform perangkat keras dan perangkat lunak AI full-stack RISC-V end-to-end. Platform ini menyediakan produsen chip dengan infrastruktur komputasi AI yang serbaguna dan efisien, membentuk desain pipeline yang berorientasi pada kebutuhan bisnis, benar-benar memungkinkan pengoptimalan yang nyaman dan mendalam dari desain perangkat keras yang mendasari hingga toolchain perangkat lunak lapisan atas. Platform ini telah diterapkan pada produk terminal seperti kartu transcoding video cloud, kotak komputasi edge AI, dan laptop RISC-V.
Selain teknologinya sendiri, tim DAMO Academy RISC-V secara konsisten melibatkan mitra industri hulu dan hilir untuk meningkatkan ekosistem ‘kinerja tinggi + AI’ dari RISC-V.
Pada konferensi tahun lalu, laptop sumber terbuka RISC-V ‘Ruyi BOOK Jia Chen Edition’ tampil mengejutkan, menunjukkan pengoperasian perangkat lunak komersial besar yang stabil dan lancar. Tahun ini, Institute of Software, Chinese Academy of Sciences, lebih lanjut memperkenalkan ‘Ruyi BOOK Yi Si Edition,’ robot cerdas, PC AI, dan aplikasi kinerja tinggi RISC-V lainnya.
Di antaranya, prototipe PC AI berdasarkan C920 telah berhasil menjalankan model sumber terbuka seperti Llama, Qwen, dan DeepSeek, mendukung aplikasi AI seperti asisten pribadi AI, pemrograman AI, dan pengenalan visual. Ini menunjukkan ‘rantai penuh AI sumber terbuka’ yang lengkap dari arsitektur perangkat keras sumber terbuka hingga sistem operasi sumber terbuka dan model AI sumber terbuka, sementara juga mengurangi konsumsi energi komputasi unit sebesar 30%.
Selain itu, Xuantie telah berkolaborasi dengan mitra untuk membangun solusi praktis seperti solusi codec video RISC-V dan solusi desktop cloud. Untuk mendukung aplikasi di lebih banyak industri, Xuantie juga telah menerapkan daya komputasi RISC-V di PC all-in-one, AI kontrol industri, robot, dan bidang lainnya.
Akademisi Ni Guangnan menyatakan bahwa investasi dan inovasi pragmatis Xuantie adalah kekuatan pendorong yang krusial untuk perkembangan sehat ekosistem RISC-V.
Masa Depan Sumber Terbuka
Keberhasilan DeepSeek adalah bukti kekuatan sumber terbuka. Arsitektur set instruksi sumber terbuka RISC-V, sejak awal lebih dari satu dekade yang lalu, telah memetakan jalur pengembangan yang berbeda dari model x86 yang tertutup dan ARM yang berlisensi. Ini telah memberi industri kesempatan untuk berinovasi arsitektur dengan cara yang lebih ringkas dan terbuka, mendapatkan pengakuan yang semakin meningkat.
Ini muncul sebagai kandidat terbaik untuk arsitektur asli era AI. Di satu sisi, RISC-V, dengan komitmennya terhadap keterbukaan dan evolusi berkelanjutan, dapat mengimbangi perubahan cepat dalam AI. Di sisi lain, ekstensibilitas RISC-V yang kuat memungkinkannya untuk kompatibel dengan ekosistem arsitektur yang ada melalui porting dan adaptasi, sementara juga berfungsi sebagai arsitektur asli untuk mendukung skenario yang muncul.
Seperti yang dikatakan Guo Songliu, kepala RISC-V di Institute of Software, Chinese Academy of Sciences: ‘Tumpukan perangkat lunak AI masih berkembang pesat. Sebagai yang paling fleksibel dan terbuka dari tiga arsitektur set instruksi utama, RISC-V tidak diragukan lagi adalah yang paling cocok untuk laju inovasi teknologi di era AI.’