RISC-V’nin Yapay Zeka Odaklı Bilgi İşlem Mimarisi Olarak Yükselişi
DeepSeek’in son zamanlardaki patlayıcı popülaritesi, yapay zeka endüstrisinde dalgalanmalara neden oldu ve etkisi sadece yapay zeka alanının ötesine uzanıyor. Özellikle yarı iletken endüstrisi bu durumu fark etti. Çin Yeni Yılı sırasında, Alibaba’nın DAMO Akademisi Xuantie, DeepSeek-R1 serisi damıtma modelinin uyarlamasını duyurdu ve bu, yükselen açık kaynaklı komut seti mimarisi RISC-V’nin yapay zeka alanındaki güçlü ivmesini sergiledi.
Son Xuantie RISC-V Ekosistem Konferansı’nda heyecan verici haberler ortaya çıktı: RISC-V hem yüksek performanslı bilgi işlem hem de yapay zeka alanlarında atılımlar gerçekleştirdi. DAMO Akademisi’nin ilk sunucu sınıfı CPU’su olan Xuantie C930’un teslimatına önümüzdeki ay başlanacak. Önemli ölçüde geliştirilmiş yapay zeka bilgi işlem gücü, kapsamlı bir ‘yüksek performanslı + yapay zeka’ RISC-V ekosisteminin dağıtımını hızlandırıyor.
Açık kaynaklı bilgi işlem mimarisi RISC-V, açık kaynaklı yapay zeka için ideal ortak olabilir mi?
Yapay Zeka Modeli Dönüşümü, Bilgi İşlem Mimarisinde Yeniliği Teşvik Ediyor
Çip endüstrisindeki deneyimli bir uzman, DeepSeek’in etkisinin yalnızca yapay zeka çevrelerinde değil, aynı zamanda çip endüstrisinde de derinden hissedildiğini açıkladı. DeepSeek, yüksek düzeyde optimize edilmiş tasarımı sayesinde, büyük dil modellerinin eğitim ve çıkarım maliyetlerini önemli ölçüde azalttı. Bu değişim, mevcut bilgi işlem gücü, bellek ve ara bağlantı dengesini önemli ölçüde değiştirerek, bilgi işlem mimarisinde atılımlar için önemli fırsatlar yarattı.
Geleneksel olarak, büyük yapay zeka modelleri, yoğun bilgi işlem ve bellek gereksinimleri nedeniyle, uç cihazlar yerine bulutta dağıtım için daha uygundu. Ancak, DeepSeek’in gelişi, yüksek bilgi işlem gücüne olan bu bağımlılığa meydan okudu. Hem eğitim hem de çıkarım maliyetlerini azaltarak, büyük modellerin buluttan uca geçişinin yolunu açıyor.
Özellikle, DeepSeek’in azaltılmış hesaplama talepleri, tek makineli dağıtımı mümkün kılarak, uç ve uç cihazlarla uyumluluğunu artırıyor. Yapay zeka, çeşitli endüstrilere ve senaryolara nüfuz etmeye çalıştıkça, buluttan uca geçme ihtiyacı giderek daha kritik hale geliyor. Bu değişim, veri güvenliği, kişiselleştirilmiş özelleştirme ve özel dağıtım gibi çeşitli ihtiyaçları karşılamak için gereklidir.
DeepSeek teknolojisinin yaygın olarak benimsenmesiyle birlikte, yapay zeka çiplerinin manzarasının bir dönüşüm geçireceği öngörülebilir. Bulut altyapısına dayanan büyük ölçekli paralel hesaplamadan, yapay zeka çipleri, uç cihazlarda bağımsız olarak çalışabilen çeşitlendirilmiş, verimli ve düşük güçlü tasarımlara doğru evriliyor.
Bu, sektördeki birçok kişiyi şu soruyu sormaya sevk etti: Yapay zeka için hangi bilgi işlem mimarisi en uygun?
Paralel işleme yeteneklerine sahip GPU’lar tek çözüm olmayabilir. Seri hesaplama (genel amaçlı hesaplama) da yapay zeka hesaplaması için uygun bir temel olarak ortaya çıkıyor. Sektör deneyimi, DeepSeek’in çeşitli bilgi işlem sistemleriyle iyi bir uyumluluk sergilediğini gösteriyor. CPU’lar üzerinde hızla dağıtılabilme ve etkili çıkarım yapabilme yeteneği, CPU’ları yeniden ilgi odağı haline getirdi. Özel GPU’larla karşılaştırıldığında, CPU’lar çok yönlülük, basitleştirilmiş zamanlama, bilgi işlem gücü gereksinimlerinde önemli azalma ve homojen hesaplamanın avantajlarını sunar.
CPU’lar arasında yükselen yıldız RISC-V, büyük ilgi görüyor.
Çin Yeni Yılı sırasında, DAMO Akademisi, RISC-V işlemcisi Xuantie C920 ile çalışan bir çip üzerinde DeepSeek-R1 serisi damıtma modelini uyarladı. Tüm süreç sadece bir saat sürdü ve hızlı ve sorunsuz bir deneyim gösterdi. Bu, DeepSeek serisi modellerinin, Xuantie CPU platformlarının tamamında ve RISC-V mimarisi çiplerle donatılmış diğer yapay zeka uç cihazlarında sorunsuz bir şekilde dağıtılabileceği ve çalıştırılabileceği anlamına geliyor.
RISC-V’nin öne çıkması birkaç faktörden kaynaklanmaktadır. İlk olarak, yükselen bir komut seti mimarisi olarak, x86 ve ARM’nin kapalı veya ücretli lisanslama modellerinden farklı olarak açık kaynaklı bir yaklaşımı benimser. Bu açık kaynak ruhu, yapay zeka ile doğal olarak uyumludur. Açık yapısı, dünya çapında 1.000’den fazla şirketin katılımını çekerek, donanım tasarımından yazılım araç zincirlerine kadar ekosisteminde hızlı bir büyüme sağladı. RISC-V International Foundation’a göre, 80’den fazla farklı RISC-V çip ürünü piyasaya girmiş durumda.
İkinci olarak, RISC-V olağanüstü esneklik ve ölçeklenebilirlik sunar. Geliştiricilerin komut setini belirli ihtiyaçlara göre özelleştirmesine olanak tanır. Komut setinin modüler yapısı, farklı uygulama senaryoları için özelleştirmeye olanak tanır; bu, geleneksel mimariler tarafından eşsiz bir esneklik düzeyidir.
Teknik olarak, RISC-V ayrıca yeni tür yapay zeka hesaplaması için de çok uygundur. Vektör uzantısı (V-extension), büyük ölçekli paralel işlemleri etkili bir şekilde işleyebilir ve yapay zeka hesaplamasının verimlilik taleplerini karşılayabilir. RISC-V’nin açık mimarisi, yapay zeka görevlerinin yürütme verimliliğini artırmak için donanım hızlandırma modülleriyle sinerji içinde çalışabilir. Yapay zeka algoritmalarıyla derin entegrasyon sayesinde, RISC-V mimarisi, belirli yapay zeka modelleri için performansı optimize eden özel donanım hızlandırma birimleri tasarlamak için kullanılabilir.
Bu nedenle, çip endüstrisindeki birçok deneyimli uzman, RISC-V’nin yapay zeka çağının yerel bilgi işlem mimarisi olacağını tahmin ediyor.
Alibaba’nın DAMO Akademisi tarafından düzenlenen üçüncü Xuantie RISC-V Ekosistem Konferansı’nda bu beklenti nihayet gerçekleşti.
Xuantie’nin İlk Sunucu Sınıfı CPU’su Teslimata Hazır: Yüksek Performans ve Yapay Zekanın Birleşimi
Konferansta, Çin Mühendislik Akademisi üyesi Ni Guangnan, ‘Açık kaynaklı RISC-V sadece bir teknolojik yenilik değil, aynı zamanda gelecekteki bilgi işlem mimarisini etkileyecek küresel bir dönüşümdür’ dedi. ‘Açık kaynaklı doğmuş’ bir çip komut seti mimarisi olarak RISC-V, bu yarı iletken endüstrisi döngüsünde dikkate değer bir performans sergiledi. Gömülü sistemlerden yüksek performanslı bilgi işlem gibi karmaşık senaryolara doğru ilerlemesini hızlandırdı ve yapay zeka bilgi işlem gücü için yeni bir seçenek sundu.
RISC-V International Foundation tarafından 2024’te onaylanan 25 standardın yarısından fazlası yüksek performans veya yapay zeka ile ilgilidir. RISC-V International Foundation Yönetim Kurulu Başkanı Lu Dai, konferansta RISC-V komut setindeki en heyecan verici gelişmelerden birinin Matrix uzantısı olduğunu ve bunun RISC-V’yi yapay zeka alanında zorlu bir güç haline getireceğini belirtti.
2030 yılına kadar RISC-V’nin genel pazar payının %20’ye ulaşacağı ve yapay zeka hızlandırıcılarındaki payının %50’yi aşabileceği tahmin ediliyor.
Konferansta, DAMO Akademisi yeni nesil amiral gemisi işlemcisini ve ilk sunucu sınıfı işlemcisi olan C930‘u tanıttı.
C930, SPECint2006 kıyaslama testinde 15/GHz genel amaçlı bilgi işlem gücü kıyaslamasına ulaşıyor. Bu ne anlama geliyor? Akademisyen Ni Guangnan, RISC-V’nin yüksek performanslı bilgi işlem pazarına gerçekten girebilmesi için SPECint 2006 yazılım testinde 15’i aşan yüksek performanslı bir puan elde etmesi gerektiğini belirtti. Bu nedenle, C930, RISC-V için bir kilometre taşı adımını temsil ediyor.
Ayrıca, C930 çift motorla donatılmıştır: 512-bit RVV1.0 ve 8 TOPS Matrix. Bu, genel amaçlı yüksek performanslı bilgi işlem gücünü yapay zeka bilgi işlem gücüyle yerel olarak entegre eder. Ayrıca, daha fazla özellik gereksinimini desteklemek için açık bir DSA uzantı arayüzü sağlar.
Aynı zamanda, DAMO Akademisi, C908X, R908A ve XL200 dahil olmak üzere Xuantie işlemci ailesinin yeni üyeleri için geliştirme planlarını açıkladı ve yapay zeka hızlandırması, otomotiv uygulamaları ve yüksek hızlı ara bağlantı gibi yönlerde gelişmeye devam ediyor. Özellikle, C908X, Xuantie’nin ilk özel yapay zeka işlemcisi olarak konumlandırılmıştır ve 4096 bit ultra uzun veri bit genişliği RVV1.0 vektör uzantısını destekler. R908A, otomotiv sınıfı çiplerin yüksek güvenilirlik gereksinimlerini hedeflemektedir. XL200, daha büyük ölçekli, daha yüksek performanslı çok kümeli tutarlı ara bağlantı sağlayacaktır.
Xuantie işlemcilerinin yeteneklerini tamamlamak için DAMO Akademisi ayrıca üç ana işletim sistemine dayalı üç Xuantie SDK’sı başlattı: Linux, Android ve RTOS. Bu SDK’lar, Xuantie’nin yıllar içinde biriktirdiği yazılım yeteneklerini kapsamlı bir şekilde entegre ederek, bunları sektöre daha eksiksiz, kullanışlı ve kararlı bir şekilde sunar. Bunlar arasında, Xuantie Linux SDK, Hypervisor sanallaştırması, CoVE güvenlik çerçevesi, Xuantie AI çerçevesi ve yüksek performanslı operatör kitaplıkları dahil olmak üzere zengin bir alt sistem seti sunarak, RISC-V’nin yüksek performanslı ve yapay zeka senaryolarında geliştirilmesini kolaylaştırır.
Yüksek performanslı donanım ve yazılım teknolojileri geliştirirken, Xuantie ayrıca yukarı ve aşağı akış endüstri ortakları arasında işbirliğine dayalı yeniliği aktif olarak teşvik ederek, kapsamlı bir RISC-V ‘yüksek performanslı + yapay zeka’ ekosisteminin dağıtımını hızlandırıyor.
Alibaba’nın Adanmışlığı: RISC-V Xuantie, Uluslararası Açık Kaynak Topluluğuna Liderlik Ediyor
Xuantie’yi bilmeyenler için kısa bir tanıtım.
2018’de Alibaba, RISC-V yönüne odaklanan Xuantie markasını kurdu. Bir yıl sonra, ilk işlemci olan C910, o zamanın en güçlü RISC-V işlemcisi olarak ortaya çıktı. O zamandan beri, Xuantie uluslararası RISC-V ekosisteminde lider ve uluslararası açık kaynak topluluğuna en büyük Çinli katkıda bulunanlardan biri olmuştur. Şu anda vakfın teknik komitesinde ve 10’dan fazla teknik alt komitede başkanlık veya başkan yardımcılığı pozisyonlarına sahiptir ve yapay zeka ile ilgili teknolojilerin standardizasyonunu aktif olarak teşvik etmektedir.
2019’dan beri Xuantie, yüksek performans, yüksek enerji verimliliği ve düşük güç tüketimi gibi çeşitli senaryoları kapsayan 13 RISC-V işlemcisi piyasaya sürdü. Bunlar şunları içerir:
- C Serisi (Bilgi İşlem): Öncelikle üst düzey sunucuları, üst düzey uç bilgi işlemi ve endüstriyel/tüketici sınıfı IPC’leri hedefliyor.
- E Serisi (Gömülü): Esas olarak üst düzey MPU’larda ve çeşitli MCU’larda kullanılır.
- R Serisi (Güvenilirlik ve Gerçek Zamanlı): Üst düzey SSD’leri, iletişimi, üst düzey endüstriyel kontrolü, otomotiv ve diğer senaryoları hedefliyor.
- XT-Link: Bir CPU çok kümeli ara bağlantı IP’si.
Bugüne kadar, Xuantie işlemci sevkiyatları 4 milyar adedi aştı ve bu da onu yerli RISC-V alanındaki en etkili ve pazar lideri işlemci ürün serilerinden biri haline getirdi.
Gelişimi boyunca, Xuantie sürekli olarak RISC-V’nin performans sınırlarını zorladı ve her zaman daha yüksek performans için çabaladı. Aynı zamanda, yapay zekayı aktif olarak benimsedi ve RISC-V’yi yerel bir yapay zeka bilgi işlem mimarisi olarak kurmayı hedefledi.
Komut seti mimarisi teknolojisi düzeyinde, RISC-V mimarisinin üstün açıklığı ve esnekliğinden yararlanan Xuantie, uzun süredir yapay zeka uygulamaları için komut seti uzantılarını özelleştirmektedir. Önerdiği Matrix uzantısı komut seti ve büyük modeller için GEMM çekirdek operatörünün optimizasyonu, yapay zeka çıkarımını ve eğitimini hızlandırabilir ve uç cihazlarda yapay zekanın enerji verimliliğini artırabilir.
İşlemciler açısından, Xuantie C907, Matrix uzantısını uygulayan ilk işlemci oldu ve geleneksel çözümlere kıyasla 15 kat hızlanma elde etti. Yükseltilmiş C920, Vector 1.0 ve Vector Crypto teknolojilerini destekleyerek GEMM performansını 7 kattan fazla ve Transformer operatör performansını 17 kattan fazla artırır. En yeni amiral gemisi işlemcisi C930, hem vektör hem de matris çift motorlarına sahiptir ve bu da onu uç cihazlardaki büyük yapay zeka modelleri için umut verici bir ortak olarak konumlandırır.
Yazılım yığını düzeyinde, Xuantie uçtan uca bir RISC-V yapay zeka tam yığın yazılım ve donanım platformu oluşturdu. Bu platform, çip üreticilerine genel amaçlı, verimli bir yapay zeka bilgi işlem altyapısı sağlayarak, iş ihtiyaçlarına yönelik bir boru hattı tasarımı oluşturur ve temel donanım tasarımından üst katman yazılım araç zincirlerine kadar uygun ve derin optimizasyonu gerçekten mümkün kılar. Bu platform, bulut video kod dönüştürme kartları, yapay zeka uç bilgi işlem kutuları ve RISC-V dizüstü bilgisayarlar gibi terminal ürünlerine uygulanmıştır.
Kendi teknolojisine ek olarak, DAMO Akademisi RISC-V ekibi, RISC-V’nin ‘yüksek performanslı + yapay zeka’ ekosistemini geliştirmek için sürekli olarak yukarı ve aşağı akış endüstri ortaklarıyla etkileşim kurmuştur.
Geçen yılki konferansta, RISC-V açık kaynaklı dizüstü bilgisayar ‘Ruyi BOOK Jia Chen Edition’ sürpriz bir şekilde ortaya çıktı ve büyük ticari yazılımların kararlı ve sorunsuz çalışmasını gösterdi. Bu yıl, Çin Bilimler Akademisi Yazılım Enstitüsü, ‘Ruyi BOOK Yi Si Edition’, akıllı robotlar, yapay zeka PC’leri ve diğer RISC-V yüksek performanslı uygulamalarını daha da tanıttı.
Bunlar arasında, C920’ye dayalı yapay zeka PC prototipi, Llama, Qwen ve DeepSeek gibi açık kaynaklı modelleri başarıyla çalıştırdı ve yapay zeka kişisel asistanları, yapay zeka programlama ve görsel tanıma gibi yapay zeka uygulamalarını destekledi. Bu, açık kaynaklı donanım mimarisinden açık kaynaklı işletim sistemlerine ve açık kaynaklı yapay zeka modellerine kadar eksiksiz bir ‘açık kaynaklı yapay zeka tam zinciri’ gösterirken, aynı zamanda birim bilgi işlem enerji tüketimini %30 azaltır.
Ayrıca, Xuantie, RISC-V video codec çözümleri ve bulut masaüstü çözümleri gibi pratik çözümler oluşturmak için ortaklarla işbirliği yaptı. Daha fazla endüstrideki uygulamaları desteklemek için Xuantie ayrıca hepsi bir arada PC’lerde, endüstriyel kontrol yapay zekasında, robotlarda ve diğer alanlarda RISC-V bilgi işlem gücünü dağıttı.
Akademisyen Ni Guangnan, Xuantie’nin pragmatik yatırımının ve yeniliğinin, RISC-V ekosisteminin sağlıklı gelişimi için çok önemli itici güçler olduğunu belirtti.
Açık Kaynağın Geleceği
DeepSeek’in başarısı, açık kaynağın gücünün bir kanıtıdır. Açık kaynaklı komut seti mimarisi RISC-V, on yıldan fazla bir süre önce kurulduğundan beri, kapalı x86 ve lisanslı ARM modellerinden farklı bir gelişim yolu çizdi. Sektöre, mimarileri daha özlü ve açık bir şekilde yenileme fırsatı sundu ve giderek daha fazla tanınma kazandı.
Yapay zeka çağının yerel mimarisi için en iyi aday olarak ortaya çıkıyor. Bir yandan, RISC-V, açıklığa olan bağlılığı ve sürekli evrimi ile yapay zekadaki hızlı değişikliklere ayak uydurabilir. Öte yandan, RISC-V’nin güçlü genişletilebilirliği, taşıma ve uyarlama yoluyla mevcut mimari ekosistemleriyle uyumlu olmasını sağlarken, aynı zamanda gelişmekte olan senaryoları desteklemek için yerel bir mimari olarak hizmet eder.
Çin Bilimler Akademisi Yazılım Enstitüsü’nde RISC-V başkanı Guo Songliu’nun dediği gibi: ‘Yapay zeka yazılım yığını hala hızla gelişiyor. Üç ana komut seti mimarisinin en esnek ve açık olanı olan RISC-V, şüphesiz yapay zeka çağındaki teknolojik yenilik hızına en uygun olanıdır.’