Zhongxing'den Çip Devrimi: DeepSeek Modelleri

Zhongxing Microelectronics (Vimicro olarak da bilinir), yapay zeka alanında önemli bir adım atarak en son AI çipi olan ‘Starlight Intelligence No. 5’i tanıttı. Bu çip, 30 Nisan’da Fuzhou’da düzenlenen 8. Digital China Construction Summit’inde tanıtıldı. Bu çipi farklı kılan şey, DeepSeek’in 7B, 8B ve 16B büyük modellerini harici işlem gücüne ihtiyaç duymadan bağımsız olarak çalıştırabilmesidir. Bu, genel amaçlı dil modellerini ve görsel büyük modelleri aynı anda tek bir çip üzerinde çalıştırabilen ilk tam özerk ve kontrol edilebilir gömülü AI çipi olmasını sağlıyor.

Çığır Açan Mimari ve Gelişmiş Performans

‘Starlight Intelligence No. 5’ çipi, Zhongxing Micro’nun tescilli genel amaçlı çok çekirdekli heterojen GP-XPU mimarisini içeriyor. Bu yenilikçi mimari, operasyonel verimlilik, gerçek zamanlı performans, maliyet etkinliği ve güvenlik açısından geleneksel CPU+GPU mimarilerine göre önemli gelişmeler sunuyor. GP-XPU mimarisi, AI iş yüklerini optimize etmek için özel olarak tasarlandı ve çipin karmaşık görevleri daha yüksek hız ve hassasiyetle işlemesine olanak tanıyor.

GP-XPU Mimarisi’nin Temel Avantajları:

• Gelişmiş Verimlilik: Mimari, bilgi işlem kaynaklarının kullanımını en üst düzeye çıkararak daha hızlı işlem sürelerine ve genel performansın iyileştirilmesine yol açar.
• Gerçek Zamanlı Performans: Çip, gerçek zamanlı veri işlemeyi gerçekleştirebilir ve bu da onu anında yanıt gerektiren uygulamalar için uygun hale getirir.
• Maliyet Etkinliği: Çipin tasarımı, pahalı harici bileşenlere olan ihtiyacı azaltarak daha uygun fiyatlı bir çözüm sağlar.
• Güvenlik: Mimari, yetkisiz erişime ve veri ihlallerine karşı koruma sağlayan güvenlik özellikleri içerir.

Yerli Üretim ve Tamamen Kontrol Edilebilir

‘Starlight Intelligence No. 5’ çipi, yerli üretim proses teknolojisine dayanıyor ve üretimi ve kullanımı üzerinde tam özerklik ve kontrol sağlıyor. Bu, özellikle yabancı teknolojiye bağımlılığın risk oluşturabileceği stratejik olarak önemli sektörlerdeki uygulamalar için önemlidir. Zhongxing Micro, yerli kaynaklı bileşenler ve üretim süreçleri kullanarak, dış tedarikçilere olan bağımlılığı azaltmayı ve Çin’in küresel AI ortamındaki konumunu güçlendirmeyi hedefliyor.

Temel Sektörlerdeki Uygulamalar:

• Ulusal Stratejik Önem: Çip, kritik altyapı ve savunma sistemlerinde konuşlandırılabilir ve güvenli ve güvenilir bir AI işleme çözümü sağlar.
• Kentsel Algı: Çip, akıllı şehir girişimlerinde sensörlerden ve kameralardan gelen verileri analiz etmek, kentsel ortamların gerçek zamanlı olarak izlenmesini ve yönetilmesini sağlamak için kullanılabilir.
• Akıllı Üretim: Çip, üretim süreçlerinde otomasyonu ve verimliliği artırabilir, ürün kalitesini artırabilir ve maliyetleri düşürebilir.
• Akıllı Tarım: Çip, tarımsal sensörlerden ve dronlardan gelen verileri analiz etmek, mahsul verimini ve kaynak kullanımını optimize etmek için kullanılabilir.
• Akıllı Ulaşım: Çip, gelişmiş sürücü destek sistemlerine (ADAS) ve otonom araçlara güç sağlayabilir, yollarda güvenliği ve verimliliği artırabilir.

Uç (Edge) Bilgi İşlem Engelini Aşmak

‘Starlight Intelligence No. 5’ çipi, uç bilgi işleminin sınırlamalarının üstesinden gelmek için tasarlandı ve AI işlemenin bulut tabanlı kaynaklara bağlı kalmadan doğrudan cihazlarda gerçekleştirilmesini sağlıyor. Bu, çipin gelişmiş mimarisi ve büyük AI modellerini tek bir çip üzerinde çalıştırma yeteneği sayesinde elde ediliyor.

GP-XPU Mimari Bileşenleri:

• RISC-V CPU: Yüksek performanslı bir RISC-V CPU, çok çeşitli görevleri yerine getirmek için gereken genel amaçlı işlem gücünü sağlar.
• GP-GPU: Genel amaçlı bir GPU, AI iş yüklerini hızlandırır ve karmaşık algoritmaların daha hızlı işlenmesini sağlar.
• NPU: Bir nöral işleme birimi (NPU), AI çıkarımı için özel olarak tasarlanmıştır ve nöral ağların performansını optimize eder.
• ISP: Bir görüntü sinyali işlemcisi (ISP), kameralar tarafından çekilen görüntülerin kalitesini artırır ve görsel AI uygulamalarının doğruluğunu artırır.
• VPU: Bir video işleme birimi (VPU), video kodlamasını ve kod çözmeyi hızlandırır, verimli video akışı ve analizi sağlar.
• ECU: Bir şifreleme/şifre çözme birimi (ECU), hassas veriler için donanım tabanlı güvenlik sağlar.

Heterojen Hesaplama Havuzu (HCP)

Çip, çeşitli heterojen çekirdekler arasında bilgi işlem ve depolama kaynaklarının gerçek zamanlı olarak zamanlanmasını ve dinamik olarak paylaşılmasını sağlamak için özel bir Heterojen Hesaplama Havuzu (HCP) görev zamanlama birimi ve güvenli bir bellek yönetim sistemi kullanır. Bu, bilgi işlem verimliliğini ve veri verimini önemli ölçüde artırır ve çipin DeepSeek 1.5B, 7B, 8B ve 16B genel amaçlı büyük modelleri ve görsel büyük modelleri tek bir çip üzerinde dağıtmasına ve çalıştırmasına olanak tanır.

Uç Bilgi İşlem Yetenekleri:

• Gerçek Zamanlı Video Analizi: Çip, video akışlarında nesnelerin gerçek zamanlı olarak algılanmasını, tanınmasını ve izlenmesini gerçekleştirebilir.
• Doğal Dil İşleme: Çip, sohbet robotları ve sesli asistanlar gibi uygulamaları etkinleştirerek doğal dil girdilerini işleyebilir.
• Görev Planlama: Çip, karmaşık görevleri planlayabilir ve yürütebilir, bu da onu robotik ve otomasyon uygulamaları için uygun hale getirir.
• Bilgi Yönetimi: Çip, bilgi tabanlarından bilgi depolayabilir ve alabilir, akıllı karar vermeyi sağlar.
• Otomatik Kontrol: Çip, aktüatörleri ve diğer cihazları kontrol edebilir, kapalı döngü kontrol sistemlerini etkinleştirir.

Sekiz adet ‘Starlight Intelligence No. 5’ çipini birlikte dağıtarak, ‘tam kanlı’ 671B parametreli DeepSeek büyük modellerinin ve görsel büyük modellerinin çalışmasını desteklemek ve uçtaki işlem gücü darboğazını tamamen kırmak mümkündür.

Çok Yönlü Bir AI Çipi

‘Starlight Intelligence No. 5’ çipi, çeşitli uygulamalarda mükemmel olan çok yönlü bir AI çipidir. Temel avantajları arasında yüksek verimlilik, düşük enerji tüketimi, düşük maliyet, küçük boyut, güçlü güvenlik ve yüksek uyarlanabilirlik yer almaktadır.

Ayrıntılı Temel Avantajlar:

• Yüksek Verimlilik: Çip, bilgi işlem verimliliğini yaklaşık %40 ve veri verimini yaklaşık %50 artırmak için operatör düzeyinde bir MoE mimarisi ve HCP gerçek zamanlı zamanlama mekanizması kullanır.
• Düşük Enerji Tüketimi: Çipin heterojen bilgi işlem kaynakları isteğe bağlı olarak tahsis edilir ve enerji tüketimini en az %30 azaltır.
• Düşük Maliyet: Çipin ‘uç-uç kapalı döngü mimarisi’, bulut kaynaklarına olan bağımlılığı azaltır ve aynı performansa sahip bir sunucu mimarisinin maliyetinin yaklaşık 1/3’ü olan kapsamlı bir dağıtım maliyetiyle sonuçlanır.
• Küçük Boyut: Çipe gömülü işleme kartı, çeşitli minyatür akıllı cihazların alan gereksinimlerini karşılayabilen yalnızca bir kartvizit büyüklüğünde bir alan gerektirir.
• Güçlü Güvenlik: Çip, bellek bölümleme güvenliği yalıtım teknolojisini kullanır, yüksek performanslı yerli şifreleme algoritması hesaplamalarını destekler, kaynak düzeyinde parola koruması sağlar ve yerel veri güvenliği özelliklerine sahiptir.
• Yüksek Uyarlanabilirlik: Çip, açık ekosistemleri ve ana akım AI çerçevelerini destekler ve binlerce sektördeki çeşitli uygulama senaryolarına sorunsuz bir şekilde bağlanır. Çalışma ortamı uyarlanabilirliği açısından, ‘Starlight Intelligence No. 5’ çipi, bulut tabanlı büyük bilgi işlem ekipmanının bilgisayar odasının sabit sıcaklık ve nem ortamına olan bağımlılığını ortadan kaldırır ve çeşitli üretim ve yaşam ortamlarında yüksek performanslı akıllı çalışma tamamlayabilir.

‘Yerelleştirilmiş Akıllı Ajanları’ Güçlendirmek

‘Starlight Intelligence No. 5’ çipi, bulut tabanlı kaynaklara bağlı kalmadan cihazlarda bağımsız olarak çalışabilen AI destekli sistemler olan ‘yerelleştirilmiş akıllı ajanları’ güçlendirmek için tasarlandı. Bu yaklaşım, gelişmiş yanıt süreleri, düşük maliyetler ve gelişmiş güvenlik dahil olmak üzere çeşitli avantajlar sunuyor.

Yerelleştirilmiş Akıllı Ajanların Avantajları:

• Gelişmiş Yanıt Süreleri: Çip, verileri yerel olarak işleyerek, bulut tabanlı işlemeyle ilişkili gecikme olmadan olaylara gerçek zamanlı olarak yanıt verebilir.
• Düşük Maliyetler: Çip, bulut kaynaklarına olan bağımlılığı azaltarak AI dağıtımlarının maliyetini önemli ölçüde düşürebilir.
• Gelişmiş Güvenlik: Çip, verileri yerel olarak işleyerek hassas bilgileri yetkisiz erişime ve veri ihlallerine karşı koruyabilir.

Yerelleştirilmiş Akıllı Ajanların Uygulamaları:

• Akıllı Evler: Yerelleştirilmiş akıllı ajanlar, ışıklar, termostatlar ve cihazlar gibi akıllı ev cihazlarını kontrol ederek daha kullanışlı ve verimli bir yaşam deneyimi sağlayabilir.
• Giyilebilir Cihazlar: Yerelleştirilmiş akıllı ajanlar, giyilebilir sensörlerden gelen verileri analiz ederek kişiselleştirilmiş sağlık ve zindelik önerileri sağlayabilir.
• Endüstriyel Otomasyon: Yerelleştirilmiş akıllı ajanlar, robotları ve diğer endüstriyel ekipmanları kontrol ederek üretim ortamlarında verimliliği ve güvenliği artırabilir.

AI Dağıtım Paradigmasını Yeniden Yapılandırmak

Zhongxing Micro’nun ‘Starlight Intelligence No. 5’ çipi, daha dağıtılmış ve yerelleştirilmiş bir yaklaşım sağlayarak AI dağıtım paradigmasını dönüştürmeye hazırlanıyor. Bu, bulut tabanlı kaynaklara olan bağımlılığı azaltacak ve daha geniş bir uygulama yelpazesini güçlendirecektir.

Yeni Paradigmanın Temel Faydaları:

• Azaltılmış Gecikme: Yerelleştirilmiş işleme, verileri buluta iletme ihtiyacını ortadan kaldırır, gecikmeyi azaltır ve yanıt sürelerini iyileştirir.
• Daha Düşük Bant Genişliği Gereksinimleri: Yerelleştirilmiş işleme, ağ üzerinden iletilmesi gereken veri miktarını azaltır, bant genişliği gereksinimlerini ve maliyetlerini düşürür.
• Gelişmiş Gizlilik: Yerelleştirilmiş işleme, hassas verileri cihazda tutar, yetkisiz erişime ve veri ihlallerine karşı korur.
• Gelişmiş Güvenilirlik: Yerelleştirilmiş işleme, ağ bağlantısı kesildiğinde bile AI sistemlerinin çalışmaya devam etmesini sağlar.

Zhongxing Micro Technology CEO’su Zhang Yundong’a göre, ‘Starlight Intelligence No. 5’, uç tarafın ve kenar tarafın akıllı yükseltmesini teşvik edecek, bulut bilişim kaynaklarına olan bağımlılığı büyük ölçüde azaltacak, sistem yapım maliyetlerinden tasarruf sağlayacak ve Çin’in ulusal koşullarına uygun bir yapay zeka teknolojisi rotasını keşfedecek.

Buluta dayanan geleneksel AI çıkarım süreci genellikle büyük yanıt gecikmeleri, yüksek maliyetler ve ağ ortamındaki kısıtlamalar gibi sorunlarla karşı karşıyadır. Çip, yerelleştirilmiş bilgi işlem gücü ve endojen güvenlik mekanizmaları aracılığıyla büyük model çıkarımının doğrudan uç tarafında kapalı döngü olmasını sağlar; bu da yalnızca bulut iletimini ve depolama maliyetlerini düşürmekle kalmaz, aynı zamanda yanıt hızını önemli ölçüde artırır, milisaniye düzeyinde yanıt elde eder ve verileri kaynak düzeyinde parola mekanizmasıyla yaşam döngüsü boyunca korur.

Bu teknolojik atılım, kentsel algı, akıllı üretim ve akıllı ulaşım gibi senaryolar için verimlilik, enerji tüketimi, maliyet, hacim, güvenlik ve uyarlanabilirlik açısından kapsamlı bir optimizasyon sağlar ve binlerce sektörün otonom ve kontrol edilebilir akıllı terminaller oluşturmasını gerçekten mümkün kılar.

Zhang Yundong şunları söyledi: ‘Zhongxing Micro, Çin’in geleneksel endüstrilerindeki dijital dönüşümün gerçek ihtiyaçlarına yanıt olarak, uç, kenar ve bulut için dağıtılmış yapay zeka bilgi işlem teknolojisi geliştiriyor. En gelişmiş yarı iletken proses teknolojisine güvenmeden, orijinal yenilik ve bağımsız kontrolde ısrar ediyoruz ve Çin’in ulusal koşullarına uygun bir yapay zeka teknolojisi rotasını keşfediyoruz.’