Революция в AI чиповете: DeepSeek на един чип

Zhongxing Microelectronics, известна също като Vimicro, наскоро направи значителна крачка в сферата на изкуствения интелект, представяйки най-новия си AI чип, ‘Starlight Intelligence No. 5’. Този авангарден чип беше представен на 8-ата Среща за цифрово строителство на Китай във Фуджоу на 30 април. Това, което отличава този чип, е способността му да изпълнява DeepSeek’s 7B, 8B и 16B големи модели самостоятелно, без да разчита на външна изчислителна мощност. Това го прави първият напълно автономен и контролируем вграден AI чип, способен едновременно да оперира както с езикови модели с общо предназначение, така и с визуални големи модели на един чип.

Революционна Архитектура и Подобрена Производителност

Чипът ‘Starlight Intelligence No. 5’ включва патентованата от Zhongxing Micro многоядрена хетерогенна GP-XPU архитектура с общо предназначение. Тази иновативна архитектура предлага значителни подобрения в сравнение с традиционните CPU+GPU архитектури по отношение на оперативна ефективност, производителност в реално време, рентабилност и сигурност. GP-XPU архитектурата е специално проектирана да оптимизира AI работни натоварвания, позволявайки на чипа да обработва сложни задачи с по-голяма скорост и прецизност.

Ключови Предимства на GP-XPU Архитектурата:

• Подобрена Ефективност: Архитектурата максимизира използването на изчислителните ресурси, което води до по-бързи времена за обработка и подобрена обща производителност.
• Производителност в Реално Време: Чипът е способен да обработва данни в реално време, което го прави подходящ за приложения, които изискват незабавни отговори.
• Рентабилност: Дизайнът на чипа намалява нуждата от скъпи външни компоненти, което води до по-достъпно решение.
• Сигурност: Архитектурата включва функции за сигурност, които предпазват от неоторизиран достъп и пробиви на данни.

Произведено в Страната и Напълно Контролируемо

Чипът ‘Starlight Intelligence No. 5’ е базиран на произведена в страната технология на процесите, осигуряваща пълна автономност и контрол върху неговото производство и употреба. Това е особено важно за приложения в стратегически важни сектори, където разчитането на чуждестранна технология може да представлява рискове. Използвайки компоненти и производствени процеси от местни източници, Zhongxing Micro се стреми да намали зависимостта от външни доставчици и да засили позицията на Китай в глобалния AI пейзаж.

Приложения в Ключови Сектори:

• Национално Стратегическо Значение: Чипът може да бъде разположен в критична инфраструктура и отбранителни системи, осигурявайки сигурно и надеждно решение за AI обработка.
• Градско Възприятие: Чипът може да се използва в инициативи за интелигентни градове за анализ на данни от сензори и камери, позволявайки мониторинг и управление на градската среда в реално време.
• Интелигентно Производство: Чипът може да подобри автоматизацията и ефективността в производствените процеси, подобрявайки качеството на продукта и намалявайки разходите.
• Интелигентно Земеделие: Чипът може да се използва за анализ на данни от селскостопански сензори и дронове, оптимизирайки добивите на култури и използването на ресурси.
• Интелигентен Транспорт: Чипът може да захранва усъвършенствани системи за подпомагане на водача (ADAS) и автономни превозни средства, подобрявайки безопасността и ефективността на пътищата.

Преодоляване на Бариерата на Edge Computing

Чипът ‘Starlight Intelligence No. 5’ е проектиран да преодолее ограниченията на edge computing, позволявайки AI обработката да се извършва директно на устройства, без да се разчита на облачни ресурси. Това се постига чрез усъвършенстваната архитектура на чипа и способността му да изпълнява големи AI модели на един чип.

GP-XPU Архитектурни Компоненти:

• RISC-V CPU: Високопроизводителен RISC-V CPU осигурява изчислителната мощност с общо предназначение, необходима за обработка на широк спектър от задачи.
• GP-GPU: GPU с общо предназначение ускорява AI работните натоварвания, позволявайки по-бърза обработка на сложни алгоритми.
• NPU: Блок за невронна обработка (NPU) е специално проектиран за AI inference, оптимизирайки производителността на невронните мрежи.
• ISP: Процесор за обработка на сигнали на изображения (ISP) подобрява качеството на изображенията, заснети от камери, подобрявайки точността на визуалните AI приложения.
• VPU: Блок за видеообработка (VPU) ускорява кодирането и декодирането на видео, позволявайки ефективно поточно предаване и анализ на видео.
• ECU: Блок за криптиране/декриптиране (ECU) осигурява хардуерна сигурност за чувствителни данни.

Хетерогенен Изчислителен Пул (HCP)

Чипът използва специализиран блок за планиране на задачи на хетерогенния изчислителен пул (HCP) и сигурна система за управление на паметта, за да позволи планиране в реално време и динамично споделяне на изчислителни ресурси и ресурси за съхранение между различните хетерогенни ядра. Това значително подобрява изчислителната ефективност и пропускателната способност на данни, позволявайки на чипа да разполага и изпълнява DeepSeek 1.5B, 7B, 8B и 16B големи модели с общо предназначение и визуални големи модели на един чип.

Edge Computing Възможности:

• Видео Анализ в Реално Време: Чипът може да извършва откриване, разпознаване и проследяване на обекти във видео потоци в реално време.
• Обработка на Естествен Език: Чипът може да обработва входни данни на естествен език, позволявайки приложения като чатботове и гласови асистенти.
• Планиране на Задачи: Чипът може да планира и изпълнява сложни задачи, което го прави подходящ за роботика и приложения за автоматизация.
• Управление на Знания: Чипът може да съхранява и извлича информация от бази знания, позволявайки интелигентно вземане на решения.
• Автоматичен Контрол: Чипът може да контролира задвижващи механизми и други устройства, позволявайки системи за управление със затворен контур.

Чрез разполагането на осем чипа ‘Starlight Intelligence No. 5’ във връзка е възможно да се поддържа работата на ‘пълнокръвни’ 671B параметъра DeepSeek големи модели и визуални големи модели, напълно преодолявайки ограниченията на изчислителната мощност на границата.

Универсален AI Чип

Чипът ‘Starlight Intelligence No. 5’ е универсален AI чип, който се отличава с разнообразие от приложения. Неговите ключови предимства включват висока ефективност, ниска консумация на енергия, ниска цена, малък размер, силна сигурност и висока адаптивност.

Ключови Предимства в Детайли:

• Висока Ефективност: Чипът използва архитектура MoE на операторско ниво и HCP механизъм за планиране в реално време, за да подобри изчислителната ефективност с приблизително 40% и пропускателната способност на данни с приблизително 50%.
• Ниска Консумация на Енергия: Хетерогенните изчислителни ресурси на чипа се разпределят при поискване, намалявайки консумацията на енергия с поне 30%.
• Ниска Цена: ‘Архитектурата със затворен контур край-граница’ на чипа намалява зависимостта от облачни ресурси, което води до цялостна цена на разполагане, която е приблизително 1/3 от тази на сървърна архитектура със същата производителност.
• Малък Размер: Обработващата платка, вградена с чипа, изисква пространство само с размера на визитка, което може да отговори на пространствените изисквания на различни миниатюрни интелигентни устройства.
• Силна Сигурност: Чипът използва технология за сигурна изолация на дялове на паметта, поддържа високопроизводителни местни изчисления на алгоритми за криптиране, постига защита на паролата на ниво източник и има вградени функции за сигурност на данните.
• Висока Адаптивност: Чипът поддържа отворени екосистеми и основни AI рамки, безпроблемно свързващи се с различни сценарии на приложения в хиляди индустрии. По отношение на адаптивността на работната среда, чипът ‘Starlight Intelligence No. 5’ елиминира зависимостта на базирано в облака голямо изчислително оборудване от постоянната температура и влажност на компютърната стая и може да завърши високопроизводителна интелигентна работа в различни производствени и житейски среди.

Овластяване на ‘Локализирани Интелигентни Агенти’

Чипът ‘Starlight Intelligence No. 5’ е проектиран да овласти ‘локализирани интелигентни агенти’, които са AI-захранвани системи, които могат да работят независимо на устройства, без да разчитат на облачни ресурси. Този подход предлага няколко предимства, включително подобрени времена за реакция, намалени разходи и подобрена сигурност.

Предимства на Локализирани Интелигентни Агенти:

• Подобрени Времена за Реакция: Чрез обработка на данни локално, чипът може да реагира на събития в реално време, без забавянето, свързано с базирана в облака обработка.
• Намалени Разходи: Чрез намаляване на зависимостта от облачни ресурси, чипът може значително да намали разходите за AI разполагания.
• Подобрена Сигурност: Чрез обработка на данни локално, чипът може да защити чувствителна информация от неоторизиран достъп и пробиви на данни.

Приложения на Локализирани Интелигентни Агенти:

• Интелигентни Домове: Локализирани интелигентни агенти могат да контролират интелигентни домашни устройства, като светлини, термостати и уреди, осигурявайки по-удобно и ефективно изживяване при живеене.
• Носими Устройства: Локализирани интелигентни агенти могат да анализират данни от носими сензори, предоставяйки персонализирани здравни и фитнес препоръки.
• Индустриална Автоматизация: Локализирани интелигентни агенти могат да контролират роботи и друго индустриално оборудване, подобрявайки ефективността и безопасността в производствени среди.

Реконструиране на AI Парадигмата на Разполагане

Чипът ‘Starlight Intelligence No. 5’ на Zhongxing Micro е готов да трансформира AI парадигмата на разполагане, като позволи по-разпределен и локализиран подход. Това ще намали зависимостта от облачни ресурси и ще овласти по-широк спектър от приложения.

Ключови Ползи от Новата Парадигма:

• Намалена Латентност: Локализираната обработка елиминира необходимостта от предаване на данни в облака, намалявайки латентността и подобрявайки времената за реакция.
• По-Ниски Изисквания към Широчината на Канала: Локализираната обработка намалява количеството данни, които трябва да бъдат предавани по мрежата, намалявайки изискванията към широчината на канала и разходите.
• Подобрена Поверителност: Локализираната обработка запазва чувствителни данни на устройството, предпазвайки ги от неоторизиран достъп и пробиви на данни.
• Подобрена Надеждност: Локализираната обработка позволява на AI системите да продължат да работят дори когато мрежовата връзка е прекъсната.

Според Джан Юндун, главен изпълнителен директор на Zhongxing Micro Technology, ‘Starlight Intelligence No. 5’ ще насърчи интелигентното надграждане на крайната и страничната страна, ще намали значително зависимостта от облачни изчислителни ресурси, ще спести разходи за изграждане на система и ще проучи технологичен маршрут за изкуствен интелект, който съответства на националните условия на Китай.

Традиционният AI процес на разсъждения, който разчита на облака, често се сблъсква с проблеми като големи закъснения в отговорите, високи разходи и ограничения върху мрежовата среда. Чипът позволява големи разсъждения за модела да бъдат директно затворени в цикъла отстрани на ръба чрез локализирана изчислителна мощност и ендогенни механизми за сигурност, което не само спестява разходи за предаване и съхранение в облака, но и значително подобрява скоростта на реакция, постигайки отговор на ниво милисекунди, и защитава данните през целия им жизнен цикъл с механизъм за парола на ниво източник.

Този технологичен пробив осигурява цялостна оптимизация на ефективността, консумацията на енергия, цената, обема, сигурността и адаптивността за сценарии като градско възприятие, интелигентно производство и интелигентен транспорт, наистина позволявайки на хиляди индустрии да създават автономни и контролируеми интелигентни терминали.

Джан Юндун заяви: ‘В отговор на действителните нужди на цифровата трансформация в традиционните индустрии на Китай, Zhongxing Micro разработва разпределена технология за изкуствен интелект за изчисления за крайната, страничната и облачната страна. Без да разчитаме на най-модерната технология на полупроводникови процеси, ние настояваме за оригинални иновации и независим контрол и проучваме технологичен маршрут за изкуствен интелект, който съответства на националните условия на Китай.’