AI-Чип: DeepSeek Модели на одном чипе

Zhongxing Microelectronics, также известная как Vimicro, недавно совершила значительный прорыв в области искусственного интеллекта, представив свой новейший AI-чип ‘Starlight Intelligence No. 5’. Этот передовой чип был представлен на 8-м Саммите цифрового строительства Китая в Фучжоу 30 апреля. Что отличает этот чип, так это его способность самостоятельно запускать большие модели DeepSeek 7B, 8B и 16B, не полагаясь на внешние вычислительные мощности. Это делает его первым полностью автономным и управляемым встроенным AI-чипом, способным одновременно управлять как языковыми моделями общего назначения, так и визуальными большими моделями на одном чипе.

Революционная архитектура и повышенная производительность

Чип ‘Starlight Intelligence No. 5’ включает в себя запатентованную многоядерную гетерогенную архитектуру GP-XPU общего назначения от Zhongxing Micro. Эта инновационная архитектура предлагает существенные улучшения по сравнению с традиционными архитектурами CPU+GPU с точки зрения операционной эффективности, производительности в реальном времени, экономичности и безопасности. Архитектура GP-XPU специально разработана для оптимизации AI-нагрузок, что позволяет чипу обрабатывать сложные задачи с большей скоростью и точностью.

Ключевые преимущества архитектуры GP-XPU:

• Повышенная эффективность: Архитектура максимально увеличивает использование вычислительных ресурсов, что приводит к более быстрому времени обработки и улучшению общей производительности.
• Производительность в реальном времени: Чип способен обрабатывать данные в реальном времени, что делает его подходящим для приложений, требующих немедленной реакции.
• Экономичность: Конструкция чипа снижает потребность в дорогих внешних компонентах, что делает его более доступным решением.
• Безопасность: Архитектура включает в себя функции безопасности, которые защищают от несанкционированного доступа и утечек данных.

Отечественное производство и полный контроль

Чип ‘Starlight Intelligence No. 5’ основан на отечественной технологии производства, обеспечивающей полную автономию и контроль над его производством и использованием. Это особенно важно для приложений в стратегически важных секторах, где зависимость от иностранных технологий может представлять риски. Используя отечественные компоненты и производственные процессы, Zhongxing Micro стремится снизить зависимость от внешних поставщиков и укрепить позиции Китая в глобальном AI-ландшафте.

Приложения в ключевых секторах:

• Национальная стратегическая значимость: Чип может быть развернут в критически важной инфраструктуре и оборонных системах, обеспечивая безопасное и надежное решение для обработки AI.
• Городское восприятие: Чип можно использовать в инициативах ‘умного города’ для анализа данных с датчиков и камер, обеспечивая мониторинг и управление городской средой в реальном времени.
• Интеллектуальное производство: Чип может повысить автоматизацию и эффективность производственных процессов, улучшая качество продукции и снижая затраты.
• Умное сельское хозяйство: Чип можно использовать для анализа данных с сельскохозяйственных датчиков и дронов, оптимизируя урожайность и использование ресурсов.
• Интеллектуальный транспорт: Чип может питать передовые системы помощи водителю (ADAS) и автономные транспортные средства, повышая безопасность и эффективность на дорогах.

Преодоление барьера периферийных вычислений

Чип ‘Starlight Intelligence No. 5’ разработан для преодоления ограничений периферийных вычислений, позволяя выполнять обработку AI непосредственно на устройствах, не полагаясь на облачные ресурсы. Это достигается благодаря передовой архитектуре чипа и его способности запускать большие AI-модели на одном чипе.

Компоненты архитектуры GP-XPU:

• RISC-V CPU: Высокопроизводительный RISC-V CPU обеспечивает вычислительную мощность общего назначения, необходимую для обработки широкого спектра задач.
• GP-GPU: GPU общего назначения ускоряет AI-нагрузки, обеспечивая более быструю обработку сложных алгоритмов.
• NPU: Нейронный процессор (NPU) специально разработан для AI-выводов, оптимизируя производительность нейронных сетей.
• ISP: Процессор обработки изображений (ISP) улучшает качество изображений, захваченных камерами, повышая точность визуальных AI-приложений.
• VPU: Процессор обработки видео (VPU) ускоряет кодирование и декодирование видео, обеспечивая эффективную потоковую передачу и анализ видео.
• ECU: Блок шифрования/дешифрования (ECU) обеспечивает аппаратную безопасность конфиденциальных данных.

Пул гетерогенных вычислений (HCP)

Чип использует выделенный блок планирования задач пула гетерогенных вычислений (HCP) и безопасную систему управления памятью, чтобы обеспечить планирование в реальном времени и динамическое распределение вычислительных ресурсов и ресурсов хранения между различными гетерогенными ядрами. Это значительно повышает эффективность вычислений и пропускную способность данных, что позволяет чипу развертывать и запускать большие модели общего назначения DeepSeek 1.5B, 7B, 8B и 16B и визуальные большие модели на одном чипе.

Возможности периферийных вычислений:

• Анализ видео в реальном времени: Чип может выполнять обнаружение, распознавание и отслеживание объектов в видеопотоках в реальном времени.
• Обработка естественного языка: Чип может обрабатывать входные данные на естественном языке, обеспечивая такие приложения, как чат-боты и голосовые помощники.
• Планирование задач: Чип может планировать и выполнять сложные задачи, что делает его подходящим для робототехники и приложений автоматизации.
• Управление знаниями: Чип может хранить и извлекать информацию из баз знаний, обеспечивая принятие интеллектуальных решений.
• Автоматическое управление: Чип может управлять исполнительными механизмами и другими устройствами, обеспечивая системы управления с обратной связью.

Развертывание восьми чипов ‘Starlight Intelligence No. 5’ в сочетании позволяет поддерживать работу ‘полнокровных’ больших моделей DeepSeek с 671B параметрами и визуальных больших моделей, полностью преодолевая узкое место вычислительной мощности на периферии.

Универсальный AI-чип

Чип ‘Starlight Intelligence No. 5’ - это универсальный AI-чип, который превосходно справляется с различными приложениями. Его ключевые преимущества включают высокую эффективность, низкое энергопотребление, низкую стоимость, малый размер, высокую безопасность и высокую адаптируемость.

Ключевые преимущества в деталях:

• Высокая эффективность: Чип использует архитектуру MoE на уровне оператора и механизм планирования в реальном времени HCP для повышения эффективности вычислений примерно на 40% и пропускной способности данных примерно на 50%.
• Низкое энергопотребление: Гетерогенные вычислительные ресурсы чипа распределяются по требованию, снижая энергопотребление как минимум на 30%.
• Низкая стоимость: ‘Замкнутая архитектура’ чипа ‘end-edge’ снижает зависимость от облачных ресурсов, что приводит к совокупной стоимости развертывания, которая составляет примерно 1/3 от стоимости серверной архитектуры с той же производительностью.
• Малый размер: Плата обработки, встроенная с чипом, требует пространства размером всего лишь с визитную карточку, что может соответствовать требованиям к пространству различных миниатюрных интеллектуальных устройств.
• Высокая безопасность: Чип использует технологию изоляции безопасности разделов памяти, поддерживает высокопроизводительные отечественные вычисления алгоритмов шифрования, обеспечивает защиту паролем на уровне источника и имеет встроенные функции безопасности данных.
• Высокая адаптируемость: Чип поддерживает открытые экосистемы и основные AI-фреймворки, беспрепятственно подключаясь к различным сценариям применения в тысячах отраслей. С точки зрения адаптируемости к рабочей среде, чип ‘Starlight Intelligence No. 5’ устраняет зависимость облачного крупномасштабного вычислительного оборудования от постоянной температуры и влажности в компьютерной комнате и может выполнять высокопроизводительную интеллектуальную работу в различных производственных и жизненных средах.

Расширение возможностей ‘Локализованных интеллектуальных агентов’

Чип ‘Starlight Intelligence No. 5’ предназначен для расширения возможностей ‘локализованных интеллектуальных агентов’, которые представляют собой системы на основе AI, которые могут работать независимо на устройствах, не полагаясь на облачные ресурсы. Этот подход предлагает несколько преимуществ, включая улучшенное время отклика, снижение затрат и повышенную безопасность.

Преимущества локализованных интеллектуальных агентов:

• Улучшенное время отклика: Обрабатывая данные локально, чип может реагировать на события в режиме реального времени, без задержки, связанной с облачной обработкой.
• Снижение затрат: Снижая зависимость от облачных ресурсов, чип может значительно снизить стоимость развертывания AI.
• Повышенная безопасность: Обрабатывая данные локально, чип может защитить конфиденциальную информацию от несанкционированного доступа и утечек данных.

Применения локализованных интеллектуальных агентов:

• Умные дома: Локализованные интеллектуальные агенты могут управлять устройствами ‘умного дома’, такими как освещение, термостаты и бытовая техника, обеспечивая более удобный и эффективный опыт проживания.
• Носимые устройства: Локализованные интеллектуальные агенты могут анализировать данные с носимых датчиков, предоставляя персонализированные рекомендации по здоровью и фитнесу.
• Промышленная автоматизация: Локализованные интеллектуальные агенты могут управлять роботами и другим промышленным оборудованием, повышая эффективность и безопасность в производственных средах.

Реконструкция парадигмы развертывания AI

Чип ‘Starlight Intelligence No. 5’ от Zhongxing Micro готов преобразовать парадигму развертывания AI, обеспечив более распределенный и локализованный подход. Это снизит зависимость от облачных ресурсов и расширит возможности более широкого спектра приложений.

Ключевые преимущества новой парадигмы:

• Сниженная задержка: Локализованная обработка устраняет необходимость передачи данных в облако, снижая задержку и улучшая время отклика.
• Сниженные требования к полосе пропускания: Локализованная обработка снижает объем данных, которые необходимо передавать по сети, снижая требования к полосе пропускания и затраты.
• Повышенная конфиденциальность: Локализованная обработка хранит конфиденциальные данные на устройстве, защищая их от несанкционированного доступа и утечек данных.
• Повышенная надежность: Локализованная обработка позволяет AI-системам продолжать работу даже при прерывании сетевого соединения.

По словам Чжан Юньдуна, генерального директора Zhongxing Micro Technology, ‘Starlight Intelligence No. 5’ будет способствовать интеллектуальной модернизации конечной стороны и периферийной стороны, значительно снизит зависимость от облачных вычислительных ресурсов, сэкономит затраты на построение системы и изучит технологический маршрут искусственного интеллекта, соответствующий национальным условиям Китая.

Традиционный процесс рассуждений AI, который полагается на облако, часто сталкивается с такими проблемами, как большие задержки ответа, высокие затраты и ограничения сетевой среды. Чип позволяет замкнуть рассуждения большой модели непосредственно на периферийной стороне за счет локализованной вычислительной мощности и эндогенных механизмов безопасности, что не только экономит затраты на облачную передачу и хранение, но и значительно повышает скорость ответа, достигая ответа на уровне миллисекунд, и защищает данные на протяжении всего их жизненного цикла с помощью механизма пароля на уровне источника.

Этот технологический прорыв обеспечивает всестороннюю оптимизацию эффективности, энергопотребления, стоимости, объема, безопасности и адаптируемости для таких сценариев, как городское восприятие, интеллектуальное производство и интеллектуальный транспорт, что действительно позволяет тысячам отраслей создавать автономные и контролируемые интеллектуальные терминалы.

Чжан Юньдун заявил: ‘В ответ на фактические потребности цифровой трансформации в традиционных отраслях Китая, Zhongxing Micro разрабатывает распределенную технологию вычислений искусственного интеллекта для конечной точки, периферии и облака. Не полагаясь на самые передовые технологии полупроводникового процесса, мы настаиваем на оригинальных инновациях и независимом контроле и изучаем технологический маршрут искусственного интеллекта, соответствующий национальным условиям Китая.’