Индустрия AI Agent в настоящее время переживает знакомый сценарий. AI Agent используют общие возможности больших моделей для автоматизации решения сложных задач пользователей с использованием существующих технологий и инструментов. Это делает их наиболее перспективным путем для развертывания модельной технологии сегодня.
За последние несколько месяцев произошел взрыв продуктов AI Agent. Высокопоставленные предложения, такие как Manus, привлекли внимание широкой публики, и новые модели от OpenAI и Google все чаще ‘AI agent-ized’. Важно отметить, что стандартные протоколы быстро набирают обороты.
Anthropic выпустила MCP (Model Communication Protocol) как открытый исходный код в конце прошлого года. MCP стремится установить открытую, стандартизированную спецификацию, которая позволяет большим языковым моделям беспрепятственно взаимодействовать с различными внешними источниками данных и инструментами, такими как бизнес-программное обеспечение, базы данных и хранилища кода. В течение нескольких месяцев после его выпуска OpenAI, Google, Alibaba и Tencent выразили поддержку и интегрировали его. После этого Google запустила A2A (Agent-to-Agent) с целью автоматизации сотрудничества и рабочих процессов между AI Agent. Это еще больше подстегнуло развивающийся ландшафт AI Agent.
По сути, эти протоколы решают две ключевые задачи: MCP облегчает соединения между Agent и поставщиками инструментов / услуг, а A2A обеспечивает совместные соединения между Agent для выполнения очень сложных задач.
Следовательно, MCP можно сравнить с ранними унифицированными интерфейсами, а A2A напоминает протокол HTTP.
Однако в истории Интернета за появлением HTTP последовал критически важный элемент, необходимый для подлинного процветания Интернета: стандарты безопасности, наложенные поверх протокола.
Сегодня MCP и A2A сталкиваются с аналогичной проблемой.
‘Когда появился HTTP, позже он столкнулся со значительными проблемами безопасности. Интернет пережил эту эволюцию’, - объясняет Цзыси, технический руководитель IIFAA (Internet Industry Financial Authentication Alliance) Trusted Authentication Alliance и эксперт в области безопасности AI Agent.
Эти проблемы могут проявляться в различных формах. В настоящее время злоумышленники могут создавать поддельные инструменты ‘запроса погоды’ и регистрировать их на серверах MCP, тайно похищая информацию о полетах пользователей в фоновом режиме. Когда пользователь покупает лекарство через Agent, Agent A может быть ответственен за покупку цефподоксима, а Agent B покупает алкоголь. Из-за отсутствия возможностей межплатформенной идентификации рисков система не может предоставить предупреждение о ‘опасной комбинации’, как существующие платформы электронной коммерции. Что еще более важно, аутентификация Agent-to-Agent и право собственности на данные остаются неясными. Авторизует ли пользователь локальное приложение на своем устройстве или синхронизирует ли он личные данные в облако?
‘A2A в своей официальной документации заявляет, что гарантирует только безопасность передачи верхнего уровня. Он оставляет ответственность за обеспечение происхождения личности и учетных данных, конфиденциальности данных и распознавания намерений отдельным компаниям’.
Истинное процветание интеллектуальных Agent требует решения этих проблем. IIFAA, где работает Цзыси, является первой организацией, которая начала решать эту проблему.
‘В этом контексте IIFAA посвящена решению ряда проблем, с которыми интеллектуальные Agent столкнутся в будущем’, - говорит Цзыси. ‘В эпоху A2A мы также определили аналогичный продукт под названием ASL (Agent Security Layer), который может быть построен на основе протокола MCP для обеспечения безопасности Agent с точки зрения разрешений, данных, конфиденциальности и других аспектов. Этот промежуточный продукт также решает проблемы перехода A2A к будущим стандартам безопасности’.
Рабочая группа IIFAA Intelligent Agent Trusted Interconnection является первой отечественной организацией по сотрудничеству в области экосистемы безопасности AI Agent. Он был совместно инициирован Китайской академией информационных и коммуникационных технологий (CAICT), Ant Group и более чем двадцатью другими технологическими компаниями и учреждениями.
От ASL к масштабируемости
‘Развитие AI Agent происходит быстрее, чем мы ожидали, как технологически, так и с точки зрения принятия стандартов экосистемой’, - говорит Цзыси.
Концепция IIFAA протокола безопасности для связи Agent-to-Agent появилась еще в ноябре прошлого года, до выпуска MCP. Рабочая группа IIFAA Intelligent Agent Trusted Interconnection была официально создана в декабре, что совпало с официальным выпуском MCP.
‘Злоумышленники иногда осваивают новые технологии быстрее, чем защитники. Мы не можем ждать, пока возникнут проблемы, прежде чем обсуждать порядок. Это необходимость существования этой рабочей группы’, - заявил член IIFAA в предыдущей презентации. Создание отраслевых норм безопасности и взаимного доверия имеет решающее значение для долгосрочного здорового развития.
По словам Цзыси, их текущая задача состоит в решении следующих ключевых вопросов на первом этапе:
Agent Trusted Identity: ‘Мы стремимся построить систему сертификации Agent на основе авторитетных институтов и механизмов взаимного признания. Так же, как для международных поездок требуется паспорт и виза, это позволит сертифицированным Agent быстро присоединиться к сети сотрудничества и предотвратить нарушение порядка сотрудничества несертифицированными Agent.’
Intent Trusted Sharing: ‘Сотрудничество между интеллектуальными Agent зависит от подлинности и точности намерений. Поэтому доверенное совместное использование намерений имеет решающее значение для обеспечения эффективного и надежного многоагентного сотрудничества.’
Context Protection Mechanism: ‘Когда AI Agent подключается к нескольким серверам MCP (многоканальный протокол), вся информация об описании инструмента загружается в один и тот же контекст сеанса. Злонамеренный сервер MCP может использовать это для внедрения вредоносных инструкций. Защита контекста может предотвратить вредоносное вмешательство, сохранить безопасность системы, обеспечить целостность намерений пользователя и предотвратить атаки отравления.’
Data Privacy Protection: ‘В многоагентном сотрудничестве обмен данными может привести к нарушению конфиденциальности. Защита конфиденциальности имеет решающее значение для предотвращения неправомерного использования конфиденциальной информации.’
Agent Memory Trusted Sharing: ‘Совместное использование памяти повышает эффективность многоагентного сотрудничества. Доверенное совместное использование памяти обеспечивает согласованность, подлинность и безопасность данных, предотвращая несанкционированное изменение и утечку, повышая эффективность сотрудничества и доверие пользователей.’
Identity Trusted Circulation: ‘Пользователи ожидают беспрепятственного и плавного обслуживания в собственных приложениях AI. Поэтому достижение межплатформенного, ненавязчивого распознавания личности является ключом к улучшению пользовательского опыта.’
‘Это наши краткосрочные цели. Далее мы выпустим ASL для всей отрасли. Это реализация программного обеспечения, а не спецификация протокола. Ее можно применить к MCP и A2A для повышения безопасности этих двух протоколов на уровне предприятия. Это краткосрочная цель’, - объясняет Цзыси.
‘Вначале мы не будем указывать вещи на уровне безопасности. Мы не будем указывать A2AS. Вместо этого мы надеемся, что если кто-то укажет A2AS в будущем, наш ASL может стать компонентом реализации программного обеспечения, точно так же, как SSL является компонентом реализации программного обеспечения HTTPS.’
Аналогия HTTPS: обеспечение будущего AI Agent
Проводя параллели с историей HTTPS, гарантия безопасности обеспечивает широкое внедрение таких функций, как оплата, тем самым прокладывая путь для более масштабных коммерческих возможностей. Аналогичный ритм разворачивается в настоящее время. 15 апреля Alipay в сотрудничестве с сообществом ModelScope представила услугу ‘Payment MCP Server’. Это позволяет разработчикам AI беспрепятственно интегрировать платежные сервисы Alipay, используя естественный язык, что облегчает быстрое развертывание платежных функций в AI Agent.
Решение этих краткосрочных целей одно за другим в конечном итоге приведет к формированию безопасного стандарта и среды сотрудничества Agent. Ключом к этому процессу является достижение эффекта масштабирования. Отечественные ‘магазины’ MCP, которые быстро продвигаются вперед, уже начали действовать. Платформа интеллектуальных Agent Ant Group Baibaoxiang ‘MCP Zone’ будет интегрировать решения безопасности IIFAA. Этот ‘магазин MCP’ в настоящее время поддерживает развертывание и вызов различных сервисов MCP, включая Alipay, Amap и Wuying, что позволяет создать интеллектуального Agent, подключенного к сервисам MCP, всего за 3 минуты.
Цзыси считает, что общие возможности больших моделей обладают потенциалом для подлинной революции в пользовательском опыте и парадигмах взаимодействия. В будущем текущий подход к вызову приложений для выполнения задач может быть заменен супершлюзом, который опирается на пул инструментов, скрытый за кулисами, аналогичный магазину MCP. Это станет проще и понятнее для нужд пользователя. Коммерциализация становится возможной.
‘Развитие AGI сейчас вступило в фазу интеллектуального Agent. По сравнению с чат-ботами и AI с ограниченными возможностями рассуждения, интеллектуальные Agent, наконец, вырвались из закрытой стадии ‘точка-точка’, действительно открыв новую главу в коммерческих приложениях.’
IIFAA недавно запустила ASL и объявила о ее выпуске с открытым исходным кодом. Открыто делясь кодом, стандартами и опытом, она стремится ускорить технологические инновации и итерации, призывая отраслевые предприятия и разработчиков к широкому участию и продвигая стандартизацию технологий в отрасли. План с открытым исходным кодом примет самую разрешительную лицензию Apache 2.0 и предоставит в распоряжение внешних разработчиков документ по проектированию библиотеки кодов, содержащий рекомендации по безопасности. Глобальные разработчики могут участвовать в совместном строительстве в сообществе Github.
Императив безопасности в разработке AI Agent
Рост AI Agent представляет собой сдвиг парадигмы в том, как мы взаимодействуем с технологиями. Мы больше не ограничены отдельными приложениями, а движемся к миру, где интеллектуальные Agent могут беспрепятственно координировать множество инструментов и сервисов для достижения наших целей. Однако это видение зависит от решения присущих рисков безопасности, которые сопровождают такую мощную технологию. Точно так же, как Интернету потребовался HTTPS для облегчения безопасной электронной коммерции и других конфиденциальных транзакций, AI Agent нуждаются в надежных стандартах безопасности для укрепления доверия и обеспечения широкого распространения.
Современный ландшафт разработки AI Agent характеризуется быстрыми инновациями и экспериментами. Новые модели, протоколы и приложения появляются беспрецедентными темпами. Хотя этот динамизм, несомненно, впечатляет, он также создает проблему: проблемы безопасности часто отходят на второй план по сравнению со скоростью и функциональностью. Это может привести к уязвимостям, которые злоумышленники могут использовать, потенциально ставя под угрозу пользовательские данные, нарушая работу сервисов и подрывая доверие ко всей экосистеме.
Аналогия с первыми днями Интернета особенно уместна. В отсутствие широко распространенных мер безопасности Интернет страдал от мошенничества, мошенничества и других вредоносных действий. Это затруднило его рост и не позволило ему реализовать свой полный потенциал. Только с появлением HTTPS и других протоколов безопасности Интернет стал безопасной и надежной платформой для электронной коммерции, онлайн-банкинга и других конфиденциальных транзакций.
Аналогичным образом, AI Agent нуждаются в прочной основе безопасности для реализации своего преобразующего потенциала. Без такой основы они рискуют стать рассадником новых форм киберпреступности и онлайн-эксплуатации. Это может задушить инновации, подорвать доверие пользователей и в конечном итоге помешать AI Agent стать вездесущей и полезной технологией, которую многие видят.
Решение проблем безопасности
Проблемы безопасности, стоящие перед AI Agent, многогранны и требуют комплексного подхода. Некоторые из ключевых проблем включают в себя:
- Аутентификация и авторизация: Обеспечение того, чтобы только авторизованные Agent могли получать доступ к конфиденциальным данным и ресурсам. Это требует надежных механизмов аутентификации и детального контроля доступа.
- Конфиденциальность данных: Защита пользовательских данных от несанкционированного доступа, использования или раскрытия. Это требует внедрения методов сохранения конфиденциальности, таких как анонимизация, шифрование и дифференциальная конфиденциальность.
- Проверка намерений: Проверка того, что намерения Agent соответствуют целям пользователя и что ими не манипулируют злоумышленники. Это требует разработки сложных алгоритмов распознавания и проверки намерений.
- Контекстуальная безопасность: Защита Agent от вредоносных атак, которые используют уязвимости в окружающей среде. Это требует реализации надежных мер безопасности на всех уровнях системы, от оборудования до программного обеспечения.
- Безопасность Agent-to-Agent: Обеспечение того, чтобы Agent могли безопасно общаться и сотрудничать друг с другом. Это требует разработки безопасных протоколов связи и механизмов доверия.
ASL IIFAA - многообещающий шаг в правильном направлении. Предоставляя реализацию программного обеспечения, которая повышает безопасность MCP и A2A, ASL может помочь решить некоторые из этих проблем. Однако необходимо сделать больше для создания всеобъемлющей системы безопасности для AI Agent.
Путь вперед: сотрудничество и стандартизация
Разработка безопасных AI Agent требует совместных усилий исследователей, разработчиков, заинтересованных сторон отрасли и политиков. Некоторые из ключевых шагов, которые необходимо предпринять, включают в себя:
- Разработка открытых стандартов: Установление открытых стандартов безопасности AI Agent имеет решающее значение для обеспечения совместимости и стимулирования инноваций.
- Обмен передовым опытом: Обмен передовым опытом разработки безопасных AI Agent может помочь предотвратить распространенные уязвимости и способствовать развитию культуры безопасности.
- Инвестиции в исследования: Инвестиции в исследования безопасности AI Agent необходимы для разработки новых методов и технологий для решения возникающих угроз.
- Повышение осведомленности: Повышение осведомленности о безопасности AI Agent может помочь поднять планку безопасности и стимулировать ответственную разработку.
- Создание нормативно-правовой базы: Создание нормативно-правовой базы безопасности AI Agent может помочь обеспечить приоритет безопасности и защиту пользователей.
Работая вместе, мы можем создать будущее, в котором AI Agent будут не только мощными и полезными, но и безопасными и надежными. Это потребует согласованных усилий для решения проблем безопасности, которые ждут впереди, и для создания прочной основы безопасности для экосистемы AI Agent. Только тогда мы сможем раскрыть весь потенциал AI Agent и создать действительно преобразующую технологию. Усилия организаций, таких как IIFAA, заслуживают похвалы в руководстве этой инициативой, но широкое принятие и соблюдение стандартов безопасности имеют решающее значение для безопасного и процветающего развития AI Agent.