В условиях растущего спроса на интеллектуальных агентов (AI Agents) со стороны различных групп пользователей, управление должно учитывать разные приоритеты. Протокол Model Context Protocol (MCP), поддерживаемый сотрудничеством с открытым исходным кодом и контролем со стороны человека, обеспечивает основу для безопасной и надежной экосистемы агентов.
Интеллектуальные агенты (AI Agents) — это системы, работающие на основе больших языковых моделей и способные взаимодействовать с внешним миром с помощью инструментов и действовать от имени пользователей. Недавнее появление Manus подчеркивает ожидание рынком практических приложений агентов.
Анонсированный в ноябре 2024 года открытый протокол Model Context Protocol (MCP) от Anthropic предлагает техническое решение для повышения эффективности и безопасности универсальных агентов. MCP упрощает интеграцию благодаря стандартизированным интерфейсам, повышая эффективность доступа к данным и инструментам. Он также усиливает безопасность, изолируя модели от конкретных источников данных и повышая прозрачность управления командами. Этот сбалансированный подход отдает приоритет пользовательскому опыту, обеспечивая при этом контролируемую авторизацию.
Хотя MCP закладывает основу для управления агентами, он не решает все проблемы. Например, он не проверяет обоснованность выбора инструмента или точность результатов выполнения, а также эффективно не решает вопросы конкуренции и сотрудничества в рамках экосистемы приложений агентов.
Проблемы, с которыми сталкиваются универсальные агенты в приложениях
Агент — это система, оснащенная памятью, планированием, восприятием, вызовом инструментов и возможностями действий, наделенная обширными языковыми моделями, которая взаимодействует с внешней средой с помощью инструментов, действуя от имени пользователя. Агенту необходимо воспринимать и понимать намерения пользователя, получать и хранить информацию с помощью модуля памяти, формулировать и оптимизировать стратегии, используя модуль планирования, вызывать модуль инструментов для выполнения конкретных задач и реализовывать планы с помощью модуля действий, тем самым достигая цели автономного выполнения задач.
Manus — это скорее универсальный агент, в отличие от ориентированных на рабочий процесс продуктов Agent.
Отраслевые ожидания в отношении агентов, особенно универсальных, проистекают из коллективных потребностей, которые они удовлетворяют. На рынках капитала агенты представляют собой ожидаемый отраслью замкнутый контур для коммерческой ценности моделей, переключая ценообразование ИИ с вычислений на основе токенов на ценообразование на основе эффекта для индивидуальных услуг, что приводит к большей прибыльности. Со стороны пользователя предприятия ожидают, что агенты будут выполнять повторяющиеся, стандартизированные и четко определенные процессы с точной автоматизацией, в то время как общественность ожидает, что агенты принесут ‘технологические преимущества’, став персонализированными ‘цифровыми управляющими’ с низким порогом входа для каждого.
Однако универсальные агенты сталкиваются с проблемами совместимости, безопасности и конкуренции в приложениях. С точки зрения совместимости, моделям необходимо эффективно сотрудничать с различными инструментами и источниками данных при вызове. С точки зрения безопасности, агентам необходимо выполнять задачи четко и прозрачно в соответствии с инструкциями пользователя и разумно распределять обязанности по обеспечению безопасности при конвергенции данных нескольких сторон. С точки зрения конкуренции, агентам необходимо решать конкурентные и кооперативные отношения в новой бизнес-экосистеме.
Поэтому протокол MCP, который позволяет моделям эффективно сотрудничать с различными инструментами и источниками данных и разумно распределять обязанности по обеспечению безопасности при конвергенции данных нескольких сторон, стоит изучить в глубину по сравнению с самим продуктом Manus.
Проблемы совместимости
Мир ИИ быстро развивается, постоянно появляются новые модели и инструменты. Чтобы универсальный агент был действительно полезным, он должен быть способен беспрепятственно интегрироваться с широким спектром ресурсов. Это представляет собой серьезную проблему, поскольку каждый инструмент или источник данных может иметь свой уникальный интерфейс и формат данных. Без стандартизированного подхода разработчикам потребуется писать пользовательский код для каждой интеграции, что отнимает много времени и неэффективно. Это отсутствие совместимости может затруднить широкое внедрение агентов ИИ, поскольку пользователи могут не решаться инвестировать в технологию, которая не легко работает с их существующими системами.
Риски для безопасности
Агенты ИИ предназначены для действий от имени пользователей, что означает, что они часто имеют доступ к конфиденциальным данным и системам. Это поднимает серьезные вопросы безопасности, поскольку скомпрометированный агент может быть использован для кражи данных, нарушения операций или даже причинения физического вреда. Крайне важно обеспечить, чтобы агенты разрабатывались с учетом безопасности, и чтобы они подвергались тщательным испытаниям и мониторингу для предотвращения уязвимостей. Кроме того, важно установить четкие линии ответственности за безопасность, особенно когда в разработке и развертывании агента участвуют несколько сторон.
Конкурентная среда
По мере того как агенты ИИ становятся все более распространенными, они, вероятно, нарушат существующие бизнес-модели и создадут новые формы конкуренции. Например, агент, который может автоматически согласовывать цены с поставщиками, может дать компании значительное конкурентное преимущество. Однако это также может привести к гонке на выживание, поскольку компании конкурируют, чтобы предложить самые низкие цены. Важно учитывать потенциальное влияние агентов ИИ на конкурентную среду и разрабатывать стратегии для навигации в этой новой среде. Это включает в себя решение таких вопросов, как владение данными, интеллектуальная собственность и возможность антиконкурентного поведения.
MCP: Техническое решение для совместимости и безопасности в приложениях Agent
В ноябре 2024 года Anthropic открыл исходный код MCP (Model Context Protocol) открытого протокола, позволяющего системам предоставлять контекст моделям ИИ и может быть универсальным в различных сценариях интеграции. MCP использует многоуровневую архитектуру для решения проблем стандартизации и безопасности в приложениях Agent. Хост-приложение (например, Manus) подключается к нескольким служебным программам (MCP Server) через клиент MCP одновременно, и каждый Server выполняет свои собственные обязанности, обеспечивая стандартизированный доступ к источнику данных или приложению.
Во-первых, MCP решает проблему совместимости при вызовах данных/инструментов Agent посредством стандартного консенсуса. MCP заменяет фрагментированную интеграцию унифицированным интерфейсом, и ИИ нужно только понимать и соблюдать соглашение для взаимодействия со всеми инструментами, которые соответствуют спецификациям, что значительно сокращает дублирующую интеграцию. Во-вторых, MCP имеет три аспекта в плане безопасности. Во-первых, модель и конкретные источники данных изолированы на канале передачи данных, и они взаимодействуют через протокол MCP Server. Модель напрямую не зависит от внутренних деталей источника данных, уточняя источник смешивания данных нескольких сторон. Во-вторых, улучшить прозрачность и аудируемость канала управления и контроля посредством протоколов связи и решить проблемы информационной асимметрии и ‘черного ящика’ при взаимодействии данных между пользователем и моделью. В-третьих, обеспечить контролируемость канала авторизации, отвечая в соответствии с разрешениями, и обеспечить контроль пользователя над агентом при использовании инструментов/данных.
MCP строит стандартизированный интерфейс и механизм защиты безопасности через многоуровневую архитектуру, достигая баланса между интероперабельностью и безопасностью при вызовах данных и инструментов. На уровне пользовательской ценности MCP обеспечивает более тесное сотрудничество и взаимодействие между интеллектуальными телами и большим количеством инструментов и даже большим количеством интеллектуальных тел. На следующем этапе MCP сосредоточится на разработке поддержки удаленных соединений.
Стандартизированные интерфейсы для повышения совместимости
Одной из ключевых особенностей MCP является использование стандартизированных интерфейсов. Это означает, что агенты ИИ могут взаимодействовать с различными инструментами и источниками данных без необходимости написания пользовательского кода для каждой интеграции. Вместо этого агенту просто необходимо понимать протокол MCP, который определяет общий набор команд и форматов данных. Это значительно упрощает процесс интеграции и сокращает объем необходимой разработки. Это также упрощает переключение между различными инструментами и источниками данных, поскольку агент не нужно перенастраивать каждый раз.
Использование стандартизированных интерфейсов также способствует взаимодействию между различными агентами ИИ. Если несколько агентов поддерживают протокол MCP, они могут легко обмениваться данными друг с другом. Это может привести к разработке более сложных и совершенных систем ИИ, в которых несколько агентов работают вместе для решения проблемы.
Надежные механизмы безопасности для защиты данных
Безопасность является главным приоритетом при разработке MCP. Протокол включает в себя несколько механизмов для защиты данных и предотвращения несанкционированного доступа. Одной из ключевых особенностей является изоляция моделей от конкретных источников данных. Это означает, что агент не имеет прямого доступа к базовым данным, а взаимодействует с ними через протокол MCP Server. Это добавляет уровень косвенности, что затрудняет злоумышленнику компрометацию данных.
MCP также включает механизмы для повышения прозрачности и аудируемости каналов управления и контроля. Это позволяет пользователям видеть, какие команды отправляются агенту, и убедиться, что агент действует в соответствии с их инструкциями. Это важно для укрепления доверия к системам ИИ, поскольку позволяет пользователям понимать, как агент принимает решения.
Наконец, MCP предоставляет механизм для контроля авторизации агентов. Это позволяет пользователям указывать, к каким инструментам и источникам данных агенту разрешено получать доступ. Это важно для предотвращения доступа агента к конфиденциальным данным или выполнения действий, на которые он не уполномочен.
MCP: Закладывая основу для управления агентами
MCP обеспечивает совместимость и гарантии безопасности для вызовов данных и инструментов, закладывая основу для управления агентами, но он не может решить все проблемы, с которыми сталкиваются в управлении.
Во-первых, с точки зрения достоверности, MCP не сформировал нормативный стандарт для выбора вызывающих источников данных и инструментов, а также не оценивал и не проверял результаты выполнения. Во-вторых, MCP не может временно регулировать новый тип коммерческих конкурентных отношений, вызванных Agent.
В целом, MCP предоставляет первоначальный технический ответ на основные проблемы безопасности, с которыми сталкиваются пользователи, использующие Agents, и стал отправной точкой для управления Agent. С популяризацией Agent и других приложений ИИ необходимы распределенные методы для удовлетворения дифференцированных потребностей разных пользователей. В центре внимания управления находится не только безопасность модели, но и основное требование удовлетворения потребностей пользователей. Протокол MCP сделал первый шаг в реагировании на потребности пользователей и продвижении технологического совместного управления. Именно на основе MCP Agent обеспечивает эффективное разделение труда и сотрудничество различных инструментов и ресурсов. Неделю назад Google открыл исходный код протокола Agent2Agent (A2A) для связи между агентами, чтобы агенты, созданные на разных платформах, могли договариваться о задачах и безопасно сотрудничать, а также способствовать развитию многоинтеллектуальной экологической системы.
Решение проблем доверия и надежности
Хотя MCP обеспечивает прочную основу для управления агентами, он не решает все проблемы. Одной из ключевых областей, требующих дальнейшего внимания, является вопрос доверия и надежности. MCP в настоящее время не включает никаких механизмов для проверки точности результатов выполнения или для обеспечения того, чтобы агенты выбирали подходящие источники данных и инструменты. Это означает, что пользователи могут не полностью доверять решениям, принимаемым агентом, особенно в ситуациях с высокими ставками.
Чтобы решить эту проблему, необходимо будет разработать новые стандарты и лучшие практики для разработки и развертывания агентов. Это может включать в себя такие вещи, как методы формальной верификации, которые можно использовать для доказательства того, что агент всегда будет вести себя предсказуемо и безопасно. Это также может включать в себя использование методов объяснимого ИИ, которые могут помочь пользователям понять, как агент принимает решения.
Навигация в новой конкурентной среде
Еще одна проблема, которую MCP не полностью решает, — это влияние агентов на конкурентную среду. По мере того как агенты становятся все более распространенными, они, вероятно, нарушат существующие бизнес-модели и создадут новые формы конкуренции. Важно учитывать потенциальное влияние агентов на конкурентную среду и разрабатывать стратегии для навигации в этой новой среде. Это включает в себя решение таких вопросов, как владение данными, интеллектуальная собственность и возможность антиконкурентного поведения.
Одним из потенциальных подходов является разработка новых нормативных рамок, специально разработанных для агентов ИИ. Эти рамки могут решать такие вопросы, как конфиденциальность данных, алгоритмическое смещение и возможность манипулирования рынком. Они также могут включать в себя механизмы для продвижения конкуренциии предотвращения монополий.
Путь вперед: сотрудничество и инновации
Разработка MCP является значительным шагом вперед в области управления агентами. Однако важно признать, что это только начало. Предстоит еще много проблем, и потребуется совместные усилия исследователей, разработчиков, политиков и пользователей, чтобы обеспечить безопасное и ответственное использование агентов ИИ.
Одним из многообещающих событий является недавний выпуск протокола Agent2Agent (A2A) от Google. Этот протокол позволяет агентам, созданным на разных платформах, общаться и сотрудничать друг с другом. Это может привести к разработке более сложных и совершенных систем ИИ, в которых несколько агентов работают вместе для решения проблемы. Это также может помочь создать более конкурентоспособную и инновационную экосистему ИИ, поскольку разработчики могут создавать агентов, которые могут беспрепятственно интегрироваться с другими агентами.
Поскольку технология ИИ продолжает развиваться, крайне важно оставаться впереди кривой и разрабатывать новые механизмы управления, которые могут решить проблемы будущего. Это потребует приверженности сотрудничеству, инновациям и готовности адаптироваться к постоянно меняющемуся ландшафту ИИ.