Компания Solo.io, известный разработчик решений для облачных приложений, представила Agent Gateway – data plane с открытым исходным кодом, оптимизированный для AI-связности в различных средах. Agent Gateway обеспечивает безопасность, наблюдаемость и управление для взаимодействия между агентами и инструментами, поддерживая Agent2Agent (A2A) и Model Context Protocol (MCP).
Решение сложностей разработки AI-агентов
Разработка и развертывание AI-агентов сопряжены с рядом проблем для организаций. Это поддержка множества быстро развивающихся протоколов в разрозненных командах и средах, а также адаптация различных фреймворков разработки агентов. Agent Gateway решает эти проблемы, предоставляя унифицированный data plane для подключения агентов. Платформа поддерживает A2A и MCP, и может автоматически интегрировать существующие REST API организации в качестве agent-native инструментов. Встроенный портал разработчика предоставляет поставщикам инструментов и разработчикам агентов единую точку для обнаружения, настройки и мониторинга взаимодействия между агентами и инструментами.
Agent Gateway легко интегрируется с популярными фреймворками, такими как LangGraph, AutoGen, Agents SDK, kagent и Claude Desktop. Более того, он работает везде, где работают агенты, включая bare metal, виртуальные машины (VM), контейнеры и Kubernetes, обеспечивая гибкость и масштабируемость.
Появление архитектуры Agent Mesh
По мере развития практик разработки агентов, индустрия признает преимущества небольших, сфокусированных агентов, ориентированных на конкретные цели или задачи. Этот подход повторяет микросервисную архитектуру, где отдельные сервисы выполняют определенные функции. Подобно тому, как микросервисы требовали service mesh для решения сквозных задач на уровне связности, агентам требуется Agent Mesh для решения общих проблем безопасности, наблюдаемости, аренды и защиты.
Выпуск Agent Gateway основан на надежной основе с открытым исходным кодом kgateway и Ambient Mesh для создания архитектуры Agent Mesh, адаптированной для AI use cases. Эти use cases включают потребление LLM, inference, вызовы инструментов и связь между агентами. Agent Mesh обеспечивает безопасность, наблюдаемость, обнаружение и управление для всех взаимодействий агентов, независимо от того, как они построены или где развернуты.
Видение Solo.io в области AI-связности
По словам Идит Левин, основателя и генерального директора Solo.io: ‘Agentic AI трансформирует то, как организации создают и поставляют приложения, но для долгосрочного успеха требуется инфраструктура, выходящая за рамки сегодняшнего быстро меняющегося ландшафта’. Левин подчеркивает важность использования отраслевых стандартов, таких как A2A и MCP, для обеспечения совместимости с любым LLM или agent framework. Agent Mesh объединяет эти стандарты с ведущим open-source gateway и mesh для формирования комплексного стека AI-связности для agentic приложений.
Agent Mesh легко интегрирует Agent Gateway в плоскость AI-связности для поддержки любого MCP tool server, agent framework, LLM и среды выполнения, используемой в agentic архитектуре организации. Эта интеграция предоставляет несколько ключевых преимуществ:
- Комплексная архитектура безопасности по умолчанию: Идентичность агента и mTLS обеспечивают надежную безопасность для всех взаимодействий агента.
- Многопользовательские границы доступа и элементы управления: Эти элементы управления регулируют доступ к агентам и инструментам в разных командах и средах, обеспечивая изоляцию и безопасность.
- Стандартная связь агентов: Поддерживает A2A и MCP, с возможностью автоматической интеграции существующих REST API в качестве MCP-native tool servers.
- Автоматический сбор и централизованная отчетность: Предоставляет комплексную телеметрию, включая метрики, трассировку и ведение журналов, для всей активности агента.
- Портал самообслуживания для разработчиков агентов: Этот портал поддерживает инструменты обнаружения, настройки, наблюдаемости и отладки для агентов и инструментов, позволяя разработчикам эффективно управлять AI-агентами.
Глубокое погружение в функциональность Agent Gateway
Agent Gateway является ключевым компонентом в быстро развивающейся области AI, предлагая надежное и универсальное решение для управления сложностями взаимодействия AI-агентов. Его архитектура тщательно разработана для решения ключевых задач, связанных с безопасностью, наблюдаемостью и управлением в agent-based системах. Давайте углубимся в функциональность и технические аспекты, которые делают Agent Gateway выдающимся продуктом в AI-инфраструктуре.
Основная архитектура и компоненты
В основе Agent Gateway лежит data plane с открытым исходным кодом, стратегически расположенный для оптимизации связности между AI-агентами и различными инструментами. Архитектура построена вокруг нескольких ключевых компонентов:
Data Plane: Центральный компонент, отвечающий за маршрутизацию и управление трафиком между агентами и инструментами. Он поддерживает несколько протоколов, включая A2A и MCP, обеспечивая совместимость между различными фреймворками агентов.
Control Plane: Управляет конфигурацией и политиками, которые управляют data plane. Он предоставляет централизованный интерфейс для определения правил безопасности, политик управления трафиком и настроек наблюдаемости.
API Gateway: Предоставляет API для управления и мониторинга агентов. Он поддерживает REST API и gRPC, позволяя разработчикам взаимодействовать с Agent Gateway программно.
Service Discovery: Автоматически обнаруживает и регистрирует агентов и инструменты, упрощая настройку и управление agent network.
Observability Tools: Предоставляет комплексные функции наблюдаемости, включая метрики, трассировку и ведение журналов, позволяя разработчикам отслеживать производительность и состояние agent network.
Поддержка Agent-to-Agent (A2A) и Model Context Protocol (MCP)
Одной из ключевых особенностей Agent Gateway является его поддержка A2A и MCP. Эти протоколы имеют решающее значение для обеспечения связи и обмена данными между AI-агентами.
Agent-to-Agent (A2A): A2A - это протокол, предназначенный для облегчения прямой связи между AI-агентами. Он позволяет агентам обмениваться данными, координировать задачи и совместно решать сложные проблемы. Agent Gateway поддерживает A2A, предоставляя безопасный и надежный канал связи между агентами, гарантируя эффективную и безопасную передачу данных.
Model Context Protocol (MCP): MCP - это протокол, который позволяет AI-агентам получать доступ к внешним инструментам и сервисам и использовать их. Он предоставляет стандартизированный способ взаимодействия агентов с инструментами, независимо от базовой технологии или реализации. Agent Gateway поддерживает MCP, предоставляя tool server, который предоставляет существующие REST API как MCP-native инструменты. Это позволяет агентам легко интегрироваться с существующими системами и использовать их возможности.
Интеграция с Agent Frameworks
Agent Gateway разработан для легкой интеграции с популярными agent frameworks, такими как LangGraph, AutoGen, Agents SDK, kagent и Claude Desktop. Эта интеграция упрощает разработку и развертывание AI-агентов, предоставляя согласованный и надежный уровень связи.
LangGraph: Фреймворк для построения и управления сложными AI agent workflows. Agent Gateway интегрируется с LangGraph, предоставляя data plane, поддерживающий требования к связи и обмену данными рабочих процессов LangGraph.
AutoGen: Фреймворк для автоматизации создания AI-агентов. Agent Gateway интегрируется с AutoGen, предоставляя уровень связи, поддерживающий развертывание и управление агентами, созданными AutoGen.
Agents SDK: Набор инструментов для разработки AI-агентов. Agent Gateway интегрируется с Agents SDK, предоставляя набор API и инструментов, которые упрощают разработку и развертывание агентов.
kagent: Фреймворк для построения Kubernetes-native AI-агентов. Agent Gateway интегрируется с kagent, предоставляя data plane, поддерживающий развертывание и управление агентами в средах Kubernetes.
Claude Desktop: AI assistant для desktop environments. Agent Gateway интегрируется с Claude Desktop, предоставляя уровень связи, позволяющий Claude Desktop взаимодействовать с другими AI-агентами и инструментами.
Функции безопасности
Безопасность является первостепенной задачей в AI agent deployments. Agent Gateway включает в себя несколько функций безопасности для защиты агентов и данных от несанкционированного доступа и вредоносных атак.
Идентичность агента: Каждому агенту присваивается уникальная идентификация, которая используется для аутентификации и авторизации доступа к ресурсам.
mTLS (Mutual Transport Layer Security): mTLS используется для шифрования всей связи между агентами и инструментами, гарантируя защиту данных от перехвата и несанкционированного доступа.
Контроль доступа: Гранулярные политики контроля доступа используются для ограничения доступа к ресурсам на основе идентификации и роли агента.
Обнаружение аномалий: Алгоритмы обнаружения аномалий используются для выявления и смягчения потенциальных угроз безопасности.
Наблюдаемость и мониторинг
Наблюдаемость имеет решающее значение для понимания поведения и производительности AI-агентов. Agent Gateway предоставляет комплексные функции наблюдаемости, включая метрики, трассировку и ведение журналов.
Метрики: Предоставляет метрики в реальном времени о производительности агента, включая задержку, пропускную способность и количество ошибок.
Трассировка: Отслеживает запросы по мере их прохождения через agent network, предоставляя информацию о зависимостях и узких местах производительности.
Ведение журналов: Регистрирует всю активность агента, предоставляя подробную запись событий для отладки и аудита.
Варианты развертывания
Agent Gateway может быть развернут в различных средах, включая bare metal, виртуальные машины (VMs), контейнеры и Kubernetes. Эта гибкость позволяет организациям развертывать Agent Gateway в среде, которая лучше всего соответствует их потребностям.
Bare Metal: Agent Gateway может быть развернут непосредственно на bare metal servers, обеспечивая максимальную производительность и контроль.
Виртуальные машины (VMs): Agent Gateway может быть развернут на VMs, предоставляя гибкий и масштабируемый вариант развертывания.
Контейнеры: Agent Gateway может быть развернут в контейнерах, таких как Docker containers, предоставляя легкий и портативный вариант развертывания.
Kubernetes: Agent Gateway может быть развернут в Kubernetes, предоставляя масштабируемый и отказоустойчивый вариант развертывания.
Преимущества использования Agent Mesh
Архитектура Agent Mesh, powered by Agent Gateway, предлагает многочисленные преимущества для организаций, развертывающих AI-агентов:
- Повышенная безопасность: Предоставляет безопасный и надежный канал связи между агентами и инструментами, защищая данные от несанкционированного доступа и вредоносных атак.
- Улучшенная наблюдаемость: Предлагает комплексные функции наблюдаемости, включая метрики, трассировку и ведение журналов, позволяя разработчикам отслеживать производительность и состояние agent network.
- Упрощенное управление: Упрощает управление AI-агентами, предоставляя централизованный интерфейс для настройки правил безопасности, политик управления трафиком и настроек наблюдаемости.
- Повышенная совместимость: Поддерживает A2A и MCP, обеспечивая связь и обмен данными между агентами и инструментами, независимо от базовой технологии или реализации.
- Масштабируемость и гибкость: Может быть развернут в различных средах, включая bare metal, виртуальные машины (VMs), контейнеры и Kubernetes, обеспечивая гибкость и масштабируемость.
Use Cases для Agent Gateway и Agent Mesh
Agent Gateway и Agent Mesh применимы к широкому спектру AI use cases, включая:
AI-Powered Customer Service: AI-агенты могут использоваться для автоматизации задач обслуживания клиентов, таких как ответы на вопросы, решение проблем и предоставление поддержки. Agent Gateway и Agent Mesh могут обеспечить безопасный и надежный канал связи между агентами и системами обслуживания клиентов, гарантируя защиту данных клиентов.
AI-Driven Fraud Detection: AI-агенты могут использоваться для обнаружения мошеннических транзакций и действий. Agent Gateway и Agent Mesh могут предоставить AI-агентам поток данных в реальном времени, позволяя им быстро выявлять и реагировать на мошеннические действия.
AI-Enabled Healthcare: AI-агенты могут использоваться для оказания помощи медицинским работникам в диагностике заболеваний, рекомендациях по лечению и мониторинге состояния здоровья пациентов. Agent Gateway и Agent Mesh могут обеспечить безопасный и надежный канал связи между агентами и системами здравоохранения, гарантируя защиту данных пациентов.
AI-Optimized Supply Chain Management: AI-агенты могут использоваться для оптимизации операций с цепочкой поставок, таких как прогнозирование спроса, управление запасами и координация логистики. Agent Gateway и Agent Mesh могут предоставить AI-агентам поток данных в реальном времени, позволяя им принимать обоснованные решения и оптимизировать операции с цепочкой поставок.
AI-Enhanced Financial Analysis: AI-агенты могут использоваться для анализа финансовых данных, выявления тенденций и предоставления инвестиционных рекомендаций. Agent Gateway и Agent Mesh могут обеспечить безопасный и надежный канал связи между агентами и финансовыми системами, гарантируя защиту финансовых данных.
Будущее AI-связности
Agent Gateway и Agent Mesh от Solo.io представляют собой значительный прогресс в AI-связности, предоставляя надежное и универсальное решение для управления сложностями взаимодействия AI-агентов. По мере того, как AI продолжает развиваться и все больше интегрироваться в различные отрасли, потребность в безопасных, надежных и масштабируемых решениях для AI-связности будет только возрастать. Agent Gateway и Agent Mesh хорошо позиционируются для удовлетворения этого спроса, позволяя организациям раскрыть весь потенциал AI и стимулировать инновации в своих бизнесах.