Solo.io, видна компания за облачни приложения, наскоро пусна Agent Gateway, open-source data plane, създаден да оптимизира AI свързаността в различни среди. Agent Gateway осигурява безпроблемна сигурност, наблюдателност и управление за комуникацията между агенти и инструменти. Той поддържа водещи оперативни протоколи, включително Agent2Agent (A2A) и Model Context Protocol (MCP).
Адресиране на сложностите на разработката на AI Agent
Разработването и внедряването на AI агенти представлява многобройни предизвикателства за организациите. Те включват поддръжка на множество бързо развиващи се протоколи в раздробени екипи и среди, както и приспособяване към различни рамки за разработване на агенти. Agent Gateway се справя с тези предизвикателства, като осигурява унифицирана data plane за свързване на агенти. Тази платформа поддържа A2A и MCP и може автоматично да интегрира съществуващите REST API на организацията като agent-native инструменти. Вграденият портал за разработчици предлага на доставчиците на инструменти и разработчиците на агенти единна точка за откриване, конфигуриране и наблюдение на свързаността между агенти и инструменти.
Agent Gateway се интегрира безпроблемно с популярни рамки за агенти, като LangGraph, AutoGen, Agents SDK, kagent и Claude Desktop. Освен това, той работи там, където работят агентите, включително bare metal, виртуални машини (VMs), контейнери и Kubernetes, осигурявайки несравнима гъвкавост и мащабируемост.
Появата на архитектурата Agent Mesh
Тъй като практиките за разработка на агенти зреят, индустрията все повече признава предимствата на по-малки, фокусирани агенти, които са приведени в съответствие с конкретни цели или задачи. Този подход отразява архитектурата на микроуслуги, където отделните услуги се справят с конкретни функции. Точно както микроуслугите изискват service mesh за справяне с належащите проблеми на свързаността, агентите изискват Agent Mesh за решаване на общите проблеми със сигурността, наблюдателността, управлението на достъпа и предпазните мерки.
Издаването на Agent Gateway се основава на стабилната open-source основа на kgateway и Ambient Mesh, за да се създаде Agent Mesh архитектура, пригодена за AI случаи на употреба. Тези случаи на употреба включват LLM потребление, логическо заключение, извикване на инструменти и комуникация между агенти. Agent Mesh позволява безпроблемна сигурност, наблюдателност, откриване и управление във всички взаимодействия на агентите, независимо от това как са изградени агентите или къде са внедрени.
Визията на Solo.io за AI свързаност
Според Идит Левин, основател и CEO на Solo.io, ‘Agentic AI трансформира начина, по който организациите изграждат и предоставят приложения, но дългосрочният успех изисква инфраструктура, която надхвърля днешния бързо променящ се пейзаж.’ Левин подчертава важността на използването на индустриални стандартни протоколи като A2A и MCP, за да се осигури оперативна съвместимост с всяка LLM или рамка за агенти. Agent Mesh обединява тези стандарти с водещите open-source gateway и mesh, за да формира цялостна AI свързваща структура за agentic приложения.
Agent Mesh безпроблемно интегрира Agent Gateway в AI свързващата равнина, за да поддържа всеки MCP инструмент server, рамка за агенти, LLM и runtime среда, използвани в агентската архитектура на организацията. Тази интеграция осигурява няколко ключови предимства:
- Цялостна, сигурна по подразбиране архитектура: Agent идентичност и mTLS осигуряват стабилна сигурност за всички взаимодействия на агентите.
- Многопотребителски граници и контроли за достъп: Тези контроли управляват достъпа до агенти и инструменти между екипи и среди, осигурявайки подходяща изолация и сигурност.
- Стандартна свързаност на агентите: Поддържа A2A и MCP, с възможност за автоматично интегриране на съществуващи REST API като MCP-native инструмент servers.
- Автоматизирано събиране и централизирано отчитане: Осигурява цялостна телеметрия, включително показатели, проследяване и протоколиране, за цялата активност на агентите.
- Self-service портал за разработчици на агенти: Този портал поддържа инструменти за откриване, конфигуриране, наблюдателност и отстраняване на грешки за агенти и инструменти, като дава възможност на разработчиците да управляват ефективно своите AI агенти.
Дълбоко потапяне във функционалността на Agent Gateway
Agent Gateway стои като ключов компонент в бързо развиващата се област на AI, предлагайки стабилно и многостранно решение за управление на сложността на взаимодействията на AI агентите. Неговата архитектура е старателно проектирана да се справи с ключови предизвикателства, свързани със сигурността, наблюдателността и управлението в системи, базирани на агенти. Нека се задълбочим във функционалността и техническите аспекти, които правят Agent Gateway изключителен продукт в пространството на AI инфраструктурата.
Основна архитектура и компоненти
В основата си Agent Gateway функционира като open-source data plane, стратегически позиционирана за оптимизиране на свързаността между AI агенти и различни инструменти. Архитектурата е изградена около няколко ключови компонента:
Data Plane: Централният компонент, отговорен за маршрутизирането и управлението на трафика между агенти и инструменти. Той поддържа множество протоколи, включително A2A и MCP, осигурявайки оперативна съвместимост между различните рамки на агентите.
Control Plane: Управлява конфигурацията и политиките, които управляват data plane. Той осигурява централизиран интерфейс за дефиниране на правила за сигурност, политики за управление на трафика и настройки за наблюдателност.
API Gateway: Излага API за управление и наблюдение на агенти. Той поддържа REST API и gRPC, позволявайки на разработчиците да взаимодействат с Agent Gateway програмно.
Service Discovery: Автоматично открива и регистрира агенти и инструменти, опростявайки конфигурацията и управлението на мрежата на агентите.
Инструменти за наблюдателност: Осигурява цялостни функции за наблюдателност, включително показатели, проследяване и протоколиране, което позволява на разработчиците да наблюдават производителността и здравето на мрежата на агентите.
Поддръжка на Agent-to-Agent (A2A) и Model Context Protocol (MCP)
Една от ключовите характеристики на Agent Gateway е неговата поддръжка за A2A и MCP. Тези протоколи са от решаващо значение за осигуряване на безпроблемна комуникация и обмен на данни между AI агенти.
Agent-to-Agent (A2A): A2A е протокол, предназначен да улесни директната комуникация между AI агенти. Той позволява на агентите да обменят данни, да координират задачи и да си сътрудничат по сложни проблеми. Agent Gateway поддържа A2A, като осигурява сигурен и надежден комуникационен канал между агентите, гарантирайки, че данните се предават ефективно и сигурно.
Model Context Protocol (MCP): MCP е протокол, който позволява на AI агентите да имат достъп и да използват външни инструменти и услуги. Той предоставя стандартизиран начин за агентите да взаимодействат с инструменти, независимо от основната технология или внедряване. Agent Gateway поддържа MCP, като осигурява инструмент server, който излага съществуващите REST API като MCP-native инструменти. Това позволява на агентите безпроблемно да се интегрират със съществуващите системи и да използват възможностите им.
Интеграция с рамки за агенти
Agent Gateway е проектиран да се интегрира безпроблемно с популярни рамки за агенти, като LangGraph, AutoGen, Agents SDK, kagent и Claude Desktop. Тази интеграция опростява разработването и внедряването на AI агенти, като осигурява последователен и надежден слой за свързване.
LangGraph: Рамка за изграждане и управление на сложни работни процеси на AI агенти. Agent Gateway се интегрира с LangGraph, като осигурява data plane, която поддържа изискванията за комуникация и обмен на данни на работните процеси на LangGraph.
AutoGen: Рамка за автоматизиране на генерирането на AI агенти. Agent Gateway се интегрира с AutoGen, като осигурява слой за свързване, който поддържа внедряването и управлението на генерирани от AutoGen агенти.
Agents SDK: Комплект за разработване на софтуер за изграждане на AI агенти. Agent Gateway се интегрира с Agents SDK, като осигурява набор от API и инструменти, които опростяват разработването и внедряването на агенти.
kagent: Рамка за изграждане на Kubernetes-native AI агенти. Agent Gateway се интегрира с kagent, като осигурява data plane, която поддържа внедряването и управлението на агенти в Kubernetes среди.
Claude Desktop: AI асистент за настолни среди. Agent Gateway се интегрира с Claude Desktop, като осигурява слой за свързване, който позволява на Claude Desktop да взаимодейства с други AI агенти и инструменти.
Функции за сигурност
Сигурността е основна грижа при внедряването на AI агенти. Agent Gateway включва няколко функции за сигурност, за да защити агентите и данните от неоторизиран достъп и злонамерени атаки.
Agent идентичност: На всеки агент се присвоява уникална идентичност, която се използва за удостоверяване и разрешаване на достъп до ресурси.
mTLS (Mutual Transport Layer Security): mTLS се използва за криптиране на цялата комуникация между агенти и инструменти, гарантирайки, че данните са защитени от подслушване и фалшифициране.
Контрол на достъпа: Фино настроените политики за контрол на достъпа се използват за ограничаване на достъпа до ресурси въз основа на идентичността и ролята на агента.
Откриване на аномалии: Алгоритмите за откриване на аномалии се използват за идентифициранеи смекчаване на потенциални заплахи за сигурността.
Наблюдателност и мониторинг
Наблюдателността е от решаващо значение за разбиране на поведението и производителността на AI агентите. Agent Gateway предоставя цялостни функции за наблюдателност, включително показатели, проследяване и протоколиране.
Показатели: Предоставя показатели в реално време за производителността на агентите, включително латентност, пропускателна способност и честота на грешки.
Проследяване: Проследява заявките, докато те преминават през мрежата на агентите, предоставяйки информация за зависимостите и проблемите с производителността.
Протоколиране: Протоколира цялата активност на агентите, предоставяйки подробен запис на събития за отстраняване на грешки и целите на одита.
Опции за внедряване
Agent Gateway може да бъде внедрен в различни среди, включително bare metal, виртуални машини (VMs), контейнери и Kubernetes. Тази гъвкавост позволява на организациите да внедрят Agent Gateway в средата, която най-добре отговаря на техните нужди.
Bare Metal: Agent Gateway може да бъде внедрен директно на bare metal сървъри, осигурявайки максимална производителност и контрол.
Виртуални машини (VMs): Agent Gateway може да бъде внедрен на VMs, осигурявайки гъвкава и мащабируема опция за внедряване.
Контейнери: Agent Gateway може да бъде внедрен в контейнери, като например Docker контейнери, осигурявайки лека и преносима опция за внедряване.
Kubernetes: Agent Gateway може да бъде внедрен в Kubernetes, осигурявайки мащабируема и устойчива опция за внедряване.
Предимства от използването на Agent Mesh
Архитектурата на Agent Mesh, захранвана от Agent Gateway, предлага многобройни предимства за организациите, внедряващи AI агенти:
- Подобрена сигурност: Осигурява сигурен и надежден комуникационен канал между агенти и инструменти, защитавайки данните от неоторизиран достъп и злонамерени атаки.
- Подобрена наблюдателност: Предлага цялостни функции за наблюдателност, включително показатели, проследяване и протоколиране, което позволява на разработчиците да наблюдават производителността и здравето на мрежата на агентите.
- Опростено управление: Опростява управлението на AI агенти, като осигурява централизиран интерфейс за конфигуриране на правила за сигурност, политики за управление на трафика и настройки за наблюдателност.
- Повишена оперативна съвместимост: Поддържа A2A и MCP, което позволява безпроблемна комуникация и обмен на данни между агенти и инструменти, независимо от основната технология или внедряване.
- Мащабируемост и гъвкавост: Може да бъде внедрен в различни среди, включително bare metal, виртуални машини (VMs), контейнери и Kubernetes, осигурявайки несравнима гъвкавост и мащабируемост.
Случаи на употреба за Agent Gateway и Agent Mesh
Agent Gateway и Agent Mesh са приложими за широк спектър от AI случаи на употреба, включително:
AI-базирано обслужване на клиенти: AI агентите могат да бъдат използвани за автоматизиране на задачите за обслужване на клиенти, като отговаряне на въпроси, разрешаване на проблеми и предоставяне на поддръжка. Agent Gateway и Agent Mesh могат да осигурят сигурен и надежден комуникационен канал между агенти и системи за обслужване на клиенти, гарантирайки, че данните на клиентите са защитени.
AI-управлявано откриване на измами: AI агентите могат да бъдат използвани за откриване на измамни транзакции и дейности. Agent Gateway и Agent Mesh могат да осигурят поток от данни в реално време към AI агентите, което им позволява бързо да идентифицират и да реагират на измамна дейност.
AI-базирано здравеопазване: AI агентите могат да бъдат използвани за подпомагане на здравните специалисти в диагностицирането на заболявания, препоръчването на лечения и наблюдението на здравето на пациентите. Agent Gateway и Agent Mesh могат да осигурят сигурен и надежден комуникационен канал между агенти и здравни системи, гарантирайки, че данните на пациентите са защитени.
AI-оптимизирано управление на веригата за доставки: AI агентите могат да бъдат използвани за оптимизиране на операциите на веригата за доставки, като прогнозиране на търсенето, управление на запасите и координиране на логистиката. Agent Gateway и Agent Mesh могат да осигурят поток от данни в реално време към AI агентите, което им позволява да вземат информирани решения и да оптимизират операциите на веригата за доставки.
AI-подобрен финансов анализ: AI агентите могат да бъдат използвани за анализ на финансови данни, идентифициране на тенденции и даване на инвестиционни препоръки. Agent Gateway и Agent Mesh могат да осигурят сигурен и надежден комуникационен канал между агенти и финансови системи, гарантирайки, че финансовите данни са защитени.
Бъдещето на AI свързаността
Agent Gateway и Agent Mesh на Solo.io представляват значителен напредък в AI свързаността, осигурявайки стабилно и многостранно решение за управление на сложността на взаимодействията на AI агентите. Тъй като AI продължава да се развива и да се интегрира в различни индустрии, необходимостта от сигурни, надеждни и мащабируеми AI решения за свързаност само ще се увеличи. Agent Gateway и Agent Mesh са в добра позиция да отговорят на това търсене, като дават възможност на организациите да отключат пълния потенциал на AI и да стимулират иновациите в бизнеса си.