Solo.io 发布 Agent Gateway 和 Agent Mesh

Solo.io,一家知名的云原生应用网络公司,最近推出了 Agent Gateway。这款开源数据平面经过精心设计,旨在优化 Agentic AI 在各种环境中的连接。Agent Gateway 为 Agent 之间以及 Agent 与工具之间的通信提供无缝的安全性、可观测性和治理。它支持领先的互操作协议,包括 Agent2Agent (A2A) 和 Model Context Protocol (MCP)。

应对 AI Agent 开发的复杂性

AI Agent 的开发和部署给组织带来了诸多挑战。这些挑战包括支持跨碎片化团队和环境的多种快速发展的协议,以及适应各种 Agent 开发框架。Agent Gateway 通过为 Agent 连接提供统一的数据平面来应对这些挑战。该平台支持 A2A 和 MCP,并且可以自动将组织现有的 REST API 集成作为 Agent 原生工具。内置的开发者门户为工具提供商和 Agent 开发者提供了一个单一的管理界面,用于发现、配置和监控 Agent 之间以及 Agent 与工具之间的连接。

Agent Gateway 与流行的 Agent 框架(如 LangGraph、AutoGen、Agents SDK、kagent 和 Claude Desktop)无缝集成。此外,它可以在 Agent 运行的任何地方运行,包括裸机、虚拟机 (VM)、容器和 Kubernetes,从而提供无与伦比的灵活性和可扩展性。

Agent Mesh 架构的出现

随着 Agent 开发实践的成熟,业界越来越认识到与特定目标或任务相一致的更小、更专注的 Agent 的好处。这种方法类似于微服务架构,其中单个服务处理特定功能。正如微服务需要服务网格来解决连接层的跨领域问题一样,Agent 也需要 Agent Mesh 来解决常见的安全性、可观测性、租户和防护栏问题。

Agent Gateway 的发布建立在 kgateway 和 Ambient Mesh 强大的开源基础上,创建了一个专为 AI 用例量身定制的 Agent Mesh 架构。这些用例包括 LLM 消费、推理、工具调用和 Agent 之间的通信。Agent Mesh 实现了跨所有 Agent 交互的无缝安全性、可观测性、发现和治理,无论 Agent 如何构建或部署在何处。

Solo.io 对 AI 连接的愿景

Solo.io 创始人兼 CEO Idit Levine 表示:“Agentic AI 正在改变组织构建和交付应用程序的方式,但长期成功需要超越当今快速变化的格局的基础架构。” Levine 强调了使用 A2A 和 MCP 等行业标准协议的重要性,以确保与任何 LLM 或 Agent 框架的互操作性。Agent Mesh 将这些标准与领先的开源网关和网格结合在一起,形成用于 Agentic 应用程序的全面 AI 连接堆栈。

Agent Mesh 将 Agent Gateway 无缝集成到 AI 连接平面中,以支持组织 Agentic 架构中使用的任何 MCP 工具服务器、Agent 框架、LLM 和运行时环境。这种集成提供了以下几个关键优势:

  • 全面、默认安全的架构: Agent 身份和 mTLS 为所有 Agent 交互提供强大的安全性。
  • 多租户访问边界和控制: 这些控制管理跨团队和环境对 Agent 和工具的访问,确保适当的隔离和安全性。
  • 标准 Agent 连接: 支持 A2A 和 MCP,并能够自动将现有 REST API 集成为 MCP 原生工具服务器。
  • 自动收集和集中报告: 为所有 Agent 活动提供全面的遥测数据,包括指标、跟踪和日志记录。
  • 自助式 Agent 开发者门户: 该门户支持 Agent 和工具的发现、配置、可观测性和调试工具,使开发者能够有效地管理其 AI Agent。

深入了解 Agent Gateway 的功能

Agent Gateway 是 AI 快速发展领域中的一个关键组件,它为管理 AI Agent 交互的复杂性提供了一个强大而通用的解决方案。它的架构经过精心设计,旨在解决基于 Agent 的系统中的安全性、可观测性和治理相关的关键挑战。让我们更深入地了解使 Agent Gateway 成为 AI 基础设施领域杰出产品的特性和技术方面。

核心架构和组件

Agent Gateway 的核心功能是作为开源数据平面,战略性地定位以优化 AI Agent 和各种工具之间的连接。该架构围绕几个关键组件构建:

  1. 数据平面: 负责路由和管理 Agent 和工具之间流量的中心组件。它支持包括 A2A 和 MCP 在内的多种协议,确保跨不同 Agent 框架的互操作性。

  2. 控制平面: 管理控制数据平面的配置和策略。它为定义安全规则、流量管理策略和可观测性设置提供了一个集中式接口。

  3. API 网关: 公开用于管理和监控 Agent 的 API。它支持 REST API 和 gRPC,允许开发者以编程方式与 Agent Gateway 交互。

  4. 服务发现: 自动发现和注册 Agent 和工具,简化 Agent 网络的配置和管理。

  5. 可观测性工具: 提供全面的可观测性功能,包括指标、跟踪和日志记录,使开发者能够监控 Agent 网络的性能和健康状况。

Agent-to-Agent (A2A) 和 Model Context Protocol (MCP) 支持

Agent Gateway 的关键特性之一是它对 A2A 和 MCP 的支持。这些协议对于实现 AI Agent 之间无缝通信和数据交换至关重要。

  • Agent-to-Agent (A2A): A2A 是一种旨在促进 AI Agent 之间直接通信的协议。它使 Agent 能够交换数据、协调任务以及协作解决复杂问题。Agent Gateway 通过在 Agent 之间提供安全可靠的通信通道来支持 A2A,确保数据高效安全地传输。

  • Model Context Protocol (MCP): MCP 是一种允许 AI Agent 访问和利用外部工具和服务的协议。它为 Agent 提供了一种与工具交互的标准化方式,无论底层技术或实现如何。Agent Gateway 通过提供将现有 REST API 公开为 MCP 原生工具的工具服务器来支持 MCP。这允许 Agent 与现有系统无缝集成并利用其功能。

与 Agent 框架集成

Agent Gateway 旨在与流行的 Agent 框架(如 LangGraph、AutoGen、Agents SDK、kagent 和 Claude Desktop)无缝集成。通过提供一致且可靠的连接层,这种集成简化了 AI Agent 的开发和部署。

  • LangGraph: 用于构建和管理复杂 AI Agent 工作流程的框架。Agent Gateway 通过提供支持 LangGraph 工作流程的通信和数据交换需求的数据平面与 LangGraph 集成。

  • AutoGen: 用于自动生成 AI Agent 的框架。Agent Gateway 通过提供支持 AutoGen 生成的 Agent 的部署和管理的连接层与 AutoGen 集成。

  • Agents SDK: 用于构建 AI Agent 的软件开发工具包。Agent Gateway 通过提供一组简化 Agent 开发和部署的 API 和工具与 Agents SDK 集成。

  • kagent: 用于构建 Kubernetes 原生 AI Agent 的框架。Agent Gateway 通过提供支持在 Kubernetes 环境中部署和管理 Agent 的数据平面与 kagent 集成。

  • Claude Desktop: 用于桌面环境的 AI 助手。Agent Gateway 通过提供使 Claude Desktop 能够与其他 AI Agent 和工具交互的连接层与 Claude Desktop 集成。

安全特性

安全性是 AI Agent 部署中至关重要的问题。Agent Gateway 包含多种安全特性,以保护 Agent 和数据免受未经授权的访问和恶意攻击。

  1. Agent 身份: 每个 Agent 都会被分配一个唯一的身份,用于验证身份和授权对资源的访问。

  2. mTLS(相互传输层安全): mTLS 用于加密 Agent 和工具之间的所有通信,确保数据受到保护,免受窃听和篡改。

  3. 访问控制: 细粒度的访问控制策略用于根据 Agent 身份和角色来限制对资源的访问。

  4. 异常检测: 异常检测算法用于识别和缓解潜在的安全威胁。

可观测性和监控

可观测性对于理解 AI Agent 的行为和性能至关重要。Agent Gateway 提供全面的可观测性功能,包括指标、跟踪和日志记录。

  1. 指标: 提供关于 Agent 性能的实时指标,包括延迟、吞吐量和错误率。

  2. 跟踪: 跟踪请求在 Agent 网络中的流动,深入了解依赖关系和性能瓶颈。

  3. 日志记录: 记录所有 Agent 活动,为调试和审计目的提供详细的事件记录。

部署选项

Agent Gateway 可以部署在各种环境中,包括裸机、虚拟机 (VM)、容器和 Kubernetes。这种灵活性允许组织在最能满足其需求的环境中部署 Agent Gateway。

  • 裸机: Agent Gateway 可以直接部署在裸机服务器上,从而提供最大的性能和控制。

  • 虚拟机 (VM): Agent Gateway 可以部署在 VM 上,从而提供灵活且可扩展的部署选项。

  • 容器: Agent Gateway 可以部署在容器中,例如 Docker 容器,从而提供轻量级且可移植的部署选项。

  • Kubernetes: Agent Gateway 可以部署在 Kubernetes 中,从而提供可扩展且具有弹性的部署选项。

使用 Agent Mesh 的好处

Agent Mesh 架构(由 Agent Gateway 提供支持)为部署 AI Agent 的组织提供了诸多好处:

  • 增强的安全性: 提供 Agent 和工具之间安全可靠的通信通道,保护数据免受未经授权的访问和恶意攻击。
  • 改进的可观测性: 提供全面的可观测性功能,包括指标、跟踪和日志记录,使开发者能够监控 Agent 网络的性能和健康状况。
  • 简化的管理: 通过提供用于配置安全规则、流量管理策略和可观测性设置的集中式界面,简化了 AI Agent 的管理。
  • 增强的互操作性: 支持 A2A 和 MCP,从而实现 Agent 和工具之间的无缝通信和数据交换,无论底层技术或实现如何。
  • 可扩展性和灵活性: 可以部署在各种环境中,包括裸机、虚拟机 (VM)、容器和 Kubernetes,从而提供无与伦比的灵活性和可扩展性。

Agent Gateway 和 Agent Mesh 的用例

Agent Gateway 和 Agent Mesh 适用于广泛的 AI 用例,包括:

  1. AI 驱动的客户服务: AI Agent 可用于自动化客户服务任务,例如回答问题、解决问题和提供支持。Agent Gateway 和 Agent Mesh 可以提供 Agent 与客户服务系统之间安全可靠的通信通道,确保客户数据受到保护。

  2. AI 驱动的欺诈检测: AI Agent 可用于检测欺诈性交易和活动。Agent Gateway 和 Agent Mesh 可以为 AI Agent 提供实时数据流,使他们能够快速识别和响应欺诈活动。

  3. AI 支持的医疗保健: AI Agent 可用于协助医疗保健专业人员诊断疾病、推荐治疗方法和监控患者健康状况。Agent Gateway 和 Agent Mesh 可以提供 Agent 与医疗保健系统之间安全可靠的通信通道,确保患者数据受到保护。

  4. AI 优化的供应链管理: AI Agent 可用于优化供应链运营,例如预测需求、管理库存和协调物流。Agent Gateway 和 Agent Mesh 可以为 AI Agent 提供实时数据流,使他们能够做出明智的决策并优化供应链运营。

  5. AI 增强的财务分析: AI Agent 可用于分析财务数据、识别趋势和提出投资建议。Agent Gateway 和 Agent Mesh 可以提供 Agent 与财务系统之间安全可靠的通信通道,确保财务数据受到保护。

AI 连接的未来

Solo.io 的 Agent Gateway 和 Agent Mesh 代表了 AI 连接方面的重大进步,它为管理 AI Agent 交互的复杂性提供了一个强大而通用的解决方案。随着 AI 不断发展并更加融入各个行业,对安全、可靠和可扩展的 AI 连接解决方案的需求只会增加。Agent Gateway 和 Agent Mesh 处于有利地位,可以满足这一需求,使组织能够释放 AI 的全部潜力并推动其业务的创新。