Solo.io 近期推出了 Agent Gateway，這是一個開源的資料平面，旨在優化跨多種環境的代理式 AI 連線能力。Agent Gateway 為代理對代理和代理對工具通訊提供無縫的安全性、可觀測性和治理。它支援領先的互通協定，包括 Agent2Agent (A2A) 和模型內容協定 (Model Context Protocol, MCP)。
解決 AI 代理開發的複雜性
AI 代理的開發和部署給企業帶來了許多挑戰。這些挑戰包括支援跨分散團隊和環境的多種快速發展的協定，以及適應各種代理開發框架。Agent Gateway 通過為代理連線提供統一的資料平面來應對這些挑戰。該平台支援 A2A 和 MCP，並且可以自動整合企業現有的 REST API 作為代理原生工具。內建的開發者入口網站為工具供應商和代理開發者提供了一個單一的管理介面，用於發現、配置和監控代理對代理和代理對工具的連線。
Agent Gateway 與流行的代理框架（如 LangGraph、AutoGen、Agents SDK、kagent 和 Claude Desktop）無縫整合。此外，無論代理在哪裡運行（包括裸機、虛擬機器 (VM)、容器和 Kubernetes），它都可以運行，從而提供無與倫比的靈活性和可擴展性。
Agent Mesh 架構的出現
隨著代理開發實踐的成熟，業界越來越認識到與特定目標或任務對齊的更小、更專注的代理的好處。這種方法反映了微服務架構，其中各個服務處理特定功能。正如微服務需要服務網格來解決連線層的跨領域問題一樣，代理需要 Agent Mesh 來解決常見的安全、可觀測性、租戶和防護措施問題。
Agent Gateway 的發佈建立在 kgateway 和 Ambient Mesh 強大的開源基礎之上，以創建專為 AI 用例量身定制的 Agent Mesh 架構。這些用例包括 LLM 消費、推理、工具調用和代理對代理通訊。無論代理如何構建或部署在何處，Agent Mesh 都能在所有代理互動中實現無縫的安全性、可觀測性、發現和治理。
Solo.io 對 AI 連線的願景
Solo.io 創始人兼 CEO Idit Levine 表示：’代理式 AI 正在改變企業構建和交付應用程式的方式，但長期的成功需要超越當今快速變化的基礎設施。’ Levine 強調了使用 A2A 和 MCP 等行業標準協定的重要性，以確保與任何 LLM 或代理框架的互通性。Agent Mesh 將這些標準與領先的開源閘道和網格結合在一起，形成用於代理應用程式的全面 AI 連線堆疊。
Agent Mesh 將 Agent Gateway 無縫整合到 AI 連線平面中，以支援企業代理架構中使用的任何 MCP 工具伺服器、代理框架、LLM 和運行時環境。這種整合提供了幾個關鍵優勢：
- 全面的、預設安全的架構： 代理身份和 mTLS 為所有代理互動提供強大的安全性。
- 多租戶訪問邊界和控制： 這些控制管理跨團隊和環境對代理和工具的訪問，確保適當的隔離和安全性。
- 標準代理連線： 支援 A2A 和 MCP，並能夠自動將現有 REST API 整合為 MCP 原生工具伺服器。
- 自動收集和集中報告： 為所有代理活動提供全面的遙測數據，包括指標、追蹤和日誌記錄。
- 自助服務代理開發者入口網站： 該入口網站支援代理和工具的發現、配置、可觀測性和偵錯工具，使開發者能夠有效地管理他們的 AI 代理。
Agent Gateway 功能深入探討
Agent Gateway 是 AI 領域迅速發展的關鍵組件，它為管理 AI 代理互動的複雜性提供了一個強大而通用的解決方案。它的架構經過精心設計，旨在解決與基於代理的系統中的安全性、可觀測性和治理相關的關鍵挑戰。讓我們更深入地研究 Agent Gateway 的功能和技術方面，使其成為 AI 基礎設施領域中的傑出產品。
核心架構和組件
Agent Gateway 的核心功能是作為一個開源資料平面，策略性地定位於優化 AI 代理和各種工具之間的連線。該架構圍繞幾個關鍵組件構建：
資料平面： 負責路由和管理代理和工具之間流量的中心組件。它支援多種協定，包括 A2A 和 MCP，確保跨不同代理框架的互通性。
控制平面： 管理控制資料平面的配置和策略。它提供了一個集中的介面，用於定義安全規則、流量管理策略和可觀測性設定。
API 閘道： 公開用於管理和監控代理的 API。它支援 REST API 和 gRPC，允許開發者以編程方式與 Agent Gateway 互動。
服務發現： 自動發現和註冊代理和工具，簡化了代理網路的配置和管理。
可觀測性工具： 提供全面的可觀測性功能，包括指標、追蹤和日誌記錄，使開發者能夠監控代理網路的效能和健康狀況。
代理對代理 (A2A) 和模型內容協定 (MCP) 支援
Agent Gateway 的主要功能之一是它對 A2A 和 MCP 的支援。這些協定對於在 AI 代理之間實現無縫通訊和數據交換至關重要。
代理對代理 (A2A)： A2A 是一種旨在促進 AI 代理之間直接通訊的協定。它使代理能夠交換數據、協調任務並協作解決複雜問題。Agent Gateway 通過在代理之間提供安全可靠的通訊通道來支援 A2A，確保數據得到高效且安全地傳輸。
模型內容協定 (MCP)： MCP 是一種允許 AI 代理訪問和利用外部工具和服務的協定。它為代理與工具互動提供了一種標準化的方式，無論底層技術或實現如何。Agent Gateway 通過提供一個工具伺服器來支援 MCP，該伺服器將現有的 REST API 公開為 MCP 原生工具。這允許代理與現有系統無縫整合並利用它們的功能。
與代理框架整合
Agent Gateway 旨在與流行的代理框架（如 LangGraph、AutoGen、Agents SDK、kagent 和 Claude Desktop）無縫整合。這種整合通過提供一致且可靠的連線層來簡化 AI 代理的開發和部署。
LangGraph： 一個用於構建和管理複雜 AI 代理工作流程的框架。Agent Gateway 通過提供一個支援 LangGraph 工作流程的通訊和數據交換需求的資料平面來與 LangGraph 整合。
AutoGen： 一個用於自動生成 AI 代理的框架。Agent Gateway 通過提供一個支援部署和管理 AutoGen 生成的代理的連線層來與 AutoGen 整合。
Agents SDK： 一個用於構建 AI 代理的軟體開發套件。Agent Gateway 通過提供一組簡化代理開發和部署的 API 和工具來與 Agents SDK 整合。
kagent： 一個用於構建 Kubernetes 原生 AI 代理的框架。Agent Gateway 通過提供一個支援在 Kubernetes 環境中部署和管理代理的資料平面來與 kagent 整合。
Claude Desktop： 一個適用於桌面環境的 AI 助理。Agent Gateway 通過提供一個使 Claude Desktop 能夠與其他 AI 代理和工具互動的連線層來與 Claude Desktop 整合。
安全功能
安全是 AI 代理部署中的首要問題。Agent Gateway 包含多種安全功能，以保護代理和數據免受未經授權的訪問和惡意攻擊。
代理身份： 為每個代理分配一個唯一的身份，用於驗證和授權對資源的訪問。
mTLS (相互傳輸層安全性)： mTLS 用於加密代理和工具之間的所有通訊，確保數據免受竊聽和篡改。
訪問控制： 細粒度訪問控制策略用於基於代理身份和角色來限制對資源的訪問。
異常檢測： 異常檢測演算法用於識別和緩解潛在的安全威脅。
可觀測性和監控
可觀測性對於了解 AI 代理的行為和效能至關重要。Agent Gateway 提供全面的可觀測性功能，包括指標、追蹤和日誌記錄。
指標： 提供代理效能的實時指標，包括延遲、吞吐量和錯誤率。
追蹤： 追蹤請求在代理網路中流動的過程，提供對依賴關係和效能瓶頸的深入了解。
日誌記錄： 記錄所有代理活動，提供用於偵錯和審計的詳細事件記錄。
部署選項
Agent Gateway 可以部署在各種環境中，包括裸機、虛擬機器 (VM)、容器和 Kubernetes。這種靈活性允許企業在最能滿足其需求的環境中部署 Agent Gateway。
裸機： Agent Gateway 可以直接部署在裸機伺服器上，從而提供最大的效能和控制。
虛擬機器 (VM)： Agent Gateway 可以部署在 VM 上，從而提供靈活且可擴展的部署選項。
容器： Agent Gateway 可以部署在容器中，例如 Docker 容器，從而提供輕量級且可移植的部署選項。
Kubernetes： Agent Gateway 可以部署在 Kubernetes 中，從而提供可擴展且有彈性的部署選項。
使用 Agent Mesh 的好處
由 Agent Gateway 驅動的 Agent Mesh 架構為部署 AI 代理的企業提供了許多好處：
- 增強的安全性： 提供代理和工具之間安全可靠的通訊通道，保護數據免受未經授權的訪問和惡意攻擊。
- 改進的可觀測性： 提供全面的可觀測性功能，包括指標、追蹤和日誌記錄，使開發者能夠監控代理網路的效能和健康狀況。
- 簡化的管理： 通過提供用於配置安全規則、流量管理策略和可觀測性設定的集中介面來簡化 AI 代理的管理。
- 提高的互通性： 支援 A2A 和 MCP，從而在代理和工具之間實現無縫通訊和數據交換，無論底層技術或實現如何。
- 可擴展性和靈活性： 可以部署在各種環境中，包括裸機、虛擬機器 (VM)、容器和 Kubernetes，從而提供無與倫比的靈活性和可擴展性。
Agent Gateway 和 Agent Mesh 的用例
Agent Gateway 和 Agent Mesh 適用於各種 AI 用例，包括：
AI 驅動的客戶服務： AI 代理可用於自動執行客戶服務任務，例如回答問題、解決問題和提供支援。Agent Gateway 和 Agent Mesh 可以提供代理和客戶服務系統之間安全可靠的通訊通道，確保客戶數據受到保護。
AI 驅動的欺詐檢測： AI 代理可用於檢測欺詐性交易和活動。Agent Gateway 和 Agent Mesh 可以向 AI 代理提供實時數據流，使它們能夠快速識別和響應欺詐活動。
AI 啟用的醫療保健： AI 代理可用於協助醫療保健專業人員診斷疾病、推薦治療和監控患者健康狀況。Agent Gateway 和 Agent Mesh 可以提供代理和醫療保健系統之間安全可靠的通訊通道，確保患者數據受到保護。
AI 優化的供應鏈管理： AI 代理可用於優化供應鏈運營，例如預測需求、管理庫存和協調物流。Agent Gateway 和 Agent Mesh 可以向 AI 代理提供實時數據流，使它們能夠做出明智的決策並優化供應鏈運營。
AI 增強的財務分析： AI 代理可用於分析財務數據、識別趨勢並提出投資建議。Agent Gateway 和 Agent Mesh 可以提供代理和金融系統之間安全可靠的通訊通道，確保財務數據受到保護。
AI 連線的未來
Solo.io 的 Agent Gateway 和 Agent Mesh 代表了 AI 連線方面的一項重大進展，它為管理 AI 代理互動的複雜性提供了一個強大而通用的解決方案。隨著 AI 的不斷發展並更多地融入各個行業，對安全、可靠和可擴展的 AI 連線解決方案的需求只會增加。Agent Gateway 和 Agent Mesh 已做好充分準備來滿足這一需求，使企業能夠釋放 AI 的全部潛力並推動整個業務的創新。