Solo.io, một công ty nổi tiếng về mạng ứng dụng gốc đám mây, gần đây đã ra mắt Agent Gateway. Data plane mã nguồn mở này được thiết kế tỉ mỉ để tối ưu hóa kết nối AI agentic trên các môi trường khác nhau. Agent Gateway cung cấp bảo mật, khả năng quan sát và quản trị liền mạch cho giao tiếp giữa agent-to-agent và agent-to-tool. Nó hỗ trợ các giao thức tương tác hàng đầu, bao gồm Agent2Agent (A2A) và Model Context Protocol (MCP).
Giải quyết sự phức tạp của phát triển AI Agent
Việc phát triển và triển khai các AI agent đặt ra nhiều thách thức cho các tổ chức. Chúng bao gồm hỗ trợ nhiều giao thức phát triển nhanh chóng trên các nhóm và môi trường phân mảnh, cũng như đáp ứng các khuôn khổ phát triển agent khác nhau. Agent Gateway giải quyết những thách thức này bằng cách cung cấp một data plane thống nhất cho kết nối agent. Nền tảng này hỗ trợ A2A và MCP, đồng thời nó có thể tự động tích hợp các API REST hiện có của một tổ chức như các công cụ gốc agent. Cổng thông tin dành cho nhà phát triển tích hợp cung cấp cho các nhà cung cấp công cụ và nhà phát triển agent một cửa sổ duy nhất để khám phá, định cấu hình và giám sát kết nối agent-to-agent và agent-to-tool.
Agent Gateway tích hợp liền mạch với các framework agent phổ biến, chẳng hạn như LangGraph, AutoGen, Agents SDK, kagent và Claude Desktop. Hơn nữa, nó hoạt động ở bất cứ nơi nào agent chạy, bao gồm bare metal, máy ảo (VM), container và Kubernetes, cung cấp tính linh hoạt và khả năng mở rộng vô song.
Sự trỗi dậy của kiến trúc Agent Mesh
Khi các phương pháp phát triển agent trưởng thành, ngành công nghiệp ngày càng nhận ra lợi ích của các agent nhỏ hơn, tập trung hơn, phù hợp với các mục tiêu hoặc nhiệm vụ cụ thể. Cách tiếp cận này phản ánh kiến trúc microservices, trong đó các dịch vụ riêng lẻ xử lý các chức năng cụ thể. Giống như microservices cần một service mesh để giải quyết các vấn đề cắt ngang ở lớp kết nối, các agent yêu cầu một Agent Mesh để giải quyết các vấn đề bảo mật, khả năng quan sát, quyền thuê và guardrail chung.
Việc phát hành Agent Gateway xây dựng trên nền tảng mã nguồn mở mạnh mẽ của kgateway và Ambient Mesh để tạo ra một kiến trúc Agent Mesh phù hợp cho các trường hợp sử dụng AI. Các trường hợp sử dụng này bao gồm tiêu thụ LLM, suy luận, gọi công cụ và giao tiếp agent-to-agent. Agent Mesh cho phép bảo mật, khả năng quan sát, khám phá và quản trị liền mạch trên tất cả các tương tác agent, bất kể agent được xây dựng như thế nào hoặc được triển khai ở đâu.
Tầm nhìn của Solo.io về kết nối AI
Theo Idit Levine, người sáng lập và CEO của Solo.io, ‘AI Agentic đang thay đổi cách các tổ chức xây dựng và cung cấp ứng dụng, nhưng thành công lâu dài đòi hỏi cơ sở hạ tầng vượt qua bối cảnh thay đổi nhanh chóng ngày nay.’ Levine nhấn mạnh tầm quan trọng của việc sử dụng các giao thức tiêu chuẩn công nghiệp như A2A và MCP để đảm bảo khả năng tương tác với bất kỳ LLM hoặc framework agent nào. Agent Mesh tập hợp các tiêu chuẩn này với gateway và mesh mã nguồn mở hàng đầu để tạo thành một stack kết nối AI toàn diện cho các ứng dụng agentic.
Agent Mesh tích hợp liền mạch Agent Gateway vào mặt phẳng kết nối AI để hỗ trợ bất kỳ máy chủ công cụ MCP, framework agent, LLM và môi trường thời gian chạy nào được sử dụng trong kiến trúc agentic của một tổ chức. Sự tích hợp này cung cấp một số lợi ích chính:
- Kiến trúc toàn diện, bảo mật theo mặc định: Nhận dạng agent và mTLS cung cấp bảo mật mạnh mẽ cho tất cả các tương tác agent.
- Ranh giới và kiểm soát truy cập đa tenant: Các kiểm soát này chi phối quyền truy cập vào agent và công cụ trên các nhóm và môi trường, đảm bảo cách ly và bảo mật thích hợp.
- Kết nối agent tiêu chuẩn: Hỗ trợ A2A và MCP, với khả năng tự động tích hợp các API REST hiện có làm máy chủ công cụ gốc MCP.
- Thu thập tự động và báo cáo tập trung: Cung cấp đo từ xa toàn diện, bao gồm số liệu, theo dõi và ghi nhật ký, cho tất cả hoạt động của agent.
- Cổng thông tin nhà phát triển agent tự phục vụ: Cổng thông tin này hỗ trợ khám phá, cấu hình, khả năng quan sát và gỡ lỗi các công cụ cho agent và công cụ, trao quyền cho các nhà phát triển quản lý các AI agent của họ một cách hiệu quả.
Tìm hiểu sâu về chức năng của Agent Gateway
Agent Gateway nổi bật như một thành phần then chốt trong lĩnh vực AI đang phát triển nhanh chóng, cung cấp một giải pháp mạnh mẽ và linh hoạt để quản lý sự phức tạp của các tương tác AI agent. Kiến trúc của nó được thiết kế tỉ mỉ để giải quyết các thách thức chính liên quan đến bảo mật, khả năng quan sát và quản trị trong các hệ thống dựa trên agent. Chúng ta hãy đi sâu hơn vào chức năng và các khía cạnh kỹ thuật làm cho Agent Gateway trở thành một sản phẩm nổi bật trong không gian cơ sở hạ tầng AI.
Kiến trúc và thành phần cốt lõi
Về cốt lõi, Agent Gateway hoạt động như một data plane mã nguồn mở, được định vị chiến lược để tối ưu hóa kết nối giữa các AI agent và các công cụ khác nhau. Kiến trúc được xây dựng xung quanh một số thành phần chính:
Data Plane: Thành phần trung tâm chịu trách nhiệm định tuyến và quản lý lưu lượng giữa các agent và công cụ. Nó hỗ trợ nhiều giao thức, bao gồm A2A và MCP, đảm bảo khả năng tương tác trên các framework agent khác nhau.
Control Plane: Quản lý cấu hình và các chính sách chi phối data plane. Nó cung cấp một giao diện tập trung để xác định các quy tắc bảo mật, chính sách quản lý lưu lượng và cài đặt khả năng quan sát.
API Gateway: Hiển thị các API để quản lý và giám sát agent. Nó hỗ trợ API REST và gRPC, cho phép các nhà phát triển tương tác với Agent Gateway theo chương trình.
Service Discovery: Tự động khám phá và đăng ký các agent và công cụ, đơn giản hóa cấu hình và quản lý mạng agent.
Công cụ quan sát: Cung cấp các tính năng quan sát toàn diện, bao gồm số liệu, theo dõi và ghi nhật ký, cho phép các nhà phát triển giám sát hiệu suất và tình trạng của mạng agent.
Hỗ trợ Agent-to-Agent (A2A) và Model Context Protocol (MCP)
Một trong những tính năng chính của Agent Gateway là hỗ trợ A2A và MCP. Các giao thức này rất quan trọng để cho phép giao tiếp và trao đổi dữ liệu liền mạch giữa các AI agent.
Agent-to-Agent (A2A): A2A là một giao thức được thiết kế để tạo điều kiện giao tiếp trực tiếp giữa các AI agent. Nó cho phép các agent trao đổi dữ liệu, điều phối các tác vụ và cộng tác trên các vấn đề phức tạp. Agent Gateway hỗ trợ A2A bằng cách cung cấp một kênh giao tiếp an toàn và đáng tin cậy giữa các agent, đảm bảo rằng dữ liệu được truyền một cách hiệu quả và an toàn.
Model Context Protocol (MCP): MCP là một giao thức cho phép các AI agent truy cập và sử dụng các công cụ và dịch vụ bên ngoài. Nó cung cấp một cách tiêu chuẩn hóa để các agent tương tác với các công cụ, bất kể công nghệ hoặc triển khai cơ bản. Agent Gateway hỗ trợ MCP bằng cách cung cấp một máy chủ công cụ hiển thị các API REST hiện có dưới dạng các công cụ gốc MCP. Điều này cho phép các agent tích hợp liền mạch với các hệ thống hiện có và tận dụng các khả năng của chúng.
Tích hợp với Framework Agent
Agent Gateway được thiết kế để tích hợp liền mạch với các framework agent phổ biến, chẳng hạn như LangGraph, AutoGen, Agents SDK, kagent và Claude Desktop. Sự tích hợp này đơn giản hóa việc phát triển và triển khai các AI agent bằng cách cung cấp một lớp kết nối nhất quán và đáng tin cậy.
LangGraph: Một framework để xây dựng và quản lý các quy trình làm việc AI agent phức tạp. Agent Gateway tích hợp với LangGraph bằng cách cung cấp một data plane hỗ trợ các yêu cầu giao tiếp và trao đổi dữ liệu của quy trình làm việc LangGraph.
AutoGen: Một framework để tự động hóa việc tạo ra các AI agent. Agent Gateway tích hợp với AutoGen bằng cách cung cấp một lớp kết nối hỗ trợ việc triển khai và quản lý các agent do AutoGen tạo ra.
Agents SDK: Một bộ phát triển phần mềm để xây dựng các AI agent. Agent Gateway tích hợp với Agents SDK bằng cách cung cấp một tập hợp các API và công cụ đơn giản hóa việc phát triển và triển khai các agent.
kagent: Một framework để xây dựng các AI agent gốc Kubernetes. Agent Gateway tích hợp với kagent bằng cách cung cấp một data plane hỗ trợ việc triển khai và quản lý các agent trong môi trường Kubernetes.
Claude Desktop: Một trợ lý AI cho môi trường máy tính để bàn. Agent Gateway tích hợp với Claude Desktop bằng cách cung cấp một lớp kết nối cho phép Claude Desktop tương tác với các AI agent và công cụ khác.
Tính năng bảo mật
Bảo mật là một mối quan tâm hàng đầu trong việc triển khai AI agent. Agent Gateway kết hợp một số tính năng bảo mật để bảo vệ agent và dữ liệu khỏi truy cập trái phép và các cuộc tấn công độc hại.
Nhận dạng Agent: Mỗi agent được gán một danh tính duy nhất, được sử dụng để xác thực và ủy quyền truy cập vào tài nguyên.
mTLS (Mutual Transport Layer Security): mTLS được sử dụng để mã hóa tất cả giao tiếp giữa các agent và công cụ, đảm bảo rằng dữ liệu được bảo vệ khỏi nghe lén và giả mạo.
Kiểm soát truy cập: Các chính sách kiểm soát truy cập chi tiết được sử dụng để hạn chế quyền truy cập vào tài nguyên dựa trên danh tính và vai trò của agent.
Phát hiện bất thường: Các thuật toán phát hiện bất thường được sử dụng để xác định và giảm thiểu các mối đe dọa bảo mật tiềm ẩn.
Khả năng quan sát và giám sát
Khả năng quan sát là rất quan trọng để hiểu hành vi và hiệu suất của các AI agent. Agent Gateway cung cấp các tính năng quan sát toàn diện, bao gồm số liệu, theo dõi và ghi nhật ký.
Số liệu: Cung cấp số liệu thời gian thực về hiệu suất của agent, bao gồm độ trễ, thông lượng và tỷ lệ lỗi.
Theo dõi: Theo dõi các yêu cầu khi chúng luân chuyển qua mạng agent, cung cấp thông tin chi tiết về các phụ thuộc và tắc nghẽn hiệu suất.
Ghi nhật ký: Ghi lại tất cả hoạt động của agent, cung cấp một bản ghi chi tiết về các sự kiện cho mục đích gỡ lỗi và kiểm tra.
Tùy chọn triển khai
Agent Gateway có thể được triển khai trong các môi trường khác nhau, bao gồm bare metal, máy ảo (VM), container và Kubernetes. Tính linh hoạt này cho phép các tổ chức triển khai Agent Gateway trong môi trường đáp ứng tốt nhất nhu cầu của họ.
Bare Metal: Agent Gateway có thể được triển khai trực tiếp trên các máy chủ bare metal, cung cấp hiệu suất và khả năng kiểm soát tối đa.
Máy ảo (VM): Agent Gateway có thể được triển khai trên VM, cung cấp một tùy chọn triển khai linh hoạt và có thể mở rộng.
Container: Agent Gateway có thể được triển khai trong container, chẳng hạn như container Docker, cung cấp một tùy chọn triển khai nhẹ và di động.
Kubernetes: Agent Gateway có thể được triển khai trong Kubernetes, cung cấp một tùy chọn triển khai có thể mở rộng và đàn hồi.
Lợi ích của việc sử dụng Agent Mesh
Kiến trúc Agent Mesh, được hỗ trợ bởi Agent Gateway, mang lại nhiều lợi ích cho các tổ chức triển khai AI agent:
- Bảo mật nâng cao: Cung cấp một kênh giao tiếp an toàn và đáng tin cậy giữa các agent và công cụ, bảo vệ dữ liệu khỏi truy cập trái phép và các cuộc tấn công độc hại.
- Khả năng quan sát được cải thiện: Cung cấp các tính năng quan sát toàn diện, bao gồm số liệu, theo dõi và ghi nhật ký, cho phép các nhà phát triển giám sát hiệu suất và tình trạng của mạng agent.
- Quản lý đơn giản hóa: Đơn giản hóa việc quản lý các AI agent bằng cách cung cấp một giao diện tập trung để định cấu hình các quy tắc bảo mật, chính sách quản lý lưu lượng và cài đặt khả năng quan sát.
- Khả năng tương tác tăng lên: Hỗ trợ A2A và MCP, cho phép giao tiếp và trao đổi dữ liệu liền mạch giữa các agent và công cụ, bất kể công nghệ hoặc triển khai cơ bản.
- Khả năng mở rộng và linh hoạt: Có thể được triển khai trong các môi trường khác nhau, bao gồm bare metal, máy ảo (VM), container và Kubernetes, cung cấp tính linh hoạt và khả năng mở rộng vô song.
Các trường hợp sử dụng cho Agent Gateway và Agent Mesh
Agent Gateway và Agent Mesh có thể áp dụng cho một loạt các trường hợp sử dụng AI, bao gồm:
Dịch vụ khách hàng được hỗ trợ bởi AI: Các AI agent có thể được sử dụng để tự động hóa các tác vụ dịch vụ khách hàng, chẳng hạn như trả lời câu hỏi, giải quyết vấn đề và cung cấp hỗ trợ. Agent Gateway và Agent Mesh có thể cung cấp một kênh giao tiếp an toàn và đáng tin cậy giữa các agent và hệ thống dịch vụ khách hàng, đảm bảo rằng dữ liệu khách hàng được bảo vệ.
Phát hiện gian lận do AI điều khiển: Các AI agent có thể được sử dụng để phát hiện các giao dịch và hoạt động gian lận. Agent Gateway và Agent Mesh có thể cung cấp một luồng dữ liệu thời gian thực cho các AI agent, cho phép họ xác định và phản ứng nhanh chóng với hoạt động gian lận.
Chăm sóc sức khỏe được hỗ trợ bởi AI: Các AI agent có thể được sử dụng để hỗ trợ các chuyên gia chăm sóc sức khỏe trong việc chẩn đoán bệnh, đề xuất phương pháp điều trị và theo dõi sức khỏe của bệnh nhân. Agent Gateway và Agent Mesh có thể cung cấp một kênh giao tiếp an toàn và đáng tin cậy giữa các agent và hệ thống chăm sóc sức khỏe, đảm bảo rằng dữ liệu bệnh nhân được bảo vệ.
Quản lý chuỗi cung ứng được tối ưu hóa bởi AI: Các AI agent có thể được sử dụng để tối ưu hóa các hoạt động chuỗi cung ứng, chẳng hạn như dự báo nhu cầu, quản lý hàng tồn kho và điều phối hậu cần. Agent Gateway và Agent Mesh có thể cung cấp một luồng dữ liệu thời gian thực cho các AI agent, cho phép họ đưa ra các quyết định sáng suốt và tối ưu hóa các hoạt động chuỗi cung ứng.
Phân tích tài chính nâng cao AI: Các AI agent có thể được sử dụng để phân tích dữ liệu tài chính, xác định xu hướng và đưa ra các khuyến nghị đầu tư. Agent Gateway và Agent Mesh có thể cung cấp một kênh giao tiếp an toàn và đáng tin cậy giữa các agent và hệ thống tài chính, đảm bảo rằng dữ liệu tài chính được bảo vệ.
Tương lai của kết nối AI
Agent Gateway và Agent Mesh của Solo.io đại diện cho một tiến bộ đáng kể trong kết nối AI, cung cấp một giải pháp mạnh mẽ và linh hoạt để quản lý sự phức tạp của các tương tác AI agent. Khi AI tiếp tục phát triển và tích hợp nhiều hơn vào các ngành công nghiệp khác nhau, nhu cầu về các giải pháp kết nối AI an toàn, đáng tin cậy và có thể mở rộng sẽ chỉ tăng lên. Agent Gateway và Agent Mesh có vị trí tốt để đáp ứng nhu cầu này, cho phép các tổ chức khai thác toàn bộ tiềm năng của AI và thúc đẩy sự đổi mới trong toàn bộ hoạt động kinh doanh của họ.