随着对智能代理的需求在用户群体中日益多样化，有效的治理必须解决每个社区的独特问题。通过利用诸如模型上下文协议 (MCP) 等技术保障措施、促进开源协作以及实施人机回路监督，我们可以确保代理应用程序的可信赖性和可控性，同时促进一个健康的生态系统。
智能代理，或 AI 代理，是由大型语言模型 (LLM) 驱动的系统，它通过工具与外部环境交互，代表用户行事。
2024 年 11 月，Anthropic 推出了模型上下文协议 (MCP)，这是一种开源协议，提供了一种技术解决方案，可以提高通用代理的效率和安全性。
虽然 MCP 为代理治理奠定了基础，但它并没有解决所有挑战。
通用代理面临的挑战
代理是利用大型语言模型通过各种工具与外部世界交互的系统，代表用户并执行操作。这些代理具有记忆、计划、感知、工具调用和行动能力。
例如，Manus 被定位为通用代理，与面向工作流程的代理产品不同。
业界对代理，尤其是通用代理的期望，源于它们满足各种利益相关者需求的能力。
然而，通用代理面临三个关键挑战：兼容性、安全性和竞争。
MCP 协议能够实现跨不同工具和数据源的模型之间高效协作，并确保多方数据聚合中的安全责任分配，它比 Manus 产品本身更值得深入研究。
MCP：兼容性和安全性的技术解决方案
2024 年 11 月，Anthropic 开源了模型上下文协议 (MCP)，允许系统以标准化和安全的方式跨不同的集成场景向 AI 模型提供上下文信息。
MCP 使用分层架构来解决代理应用程序中的标准化和安全问题。宿主应用程序（例如 Manus）通过 MCP 客户端同时连接到多个服务程序（MCP 服务器）。每个服务器专门提供对特定数据源或应用程序的标准化访问。
首先，MCP 通过标准共识解决了代理数据/工具调用中的兼容性问题。
其次，MCP 有三个安全考虑因素。首先，数据链路隔离了模型和特定的数据源，两者通过 MCP 服务器协议进行交互。模型不直接依赖于数据源的内部细节，从而明确了多方数据混合的来源。
其次，通信协议增强了命令控制链路的透明度和可审计性，解决了用户-模型数据交互的信息不对称和黑盒挑战。
第三，授权链路通过根据权限进行响应来确保安全，从而确保用户对代理使用工具/数据的控制。
MCP 通过分层架构构建了标准化接口和安全保护机制，实现了数据和工具调用中互操作性和安全性之间的平衡。
MCP 作为代理治理的基础
MCP 为数据和工具调用提供了兼容性和安全性，为代理治理奠定了基础，但它并没有解决治理中面临的所有挑战。
首先，在可信度方面，MCP 尚未形成对调用数据源和工具选择的规范标准，也没有对执行结果进行评估和验证。
其次，MCP 无法临时调整代理带来的新型商业竞争合作关系。
总的来说，MCP 为用户使用代理所面临的核心安全问题提供了初步的技术响应，并已成为代理治理的起点。
深入探讨通用代理的挑战
通用代理虽然前景广阔，但也面临着一些需要认真考虑和创新解决方案的障碍。这些挑战涵盖了兼容性、安全性和竞争，每项挑战都需要独特的处理方法，以确保这些代理的负责任和有效部署。
兼容性难题
兼容性挑战源于代理必须与之交互的工具、数据源和平台的多样化生态系统。这些组件中的每一个都可能有其自己独特的协议、格式和接口，从而创建一个复杂的依赖关系网络，难以驾驭。
例如，一个旨在管理用户日历、电子邮件和社交媒体帐户的代理必须能够无缝地与这些服务中的每一个集成，尽管它们具有不同的 API 和数据结构。这要求代理具有高度的适应性，并且能够翻译不同的格式和协议。
此外，兼容性挑战不仅仅是技术方面的考虑，还包括语义互操作性。代理必须能够理解不同上下文中数据和指令的含义，即使以不同的术语或格式表达。这需要先进的自然语言处理 (NLP) 能力，以及推理不同概念之间关系的能力。
为了解决兼容性挑战，已经提出了几种方法，包括开发标准化协议和接口，使用本体和知识图谱来表示语义关系，以及采用机器学习技术来自动适应新的数据源和工具。
安全保障
在部署代理时，安全性至关重要，因为它们通常可以访问敏感数据并能够代表用户执行操作。安全挑战涵盖了一系列威胁，包括未经授权的访问、数据泄露和恶意操纵。
代理的设计必须从一开始就考虑到安全性，包括用于验证用户身份、授权访问资源以及保护数据免受未经授权的披露或修改的机制。这需要使用强大的加密、访问控制策略和入侵检测系统。
此外，代理必须能够抵御试图利用其代码或逻辑中的漏洞的攻击。这需要严格的测试和验证，以及安全更新和补丁的实施。
此外，安全挑战还延伸到代理组件的供应链，因为代理通常依赖于第三方库和服务。必须确保这些组件是安全和值得信赖的，并且没有受到恶意行为者的侵害。
为了解决安全挑战，已经提出了几种方法，包括使用安全编码实践、实施安全审计和渗透测试，以及采用安全标准和认证。
竞争合作
代理的竞争格局正在迅速发展，众多公司和组织竞相开发和部署最有能力和最有效的代理。这种竞争可以带来创新和改进，但也可能带来与公平、透明度和问责制相关的挑战。
一个挑战是代理有可能从事不公平或欺骗性的行为，例如价格歧视、数据操纵或虚假信息的传播。这需要实施道德准则和监管框架，以确保以负责任和透明的方式使用代理。
另一个挑战是代理有可能加剧现有的不平等，例如招聘或贷款决策中的偏见。这需要仔细关注代理的设计和培训，以及公平指标和审计程序的实施。
此外，竞争格局可能会带来与数据隐私和所有权相关的挑战。代理通常收集和处理大量数据，从而引发有关如何使用和保护这些数据的担忧。必须建立明确的数据隐私和所有权指南，并确保用户可以控制其数据。
为了应对竞争挑战，已经提出了几种方法，包括制定道德准则、实施监管框架以及促进开源协作。
模型上下文协议：更深入的探讨
模型上下文协议 (MCP) 代表着在解决代理应用程序中的兼容性和安全性挑战方面向前迈出的一大步。通过为代理提供一种标准化和安全的方式来与不同的数据源和工具交互，MCP 使开发更强大、更可靠和更值得信赖的代理成为可能。
用于标准化和安全性的分层架构
MCP 采用分层架构，将代理与底层数据源和工具分开，从而创建清晰的关注点分离。此架构包含三个主要层：
宿主应用程序： 这是代理本身，负责协调总体任务并与用户交互。
MCP 客户端： 此组件为宿主应用程序提供了一个标准化接口，用于与 MCP 服务器通信。
MCP 服务器： 这些组件提供对特定数据源或工具的访问，在标准化的 MCP 协议与底层资源的本机协议之间进行转换。
这种分层架构提供了几个好处，包括：
改进的兼容性： 通过使用标准化协议，MCP 允许代理与不同的数据源和工具交互，而无需担心其特定接口的详细信息。
增强的安全性： 通过将代理与底层资源隔离，MCP 降低了未经授权的访问和数据泄露的风险。
更高的灵活性： 分层架构允许轻松添加和删除数据源和工具，从而更容易适应不断变化的需求。
通过标准共识解决兼容性问题
MCP 通过提供标准化协议供代理访问和操作来自不同来源的数据来解决兼容性挑战。此协议定义了一组用于读取、写入和更新数据的通用操作，以及一种表示数据的通用格式。
通过遵守此协议，代理可以与不同的数据源交互，而无需担心其特定格式或接口的详细信息。这简化了开发过程并降低了兼容性问题的风险。
MCP 中的安全考虑因素
MCP 包含多个安全考虑因素，以保护数据并防止未经授权的访问。这些包括：
数据隔离： MCP 架构将代理与底层数据源隔离，从而防止其直接访问敏感信息。
命令控制透明度： MCP 使用的通信协议提供透明度和可审计性，允许用户跟踪和验证代理执行的操作。
基于权限的授权： MCP 强制执行严格的访问控制策略，确保代理只能访问它被授权使用的数据和工具。
平衡互操作性和安全性
MCP 通过提供用于访问数据和工具的标准化接口，同时实施安全措施来保护数据并防止未经授权的访问，从而在互操作性和安全性之间取得了平衡。这种平衡对于确保代理能够以安全和负责任的方式使用至关重要。
超越 MCP：代理治理的未来
虽然 MCP 代表着向前迈出的一大步，但它并不是解决代理治理挑战的完整解决方案。有几个领域需要进一步关注，包括：
可信赖性和数据验证
MCP 目前没有提供验证数据源的准确性和可靠性的机制，也没有提供评估代理产生的结果质量的方法。这是一个需要进一步开发的领域，因为用户需要能够信任代理提供的信息和操作。
驾驭新的商业格局
代理的兴起正在创造新的商业关系和商业模式，这些关系和模式可能难以驾驭。MCP 没有解决这些问题，需要进一步考虑以确保代理生态系统是公平和具有竞争力的。
代理治理的持续演进
MCP 代表了代理治理的关键起点，为解决兼容性和安全问题提供了技术基础。然而，需要不断努力来解决剩余的挑战，并确保以负责任和有益的方式使用代理。随着该领域的发展，研究人员、开发人员和政策制定者之间的持续合作对于塑造代理治理的未来至关重要。