AI Agent行业目前正经历着一个熟悉的叙事。AI Agent利用大型模型的通用能力，使用现有技术和工具自动解决复杂的用户任务。这使它们成为当今部署模型技术最有希望的途径。
过去几个月，AI Agent产品呈爆炸式增长。像Manus这样的备受瞩目的产品引起了主流关注，来自OpenAI和Google的新模型也越来越’AI Agent化’。至关重要的是，标准协议正在迅速获得关注。
Anthropic在去年年底发布了MCP（模型通信协议）作为开源协议。MCP旨在建立一个开放的标准化规范，使大型语言模型能够与各种外部数据源和工具（如业务软件、数据库和代码存储库）无缝交互。在发布后的几个月内，OpenAI、Google、阿里巴巴和腾讯都表示支持并集成了它。在此之后，Google推出了A2A（Agent-to-Agent），旨在实现AI Agent之间协作和工作流程的自动化。这进一步推动了蓬勃发展的AI Agent领域。
本质上，这些协议解决了两个关键挑战：MCP促进了Agent与工具/服务提供商之间的连接，而A2A则实现了Agent之间的协作连接，以完成高度复杂的任务。
因此，MCP可以比作早期的统一接口，而A2A类似于HTTP协议。
然而，在互联网的历史中，HTTP的出现之后，出现了一个关键要素，这是互联网真正繁荣所必需的： 在协议之上分层的安全标准。
今天，MCP和A2A面临着类似的困境。
‘当HTTP出现时，它后来遇到了重大的安全挑战。互联网经历了这种演变，’IIFAA（互联网产业金融认证联盟）可信认证联盟的技术负责人，AI Agent安全专家Zixi解释说。
这些挑战可以以各种形式表现出来。目前，恶意行为者可以创建虚假的’天气查询’工具，并在MCP服务器上注册它们，秘密窃取后台的用户航班信息。当用户通过Agent购买药物时，Agent A可能负责购买头孢泊肟，而Agent B购买酒精。由于缺乏跨平台风险识别能力，系统无法提供’危险组合’警告，就像现有的电子商务平台一样。更重要的是，Agent到Agent的身份验证和数据所有权仍然不明确。用户是在授权他们设备上的本地应用程序，还是在将私人数据同步到云端？
‘A2A在其官方文档中声明，它只保证顶层传输的安全性。它将确保身份和凭据的来源、数据隐私和意图识别的责任留给各个公司。’
智能Agent的真正蓬勃发展需要解决这些问题。Zixi所在的IIFAA是第一个开始解决这个问题的组织。
‘在这种背景下，IIFAA致力于解决智能Agent未来将面临的一系列问题，’Zixi说。’在A2A时代，我们还定义了一个类似的产品，称为ASL（Agent安全层），它可以建立在MCP协议之上，以确保Agent在权限、数据、隐私和其他方面的安全。这种中间件产品也解决了A2A过渡到未来安全标准的挑战。’
IIFAA智能Agent可信互联工作组是国内首个AI Agent安全生态系统协作组织。它由中国信息通信研究院（CAICT）、蚂蚁集团和二十多家其他技术公司和机构联合发起。
从ASL到可扩展性
‘AI Agent的发展速度比我们预期的要快，无论是在技术上还是在生态系统对标准的接受程度上，’Zixi说。
IIFAA关于Agent到Agent通信的安全协议的概念早在去年11月就出现了，早于MCP的发布。IIFAA智能Agent可信互联工作组于12月正式成立，与MCP的正式发布同时进行。
‘恶意行为者有时比防御者更快地掌握新技术。我们不能等到问题出现才开始讨论秩序。这就是这个工作组存在的必要性，’一位IIFAA成员在之前的演示中表示。共同构建安全和互信的行业规范对于长期的健康发展至关重要。
据Zixi称，他们目前的重点是解决第一阶段的以下关键问题：
Agent可信身份：’我们的目标是建立一个基于权威机构和互认机制的Agent认证体系。就像出国旅行需要护照和签证一样，这将允许经过认证的Agent快速加入协作网络，并防止未经认证的Agent扰乱协作秩序。’
意图可信共享：’智能Agent之间的协作依赖于意图的真实性和准确性。因此，意图可信共享对于确保高效可靠的多Agent协作至关重要。’
上下文保护机制：’当AI Agent连接到多个MCP（多通道协议）服务器时，所有工具描述信息都会加载到同一会话上下文中。恶意的MCP服务器可能会利用这一点来注入恶意指令。上下文保护可以防止恶意干扰，维护系统安全，确保用户意图的完整性，并防止中毒攻击。’
数据隐私保护：’在多Agent协作中，数据共享可能导致隐私泄露。隐私保护对于防止滥用敏感信息至关重要。’
Agent记忆可信共享：’记忆共享提高了多Agent协作的效率。记忆可信共享确保数据的一致性、真实性和安全性，防止篡改和泄露，增强协作效率和用户信任。’
身份可信流转：’用户希望在AI原生应用程序中获得无缝流畅的服务体验。因此，实现跨平台、非侵入式的身份识别是增强用户体验的关键。’
‘这些是我们的短期目标。接下来，我们将向整个行业发布ASL。这是一个软件实现，而不是协议规范。它可以应用于MCP和A2A，以增强这两个协议的企业级安全性。这是短期目标，’Zixi解释说。
‘早期，我们不会在安全层指定任何东西。我们不会指定A2AS。相反，我们希望如果将来有人指定A2AS，我们的ASL可以成为一个软件实现组件，就像SSL是HTTPS的软件实现组件一样。’
HTTPS类比：确保AI Agent的未来
将HTTPS的历史进行类比，安全性的保证使得支付等功能的广泛采用成为可能，从而为更大规模的商业机会铺平了道路。类似的节奏目前正在上演。4月15日，支付宝与ModelScope社区合作推出了’支付MCP服务器’服务。这允许AI开发者使用自然语言无缝集成支付宝支付服务，从而促进AI Agent中支付功能的快速部署。
逐一解决这些短期目标最终将形成一个安全的Agent协作标准和环境。这个过程的关键是实现规模效应。快速发展的国内MCP’商店’已经开始行动。蚂蚁集团的智能Agent平台百宝箱的’MCP专区’将集成IIFAA的安全解决方案。这个’MCP商店’目前支持各种MCP服务的部署和调用，包括支付宝、高德地图和无影，只需3分钟即可最快地创建一个连接到MCP服务的智能Agent。
Zixi认为，大型模型的通用能力有可能真正改变用户体验和互动模式。未来，当前调用App来完成任务的方法可能会被一个超级网关所取代，该网关依赖于隐藏在幕后的工具池，类似于MCP商店。这将变得更简单，更了解用户需求。商业化成为可能。
‘AGI的发展现在已经进入智能Agent阶段。与聊天机器人和推理能力有限的AI相比，智能Agent终于打破了点对点封闭阶段，真正开启了商业应用的新篇章。’
IIFAA最近推出了ASL并宣布其开源发布。通过公开分享代码、标准和经验，旨在加速技术创新和迭代，敦促行业企业和开发者广泛参与，并推动行业内技术的标准化。开源计划将采用最宽松的Apache 2.0许可证，并将代码库设计文档安全实践对外公开。全球开发者可以在Github社区内参与共建。
AI Agent开发中安全的重要性
AI Agent的兴起代表了我们与技术互动方式的范式转变。我们不再局限于离散的应用程序，而是朝着一个智能Agent可以无缝编排众多工具和服务以实现我们目标的世界前进。然而，这个愿景取决于解决伴随这种强大技术而来的固有安全风险。正如互联网需要HTTPS来促进安全电子商务和其他敏感交易一样，AI Agent需要强大的安全标准来培养信任并实现广泛采用。
AI Agent开发的当前格局的特点是快速创新和实验。新的模型、协议和应用程序正以前所未有的速度涌现。虽然这种活力无疑令人兴奋，但它也提出了一个挑战：安全问题通常退居速度和功能之后。这可能导致恶意行为者可以利用的漏洞，从而可能危及用户数据、中断服务并破坏对整个生态系统的信任。
与互联网早期的类比尤其贴切。在缺乏广泛安全措施的情况下，互联网充斥着诈骗、欺诈和其他恶意活动。这阻碍了它的增长，并阻止了它充分发挥其潜力。只有随着HTTPS和其他安全协议的出现，互联网才成为电子商务、网上银行和其他敏感交易的安全可靠平台。
同样，AI Agent需要强大的安全基础才能实现其变革潜力。如果没有这样的基础，它们可能会成为新型网络犯罪和在线剥削的滋生地。这可能会扼杀创新，削弱用户信任，并最终阻止AI Agent成为许多人设想的无处不在且有益的技术。
应对安全挑战
AI Agent面临的安全挑战是多方面的，需要采取全面的方法。一些关键挑战包括：
- 身份验证和授权：确保只有授权的Agent才能访问敏感数据和资源。这需要强大的身份验证机制和细粒度的访问控制。
- 数据隐私：保护用户数据免遭未经授权的访问、使用或披露。这需要实施隐私保护技术，如匿名化、加密和差分隐私。
- 意图验证：验证Agent的意图是否与用户的目标一致，以及它是否没有被恶意行为者操纵。这需要开发复杂的意图识别和验证算法。
- 上下文安全：保护Agent免受利用周围环境中漏洞的恶意攻击。这需要在系统的所有层（从硬件到软件）实施强大的安全措施。
- Agent到Agent安全：确保Agent可以相互安全地通信和协作。这需要开发安全的通信协议和信任机制。
IIFAA的ASL是朝着正确方向迈出的有希望的一步。通过提供增强MCP和A2A安全性的软件实现，ASL可以帮助解决其中的一些挑战。然而，还需要做更多的工作来为AI Agent创建一个全面的安全框架。
前进的道路：协作和标准化
安全AI Agent的开发需要研究人员、开发人员、行业利益相关者和政策制定者的共同努力。需要采取的一些关键步骤包括：
- 制定开放标准：建立AI Agent安全的开放标准对于确保互操作性和促进创新至关重要。
- 分享最佳实践：分享安全AI Agent开发的最佳实践可以帮助预防常见漏洞并促进安全文化。
- 投资研究：投资于AI Agent安全的研究对于开发新技术和技术来应对新兴威胁至关重要。
- 促进教育和意识：促进关于AI Agent安全的教育和意识可以帮助提高安全门槛并鼓励负责任的开发。
- 建立监管框架：建立AI Agent安全的监管框架可以帮助确保安全得到优先考虑，并且用户受到保护。
通过共同努力，我们可以创造一个AI Agent不仅强大而有益，而且安全可靠的未来。这将需要共同努力来应对未来的安全挑战，并为AI Agent生态系统建立强大的安全基础。只有这样，我们才能释放AI Agent的全部潜力，并创造一种真正具有变革意义的技术。像IIFAA这样的组织在这项倡议中发挥的作用值得称赞，但广泛采用和遵守安全标准对于AI Agent的安全和繁荣发展至关重要。