AI代理產業正經歷一個熟悉的發展階段。AI代理利用大型模型的通用能力，透過現有技術和工具自動化解決複雜的使用者任務。這使它們成為當今部署模型技術最有希望的途徑。
在過去的幾個月裡，AI代理產品呈現爆發式增長。像Manus這樣備受矚目的產品引起了主流關注，而來自OpenAI和Google的新模型也越來越「AI代理化」。至關重要的是，標準協議正迅速獲得關注。
Anthropic在去年年底發布了開源的MCP（模型通訊協定）。MCP旨在建立一個開放、標準化的規範，使大型語言模型能夠與各種外部數據源和工具（例如商業軟體、資料庫和程式碼儲存庫）無縫互動。在其發布後的幾個月內，OpenAI、Google、阿里巴巴和騰訊都表示支持並整合了它。在此之後，Google推出了A2A（代理到代理），旨在自動化AI代理之間的協作和工作流程。這進一步推動了蓬勃發展的AI代理領域。
本質上，這些協議解決了兩個主要挑戰：MCP促進代理與工具/服務提供商之間的連接，而A2A則實現代理之間的協作連接，以完成高度複雜的任務。
因此，MCP可以比作早期的統一介面，而A2A則類似於HTTP協定。
然而，在網際網路的歷史中，HTTP的出現之後，出現了一個對於網際網路真正繁榮至關重要的元素：疊加在協議之上的安全標準。
今天，MCP和A2A面臨著類似的困境。
‘當HTTP出現時，它後來遇到了重大的安全挑戰。網際網路經歷了這種演變，’ IIFAA（網際網路產業金融認證聯盟）可信任認證聯盟的技術主管Zixi，以及AI代理安全方面的專家解釋說。
這些挑戰可以以多種形式表現出來。目前，惡意行為者可以創建虛假的’天氣查詢’工具，並將它們註冊到MCP伺服器，暗中竊取使用者航班資訊。當使用者透過代理購買藥物時，代理A可能負責購買cefpodoxime，而代理B則購買酒精。由於缺乏跨平台風險識別能力，系統無法提供’危險組合’警告，就像現有的電子商務平台一樣。更關鍵的是，代理到代理的身份驗證和數據所有權仍然不明確。使用者是授權他們設備上的本地應用程式，還是將私有數據同步到雲端？
‘A2A在其官方文件中聲明，它僅保證頂層傳輸的安全性。它將確保身份和憑證的來源、數據隱私和意圖識別的責任留給各個公司。’
智慧代理的真正蓬勃發展需要解決這些問題。Zixi工作的IIFAA是第一個開始解決這個問題的組織。
‘在這種情況下，IIFAA致力於解決智慧代理未來將面臨的一系列問題，’Zixi說。’在A2A時代，我們也定義了一個類似的產品，稱為ASL（代理安全層），它可以建立在MCP協議之上，以確保代理在許可權、數據、隱私和其他方面的安全性。這種中間件產品也解決了A2A過渡到未來安全標準的挑戰。’
IIFAA智慧代理可信任互連工作組是第一個國內AI代理安全生態系統協作組織。它由中國信息通信研究院（CAICT）、螞蟻集團和二十多家其他科技公司和機構共同發起。
從ASL到可擴展性
‘AI代理的發展速度超出了我們的預期，無論是在技術上還是在生態系統對標準的接受程度上，’Zixi說。
IIFAA關於代理到代理通信的安全協議的概念早在去年11月就出現了，早於MCP的發布。IIFAA智慧代理可信任互連工作組於12月正式成立，與MCP的正式發布同時進行。
‘惡意行為者有時比防禦者更快地掌握新技術。我們不能等到問題出現才開始討論秩序。這就是這個工作組存在的必要性，’一位IIFAA成員在之前的演講中表示。共同建立安全和相互信任的行業規範對於長期的健康發展至關重要。
根據Zixi的說法，他們目前的第一階段重點是解決以下關鍵問題：
代理可信任身份：’我們的目標是建立一個基於權威機構和相互認可機制的代理認證系統。就像國際旅行需要護照和簽證一樣，這將使經過認證的代理能夠快速加入協作網路，並防止未經認證的代理擾亂協作秩序。’
意圖可信任共享：’智慧代理之間的協作依賴於意圖的真實性和準確性。因此，意圖可信任共享對於確保高效可靠的多代理協作至關重要。’
上下文保護機制：’當AI代理連接到多個MCP（多通道協議）伺服器時，所有工具描述資訊都會載入到同一個會話上下文中。惡意的MCP伺服器可能會利用這一點來注入惡意指令。上下文保護可以防止惡意干擾，維護系統安全，確保使用者意圖的完整性，並防止中毒攻擊。’
數據隱私保護：’在多代理協作中，數據共享可能導致隱私洩露。隱私保護對於防止濫用敏感資訊至關重要。’
代理記憶體可信任共享：’記憶體共享提高了多代理協作的效率。記憶體可信任共享確保數據一致性、真實性和安全性，防止篡改和洩露，提高協作效率和使用者信任。’
身份可信任流通：’使用者期望在AI原生應用程式中獲得無縫和流暢的服務體驗。因此，實現跨平台、非侵入式的身份識別是增強使用者體驗的關鍵。’
‘這些是我們的短期目標。接下來，我們將向整個行業發布ASL。這是一個軟體實現，而不是協議規範。它可以應用於MCP和A2A，以增強這兩個協議的企業級安全性。這是短期目標，’Zixi解釋說。
‘早期，我們不會在安全層指定任何東西。我們不會指定A2AS。相反，我們希望如果將來有人指定A2AS，我們的ASL可以成為一個軟體實現組件，就像SSL是HTTPS的軟體實現組件一樣。’
HTTPS類比：確保AI代理的未來
將其與HTTPS的歷史進行比較，安全性的保證使得支付等功能的廣泛應用成為可能，從而為更大規模的商業機會鋪平了道路。目前也正在上演類似的節奏。4月15日，支付寶與ModelScope社區合作，推出了’支付MCP伺服器’服務。這使AI開發人員可以使用自然語言無縫整合支付寶支付服務，從而促進AI代理中支付功能的快速部署。
逐一解決這些短期目標最終將形成一個安全的代理協作標準和環境。這個過程的關鍵是實現規模效應。國內快速發展的MCP’商店’已經開始行動。螞蟻集團的智慧代理平台百寶箱的’MCP專區’將整合IIFAA的安全解決方案。這個’MCP商店’目前支持各種MCP服務的部署和調用，包括支付寶、高德地圖和無影雲電腦，只需3分鐘即可快速創建連接到MCP服務的智慧代理。
Zixi認為，大型模型的通用能力有可能真正改變使用者體驗和互動模式。未來，目前調用App完成任務的方法可能會被一個超級閘道取代，該閘道依賴於隱藏在幕後的工具池，類似於MCP商店。這將變得更簡單，更了解使用者需求。商業化成為可能。
‘AGI的發展現在已經進入智慧代理階段。與聊天機器人和推理能力有限的AI相比，智慧代理終於擺脫了點對點的封閉階段，真正開啟了商業應用新篇章。’
IIFAA最近推出了ASL並宣布其開源發布。透過公開共享程式碼、標準和經驗，它旨在加速技術創新和迭代，敦促行業企業和開發人員廣泛參與，並促進行業內技術的標準化。開源計畫將採用最寬鬆的Apache 2.0許可證，並提供程式碼庫設計文件安全實踐供外部使用。全球開發人員可以在Github社區內參與共同建設。
AI代理開發中安全性的必要性
AI代理的興起代表了我們與技術互動方式的範式轉變。我們不再局限於離散的應用程式，而是正朝著一個智慧代理可以無縫編排多種工具和服務以實現我們的目標的世界發展。然而，這種願景取決於解決伴隨如此強大技術而來的固有安全風險。正如網際網路需要HTTPS來促進安全的電子商務和其他敏感交易一樣，AI代理需要強大的安全標準來培養信任並實現廣泛採用。
當前AI代理開發的格局以快速創新和實驗為特徵。新的模型、協議和應用程式正以前所未有的速度湧現。雖然這種活力無疑令人興奮，但它也帶來了一個挑戰：安全問題往往退居速度和功能之後。這可能導致惡意行為者可以利用的漏洞，從而可能損害使用者數據、擾亂服務並破壞對整個生態系統的信任。
與網際網路早期的類比尤其恰當。在缺乏廣泛安全措施的情況下，網際網路充斥著詐騙、欺詐和其他惡意活動。這阻礙了它的發展，並阻止它充分發揮其潛力。只有隨著HTTPS和其他安全協議的出現，網際網路才成為一個安全可靠的電子商務、網上銀行和其他敏感交易平台。
同樣，AI代理需要堅固的安全基礎才能實現其轉型潛力。如果沒有這樣的基礎，它們可能會成為新型網路犯罪和線上剝削的溫床。這可能會扼殺創新、侵蝕使用者信任，並最終阻止AI代理成為許多人設想的無處不在且有益的技術。
應對安全挑戰
AI代理面臨的安全挑戰是多方面的，需要採取全面的方法。一些主要挑戰包括：
- 身份驗證和授權：確保只有授權的代理才能訪問敏感數據和資源。這需要強大的身份驗證機制和細化的訪問控制。
- 數據隱私：保護使用者數據免受未經授權的訪問、使用或披露。這需要實施隱私保護技術，例如匿名化、加密和差分隱私。
- 意圖驗證：驗證代理的意圖是否與使用者的目標一致，並且沒有被惡意行為者操縱。這需要開發複雜的意圖識別和驗證算法。
- 上下文安全：保護代理免受利用周圍環境漏洞的惡意攻擊。這需要在系統的所有層（從硬體到軟體）實施強大的安全措施。
- 代理到代理安全：確保代理可以彼此安全地通信和協作。這需要開發安全的通信協議和信任機制。
IIFAA的ASL是朝著正確方向邁出的有希望的一步。透過提供增強MCP和A2A安全性的軟體實現，ASL可以幫助解決其中一些挑戰。但是，需要做更多的工作來為AI代理創建一個全面的安全框架。
前進的道路：協作與標準化
安全AI代理的開發需要研究人員、開發人員、行業利益相關者和政策制定者的協作努力。需要採取的關鍵步驟包括：
- 開發開放標準：建立AI代理安全的開放標準對於確保互操作性和促進創新至關重要。
- 分享最佳實踐：分享安全AI代理開發的最佳實踐可以幫助防止常見漏洞並促進安全文化。
- 投資研究：投資AI代理安全研究對於開發新技術和技術以應對新興威脅至關重要。
- 促進教育和意識：促進關於AI代理安全的教育和意識可以幫助提高安全標準，並鼓勵負責任的開發。
- 建立監管框架：建立AI代理安全的監管框架可以幫助確保優先考慮安全性並保護使用者。
透過共同努力，我們可以創造一個AI代理不僅強大且有益，而且安全且值得信賴的未來。這需要共同努力解決擺在我們面前的安全挑戰，並為AI代理生態系統建立堅固的安全基礎。只有這樣，我們才能釋放AI代理的全部潛力，並創建一項真正具有變革意義的技術。像IIFAA這樣的組織為帶頭開展這項倡議做出的努力值得讚揚，但廣泛採用和遵守安全標準對於AI代理的安全和繁榮發展至關重要。