隨著不同使用者群體對智能代理的需求日益多樣化，治理必須解決不同的優先順序。模型上下文協議（MCP），在開源協作和人工監督的支持下，為安全可靠的代理生態系統奠定了基礎。
智能代理（AI Agent）是由大型語言模型驅動的系統，能夠透過工具與外部世界互動，並代表用戶行事。Manus 的最近出現凸顯了市場對實際代理應用程式的期望。
Anthropic 於 2024 年 11 月宣佈的開源模型上下文協議（MCP）提供了一種技術解決方案，可增強通用代理的效率和安全性。MCP 透過標準化介面簡化了整合，提高了資料和工具存取效率。它還透過將模型與特定資料來源隔離並提高命令控制透明度來增強安全性。這種平衡的方法在確保受控授權的同時，優先考慮了用戶體驗。
雖然 MCP 為代理治理奠定了基礎，但它並不能解決所有挑戰。例如，它不會驗證工具選擇背後的理由或執行結果的準確性，也不會有效地解決代理應用程式生態系統內的競爭與協作。
通用代理在應用中面臨的挑戰
代理是一個配備記憶體、規劃、感知、工具調用和行動能力的系統，由廣泛的語言模型提供支援，透過工具與外部環境互動，代表用戶行事。代理需要感知和理解用戶的意圖，透過記憶體模組獲取和儲存資訊，透過利用規劃模組制定和優化策略，調用工具模組執行特定任務，並透過行動模組實施計劃，從而實現自主完成任務的目標。
Manus 更像是一種通用代理，不同於面向工作流程的代理產品。
業界對代理（尤其是通用代理）的期望源於它們所解決的集體需求。在資本市場中，代理代表了業界預期的模型商業價值的閉環路徑，將人工智慧定價從基於token的計算轉變為基於效果的客製化服務定價，從而提高了盈利能力。在用戶方面，企業期望代理能夠以精準的自動化執行重複、標準化和明確定義的流程，而公眾則期望代理帶來「技術效益」，成為每個人的個人化、低門檻的「數位管家」。
然而，通用代理在應用中面臨兼容性、安全性和競爭性挑戰。在兼容性方面，模型需要在呼叫中與不同的工具和資料來源高效協作。在安全性方面，代理需要根據用戶指示清晰透明地執行任務，並在多方資料融合的情況下合理分配安全責任。在競爭方面，代理需要解決新業務生態系統中的競爭與合作關係。
因此，與 Manus 產品本身相比，MCP 協議使模型能夠與不同的工具和資料來源高效協作，並在多方資料融合的情況下合理分配安全責任，因此值得深入研究。
兼容性問題
人工智慧世界正在迅速發展，不斷湧現新的模型和工具。對於一個真正有用的通用代理來說，它需要能夠與各種資源無縫整合。這帶來了一個重大挑戰，因為每個工具或資料來源都可能有其獨特的介面和資料格式。如果沒有標準化的方法，開發人員需要為每個整合編寫客製化程式碼，這既耗時又效率低下。這種缺乏兼容性的情況可能會阻礙人工智慧代理的廣泛採用，因為用戶可能不願意投資於一種無法輕鬆與其現有系統配合使用的技術。
安全風險
人工智慧代理旨在代表用戶行事，這意味著它們通常可以存取敏感資料和系統。這引起了重大的安全問題，因為受損的代理可用於竊取資料、破壞營運甚至造成人身傷害。務必確保代理在設計時考慮到安全性，並且對其進行嚴格的測試和監控，以防止漏洞。此外，重要的是要建立明確的安全責任界限，尤其是在多方參與代理的開發和部署時。
競爭格局
隨著人工智慧代理變得越來越普遍，它們可能會顛覆現有的商業模式並創造新的競爭形式。例如，一個可以自動與供應商協商價格的代理可以為公司帶來顯著的競爭優勢。然而，這也可能導致競相降價，因為公司競相提供最低價格。務必考慮人工智慧代理對競爭格局的潛在影響，並制定策略以應對這種新環境。這包括解決資料所有權、智慧財產權以及潛在的反競爭行為等問題。
MCP：代理應用程式中兼容性和安全性的技術解決方案
2024 年 11 月，Anthropic 開源了 MCP（模型上下文協議）開放協議，允許系統向人工智慧模型提供上下文，並且可以在不同的整合場景中通用化。MCP 使用分層架構來解決代理應用程式中的標準化和安全問題。主機應用程式（例如 Manus）透過 MCP 客戶端同時連接到多個服務程式（MCP 伺服器），並且每個伺服器執行自己的職責，提供對資料來源或應用程式的標準化存取。
首先，MCP 透過標準共識解決了代理資料/工具呼叫中的兼容性問題。MCP 以統一的介面取代了零散的整合，人工智慧只需要理解並遵守該協議即可與所有符合規範的工具互動，從而大大減少了重複整合。其次，MCP 在安全性方面有三個考慮因素。首先，模型和特定資料來源在資料鏈路上隔離，兩者透過 MCP 伺服器協議進行互動。該模型不直接依賴於資料來源的內部細節，從而闡明了多方資料混合的來源。第二是透過通訊協議提高命令和控制鏈路的透明度和可稽核性，並解決用戶-模型資料互動的資訊不對稱和黑盒挑戰。第三是透過根據權限做出回應來確保授權鏈路的可控性，並確保用戶在使用工具/資料時對代理的控制。
MCP 透過分層架構建立標準化的介面和安全防護機制，實現了資料和工具呼叫中互操作性和安全性之間的平衡。在用戶價值層面，MCP 帶來了智能體之間以及更多工具甚至更多智能體之間更強大的協作和互動。在下一個階段，MCP 將專注於開發對遠端連線的支援。
用於增強兼容性的標準化介面
MCP 的關鍵功能之一是其使用標準化介面。這意味著人工智慧代理可以與不同的工具和資料來源互動，而無需為每個整合編寫客製化程式碼。相反，代理只需要理解 MCP 協議，該協議定義了一組通用的命令和資料格式。這大大簡化了整合過程，並減少了所需的開發工作量。它還使得在不同的工具和資料來源之間切換變得更容易，因為代理不需要每次都重新配置。
使用標準化介面還促進了不同人工智慧代理之間的互操作性。如果多個代理都支援 MCP 協議，它們可以輕鬆地相互通訊和共享資料。這可能會導致更複雜和精密的的人工智慧系統的開發，在這些系統中，多個代理協同工作以解決問題。
用於資料保護的穩健安全機制
安全性是 MCP 設計中的首要任務。該協議包括多種機制來保護資料並防止未經授權的存取。一個關鍵功能是模型與特定資料來源的隔離。這意味著代理無法直接存取底層資料，而是透過 MCP 伺服器協議與其互動。這增加了一層間接層，使得攻擊者更難以入侵資料。
MCP 還包括用於提高命令和控制鏈路的透明度和可稽核性的機制。這允許用戶確切地看到發送到代理的命令，並驗證代理是否按照他們的指示行事。這對於建立對人工智慧系統的信任非常重要，因為它允許用戶理解代理是如何做出決策的。
最後，MCP 提供了一種控制代理授權的機制。這允許用戶指定代理可以存取哪些工具和資料來源。這對於防止代理存取敏感資料或執行未經授權的操作非常重要。
MCP：為代理治理奠定基礎
MCP 為資料和工具呼叫提供兼容性和安全保證，為代理治理奠定基礎，但它無法解決治理中面臨的所有挑戰。
首先，在可信度方面，MCP 尚未形成調用資料來源和工具選擇的規範標準，也沒有評估和驗證執行結果。其次，MCP 無法暫時調整代理帶來的新型商業競爭合作關係。
總體而言，MCP 為用戶使用代理面臨的核心安全問題提供了初步的技術回應，並已成為代理治理的起點。隨著代理和其他人工智慧應用程式的普及，需要分散式方法來滿足不同用戶的差異化需求。治理的重點不僅僅是模型的安全性，還有滿足用戶需求的核心要求。MCP 協議已邁出了回應用戶需求並促進技術共同治理的第一步。也是在 MCP 的基礎上，代理實現了各種工具和資源的有效分工和協作。一週前，Google 開源了用於代理之間通訊的 Agent2Agent (A2A) 協議，以便在不同平台上構建的代理可以協商任務並進行安全協作，並促進多智能體生態的發展。
解決信任和可靠性問題
雖然 MCP 為代理治理提供了堅實的基礎，但它並未解決所有挑戰。一個需要進一步關注的關鍵領域是信任和可靠性問題。MCP 目前不包括任何用於驗證執行結果準確性或確保代理選擇適當的資料來源和工具的機制。這意味著用戶可能無法完全信任代理做出的決策，尤其是在高風險情況下。
為了解決這個問題，有必要為代理開發和部署制定新的標準和最佳實務。這可能包括形式驗證方法，可用於證明代理始終以可預測和安全的方式行事。它還可能包括使用可解釋的人工智慧技術，這可以幫助用戶理解代理是如何做出決策的。
應對新的競爭格局
MCP 未完全解決的另一個挑戰是代理對競爭格局的影響。隨著代理變得越來越普遍，它們可能會顛覆現有的商業模式並創造新的競爭形式。務必考慮代理對競爭格局的潛在影響，並制定策略以應對這種新環境。這包括解決資料所有權、智慧財產權以及潛在的反競爭行為等問題。
一種潛在的方法是制定專門針對人工智慧代理的新監管框架。這些框架可以解決資料隱私、演算法偏差以及市場操縱的可能性等問題。它們還可以包括促進競爭和防止壟斷的機制。
前進之路：協作與創新
MCP 的開發是代理治理領域向前邁出的重要一步。然而，重要的是要認識到這僅僅是開始。仍然有許多挑戰需要克服，並且需要研究人員、開發人員、決策者和用戶的共同努力，以確保人工智慧代理以安全和負責任的方式使用。
一個有希望的發展是最近發佈的 Google 的 Agent2Agent (A2A) 協議。該協議使在不同平台上構建的代理能夠相互通訊和協作。這可能會導致更複雜和精密的的人工智慧系統的開發，在這些系統中，多個代理協同工作以解決問題。它還有助於培養更具競爭力和創新性的人工智慧生態系統，因為開發人員能夠構建可以與其他代理無縫整合的代理。
隨著人工智慧技術的不斷發展，至關重要的是要保持領先地位，並開發新的治理機制來應對未來的挑戰。這需要對協作、創新以及適應不斷變化的人工智慧格局的意願做出承諾。