隨著對智慧代理 (Intelligent Agent) 的需求在不同使用者群體中日益多樣化，有效的治理必須解決每個社群的獨特疑慮。透過利用諸如模型上下文協定 (Model Context Protocol, MCP) 等技術保障措施、促進開源協作以及實施人為迴路監督，我們可以確保代理應用程式的可信賴性和可控性，同時促進一個健康的生態系統。
智慧代理，或稱 AI 代理 (AI Agent)，是由大型語言模型 (Large Language Models, LLMs) 驅動的系統，它透過工具與外部環境互動，代表使用者行事。
在 2024 年 11 月，Anthropic 推出了模型上下文協定 (MCP)，這是一個開源協定，提供了一種技術解決方案，以提高通用代理的效率和安全性。
雖然 MCP 為代理治理奠定了基礎，但它並未解決所有挑戰。
通用代理面臨的挑戰
代理是利用大型語言模型 (LLMs) 透過各種工具與外部世界互動的系統，代表使用者並執行動作。這些代理具有記憶、規劃、感知、工具調用和行動能力。
例如，Manus 定位為通用代理，與面向工作流程的代理產品不同。
業界對代理，尤其是通用代理的期望，源於它們滿足各種利害關係人需求的能力。
然而，通用代理面臨三個主要挑戰：相容性、安全性和競爭。
MCP 協定實現了不同模型之間跨不同工具和資料來源的高效協作，並確保了多方資料聚合中安全責任的分配，因此比 Manus 產品本身更值得深入研究。
MCP：相容性與安全性的技術解決方案
2024 年 11 月，Anthropic 開源了模型上下文協定 (MCP)，允許系統在不同的整合情境中以標準化且安全的方式向 AI 模型提供上下文資訊。
MCP 採用分層架構來解決代理應用程式中的標準化和安全性問題。 主機應用程式 (Host Application)，例如 Manus，透過 MCP 客戶端同時連接到多個服務程式 (MCP Server)。每個伺服器專注於提供對特定資料來源或應用程式的標準化存取。
首先，MCP 透過標準共識解決了代理資料/工具調用中的相容性問題。
其次，MCP 有三個安全考量。首先，資料連結隔離了模型和特定的資料來源，兩者透過 MCP 伺服器協定進行互動。該模型不直接依賴資料來源的內部細節，從而明確了多方資料混合的來源。
第二，通訊協定增強了命令控制連結的透明度和可稽核性，解決了使用者-模型資料互動的資訊不對稱和黑箱挑戰。
第三，授權連結透過根據權限響應來保護，確保使用者對代理使用工具/資料的控制。
MCP 透過分層架構構建了標準化的介面和安全保護機制，在資料和工具調用中實現了互通性和安全性之間的平衡。
MCP 作為代理治理的基礎
MCP 為資料和工具調用提供了相容性和安全性，為代理治理奠定了基礎，但它並未解決治理中面臨的所有挑戰。
首先，在可信賴度方面，MCP 尚未形成對呼叫資料來源和工具的選擇的規範標準，也尚未評估和驗證執行結果。
第二，MCP 無法暫時調整代理帶來的全新商業競爭合作關係。
總體而言，MCP 為使用者使用代理面臨的核心安全問題提供了初步的技術回應，並已成為代理治理的起點。
深入探討通用代理的挑戰
通用代理雖然前景廣闊，但遇到了一些需要仔細考量和創新解決方案的障礙。這些挑戰涵蓋了相容性、安全性和競爭，每一項都需要獨特的方法來確保這些代理的負責任和有效部署。
相容性難題
相容性挑戰源於代理必須互動的工具、資料來源和平台的多樣化生態系統。這些組件中的每一個都可能有其自己獨特的協定、格式和介面，從而創建一個複雜的依賴關係網路，這可能難以駕馭。
例如，旨在管理使用者日曆、電子郵件和社交媒體帳戶的代理必須能夠與這些服務中的每一個無縫整合，儘管它們具有不同的 API 和資料結構。這要求代理具有高度的適應性以及在不同格式和協定之間進行轉換的能力。
此外，相容性挑戰不僅僅是技術考量，還包括語義互通性。代理必須能夠理解不同上下文中資料和指令的含義，即使以不同的術語或格式表達。這需要先進的自然語言處理 (Natural Language Processing, NLP) 能力以及推理不同概念之間關係的能力。
為了應對相容性挑戰，人們提出了幾種方法，包括開發標準化的協定和介面、使用本體和知識圖譜來表示語義關係，以及採用機器學習技術來自動適應新的資料來源和工具。
安全防護
部署代理時，安全性至關重要，因為它們通常有權存取敏感資料並能夠代表使用者執行動作。安全挑戰涵蓋了一系列威脅，包括未經授權的存取、資料外洩和惡意操縱。
代理必須從一開始就以安全性為核心進行設計，整合驗證使用者身分、授權存取資源以及保護資料免受未經授權的洩露或修改的機制。這需要使用強大的加密、存取控制策略和入侵偵測系統。
此外，代理必須能夠抵禦試圖利用其程式碼或邏輯中的漏洞的攻擊。這需要嚴格的測試和驗證，以及安全更新和修補程式的實施。
此外，安全挑戰還擴展到代理組件的供應鏈，因為代理通常依賴第三方函式庫和服務。必須確保這些組件安全且值得信賴，並且它們未受到惡意行為者的損害。
為了應對安全挑戰，人們提出了幾種方法，包括使用安全的程式碼編寫實踐、實施安全審計和滲透測試，以及採用安全標準和認證。
競爭合作
代理的競爭格局正在迅速發展，眾多公司和組織競相開發和部署最有能力和最有效的代理。這種競爭可以帶來創新和改進，但它也可能帶來與公平、透明度和問責制相關的挑戰。
一個挑戰是代理可能從事不公平或欺騙性行為的可能性，例如價格歧視、資料操縱或錯誤資訊的傳播。這需要實施道德準則和監管框架，以確保代理以負責任和透明的方式使用。
另一個挑戰是代理可能加劇現有不平等現象的可能性，例如招聘或貸款決策中的偏見。這需要仔細關注代理的設計和培訓，以及公平性指標和稽核程序的實施。
此外，競爭格局可能會帶來與資料隱私和所有權相關的挑戰。代理通常收集和處理大量資料，引起人們對如何使用和保護這些資料的擔憂。必須建立明確的資料隱私和所有權指南，並確保使用者可以控制其資料。
為了應對競爭挑戰，人們提出了幾種方法，包括制定道德準則、實施監管框架以及促進開源協作。
模型上下文協定：更深入的探討
模型上下文協定 (MCP) 代表了在解決代理應用程式中的相容性和安全挑戰方面的一個重大進展。透過為代理提供一種標準化且安全的方式來與不同的資料來源和工具互動，MCP 能夠開發更強大、更可靠和更值得信賴的代理。
用於標準化和安全性的分層架構
MCP 採用分層架構，將代理與底層資料來源和工具分離，從而創建清晰的職責分離。此架構包含三個主要層：
主機應用程式： 這是代理本身，負責協調整體任務並與使用者互動。
MCP 客戶端： 此組件提供了一個標準化的介面，供主機應用程式與 MCP 伺服器進行通訊。
MCP 伺服器： 這些組件提供對特定資料來源或工具的存取，在標準化的 MCP 協定和底層資源的本機協定之間進行轉換。
這種分層架構提供了多個優點，包括：
改進的相容性： 透過使用標準化的協定，MCP 允許代理與不同的資料來源和工具互動，而無需擔心其特定介面的細節。
增強的安全性： 透過將代理與底層資源隔離，MCP 降低了未經授權的存取和資料外洩的風險。
更高的靈活性： 分層架構允許輕鬆添加和移除資料來源和工具，從而更容易適應不斷變化的需求。
透過標準共識解決相容性問題
MCP 透過提供標準化的協定供代理存取和操作來自不同來源的資料來解決相容性挑戰。此協定定義了一組用於讀取、寫入和更新資料的通用操作，以及用於表示資料的通用格式。
透過遵守此協定，代理可以與不同的資料來源互動，而無需擔心其特定格式或介面的細節。這簡化了開發過程並降低了相容性問題的風險。
MCP 中的安全考量
MCP 包含多項安全考量，以保護資料並防止未經授權的存取。這些包括：
資料隔離： MCP 架構將代理與底層資料來源隔離，防止其直接存取敏感資訊。
命令控制透明度： MCP 使用的通訊協定提供透明度和可稽核性，允許使用者追蹤和驗證代理執行的動作。
基於權限的授權： MCP 執行嚴格的存取控制策略，確保代理僅有權存取其授權使用的資料和工具。
平衡互通性和安全性
MCP 在互通性和安全性之間取得了平衡，它提供了一個標準化的介面來存取資料和工具，同時也實施安全措施來保護資料並防止未經授權的存取。這種平衡對於確保代理可以安全且負責任的方式使用至關重要。
超越 MCP：代理治理的未來
雖然 MCP 代表了一個重大的進步，但它並非解決代理治理挑戰的完整解決方案。有幾個領域需要進一步關注，包括：
可信賴度和資料驗證
MCP 目前未提供驗證資料來源的準確性和可靠性的機制，也未提供評估代理產生的結果品質的方法。這是一個需要進一步發展的領域，因為使用者需要能夠信任代理提供的資訊和操作。
駕馭新的商業格局
代理的興起正在創造新的商業關係和商業模式，這可能難以駕馭。MCP 並未解決這些問題，需要進一步考量以確保代理生態系統公平且具有競爭力。
代理治理的不斷演進
MCP 代表了代理治理的關鍵起點，為解決相容性和安全問題提供了技術基礎。但是，需要持續努力來解決剩餘的挑戰，並確保代理以負責任且有益的方式使用。隨著該領域的不斷發展，研究人員、開發人員和決策者之間的持續合作對於塑造代理治理的未來至關重要。