Alors que la demande d’agents intelligents se diversifie parmi les groupes d’utilisateurs, une gouvernance efficace doit répondre aux préoccupations uniques de chaque communauté. En tirant parti des protections technologiques telles que le Model Context Protocol (MCP), en favorisant la collaboration open source et en mettant en œuvre une surveillance humaine, nous pouvons assurer la fiabilité et la contrôlabilité des applications d’agents tout en promouvant un écosystème sain.
Un agent intelligent, ou agent IA, est un système alimenté par de grands modèles linguistiques (LLM) qui interagit avec l’environnement externe par le biais d’outils, agissant au nom de l’utilisateur.
En novembre 2024, Anthropic a introduit le Model Context Protocol (MCP), un protocole open source qui offre une solution technique pour améliorer l’efficacité et la sécurité des agents à usage général.
Bien que le MCP jette les bases de la gouvernance des agents, il ne résout pas tous les défis.
Défis rencontrés par les agents à usage général
Les agents sont des systèmes utilisant de grands modèles de langage pour interagir avec le monde extérieur par le biais de divers outils, représentant les utilisateurs et exécutant des actions. Ces agents possèdent des capacités de mémoire, de planification, de perception, d’invocation d’outils et d’action.
Manus, par exemple, est positionné comme un agent à usage général, distinct des produits d’agents orientés workflow.
L’attente de l’industrie pour les agents, en particulier ceux à usage général, découle de leur capacité à satisfaire les besoins de diverses parties prenantes.
Cependant, les agents à usage général sont confrontés à trois défis clés : compatibilité, sécurité et concurrence.
Le protocole MCP, qui permet une collaboration efficace entre les modèles à travers différents outils et sources de données, et assure une allocation sécurisée des responsabilités dans l’agrégation de données multipartite, mérite plus d’être étudié en profondeur que le produit Manus lui-même.
MCP : Une solution technique pour la compatibilité et la sécurité
En novembre 2024, Anthropic a mis en open source le Model Context Protocol (MCP), permettant aux systèmes de fournir des informations contextuelles aux modèles d’IA de manière standardisée et sécurisée dans différents scénarios d’intégration.
MCP utilise une architecture en couches pour résoudre les problèmes de standardisation et de sécurité dans les applications Agent. Une application hôte (telle que Manus) se connecte simultanément à plusieurs programmes de service (serveurs MCP) via un client MCP. Chaque serveur est spécialisé dans la fourniture d’un accès standardisé à une source de données ou à une application spécifique.
Premièrement, MCP résout le problème de compatibilité dans l’invocation de données/outils Agent grâce à un consensus standard.
Deuxièmement, MCP a trois considérations de sécurité. Tout d’abord, la liaison de données isole le modèle et la source de données spécifique, et les deux interagissent via le protocole MCP Server. Le modèle ne dépend pas directement des détails internes de la source de données, clarifiant la source du mélange de données multipartite.
Deuxièmement, le protocole de communication améliore la transparence et l’auditabilité de la liaison de contrôle de commande, résolvant les défis d’asymétrie d’information et de boîte noire de l’interaction données utilisateur-modèle.
Troisièmement, la liaison d’autorisation est sécurisée en répondant en fonction des autorisations, garantissant le contrôle de l’utilisateur sur l’utilisation des outils/données par l’agent.
MCP construit une interface standardisée et un mécanisme de protection de la sécurité grâce à une architecture en couches, atteignant un équilibre entre l’interopérabilité et la sécurité dans l’invocation de données et d’outils.
MCP comme base pour la gouvernance des agents
MCP offre compatibilité et sécurité pour l’invocation de données et d’outils, jetant les bases de la gouvernance des agents, mais il ne résout pas tous les défis rencontrés en matière de gouvernance.
Premièrement, en termes de fiabilité, MCP n’a pas encore formé de normes normatives pour la sélection des sources de données et des outils appelés, ni n’a évalué et vérifié les résultats d’exécution.
Deuxièmement, MCP ne peut pas ajuster temporairement le nouveau type de relation de coopération commerciale compétitive induite par Agent.
Dans l’ensemble, MCP fournit une réponse technique initiale aux principales préoccupations de sécurité rencontrées par les utilisateurs utilisant Agent, et est devenu le point de départ de la gouvernance Agent.
Analyse approfondie des défis des agents à usage général
Les agents à usage général, bien que prometteurs, rencontrent plusieurs obstacles qui nécessitent un examen attentif et des solutions innovantes. Ces défis couvrent la compatibilité, la sécurité et la concurrence, chacun exigeant une approche unique pour assurer le déploiement responsable et efficace de ces agents.
Problèmes de compatibilité
Le défi de la compatibilité découle de l’écosystème diversifié d’outils, de sources de données et de plates-formes avec lesquels les agents doivent interagir. Chacun de ces composants peut avoir ses propres protocoles, formats et interfaces uniques, créant un réseau complexe de dépendances qu’il peut être difficile de gérer.
Par exemple, un agent conçu pour gérer le calendrier, les e-mails et les comptes de médias sociaux d’un utilisateur doit être capable de s’intégrer de manière transparente à chacun de ces services, malgré leurs API et structures de données disparates. Cela exige que l’agent possède un degré élevé d’adaptabilité et la capacité de traduire entre différents formats et protocoles.
De plus, le défi de la compatibilité s’étend au-delà des considérations techniques pour englober l’interopérabilité sémantique. Les agents doivent être capables de comprendre la signification des données et des instructions dans différents contextes, même lorsqu’elles sont exprimées en termes ou formats différents. Cela nécessite des capacités avancées de traitement du langage naturel (TLN) et la capacité de raisonner sur les relations entre différents concepts.
Pour relever le défi de la compatibilité, plusieurs approches ont été proposées, notamment le développement de protocoles et d’interfaces standardisés, l’utilisation d’ontologies et de graphes de connaissances pour représenter les relations sémantiques et l’adoption de techniques d’apprentissage automatique pour s’adapter automatiquement aux nouvelles sources de données et outils.
Mesures de protection de la sécurité
La sécurité est primordiale lors du déploiement d’agents, car ils ont souvent accès à des données sensibles et à la possibilité d’effectuer des actions au nom des utilisateurs. Le défi de la sécurité englobe une gamme de menaces, notamment l’accès non autorisé, les violations de données et la manipulation malveillante.
Les agents doivent être conçus avec la sécurité à l’esprit dès le départ, en intégrant des mécanismes pour authentifier les utilisateurs, autoriser l’accès aux ressources et protéger les données contre la divulgation ou la modification non autorisée. Cela nécessite l’utilisation d’un cryptage fort, de stratégies de contrôle d’accès et de systèmes de détection d’intrusion.
De plus, les agents doivent être résistants aux attaques qui tentent d’exploiter les vulnérabilités de leur code ou de leur logique. Cela nécessite des tests et une validation rigoureux, ainsi que la mise en œuvre de mises à jour et de correctifs de sécurité.
De plus, le défi de la sécurité s’étend à la chaîne d’approvisionnement des composants des agents, car les agents s’appuient souvent sur des bibliothèques et des services tiers. Il est essentiel de s’assurer que ces composants sont sécurisés et dignes de confiance et qu’ils ne sont pas compromis par des acteurs malveillants.
Pour relever le défi de la sécurité, plusieurs approches ont été proposées, notamment l’utilisation de pratiques de codage sécurisées, la mise en œuvre d’audits de sécurité et de tests d’intrusion et l’adoption de normes et de certifications de sécurité.
Coopération concurrentielle
Le paysage concurrentiel des agents évolue rapidement, avec de nombreuses entreprises et organisations qui s’efforcent de développer et de déployer les agents les plus performants et les plus efficaces. Cette concurrence peut conduire à l’innovation et à l’amélioration, mais elle peut également créer des défis liés à l’équité, à la transparence et à la responsabilité.
L’un des défis est le risque que les agents se livrent à des pratiques déloyales ou trompeuses, telles que la discrimination par les prix, la manipulation des données ou la diffusion de fausses informations. Cela nécessite la mise en œuvre de directives éthiques et de cadres réglementaires pour garantir que les agents sont utilisés de manière responsable et transparente.
Un autre défi est le risque que les agents exacerbent les inégalités existantes, telles que les biais dans les décisions d’embauche ou de prêt. Cela nécessite une attention particulière à la conception et à la formation des agents, ainsi qu’à la mise en œuvre de mesures d’équité et de procédures d’audit.
De plus, le paysage concurrentiel peut créer des défis liés à la confidentialité et à la propriété des données. Les agents collectent et traitent souvent de grandes quantités de données, ce qui soulève des inquiétudes quant à la manière dont ces données sont utilisées et protégées. Il est essentiel d’établir des directives claires pour la confidentialité et la propriété des données et de garantir que les utilisateurs ont le contrôle de leurs données.
Pour relever le défi de la concurrence, plusieurs approches ont été proposées, notamment l’élaboration de lignes directrices éthiques, la mise en œuvre de cadres réglementaires et la promotion de la collaboration open source.
Le protocole de contexte du modèle : une analyse plus approfondie
Le protocole de contexte du modèle (MCP) représente une avancée significative dans la résolution des défis de compatibilité et de sécurité dans les applications d’agents. En fournissant un moyen standardisé et sécurisé pour les agents d’interagir avec différentes sources de données et outils, MCP permet le développement d’agents plus robustes, fiables et dignes de confiance.
Une architecture en couches pour la standardisation et la sécurité
MCP utilise une architecture en couches qui sépare l’agent des sources de données et des outils sous-jacents, créant ainsi une séparation claire des préoccupations. Cette architecture se compose de trois couches principales :
L’application hôte : Il s’agit de l’agent lui-même, responsable de la coordination de la tâche globale et de l’interaction avec l’utilisateur.
Le client MCP : Ce composant fournit une interface standardisée permettant à l’application hôte de communiquer avec les serveurs MCP.
Les serveurs MCP : Ces composants permettent d’accéder à des sources de données ou à des outils spécifiques, en traduisant entre le protocole MCP standardisé et les protocoles natifs des ressources sous-jacentes.
Cette architecture en couches offre plusieurs avantages, notamment :
Compatibilité améliorée : En utilisant un protocole standardisé, MCP permet aux agents d’interagir avec différentes sources de données et outils sans avoir à se soucier des détails de leurs interfaces spécifiques.
Sécurité renforcée : En isolant l’agent des ressources sous-jacentes, MCP réduit le risque d’accès non autorisé et de violations de données.
Flexibilité accrue : L’architecture en couches permet d’ajouter et de supprimer facilement des sources de données et des outils, ce qui facilite l’adaptation aux exigences changeantes.
Résoudre les problèmes de compatibilité grâce au consensus standard
MCP relève le défi de la compatibilité en fournissant un protocole standardisé permettant aux agents d’accéder aux données et de les manipuler à partir de différentes sources. Ce protocole définit un ensemble commun d’opérations pour la lecture, l’écriture et la mise à jour des données, ainsi qu’un format commun pour la représentation des données.
En adhérant à ce protocole, les agents peuvent interagir avec différentes sources de données sans avoir à se soucier des détails de leurs formats ou interfaces spécifiques. Cela simplifie le processus de développement et réduit le risque de problèmes de compatibilité.
Considérations relatives à la sécurité dans MCP
MCP intègre plusieurs considérations de sécurité pour protéger les données et empêcher tout accès non autorisé. Ceux-ci inclus:
Isolement des données : L’architecture MCP isole l’agent des sources de données sous-jacentes, l’empêchant d’accéder directement à des informations sensibles.
Transparence du contrôle des commandes : Le protocole de communication utilisé par MCP offre transparence et auditabilité, permettant aux utilisateurs de suivre et de vérifier les actions effectuées par l’agent.
Autorisation basée sur les autorisations : MCP applique des politiques de contrôle d’accès strictes, garantissant que l’agent n’a accès qu’aux données et aux outils qu’il est autorisé à utiliser.
Équilibrer l’interopérabilité et la sécurité
MCP établit un équilibre entre l’interopérabilité et la sécurité en fournissant une interface standardisée pour accéder aux données et aux outils tout en mettant en œuvre des mesures de sécurité pour protéger les données et empêcher tout accès non autorisé. Cet équilibre est essentiel pour garantir que les agents peuvent être utilisés de manière sûre et responsable.
Au-delà de MCP : L’avenir de la gouvernance des agents
Bien que MCP représente une avancée significative, il ne constitue pas une solution complète aux défis de la gouvernance des agents. Plusieurs domaines nécessitent une attention particulière, notamment :
Fiabilité et validation des données
MCP ne fournit actuellement pas de mécanismes pour vérifier l’exactitude et la fiabilité des sources de données, ni de moyen d’évaluer la qualité des résultats produits par les agents. C’est un domaine qui nécessite un développement supplémentaire, car les utilisateurs doivent pouvoir faire confiance aux informations et aux actions fournies par les agents.
Naviguer dans les nouveaux paysages commerciaux
L’essor des agents crée de nouvelles relations commerciales et de nouveaux modèles commerciaux, qu’il peut être difficile de gérer. MCP ne traite pas de ces problèmes et il convient d’examiner plus attentivement la manière de garantir que l’écosystème des agents est équitable et compétitif.
L’évolution continue de la gouvernance des agents
MCP représente un point de départ essentiel pour la gouvernance des agents, fournissant une base technique pour résoudre les problèmes de compatibilité et de sécurité. Toutefois, des efforts continus sont nécessaires pour relever les défis restants et garantir que les agents sont utilisés de manière responsable et bénéfique. À mesure que le domaine évolue, une collaboration continue entre les chercheurs, les développeurs et les décideurs sera essentielle pour façonner l’avenir de la gouvernance des agents.