A medida que la demanda de agentes inteligentes se diversifica entre los grupos de usuarios, la gobernanza efectiva debe abordar las preocupaciones únicas de cada comunidad. Al aprovechar las salvaguardias tecnológicas como el Protocolo de Contexto del Modelo (MCP), fomentar la colaboración de código abierto e implementar la supervisión humana en el circuito, podemos garantizar la confiabilidad y la controlabilidad de las aplicaciones de agentes mientras promovemos un ecosistema saludable.
Un agente inteligente, o Agente de IA, es un sistema impulsado por grandes modelos de lenguaje (LLM) que interactúa con el entorno externo a través de herramientas, actuando en nombre del usuario.
En noviembre de 2024, Anthropic introdujo el Protocolo de Contexto del Modelo (MCP), un protocolo de código abierto que ofrece una solución técnica para mejorar la eficiencia y la seguridad de los agentes de propósito general.
Si bien MCP sienta las bases para la gobernanza de agentes, no resuelve todos los desafíos.
Desafíos que enfrentan los agentes de propósito general
Los agentes son sistemas que aprovechan los grandes modelos de lenguaje para interactuar con el mundo exterior a través de diversas herramientas, representando a los usuarios y ejecutando acciones. Estos agentes poseen memoria, planificación, percepción, invocación de herramientas y capacidades de acción.
Manus, por ejemplo, se posiciona como un agente de propósito general, distinto de los productos de agentes orientados al flujo de trabajo.
La expectativa de la industria para los agentes, especialmente los de propósito general, se deriva de su capacidad para satisfacer las necesidades de varias partes interesadas.
Sin embargo, los agentes de propósito general enfrentan tres desafíos clave: compatibilidad, seguridad y competencia.
El protocolo MCP, que permite una colaboración eficiente entre modelos a través de diferentes herramientas y fuentes de datos, y garantiza una asignación segura de responsabilidad en la agregación de datos de múltiples partes, es más digno de un estudio en profundidad que el propio producto Manus.
MCP: Una solución técnica para la compatibilidad y la seguridad
En noviembre de 2024, Anthropic abrió el código fuente del Protocolo de Contexto del Modelo (MCP), lo que permite a los sistemas proporcionar información de contexto a los modelos de IA de una manera estandarizada y segura en diferentes escenarios de integración.
MCP utiliza una arquitectura en capas para abordar los problemas de estandarización y seguridad en las aplicaciones de agentes. Una aplicación host (como Manus) se conecta simultáneamente a múltiples programas de servicio (servidores MCP) a través de un cliente MCP. Cada servidor se especializa en proporcionar acceso estandarizado a una fuente de datos o aplicación específica.
Primero, MCP resuelve el problema de compatibilidad en la invocación de datos/herramientas del agente a través del consenso estándar.
En segundo lugar, MCP tiene tres consideraciones de seguridad. Primero, el enlace de datos aísla el modelo y la fuente de datos específica, y los dos interactúan a través del protocolo del servidor MCP. El modelo no depende directamente de los detalles internos de la fuente de datos, lo que aclara la fuente de la mezcla de datos de múltiples partes.
En segundo lugar, el protocolo de comunicación mejora la transparencia y la auditabilidad del enlace de control de comandos, resolviendo los desafíos de asimetría de información y caja negra de la interacción de datos usuario-modelo.
En tercer lugar, el enlace de autorización está protegido al responder de acuerdo con los permisos, lo que garantiza el control del usuario sobre el uso de herramientas/datos por parte del agente.
MCP construye una interfaz estandarizada y un mecanismo de protección de seguridad a través de una arquitectura en capas, logrando un equilibrio entre la interoperabilidad y la seguridad en la invocación de datos y herramientas.
MCP como base para la gobernanza de agentes
MCP ofrece compatibilidad y seguridad para la invocación de datos y herramientas, sentando las bases para la gobernanza de agentes, pero no resuelve todos los desafíos que se enfrentan en la gobernanza.
Primero, en términos de confiabilidad, MCP aún no ha formado estándares normativos para la selección de fuentes de datos y herramientas llamadas, ni ha evaluado y verificado los resultados de la ejecución.
En segundo lugar, MCP no puede ajustar temporalmente el nuevo tipo de relación de cooperación competitiva comercial provocada por Agent.
En general, MCP proporciona una respuesta técnica inicial a las principales preocupaciones de seguridad que enfrentan los usuarios que usan Agent, y se ha convertido en el punto de partida de la gobernanza de Agent.
Profundizando en los desafíos de los agentes de propósito general
Los agentes de propósito general, aunque prometedores, se encuentran con varios obstáculos que requieren una consideración cuidadosa y soluciones innovadoras. Estos desafíos abarcan la compatibilidad, la seguridad y la competencia, cada uno de los cuales exige un enfoque único para garantizar el despliegue responsable y eficaz de estos agentes.
Problemas de compatibilidad
El desafío de la compatibilidad surge del ecosistema diverso de herramientas, fuentes de datos y plataformas con las que los agentes deben interactuar. Cada uno de estos componentes puede tener sus propios protocolos, formatos e interfaces únicos, creando una compleja red de dependencias que puede ser difícil de navegar.
Por ejemplo, un agente diseñado para administrar el calendario, el correo electrónico y las cuentas de redes sociales de un usuario debe poder integrarse a la perfección con cada uno de estos servicios, a pesar de sus API y estructuras de datos dispares. Esto requiere que el agente posea un alto grado de adaptabilidad y la capacidad de traducir entre diferentes formatos y protocolos.
Además, el desafío de la compatibilidad se extiende más allá de las consideraciones técnicas para abarcar la interoperabilidad semántica. Los agentes deben ser capaces de entender el significado de los datos y las instrucciones en diferentes contextos, incluso cuando se expresan en diferentes términos o formatos. Esto requiere capacidades avanzadas de procesamiento del lenguaje natural (PNL) y la capacidad de razonar sobre las relaciones entre diferentes conceptos.
Para abordar el desafío de la compatibilidad, se han propuesto varios enfoques, incluido el desarrollo de protocolos e interfaces estandarizados, el uso de ontologías y gráficos de conocimiento para representar las relaciones semánticas y la adopción de técnicas de aprendizaje automático para adaptarse automáticamente a nuevas fuentes de datos y herramientas.
Salvaguardas de seguridad
La seguridad es primordial al implementar agentes, ya que a menudo tienen acceso a datos confidenciales y la capacidad de realizar acciones en nombre de los usuarios. El desafío de la seguridad abarca una variedad de amenazas, incluido el acceso no autorizado, las violaciones de datos y la manipulación maliciosa.
Los agentes deben diseñarse teniendo en cuenta la seguridad desde el principio, incorporando mecanismos para autenticar a los usuarios, autorizar el acceso a los recursos y proteger los datos de la divulgación o modificación no autorizadas. Esto requiere el uso de un cifrado sólido, políticas de control de acceso y sistemas de detección de intrusiones.
Además, los agentes deben ser resistentes a los ataques que intentan explotar las vulnerabilidades en su código o lógica. Esto requiere pruebas y validación rigurosas, así como la implementación de actualizaciones y parches de seguridad.
Además, el desafío de la seguridad se extiende a la cadena de suministro de componentes de agentes, ya que los agentes a menudo dependen de bibliotecas y servicios de terceros. Es esencial asegurarse de que estos componentes sean seguros y confiables, y de que no estén comprometidos por actores maliciosos.
Para abordar el desafío de la seguridad, se han propuesto varios enfoques, incluido el uso de prácticas de codificación seguras, la implementación de auditorías de seguridad y pruebas de penetración, y la adopción de estándares y certificaciones de seguridad.
Cooperación competitiva
El panorama competitivo de los agentes está evolucionando rápidamente, con numerosas empresas y organizaciones que compiten por desarrollar e implementar los agentes más capaces y eficaces. Esta competencia puede conducir a la innovación y la mejora, pero también puede crear desafíos relacionados con la equidad, la transparencia y la rendición de cuentas.
Un desafío es el potencial de los agentes para participar en prácticas injustas o engañosas, como la discriminación de precios, la manipulación de datos o la difusión de información errónea. Esto requiere la implementación de pautas éticas y marcos regulatorios para garantizar que los agentes se utilicen de manera responsable y transparente.
Otro desafío es el potencial de los agentes para exacerbar las desigualdades existentes, como el sesgo en las decisiones de contratación o préstamo. Esto requiere una atención cuidadosa al diseño y la capacitación de los agentes, así como la implementación de métricas de equidad y procedimientos de auditoría.
Además, el panorama competitivo puede crear desafíos relacionados con la privacidad y la propiedad de los datos. Los agentes a menudo recopilan y procesan grandes cantidades de datos, lo que genera preocupaciones sobre cómo se utilizan y protegen estos datos. Es esencial establecer pautas claras para la privacidad y la propiedad de los datos, y garantizar que los usuarios tengan el control de sus datos.
Para abordar el desafío competitivo, se han propuesto varios enfoques, incluido el desarrollo de pautas éticas, la implementación de marcos regulatorios y la promoción de la colaboración de código abierto.
El Protocolo de Contexto del Modelo: Una inmersión más profunda
El Protocolo de Contexto del Modelo (MCP) representa un importante paso adelante para abordar los desafíos de compatibilidad y seguridad en las aplicaciones de agentes. Al proporcionar una forma estandarizada y segura para que los agentes interactúen con diferentes fuentes de datos y herramientas, MCP permite el desarrollo de agentes más robustos, confiables y dignos de confianza.
Una arquitectura en capas para la estandarización y la seguridad
MCP emplea una arquitectura en capas que separa al agentede las fuentes de datos y herramientas subyacentes, creando una clara separación de preocupaciones. Esta arquitectura consta de tres capas principales:
La aplicación host: Este es el agente en sí, responsable de coordinar la tarea general e interactuar con el usuario.
El cliente MCP: Este componente proporciona una interfaz estandarizada para que la aplicación host se comunique con los servidores MCP.
Los servidores MCP: Estos componentes proporcionan acceso a fuentes de datos o herramientas específicas, traduciendo entre el protocolo MCP estandarizado y los protocolos nativos de los recursos subyacentes.
Esta arquitectura en capas proporciona varios beneficios, que incluyen:
Compatibilidad mejorada: Al usar un protocolo estandarizado, MCP permite a los agentes interactuar con diferentes fuentes de datos y herramientas sin tener que preocuparse por los detalles de sus interfaces específicas.
Seguridad mejorada: Al aislar al agente de los recursos subyacentes, MCP reduce el riesgo de acceso no autorizado y violaciones de datos.
Mayor flexibilidad: La arquitectura en capas permite la fácil adición y eliminación de fuentes de datos y herramientas, lo que facilita la adaptación a los requisitos cambiantes.
Abordar la compatibilidad a través del consenso estándar
MCP aborda el desafío de la compatibilidad al proporcionar un protocolo estandarizado para que los agentes accedan y manipulen datos de diferentes fuentes. Este protocolo define un conjunto común de operaciones para leer, escribir y actualizar datos, así como un formato común para representar los datos.
Al adherirse a este protocolo, los agentes pueden interactuar con diferentes fuentes de datos sin tener que preocuparse por los detalles de sus formatos o interfaces específicos. Esto simplifica el proceso de desarrollo y reduce el riesgo de problemas de compatibilidad.
Consideraciones de seguridad en MCP
MCP incorpora varias consideraciones de seguridad para proteger los datos y evitar el acceso no autorizado. Estos incluyen:
Aislamiento de datos: La arquitectura MCP aísla al agente de las fuentes de datos subyacentes, evitando que acceda directamente a información confidencial.
Transparencia del control de comandos: El protocolo de comunicación utilizado por MCP proporciona transparencia y auditabilidad, lo que permite a los usuarios rastrear y verificar las acciones realizadas por el agente.
Autorización basada en permisos: MCP aplica políticas estrictas de control de acceso, lo que garantiza que el agente solo tenga acceso a los datos y herramientas que está autorizado a usar.
Equilibrio entre interoperabilidad y seguridad
MCP logra un equilibrio entre la interoperabilidad y la seguridad al proporcionar una interfaz estandarizada para acceder a datos y herramientas al mismo tiempo que implementa medidas de seguridad para proteger los datos y evitar el acceso no autorizado. Este equilibrio es esencial para garantizar que los agentes puedan utilizarse de forma segura y responsable.
Más allá de MCP: El futuro de la gobernanza de agentes
Si bien MCP representa un importante paso adelante, no es una solución completa para los desafíos de la gobernanza de agentes. Varias áreas requieren mayor atención, que incluyen:
Confiabilidad y validación de datos
MCP no proporciona actualmente mecanismos para verificar la precisión y la fiabilidad de las fuentes de datos, ni proporciona una forma de evaluar la calidad de los resultados producidos por los agentes. Esta es un área que requiere un mayor desarrollo, ya que los usuarios deben poder confiar en la información y las acciones proporcionadas por los agentes.
Navegando por nuevos paisajes comerciales
El auge de los agentes está creando nuevas relaciones comerciales y modelos de negocio, que pueden ser difíciles de navegar. MCP no aborda estos problemas, y se necesita una mayor consideración para garantizar que el ecosistema de agentes sea justo y competitivo.
La evolución continua de la gobernanza de agentes
MCP representa un punto de partida crucial para la gobernanza de agentes, proporcionando una base técnica para abordar las preocupaciones de compatibilidad y seguridad. Sin embargo, se necesitan esfuerzos continuos para abordar los desafíos restantes y garantizar que los agentes se utilicen de una manera responsable y beneficiosa. A medida que el campo evoluciona, la colaboración continua entre investigadores, desarrolladores y legisladores será esencial para dar forma al futuro de la gobernanza de agentes.