À medida que a procura por agentes inteligentes se diversifica entre os grupos de utilizadores, uma governação eficaz deve abordar as preocupações únicas de cada comunidade. Ao alavancar salvaguardas tecnológicas como o Protocolo de Contexto de Modelo (MCP), promover a colaboração de código aberto e implementar a supervisão humana no circuito, podemos garantir a confiabilidade e controlabilidade das aplicações de agentes, promovendo um ecossistema saudável.
Um agente inteligente, ou Agente de IA, é um sistema alimentado por grandes modelos de linguagem (LLMs) que interage com o ambiente externo por meio de ferramentas, atuando em nome do utilizador.
Em novembro de 2024, a Anthropic introduziu o Protocolo de Contexto de Modelo (MCP), um protocolo de código aberto que oferece uma solução técnica para melhorar a eficiência e a segurança dos agentes de propósito geral.
Embora o MCP estabeleça as bases para a governação de agentes, não resolve todos os desafios.
Desafios Enfrentados por Agentes de Propósito Geral
Agentes são sistemas que aproveitam grandes modelos de linguagem para interagir com o mundo exterior através de várias ferramentas, representando utilizadores e executando ações. Esses agentes possuem memória, planeamento, perceção, invocação de ferramentas e capacidades de ação.
O Manus, por exemplo, é posicionado como um agente de propósito geral, distinto dos produtos de agentes orientados para o fluxo de trabalho.
A expectativa da indústria para agentes, especialmente os de propósito geral, decorre da sua capacidade de satisfazer as necessidades de várias partes interessadas.
No entanto, os agentes de propósito geral enfrentam três desafios principais: compatibilidade, segurança e concorrência.
O protocolo MCP, que permite a colaboração eficiente entre modelos em diferentes ferramentas e fontes de dados, e garante a alocação de responsabilidade segura na agregação de dados de várias partes, é mais digno de estudo aprofundado do que o próprio produto Manus.
MCP: Uma Solução Técnica para Compatibilidade e Segurança
Em novembro de 2024, a Anthropic abriu o código do Protocolo de Contexto de Modelo (MCP), permitindo que os sistemas forneçam informações de contexto aos modelos de IA de forma padronizada e segura em diferentes cenários de integração.
O MCP usa uma arquitetura em camadas para resolver problemas de padronização e segurança em aplicações de Agentes. Uma aplicação anfitriã (como o Manus) conecta-se simultaneamente a vários programas de serviço (Servidores MCP) através de um cliente MCP. Cada servidor é especializado em fornecer acesso padronizado a uma fonte de dados ou aplicação específica.
Primeiro, o MCP resolve o problema de compatibilidade na invocação de dados/ferramentas do Agente através do consenso padrão.
Segundo, o MCP tem três considerações de segurança. Primeiro, o link de dados isola o modelo e a fonte de dados específica, e os dois interagem através do protocolo do Servidor MCP. O modelo não depende diretamente dos detalhes internos da fonte de dados, esclarecendo a origem da mistura de dados de várias partes.
Segundo, o protocolo de comunicação aumenta a transparência e a auditabilidade do link de controlo de comandos, resolvendo os desafios de assimetria de informações e caixa preta da interação de dados utilizador-modelo.
Terceiro, o link de autorização é protegido respondendo de acordo com as permissões, garantindo o controlo do utilizador sobre o uso de ferramentas/dados pelo Agente.
O MCP cria uma interface padronizada e um mecanismo de proteção de segurança através de uma arquitetura em camadas, alcançando um equilíbrio entre interoperabilidade e segurança na invocação de dados e ferramentas.
O MCP como Base para a Governança de Agentes
O MCP oferece compatibilidade e segurança para a invocação de dados e ferramentas, estabelecendo uma base para a governação de Agentes, mas não resolve todos os desafios enfrentados na governação.
Primeiro, em termos de confiabilidade, o MCP ainda não formou padrões normativos para a seleção de fontes de dados e ferramentas chamadas, nem avaliou e verificou os resultados da execução.
Segundo, o MCP não pode ajustar temporariamente o novo tipo de relacionamento de cooperação competitiva comercial trazido pelo Agente.
No geral, o MCP fornece uma resposta técnica inicial às principais preocupações de segurança enfrentadas pelos utilizadores ao usar o Agente e tornou-se o ponto de partida da governação do Agente.
Análise Aprofundada dos Desafios dos Agentes de Propósito Geral
Os agentes de propósito geral, embora promissores, encontram vários obstáculos que exigem consideração cuidadosa e soluções inovadoras. Esses desafios abrangem compatibilidade, segurança e concorrência, cada um exigindo uma abordagem única para garantir a implantação responsável e eficaz desses agentes.
Problemas de Compatibilidade
O desafio da compatibilidade surge do ecossistema diversificado de ferramentas, fontes de dados e plataformas com as quais os agentes devem interagir. Cada um desses componentes pode ter seus próprios protocolos, formatos e interfaces exclusivos, criando uma rede complexa de dependências que pode ser difícil de navegar.
Por exemplo, um agente projetado para gerenciar o calendário, e-mail e contas de mídia social de um utilizador deve ser capaz de se integrar perfeitamente a cada um desses serviços, apesar de suas APIs e estruturas de dados díspares. Isso exige que o agente possua um alto grau de adaptabilidade e a capacidade de traduzir entre diferentes formatos e protocolos.
Além disso, o desafio da compatibilidade se estende além das considerações técnicas para abranger a interoperabilidade semântica. Os agentes devem ser capazes de entender o significado dos dados e instruções em diferentes contextos, mesmo quando expressos em termos ou formatos diferentes. Isso requer capacidades avançadas de processamento de linguagem natural (PNL) e a capacidade de raciocinar sobre as relações entre diferentes conceitos.
Para enfrentar o desafio da compatibilidade, várias abordagens foram propostas, incluindo o desenvolvimento de protocolos e interfaces padronizados, o uso de ontologias e gráficos de conhecimento para representar relações semânticas e a adoção de técnicas de aprendizado de máquina para se adaptar automaticamente a novas fontes de dados e ferramentas.
Salvaguardas de Segurança
A segurança é fundamental ao implantar agentes, pois eles geralmente têm acesso a dados confidenciais e a capacidade de realizar ações em nome dos utilizadores. O desafio da segurança abrange uma gama de ameaças, incluindo acesso não autorizado, violações de dados e manipulação maliciosa.
Os agentes devem ser projetados com a segurança em mente desde o início, incorporando mecanismos para autenticar utilizadores, autorizar o acesso a recursos e proteger os dados contra divulgação ou modificação não autorizada. Isso requer o uso de criptografia forte, políticas de controlo de acesso e sistemas de deteção de intrusão.
Além disso, os agentes devem ser resilientes a ataques que tentam explorar vulnerabilidades em seu código ou lógica. Isso requer testes e validação rigorosos, bem como a implementação de atualizações e patches de segurança.
Além disso, o desafio da segurança se estende à cadeia de suprimentos de componentes do agente, pois os agentes geralmente dependem de bibliotecas e serviços de terceiros. É essencial garantir que esses componentes sejam seguros e confiáveis e que não sejam comprometidos por atores maliciosos.
Para enfrentar o desafio da segurança, várias abordagens foram propostas, incluindo o uso de práticas de codificação seguras, a implementação de auditorias de segurança e testes de penetração e a adoção de padrões e certificações de segurança.
Cooperação Competitiva
O cenário competitivo para agentes está evoluindo rapidamente, com inúmeras empresas e organizações competindo para desenvolver e implantar os agentes mais capazes e eficazes. Essa concorrência pode levar à inovação e melhoria, mas também pode criar desafios relacionados à justiça, transparência e responsabilidade.
Um desafio é o potencial para os agentes se envolverem em práticas desleais ou enganosas, como discriminação de preços, manipulação de dados ou disseminação de desinformação. Isso requer a implementação de diretrizes éticas e estruturas regulatórias para garantir que os agentes sejam usados de forma responsável e transparente.
Outro desafio é o potencial para os agentes exacerbarem as desigualdades existentes, como o viés nas decisões de contratação ou empréstimo. Isso requer atenção cuidadosa ao design e treinamento de agentes, bem como à implementação de métricas de justiça e procedimentos de auditoria.
Além disso, o cenário competitivo pode criar desafios relacionados à privacidade e propriedade dos dados. Os agentes geralmente coletam e processam vastas quantidades de dados, levantando preocupações sobre como esses dados são usados e protegidos. É essencial estabelecer diretrizes claras para privacidade e propriedade de dados e garantir que os utilizadores tenham controlo sobre seus dados.
Para enfrentar o desafio competitivo, várias abordagens foram propostas, incluindo o desenvolvimento de diretrizes éticas, a implementação de estruturas regulatórias e a promoção da colaboração de código aberto.
O Protocolo de Contexto de Modelo: Uma Análise Mais Aprofundada
O Protocolo de Contexto de Modelo (MCP) representa um avanço significativo no enfrentamento dos desafios de compatibilidade e segurança em aplicações de agentes. Ao fornecer uma maneira padronizada e segura para os agentes interagirem com diferentes fontes de dados e ferramentas, o MCP permite o desenvolvimento de agentes mais robustos, confiáveis e confiáveis.
Uma Arquitetura em Camadas para Padronização e Segurança
O MCP emprega uma arquitetura em camadas que separa o agente das fontes de dados e ferramentas subjacentes, criando uma separação clara de preocupações. Essa arquitetura consiste em três camadas principais:
A Aplicação Anfitriã: Este é o próprio agente, responsável por coordenar a tarefa geral e interagir com o utilizador.
O Cliente MCP: Este componente fornece uma interface padronizada para a aplicação anfitriã comunicar com os servidores MCP.
Os Servidores MCP: Esses componentes fornecem acesso a fontes de dados ou ferramentas específicas, traduzindo entre o protocolo MCP padronizado e os protocolos nativos dos recursos subjacentes.
Essa arquitetura em camadas oferece vários benefícios, incluindo:
Compatibilidade Aprimorada: Ao usar um protocolo padronizado, o MCP permite que os agentes interajam com diferentes fontes de dados e ferramentas sem ter que se preocupar com os detalhes de suas interfaces específicas.
Segurança Aprimorada: Ao isolar o agente dos recursos subjacentes, o MCP reduz o risco de acesso não autorizado e violações de dados.
Maior Flexibilidade: A arquitetura em camadas permite fácil adição e remoção de fontes de dados e ferramentas, tornando mais fácil a adaptação às mudanças nos requisitos.
Abordando a Compatibilidade por Meio do Consenso Padrão
O MCP enfrenta o desafio da compatibilidade, fornecendo um protocolo padronizado para os agentes acessarem e manipularem dados de diferentes fontes. Este protocolo define um conjunto comum de operações para leitura, escrita e atualização de dados, bem como um formato comum para representar dados.
Ao aderir a este protocolo, os agentes podem interagir com diferentes fontes de dados sem ter que se preocupar com os detalhes de seus formatos ou interfaces específicos. Isso simplifica o processo de desenvolvimento e reduz o risco de problemas de compatibilidade.
Considerações de Segurança no MCP
O MCP incorpora várias considerações de segurança para proteger os dados e impedir o acesso não autorizado. Esses incluem:
Isolamento de Dados: A arquitetura MCP isola o agente das fontes de dados subjacentes, impedindo-o de acessar diretamente informações confidenciais.
Transparência do Controlo de Comando: O protocolo de comunicação usado pelo MCP fornece transparência e auditabilidade, permitindo que os utilizadores rastreiem e verifiquem as ações realizadas pelo agente.
Autorização Baseada em Permissões: O MCP impõe políticas rígidas de controlo de acesso, garantindo que o agente tenha apenas acesso aos dados e ferramentas que está autorizado a usar.
Equilibrando Interoperabilidade e Segurança
O MCP atinge um equilíbrio entre interoperabilidade e segurança, fornecendo uma interface padronizada para acessar dados e ferramentas, ao mesmo tempo em que implementa medidas de segurança para proteger os dados e impedir o acesso não autorizado. Esse equilíbrio é essencial para garantir que os agentes possam ser usados de forma segura e responsável.
Além do MCP: O Futuro da Governança de Agentes
Embora o MCP represente um avanço significativo, não é uma solução completa para os desafios da governação de agentes. Várias áreas exigem mais atenção, incluindo:
Confiabilidade e Validação de Dados
O MCP atualmente não fornece mecanismos para verificar a precisão e a confiabilidade das fontes de dados, nem fornece uma maneira de avaliar a qualidade dos resultados produzidos pelos agentes. Esta é uma área que requer mais desenvolvimento, pois os utilizadores precisam ser capazes de confiar nas informações e ações fornecidas pelos agentes.
Navegando por Novas Paisagens Comerciais
A ascensão dos agentes está criando novos relacionamentos comerciais e modelos de negócios, que podem ser difíceis de navegar. O MCP não aborda essas questões, e é necessário mais consideração para garantir que o ecossistema do agente seja justo e competitivo.
A Evolução Contínua da Governança de Agentes
O MCP representa um ponto de partida crucial para a governação de agentes, fornecendo uma base técnica para abordar preocupações de compatibilidade e segurança. No entanto, esforços contínuos são necessários para enfrentar os desafios restantes e garantir que os agentes sejam usados de forma responsável e benéfica. À medida que o campo evolui, a colaboração contínua entre pesquisadores, desenvolvedores e formuladores de políticas será essencial para moldar o futuro da governação de agentes.