Intelligente agents worden steeds meer gebruikt, en effectief bestuur is essentieel. Door gebruik te maken van technologische waarborgen zoals het Model Context Protocol (MCP), open-source samenwerking te bevorderen en menselijk toezicht te implementeren, kunnen we de betrouwbaarheid en controleerbaarheid van agent-toepassingen waarborgen en een gezond ecosysteem bevorderen.
Een intelligente agent, of AI Agent, is een systeem aangedreven door grote taalmodellen (LLM’s) dat via tools met de externe omgeving interageert en namens de gebruiker handelt.
In november 2024 introduceerde Anthropic het Model Context Protocol (MCP), een open-source protocol dat een technische oplossing biedt om de efficiëntie en veiligheid van algemene agents te verbeteren.
Hoewel MCP de basis legt voor agentbestuur, lost het niet alle uitdagingen op.
Uitdagingen voor Algemene Agents
Agents zijn systemen die gebruikmaken van grote taalmodellen om via verschillende tools met de buitenwereld te interageren, gebruikers te vertegenwoordigen en acties uit te voeren. Deze agents beschikken over geheugen, planning, perceptie, tool-aanroep en actiemogelijkheden.
Manus is bijvoorbeeld gepositioneerd als een algemene agent, in tegenstelling tot workflow-georiënteerde agentproducten.
De verwachting van de industrie voor agents, vooral algemene agents, komt voort uit hun vermogen om aan de behoeften van verschillende stakeholders te voldoen.
Algemene agents worden echter geconfronteerd met drie belangrijke uitdagingen: compatibiliteit, veiligheid en concurrentie.
Het MCP-protocol, dat efficiënte samenwerking tussen modellen via verschillende tools en databronnen mogelijk maakt en zorgt voor een veilige toewijzing van verantwoordelijkheid bij datagroepering door meerdere partijen, is meer de moeite waard om diepgaand te bestuderen dan het Manus-product zelf.
MCP: Een Technische Oplossing voor Compatibiliteit en Veiligheid
In november 2024 maakte Anthropic het Model Context Protocol (MCP) open-source, waardoor systemen contextinformatie op een gestandaardiseerde en veilige manier aan AI-modellen kunnen verstrekken in verschillende integratiescenario’s.
MCP gebruikt een gelaagde architectuur om standaardisatie- en veiligheidsproblemen in Agent-toepassingen aan te pakken. Een host-applicatie (zoals Manus) maakt gelijktijdig verbinding met meerdere serviceprogramma’s (MCP-servers) via een MCP-client. Elke server is gespecialiseerd in het bieden van gestandaardiseerde toegang tot een specifieke databron of applicatie.
Ten eerste lost MCP het compatibiliteitsprobleem op bij Agent-data/tool-aanroep door middel van standaard consensus.
Ten tweede heeft MCP drie veiligheidsoverwegingen. Ten eerste isoleert de data-link het model en de specifieke databron, en de twee interageren via het MCP-serverprotocol. Het model is niet direct afhankelijk van de interne details van de databron, waardoor de bron van datamixing door meerdere partijen wordt verduidelijkt.
Ten tweede verbetert het communicatieprotocol de transparantie en controleerbaarheid van de commando-controlelink, waardoor de informatie-asymmetrie en black box-uitdagingen van de data-interactie tussen gebruiker en model worden opgelost.
Ten derde wordt de autorisatielink beveiligd door te reageren volgens machtigingen, waardoor de controle van de gebruiker over het gebruik van tools/data door de Agent wordt gewaarborgd.
MCP bouwt een gestandaardiseerde interface en beveiligingsmechanisme via een gelaagde architectuur, waardoor een evenwicht wordt bereikt tussen interoperabiliteit en veiligheid bij data- en tool-aanroep.
MCP als Fundament voor Agentbestuur
MCP biedt compatibiliteit en veiligheid voor data- en tool-aanroep, waardoor een fundament wordt gelegd voor Agent-bestuur, maar het lost niet alle uitdagingen op die bij bestuur komen kijken.
Ten eerste heeft MCP, in termen van betrouwbaarheid, nog geen normatieve standaarden gevormd voor de selectie van aangeroepen databronnen en tools, noch heeft het de uitvoeringsresultaten geëvalueerd en geverifieerd.
Ten tweede kan MCP de nieuwe vorm van commerciële concurrentie-samenwerking die door Agent wordt veroorzaakt, niet tijdelijk aanpassen.
Over het algemeen biedt MCP een eerste technisch antwoord op de belangrijkste veiligheidsrisico’s waarmee gebruikers te maken krijgen bij het gebruik van Agent, en is het het startpunt geworden van Agent-bestuur.
Diepgaande Analyse van de Uitdagingen van Algemene Agents
Algemene agents zijn veelbelovend, maar stuiten op verschillende hindernissen die zorgvuldige overweging en innovatieve oplossingen vereisen. Deze uitdagingen omvatten compatibiliteit, veiligheid en concurrentie, die elk een unieke aanpak vereisen om de verantwoorde en effectieve implementatie van deze agents te waarborgen.
Compatibiliteitsproblemen
De compatibiliteitsuitdaging komt voort uit het diverse ecosysteem van tools, databronnen en platformen waarmee agents moeten interageren. Elk van deze componenten kan zijn eigen unieke protocollen, formaten en interfaces hebben, waardoor een complex web van afhankelijkheden ontstaat dat moeilijk te navigeren kan zijn.
Een agent die is ontworpen om de agenda, e-mail en social media-accounts van een gebruiker te beheren, moet bijvoorbeeld naadloos kunnen integreren met elk van deze services, ondanks hun verschillende API’s en datastructuren. Dit vereist dat de agent een hoge mate van aanpassingsvermogen bezit en het vermogen om tussen verschillende formaten en protocollen te vertalen.
Bovendien reikt de compatibiliteitsuitdaging verder dan technische overwegingen en omvat semantische interoperabiliteit. Agents moeten de betekenis van data en instructies in verschillende contexten kunnen begrijpen, zelfs wanneer ze in verschillende termen of formaten worden uitgedrukt. Dit vereist geavanceerde natuurlijke taalverwerking (NLP) en het vermogen om te redeneren over de relaties tussen verschillende concepten.
Om de compatibiliteitsuitdaging aan te pakken, zijn verschillende benaderingen voorgesteld, waaronder de ontwikkeling van gestandaardiseerde protocollen en interfaces, het gebruik van ontologieën en knowledge graphs om semantische relaties weer te geven, en de toepassing van machine learning-technieken om zich automatisch aan te passen aan nieuwe databronnen en tools.
Veiligheidsmaatregelen
Veiligheid is van het grootste belang bij het implementeren van agents, omdat ze vaak toegang hebben tot gevoelige data en de mogelijkheid om acties namens gebruikers uit te voeren. De veiligheidsuitdaging omvat een reeks bedreigingen, waaronder ongeautoriseerde toegang, datalekken en kwaadwillige manipulatie.
Agents moeten vanaf het begin worden ontworpen met veiligheid in gedachten, met mechanismen om gebruikers te authenticeren, toegang tot resources te autoriseren en data te beschermen tegen ongeautoriseerde openbaarmaking of modificatie. Dit vereist het gebruik van sterke encryptie, toegangscontrolebeleid en inbraakdetectiesystemen.
Bovendien moeten agents bestand zijn tegen aanvallen die proberen kwetsbaarheden in hun code of logica uit te buiten. Dit vereist rigoureuze tests en validatie, evenals de implementatie van beveiligingsupdates en patches.
Verder strekt de veiligheidsuitdaging zich uit tot de supply chain van agentcomponenten, aangezien agents vaak afhankelijk zijn van libraries en services van derden. Het is essentieel om ervoor te zorgen dat deze componenten veilig en betrouwbaar zijn, en dat ze niet worden gecompromitteerd door kwaadwillende actoren.
Om de veiligheidsuitdaging aan te pakken, zijn verschillende benaderingen voorgesteld, waaronder het gebruik van veilige codeerpraktijken, de implementatie van beveiligingsaudits en penetratietests, en de toepassing van beveiligingsstandaarden en certificeringen.
Competitieve Samenwerking
Het concurrentielandschap voor agents evolueert snel, met tal van bedrijven en organisaties die strijden om de meest capabele en effectieve agents te ontwikkelen en te implementeren. Deze concurrentie kan leiden tot innovatie en verbetering, maar kan ook uitdagingen creëren met betrekking tot eerlijkheid, transparantie en verantwoording.
Een uitdaging is het potentieel voor agents om oneerlijke of misleidende praktijken te hanteren, zoals prijsdiscriminatie, datamanipulatie of de verspreiding van verkeerde informatie. Dit vereist de implementatie van ethische richtlijnen en regelgevingskaders om ervoor te zorgen dat agents op een verantwoorde en transparante manier worden gebruikt.
Een andere uitdaging is het potentieel voor agents om bestaande ongelijkheden te verergeren, zoals bias bij aanwervings- of kredietbeslissingen. Dit vereist zorgvuldige aandacht voor het ontwerp en de training van agents, evenals de implementatie van eerlijkheidsmetrics en auditprocedures.
Verder kan het concurrentielandschap uitdagingen creëren met betrekking tot dataprivacy en eigendom. Agents verzamelen en verwerken vaak enorme hoeveelheden data, wat zorgen oproept over hoe deze data wordt gebruikt en beschermd. Het is essentieel om duidelijke richtlijnen op te stellen voor dataprivacy en eigendom, en ervoor te zorgen dat gebruikers controle hebben over hun data.
Om de concurrentie-uitdaging aan te pakken, zijn verschillende benaderingen voorgesteld, waaronder de ontwikkeling van ethische richtlijnen, de implementatie van regelgevingskaders en de bevordering van open-source samenwerking.
Het Model Context Protocol: Een Diepere Duik
Het Model Context Protocol (MCP) vertegenwoordigt een belangrijke stap voorwaarts in het aanpakken van de uitdagingen van compatibiliteit en veiligheid in agent-toepassingen. Door een gestandaardiseerde en veilige manier te bieden voor agents om te interageren met verschillende databronnen en tools, maakt MCP de ontwikkeling van robuustere, betrouwbaardere en vertrouwenswaardigere agents mogelijk.
Een Gelaagde Architectuur voor Standaardisatie en Veiligheid
MCP gebruikt een gelaagde architectuur die de agent scheidt van de onderliggende databronnen en tools, waardoor een duidelijke scheiding van verantwoordelijkheden ontstaat. Deze architectuur bestaat uit drie hoofdlagen:
De Host-Applicatie: Dit is de agent zelf, verantwoordelijk voor het coördineren van de algehele taak en het interageren met de gebruiker.
De MCP-Client: Deze component biedt een gestandaardiseerde interface voor de host-applicatie om te communiceren met de MCP-servers.
De MCP-Servers: Deze componenten bieden toegang tot specifieke databronnen of tools, waarbij ze vertalen tussen het gestandaardiseerde MCP-protocol en de native protocollen van de onderliggende resources.
Deze gelaagde architectuur biedt verschillende voordelen, waaronder:
Verbeterde Compatibiliteit: Door gebruik te maken van een gestandaardiseerd protocol, stelt MCP agents in staat om te interageren met verschillende databronnen en tools zonder zich zorgen te hoeven maken over de details van hun specifieke interfaces.
Verbeterde Veiligheid: Door de agent te isoleren van de onderliggende resources, vermindert MCP het risico op ongeautoriseerde toegang en datalekken.
Verhoogde Flexibiliteit: De gelaagde architectuur maakt het gemakkelijk om databronnen en tools toe te voegen en te verwijderen, waardoor het gemakkelijker wordt om zich aan te passen aan veranderende eisen.
Compatibiliteit Aanpakken via Standaard Consensus
MCP pakt de compatibiliteitsuitdaging aan door een gestandaardiseerd protocol te bieden voor agents om data te openen en te manipuleren uit verschillende bronnen. Dit protocol definieert een gemeenschappelijke set operaties voor het lezen, schrijven en updaten van data, evenals een gemeenschappelijk formaat voor het weergeven van data.
Door zich aan dit protocol te houden, kunnen agents interageren met verschillende databronnen zonder zich zorgen te hoeven maken over de details van hun specifieke formaten of interfaces. Dit vereenvoudigt het ontwikkelingsproces en vermindert het risico op compatibiliteitsproblemen.
Veiligheidsoverwegingen in MCP
MCP bevat verschillende veiligheidsoverwegingen om data te beschermen en ongeautoriseerde toegang te voorkomen. Deze omvatten:
Data-Isolatie: De MCP-architectuur isoleert de agent van de onderliggende databronnen, waardoor wordt voorkomen dat deze direct toegang heeft tot gevoelige informatie.
Command Control Transparantie: Het communicatieprotocol dat door MCP wordt gebruikt, biedt transparantie en controleerbaarheid, waardoor gebruikers de acties die door de agent worden uitgevoerd, kunnen volgen en verifiëren.
Toestemming-Gebaseerde Autorisatie: MCP dwingt strikt toegangscontrolebeleid af, waardoor wordt verzekerd dat de agent alleen toegang heeft tot de data en tools die hij gemachtigd is om te gebruiken.
Interoperabiliteit en Veiligheid in Evenwicht Brengen
MCP slaat een evenwicht tussen interoperabiliteit en veiligheid door een gestandaardiseerde interface te bieden voor het openen van data en tools, terwijl het ook beveiligingsmaatregelen implementeert om data te beschermen en ongeautoriseerde toegang te voorkomen. Dit evenwicht is essentieel om ervoor te zorgen dat agents op een veilige en verantwoorde manier kunnen worden gebruikt.
Voorbij MCP: De Toekomst van Agentbestuur
Hoewel MCP een belangrijke stap voorwaarts vertegenwoordigt, is het geen complete oplossing voor de uitdagingen van agentbestuur. Verschillende gebieden vereisen verdere aandacht, waaronder:
Betrouwbaarheid en Datavalidatie
MCP biedt momenteel geen mechanismen voor het verifiëren van de nauwkeurigheid en betrouwbaarheid van databronnen, noch biedt het een manier om de kwaliteit van de resultaten die door agents worden geproduceerd te evalueren. Dit is een gebied dat verdere ontwikkeling vereist, aangezien gebruikers de informatie en acties die door agents worden verstrekt moeten kunnen vertrouwen.
Navigeren door Nieuwe Commerciële Landschappen
De opkomst van agents creëert nieuwe commerciële relaties en bedrijfsmodellen, die moeilijk te navigeren kunnen zijn. MCP pakt deze problemen niet aan, en verdere overweging is nodig om ervoor te zorgen dat het agent-ecosysteem eerlijk en concurrerend is.
De Voortdurende Evolutie van Agentbestuur
MCP vertegenwoordigt een cruciaal startpunt voor agentbestuur en biedt een technische basis voor het aanpakken van compatibiliteits- en veiligheidsproblemen. Er zijn echter voortdurende inspanningen nodig om de resterende uitdagingen aan te pakken en ervoor te zorgen dat agents op een verantwoorde en nuttige manier worden gebruikt. Naarmate het veld evolueert, zal voortdurende samenwerking tussen onderzoekers, ontwikkelaars en beleidsmakers essentieel zijn om de toekomst van agentbestuur vorm te geven.