De vraag naar intelligente agenten groeit en diversifieert over verschillende gebruikersgroepen, waardoor governance de uiteenlopende prioriteiten moet aanpakken. Het Model Context Protocol (MCP), ondersteund door open-source samenwerking en menselijk toezicht, biedt een fundering voor een veilig en betrouwbaar agent-ecosysteem.
Intelligente agenten (AI-agenten) zijn systemen die worden aangedreven door grote taalmodellen en in staat zijn om met de externe wereld te interageren via tools en namens gebruikers te handelen. De recente opkomst van Manus benadrukt de verwachting van de markt voor praktische agent-toepassingen.
Het open-source Model Context Protocol (MCP) van Anthropic, aangekondigd in november 2024, biedt een technische oplossing om de efficiëntie en veiligheid van algemene agenten te verbeteren. MCP stroomlijnt de integratie via gestandaardiseerde interfaces, waardoor de efficiëntie van data- en tooltoegang wordt vergroot. Het versterkt ook de beveiliging door modellen te isoleren van specifieke databronnen en de transparantie van commando-controle te verbeteren. Deze evenwichtige aanpak prioriteert de gebruikerservaring en zorgt tegelijkertijd voor gecontroleerde autorisatie.
Hoewel MCP een basis legt voor agent-governance, lost het niet alle uitdagingen op. Het valideert bijvoorbeeld niet de rationale achter de selectie van tools of de nauwkeurigheid van uitvoeringsresultaten, noch pakt het effectief de concurrentie en samenwerking binnen het agent-applicatie-ecosysteem aan.
Uitdagingen voor Algemene Agenten in Toepassing
Een Agent is een systeem dat is uitgerust met geheugen, planning, perceptie, tool-aanroep en actiemogelijkheden, mogelijk gemaakt door uitgebreide taalmodellen, dat via tools met de externe omgeving interageert en namens de gebruiker handelt. De Agent moet de intenties van de gebruiker waarnemen en begrijpen, informatie verkrijgen en opslaan via de geheugenmodule, strategieën formuleren en optimaliseren door gebruik te maken van de planningsmodule, de toolmodule aanroepen om specifieke taken uit te voeren en plannen implementeren via de actiemodule, waardoor het doel wordt bereikt om taken autonoom te voltooien.
Manus is meer een algemene Agent, in tegenstelling tot workflow-georiënteerde Agent-producten.
De verwachtingen van de industrie voor Agenten, met name algemene Agenten, komen voort uit de collectieve behoeften die ze aanpakken. In de kapitaalmarkten vertegenwoordigen Agenten het verwachte closed-loop pad van de industrie voor de commerciële waarde van modellen, waarbij AI-prijzen verschuiven van token-gebaseerde berekeningen naar effect-gebaseerde prijzen voor aangepaste services, wat resulteert in een hogere winstgevendheid. Aan de gebruikerskant verwachten bedrijven dat Agenten repetitieve, gestandaardiseerde en duidelijk gedefinieerde processen met precisie-automatisering uitvoeren, terwijl het publiek verwacht dat Agenten ‘technologische voordelen’ brengen, en gepersonaliseerde, laagdrempelige ‘digitale stewards’ voor iedereen worden.
Algemene Agenten worden echter geconfronteerd met compatibiliteits-, beveiligings- en concurrentie-uitdagingen in de toepassing. In termen van compatibiliteit moeten modellen efficiënt samenwerken met verschillende tools en databronnen in de call. In termen van beveiliging moeten Agenten taken duidelijk en transparant uitvoeren volgens de instructies van de gebruiker en op redelijke wijze beveiligingsverantwoordelijkheden toewijzen onder de convergentie van de data van meerdere partijen. In termen van concurrentie moeten Agenten de concurrentie- en samenwerkingsrelaties in het nieuwe bedrijfsecosysteem oplossen.
Daarom is het MCP-protocol, dat modellen in staat stelt efficiënt samen te werken met verschillende tools en databronnen en op redelijke wijze beveiligingsverantwoordelijkheden toe te wijzen onder de convergentie van de data van meerdere partijen, de moeite waard om diepgaand te bestuderen in vergelijking met het Manus-product zelf.
Compatibiliteitsproblemen
De wereld van AI evolueert snel, met voortdurend nieuwe modellen en tools die opkomen. Om echt nuttig te zijn, moet een algemene agent naadloos kunnen integreren met een breed scala aan resources. Dit vormt een aanzienlijke uitdaging, aangezien elke tool of databron zijn eigen unieke interface en dataformaat kan hebben. Zonder een gestandaardiseerde aanpak zouden ontwikkelaars aangepaste code moeten schrijven voor elke integratie, wat tijdrovend en inefficiënt is. Dit gebrek aan compatibiliteit kan de brede acceptatie van AI-agenten belemmeren, omdat gebruikers mogelijk terughoudend zijn om te investeren in een technologie die niet gemakkelijk met hun bestaande systemen werkt.
Beveiligingsrisico’s
AI-agenten zijn ontworpen om namens gebruikers te handelen, wat betekent dat ze vaak toegang hebben tot gevoelige data en systemen. Dit roept aanzienlijke beveiligingsproblemen op, aangezien een gecompromitteerde agent kan worden gebruikt om data te stelen, operaties te verstoren of zelfs fysieke schade te veroorzaken. Het is cruciaal om ervoor te zorgen dat agenten zijn ontworpen met beveiliging in het achterhoofd, en dat ze worden onderworpen aan rigoureuze tests en monitoring om kwetsbaarheden te voorkomen. Bovendien is het belangrijk om duidelijke verantwoordelijkheden voor beveiliging vast te stellen, vooral wanneer meerdere partijen betrokken zijn bij de ontwikkeling en implementatie van een agent.
Concurrentielandschap
Naarmate AI-agenten vaker voorkomen, zullen ze waarschijnlijk bestaande bedrijfsmodellen verstoren en nieuwe vormen van concurrentie creëren. Een agent die bijvoorbeeld automatisch prijzen kan onderhandelen met leveranciers, kan een bedrijf een aanzienlijk concurrentievoordeel geven. Dit kan echter ook leiden tot een race naar de bodem, aangezien bedrijven concurreren om de laagste prijzen aan te bieden. Het is belangrijk om de potentiële impact van AI-agenten op het concurrentielandschap te overwegen en strategieën te ontwikkelen om deze nieuwe omgeving te navigeren. Dit omvat het aanpakken van kwesties als data-eigendom, intellectueel eigendom en het potentieel voor concurrentiebeperkend gedrag.
MCP: Een Technische Oplossing voor Compatibiliteit en Beveiliging in Agent-Toepassingen
In november 2024 heeft Anthropic het MCP (Model Context Protocol) open protocol open-source gemaakt, waardoor systemen context aan AI-modellen kunnen bieden en universeel kunnen worden toegepast in verschillende integratiescenario’s. MCP gebruikt een gelaagde architectuur om de standaardisatie- en beveiligingsproblemen in Agent-toepassingen op te lossen. Een host-applicatie (zoals Manus) maakt tegelijkertijd verbinding met meerdere serviceprogramma’s (MCP Server) via de MCP-client, en elke Server voert zijn eigen taken uit en biedt gestandaardiseerde toegang tot een databron of applicatie.
Ten eerste lost MCP het compatibiliteitsprobleem in Agent-data/tool-aanroepen op via standaard consensus. MCP vervangt gefragmenteerde integratie door een uniforme interface, en AI hoeft alleen de overeenkomst te begrijpen en na te leven om te interageren met alle tools die aan de specificaties voldoen, wat dubbele integratie aanzienlijk vermindert. Ten tweede heeft MCP drie overwegingen op het gebied van beveiliging. Ten eerste zijn het model en specifieke databronnen geïsoleerd op de datalink, en de twee interageren via het MCP Server-protocol. Het model is niet direct afhankelijk van de interne details van de databron, waardoor de bron van datamixing van meerdere partijen wordt verduidelijkt. De tweede is het verbeteren van de transparantie en auditability van de commando- en controlelink via communicatieprotocollen, en het oplossen van de informatie-asymmetrie en black box-uitdagingen van data-interactie tussen gebruiker en model. De derde is het waarborgen van de controleerbaarheid van de autorisatielink door te reageren op basis van machtigingen, en het waarborgen van de controle van de gebruiker over de Agent bij het gebruik van tools/data.
MCP bouwt een gestandaardiseerde interface en een beveiligingsbeschermingsmechanisme via een gelaagde architectuur, waardoor een evenwicht wordt bereikt tussen interoperabiliteit en beveiliging in data- en tool-aanroepen. Op gebruikerswaarde-niveau brengt MCP sterkere samenwerking en interactie tussen intelligente instanties en meer tools, en zelfs meer intelligente instanties. In de volgende fase zal MCP zich richten op de ontwikkeling van ondersteuning voor externe verbindingen.
Gestandaardiseerde Interfaces voor Verbeterde Compatibiliteit
Een van de belangrijkste kenmerken van MCP is het gebruik van gestandaardiseerde interfaces. Dit betekent dat AI-agenten kunnen interageren met verschillende tools en databronnen zonder aangepaste code te vereisen voor elke integratie. In plaats daarvan hoeft de agent alleen het MCP-protocol te begrijpen, dat een gemeenschappelijke set commando’s en dataformaten definieert. Dit vereenvoudigt het integratieproces aanzienlijk en vermindert de hoeveelheid ontwikkelingswerk die nodig is. Het maakt het ook gemakkelijker om te schakelen tussen verschillende tools en databronnen, omdat de agent niet elke keer opnieuw hoeft te worden geconfigureerd.
Het gebruik van gestandaardiseerde interfaces bevordert ook de interoperabiliteit tussen verschillende AI-agenten. Als meerdere agenten allemaal het MCP-protocol ondersteunen, kunnen ze gemakkelijk communiceren en data met elkaar delen. Dit kan leiden tot de ontwikkeling van complexere en geavanceerdere AI-systemen, waarbij meerdere agenten samenwerken om een probleem op te lossen.
Robuuste Beveiligingsmechanismen voor Data-bescherming
Beveiliging is een topprioriteit bij het ontwerp van MCP. Het protocol bevat verschillende mechanismen om data te beschermen en ongeautoriseerde toegang te voorkomen. Een belangrijk kenmerk is de isolatie van modellen van specifieke databronnen. Dit betekent dat de agent geen directe toegang heeft tot de onderliggende data, maar er in plaats daarvan mee interageert via het MCP Server-protocol. Dit voegt een laag indirectheid toe die het moeilijker maakt voor een aanvaller om de data te compromitteren.
MCP bevat ook mechanismen om de transparantie en auditability van commando- en controlelinks te verbeteren. Hierdoor kunnen gebruikers precies zien welke commando’s naar de agent worden verzonden en verifiëren dat de agent handelt in overeenstemming met hun instructies. Dit is belangrijk voor het opbouwen van vertrouwen in AI-systemen, omdat gebruikers hierdoor kunnen begrijpen hoe de agent beslissingen neemt.
Ten slotte biedt MCP een mechanisme voor het controleren van de autorisatie van agenten. Hierdoor kunnen gebruikers specificeren tot welke tools en databronnen de agent toegang mag hebben. Dit is belangrijk om te voorkomen dat de agent toegang krijgt tot gevoelige data of acties uitvoert waarvoor hij niet geautoriseerd is.
MCP: De Basis Leggen voor Agent-Governance
MCP biedt compatibiliteits- en beveiligingsgaranties voor data- en tool-aanroepen, waardoor de basis wordt gelegd voor Agent-governance, maar het kan niet alle uitdagingen oplossen waarmee governance wordt geconfronteerd.
Ten eerste heeft MCP in termen van geloofwaardigheid geen normatieve standaard gevormd voor de selectie van aanroepende databronnen en tools, noch heeft het de uitvoeringsresultaten geëvalueerd en geverifieerd. Ten tweede kan MCP het nieuwe type commerciële competitieve samenwerkingsrelatie die door Agent wordt teweeggebracht niet tijdelijk aanpassen.
Over het algemeen biedt MCP een eerste technische reactie op de belangrijkste beveiligingsproblemen waarmee gebruikers worden geconfronteerd bij het gebruik van Agents, en is het het startpunt geworden voor Agent-governance. Met de popularisering van Agent en andere AI-toepassingen zijn gedistribueerde methoden nodig om aan de gedifferentieerde behoeften van verschillende gebruikers te voldoen. De focus van governance is niet alleen de beveiliging van het model, maar ook de kernvereiste om aan de behoeften van de gebruiker te voldoen. Het MCP-protocol heeft de eerste stap gezet in het reageren op de behoeften van de gebruiker en het bevorderen van technologische co-governance. Het is ook op basis van MCP dat Agent een efficiënte arbeidsverdeling en samenwerking van verschillende tools en resources bereikt. Een week geleden heeft Google het Agent2Agent (A2A)-protocol open-source gemaakt voor communicatie tussen Agents, zodat Agents die op verschillende platforms zijn gebouwd, taken kunnen onderhandelen en veilig kunnen samenwerken, en de ontwikkeling van een multi-intelligent-lichaam-ecologie kunnen bevorderen.
Bezorgdheid over Vertrouwen en Betrouwbaarheid Aanpakken
Hoewel MCP een solide basis biedt voor agent-governance, pakt het niet alle uitdagingen aan. Een belangrijk gebied dat verdere aandacht behoeft, is het probleem van vertrouwen en betrouwbaarheid. MCP bevat momenteel geen mechanismen voor het verifiëren van de nauwkeurigheid van uitvoeringsresultaten of voor het waarborgen dat agenten geschikte databronnen en tools selecteren. Dit betekent dat gebruikers de beslissingen van een agent mogelijk niet volledig kunnen vertrouwen, vooral niet in situaties met hoge inzet.
Om deze bezorgdheid aan te pakken, is het noodzakelijk om nieuwe standaarden en best practices te ontwikkelen voor agent-ontwikkeling en implementatie. Dit kan zaken omvatten als formele verificatiemethoden, die kunnen worden gebruikt om te bewijzen dat een agent zich altijd op een voorspelbare en veilige manier zal gedragen. Het kan ook het gebruik van verklaarbare AI-technieken omvatten, die gebruikers kunnen helpen begrijpen hoe een agent beslissingen neemt.
Het Nieuwe Concurrentielandschap Navigeren
Een andere uitdaging die MCP niet volledig aanpakt, is de impact van agenten op het concurrentielandschap. Naarmate agenten vaker voorkomen, zullen ze waarschijnlijk bestaande bedrijfsmodellen verstoren en nieuwe vormen van concurrentie creëren. Het is belangrijk om de potentiële impact van agenten op het concurrentielandschap te overwegen en strategieën te ontwikkelen om deze nieuwe omgeving te navigeren. Dit omvat het aanpakken van kwesties als data-eigendom, intellectueel eigendom en het potentieel voor concurrentiebeperkend gedrag.
Een mogelijke aanpak is het ontwikkelen van nieuwe regelgevingskaders die specifiek zijn afgestemd op AI-agenten. Deze kaders zouden kwesties als data-privacy, algoritmische bias en het potentieel voor marktmanipulatie kunnen aanpakken. Ze zouden ook mechanismen kunnen bevatten voor het bevorderen van concurrentie en het voorkomen van monopolies.
De Weg Vooruit: Samenwerking en Innovatie
De ontwikkeling van MCP is een belangrijke stap voorwaarts op het gebied van agent-governance. Het is echter belangrijk om te erkennen dat dit nog maar het begin is. Er zijn nog veel uitdagingen te overwinnen, en er is een gezamenlijke inspanning van onderzoekers, ontwikkelaars, beleidsmakers en gebruikers nodig om ervoor te zorgen dat AI-agenten veilig en verantwoordelijk worden gebruikt.
Een veelbelovende ontwikkeling is de recente release van Google’s Agent2Agent (A2A)-protocol. Dit protocol stelt agenten die op verschillende platforms zijn gebouwd in staat om met elkaar te communiceren en samen te werken. Dit zou kunnen leiden tot de ontwikkeling van complexere en geavanceerdere AI-systemen, waarbij meerdere agenten samenwerken om een probleem op te lossen. Het zou ook kunnen helpen om een meer competitief en innovatief AI-ecosysteem te bevorderen, aangezien ontwikkelaars agenten kunnen bouwen die naadloos kunnen integreren met andere agenten.
Naarmate AI-technologie zich blijft ontwikkelen, is het cruciaal om voorop te blijven lopen en nieuwe governance-mechanismen te ontwikkelen die de uitdagingen van de toekomst kunnen aanpakken. Dit vereist een toewijding aan samenwerking, innovatie en de bereidheid om zich aan te passen aan het steeds veranderende landschap van AI.