Die Nachfrage nach intelligenten Agenten wächst in verschiedenen Nutzergruppen, wodurch Governance-Modelle unterschiedliche Prioritäten berücksichtigen müssen. Das Model Context Protocol (MCP), unterstützt durch Open-Source-Zusammenarbeit und menschliche Aufsicht, bietet eine Grundlage für ein sicheres und zuverlässiges Agent-Ökosystem.
Intelligente Agenten (KI-Agenten) sind Systeme, die auf großen Sprachmodellen basieren und in der Lage sind, mit der Außenwelt über Tools zu interagieren und im Auftrag von Benutzern zu handeln. Das jüngste Aufkommen von Manus unterstreicht die Erwartung des Marktes an praktische Agentenanwendungen.
Das im November 2024 angekündigte Open-Source Model Context Protocol (MCP) von Anthropic bietet eine technische Lösung zur Verbesserung der Effizienz und Sicherheit von Allzweck-Agenten. MCP optimiert die Integration durch standardisierte Schnittstellen und steigert die Effizienz des Daten- und Tool-Zugriffs. Es stärkt auch die Sicherheit, indem es Modelle von bestimmten Datenquellen isoliert und die Transparenz der Befehlssteuerung verbessert. Dieser ausgewogene Ansatz priorisiert die Benutzererfahrung und gewährleistet gleichzeitig eine kontrollierte Autorisierung.
Während MCP eine Grundlage für die Agenten-Governance schafft, löst es nicht alle Herausforderungen. Beispielsweise validiert es nicht die Gründe für die Tool-Auswahl oder die Genauigkeit der Ausführungsergebnisse, noch geht es effektiv auf Wettbewerb und Zusammenarbeit innerhalb des Agenten-Anwendungs-Ökosystems ein.
Herausforderungen für Allzweck-Agenten in der Anwendung
Ein Agent ist ein System, das mit Gedächtnis, Planung, Wahrnehmung, Tool-Aufruf und Aktionsfähigkeiten ausgestattet ist und von umfangreichen Sprachmodellen unterstützt wird. Er interagiert mit der externen Umgebung über Tools und handelt im Auftrag des Benutzers. Der Agent muss die Absichten des Benutzers wahrnehmen und verstehen, Informationen über das Speichermodul abrufen und speichern, Strategien mithilfe des Planungsmoduls formulieren und optimieren, das Tool-Modul aufrufen, um bestimmte Aufgaben auszuführen, und Pläne über das Aktionsmodul implementieren, wodurch das Ziel der autonomen Aufgabenerledigung erreicht wird.
Manus ist eher ein Allzweck-Agent, im Gegensatz zu workflow-orientierten Agentenprodukten.
Die Erwartungen der Industrie an Agenten, insbesondere an Allzweck-Agenten, ergeben sich aus den kollektiven Bedürfnissen, die sie ansprechen. In den Kapitalmärkten stellen Agenten den erwarteten Closed-Loop-Pfad der Branche für den kommerziellen Wert von Modellen dar, wodurch die KI-Preisgestaltung von tokenbasierter Berechnung auf effektbasierte Preisgestaltung für kundenspezifische Dienstleistungen verlagert wird, was zu einer höheren Rentabilität führt. Auf der Benutzerseite erwarten Unternehmen, dass Agenten repetitive, standardisierte und klar definierte Prozesse mit präziser Automatisierung ausführen, während die Öffentlichkeit erwartet, dass Agenten “technologische Vorteile” bringen und zu personalisierten, niedrigschwelligen “digitalen Stewards” für alle werden.
Allzweck-Agenten stehen jedoch vor Kompatibilitäts-, Sicherheits- und Wettbewerbsherausforderungen in der Anwendung. In Bezug auf die Kompatibilität müssen Modelle effizient mit verschiedenen Tools und Datenquellen im Aufruf zusammenarbeiten. In Bezug auf die Sicherheit müssen Agenten Aufgaben klar und transparent gemäß den Benutzeranweisungen ausführen und Sicherheitsverantwortlichkeiten unter der Konvergenz der Daten mehrerer Parteien angemessen zuweisen. In Bezug auf den Wettbewerb müssen Agenten die Wettbewerbs- und Kooperationsbeziehungen im neuen Geschäftsökosystem lösen.
Daher ist das MCP-Protokoll, das es Modellen ermöglicht, effizient mit verschiedenen Tools und Datenquellen zusammenzuarbeiten und Sicherheitsverantwortlichkeiten unter der Konvergenz der Daten mehrerer Parteien angemessen zuzuweisen, im Vergleich zum Manus-Produkt selbst einer eingehenden Untersuchung wert.
Kompatibilitätsprobleme
Die Welt der KI entwickelt sich rasant weiter, und ständig entstehen neue Modelle und Tools. Damit ein Allzweck-Agent wirklich nützlich ist, muss er in der Lage sein, sich nahtlos in eine Vielzahl von Ressourcen zu integrieren. Dies stellt eine erhebliche Herausforderung dar, da jedes Tool oder jede Datenquelle ihre eigene eindeutige Schnittstelle und ihr eigenes Datenformat haben kann. Ohne einen standardisierten Ansatz müssten Entwickler benutzerdefinierten Code für jede Integration schreiben, was zeitaufwändig und ineffizient ist. Dieser Mangel an Kompatibilität kann die breite Akzeptanz von KI-Agenten behindern, da Benutzer möglicherweise zögern, in eine Technologie zu investieren, die nicht einfach mit ihren bestehenden Systemen zusammenarbeitet.
Sicherheitsrisiken
KI-Agenten sind so konzipiert, dass sie im Auftrag von Benutzern handeln, was bedeutet, dass sie oft Zugriff auf sensible Daten und Systeme haben. Dies wirft erhebliche Sicherheitsbedenken auf, da ein kompromittierter Agent verwendet werden könnte, um Daten zu stehlen, Abläufe zu stören oder sogar physischen Schaden zu verursachen. Es ist von entscheidender Bedeutung, sicherzustellen, dass Agenten mit Blick auf die Sicherheit entwickelt werden und dass sie rigorosen Tests und Überwachungen unterzogen werden, um Schwachstellen zu vermeiden. Darüber hinaus ist es wichtig, klare Verantwortlichkeiten für die Sicherheit festzulegen, insbesondere wenn mehrere Parteien an der Entwicklung und Bereitstellung eines Agenten beteiligt sind.
Wettbewerbsumfeld
Da KI-Agenten immer weiter verbreitet sind, werden sie wahrscheinlich bestehende Geschäftsmodelle stören und neue Formen des Wettbewerbs schaffen. Beispielsweise könnte ein Agent, der automatisch Preise mit Lieferanten aushandeln kann, einem Unternehmen einen erheblichen Wettbewerbsvorteil verschaffen. Dies könnte jedoch auch zu einem Wettlauf nach unten führen, da Unternehmen um die niedrigsten Preise konkurrieren. Es ist wichtig, die potenziellen Auswirkungen von KI-Agenten auf das Wettbewerbsumfeld zu berücksichtigen und Strategien zur Bewältigung dieser neuen Umgebung zu entwickeln. Dies umfasst die Behandlung von Themen wie Dateneigentum, geistiges Eigentum und das Potenzial für wettbewerbswidriges Verhalten.
MCP: Eine technische Lösung für Kompatibilität und Sicherheit in Agentenanwendungen
Im November 2024 hat Anthropic das MCP (Model Context Protocol) Open-Source-Protokoll veröffentlicht, das es Systemen ermöglicht, KI-Modellen Kontext bereitzustellen und in verschiedenen Integrationsszenarien universalisiert werden kann. MCP verwendet eine geschichtete Architektur, um die Standardisierungs- und Sicherheitsprobleme in Agentenanwendungen zu lösen. Eine Hostanwendung (wie Manus) verbindet sich gleichzeitig über den MCP-Client mit mehreren Serviceprogrammen (MCP Server), und jeder Server erfüllt seine eigenen Aufgaben und bietet standardisierten Zugriff auf eine Datenquelle oder Anwendung.
Erstens löst MCP das Kompatibilitätsproblem bei Agenten-Daten-/Tool-Aufrufen durch Standardkonsens. MCP ersetzt fragmentierte Integration durch eine einheitliche Schnittstelle, und KI muss nur die Vereinbarung verstehen und einhalten, um mit allen Tools zu interagieren, die die Spezifikationen erfüllen, was doppelte Integration erheblich reduziert. Zweitens hat MCP drei Überlegungen in Bezug auf die Sicherheit. Erstens werden das Modell und bestimmte Datenquellen auf der Datenverbindung isoliert, und die beiden interagieren über das MCP-Serverprotokoll. Das Modell hängt nicht direkt von den internen Details der Datenquelle ab, wodurch die Quelle der Datenmischung mehrerer Parteien geklärt wird. Die zweite besteht darin, die Transparenz und Auditierbarkeit der Befehls- und Steuerungsverbindung durch Kommunikationsprotokolle zu verbessern und die Informationsasymmetrie- und Blackbox-Herausforderungen der Benutzer-Modell-Dateninteraktion zu lösen. Die dritte besteht darin, die Kontrollierbarkeit der Autorisierungsverbindung durch die Reaktion gemäß den Berechtigungen sicherzustellen und die Kontrolle des Benutzers über den Agenten bei der Verwendung von Tools/Daten sicherzustellen.
MCP baut eine standardisierte Schnittstelle und einen Sicherheitsschutzmechanismus durch eine geschichtete Architektur auf und erreicht ein Gleichgewicht zwischen Interoperabilität und Sicherheit bei Daten- und Tool-Aufrufen. Auf der Ebene des Benutzerwerts bringt MCP eine stärkere Zusammenarbeit und Interaktion zwischen intelligenten Körpern und mehr Tools und sogar mehr intelligenten Körpern. In der nächsten Phase wird sich MCP auf die Entwicklung von Unterstützung für Remote-Verbindungen konzentrieren.
Standardisierte Schnittstellen für verbesserte Kompatibilität
Eines der Hauptmerkmale von MCP ist die Verwendung standardisierter Schnittstellen. Dies bedeutet, dass KI-Agenten mit verschiedenen Tools und Datenquellen interagieren können, ohne dass benutzerdefinierter Code für jede Integration erforderlich ist. Stattdessen muss der Agent lediglich das MCP-Protokoll verstehen, das einen gemeinsamen Satz von Befehlen und Datenformaten definiert. Dies vereinfacht den Integrationsprozess erheblich und reduziert den erforderlichen Entwicklungsaufwand. Es erleichtert auch den Wechsel zwischen verschiedenen Tools und Datenquellen, da der Agent nicht jedes Mal neu konfiguriert werden muss.
Die Verwendung standardisierter Schnittstellen fördert auch die Interoperabilität zwischen verschiedenen KI-Agenten. Wenn mehrere Agenten alle das MCP-Protokoll unterstützen, können sie problemlos miteinander kommunizieren und Daten austauschen. Dies kann zur Entwicklung komplexerer und anspruchsvollerer KI-Systeme führen, in denen mehrere Agenten zusammenarbeiten, um ein Problem zu lösen.
Robuste Sicherheitsmechanismen zum Schutz von Daten
Sicherheit hat bei der Entwicklung von MCP höchste Priorität. Das Protokoll umfasst mehrere Mechanismen, um Daten zu schützen und unbefugten Zugriff zu verhindern. Ein wichtiges Merkmal ist die Isolation von Modellen von bestimmten Datenquellen. Dies bedeutet, dass der Agent keinen direkten Zugriff auf die zugrunde liegenden Daten hat, sondern stattdessen über das MCP-Serverprotokoll mit ihnen interagiert. Dies fügt eine Ebene der Indirektion hinzu, die es einem Angreifer erschwert, die Daten zu kompromittieren.
MCP enthält auch Mechanismen zur Verbesserung der Transparenz und Auditierbarkeit von Befehls- und Steuerungsverbindungen. Dies ermöglicht es Benutzern, genau zu sehen, welche Befehle an den Agenten gesendet werden, und zu überprüfen, ob der Agent gemäß ihren Anweisungen handelt. Dies ist wichtig, um Vertrauen in KI-Systeme aufzubauen, da es Benutzern ermöglicht, zu verstehen, wie der Agent Entscheidungen trifft.
Schließlich bietet MCP einen Mechanismus zur Kontrolle der Autorisierung von Agenten. Dies ermöglicht es Benutzern, anzugeben, auf welche Tools und Datenquellen der Agent zugreifen darf. Dies ist wichtig, um zu verhindern, dass der Agent auf sensible Daten zugreift oder Aktionen ausführt, zu denen er nicht berechtigt ist.
MCP: Den Grundstein für Agenten-Governance legen
MCP bietet Kompatibilitäts- und Sicherheitsgarantien für Daten- und Tool-Aufrufe und legt damit den Grundstein für die Agenten-Governance, kann aber nicht alle Herausforderungen der Governance lösen.
Erstens hat MCP in Bezug auf die Glaubwürdigkeit keinen normativen Standard für die Auswahl von aufrufenden Datenquellen und Tools gebildet, noch hat es die Ausführungsergebnisse bewertet und verifiziert. Zweitens kann MCP die neue Art von kommerzieller Wettbewerbskooperation, die durch Agent verursacht wird, nicht vorübergehend anpassen.
Insgesamt bietet MCP eine erste technische Antwort auf die wichtigsten Sicherheitsbedenken, mit denen Benutzer bei der Verwendung von Agenten konfrontiert sind, und ist zum Ausgangspunkt für die Agenten-Governance geworden. Mit der Popularisierung von Agenten und anderen KI-Anwendungen sind verteilte Methoden erforderlich, um die unterschiedlichen Bedürfnisse verschiedener Benutzer zu erfüllen. Der Fokus der Governance liegt nicht nur auf der Sicherheit des Modells, sondern auch auf der Kernanforderung, die Bedürfnisse der Benutzer zu erfüllen. Das MCP-Protokoll hat den ersten Schritt unternommen, um auf die Bedürfnisse der Benutzer einzugehen und die technologische Co-Governance zu fördern. Auch auf der Basis von MCP erreicht Agent eine effiziente Arbeitsteilung und Zusammenarbeit verschiedener Tools und Ressourcen. Vor einer Woche hat Google das Agent2Agent (A2A)-Protokoll für die Kommunikation zwischen Agenten als Open Source veröffentlicht, sodass Agenten, die auf verschiedenen Plattformen aufgebaut sind, Aufgaben aushandeln und sicher zusammenarbeiten und die Entwicklung einer multi-intelligenten Körperökologie fördern können.
Umgang mit Vertrauens- und Zuverlässigkeitsproblemen
Während MCP eine solide Grundlage für die Agenten-Governance bietet, geht es nicht auf alle Herausforderungen ein. Ein wichtiger Bereich, der weiterer Aufmerksamkeit bedarf, ist das Thema Vertrauen und Zuverlässigkeit. MCP enthält derzeit keine Mechanismen zur Überprüfung der Genauigkeit der Ausführungsergebnisse oder zur Gewährleistung, dass Agenten geeignete Datenquellen und Tools auswählen. Dies bedeutet, dass Benutzer den Entscheidungen eines Agenten möglicherweise nicht vollständig vertrauen können, insbesondere in Situationen mit hohen Einsätzen.
Um dieses Problem anzugehen, müssen neue Standards und Best Practices für die Agentenentwicklung und -bereitstellung entwickelt werden. Dies könnte Dinge wie formale Verifikationsmethoden umfassen, mit denen bewiesen werden kann, dass sich ein Agent immer auf vorhersehbare und sichere Weise verhält. Es könnte auch die Verwendung von erklärbaren KI-Techniken umfassen, die Benutzern helfen können, zu verstehen, wie ein Agent Entscheidungen trifft.
Navigation im neuen Wettbewerbsumfeld
Eine weitere Herausforderung, die MCP nicht vollständig bewältigt, sind die Auswirkungen von Agenten auf das Wettbewerbsumfeld. Da Agenten immer weiter verbreitet sind, werden sie wahrscheinlich bestehende Geschäftsmodelle stören und neue Formen des Wettbewerbs schaffen. Es ist wichtig, die potenziellen Auswirkungen von Agenten auf das Wettbewerbsumfeld zu berücksichtigen und Strategien zur Bewältigung dieser neuen Umgebung zu entwickeln. Dies umfasst die Behandlung von Themen wie Dateneigentum, geistiges Eigentum und das Potenzial für wettbewerbswidriges Verhalten.
Ein möglicher Ansatz ist die Entwicklung neuer Regulierungsrahmen, die speziell auf KI-Agenten zugeschnitten sind. Diese Rahmenwerke könnten Themen wie Datenschutz, algorithmische Verzerrung und das Potenzial für Marktmanipulationen behandeln. Sie könnten auch Mechanismen zur Förderung des Wettbewerbs und zur Verhinderung von Monopolen umfassen.
Der Weg nach vorn: Zusammenarbeit und Innovation
Die Entwicklung von MCP ist ein bedeutender Schritt nach vorn auf dem Gebiet der Agenten-Governance. Es ist jedoch wichtig zu erkennen, dass dies erst der Anfang ist. Es gibt noch viele Herausforderungen zu bewältigen, und es erfordert eine gemeinsame Anstrengung von Forschern, Entwicklern, politischen Entscheidungsträgern und Benutzern, um sicherzustellen, dass KI-Agenten sicher und verantwortungsvoll eingesetzt werden.
Eine vielversprechende Entwicklung ist die kürzliche Veröffentlichung des Agent2Agent (A2A)-Protokolls von Google. Dieses Protokoll ermöglicht es Agenten, die auf verschiedenen Plattformen aufgebaut sind, miteinander zu kommunizieren und zusammenzuarbeiten. Dies könnte zur Entwicklung komplexerer und anspruchsvollerer KI-Systeme führen, in denen mehrere Agenten zusammenarbeiten, um ein Problem zu lösen. Es könnte auch dazu beitragen, ein wettbewerbsfähigeres und innovativeres KI-Ökosystem zu fördern, da Entwickler in der Lage sind, Agenten zu entwickeln, die sich nahtlos in andere Agenten integrieren lassen.
Da sich die KI-Technologie ständig weiterentwickelt, ist es von entscheidender Bedeutung, der Zeit immer einen Schritt voraus zu sein und neue Governance-Mechanismen zu entwickeln, die die Herausforderungen der Zukunft bewältigen können. Dies erfordert ein Engagement für Zusammenarbeit, Innovation und die Bereitschaft, sich an die sich ständig verändernde Landschaft der KI anzupassen.