Тъй като търсенето на интелигентни агенти се разнообразява сред потребителските групи, управлението трябва да отговори на различните приоритети. Протоколът за контекст на модела (Model Context Protocol - MCP), подкрепен от сътрудничество с отворен код и човешки надзор, осигурява основа за сигурна и надеждна екосистема от агенти.
Интелигентните агенти (AI Agents) са системи, задвижвани от големи езикови модели, способни да взаимодействат с външния свят чрез инструменти и да действат от името на потребителите. Неотдавнашната поява на Manus подчертава очакванията на пазара за практически приложения на агенти.
Обявеният през ноември 2024 г. протокол Model Context Protocol (MCP) с отворен код на Anthropic предлага техническо решение за повишаване на ефективността и сигурността на агентите с общо предназначение. MCP рационализира интеграцията чрез стандартизирани интерфейси, повишавайки ефективността на достъпа до данни и инструменти. Той също така укрепва сигурността чрез изолиране на моделите от конкретни източници на данни и подобряване на прозрачността на контрола на командите. Този балансиран подход дава приоритет на потребителското изживяване, като същевременно гарантира контролирано оторизиране.
Въпреки че MCP установява основа за управление на агенти, той не решава всяко предизвикателство. Например, той не валидира обосновката зад избора на инструмент или точността на резултатите от изпълнението, нито ефективно адресира конкуренцията и сътрудничеството в рамките на екосистемата от агент-приложения.
Предизвикателства пред агентите с общо предназначение в приложението
Агентът е система, оборудвана с памет, планиране, възприятие, извикване на инструменти и възможности за действие, овластена от обширни езикови модели, която взаимодейства с външната среда чрез инструменти, действайки от името на потребителя. Агентът трябва да възприема и разбира намеренията на потребителя, да получава и съхранява информация чрез паметта, да формулира и оптимизира стратегии, като използва модула за планиране, да извиква модула с инструменти за изпълнение на конкретни задачи и да прилага планове чрез модула за действие, като по този начин постига целта за автономно изпълнение на задачи.
Manus е повече агент с общо предназначение, за разлика от ориентираните към работни потоци Agent продукти.
Отрасловите очаквания към агентите, особено агентите с общо предназначение, произтичат от колективните нужди, които те адресират. На капиталовите пазари агентите представляват очаквания от индустрията затворен цикъл за търговската стойност на моделите, премествайки ценообразуването на AI от изчисления, базирани на токени, към ценообразуване, базирано на ефекта за персонализирани услуги, което води до по-голяма рентабилност. От страна на потребителя, предприятията очакват агентите да изпълняват повтарящи се, стандартизирани и ясно дефинирани процеси с прецизна автоматизация, докато обществеността очаква агентите да донесат ‘технологични ползи’, превръщайки се в персонализирани ‘цифрови стюарди’ с нисък праг за всеки.
Въпреки това, агентите с общо предназначение са изправени пред проблеми със съвместимостта, сигурността и конкуренцията в приложението. По отношение на съвместимостта, моделите трябва да си сътрудничат ефективно с различни инструменти и източници на данни в разговора. По отношение на сигурността, агентите трябва да изпълняват задачи ясно и прозрачно според инструкциите на потребителя и разумно да разпределят отговорностите за сигурност при сближаването на данните на множество страни. По отношение на конкуренцията, агентите трябва да решат конкурентните и кооперативни отношения в новата бизнес екосистема.
Следователно, MCP протоколът, който позволява на моделите да си сътрудничат ефективно с различни инструменти и източници на данни и разумно да разпределят отговорностите за сигурност при сближаването на данните на множество страни, си струва да бъде проучен в дълбочина в сравнение със самия продукт Manus.
Проблеми със съвместимостта
Светът на AI се развива бързо, като постоянно се появяват нови модели и инструменти. За да бъде наистина полезен един агент с общо предназначение, той трябва да може безпроблемно да се интегрира с голямо разнообразие от ресурси. Това представлява значително предизвикателство, тъй като всеки инструмент или източник на данни може да има свой собствен уникален интерфейс и формат на данни. Без стандартизиран подход, разработчиците ще трябва да пишат персонализиран код за всяка интеграция, което отнема време и е неефективно. Тази липса на съвместимост може да попречи на широкото приемане на AI агенти, тъй като потребителите могат да се колебаят да инвестират в технология, която не работи лесно със съществуващите им системи.
Рискове за сигурността
AI агентите са проектирани да действат от името на потребителите, което означава, че често имат достъп до чувствителни данни и системи. Това повдига значителни опасения за сигурността, тъй като компрометиран агент може да бъде използван за кражба на данни, нарушаване на операции или дори причиняване на физическа вреда. От решаващо значение е да се гарантира, че агентите са проектирани с мисъл за сигурност и че са подложени на стриктно тестване и наблюдение, за да се предотвратят уязвимости. Освен това е важно да се установят ясни линии на отговорност за сигурността, особено когато множество страни участват в разработването и разгръщането на агент.
Конкурентна среда
Тъй като AI агентите стават все по-разпространени, те вероятно ще нарушат съществуващите бизнес модели и ще създадат нови форми на конкуренция. Например, агент, който може автоматично да договаря цени с доставчици, може да даде на компанията значително конкурентно предимство. Въпреки това, това може да доведе и до надпревара към дъното, тъй като компаниите се конкурират да предлагат най-ниските цени. Важно е да се обмисли потенциалното въздействие на AI агентите върху конкурентната среда и да се разработят стратегии за навигиране в тази нова среда. Това включва справяне с проблеми като собственост върху данни, интелектуална собственост и потенциал за антиконкурентно поведение.
MCP: Техническо решение за съвместимост и сигурност в приложенията на агенти
През ноември 2024 г. Anthropic пусна с отворен код MCP (Model Context Protocol) отворен протокол, позволяващ на системите да предоставят контекст на AI модели и може да бъде универсализиран в различни сценарии на интеграция. MCP използва слоеста архитектура за решаване на проблемите със стандартизацията и сигурността в Agent приложенията. Хост приложение (като Manus) се свързва с множество сервизни програми (MCP Server) чрез MCP клиента едновременно и всеки сървър изпълнява свои собствени задължения, осигурявайки стандартизиран достъп до източник на данни или приложение.
Първо, MCP решава проблема със съвместимостта при извиквания на Agent данни/инструменти чрез стандартен консенсус. MCP заменя фрагментиранатаинтеграция с унифициран интерфейс и AI трябва само да разбира и спазва споразумението, за да взаимодейства с всички инструменти, които отговарят на спецификациите, което значително намалява дублиращата се интеграция. Второ, MCP има три съображения по отношение на сигурността. Първо, моделът и специфичните източници на данни са изолирани на връзката за данни и двете взаимодействат чрез протокола MCP Server. Моделът не зависи пряко от вътрешните детайли на източника на данни, като изяснява източника на смесване на данни от много страни. Второто е да се подобри прозрачността и възможността за одит на връзката за командване и контрол чрез комуникационни протоколи и да се решат информационната асиметрия и предизвикателствата на черната кутия при взаимодействието между потребител-модел данни. Третото е да се гарантира контролируемостта на връзката за оторизация чрез отговор според разрешенията и да се гарантира контролът на потребителя върху Agent при използването на инструменти/данни.
MCP изгражда стандартизиран интерфейс и механизъм за защита на сигурността чрез слоеста архитектура, постигайки баланс между оперативна съвместимост и сигурност при извиквания на данни и инструменти. На ниво потребителска стойност, MCP носи по-силно сътрудничество и взаимодействие между интелигентни тела и повече инструменти и дори повече интелигентни тела. В следващия етап MCP ще се съсредоточи върху разработването на поддръжка за отдалечени връзки.
Стандартизирани интерфейси за подобрена съвместимост
Една от ключовите характеристики на MCP е използването на стандартизирани интерфейси. Това означава, че AI агентите могат да взаимодействат с различни инструменти и източници на данни, без да изискват персонализиран код за всяка интеграция. Вместо това агентът просто трябва да разбира протокола MCP, който определя общ набор от команди и формати на данни. Това значително опростява процеса на интеграция и намалява необходимото количество работа по разработка. Също така улеснява превключването между различни инструменти и източници на данни, тъй като агентът не трябва да се конфигурира повторно всеки път.
Използването на стандартизирани интерфейси също насърчава оперативната съвместимост между различните AI агенти. Ако множество агенти поддържат протокола MCP, те могат лесно да комуникират и споделят данни помежду си. Това може да доведе до разработването на по-сложни и усъвършенствани AI системи, където множество агенти работят заедно за решаване на проблем.
Надеждни механизми за сигурност за защита на данните
Сигурността е основен приоритет в дизайна на MCP. Протоколът включва няколко механизма за защита на данните и предотвратяване на неоторизиран достъп. Една ключова характеристика е изолирането на моделите от конкретни източници на данни. Това означава, че агентът няма пряк достъп до основните данни, а вместо това взаимодейства с тях чрез протокола MCP Server. Това добавя слой на непрякост, който затруднява компрометирането на данните от нападател.
MCP също така включва механизми за подобряване на прозрачността и възможността за одит на връзките за командване и контрол. Това позволява на потребителите да видят точно какви команди се изпращат към агентаи да проверят дали агентът действа в съответствие с техните инструкции. Това е важно за изграждане на доверие в AI системите, тъй като позволява на потребителите да разберат как агентът взема решения.
И накрая, MCP предоставя механизъм за контролиране на оторизацията на агенти. Това позволява на потребителите да посочат до кои инструменти и източници на данни е разрешено на агента да има достъп. Това е важно за предотвратяване на достъпа на агента до чувствителни данни или извършване на действия, които не е оторизиран да извършва.
MCP: Полагане на основата за управление на агенти
MCP осигурява съвместимост и гаранции за сигурност за извиквания на данни и инструменти, полагайки основата за управление на Agent, но не може да реши всички предизвикателства, пред които е изправено управлението.
Първо, по отношение на доверието, MCP не е формирал нормативен стандарт за избора на източници на данни и инструменти за извикване, нито е оценил и проверил резултатите от изпълнението. Второ, MCP не може временно да коригира новия тип търговски конкурентно сътрудничество, предизвикано от Agent.
Като цяло, MCP предоставя първоначален технически отговор на основните опасения за сигурността, пред които са изправени потребителите, използващи агенти, и се превърна в отправна точка за управление на агенти. С популяризирането на Agent и други AI приложения са необходими разпределени методи за задоволяване на диференцираните нужди на различните потребители. Фокусът на управлението не е само върху сигурността на модела, но и върху основното изискване за задоволяване на нуждите на потребителите. Протоколът MCP направи първата стъпка в отговора на нуждите на потребителите и насърчаването на технологичното съвместно управление. Също така на базата на MCP Agent постига ефективно разделение на труда и сътрудничество на различни инструменти и ресурси. Преди седмица Google пусна с отворен код протокола Agent2Agent (A2A) за комуникация между агенти, така че агентите, изградени на различни платформи, могат да преговарят за задачи и да провеждат безопасно сътрудничество и да насърчават развитието на екология с множество интелигентни тела.
Справяне с опасенията за доверие и надеждност
Въпреки че MCP предоставя солидна основа за управление на агенти, той не адресира всички предизвикателства. Една ключова област, която се нуждае от по-нататъшно внимание, е въпросът за доверието и надеждността. MCP в момента не включва никакви механизми за проверка на точността на резултатите от изпълнението или за гарантиране, че агентите избират подходящи източници на данни и инструменти. Това означава, че потребителите може да не могат напълно да се доверят на решенията, взети от агент, особено в ситуации с високи залози.
За да се отговори на това опасение, ще е необходимо да се разработят нови стандарти и най-добри практики за разработване и разгръщане на агенти. Това може да включва неща като методи за формална проверка, които могат да бъдат използвани за доказване, че един агент винаги ще се държи по предвидим и безопасен начин. Може да включва и използването на обясними AI техники, които могат да помогнат на потребителите да разберат как агентът взема решения.
Навигиране в новата конкурентна среда
Друго предизвикателство, което MCP не адресира напълно, е въздействието на агентите върху конкурентната среда. Тъй като агентите стават все по-разпространени, те вероятно ще нарушат съществуващите бизнес модели и ще създадат нови форми на конкуренция. Важно е да се обмисли потенциалното въздействие на агентите върху конкурентната среда и да се разработят стратегии за навигиране в тази нова среда. Това включва справяне с проблеми като собственост върху данни, интелектуална собственост и потенциал за антиконкурентно поведение.
Един потенциален подход е да се разработят нови регулаторни рамки, които са специално пригодени за AI агенти. Тези рамки могат да адресират въпроси като поверителност на данните, алгоритмично пристрастие и потенциал за манипулиране на пазара. Те могат да включват и механизми за насърчаване на конкуренцията и предотвратяване на монополи.
Пътят напред: Сътрудничество и иновации
Разработването на MCP е значителна стъпка напред в областта на управлението на агенти. Въпреки това е важно да се признае, че това е само началото. Все още има много предизвикателства, които трябва да бъдат преодолени, и ще изисква съвместни усилия от изследователи, разработчици, политици и потребители, за да се гарантира, че AI агентите се използват безопасно и отговорно.
Едно обещаващо развитие е неотдавнашното пускане на протокола Agent2Agent (A2A) на Google. Този протокол позволява на агенти, изградени на различни платформи, да комуникират и да си сътрудничат помежду си. Това може да доведе до разработването на по-сложни и усъвършенствани AI системи, където множество агенти работят заедно за решаване на проблем. Също така може да помогне за насърчаване на по-конкурентна и иновативна AI екосистема, тъй като разработчиците могат да изграждат агенти, които могат безпроблемно да се интегрират с други агенти.
Тъй като AI технологията продължава да се развива, от решаващо значение е да останем пред кривата и да разработим нови механизми за управление, които могат да отговорят на предизвикателствата на бъдещето. Това ще изисква ангажимент за сътрудничество, иновации и готовност да се адаптираме към непрекъснато променящия се пейзаж на AI.