Индустрията на AI агентите в момента преживява познат сценарий. AI агентите използват общите възможности на големите модели, за да автоматизират разрешаването на сложни потребителски задачи, използвайки съществуващи технологии и инструменти. Това ги позиционира като най-обещаващия начин за разгръщане на моделната технология днес.
През последните няколко месеца се наблюдава експлозия на AI агент продукти. Високопрофилни предложения като Manus привлякоха широко внимание, а новите модели от OpenAI и Google все повече се ‘AI агент-изират’. От решаващо значение е, че стандартните протоколи бързо набират популярност.
Anthropic пусна MCP (Model Communication Protocol) като open-source в края на миналата година. MCP има за цел да установи отворена, стандартизирана спецификация, която позволява на големите езикови модели да взаимодействат безпроблемно с различни външни източници на данни и инструменти, като например бизнес софтуер, бази данни и хранилища за код. В рамките на месеци след пускането му, OpenAI, Google, Alibaba и Tencent изразиха подкрепа и го интегрираха. След това Google пусна A2A (Agent-to-Agent), с цел автоматизиране на сътрудничеството и работните потоци между AI агенти. Това допълнително подхрани процъфтяващия пейзаж на AI агентите.
По същество тези протоколи се справят с две ключови предизвикателства: MCP улеснява връзките между агентите и доставчиците на инструменти/услуги, докато A2A дава възможност за съвместни връзки между агентите за изпълнение на изключително сложни задачи.
Следователно, MCP може да бъде сравнен с ранните унифицирани интерфейси, докато A2A прилича на HTTP протокола.
Въпреки това, в историята на интернет, появата на HTTP беше последвана от критичен елемент, който беше необходим за истинското процъфтяване на интернет: стандарти за сигурност, наслоени върху протокола.
Днес, MCP и A2A са изправени пред подобна трудност.
‘Когато HTTP се появи, той по-късно се сблъска със значителни предизвикателства пред сигурността. Интернет преживя тази еволюция’, обяснява Zixi, технически ръководител на IIFAA (Internet Industry Financial Authentication Alliance) Trusted Authentication Alliance и експерт по сигурността на AI агентите.
Тези предизвикателства могат да се проявят в различни форми. В момента злонамерени актьори могат да създадат фалшиви инструменти за ‘запитване за времето’ и да ги регистрират в MCP сървъри, тайно открадвайки потребителска информация за полети във фонов режим. Когато потребител закупува лекарство чрез агент, агент A може да бъде отговорен за закупуването на цефподоксим, докато агент B закупува алкохол. Поради липса на възможности за идентифициране на рискове между платформите, системата не може да предостави предупреждение за ‘опасна комбинация’, както съществуващите платформи за електронна търговия. По-критично, удостоверяването на агент към агент и собствеността върху данни остават неясни. Дали потребителят разрешава локално приложение на своето устройство, или синхронизира лични данни в облака?
‘A2A, в своята официална документация, заявява, че гарантира само сигурността на предаването от най-високо ниво. Той оставя отговорността за гарантиране на произхода на идентичността и идентификационните данни, поверителността на данните и разпознаването на намеренията на отделните компании.’
Истинското процъфтяване на интелигентните агенти изисква тези проблеми да бъдат решени. IIFAA, където работи Zixi, е първата организация, която започва да се справя с този проблем.
‘В този контекст, IIFAA е посветена на решаването на серия от проблеми, пред които интелигентните агенти ще се изправят в бъдеще’, казва Zixi. ‘В ерата на A2A, ние също така дефинирахме подобен продукт, наречен ASL (Agent Security Layer), който може да бъде изграден върху MCP протокола, за да се гарантира сигурността на агентите по отношение на разрешения, данни, поверителност и други аспекти. Този междинен продукт също така се справя с предизвикателствата при прехода на A2A към бъдещи стандарти за сигурност.’
Работната група за надеждна взаимовръзка на интелигентни агенти на IIFAA е първата вътрешна организация за сътрудничество в екосистемата за сигурност на AI агенти. Тя беше инициирана съвместно от Китайската академия за информационни и комуникационни технологии (CAICT), Ant Group и повече от двадесет други технологични компании и институции.
От ASL до мащабируемост
‘Развитието на AI агентите се случва по-бързо, отколкото очаквахме, както технологично, така и по отношение на приемането на стандарти от екосистемата’, казва Zixi.
Концепцията на IIFAA за протокол за сигурност за комуникация между агенти се появи още през ноември миналата година, преди пускането на MCP. Работната група за надеждна взаимовръзка на интелигентни агенти на IIFAA беше официално създадена през декември, което съвпадна с официалното пускане на MCP.
‘Злонамерените актьори понякога овладяват нови технологии по-бързо от защитниците. Не можем да чакаме да възникнат проблеми, преди да обсъждаме реда. Това е необходимостта от съществуването на тази работна група’, заяви член на IIFAA в предишна презентация. Изграждането на индустриални норми за сигурност и взаимно доверие заедно е от решаващо значение за дългосрочното здравословно развитие.
Според Zixi, техният настоящ фокус е върху справянето със следните ключови проблеми в първата фаза:
Надеждна идентичност на агента: ‘Ние се стремим да изградим система за сертифициране на агенти, базирана на авторитетни институции и механизми за взаимно признаване. Точно както е необходим паспорт и виза за международни пътувания, това ще позволи на сертифицираните агенти бързо да се присъединят към мрежа за сътрудничество и ще попречи на несертифицираните агенти да нарушат реда на сътрудничество.’
Надеждно споделяне на намерения: ‘Сътрудничеството между интелигентни агенти разчита на автентичността и точността на намеренията. Следователно, надеждното споделяне на намерения е от решаващо значение за осигуряване на ефективно и надеждно многоагентно сътрудничество.’
Механизъм за защита на контекста: ‘Когато AI агент се свързва с множество MCP (многоканални протоколи) сървъри, цялата информация за описание на инструментите се зарежда в същия контекст на сесия. Злонамерен MCP сървър може да използва това, за да инжектира злонамерени инструкции. Защитата на контекста може да предотврати злонамеса, да поддържа сигурността на системата, да гарантира целостта на потребителските намерения и да предотврати отравящи атаки.’
Защита на поверителността на данните: ‘При многоагентно сътрудничество споделянето на данни може да доведе до нарушения на поверителността. Защитата на поверителността е от решаващо значение за предотвратяване на злоупотребата с чувствителна информация.’
Надеждно споделяне на паметта на агента: ‘Споделянето на паметта подобрява ефективността на многоагентното сътрудничество. Надеждното споделяне на паметта гарантира консистенцията, автентичността и сигурността на данните, предотвратявайки подправяне и изтичане, повишавайки ефективността на сътрудничеството и потребителското доверие.’
Надеждна циркулация на идентичността: ‘Потребителите очакват безпроблемно и гладко обслужване в AI-native приложения. Следователно, постигането на междуплатформено, ненатрапчиво разпознаване на идентичността е от ключово значение за подобряване на потребителското изживяване.’
‘Това са нашите краткосрочни цели. След това ще пуснем ASL на цялата индустрия. Това е софтуерна реализация, а не спецификация на протокол. Тя може да бъде приложена към MCP и A2A, за да се подобри корпоративното ниво на сигурност на тези два протокола. Това е краткосрочната цел’, обяснява Zixi.
‘В началото няма да специфицираме неща на слоя за сигурност. Няма да специфицираме A2AS. Вместо това се надяваме, че ако някой специфицира A2AS в бъдеще, нашият ASL може да се превърне в софтуерен компонент за внедряване, точно както SSL е софтуерен компонент за внедряване на HTTPS.’
Аналогията с HTTPS: Осигуряване на бъдещето на AI агентите
Правейки паралели с историята на HTTPS, осигуряването на сигурност дава възможност за широкото приемане на функционалности като плащане, като по този начин проправя пътя за по-мащабни търговски възможности. Подобен ритъм се разиграва и в момента. На 15 април Alipay си сътрудничи с общността ModelScope, за да представи услугата ‘Payment MCP Server’. Това позволява на AI разработчиците да интегрират безпроблемно платежните услуги на Alipay, използвайки естествен език, улеснявайки бързото внедряване на платежни функционалности в AI агентите.
Справянето с тези краткосрочни цели една по една в крайна сметка ще доведе до формирането на сигурен стандарт и среда за сътрудничество на агенти. Ключът към този процес е постигането на ефект на мащабиране. Вътрешните MCP ‘магазини’, които се движат бързо, вече започнаха да действат. Платформата за интелигентни агенти на Ant Group Baibaoxiang’s ‘MCP Zone’ ще интегрира решенията за сигурност на IIFAA. Този ‘MCP Store’ в момента поддържа внедряването и извикването на различни MCP услуги, включително Alipay, Amap и Wuying, което позволява най-бързото създаване на интелигентен агент, свързан с MCP услуги, само за 3 минути.
Zixi вярва, че общите възможности на големите модели имат потенциала наистина да революционизират потребителското изживяване и парадигмите на взаимодействие. В бъдеще настоящият подход на извикване на Apps за изпълнение на задачи може да бъде заменен от супер шлюз, който разчита на набор от инструменти, скрити зад кулисите, подобно на MCP Store. Това ще стане по-просто и по-разбираемо за потребителските нужди. Търговската реализация става възможна.
‘Развитието на AGI вече е навлязло във фазата на интелигентните агенти. В сравнение с чат роботи и AI с ограничени възможности за разсъждение, интелигентните агенти най-накрая се освободиха от етапа на затворена точка до точка, наистина отваряйки нова глава в търговските приложения.’
IIFAA наскоро пусна ASL и обяви неговото отворено издание. Чрез открито споделяне на код, стандарти и опит, тя има за цел да ускори технологичните иновации и итерации, призовавайки индустриалните предприятия и разработчици да участват широко и насърчавайки стандартизацията на технологиите в рамките на индустрията. Планът с отворен код ще приеме най-разрешителния лиценз Apache 2.0 и ще направи практиките за сигурност на документа за проектиране на кодовата библиотека достъпни отвън. Глобалните разработчици могат да участват в съвместно изграждане в рамките на общността на Github.
Императивът на сигурността при разработването на AI агенти
Възходът на AI агентите представлява промяна в парадигмата в начина, по който взаимодействаме с технологиите. Вече не сме ограничени до дискретни приложения, а по-скоро се движим към свят, в който интелигентните агенти могат безпроблемно да оркестрират множество инструменти и услуги, за да постигнат нашите цели. Тази визия обаче зависи от справянето с присъщите рискове за сигурността, които съпътстват такава мощна технология. Точно както интернет изискваше HTTPS, за да улесни сигурната електронна търговия и други чувствителни транзакции, AI агентите се нуждаят от стабилни стандарти за сигурност, за да насърчат доверието и да дадат възможност за широко приемане.
Настоящият пейзаж на разработването на AI агенти се характеризира с бързи иновации и експериментиране. Нови модели, протоколи и приложения се появяват с безпрецедентна скорост. Въпреки че този динамизъм несъмнено е вълнуващ, той също така представлява предизвикателство: опасенията за сигурността често отстъпват на скоростта и функционалността. Това може да доведе до уязвимости, които злонамерените актьори могат да експлоатират, потенциално компрометирайки потребителски данни, нарушавайки услуги и подкопавайки доверието в цялата екосистема.
Аналогията с ранните дни на интернет е особено уместна. При липса на широко разпространени мерки за сигурност, интернет беше тормозен от измами, фалшификации и други злонамерени дейности. Това попречи на растежа му и му попречи да достигне пълния си потенциал. Едва с появата на HTTPS и други протоколи за сигурност интернет се превърна в безопасна и надеждна платформа за електронна търговия, онлайн банкиране и други чувствителни транзакции.
По същия начин, AI агентите се нуждаят от силна основа от сигурност, за да реализират своя трансформативен потенциал. Без такава основа те рискуват да се превърнат в развъдник на нови форми на киберпрестъпления и онлайн експлоатация. Това би могло да задуши иновациите, да ерозира потребителското доверие и в крайна сметка да попречи на AI агентите да станат повсеместната и полезна технология, която мнозина си представят.
Справяне с предизвикателствата пред сигурността
Предизвикателствата пред сигурността, пред които са изправени AI агентите, са многостранни и изискват цялостен подход. Някои от ключовите предизвикателства включват:
- Удостоверяване и оторизация: Гарантиране, че само оторизирани агенти имат достъп до чувствителни данни и ресурси. Това изисква стабилни механизми за удостоверяване и гранулиран контрол на достъпа.
- Поверителност на данните: Защита на потребителските данни от неоторизиран достъп, употреба или разкриване. Това изисква прилагане на техники за запазване на поверителността, като анонимизиране, криптиране и диференциална поверителност.
- Проверка на намерения: Проверка, че намерението на агент е в съответствие с целите на потребителя и че не се манипулира от злонамерени актьори. Това изисква разработване на сложни алгоритми за разпознаване и проверка на намерения.
- Контекстуална сигурност: Защита на агентите от злонамерени атаки, които експлоатират уязвимости в заобикалящата среда. Това изисква прилагане на стабилни мерки за сигурност на всички слоеве на системата, от хардуера до софтуера.
- Сигурност от агент към агент: Гарантиране, че агентите могат да комуникират и да си сътрудничат сигурно помежду си. Това изисква разработване на сигурни комуникационни протоколи и механизми за доверие.
ASL на IIFAA е обещаваща стъпка в правилната посока. Като предоставя софтуерна реализация, която подобрява сигурността на MCP и A2A, ASL може да помогне за справяне с някои от тези предизвикателства. Необходими са обаче повече усилия, за да се създаде цялостна рамка за сигурност на AI агентите.
Пътят напред: Сътрудничество и стандартизация
Разработването на сигурни AI агенти изисква съвместни усилия, включващи изследователи, разработчици, заинтересовани страни от индустрията и политици. Някои от ключовите стъпки, които трябва да бъдат предприети, включват:
- Разработване на отворени стандарти: Създаването на отворени стандарти за сигурност на AI агенти е от решаващо значение за осигуряване на оперативна съвместимост и насърчаване на иновациите.
- Споделяне на най-добри практики: Споделянето на най-добри практики за сигурно разработване на AI агенти може да помогне за предотвратяване на общи уязвимости и насърчаване на култура на сигурност.
- Инвестиране в изследвания: Инвестирането в изследвания на сигурността на AI агенти е от съществено значение за разработването на нови техники и технологии за справяне с нововъзникващите заплахи.
- Насърчаване на образованието и осведомеността: Насърчаването на образованието и осведомеността за сигурността на AI агентите може да помогне за повишаване на стандарта за сигурност и насърчаване на отговорното развитие.
- Създаване на регулаторни рамки: Създаването на регулаторни рамки за сигурността на AI агентите може да помогне да се гарантира, че сигурността е приоритет и че потребителите са защитени.
Работейки заедно, можем да създадем бъдеще, в което AI агентите са не само мощни и полезни, но и сигурни и надеждни. Това ще изисква съгласувани усилия за справяне с предизвикателствата пред сигурността, които предстоят, и за изграждане на силна основа от сигурност за екосистемата на AI агентите. Само тогава можем да отключим пълния потенциал на AI агентите и да създадем наистина трансформативна технология. Усилията на организации като IIFAA са похвални в предприемането на тази инициатива, но широкото приемане и придържане към стандартите за сигурност са от решаващо значение за безопасното и проспериращо развитие на AI агентите.