AI агенти в Amazon Bedrock

Създаване на генеративни AI агенти, които взаимодействат със системите на вашите компании с няколко кликвания, използвайки Amazon Bedrock в Amazon SageMaker Unified Studio

Непрестанният натиск за поддържане на оперативна ефективност е предизвикателство, пред което са изправени компании от всякакъв мащаб. Това предизвикателство се засилва допълнително от непрекъснато нарастващите обеми от данни, сложните системи и огромния брой взаимодействия с клиенти, които трябва да бъдат управлявани. Традиционните ръчни процеси и често разединеният характер на източниците на информация могат да доведат до значителни затруднения. Тези пречки забавят вземането на решения и пречат на екипите да посветят времето и енергията си на работа с по-висока стойност, която наистина движи нещата напред. Генеративните AI агенти представляват трансформиращо решение. Тези агенти могат автоматично да се свързват със съществуващите системи на компанията, да изпълняват широк спектър от задачи и да предоставят незабавни прозрения. Това позволява на организациите да мащабират ефективно своите операции, без съответно увеличение на сложността.

Amazon Bedrock в SageMaker Unified Studio директно се справя с тези широко разпространени предизвикателства. Той предлага унифицирана услуга, предназначена за изграждане на решения, управлявани от AI. Тази платформа централизира клиентските данни и позволява взаимодействия на естествен език, което я прави интуитивна и лесна за използване. Ключово предимство е безпроблемната му интеграция със съществуващите приложения. Той също така включва основни функции на Amazon Bedrock, включително богат избор от базови модели (FMs), възможности за prompt engineering, бази знания за контекстуално разбиране, агенти за изпълнение на задачи, потоци за оркестрация на работния процес, инструменти за оценка за наблюдение на производителността и предпазни мерки за отговорно разработване на AI. Потребителите могат удобно да получат достъп до този изчерпателен набор от AI възможности чрез системата за еднократна идентификация (SSO) на своята организация. Това насърчава сътрудничеството между членовете на екипа и позволява усъвършенстване на AI приложенията, без да се изисква директен достъп до AWS Management Console.

Генеративни AI-базирани агенти за автоматизирани работни потоци

Amazon Bedrock в SageMaker Unified Studio ви дава възможност да създавате и внедрявате сложни генеративни AI агенти. Тези агенти могат безпроблемно да се интегрират с приложенията на вашата организация, базите данни и дори системи на трети страни. Това ниво на интеграция позволява взаимодействия на естествен език в целия ви технологичен стек. Чат агентът действа като решаващ мост, свързващ сложни информационни системи с лесна за използване комуникация. Чрез използване на функциите на Amazon Bedrock и Amazon Bedrock Knowledge Bases, агентът придобива способността да се свързва с различни източници на данни. Тези източници могат да варират от JIRA API за проследяване на състоянието на проекта в реално време до системи за управление на взаимоотношенията с клиенти (CRM) за извличане на информация за клиентите. Агентът може също така да актуализира задачи по проекта, да управлява потребителските предпочитания и много други.

Тази изчерпателна функционалност предоставя значителни ползи за различни екипи в рамките на една организация. Екипите по продажби и маркетинг могат да получат бърз достъп до информация за клиентите и предпочитаните от тях времена за срещи. Ръководителите на проекти могат ефективно да управляват JIRA задачи и срокове, оптимизирайки работните потоци на проекта. Този рационализиран процес, улеснен от AI агента, води до повишена производителност и подобрени взаимодействия с клиентите в цялата организация.

Преглед на решението

Amazon Bedrock предоставя управлявана, съвместна среда, изцяло в рамките на SageMaker Unified Studio, за изграждане и споделяне на генеративни AI приложения. Нека се задълбочим в практически пример за решение, което демонстрира внедряването на агент за управление на клиенти:

  • Agentic Chat: Може да се изгради сложно приложение за agentic chat, използвайки функциите за чат приложение на Amazon Bedrock. Това чат приложение може да бъде безпроблемно интегрирано с функции, които лесно се изграждат с помощта на други AWS услуги, като AWS Lambda за serverless изчисления и Amazon API Gateway за създаване и управление на API.
  • Управление на данни: SageMaker Unified Studio, заедно с Amazon DataZone, предлага цялостно решение за управление на данни чрез своите интегрирани услуги. Администраторите на организацията имат прецизен контрол върху достъпа на членовете до моделите и функциите на Amazon Bedrock. Това гарантира сигурно управление на самоличността и гранулиран контрол на достъпа, поддържайки сигурността и съответствието на данните.

Преди да се задълбочим във внедряването на AI агента, е полезно да преминем през ключовите стъпки на архитектурата.

Работният процес се развива, както следва:

  1. Удостоверяване и взаимодействие на потребителя: Потребителят инициира процеса, като влиза в SageMaker Unified Studio, използвайки SSO идентификационните данни на своята организация от AWS IAM Identity Center. Веднъж удостоверен, потребителят взаимодейства с чат приложението, използвайки естествен език, задавайки въпроси или отправяйки заявки.
  2. Извикване на функция: Чат приложението на Amazon Bedrock интелигентно използва предварително дефинирана функция, за да извлече съответната информация. Тази функция може да бъде проектирана да извлича актуализации на състоянието на JIRA или информация за клиенти от базата данни. Извличането се извършва чрез защитена крайна точка, използвайки API Gateway.
  3. Сигурен достъп и задействане на Lambda: Чат приложението се удостоверява с API Gateway за сигурен достъп до определената крайна точка. Това удостоверяване се постига с помощта на произволно генериран API ключ, съхраняван сигурно в AWS Secrets Manager. Въз основа на заявката на потребителя се задейства съответната Lambda функция.
  4. Изпълнение на действие: Lambda функцията, вече активирана, изпълнява конкретните действия, поискани от потребителя. Това включва извикване на JIRA API или заявка към базата данни с необходимите параметри, предоставени от агента. Агентът е проектиран да се справя с различни задачи, включително:
    1. Предоставяне на кратък преглед на конкретен клиент.
    2. Изброяване на скорошни взаимодействия с конкретен клиент.
    3. Извличане на предпочитанията за срещи за определен клиент.
    4. Извличане на списък с отворени JIRA тикети, свързани с конкретен проект.
    5. Актуализиране на крайния срок за конкретен JIRA тикет.

Предпоставки

За да следвате това внедряване на решение и да изградите свой собствен агент за управление на клиенти, ще ви трябват следните предпоставки:

  • AWS акаунт: Активен AWS акаунт е от съществено значение за достъп до необходимите услуги.
  • Достъп до SageMaker Unified Studio: Изисква се потребителски достъп до Amazon Bedrock в рамките на SageMaker Unified Studio.
  • Достъп до модел: Ще ви е необходим достъп до модела Amazon Nova Pro в Amazon Bedrock. Уверете се, че този модел е наличен в поддържан AWS регион.
  • Настройка на JIRA: JIRA приложение, съответният му JIRA URL адрес и JIRA API токен, свързан с вашия акаунт, са необходими за интегриране с JIRA.

Предполага се, че имате основни познания за фундаменталните serverless концепции в AWS, включително API Gateway, Lambda функции и IAM Identity Center. Въпреки че тази публикация няма да предостави задълбочени дефиниции на тези услуги, ние ще демонстрираме техните случаи на употреба в контекста на новите функции на Amazon Bedrock, налични в SageMaker Unified Studio.

Внедряване на решението

За да внедрите решението за агент за управление на клиенти, следвайте тези стъпки:

  1. Изтегляне на код: Започнете, като изтеглите необходимия код от предоставеното GitHub хранилище.
  2. Извличане на JIRA идентификационни данни: Получете стойностите за JIRA_API_KEY_ARN, JIRA_URL и JIRA_USER_NAME за Lambda функцията. Тези идентификационни данни ще се използват за удостоверяване с вашия JIRA екземпляр.
  3. Стартиране на CloudFormation стек: Използвайте предоставения AWS CloudFormation шаблон. Обърнете се към документацията за „Създаване на стек от CloudFormation конзолата“ за подробни инструкции относно стартирането на стека във вашия предпочитан AWS регион.
  4. API Gateway URL: След като CloudFormation стекът е успешно внедрен, отидете в раздела Outputs. Намерете и запишете стойността ApiInvokeURL. Този URL адрес представлява крайната точка за вашия API Gateway.
  5. Конфигурация на Secrets Manager: Осъществете достъп до конзолата на Secrets Manager. Намерете тайните, съответстващи на JIRA_API_KEY_ARN, JIRA_URL и JIRA_USER_NAME.
  6. Актуализиране на тайни стойности: Изберете опцията Retrieve secret за всяка тайна. Копирайте съответните променливи, получени в Стъпка 2, в тайния низ с обикновен текст. Това ще съхрани сигурно вашите JIRA идентификационни данни.
  7. Влизане в SageMaker Unified Studio: Влезте в SageMaker Unified Studio, използвайки SSO идентификационните данни на вашата организация.

Създаване на нов проект

След като инфраструктурата е налице, нека създадем нов проект в SageMaker Unified Studio:

  1. Създаване на проект: На началната страница на SageMaker Unified Studio инициирайте създаването на нов проект.
  2. Наименуване на проекта: Задайте описателно име на вашия проект (напр. crm-agent).
  3. Избор на профил: Изберете Generative AI application development profile и продължете.
  4. Настройки по подразбиране: Приемете настройките по подразбиране и продължете.
  5. Потвърждение: Прегледайте конфигурацията на проекта и изберете Create project, за да потвърдите.

Изграждане на приложението за чат агент

Сега, нека изградим ядрото на нашето решение – приложението за чат агент:

  1. Иницииране на чат агент: В рамките на началната страница на проекта crm-agent намерете секцията New от дясната страна. Изберете Chat agent, за да започнете да изграждате вашето приложение.
    Това ще представи списък с конфигурации за вашето приложение за агент.

  2. Избор на модел: Под секцията за модел изберете желания базов модел (FM), поддържан от Amazon Bedrock. За този crm-agent ще изберем Amazon Nova Pro.

  3. Дефиниране на системен prompt: В секцията за системен prompt предоставете следния prompt. Този prompt ще ръководи поведението и отговорите на агента. Можете по избор да включите примери за въвеждане от потребителя и отговори на модела, за да усъвършенствате допълнително неговата производителност.

    Вие сте агент за управление на взаимоотношенията с клиенти, натоварен да помага на търговец да планира работата си с клиенти. Предоставен ви е API endpoint. Този endpoint може да предостави информация като преглед на компанията, история на взаимодействията с компанията (времена и бележки за срещи), предпочитания за срещи на компанията (тип среща, ден от седмицата и час от деня). Можете също така да правите заявки за Jira задачи и да актуализирате техния график. След като получите отговор, го почистете в четим формат. Ако изходът е номериран списък, форматирайте го като такъв със знаци за нов ред и числа.

  4. Създаване на функция: В секцията Functions изберете Create a new function. Тази функция ще дефинира действията, които агентът може да извършва.

  5. Наименуване на функция: Дайте на функцията си описателно име, като например crm_agent_calling.

  6. Схема на функцията: За Function schema използвайте OpenAPI дефиницията, предоставена в GitHub хранилището. Тази схема дефинира входните и изходните параметри за вашата функция.

  7. Конфигурация на удостоверяването: За Authentication method изберете API Keys (Max. 2 Keys) и въведете следните подробности:

    1. За Key sent in изберете Header.
    2. За Key name въведете x-api-key.
    3. За Key value въведете API ключа на Secrets Manager.
  8. API сървър endpoint: В секцията API servers въведете URL адреса на крайната точка, който сте получили от CloudFormation Outputs (ApiInvokeURL).

  9. Финализиране на функцията: Изберете Create, за да финализирате създаването на функцията.

  10. Запазване на приложението: В секцията Functions на приложението за чат агент изберете функцията, която току-що създадохте, и изберете Save, за да завършите създаването на приложението.

Примерни взаимодействия

Нека разгледаме някои практически примери за това как може да се използва този чат агент:

Случай на употреба 1: CRM анализатор извлича подробности за клиента

CRM анализатор може да използва естествен език, за да извлече подробности за клиента, съхранени в базата данни. Ето някои примерни въпроси, които може да зададе:

  • “Дайте ми кратък преглед на клиент C-jkl101112.”
  • “Избройте последните 2 скорошни взаимодействия за клиент C-def456.”
  • “Какъв метод за комуникация предпочита клиент C-mno131415?”
  • “Препоръчайте оптимално време и канал за контакт, за да се свържете с C-ghi789 въз основа на техните предпочитания и последното ни взаимодействие.”

Агентът, след като получи тези заявки, интелигентно ще направи заявка към базата данни и ще предостави съответните отговори в ясен и сбит формат.

Случай на употреба 2: Ръководител на проект, управляващ JIRA тикети

Ръководител на проект може да използва агента, за да изброява и актуализира JIRA тикети. Ето някои примерни взаимодействия:

  • “Какви са отворените JIRA задачи за проект с ID CRM?”
  • “Моля, актуализирайте JIRA задача CRM-3 на 1 седмица напред.”

Агентът ще осъществи достъп до JIRA борда, ще извлече съответната информация за проекта и ще предостави списък с отворени JIRA задачи. Той също така ще актуализира графика на конкретна задача, както е поискано от потребителя.

Почистване

За да предотвратите начисляването на ненужни разходи, изпълнете следните стъпки за почистване:

  1. Изтриване на CloudFormation стек: Изтрийте CloudFormation стека, който сте внедрили по-рано.
  2. Изтриване на функционален компонент: Премахнете функционалния компонент, който сте създали в Amazon Bedrock.
  3. Изтриване на приложението за чат агент: Изтрийте приложението за чат агент в Amazon Bedrock.
  4. Изтриване на домейни: Изтрийте домейните в SageMaker Unified Studio.

Цена

Използването на Amazon Bedrock в SageMaker Unified Studio не води до никакви отделни такси. Въпреки това ще бъдете таксувани за отделните AWS услуги и ресурси, използвани в рамките на услугата. Amazon Bedrock работи на модел pay-as-you-go, което означава, че плащате само за ресурсите, които консумирате, без минимални такси или предварителни ангажименти.

Ако имате нужда от допълнителна помощ при изчисляването на цените или имате въпроси относно оптимизирането на разходите за вашия конкретен случай на употреба, препоръчително е да се свържете с AWS Support или да се консултирате с вашия акаунт мениджър. Те могат да предоставят персонализирани насоки въз основа на вашите нужди.