Агенты ИИ для систем компаний

Генеративные ИИ-агенты для автоматизированных рабочих процессов

Постоянное давление, направленное на поддержание операционной эффективности, является проблемой, с которой сталкиваются компании любого размера. Эта проблема еще больше усугубляется постоянно растущими объемами данных, сложными системами и огромным количеством взаимодействий с клиентами, которыми необходимо управлять. Традиционные ручные процессы и зачастую разрозненный характер источников информации могут привести к значительным узким местам. Эти препятствия замедляют принятие решений и не позволяют командам посвящать свое время и энергию работе с более высокой ценностью, которая действительно двигает дело вперед. Генеративные ИИ-агенты представляют собой преобразующее решение. Эти агенты могут автоматически взаимодействовать с существующими системами компании, выполнять широкий спектр задач и предоставлять мгновенную информацию. Это позволяет организациям эффективно масштабировать свои операции без соответствующего увеличения сложности.

Amazon Bedrock in SageMaker Unified Studio напрямую решает эти распространенные проблемы. Он предлагает унифицированный сервис, предназначенный для создания решений на основе искусственного интеллекта. Эта платформа централизует данные о клиентах и обеспечивает взаимодействие на естественном языке, что делает ее интуитивно понятной и удобной для пользователя. Ключевым преимуществом является его бесшовная интеграция с существующими приложениями. Он также включает в себя основные функции Amazon Bedrock, в том числе широкий выбор базовых моделей (FMs), возможности разработки подсказок, базы знаний для контекстного понимания, агентов для выполнения задач, потоки для оркестровки рабочих процессов, инструменты оценки для мониторинга производительности и средства защиты для ответственной разработки ИИ. Пользователи могут удобно получить доступ к этому комплексному набору возможностей ИИ через систему единого входа (SSO) своей организации. Это способствует сотрудничеству между членами команды и позволяет совершенствовать приложения ИИ без необходимости прямого доступа к AWS Management Console.

Amazon Bedrock in SageMaker Unified Studio позволяет создавать и развертывать сложные генеративные ИИ-агенты. Эти агенты могут легко интегрироваться с приложениями, базами данных и даже сторонними системами вашей организации. Этот уровень интеграции обеспечивает взаимодействие на естественном языке во всем вашем технологическом стеке. Чат-агент действует как важнейший мост, соединяющий сложные информационные системы с удобным для пользователя общением. Используя функции Amazon Bedrock и базы знаний Amazon Bedrock, агент получает возможность подключаться к различным источникам данных. Эти источники могут варьироваться от API JIRA для отслеживания статуса проекта в режиме реального времени до систем управления взаимоотношениями с клиентами (CRM) для получения информации о клиентах. Агент также может обновлять задачи проекта, управлять настройками пользователя и многое другое.

Эта комплексная функциональность предоставляет значительные преимущества различным командам внутри организации. Отделы продаж и маркетинга могут получить быстрый доступ к информации о клиентах и их предпочтительному времени встреч. Менеджеры проектов могут эффективно управлять задачами и сроками JIRA, оптимизируя рабочие процессы проекта. Этот оптимизированный процесс, облегчаемый ИИ-агентом, ведет к повышению производительности и улучшению взаимодействия с клиентами во всей организации.

Обзор решения

Amazon Bedrock предоставляет управляемую, совместную среду, полностью в SageMaker Unified Studio, для создания и совместного использования генеративных приложений ИИ. Давайте углубимся в практический пример решения, демонстрирующий реализацию агента управления клиентами:

• Агентский чат: Сложное приложение агентского чата можно создать с помощью функций чат-приложения Amazon Bedrock. Это чат-приложение можно легко интегрировать с функциями, которые легко создаются с помощью других сервисов AWS, таких как AWS Lambda для бессерверных вычислений и Amazon API Gateway для создания API и управления ими.
• Управление данными: SageMaker Unified Studio в сочетании с Amazon DataZone предлагает комплексное решение для управления данными благодаря своим интегрированным сервисам. Администраторы организации имеют детальный контроль над доступом участников к моделям и функциям Amazon Bedrock. Это обеспечивает безопасное управление идентификацией и детальный контроль доступа, поддерживая безопасность данных и соответствие нормативным требованиям.

Прежде чем мы углубимся в развертывание ИИ-агента, полезно пройтись по ключевым этапам архитектуры.

Рабочий процесс разворачивается следующим образом:

1. Аутентификация и взаимодействие пользователя: Пользователь инициирует процесс, входя в SageMaker Unified Studio, используя учетные данные SSO своей организации из AWS IAM Identity Center. После аутентификации пользователь взаимодействует с чат-приложением, используя естественный язык, задавая вопросы или делая запросы.
2. Вызов функции: Чат-приложение Amazon Bedrock интеллектуально использует предопределенную функцию для получения соответствующей информации. Эта функция может быть предназначена для получения обновлений статуса JIRA или информации о клиентах из базы данных. Получение осуществляется через безопасную конечную точку с использованием API Gateway.
3. Безопасный доступ и триггер Lambda: Чат-приложение аутентифицируется в API Gateway для безопасного доступа к назначенной конечной точке. Эта аутентификация достигается с помощью случайно сгенерированного ключа API, надежно хранящегося в AWS Secrets Manager. В зависимости от запроса пользователя запускается соответствующая функция Lambda.
4. Выполнение действия: Функция Lambda, теперь активированная, выполняет конкретные действия, запрошенные пользователем. Это включает в себя вызов API JIRA или запрос к базе данных с необходимыми параметрами, предоставленными агентом. Агент предназначен для обработки различных задач, в том числе:
   1. Предоставление краткого обзора конкретного клиента.
   2. Перечисление последних взаимодействий с конкретным клиентом.
   3. Получение предпочтений по встречам для назначенного клиента.
   4. Получение списка открытых тикетов JIRA, связанных с конкретным проектом.
   5. Обновление срока выполнения для конкретного тикета JIRA.

Предварительные условия

Чтобы следовать этой реализации решения и создать собственного агента управления клиентами, вам потребуются следующие предварительные условия:

• Учетная запись AWS: Активная учетная запись AWS необходима для доступа к необходимым сервисам.
• Доступ к SageMaker Unified Studio: Требуется доступ пользователя к Amazon Bedrock в SageMaker Unified Studio.
• Доступ к модели: Вам потребуется доступ к модели Amazon Nova Pro в Amazon Bedrock. Убедитесь, что эта модель доступна в поддерживаемом регионе AWS.
• Настройка JIRA: Приложение JIRA, соответствующий URL-адрес JIRA и токен API JIRA, связанный с вашей учетной записью, необходимы для интеграции с JIRA.

Предполагается, что у вас есть базовое понимание фундаментальных бессерверных концепций в AWS, включая API Gateway, функции Lambda и IAM Identity Center. Хотя этот пост не будет предоставлять подробные определения этих сервисов, мы продемонстрируем их варианты использования в контексте новых функций Amazon Bedrock, доступных в SageMaker Unified Studio.

Развертывание решения

Чтобы развернуть решение агента управления клиентами, выполните следующие действия:

1. Загрузка кода: Начните с загрузки необходимого кода из предоставленного репозитория GitHub.
2. Получение учетных данных JIRA: Получите значения для JIRA_API_KEY_ARN, JIRA_URL и JIRA_USER_NAME для функции Lambda. Эти учетные данные будут использоваться для аутентификации в вашем экземпляре JIRA.
3. Запуск стека CloudFormation: Используйте предоставленный шаблон AWS CloudFormation. Обратитесь к документации «Создание стека из консоли CloudFormation» для получения подробных инструкций по запуску стека в предпочитаемом вами регионе AWS.
4. URL-адрес API Gateway: После успешного развертывания стека CloudFormation перейдите на вкладку Outputs. Найдите и запишите значение ApiInvokeURL. Этот URL-адрес представляет собой конечную точку для вашего API Gateway.
5. Конфигурация Secrets Manager: Откройте консоль Secrets Manager. Найдите секреты, соответствующие JIRA_API_KEY_ARN, JIRA_URL и JIRA_USER_NAME.
6. Обновление значений секретов: Выберите опцию Retrieve secret для каждого секрета. Скопируйте соответствующие переменные, полученные на шаге 2, в строку открытого текста секрета. Это позволит надежно сохранить ваши учетные данные JIRA.
7. Вход в SageMaker Unified Studio: Войдите в SageMaker Unified Studio, используя учетные данные SSO вашей организации.

Создание нового проекта

После создания инфраструктуры давайте создадим новый проект в SageMaker Unified Studio:

1. Создание проекта: На целевой странице SageMaker Unified Studio начните создание нового проекта.
2. Именование проекта: Присвойте своему проекту описательное имя (например, crm-agent).
3. Выбор профиля: Выберите Generative AI application development profile и продолжите.
4. Настройки по умолчанию: Примите настройки по умолчанию и продолжите.
5. Подтверждение: Просмотрите конфигурацию проекта и выберите Create project для подтверждения.

Создание приложения чат-агента

Теперь давайте построим ядро нашего решения – приложение чат-агента:

1. Инициализация чат-агента: На целевой странице проекта crm-agent найдите раздел New справа. Выберите Chat agent, чтобы начать создание приложения.
   Это представит список конфигураций для вашего приложения-агента.

2. Выбор модели: В разделе модели выберите желаемую базовую модель (FM), поддерживаемую Amazon Bedrock. Для этого crm-agent мы выберем Amazon Nova Pro.

3. Определение системной подсказки: В разделе системной подсказки укажите следующую подсказку. Эта подсказка будет определять поведение и ответы агента. Вы можете дополнительно включить примеры ввода пользователя и ответов модели, чтобы еще больше улучшить его производительность.

   Вы являетесь агентом по управлению взаимоотношениями с клиентами, которому поручено помогать продавцу планировать свою работу с клиентами. Вам предоставлена конечная точка API. Эта конечная точка может предоставлять такую информацию, как обзор компании, история взаимодействия с компанией (время и заметки о встречах), предпочтения компании по встречам (тип встречи, день недели и время суток). Вы также можете запрашивать задачи Jira и обновлять их сроки. После получения ответа очистите его в удобочитаемый формат. Если вывод представляет собой нумерованный список, отформатируйте его как таковой с символами новой строки и номерами.

4. Создание функции: В разделе Functions выберите Create a new function. Эта функция определит действия, которые может выполнять агент.

5. Именование функции: Дайте вашей функции описательное имя, например crm_agent_calling.

6. Схема функции: Для Function schema используйте определение OpenAPI, предоставленное в репозитории GitHub. Эта схема определяет входные и выходные параметры для вашей функции.

7. Конфигурация аутентификации: Для Authentication method выберите API Keys (Max. 2 Keys) и введите следующие данные:

   1. Для Key sent in выберите Header.
   2. Для Key name введите x-api-key.
   3. Для Key value введите ключ API Secrets Manager.

8. Конечная точка API-сервера: В разделе API servers введите URL-адрес конечной точки, полученный из Outputs CloudFormation (значение ApiInvokeURL).

9. Завершение создания функции: Выберите Create, чтобы завершить создание функции.

10. Сохранение приложения: В разделе Functions приложения чат-агента выберите только что созданную функцию и нажмите Save, чтобы завершить создание приложения.

Примеры взаимодействия

Давайте рассмотрим несколько практических примеров того, как можно использовать этот чат-агент:

Вариант использования 1: Аналитик CRM, получающий сведения о клиенте

Аналитик CRM может использовать естественный язык для получения сведений о клиентах, хранящихся в базе данных. Вот несколько примеров вопросов, которые они могут задать:

• ‘Дайте мне краткий обзор клиента C-jkl101112.’
• ‘Перечислите 2 последних взаимодействия с клиентом C-def456.’
• ‘Какой способ связи предпочитает клиент C-mno131415?’
• ‘Порекомендуйте оптимальное время и канал связи для обращения к C-ghi789 на основе их предпочтений и нашего последнего взаимодействия.’

Агент, получив эти запросы, интеллектуально запросит базу данных и предоставит соответствующие ответы в четком и сжатом формате.

Вариант использования 2: Менеджер проекта, управляющий тикетами JIRA

Менеджер проекта может использовать агент для перечисления и обновления тикетов JIRA. Вот несколько примеров взаимодействия:

• ‘Какие открытые задачи JIRA для проекта с идентификатором CRM?’
• ‘Пожалуйста, обновите задачу JIRA CRM-3 на 1 неделю вперед.’

Агент получит доступ к доске JIRA, извлечет соответствующую информацию о проекте и предоставит список открытых задач JIRA. Он также обновит сроки выполнения конкретной задачи по запросу пользователя.

Очистка

Чтобы предотвратить ненужные расходы, выполните следующие действия по очистке:

1. Удаление стека CloudFormation: Удалите стек CloudFormation, который вы развернули ранее.
2. Удаление компонента функции: Удалите компонент функции, который вы создали в Amazon Bedrock.
3. Удаление приложения чат-агента: Удалите приложение чат-агента в Amazon Bedrock.
4. Удаление доменов: Удалите домены в SageMaker Unified Studio.

Стоимость

Использование Amazon Bedrock в SageMaker Unified Studio не влечет за собой никаких отдельных сборов. Однако с вас будет взиматься плата за отдельные сервисы и ресурсы AWS, используемые в рамках сервиса. Amazon Bedrock работает по модели оплаты по факту использования, то есть вы платите только за те ресурсы, которые потребляете, без минимальных сборов или предварительных обязательств.

Если вам требуется дополнительная помощь в расчетах цен или у вас есть вопросы об оптимизации затрат для вашего конкретного варианта использования, рекомендуется обратиться в службу поддержки AWS или проконсультироваться с вашим менеджером по работе с клиентами. Они могут предоставить индивидуальные рекомендации, основанные на ваших потребностях.