Tạo Agent AI tương tác hệ thống | vi

Tạo Agent AI Tạo Sinh Tương Tác Với Hệ Thống Của Công Ty Bạn Chỉ Trong Vài Cú Nhấp Chuột Bằng Amazon Bedrock trong Amazon SageMaker Unified Studio

Áp lực không ngừng để duy trì hiệu quả hoạt động là một thách thức mà các công ty ở mọi quy mô phải đối mặt. Thách thức này càng được khuếch đại bởi khối lượng dữ liệu ngày càng tăng, các hệ thống phức tạp và số lượng lớn các tương tác của khách hàng cần được quản lý. Các quy trình thủ công truyền thống và bản chất thường rời rạc của các nguồn thông tin có thể dẫn đến tắc nghẽn đáng kể. Những trở ngại này làm chậm quá trình ra quyết định và ngăn các nhóm dành thời gian và năng lượng của họ cho công việc có giá trị cao hơn, thực sự tạo ra sự khác biệt. Các agent AI tạo sinh đại diện cho một giải pháp chuyển đổi. Các agent này có thể tự động giao tiếp với các hệ thống hiện có của công ty, thực hiện một loạt các tác vụ và cung cấp thông tin chi tiết tức thì. Điều này cho phép các tổ chức mở rộng quy mô hoạt động của họ một cách hiệu quả mà không làm tăng độ phức tạp tương ứng.

Amazon Bedrock trong SageMaker Unified Studio trực tiếp giải quyết những thách thức phổ biến này. Nó cung cấp một dịch vụ thống nhất được thiết kế để xây dựng các giải pháp dựa trên AI. Nền tảng này tập trung dữ liệu khách hàng và cho phép tương tác bằng ngôn ngữ tự nhiên, làm cho nó trực quan và thân thiện với người dùng. Một lợi thế chính là tích hợp liền mạch với các ứng dụng hiện có. Nó cũng kết hợp các tính năng Amazon Bedrock thiết yếu, bao gồm nhiều lựa chọn mô hình nền tảng (FM), khả năng kỹ thuật prompt, cơ sở tri thức để hiểu ngữ cảnh, agent để thực hiện tác vụ, luồng để điều phối quy trình làm việc, công cụ đánh giá để theo dõi hiệu suất và guardrails để phát triển AI có trách nhiệm. Người dùng có thể truy cập thuận tiện vào bộ khả năng AI toàn diện này thông qua hệ thống đăng nhập một lần (SSO) của tổ chức họ. Điều này thúc đẩy sự cộng tác giữa các thành viên trong nhóm và cho phép tinh chỉnh các ứng dụng AI mà không cần truy cập trực tiếp vào AWS Management Console.

Agent AI Tạo Sinh Cho Quy Trình Làm Việc Tự Động

Amazon Bedrock trong SageMaker Unified Studio cho phép bạn tạo và triển khai các agent AI tạo sinh phức tạp. Các agent này có thể tích hợp liền mạch với các ứng dụng, cơ sở dữ liệu và thậm chí cả các hệ thống của bên thứ ba của tổ chức bạn. Mức độ tích hợp này cho phép tương tác ngôn ngữ tự nhiên trên toàn bộ ngăn xếp công nghệ của bạn. Agent trò chuyện đóng vai trò là cầu nối quan trọng, kết nối các hệ thống thông tin phức tạp với giao tiếp thân thiện với người dùng. Bằng cách tận dụng các chức năng Amazon Bedrock và Amazon Bedrock Knowledge Bases, agent có khả năng kết nối với các nguồn dữ liệu đa dạng. Các nguồn này có thể bao gồm từ JIRA API để theo dõi trạng thái dự án theo thời gian thực đến các hệ thống quản lý quan hệ khách hàng (CRM) để truy xuất thông tin khách hàng. Agent cũng có thể cập nhật các tác vụ dự án, quản lý tùy chọn người dùng và hơn thế nữa.

Chức năng toàn diện này mang lại lợi ích đáng kể cho các nhóm khác nhau trong một tổ chức. Các nhóm bán hàng và tiếp thị có thể truy cập nhanh chóng vào thông tin khách hàng và thời gian họp ưa thích của họ. Người quản lý dự án có thể quản lý hiệu quả các tác vụ và thời gian biểu JIRA, tối ưu hóa quy trình làm việc của dự án. Quy trình hợp lý này, được hỗ trợ bởi agent AI, dẫn đến năng suất được nâng cao và cải thiện tương tác của khách hàng trên toàn bộ tổ chức.

Tổng Quan Giải Pháp

Amazon Bedrock cung cấp một môi trường hợp tác, được quản lý, tất cả đều nằm trong SageMaker Unified Studio, để xây dựng và chia sẻ các ứng dụng AI tạo sinh. Hãy cùng đi sâu vào một ví dụ giải pháp thực tế minh họa việc triển khai một agent quản lý khách hàng:

Agentic Chat: Một ứng dụng trò chuyện agentic tinh vi có thể được xây dựng bằng cách sử dụng các tính năng ứng dụng trò chuyện của Amazon Bedrock. Ứng dụng trò chuyện này có thể được tích hợp liền mạch với các chức năng dễ dàng được xây dựng bằng các dịch vụ AWS khác, chẳng hạn như AWS Lambda cho điện toán không máy chủ và Amazon API Gateway để tạo và quản lý API.
Quản lý dữ liệu: SageMaker Unified Studio, kết hợp với Amazon DataZone, cung cấp một giải pháp quản lý dữ liệu toàn diện thông qua các dịch vụ tích hợp của nó. Quản trị viên tổ chức có quyền kiểm soát chi tiết đối với quyền truy cập của thành viên vào các mô hình và tính năng của Amazon Bedrock. Điều này đảm bảo quản lý danh tính an toàn và kiểm soát truy cập chi tiết, duy trì bảo mật và tuân thủ dữ liệu.

Trước khi chúng ta đi sâu vào việc triển khai agent AI, sẽ rất hữu ích nếu xem qua các bước chính của kiến trúc.

Quy trình làm việc diễn ra như sau:

Xác thực và tương tác của người dùng: Người dùng bắt đầu quá trình bằng cách đăng nhập vào SageMaker Unified Studio bằng thông tin đăng nhập SSO của tổ chức họ từ AWS IAM Identity Center. Sau khi được xác thực, người dùng tương tác với ứng dụng trò chuyện bằng ngôn ngữ tự nhiên, đặt câu hỏi hoặc đưa ra yêu cầu.
Gọi hàm: Ứng dụng trò chuyện Amazon Bedrock sử dụng một cách thông minh một hàm được xác định trước để truy xuất thông tin liên quan. Hàm này có thể được thiết kế để tìm nạp các bản cập nhật trạng thái JIRA hoặc thông tin khách hàng từ cơ sở dữ liệu. Việc truy xuất được thực hiện thông qua một điểm cuối an toàn bằng API Gateway.
Truy cập an toàn và kích hoạt Lambda: Ứng dụng trò chuyện tự xác thực với API Gateway để truy cập an toàn vào điểm cuối được chỉ định. Việc xác thực này đạt được bằng cách sử dụng khóa API được tạo ngẫu nhiên được lưu trữ an toàn trong AWS Secrets Manager. Dựa trên yêu cầu của người dùng, hàm Lambda thích hợp sẽ được kích hoạt.
Thực thi hành động: Hàm Lambda, hiện đã được kích hoạt, thực hiện các hành động cụ thể mà người dùng yêu cầu. Điều này liên quan đến việc gọi JIRA API hoặc truy vấn cơ sở dữ liệu với các tham số cần thiết do agent cung cấp. Agent được thiết kế để xử lý nhiều tác vụ, bao gồm:
1. Cung cấp tổng quan ngắn gọn về một khách hàng cụ thể.
2. Liệt kê các tương tác gần đây với một khách hàng cụ thể.
3. Truy xuất tùy chọn cuộc họp cho một khách hàng được chỉ định.
4. Truy xuất danh sách các ticket JIRA đang mở liên quan đến một dự án cụ thể.
5. Cập nhật ngày đến hạn cho một ticket JIRA cụ thể.

Điều Kiện Tiên Quyết

Để làm theo việc triển khai giải pháp này và xây dựng agent quản lý khách hàng của riêng bạn, bạn sẽ cần các điều kiện tiên quyết sau:

Tài khoản AWS: Cần có tài khoản AWS đang hoạt động để truy cập các dịch vụ cần thiết.
Quyền truy cập SageMaker Unified Studio: Cần có quyền truy cập của người dùng vào Amazon Bedrock trong SageMaker Unified Studio.
Quyền truy cập mô hình: Bạn sẽ cần quyền truy cập mô hình vào Amazon Nova Pro trên Amazon Bedrock. Đảm bảo mô hình này khả dụng ở Khu vực AWS được hỗ trợ.
Thiết lập JIRA: Cần có ứng dụng JIRA, URL JIRA tương ứng và mã thông báo JIRA API được liên kết với tài khoản của bạn để tích hợp với JIRA.

Giả định rằng bạn có hiểu biết cơ bản về các khái niệm không máy chủ cơ bản trên AWS, bao gồm API Gateway, hàm Lambda và IAM Identity Center. Mặc dù bài đăng này sẽ không cung cấp định nghĩa chuyên sâu về các dịch vụ này, chúng tôi sẽ trình bày các trường hợp sử dụng của chúng trong ngữ cảnh của các tính năng Amazon Bedrock mới có sẵn trong SageMaker Unified Studio.

Triển Khai Giải Pháp

Để triển khai giải pháp agent quản lý khách hàng, hãy làm theo các bước sau:

Tải xuống mã: Bắt đầu bằng cách tải xuống mã cần thiết từ kho lưu trữ GitHub được cung cấp.
Truy xuất thông tin xác thực JIRA: Lấy các giá trị cho JIRA_API_KEY_ARN, JIRA_URL và JIRA_USER_NAME cho hàm Lambda. Các thông tin xác thực này sẽ được sử dụng để xác thực với phiên bản JIRA của bạn.
Khởi chạy ngăn xếp CloudFormation: Sử dụng mẫu AWS CloudFormation được cung cấp. Tham khảo tài liệu về “Tạo ngăn xếp từ bảng điều khiển CloudFormation” để được hướng dẫn chi tiết về cách khởi chạy ngăn xếp trong Khu vực AWS ưa thích của bạn.
URL API Gateway: Sau khi ngăn xếp CloudFormation đã được triển khai thành công, hãy điều hướng đến tab Outputs. Xác định vị trí và ghi lại giá trị ApiInvokeURL. URL này đại diện cho điểm cuối cho API Gateway của bạn.
Cấu hình Secrets Manager: Truy cập bảng điều khiển Secrets Manager. Tìm các bí mật tương ứng với JIRA_API_KEY_ARN, JIRA_URL và JIRA_USER_NAME.
Cập nhật giá trị bí mật: Chọn tùy chọn Retrieve secret cho mỗi bí mật. Sao chép các biến tương ứng thu được ở Bước 2 vào chuỗi văn bản thuần bí mật. Điều này sẽ lưu trữ an toàn thông tin xác thực JIRA của bạn.
Đăng nhập vào SageMaker Unified Studio: Đăng nhập vào SageMaker Unified Studio bằng thông tin đăng nhập SSO của tổ chức bạn.

Tạo Dự Án Mới

Với cơ sở hạ tầng đã sẵn sàng, hãy tạo một dự án mới trong SageMaker Unified Studio:

Tạo dự án: Trên trang đích SageMaker Unified Studio, hãy bắt đầu tạo một dự án mới.
Đặt tên dự án: Gán tên mô tả cho dự án của bạn (ví dụ: crm-agent).
Chọn hồ sơ: Chọn Generative AI application development profile và tiếp tục.
Cài đặt mặc định: Chấp nhận cài đặt mặc định và tiếp tục.
Xác nhận: Xem lại cấu hình dự án và chọn Create project để xác nhận.

Xây Dựng Ứng Dụng Agent Trò Chuyện

Bây giờ, hãy xây dựng cốt lõi của giải pháp của chúng ta – ứng dụng agent trò chuyện:

Khởi tạo agent trò chuyện: Trong trang đích dự án crm-agent, xác định vị trí phần New ở phía bên phải. Chọn Chat agent để bắt đầu xây dựng ứng dụng của bạn.
Thao tác này sẽ hiển thị danh sách cấu hình cho ứng dụng agent của bạn.
Chọn mô hình: Trong phần mô hình, chọn một mô hình nền tảng (FM) mong muốn được Amazon Bedrock hỗ trợ. Đối với crm-agent này, chúng ta sẽ chọn Amazon Nova Pro.
Định nghĩa prompt hệ thống: Trong phần prompt hệ thống, hãy cung cấp prompt sau. Prompt này sẽ hướng dẫn hành vi và phản hồi của agent. Bạn có thể tùy chọn bao gồm các ví dụ về đầu vào của người dùng và phản hồi của mô hình để tinh chỉnh thêm hiệu suất của nó.

Bạn là một agent quản lý quan hệ khách hàng có nhiệm vụ giúp nhân viên bán hàng lập kế hoạch công việc của họ vớikhách hàng. Bạn được cung cấp một điểm cuối API. Điểm cuối này có thể cung cấp thông tin như tổng quan về công ty, lịch sử tương tác của công ty (thời gian và ghi chú cuộc họp), tùy chọn cuộc họp của công ty (loại cuộc họp, ngày trong tuần và thời gian trong ngày). Bạn cũng có thể truy vấn các tác vụ Jira và cập nhật dòng thời gian của chúng. Sau khi nhận được phản hồi, hãy dọn dẹp nó thành một định dạng có thể đọc được. Nếu đầu ra là một danh sách được đánh số, hãy định dạng nó như vậy với các ký tự dòng mới và số.
Tạo hàm: Trong phần Functions, chọn Create a new function. Hàm này sẽ xác định các hành động mà agent có thể thực hiện.
Đặt tên hàm: Đặt cho hàm của bạn một tên mô tả, chẳng hạn như crm_agent_calling.
Lược đồ hàm: Đối với Function schema, hãy sử dụng định nghĩa OpenAPI được cung cấp trong kho lưu trữ GitHub. Lược đồ này xác định các tham số đầu vào và đầu ra cho hàm của bạn.
Cấu hình xác thực: Đối với Authentication method, chọn API Keys (Max. 2 Keys) và nhập các chi tiết sau:
1. Đối với Key sent in, chọn Header.
2. Đối với Key name, nhập x-api-key.
3. Đối với Key value, nhập Khóa API Secrets Manager.
Điểm cuối máy chủ API: Trong phần API servers, nhập URL điểm cuối bạn đã nhận được từ CloudFormation Outputs ( ApiInvokeURL).
Hoàn tất hàm: Chọn Create để hoàn tất việc tạo hàm.
Lưu ứng dụng: Trong phần Functions của ứng dụng agent trò chuyện, chọn hàm bạn vừa tạo và chọn Save để hoàn tất việc tạo ứng dụng.

Ví Dụ Tương Tác

Hãy khám phá một số ví dụ thực tế về cách sử dụng agent trò chuyện này:

Trường Hợp Sử Dụng 1: Nhà Phân Tích CRM Truy Xuất Chi Tiết Khách Hàng

Một nhà phân tích CRM có thể sử dụng ngôn ngữ tự nhiên để truy xuất chi tiết khách hàng được lưu trữ trong cơ sở dữ liệu. Dưới đây là một số câu hỏi ví dụ mà họ có thể hỏi:

“Hãy cho tôi một cái nhìn tổng quan ngắn gọn về khách hàng C-jkl101112.”
“Liệt kê 2 tương tác gần đây nhất cho khách hàng C-def456.”
“Khách hàng C-mno131415 thích phương thức giao tiếp nào?”
“Đề xuất thời gian và kênh liên hệ tối ưu để tiếp cận C-ghi789 dựa trên tùy chọn của họ và tương tác cuối cùng của chúng tôi.”

Agent, khi nhận được các yêu cầu này, sẽ truy vấn cơ sở dữ liệu một cách thông minh và cung cấp các câu trả lời tương ứng ở định dạng rõ ràng và ngắn gọn.

Trường Hợp Sử Dụng 2: Người Quản Lý Dự Án Quản Lý Ticket JIRA

Người quản lý dự án có thể sử dụng agent để liệt kê và cập nhật các ticket JIRA. Dưới đây là một số tương tác ví dụ:

“Các tác vụ JIRA đang mở cho ID dự án CRM là gì?”
“Vui lòng cập nhật tác vụ JIRA CRM-3 đến 1 tuần nữa.”

Agent sẽ truy cập bảng JIRA, tìm nạp thông tin dự án có liên quan và cung cấp danh sách các tác vụ JIRA đang mở. Nó cũng sẽ cập nhật dòng thời gian của một tác vụ cụ thể theo yêu cầu của người dùng.

Dọn Dẹp

Để tránh phát sinh chi phí không cần thiết, hãy thực hiện các bước dọn dẹp sau:

Xóa ngăn xếp CloudFormation: Xóa ngăn xếp CloudFormation mà bạn đã triển khai trước đó.
Xóa thành phần hàm: Xóa thành phần hàm bạn đã tạo trong Amazon Bedrock.
Xóa ứng dụng agent trò chuyện: Xóa ứng dụng agent trò chuyện trong Amazon Bedrock.
Xóa miền: Xóa các miền trong SageMaker Unified Studio.

Chi Phí

Việc sử dụng Amazon Bedrock trong SageMaker Unified Studio không phát sinh bất kỳ khoản phí riêng biệt nào. Tuy nhiên, bạn sẽ bị tính phí cho các dịch vụ và tài nguyên AWS riêng lẻ được sử dụng trong dịch vụ. Amazon Bedrock hoạt động theo mô hình trả tiền theo mức sử dụng, nghĩa là bạn chỉ trả tiền cho các tài nguyên bạn sử dụng, không có phí tối thiểu hoặc cam kết trả trước.

Nếu bạn cần hỗ trợ thêm về tính toán giá hoặc có câu hỏi về việc tối ưu hóa chi phí cho trường hợp sử dụng cụ thể của mình, bạn nên liên hệ với bộ phận Hỗ trợ AWS hoặc tham khảo ý kiến của người quản lý tài khoản của bạn. Họ có thể cung cấp hướng dẫn phù hợp dựa trên nhu cầu của bạn.

cập nhật lúc 2025-03-21

# Agent # Amazon # Nova