สร้าง AI Agent แบบ Generative ที่โต้ตอบกับระบบบริษัทคุณได้ในไม่กี่คลิก

Generative AI Agents สำหรับเวิร์กโฟลว์อัตโนมัติ

แรงกดดันอย่างไม่หยุดยั้งในการรักษาประสิทธิภาพการดำเนินงานเป็นความท้าทายที่บริษัททุกขนาดต้องเผชิญ ความท้าทายนี้ยิ่งทวีความรุนแรงขึ้นจากปริมาณข้อมูลที่เพิ่มขึ้นอย่างต่อเนื่อง ระบบที่ซับซ้อน และจำนวนการโต้ตอบกับลูกค้าที่ต้องจัดการ กระบวนการแบบแมนนวลแบบดั้งเดิมและลักษณะของแหล่งข้อมูลที่มักจะไม่ปะติดปะต่อกันอาจนำไปสู่ปัญหาคอขวดที่สำคัญ อุปสรรคเหล่านี้ทำให้การตัดสินใจช้าลง และขัดขวางไม่ให้ทีมทุ่มเทเวลาและพลังงานให้กับงานที่มีมูลค่าสูงกว่าซึ่งขับเคลื่อนธุรกิจได้อย่างแท้จริง Generative AI agents เป็นโซลูชันที่เปลี่ยนแปลงรูปแบบการทำงาน เอเจนต์เหล่านี้สามารถเชื่อมต่อกับระบบที่มีอยู่ของบริษัทโดยอัตโนมัติ ดำเนินงานที่หลากหลาย และให้ข้อมูลเชิงลึกได้ทันที ซึ่งช่วยให้องค์กรสามารถขยายขนาดการดำเนินงานได้อย่างมีประสิทธิภาพโดยไม่ต้องเพิ่มความซับซ้อนตามไปด้วย

Amazon Bedrock ใน SageMaker Unified Studio แก้ไขปัญหาที่แพร่หลายเหล่านี้ได้โดยตรง โดยนำเสนอบริการแบบครบวงจรที่ออกแบบมาสำหรับการสร้างโซลูชันที่ขับเคลื่อนด้วย AI แพลตฟอร์มนี้รวมศูนย์ข้อมูลลูกค้าและเปิดใช้งานการโต้ตอบด้วยภาษาธรรมชาติ ทำให้ใช้งานง่ายและเป็นมิตรกับผู้ใช้ ข้อได้เปรียบที่สำคัญคือการผสานรวมกับแอปพลิเคชันที่มีอยู่อย่างราบรื่น นอกจากนี้ยังรวมคุณสมบัติที่สำคัญของ Amazon Bedrock รวมถึง foundation models (FMs) ที่มีให้เลือกมากมาย ความสามารถในการทำ prompt engineering, knowledge bases สำหรับความเข้าใจตามบริบท, agents สำหรับการดำเนินงาน, flows สำหรับการจัดการเวิร์กโฟลว์, เครื่องมือประเมินสำหรับการตรวจสอบประสิทธิภาพ และ guardrails สำหรับการพัฒนา AI อย่างมีความรับผิดชอบ ผู้ใช้สามารถเข้าถึงชุดความสามารถ AI ที่ครอบคลุมนี้ได้อย่างสะดวกผ่านระบบ single sign-on (SSO) ขององค์กร ซึ่งส่งเสริมการทำงานร่วมกันระหว่างสมาชิกในทีมและช่วยให้สามารถปรับแต่งแอปพลิเคชัน AI ได้โดยไม่ต้องเข้าถึง AWS Management Console โดยตรง

Amazon Bedrock ใน SageMaker Unified Studio ช่วยให้คุณสร้างและปรับใช้ Generative AI agents ที่มีความซับซ้อนได้ เอเจนต์เหล่านี้สามารถผสานรวมกับแอปพลิเคชัน ฐานข้อมูล และแม้แต่ระบบของบริษัทอื่นได้อย่างราบรื่น การผสานรวมในระดับนี้ช่วยให้สามารถโต้ตอบด้วยภาษาธรรมชาติได้ทั่วทั้งเทคโนโลยีของคุณ Chat agent ทำหน้าที่เป็นสะพานเชื่อมที่สำคัญ เชื่อมต่อระบบข้อมูลที่ซับซ้อนกับการสื่อสารที่ใช้งานง่าย ด้วยการใช้ประโยชน์จากฟังก์ชัน Amazon Bedrock และ Amazon Bedrock Knowledge Bases เอเจนต์จะได้รับความสามารถในการเชื่อมต่อกับแหล่งข้อมูลที่หลากหลาย แหล่งข้อมูลเหล่านี้อาจมีตั้งแต่ JIRA APIs สำหรับการติดตามสถานะโครงการแบบเรียลไทม์ไปจนถึงระบบ customer relationship management (CRM) สำหรับการดึงข้อมูลลูกค้า เอเจนต์ยังสามารถอัปเดตงานโครงการ จัดการการตั้งค่าของผู้ใช้ และอื่นๆ อีกมากมาย

ฟังก์ชันการทำงานที่ครอบคลุมนี้ให้ประโยชน์ที่สำคัญแก่ทีมต่างๆ ภายในองค์กร ทีมขายและการตลาดสามารถเข้าถึงข้อมูลลูกค้าและเวลาประชุมที่ต้องการได้อย่างรวดเร็ว ผู้จัดการโครงการสามารถจัดการงานและไทม์ไลน์ของ JIRA ได้อย่างมีประสิทธิภาพ เพิ่มประสิทธิภาพเวิร์กโฟลว์ของโครงการ กระบวนการที่คล่องตัวนี้ ซึ่งอำนวยความสะดวกโดย AI agent นำไปสู่ประสิทธิภาพการทำงานที่เพิ่มขึ้นและการโต้ตอบกับลูกค้าที่ดีขึ้นทั่วทั้งองค์กร

ภาพรวมโซลูชัน

Amazon Bedrock มอบสภาพแวดล้อมที่มีการกำกับดูแลและทำงานร่วมกันได้ ทั้งหมดนี้อยู่ใน SageMaker Unified Studio เพื่อสร้างและแชร์แอปพลิเคชัน Generative AI ลองเจาะลึกตัวอย่างโซลูชันที่ใช้งานได้จริงซึ่งแสดงให้เห็นถึงการใช้งาน customer management agent:

• Agentic Chat: แอปพลิเคชัน agentic chat ที่ซับซ้อนสามารถสร้างขึ้นได้โดยใช้คุณสมบัติแอปพลิเคชันแชทของ Amazon Bedrock แอปพลิเคชันแชทนี้สามารถผสานรวมกับฟังก์ชันที่สร้างขึ้นได้อย่างง่ายดายโดยใช้บริการอื่นๆ ของ AWS เช่น AWS Lambda สำหรับการประมวลผลแบบ serverless และ Amazon API Gateway สำหรับการสร้างและจัดการ APIs
• Data Management: SageMaker Unified Studio ร่วมกับ Amazon DataZone นำเสนอโซลูชันการจัดการข้อมูลที่ครอบคลุมผ่านบริการแบบบูรณาการ ผู้ดูแลระบบองค์กรสามารถควบคุมการเข้าถึงของสมาชิกไปยังโมเดลและคุณสมบัติของ Amazon Bedrock ได้อย่างละเอียด ซึ่งช่วยให้มั่นใจได้ถึงการจัดการข้อมูลประจำตัวที่ปลอดภัยและการควบคุมการเข้าถึงแบบละเอียด รักษาความปลอดภัยของข้อมูลและการปฏิบัติตามข้อกำหนด

ก่อนที่เราจะเจาะลึกการปรับใช้ AI agent จะเป็นประโยชน์ที่จะอธิบายขั้นตอนสำคัญของสถาปัตยกรรม

เวิร์กโฟลว์มีดังนี้:

1. User Authentication and Interaction: ผู้ใช้เริ่มต้นกระบวนการโดยการเข้าสู่ระบบ SageMaker Unified Studio โดยใช้ข้อมูลประจำตัว SSO ขององค์กรจาก AWS IAM Identity Center เมื่อได้รับการรับรองความถูกต้องแล้ว ผู้ใช้จะโต้ตอบกับแอปพลิเคชันแชทโดยใช้ภาษาธรรมชาติ ตั้งคำถาม หรือทำการร้องขอ
2. Function Invocation: แอปพลิเคชันแชท Amazon Bedrock ใช้ฟังก์ชันที่กำหนดไว้ล่วงหน้าอย่างชาญฉลาดเพื่อดึงข้อมูลที่เกี่ยวข้อง ฟังก์ชันนี้อาจได้รับการออกแบบมาเพื่อดึงข้อมูลอัปเดตสถานะ JIRA หรือข้อมูลลูกค้าจากฐานข้อมูล การดึงข้อมูลจะดำเนินการผ่าน endpoint ที่ปลอดภัยโดยใช้ API Gateway
3. Secure Access and Lambda Trigger: แอปพลิเคชันแชทรับรองความถูกต้องกับ API Gateway เพื่อเข้าถึง endpoint ที่กำหนดไว้อย่างปลอดภัย การรับรองความถูกต้องนี้ทำได้โดยใช้ API key ที่สร้างขึ้นแบบสุ่มซึ่งจัดเก็บไว้อย่างปลอดภัยใน AWS Secrets Manager ตามคำขอของผู้ใช้ ฟังก์ชัน Lambda ที่เหมาะสมจะถูกทริกเกอร์
4. Action Execution: ฟังก์ชัน Lambda ซึ่งเปิดใช้งานแล้ว จะดำเนินการเฉพาะที่ผู้ใช้ร้องขอ ซึ่งเกี่ยวข้องกับการเรียก JIRA API หรือการสืบค้นฐานข้อมูลด้วยพารามิเตอร์ที่จำเป็นซึ่ง agent จัดเตรียมให้ agent ได้รับการออกแบบมาเพื่อจัดการงานที่หลากหลาย รวมถึง:
   1. ให้ภาพรวมโดยย่อของลูกค้าเฉพาะราย
   2. แสดงรายการการโต้ตอบล่าสุดกับลูกค้าเฉพาะราย
   3. ดึงข้อมูลการตั้งค่าการประชุมสำหรับลูกค้าที่กำหนด
   4. ดึงรายการ JIRA tickets ที่เปิดอยู่ซึ่งเกี่ยวข้องกับโครงการเฉพาะ
   5. อัปเดตวันที่ครบกำหนดสำหรับ JIRA ticket เฉพาะ

ข้อกำหนดเบื้องต้น

เพื่อให้เป็นไปตามการใช้งานโซลูชันนี้และสร้าง customer management agent ของคุณเอง คุณจะต้องมีข้อกำหนดเบื้องต้นต่อไปนี้:

• AWS Account: บัญชี AWS ที่ใช้งานอยู่เป็นสิ่งจำเป็นในการเข้าถึงบริการที่จำเป็น
• SageMaker Unified Studio Access: จำเป็นต้องมีการเข้าถึง Amazon Bedrock ภายใน SageMaker Unified Studio ของผู้ใช้
• Model Access: คุณจะต้องเข้าถึงโมเดล Amazon Nova Pro บน Amazon Bedrock ตรวจสอบให้แน่ใจว่าโมเดลนี้มีอยู่ใน AWS Region ที่รองรับ
• JIRA Setup: จำเป็นต้องมีแอปพลิเคชัน JIRA, JIRA URL ที่เกี่ยวข้อง และ JIRA API token ที่เชื่อมโยงกับบัญชีของคุณสำหรับการผสานรวมกับ JIRA

สันนิษฐานว่าคุณมีความเข้าใจพื้นฐานเกี่ยวกับแนวคิด serverless พื้นฐานบน AWS รวมถึง API Gateway, ฟังก์ชัน Lambda และ IAM Identity Center แม้ว่าโพสต์นี้จะไม่ได้ให้คำจำกัดความเชิงลึกของบริการเหล่านี้ แต่เราจะสาธิต use cases ของบริการเหล่านี้ในบริบทของคุณสมบัติใหม่ของ Amazon Bedrock ที่มีอยู่ใน SageMaker Unified Studio

การปรับใช้โซลูชัน

ในการปรับใช้โซลูชัน customer management agent ให้ทำตามขั้นตอนเหล่านี้:

1. Download Code: เริ่มต้นด้วยการดาวน์โหลดโค้ดที่จำเป็นจาก GitHub repository ที่ให้ไว้
2. Retrieve JIRA Credentials: รับค่าสำหรับ JIRA_API_KEY_ARN, JIRA_URL และ JIRA_USER_NAME สำหรับฟังก์ชัน Lambda ข้อมูลประจำตัวเหล่านี้จะใช้ในการรับรองความถูกต้องกับอินสแตนซ์ JIRA ของคุณ
3. Launch CloudFormation Stack: ใช้เทมเพลต AWS CloudFormation ที่ให้ไว้ อ้างถึงเอกสารประกอบเกี่ยวกับ “Create a stack from the CloudFormation console” สำหรับคำแนะนำโดยละเอียดเกี่ยวกับการเปิดใช้ stack ใน AWS Region ที่คุณต้องการ
4. API Gateway URL: หลังจากที่ CloudFormation stack ได้รับการปรับใช้เรียบร้อยแล้ว ให้ไปที่แท็บ Outputs ค้นหาและจดค่า ApiInvokeURL URL นี้แสดงถึง endpoint สำหรับ API Gateway ของคุณ
5. Secrets Manager Configuration: เข้าถึงคอนโซล Secrets Manager ค้นหา secrets ที่สอดคล้องกับ JIRA_API_KEY_ARN, JIRA_URL และ JIRA_USER_NAME
6. Update Secret Values: เลือกตัวเลือก Retrieve secret สำหรับแต่ละ secret คัดลอกตัวแปรที่เกี่ยวข้องที่ได้รับในขั้นตอนที่ 2 ลงในสตริงข้อความธรรมดาของ secret ซึ่งจะจัดเก็บข้อมูลประจำตัว JIRA ของคุณอย่างปลอดภัย
7. Sign in to SageMaker Unified Studio: ลงชื่อเข้าใช้ SageMaker Unified Studio โดยใช้ข้อมูลประจำตัว SSO ขององค์กรของคุณ

การสร้างโครงการใหม่

เมื่อโครงสร้างพื้นฐานพร้อมแล้ว มาสร้างโครงการใหม่ภายใน SageMaker Unified Studio:

1. Project Creation: บนหน้า Landing Page ของ SageMaker Unified Studio ให้เริ่มต้นการสร้างโครงการใหม่
2. Project Naming: กำหนดชื่อที่สื่อความหมายให้กับโครงการของคุณ (เช่น crm-agent)
3. Profile Selection: เลือก Generative AI application development profile และดำเนินการต่อ
4. Default Settings: ยอมรับการตั้งค่าเริ่มต้นและดำเนินการต่อ
5. Confirmation: ตรวจสอบการกำหนดค่าโครงการและเลือก Create project เพื่อยืนยัน

การสร้างแอปพลิเคชัน Chat Agent

ตอนนี้ มาสร้างแกนหลักของโซลูชันของเรา – แอปพลิเคชัน chat agent:

1. Chat Agent Initiation: ภายในหน้า Landing Page ของโครงการ crm-agent ให้ค้นหาส่วน New ทางด้านขวา เลือก Chat agent เพื่อเริ่มต้นสร้างแอปพลิเคชันของคุณ
   ซึ่งจะแสดงรายการการกำหนดค่าสำหรับแอปพลิเคชัน agent ของคุณ

2. Model Selection: ภายใต้ส่วน model ให้เลือก foundation model (FM) ที่ต้องการซึ่ง Amazon Bedrock รองรับ สำหรับ crm-agent นี้ เราจะเลือก Amazon Nova Pro

3. System Prompt Definition: ในส่วน system prompt ให้ระบุ prompt ต่อไปนี้ prompt นี้จะแนะนำพฤติกรรมและการตอบสนองของ agent คุณสามารถเลือกที่จะรวมตัวอย่างของอินพุตของผู้ใช้และการตอบสนองของโมเดลเพื่อปรับแต่งประสิทธิภาพเพิ่มเติมได้

   You are a customer relationship management agent tasked with helping a sales person plan their work with customers. You are provided with an API endpoint. This endpoint can provide information like company overview, company interaction history (meeting times and notes), company meeting preferences (meeting type, day of week, and time of day). You can also query Jira tasks and update their timeline. After receiving a response, clean it up into a readable format. If the output is a numbered list, format it as such with newline characters and numbers.

4. Function Creation: ในส่วน Functions ให้เลือก Create a new function ฟังก์ชันนี้จะกำหนดการดำเนินการที่ agent สามารถทำได้

5. Function Naming: ตั้งชื่อที่สื่อความหมายให้กับฟังก์ชันของคุณ เช่น crm_agent_calling

6. Function Schema: สำหรับ Function schema ให้ใช้คำจำกัดความ OpenAPI ที่ให้ไว้ใน GitHub repository schema นี้กำหนดพารามิเตอร์อินพุตและเอาต์พุตสำหรับฟังก์ชันของคุณ

7. Authentication Configuration: สำหรับ Authentication method ให้เลือก API Keys (Max. 2 Keys) และป้อนรายละเอียดต่อไปนี้:

   1. สำหรับ Key sent in ให้เลือก Header
   2. สำหรับ Key name ให้ป้อน x-api-key
   3. สำหรับ Key value ให้ป้อน Secrets Manager API Key

8. API Server Endpoint: ในส่วน API servers ให้ป้อน URL endpoint ที่คุณได้รับจาก CloudFormation Outputs (ApiInvokeURL)

9. Function Finalization: เลือก Create เพื่อสรุปการสร้างฟังก์ชัน

10. Application Saving: ในส่วน Functions ของแอปพลิเคชัน chat agent ให้เลือกฟังก์ชันที่คุณเพิ่งสร้างและเลือก Save เพื่อสร้างแอปพลิเคชันให้เสร็จสมบูรณ์

ตัวอย่างการโต้ตอบ

ลองสำรวจตัวอย่างการใช้งานจริงของวิธีที่ chat agent นี้สามารถนำไปใช้ได้:

Use Case 1: CRM Analyst ดึงรายละเอียดลูกค้า

CRM analyst สามารถใช้ภาษาธรรมชาติเพื่อดึงรายละเอียดลูกค้าที่จัดเก็บไว้ในฐานข้อมูลได้ นี่คือตัวอย่างคำถามที่พวกเขาอาจถาม:

• “Give me a brief overview of customer C-jkl101112.” (ให้ภาพรวมโดยย่อของลูกค้า C-jkl101112 แก่ฉัน)
• “List the last 2 recent interactions for customer C-def456.” (แสดงรายการการโต้ตอบ 2 รายการล่าสุดสำหรับลูกค้า C-def456)
• “What communication method does customer C-mno131415 prefer?” (ลูกค้า C-mno131415 ชอบวิธีการสื่อสารแบบใด)
• “Recommend optimal time and contact channel to reach out to C-ghi789 based on their preferences and our last interaction.” (แนะนำเวลาและช่องทางการติดต่อที่เหมาะสมที่สุดเพื่อติดต่อ C-ghi789 ตามความชอบของพวกเขาและการโต้ตอบครั้งล่าสุดของเรา)

เมื่อได้รับคำขอเหล่านี้ agent จะสืบค้นฐานข้อมูลอย่างชาญฉลาดและให้คำตอบที่สอดคล้องกันในรูปแบบที่ชัดเจนและรัดกุม

Use Case 2: Project Manager จัดการ JIRA Tickets

Project manager สามารถใช้ agent เพื่อแสดงรายการและอัปเดต JIRA tickets ได้ นี่คือตัวอย่างการโต้ตอบ:

• “What are the open JIRA Tasks for project id CRM?” (JIRA Tasks ที่เปิดอยู่สำหรับ project id CRM คืออะไร)
• “Please update JIRA Task CRM-3 to 1 weeks out.” (โปรดอัปเดต JIRA Task CRM-3 เป็น 1 สัปดาห์)

agent จะเข้าถึง JIRA board ดึงข้อมูลโครงการที่เกี่ยวข้อง และแสดงรายการ JIRA tasks ที่เปิดอยู่ นอกจากนี้ยังจะอัปเดตไทม์ไลน์ของงานเฉพาะตามที่ผู้ใช้ร้องขอ

การล้างข้อมูล

เพื่อป้องกันการเกิดค่าใช้จ่ายที่ไม่จำเป็น ให้ทำตามขั้นตอนการล้างข้อมูลต่อไปนี้:

1. Delete CloudFormation Stack: ลบ CloudFormation stack ที่คุณปรับใช้ก่อนหน้านี้
2. Delete Function Component: ลบ function component ที่คุณสร้างใน Amazon Bedrock
3. Delete Chat Agent Application: ลบแอปพลิเคชัน chat agent ภายใน Amazon Bedrock
4. Delete Domains: ลบโดเมนใน SageMaker Unified Studio

ค่าใช้จ่าย

การใช้ Amazon Bedrock ภายใน SageMaker Unified Studio ไม่มีค่าใช้จ่ายแยกต่างหาก อย่างไรก็ตาม คุณจะถูกเรียกเก็บเงินสำหรับบริการและทรัพยากร AWS แต่ละรายการที่ใช้ภายในบริการ Amazon Bedrock ดำเนินการตามรูปแบบ pay-as-you-go ซึ่งหมายความว่าคุณจะจ่ายเฉพาะทรัพยากรที่คุณใช้เท่านั้น โดยไม่มีค่าธรรมเนียมขั้นต่ำหรือข้อผูกมัดล่วงหน้า

หากคุณต้องการความช่วยเหลือเพิ่มเติมเกี่ยวกับการคำนวณราคาหรือมีคำถามเกี่ยวกับการเพิ่มประสิทธิภาพค่าใช้จ่ายสำหรับ use case เฉพาะของคุณ ขอแนะนำให้ติดต่อ AWS Support หรือปรึกษากับผู้จัดการบัญชีของคุณ พวกเขาสามารถให้คำแนะนำที่ปรับให้เหมาะกับความต้องการของคุณได้