SageMakerలో Bedrockతో AI ఏజెంట్లను క్రియేట్ చేయండి

ఆటోమేటెడ్ వర్క్‌ఫ్లోల కోసం జెనరేటివ్ AI-పవర్డ్ ఏజెంట్లు

Amazon Bedrock in SageMaker Unified Studio మిమ్మల్ని అధునాతన జెనరేటివ్ AI ఏజెంట్లను సృష్టించడానికి మరియు విస్తరించడానికి అనుమతిస్తుంది. ఈ ఏజెంట్లు మీ సంస్థ యొక్క అప్లికేషన్‌లు, డేటాబేస్‌లు మరియు థర్డ్-పార్టీ సిస్టమ్‌లతో కూడా సజావుగా అనుసంధానం చేయగలవు. ఈ స్థాయి అనుసంధానం మీ మొత్తం టెక్నాలజీ స్టాక్‌లో సహజ భాషా పరస్పర చర్యలను అనుమతిస్తుంది. చాట్ ఏజెంట్ సంక్లిష్ట సమాచార వ్యవస్థలు మరియు యూజర్ ఫ్రెండ్లీ కమ్యూనికేషన్ మధ్య కీలకమైన వారధిగా పనిచేస్తుంది. Amazon Bedrock ఫంక్షన్‌లు మరియు Amazon Bedrock నాలెడ్జ్ బేస్‌లను ఉపయోగించడం ద్వారా, ఏజెంట్ విభిన్న డేటా మూలాలతో కనెక్ట్ అయ్యే సామర్థ్యాన్ని పొందుతుంది. ఈ మూలాలు రియల్ టైమ్ ప్రాజెక్ట్ స్టేటస్ ట్రాకింగ్ కోసం JIRA APIల నుండి కస్టమర్ రిలేషన్షిప్ మేనేజ్‌మెంట్ (CRM) సిస్టమ్‌ల వరకు కస్టమర్ సమాచారాన్ని తిరిగి పొందడం కోసం ఉంటాయి. ఏజెంట్ ప్రాజెక్ట్ టాస్క్‌లను కూడా అప్‌డేట్ చేయవచ్చు, యూజర్ ప్రాధాన్యతలను నిర్వహించవచ్చు మరియు మరెన్నో చేయవచ్చు.

ఈ సమగ్ర కార్యాచరణ సంస్థలోని వివిధ బృందాలకు గణనీయమైన ప్రయోజనాలను అందిస్తుంది. సేల్స్ మరియు మార్కెటింగ్ బృందాలు కస్టమర్ సమాచారం మరియు వారి ఇష్టపడే సమావేశ సమయాలకు వేగంగా యాక్సెస్ పొందగలవు. ప్రాజెక్ట్ మేనేజర్‌లు JIRA టాస్క్‌లు మరియు టైమ్‌లైన్‌లను సమర్థవంతంగా నిర్వహించగలరు, ప్రాజెక్ట్ వర్క్‌ఫ్లోలను ఆప్టిమైజ్ చేయగలరు. AI ఏజెంట్ ద్వారా సులభతరం చేయబడిన ఈ క్రమబద్ధమైన ప్రక్రియ, మొత్తం సంస్థ అంతటా మెరుగైన ఉత్పాదకత మరియు మెరుగైన కస్టమర్ పరస్పర చర్యలకు దారి తీస్తుంది.

సొల్యూషన్ అవలోకనం

Amazon Bedrock జెనరేటివ్ AI అప్లికేషన్‌లను నిర్మించడానికి మరియు షేర్ చేయడానికి, SageMaker Unified Studioలోనే పాలిత, సహకార వాతావరణాన్ని అందిస్తుంది. కస్టమర్ మేనేజ్‌మెంట్ ఏజెంట్ అమలును ప్రదర్శించే ప్రాక్టికల్ ఉదాహరణ పరిష్కారాన్ని పరిశీలిద్దాం:

• ఏజెంటిక్ చాట్: Amazon Bedrock యొక్క చాట్ అప్లికేషన్ ఫీచర్‌లను ఉపయోగించి అధునాతన ఏజెంటిక్ చాట్ అప్లికేషన్‌ను నిర్మించవచ్చు. ఈ చాట్ అప్లికేషన్‌ను AWS Lambda వంటి ఇతర AWS సర్వీసులను ఉపయోగించి సులభంగా నిర్మించబడే ఫంక్షన్‌లతో సజావుగా అనుసంధానించవచ్చు, సర్వర్‌లెస్ కంప్యూట్ కోసం మరియు APIలను క్రియేట్ చేయడానికి మరియు నిర్వహించడానికి Amazon API Gateway.
• డేటా మేనేజ్‌మెంట్: SageMaker Unified Studio, Amazon DataZoneతో కలిసి, దాని ఇంటిగ్రేటెడ్ సర్వీసుల ద్వారా సమగ్ర డేటా మేనేజ్‌మెంట్ సొల్యూషన్‌ను అందిస్తుంది. సంస్థ నిర్వాహకులకు Amazon Bedrock మోడల్‌లు మరియు ఫీచర్‌లకు మెంబర్ యాక్సెస్‌పై ఫైన్-గ్రైన్డ్ కంట్రోల్ ఉంటుంది. ఇది సురక్షితమైన గుర్తింపు నిర్వహణ మరియు గ్రాన్యులర్ యాక్సెస్ కంట్రోల్‌ను నిర్ధారిస్తుంది, డేటా భద్రత మరియు సమ్మతిని నిర్వహిస్తుంది.

AI ఏజెంట్ విస్తరణలోకి లోతుగా వెళ్లే ముందు, ఆర్కిటెక్చర్ యొక్క కీలక దశలను తెలుసుకోవడం ప్రయోజనకరంగా ఉంటుంది.

వర్క్‌ఫ్లో ఈ క్రింది విధంగా విప్పుతుంది:

1. యూజర్ ఆథెంటికేషన్ మరియు ఇంటరాక్షన్: యూజర్ AWS IAM ఐడెంటిటీ సెంటర్ నుండి వారి సంస్థ యొక్క SSO ఆధారాలను ఉపయోగించి SageMaker Unified Studioలోకి లాగిన్ చేయడం ద్వారా ప్రక్రియను ప్రారంభిస్తారు. ధృవీకరించబడిన తర్వాత, యూజర్ సహజ భాషను ఉపయోగించి చాట్ అప్లికేషన్‌తో పరస్పర చర్య చేస్తారు, ప్రశ్నలు అడగడం లేదా అభ్యర్థనలు చేయడం.
2. ఫంక్షన్ ఇన్వోకేషన్: Amazon Bedrock చాట్ అప్లికేషన్ సంబంధిత సమాచారాన్ని తిరిగి పొందడానికి ముందుగా నిర్వచించిన ఫంక్షన్‌ను తెలివిగా ఉపయోగిస్తుంది. ఈ ఫంక్షన్ JIRA స్టేటస్ అప్‌డేట్‌లను లేదా డేటాబేస్ నుండి కస్టమర్ సమాచారాన్ని పొందడానికి రూపొందించబడవచ్చు. API Gatewayని ఉపయోగించి సురక్షిత ఎండ్‌పాయింట్ ద్వారా తిరిగి పొందడం జరుగుతుంది.
3. సురక్షిత యాక్సెస్ మరియు Lambda ట్రిగ్గర్: చాట్ అప్లికేషన్ నియమించబడిన ఎండ్‌పాయింట్‌ను సురక్షితంగా యాక్సెస్ చేయడానికి API Gatewayతో ధృవీకరిస్తుంది. ఈ ధృవీకరణ AWS Secrets Managerలో సురక్షితంగా నిల్వ చేయబడిన యాదృచ్ఛికంగా రూపొందించబడిన API కీని ఉపయోగించి సాధించబడుతుంది. యూజర్ యొక్క అభ్యర్థన ఆధారంగా, తగిన Lambda ఫంక్షన్ ట్రిగ్గర్ చేయబడుతుంది.
4. యాక్షన్ ఎగ్జిక్యూషన్: Lambda ఫంక్షన్, ఇప్పుడు యాక్టివేట్ చేయబడింది, యూజర్ అభ్యర్థించిన నిర్దిష్ట చర్యలను చేస్తుంది. ఇది JIRA APIని కాల్ చేయడం లేదా ఏజెంట్ అందించిన అవసరమైన పారామితులతో డేటాబేస్‌ను ప్రశ్నించడం వంటివి కలిగి ఉంటుంది. ఏజెంట్ వివిధ రకాల టాస్క్‌లను నిర్వహించడానికి రూపొందించబడింది, వీటితో సహా:
   1. నిర్దిష్ట కస్టమర్ యొక్క సంక్షిప్త అవలోకనాన్ని అందించడం.
   2. ఒక నిర్దిష్ట కస్టమర్‌తో ఇటీవలి పరస్పర చర్యలను లిస్ట్ చేయడం.
   3. నియమించబడిన కస్టమర్ కోసం మీటింగ్ ప్రాధాన్యతలను తిరిగి పొందడం.
   4. నిర్దిష్ట ప్రాజెక్ట్‌తో అనుబంధించబడిన ఓపెన్ JIRA టిక్కెట్‌ల లిస్ట్‌ను తిరిగి పొందడం.
   5. ఒక నిర్దిష్ట JIRA టిక్కెట్ కోసం గడువు తేదీని అప్‌డేట్ చేయడం.

అవసరమైనవి

ఈ సొల్యూషన్ అమలును అనుసరించడానికి మరియు మీ స్వంత కస్టమర్ మేనేజ్‌మెంట్ ఏజెంట్‌ను నిర్మించడానికి, మీకు ఈ క్రింది అవసరాలు అవసరం:

• AWS ఖాతా: అవసరమైన సర్వీసులను యాక్సెస్ చేయడానికి యాక్టివ్ AWS ఖాతా అవసరం.
• SageMaker Unified Studio యాక్సెస్: SageMaker Unified Studioలోని Amazon Bedrockకి యూజర్ యాక్సెస్ అవసరం.
• మోడల్ యాక్సెస్: మీకు Amazon Bedrockలో Amazon Nova Proకి మోడల్ యాక్సెస్ అవసరం. ఈ మోడల్ సపోర్ట్ చేయబడిన AWS రీజియన్‌లో అందుబాటులో ఉందని నిర్ధారించుకోండి.
• JIRA సెటప్: JIRAతో అనుసంధానం చేయడానికి JIRA అప్లికేషన్, దానికి సంబంధించిన JIRA URL మరియు మీ ఖాతాతో అనుబంధించబడిన JIRA API టోకెన్ అవసరం.

మీకు AWSలోని ఫండమెంటల్ సర్వర్‌లెస్ కాన్సెప్ట్‌లపై ప్రాథమిక అవగాహన ఉందని ఊహించబడింది, ఇందులో API Gateway, Lambda ఫంక్షన్‌లు మరియు IAM ఐడెంటిటీ సెంటర్ ఉన్నాయి. ఈ పోస్ట్ ఈ సర్వీసుల యొక్క లోతైన నిర్వచనాలను అందించనప్పటికీ, SageMaker Unified Studioలోని కొత్త Amazon Bedrock ఫీచర్‌ల సందర్భంలో వాటి యూజ్ కేసులను మేము ప్రదర్శిస్తాము.

సొల్యూషన్‌ను విస్తరించడం

కస్టమర్ మేనేజ్‌మెంట్ ఏజెంట్ సొల్యూషన్‌ను విస్తరించడానికి, ఈ దశలను అనుసరించండి:

1. కోడ్‌ను డౌన్‌లోడ్ చేయండి: అందించిన GitHub రిపోజిటరీ నుండి అవసరమైన కోడ్‌ను డౌన్‌లోడ్ చేయడం ద్వారా ప్రారంభించండి.
2. JIRA ఆధారాలను తిరిగి పొందండి: Lambda ఫంక్షన్ కోసం JIRA_API_KEY_ARN, JIRA_URL మరియు JIRA_USER_NAME విలువల కోసం పొందండి. ఈ ఆధారాలు మీ JIRA ఇన్‌స్టాన్స్‌తో ధృవీకరించడానికి ఉపయోగించబడతాయి.
3. CloudFormation స్టాక్‌ను ప్రారంభించండి: అందించిన AWS CloudFormation టెంప్లేట్‌ను ఉపయోగించండి. మీ ఇష్టపడే AWS రీజియన్‌లో స్టాక్‌ను ప్రారంభించడంపై వివరణాత్మక సూచనల కోసం “CloudFormation కన్సోల్ నుండి స్టాక్‌ను క్రియేట్ చేయండి” అనే డాక్యుమెంటేషన్‌ను చూడండి.
4. API Gateway URL: CloudFormation స్టాక్ విజయవంతంగా విస్తరించబడిన తర్వాత, Outputs ట్యాబ్‌కు నావిగేట్ చేయండి. ApiInvokeURL విలువను కనుగొని, నోట్ చేసుకోండి. ఈ URL మీ API Gateway కోసం ఎండ్‌పాయింట్‌ను సూచిస్తుంది.
5. Secrets Manager కాన్ఫిగరేషన్: Secrets Manager కన్సోల్‌ను యాక్సెస్ చేయండి. JIRA_API_KEY_ARN, JIRA_URL మరియు JIRA_USER_NAMEకి సంబంధించిన సీక్రెట్‌లను కనుగొనండి.
6. సీక్రెట్ విలువలను అప్‌డేట్ చేయండి: ప్రతి సీక్రెట్ కోసం Retrieve secret ఎంపికను ఎంచుకోండి. స్టెప్ 2లో పొందిన సంబంధిత వేరియబుల్స్‌ను సీక్రెట్ ప్లెయిన్‌టెక్స్ట్ స్ట్రింగ్‌లోకి కాపీ చేయండి. ఇది మీ JIRA ఆధారాలను సురక్షితంగా నిల్వ చేస్తుంది.
7. SageMaker Unified Studioకి సైన్ ఇన్ చేయండి: మీ సంస్థ యొక్క SSO ఆధారాలను ఉపయోగించి SageMaker Unified Studioకి సైన్ ఇన్ చేయండి.

కొత్త ప్రాజెక్ట్‌ను క్రియేట్ చేయడం

ఇన్‌ఫ్రాస్ట్రక్చర్ స్థానంలో ఉన్నందున, SageMaker Unified Studioలో కొత్త ప్రాజెక్ట్‌ను క్రియేట్ చేద్దాం:

1. ప్రాజెక్ట్ క్రియేషన్: SageMaker Unified Studio ల్యాండింగ్ పేజీలో, కొత్త ప్రాజెక్ట్ క్రియేషన్‌ను ప్రారంభించండి.
2. ప్రాజెక్ట్ నేమింగ్: మీ ప్రాజెక్ట్‌కు వివరణాత్మక పేరును కేటాయించండి (ఉదా., crm-agent).
3. ప్రొఫైల్ సెలక్షన్: Generative AI application development profileని ఎంచుకుని, కొనసాగండి.
4. డీఫాల్ట్ సెట్టింగ్‌లు: డీఫాల్ట్ సెట్టింగ్‌లను అంగీకరించి, కొనసాగించండి.
5. కన్ఫర్మేషన్: ప్రాజెక్ట్ కాన్ఫిగరేషన్‌ను రివ్యూ చేసి, నిర్ధారించడానికి Create projectని ఎంచుకోండి.

చాట్ ఏజెంట్ అప్లికేషన్‌ను బిల్డ్ చేయడం

ఇప్పుడు, మన సొల్యూషన్ యొక్క కోర్ – చాట్ ఏజెంట్ అప్లికేషన్‌ను నిర్మిద్దాం:

1. చాట్ ఏజెంట్ ఇనిషియేషన్: crm-agent ప్రాజెక్ట్ ల్యాండింగ్ పేజీలో, కుడి వైపున ఉన్న New సెక్షన్‌ను కనుగొనండి. మీ అప్లికేషన్‌ను బిల్డ్ చేయడం ప్రారంభించడానికి Chat agentని ఎంచుకోండి.
   ఇది మీ ఏజెంట్ అప్లికేషన్ కోసం కాన్ఫిగరేషన్‌ల లిస్ట్‌ను ప్రదర్శిస్తుంది.

2. మోడల్ సెలక్షన్: మోడల్ సెక్షన్ కింద, Amazon Bedrock ద్వారా సపోర్ట్ చేయబడిన కావలసిన ఫౌండేషన్ మోడల్ (FM)ని ఎంచుకోండి. ఈ crm-agent కోసం, మేము Amazon Nova Proని ఎంచుకుంటాము.

3. సిస్టమ్ ప్రాంప్ట్ డెఫినిషన్: సిస్టమ్ ప్రాంప్ట్ సెక్షన్‌లో, ఈ క్రింది ప్రాంప్ట్‌ను అందించండి. ఈ ప్రాంప్ట్ ఏజెంట్ యొక్క ప్రవర్తన మరియు ప్రతిస్పందనలకు మార్గనిర్దేశం చేస్తుంది. దాని పనితీరును మరింత మెరుగుపరచడానికి మీరు యూజర్ ఇన్‌పుట్ మరియు మోడల్ ప్రతిస్పందనల ఉదాహరణలను ఐచ్ఛికంగా చేర్చవచ్చు.

   You are a customer relationship management agent tasked with helping a sales person plan their work with customers. You are provided with an API endpoint. This endpoint can provide information like company overview, company interaction history (meeting times and notes), company meeting preferences (meeting type, day of week, and time of day). You can also query Jira tasks and update their timeline. After receiving a response, clean it up into a readable format. If the output is a numbered list, format it as such with newline characters and numbers.

4. ఫంక్షన్ క్రియేషన్: Functions సెక్షన్‌లో, Create a new functionని ఎంచుకోండి. ఈ ఫంక్షన్ ఏజెంట్ చేయగల చర్యలను నిర్వచిస్తుంది.

5. ఫంక్షన్ నేమింగ్: మీ ఫంక్షన్‌కు వివరణాత్మక పేరు ఇవ్వండి, ఉదాహరణకు crm_agent_calling.

6. ఫంక్షన్ స్కీమా: Function schema కోసం, GitHub రిపోజిటరీలో అందించిన OpenAPI డెఫినిషన్‌ను ఉపయోగించండి. ఈ స్కీమా మీ ఫంక్షన్ కోసం ఇన్‌పుట్ మరియు అవుట్‌పుట్ పారామితులను నిర్వచిస్తుంది.

7. ఆథెంటికేషన్ కాన్ఫిగరేషన్: Authentication method కోసం, **API Keys (Max. 2 Keys)**ని ఎంచుకుని, ఈ క్రింది వివరాలను నమోదు చేయండి:

   1. Key sent in కోసం, Headerని ఎంచుకోండి.
   2. Key name కోసం, x-api-keyని నమోదు చేయండి.
   3. Key value కోసం, Secrets Manager API కీని నమోదు చేయండి.

8. API సర్వర్ ఎండ్‌పాయింట్: API servers సెక్షన్‌లో, మీరు CloudFormation అవుట్‌పుట్‌ల నుండి పొందిన ఎండ్‌పాయింట్ URLను (ApiInvokeURL) ఇన్‌పుట్ చేయండి.

9. ఫంక్షన్ ఫైనలైజేషన్: ఫంక్షన్ క్రియేషన్‌ను ఫైనలైజ్ చేయడానికి Createని ఎంచుకోండి.

10. అప్లికేషన్ సేవింగ్: చాట్ ఏజెంట్ అప్లికేషన్ యొక్క Functions సెక్షన్‌లో, మీరు ఇప్పుడే క్రియేట్ చేసిన ఫంక్షన్‌ను ఎంచుకుని, అప్లికేషన్ క్రియేషన్‌ను పూర్తి చేయడానికి Saveని ఎంచుకోండి.

ఉదాహరణ పరస్పర చర్యలు

ఈ చాట్ ఏజెంట్‌ను ఎలా ఉపయోగించవచ్చో కొన్ని ప్రాక్టికల్ ఉదాహరణలను అన్వేషిద్దాం:

యూజ్ కేసు 1: CRM అనలిస్ట్ కస్టమర్ వివరాలను తిరిగి పొందడం

ఒక CRM అనలిస్ట్ డేటాబేస్‌లో నిల్వ చేయబడిన కస్టమర్ వివరాలను తిరిగి పొందడానికి సహజ భాషను ఉపయోగించవచ్చు. వారు అడగக்கூடிய కొన్ని ఉదాహరణ ప్రశ్నలు ఇక్కడ ఉన్నాయి:

• “Give me a brief overview of customer C-jkl101112.”
• “List the last 2 recent interactions for customer C-def456.”
• “What communication method does customer C-mno131415 prefer?”
• “Recommend optimal time and contact channel to reach out to C-ghi789 based on their preferences and our last interaction.”

ఏజెంట్, ఈ అభ్యర్థనలను స్వీకరించిన తర్వాత, తెలివిగా డేటాబేస్‌ను ప్రశ్నిస్తుంది మరియు సంబంధిత సమాధానాలను స్పష్టమైన మరియు సంక్షిప్త రూపంలో అందిస్తుంది.

యూజ్ కేసు 2: ప్రాజెక్ట్ మేనేజర్ JIRA టిక్కెట్‌లను నిర్వహించడం

ఒక ప్రాజెక్ట్ మేనేజర్ JIRA టిక్కెట్‌లను లిస్ట్ చేయడానికి మరియు అప్‌డేట్ చేయడానికి ఏజెంట్‌ను ఉపయోగించవచ్చు. ఇక్కడ కొన్ని ఉదాహరణ పరస్పర చర్యలు ఉన్నాయి:

• “What are the open JIRA Tasks for project id CRM?”
• “Please update JIRA Task CRM-3 to 1 weeks out.”

ఏజెంట్ JIRA బోర్డును యాక్సెస్ చేస్తుంది, సంబంధిత ప్రాజెక్ట్ సమాచారాన్ని పొందుతుంది మరియు ఓపెన్ JIRA టాస్క్‌ల లిస్ట్‌ను అందిస్తుంది. ఇది యూజర్ అభ్యర్థించిన విధంగా నిర్దిష్ట టాస్క్ యొక్క టైమ్‌లైన్‌ను కూడా అప్‌డేట్ చేస్తుంది.

క్లీన్ అప్

అనవసరమైన ఖర్చులను నివారించడానికి, ఈ క్రింది క్లీన్-అప్ దశలను చేయండి:

1. CloudFormation స్టాక్‌ను తొలగించండి: మీరు ముందుగా విస్తరించిన CloudFormation స్టాక్‌ను తొలగించండి.
2. ఫంక్షన్ కాంపోనెంట్‌ను తొలగించండి: మీరు Amazon Bedrockలో క్రియేట్ చేసిన ఫంక్షన్ కాంపోనెంట్‌ను తీసివేయండి.
3. చాట్ ఏజెంట్ అప్లికేషన్‌ను తొలగించండి: Amazon Bedrockలోని చాట్ ఏజెంట్ అప్లికేషన్‌ను తొలగించండి.
4. డొమైన్‌లను తొలగించండి: SageMaker Unified Studioలోని డొమైన్‌లను తొలగించండి.

ఖర్చు

SageMaker Unified Studioలోని Amazon Bedrockని ఉపయోగించడం వలన ఎటువంటి ప్రత్యేక ఛార్జీలు ఉండవు. అయితే, సర్వీసులో ఉపయోగించిన వ్యక్తిగత AWS సర్వీసులు మరియు వనరుల కోసం మీకు బిల్ చేయబడుతుంది. Amazon Bedrock పే-యాజ్-యు-గో మోడల్‌పై పనిచేస్తుంది, అంటే మీరు ఉపయోగించే వనరులకు మాత్రమే మీరు చెల్లిస్తారు, కనీస ఫీజులు లేదా ముందస్తు కట్టుబాట్లు ఉండవు.

మీకు ధర గణనలతో మరింత సహాయం అవసరమైతే లేదా మీ నిర్దిష్ట యూజ్ కేసు కోసం ఖర్చులను ఆప్టిమైజ్ చేయడం గురించి ప్రశ్నలు ఉంటే, AWS సపోర్ట్‌ను సంప్రదించడం లేదా మీ ఖాతా మేనేజర్‌తో సంప్రదించడం మంచిది. వారు మీ అవసరాల ఆధారంగా తగిన మార్గదర్శకత్వాన్ని అందించగలరు.