Amazon SageMaker मध्ये जनरेटिव्ह AI एजंट तयार करा

जनरेटिव्ह AI एजंट्स जे तुमच्या कंपनीच्या सिस्टीमशी संवाद साधतात

कार्यक्षमतेचा दबाव सर्व आकाराच्या कंपन्यांसाठी एक आव्हान आहे. डेटा, गुंतागुंतीच्या प्रणाली आणि मोठ्या संख्येने ग्राहकांच्या संवादांमुळे हे आव्हान अधिक वाढते. पारंपारिक प्रक्रिया आणि विस्कळीत माहिती स्त्रोतांमुळे निर्णय घेण्यास विलंब होतो. जनरेटिव्ह AI एजंट्स एक परिवर्तनकारी उपाय देतात. हे एजंट्स कंपनीच्या विद्यमान प्रणालींशी आपोआप संवाद साधू शकतात, विविध कार्ये करू शकतात आणि त्वरित अंतर्दृष्टी देऊ शकतात.

Amazon Bedrock in SageMaker Unified Studio या आव्हानांना थेट संबोधित करते. हे AI-आधारित सोल्यूशन्स तयार करण्यासाठी डिझाइन केलेले युनिफाइड सर्विस आहे. हे प्लॅटफॉर्म ग्राहक डेटा एकत्रित करते आणि नैसर्गिक भाषेतील संवादांना अनुमती देते, ज्यामुळे ते सोपे आणि वापरकर्ता-अनुकूल बनते. विद्यमान ऍप्लिकेशन्ससह सहज एकत्रीकरण, हा याचा मुख्य फायदा आहे. यात आवश्यक Amazon Bedrock वैशिष्ट्ये देखील समाविष्ट आहेत, ज्यात फाउंडेशन मॉडेल्स (FMs) ची विस्तृत निवड, प्रॉम्प्ट इंजिनिअरिंग क्षमता, संदर्भासाठी नॉलेज बेसेस, टास्क एक्झिक्यूशनसाठी एजंट्स, वर्कफ्लो ऑर्केस्ट्रेशनसाठी फ्लो, परफॉर्मन्स मॉनिटरिंगसाठी मूल्यांकन साधने आणि जबाबदार AI विकासासाठी गार्डरेल्स यांचा समावेश आहे. वापरकर्ते त्यांच्या संस्थेच्या सिंगल साइन-ऑन (SSO) प्रणालीद्वारे AI क्षमतांच्या या सर्वसमावेशक संचात सोयीस्करपणे प्रवेश करू शकतात. हे टीम सदस्यांमधील सहकार्याला प्रोत्साहन देते आणि AWS व्यवस्थापन कन्सोलमध्ये थेट प्रवेश न करता AI ऍप्लिकेशन्समध्ये सुधारणा करण्याची परवानगी देते.

स्वयंचलित वर्कफ्लोजसाठी जनरेटिव्ह AI-चालित एजंट्स

Amazon Bedrock in SageMaker Unified Studio तुम्हाला अत्याधुनिक जनरेटिव्ह AI एजंट्स तयार आणि उपयोजित करण्यास सक्षम करते. हे एजंट्स तुमच्या संस्थेच्या ऍप्लिकेशन्स, डेटाबेसेस आणि अगदी तृतीय-पक्ष प्रणालींसह अखंडपणे एकत्रित होऊ शकतात. हे एकत्रीकरण तुमच्या संपूर्ण तंत्रज्ञान स्टॅकमध्ये नैसर्गिक भाषेतील संवादांना सक्षम करते. चॅट एजंट एक महत्त्वपूर्ण दुवा म्हणून कार्य करतो, जो जटिल माहिती प्रणालींना वापरकर्ता-अनुकूल संवादाशी जोडतो. Amazon Bedrock फंक्शन्स आणि Amazon Bedrock नॉलेज बेसेसचा लाभ घेऊन, एजंट विविध डेटा स्त्रोतांशी कनेक्ट होण्याची क्षमता प्राप्त करतो.

हे स्त्रोत रिअल-टाइम प्रोजेक्ट स्थिती ट्रॅकिंगसाठी JIRA API पासून ग्राहक संबंध व्यवस्थापन (CRM) प्रणालींपर्यंत असू शकतात. एजंट प्रोजेक्टची कार्ये अद्ययावत करू शकतो, वापरकर्त्याची प्राधान्ये व्यवस्थापित करू शकतो आणि बरेच काही करू शकतो.

हे सर्वसमावेशक कार्यप्रदर्शन संस्थेतील विविध संघांना महत्त्वपूर्ण फायदे प्रदान करते. सेल्स आणि मार्केटिंग टीम्स ग्राहकांची माहिती आणि त्यांच्या पसंतीच्या मीटिंग वेळा त्वरित मिळवू शकतात. प्रोजेक्ट व्यवस्थापक JIRA कार्ये आणि टाइमलाइन कार्यक्षमतेने व्यवस्थापित करू शकतात, प्रोजेक्ट वर्कफ्लो ऑप्टिमाइझ करू शकतात. AI एजंटद्वारे सुलभ केलेली ही सुव्यवस्थित प्रक्रिया, संपूर्ण संस्थेमध्ये वर्धित उत्पादकता आणि सुधारित ग्राहक संवादांना चालना देते.

सोल्यूशनचे विहंगावलोकन

Amazon Bedrock एक शासित, सहयोगी वातावरण प्रदान करते, जे सर्व SageMaker Unified Studio मध्ये, जनरेटिव्ह AI ऍप्लिकेशन्स तयार आणि शेअर करण्यासाठी आहे. चला एका व्यावहारिक उदाहरणाच्या सोल्यूशनमध्ये जाऊया जे ग्राहक व्यवस्थापन एजंटच्या अंमलबजावणीचे प्रदर्शन करते:

• एजेंटिक चॅट: Amazon Bedrock च्या चॅट ऍप्लिकेशन वैशिष्ट्ये वापरून एक अत्याधुनिक एजंटिक चॅट ऍप्लिकेशन तयार केले जाऊ शकते. हे चॅट ऍप्लिकेशन फंक्शन्ससह अखंडपणे एकत्रित केले जाऊ शकते जे इतर AWS सेवा, जसे की सर्वरलेस कॉम्प्यूटसाठी AWS Lambda आणि API तयार आणि व्यवस्थापित करण्यासाठी Amazon API Gateway वापरून सहजपणे तयार केले जातात.
• डेटा व्यवस्थापन: SageMaker Unified Studio, Amazon DataZone सह, त्याच्या एकात्मिक सेवांद्वारे एक व्यापक डेटा व्यवस्थापन समाधान प्रदान करते. संस्थेच्या प्रशासकांकडे Amazon Bedrock मॉडेल्स आणि वैशिष्ट्यांमध्ये सदस्यांच्या प्रवेशावर बारीक नियंत्रण असते. हे सुरक्षित ओळख व्यवस्थापन आणि ग्रॅन्युलर ऍक्सेस कंट्रोल सुनिश्चित करते, डेटा सुरक्षा आणि अनुपालन राखते.

AI एजंटच्या उपयोजनात खोलवर जाण्यापूर्वी, आर्किटेक्चरच्या मुख्य पायऱ्या समजून घेणे फायदेशीर आहे.

वर्कफ्लो खालीलप्रमाणे उलगडतो:

1. वापरकर्ता प्रमाणीकरण आणि संवाद: वापरकर्ता AWS IAM Identity Center मधून त्यांच्या संस्थेच्या SSO क्रेडेन्शियल्स वापरून SageMaker Unified Studio मध्ये लॉग इन करून प्रक्रियेस प्रारंभ करतो. एकदा प्रमाणीकृत झाल्यावर, वापरकर्ता नैसर्गिक भाषा वापरून चॅट ऍप्लिकेशनशी संवाद साधतो, प्रश्न विचारतो किंवा विनंत्या करतो.
2. फंक्शन इनव्होकेशन: Amazon Bedrock चॅट ऍप्लिकेशन संबंधित माहिती पुनर्प्राप्त करण्यासाठी पूर्व-परिभाषित फंक्शनचा बुद्धिमत्तेने वापर करते. हे फंक्शन JIRA स्थिती अद्यतने किंवा डेटाबेसमधून ग्राहकांची माहिती आणण्यासाठी डिझाइन केलेले असू शकते. API Gateway वापरून सुरक्षित एंडपॉइंटद्वारे पुनर्प्राप्ती केली जाते.
3. सुरक्षित प्रवेश आणि Lambda ट्रिगर: चॅट ऍप्लिकेशन नियुक्त एंडपॉइंटवर सुरक्षितपणे प्रवेश करण्यासाठी API Gateway सह स्वतःला प्रमाणीकृत करते. हे प्रमाणीकरण AWS Secrets Manager मध्ये सुरक्षितपणे संग्रहित केलेल्या यादृच्छिकपणे व्युत्पन्न केलेल्या API की वापरून प्राप्त केले जाते. वापरकर्त्याच्या विनंतीवर आधारित, योग्य Lambda फंक्शन ट्रिगर केले जाते.
4. कृती अंमलबजावणी: Lambda फंक्शन, आता सक्रिय झाले आहे, वापरकर्त्याने विनंती केलेली विशिष्ट कार्ये करते. यामध्ये JIRA API कॉल करणे किंवा एजंटने प्रदान केलेल्या आवश्यक पॅरामीटर्ससह डेटाबेस क्वेरी करणे समाविष्ट आहे. एजंट विविध कार्ये हाताळण्यासाठी डिझाइन केलेले आहे, ज्यामध्ये हे समाविष्ट आहे:
   1. विशिष्ट ग्राहकाचे संक्षिप्त विहंगावलोकन प्रदान करणे.
   2. विशिष्ट ग्राहकाशी अलीकडील संवाद सूचीबद्ध करणे.
   3. नियुक्त ग्राहकासाठी मीटिंग प्राधान्ये पुनर्प्राप्त करणे.
   4. विशिष्ट प्रकल्पाशी संबंधित खुल्या JIRA तिकिटांची सूची पुनर्प्राप्त करणे.
   5. विशिष्ट JIRA तिकिटासाठी देय तारीख अद्यतनित करणे.

पूर्व शर्ती

या सोल्यूशन अंमलबजावणीचे अनुसरण करण्यासाठी आणि तुमचा स्वतःचा ग्राहक व्यवस्थापन एजंट तयार करण्यासाठी, तुम्हाला खालील पूर्व शर्तींची आवश्यकता असेल:

• AWS खाते: आवश्यक सेवांमध्ये प्रवेश करण्यासाठी एक सक्रिय AWS खाते आवश्यक आहे.
• SageMaker Unified Studio प्रवेश: SageMaker Unified Studio मध्ये Amazon Bedrock मध्ये वापरकर्त्याचा प्रवेश आवश्यक आहे.
• मॉडेल प्रवेश: तुम्हाला Amazon Bedrock वर Amazon Nova Pro मध्ये मॉडेल प्रवेश आवश्यक असेल. हे मॉडेल समर्थित AWS Region मध्ये उपलब्ध असल्याची खात्री करा.
• JIRA सेटअप: JIRA ऍप्लिकेशन, त्याचे संबंधित JIRA URL आणि तुमच्या खात्याशी संबंधित JIRA API टोकन JIRA सह एकत्रित करण्यासाठी आवश्यक आहेत.

असे गृहीत धरले जाते की तुम्हाला AWS वरील मूलभूत सर्वरलेस संकल्पनांची मूलभूत माहिती आहे, ज्यामध्ये API Gateway, Lambda फंक्शन्स आणि IAM Identity Center समाविष्ट आहे. हे पोस्ट या सेवांची सखोल व्याख्या प्रदान करणार नाही, परंतु आम्ही SageMaker Unified Studio मध्ये उपलब्ध असलेल्या नवीन Amazon Bedrock वैशिष्ट्यांच्या संदर्भात त्यांचे उपयोग दर्शवू.

सोल्यूशन उपयोजित करत आहे

ग्राहक व्यवस्थापन एजंट सोल्यूशन उपयोजित करण्यासाठी, या चरणांचे अनुसरण करा:

1. कोड डाउनलोड करा: प्रदान केलेल्या GitHub रेपॉजिटरीमधून आवश्यक कोड डाउनलोड करून प्रारंभ करा.
2. JIRA क्रेडेन्शियल्स पुनर्प्राप्त करा: Lambda फंक्शनसाठी JIRA_API_KEY_ARN, JIRA_URL आणि JIRA_USER_NAME ची मूल्ये मिळवा. हे क्रेडेन्शियल्स तुमच्या JIRA इंस्टन्ससह प्रमाणीकृत करण्यासाठी वापरले जातील.
3. CloudFormation स्टॅक लाँच करा: प्रदान केलेले AWS CloudFormation टेम्पलेट वापरा. तुमच्या पसंतीच्या AWS Region मध्ये स्टॅक लाँच करण्याच्या तपशीलवार सूचनांसाठी “Create a stack from the CloudFormation console” वरील दस्तऐवजीकरण पहा.
4. API Gateway URL: CloudFormation स्टॅक यशस्वीरित्या उपयोजित केल्यानंतर, Outputs टॅबवर नेव्हिगेट करा. ApiInvokeURL मूल्य शोधा आणि लक्षात ठेवा. हे URL तुमच्या API Gateway साठी एंडपॉइंट दर्शवते.
5. Secrets Manager कॉन्फिगरेशन: Secrets Manager कन्सोलमध्ये प्रवेश करा. JIRA_API_KEY_ARN, JIRA_URL आणि JIRA_USER_NAME शी संबंधित सिक्रेट्स शोधा.
6. सिक्रेट मूल्ये अपडेट करा: प्रत्येक सिक्रेटसाठी Retrieve secret पर्याय निवडा. चरण 2 मध्ये मिळवलेले संबंधित व्हेरिएबल्स सिक्रेट प्लेनटेक्स्ट स्ट्रिंगमध्ये कॉपी करा. हे तुमचे JIRA क्रेडेन्शियल्स सुरक्षितपणे संग्रहित करेल.
7. SageMaker Unified Studio मध्ये साइन इन करा: तुमच्या संस्थेच्या SSO क्रेडेन्शियल्स वापरून SageMaker Unified Studio मध्ये साइन इन करा.

नवीन प्रोजेक्ट तयार करणे

इन्फ्रास्ट्रक्चर तयार झाल्यावर, चला SageMaker Unified Studio मध्ये एक नवीन प्रोजेक्ट तयार करूया:

1. प्रोजेक्ट तयार करणे: SageMaker Unified Studio लँडिंग पृष्ठावर, नवीन प्रोजेक्ट तयार करण्यास प्रारंभ करा.
2. प्रोजेक्टचे नाव: तुमच्या प्रोजेक्टला एक वर्णनात्मक नाव द्या (उदा., crm-agent).
3. प्रोफाइल निवड: Generative AI application development profile निवडा आणि पुढे जा.
4. डीफॉल्ट सेटिंग्ज: डीफॉल्ट सेटिंग्ज स्वीकारा आणि सुरू ठेवा.
5. पुष्टीकरण: प्रोजेक्ट कॉन्फिगरेशनचे पुनरावलोकन करा आणि पुष्टी करण्यासाठी Create project निवडा.

चॅट एजंट ऍप्लिकेशन तयार करणे

आता, चला आपल्या सोल्यूशनचा मुख्य भाग तयार करूया – चॅट एजंट ऍप्लिकेशन:

1. चॅट एजंट इनिशिएशन: crm-agent प्रोजेक्ट लँडिंग पृष्ठावर, उजव्या बाजूला New विभाग शोधा. तुमचे ऍप्लिकेशन तयार करण्यास प्रारंभ करण्यासाठी Chat agent निवडा.
   हे तुमच्या एजंट ऍप्लिकेशनसाठी कॉन्फिगरेशनची सूची सादर करेल.

2. मॉडेल निवड: मॉडेल विभागात, Amazon Bedrock द्वारे समर्थित इच्छित फाउंडेशन मॉडेल (FM) निवडा. या crm-agent साठी, आम्ही Amazon Nova Pro निवडू.

3. सिस्टम प्रॉम्प्ट डेफिनेशन: सिस्टम प्रॉम्प्ट विभागात, खालील प्रॉम्प्ट प्रदान करा. हे प्रॉम्प्ट एजंटच्या वर्तनाचे आणि प्रतिसादांचे मार्गदर्शन करेल. त्याच्या कार्यक्षमतेला अधिक परिष्कृत करण्यासाठी तुम्ही वैकल्पिकरित्या वापरकर्ता इनपुट आणि मॉडेल प्रतिसादांची उदाहरणे समाविष्ट करू शकता.

   तुम्ही एक ग्राहक संबंध व्यवस्थापन एजंट आहात ज्याला सेल्स व्यक्तीला त्यांच्या ग्राहकांसोबतच्या कामाचे नियोजन करण्यात मदत करण्याचे काम सोपवले आहे. तुम्हाला एक API एंडपॉइंट प्रदान केला आहे. हे एंडपॉइंट कंपनीचे विहंगावलोकन, कंपनीच्या संवादाचा इतिहास (मीटिंगच्या वेळा आणि नोट्स), कंपनीची मीटिंग प्राधान्ये (मीटिंगचा प्रकार, आठवड्याचा दिवस आणि दिवसाची वेळ) यासारखी माहिती देऊ शकते. तुम्ही Jira टास्कची क्वेरी देखील करू शकता आणि त्यांची टाइमलाइन अपडेट करू शकता. प्रतिसाद मिळाल्यानंतर, तो वाचनीय स्वरूपात स्वच्छ करा. जर आउटपुट क्रमांकित सूची असेल, तर त्यास न्यूलाइन वर्ण आणि संख्यांसह स्वरूपित करा.

4. फंक्शन तयार करणे: Functions विभागात, Create a new function निवडा. हे फंक्शन एजंट करू शकणार्‍या कृती परिभाषित करेल.

5. फंक्शनचे नाव: तुमच्या फंक्शनला एक वर्णनात्मक नाव द्या, जसे की crm_agent_calling.

6. फंक्शन स्कीमा: Function schema साठी, GitHub रेपॉजिटरीमध्ये प्रदान केलेली OpenAPI व्याख्या वापरा. हे स्कीमा तुमच्या फंक्शनसाठी इनपुट आणि आउटपुट पॅरामीटर्स परिभाषित करते.

7. प्रमाणीकरण कॉन्फिगरेशन: Authentication method साठी, API Keys (Max. 2 Keys) निवडा आणि खालील तपशील प्रविष्ट करा:

   1. Key sent in साठी, Header निवडा.
   2. Key name साठी, x-api-key प्रविष्ट करा.
   3. Key value साठी, Secrets Manager API Key प्रविष्ट करा.

8. API सर्व्हर एंडपॉइंट: API servers विभागात, तुम्ही CloudFormation Outputs मधून मिळवलेला एंडपॉइंट URL ( ApiInvokeURL ) इनपुट करा.

9. फंक्शन फायनलायझेशन: फंक्शन तयार करणे पूर्ण करण्यासाठी Create निवडा.

10. ऍप्लिकेशन सेव्ह करणे: चॅट एजंट ऍप्लिकेशनच्या Functions विभागात, तुम्ही नुकतेच तयार केलेले फंक्शन निवडा आणि ऍप्लिकेशन तयार करणे पूर्ण करण्यासाठी Save निवडा.

उदाहरण संवाद

चला या चॅट एजंटचा कसा वापर केला जाऊ शकतो याची काही व्यावहारिक उदाहरणे पाहूया:

उपयोग केस 1: CRM विश्लेषक ग्राहकाचा तपशील पुनर्प्राप्त करत आहे

एक CRM विश्लेषक डेटाबेसमध्ये संग्रहित ग्राहकाचा तपशील पुनर्प्राप्त करण्यासाठी नैसर्गिक भाषेचा वापर करू शकतो. ते विचारू शकतील अशा काही उदाहरणात्मक प्रश्न येथे आहेत:

• “मला ग्राहक C-jkl101112 चे संक्षिप्त विहंगावलोकन द्या.”
• “ग्राहक C-def456 साठी शेवटचे 2 अलीकडील संवाद सूचीबद्ध करा.”
• “ग्राहक C-mno131415 कोणती संवाद पद्धत पसंत करतात?”
• “C-ghi789 ला त्यांच्या प्राधान्यांनुसार आणि आमच्या शेवटच्या संवादानुसार पोहोचण्यासाठी चांगला वेळ आणि संपर्क चॅनेलची शिफारस करा.”

एजंट, या विनंत्या मिळाल्यावर, बुद्धिमत्तेने डेटाबेसची क्वेरी करेल आणि संबंधित उत्तरे स्पष्ट आणि संक्षिप्त स्वरूपात प्रदान करेल.

उपयोग केस 2: प्रोजेक्ट व्यवस्थापक JIRA तिकिटे व्यवस्थापित करत आहे

एक प्रोजेक्ट व्यवस्थापक JIRA तिकिटे सूचीबद्ध करण्यासाठी आणि अपडेट करण्यासाठी एजंटचा वापर करू शकतो. येथे काही उदाहरण संवाद आहेत:

• “प्रोजेक्ट आयडी CRM साठी खुले JIRA टास्क काय आहेत?”
• “कृपया JIRA टास्क CRM-3 1 आठवड्यासाठी अपडेट करा.”

एजंट JIRA बोर्डमध्ये प्रवेश करेल, संबंधित प्रोजेक्ट माहिती आणेल आणि खुल्या JIRA कार्यांची सूची प्रदान करेल. हे वापरकर्त्याने विनंती केल्यानुसार विशिष्ट कार्याची टाइमलाइन देखील अपडेट करेल.

साफसफाई

अनावश्यक खर्च टाळण्यासाठी, खालील साफसफाईची पायरी करा:

1. CloudFormation स्टॅक हटवा: तुम्ही पूर्वी उपयोजित केलेला CloudFormation स्टॅक हटवा.
2. फंक्शन कंपोनंट हटवा: तुम्ही Amazon Bedrock मध्ये तयार केलेले फंक्शन कंपोनंट काढून टाका.
3. चॅट एजंट ऍप्लिकेशन हटवा: Amazon Bedrock मधील चॅट एजंट ऍप्लिकेशन हटवा.
4. डोमेन हटवा: SageMaker Unified Studio मधील डोमेन हटवा.

खर्च

SageMaker Unified Studio मध्ये Amazon Bedrock वापरल्याने कोणतेही वेगळे शुल्क लागत नाही. तथापि, तुम्हाला सेवेमध्ये वापरलेल्या वैयक्तिक AWS सेवा आणि संसाधनांसाठी बिल दिले जाईल. Amazon Bedrock पे-ऍज-यू-गो मॉडेलवर चालते, याचा अर्थ तुम्ही फक्त वापरलेल्या संसाधनांसाठी पैसे द्याल, किमान शुल्क किंवा आगाऊ वचनबद्धता नाही.

तुम्हाला किंमत गणनेसाठी पुढील मदतीची आवश्यकता असल्यास किंवा तुमच्या विशिष्ट वापराच्या केससाठी खर्च ऑप्टिमाइझ करण्याबद्दल प्रश्न असल्यास, AWS सपोर्टशी संपर्क साधण्याची किंवा तुमच्या खाते व्यवस्थापकाशी सल्लामसलत करण्याची शिफारस केली जाते. ते तुमच्या गरजेनुसार मार्गदर्शन देऊ शकतात.