عامل‌های هوش مصنوعی مولد با Amazon Bedrock

ایجاد عامل‌های هوش مصنوعی مولد که با سیستم‌های شرکت شما در چند کلیک با استفاده از Amazon Bedrock در Amazon SageMaker Unified Studio تعامل می‌کنند

فشار بی‌امان برای حفظ کارایی عملیاتی، چالشی است که شرکت‌ها در هر اندازه‌ای با آن مواجه هستند. این چالش با حجم روزافزون داده‌ها، سیستم‌های پیچیده و تعداد زیاد تعاملات مشتری که باید مدیریت شوند، بیشتر می‌شود. فرآیندهای دستی سنتی و ماهیت اغلب گسسته منابع اطلاعاتی می‌تواند منجر به تنگناهای قابل توجهی شود. این موانع، تصمیم‌گیری را کند می‌کنند و مانع از این می‌شوند که تیم‌ها وقت و انرژی خود را به کارهای با ارزش بالاتری اختصاص دهند که واقعاً تأثیرگذار هستند. عامل‌های هوش مصنوعی مولد یک راه‌حل تحول‌آفرین ارائه می‌دهند. این عامل‌ها می‌توانند به طور خودکار با سیستم‌های موجود شرکت ارتباط برقرار کنند، طیف گسترده‌ای از وظایف را اجرا کنند و بینش‌های فوری ارائه دهند. این امر به سازمان‌ها اجازه می‌دهد تا عملیات خود را به طور موثر و بدون افزایش متناظر در پیچیدگی، مقیاس‌بندی کنند.

Amazon Bedrock در SageMaker Unified Studio مستقیماً به این چالش‌های فراگیر می‌پردازد. این سرویس یکپارچه برای ساخت راه‌حل‌های مبتنی بر هوش مصنوعی طراحی شده است. این پلتفرم داده‌های مشتری را متمرکز می‌کند و تعاملات زبان طبیعی را امکان‌پذیر می‌سازد، و آن را بصری و کاربرپسند می‌کند. یک مزیت کلیدی، ادغام یکپارچه آن با برنامه‌های موجود است. همچنین ویژگی‌های ضروری Amazon Bedrock، از جمله طیف گسترده‌ای از مدل‌های پایه (FMs)، قابلیت‌های مهندسی پرامپت، پایگاه‌های دانش برای درک متنی، عامل‌ها برای اجرای وظایف، جریان‌ها برای هماهنگ‌سازی گردش کار، ابزارهای ارزیابی برای نظارت بر عملکرد، و حفاظ‌ها برای توسعه مسئولانه هوش مصنوعی را در خود جای داده است. کاربران می‌توانند به راحتی از طریق سیستم Single Sign-On (SSO) سازمان خود به این مجموعه جامع از قابلیت‌های هوش مصنوعی دسترسی داشته باشند. این امر همکاری بین اعضای تیم را تقویت می‌کند و امکان اصلاح برنامه‌های کاربردی هوش مصنوعی را بدون نیاز به دسترسی مستقیم به AWS Management Console فراهم می‌کند.

عامل‌های مجهز به هوش مصنوعی مولد برای گردش‌های کاری خودکار

Amazon Bedrock در SageMaker Unified Studio به شما این امکان را می‌دهد که عامل‌های هوش مصنوعی مولد پیچیده‌ای ایجاد و مستقر کنید. این عامل‌ها می‌توانند به طور یکپارچه با برنامه‌ها، پایگاه‌های داده و حتی سیستم‌های شخص ثالث سازمان شما ادغام شوند. این سطح از یکپارچه‌سازی، تعاملات زبان طبیعی را در کل پشته فناوری شما امکان‌پذیر می‌سازد. عامل چت به عنوان یک پل حیاتی عمل می‌کند و سیستم‌های اطلاعاتی پیچیده را با ارتباطات کاربرپسند متصل می‌کند. با استفاده از توابع Amazon Bedrock و Amazon Bedrock Knowledge Bases، عامل توانایی اتصال به منابع داده متنوع را به دست می‌آورد. این منابع می‌توانند از APIهای JIRA برای ردیابی وضعیت پروژه در زمان واقعی تا سیستم‌های مدیریت ارتباط با مشتری (CRM) برای بازیابی اطلاعات مشتری متغیر باشند. عامل همچنین می‌تواند وظایف پروژه را به‌روز کند، تنظیمات برگزیده کاربر را مدیریت کند و کارهای بسیار دیگری انجام دهد.

این قابلیت جامع، مزایای قابل توجهی را برای تیم‌های مختلف در یک سازمان فراهم می‌کند. تیم‌های فروش و بازاریابی می‌توانند به سرعت به اطلاعات مشتری و زمان‌های ملاقات ترجیحی آنها دسترسی پیدا کنند. مدیران پروژه می‌توانند به طور موثر وظایف و جدول‌های زمانی JIRA را مدیریت کنند و گردش کار پروژه را بهینه کنند. این فرآیند ساده‌شده، که توسط عامل هوش مصنوعی تسهیل می‌شود، منجر به افزایش بهره‌وری و بهبود تعاملات مشتری در سراسر سازمان می‌شود.

مروری بر راه‌حل

Amazon Bedrock یک محیط مدیریت‌شده و مشارکتی را، همگی در SageMaker Unified Studio، برای ساخت و به اشتراک‌گذاری برنامه‌های کاربردی هوش مصنوعی مولد فراهم می‌کند. بیایید به یک مثال عملی از راه‌حل بپردازیم که پیاده‌سازی یک عامل مدیریت مشتری را نشان می‌دهد:

• چت عامل‌محور: یک برنامه چت عامل‌محور پیچیده را می‌توان با استفاده از ویژگی‌های برنامه چت Amazon Bedrock ساخت. این برنامه چت را می‌توان به طور یکپارچه با توابعی که به راحتی با استفاده از سایر سرویس‌های AWS، مانند AWS Lambda برای محاسبات بدون سرور و Amazon API Gateway برای ایجاد و مدیریت APIها ساخته می‌شوند، ادغام کرد.
• مدیریت داده: SageMaker Unified Studio، همراه با Amazon DataZone، یک راه‌حل جامع مدیریت داده را از طریق خدمات یکپارچه خود ارائه می‌دهد. مدیران سازمان کنترل دقیقی بر دسترسی اعضا به مدل‌ها و ویژگی‌های Amazon Bedrock دارند. این امر مدیریت هویت ایمن و کنترل دسترسی دقیق را تضمین می‌کند و امنیت و انطباق داده‌ها را حفظ می‌کند.

قبل از اینکه عمیقاً به استقرار عامل هوش مصنوعی بپردازیم، مرور مراحل کلیدی معماری مفید است.

گردش کار به شرح زیر است:

1. احراز هویت کاربر و تعامل: کاربر فرآیند را با ورود به SageMaker Unified Studio با استفاده از اعتبارنامه‌های SSO سازمان خود از AWS IAM Identity Center آغاز می‌کند. پس از احراز هویت، کاربر با استفاده از زبان طبیعی با برنامه چت تعامل می‌کند، سوال می‌پرسد یا درخواست می‌کند.
2. فراخوانی تابع: برنامه چت Amazon Bedrock به طور هوشمندانه از یک تابع از پیش تعریف‌شده برای بازیابی اطلاعات مربوطه استفاده می‌کند. این تابع ممکن است برای واکشی به‌روزرسانی‌های وضعیت JIRA یا اطلاعات مشتری از پایگاه داده طراحی شده باشد. بازیابی از طریق یک نقطه پایانی امن با استفاده از API Gateway انجام می‌شود.
3. دسترسی امن و راه‌اندازی Lambda: برنامه چت خود را با API Gateway احراز هویت می‌کند تا به طور ایمن به نقطه پایانی تعیین‌شده دسترسی پیدا کند. این احراز هویت با استفاده از یک کلید API تولید شده به صورت تصادفی که به طور ایمن در AWS Secrets Manager ذخیره شده است، انجام می‌شود. بر اساس درخواست کاربر، تابع Lambda مناسب فعال می‌شود.
4. اجرای عمل: تابع Lambda، که اکنون فعال شده است، اقدامات خاص درخواست شده توسط کاربر را انجام می‌دهد. این شامل فراخوانی API JIRA یا پرس‌وجو از پایگاه داده با پارامترهای لازم ارائه شده توسط عامل است. عامل برای رسیدگی به انواع وظایف طراحی شده است، از جمله:
   1. ارائه یک نمای کلی مختصر از یک مشتری خاص.
   2. فهرست کردن تعاملات اخیر با یک مشتری خاص.
   3. بازیابی تنظیمات برگزیده جلسه برای یک مشتری تعیین‌شده.
   4. بازیابی لیستی از تیکت‌های باز JIRA مرتبط با یک پروژه خاص.
   5. به‌روزرسانی تاریخ سررسید برای یک تیکت JIRA خاص.

پیش‌نیازها

برای دنبال کردن این پیاده‌سازی راه‌حل و ساخت عامل مدیریت مشتری خود، به پیش‌نیازهای زیر نیاز دارید:

• حساب AWS: یک حساب AWS فعال برای دسترسی به خدمات ضروری است.
• دسترسی به SageMaker Unified Studio: دسترسی کاربر به Amazon Bedrock در SageMaker Unified Studio مورد نیاز است.
• دسترسی به مدل: شما به دسترسی به مدل Amazon Nova Pro در Amazon Bedrock نیاز دارید. اطمینان حاصل کنید که این مدل در یک منطقه AWS پشتیبانی‌شده در دسترس است.
• راه‌اندازی JIRA: یک برنامه JIRA، URL JIRA مربوطه و یک توکن API JIRA مرتبط با حساب شما برای ادغام با JIRA ضروری است.

فرض بر این است که شما درک اولیه‌ای از مفاهیم اساسی بدون سرور در AWS، از جمله API Gateway، توابع Lambda و IAM Identity Center دارید. در حالی که این پست تعاریف عمیقی از این خدمات ارائه نمی‌دهد، ما موارد استفاده آنها را در زمینه ویژگی‌های جدید Amazon Bedrock موجود در SageMaker Unified Studio نشان خواهیم داد.

استقرار راه‌حل

برای استقرار راه‌حل عامل مدیریت مشتری، مراحل زیر را دنبال کنید:

1. دانلود کد: با دانلود کد لازم از مخزن GitHub ارائه‌شده شروع کنید.
2. بازیابی اعتبارنامه‌های JIRA: مقادیر JIRA_API_KEY_ARN، JIRA_URL و JIRA_USER_NAME را برای تابع Lambda دریافت کنید. این اعتبارنامه‌ها برای احراز هویت با نمونه JIRA شما استفاده خواهند شد.
3. راه‌اندازی پشته CloudFormation: از الگوی AWS CloudFormation ارائه‌شده استفاده کنید. برای دستورالعمل‌های دقیق در مورد راه‌اندازی پشته در منطقه AWS ترجیحی خود، به مستندات “ایجاد پشته از کنسول CloudFormation” مراجعه کنید.
4. URL API Gateway: پس از استقرار موفقیت‌آمیز پشته CloudFormation، به برگه Outputs بروید. مقدار ApiInvokeURL را پیدا کرده و یادداشت کنید. این URL نشان‌دهنده نقطه پایانی برای API Gateway شما است.
5. پیکربندی Secrets Manager: به کنسول Secrets Manager دسترسی پیدا کنید. اسرار مربوط به JIRA_API_KEY_ARN، JIRA_URL و JIRA_USER_NAME را پیدا کنید.
6. به‌روزرسانی مقادیر راز: گزینه Retrieve secret را برای هر راز انتخاب کنید. متغیرهای مربوطه به‌دست‌آمده در مرحله 2 را در رشته متن ساده راز کپی کنید. این کار اعتبارنامه‌های JIRA شما را به طور ایمن ذخیره می‌کند.
7. ورود به SageMaker Unified Studio: با استفاده از اعتبارنامه‌های SSO سازمان خود وارد SageMaker Unified Studio شوید.

ایجاد یک پروژه جدید

با وجود زیرساخت، بیایید یک پروژه جدید در SageMaker Unified Studio ایجاد کنیم:

1. ایجاد پروژه: در صفحه فرود SageMaker Unified Studio، ایجاد یک پروژه جدید را آغاز کنید.
2. نام‌گذاری پروژه: یک نام توصیفی به پروژه خود اختصاص دهید (به عنوان مثال، crm-agent).
3. انتخاب پروفایل: پروفایل توسعه برنامه کاربردی هوش مصنوعی مولد را انتخاب کنید و ادامه دهید.
4. تنظیمات پیش‌فرض: تنظیمات پیش‌فرض را بپذیرید و ادامه دهید.
5. تأیید: پیکربندی پروژه را بررسی کنید و Create project را برای تأیید انتخاب کنید.

ساخت برنامه عامل چت

اکنون، بیایید هسته اصلی راه‌حل خود – برنامه عامل چت – را بسازیم:

1. شروع عامل چت: در صفحه فرود پروژه crm-agent، بخش New را در سمت راست پیدا کنید. Chat agent را برای شروع ساخت برنامه خود انتخاب کنید.
   این کار لیستی از پیکربندی‌ها را برای برنامه عامل شما ارائه می‌دهد.

2. انتخاب مدل: در بخش مدل، یک مدل پایه (FM) پشتیبانی‌شده توسط Amazon Bedrock را انتخاب کنید. برای این crm-agent، ما Amazon Nova Pro را انتخاب می‌کنیم.

3. تعریف پرامپت سیستم: در بخش پرامپت سیستم، پرامپت زیر را ارائه دهید. این پرامپت رفتار و پاسخ‌های عامل را هدایت می‌کند. می‌توانید به صورت اختیاری نمونه‌هایی از ورودی کاربر و پاسخ‌های مدل را برای بهبود بیشتر عملکرد آن اضافه کنید.

   You are a customer relationship management agent tasked with helping a sales person plan their work with customers. You are provided with an API endpoint. This endpoint can provide information like company overview, company interaction history (meeting times and notes), company meeting preferences (meeting type, day of week, and time of day). You can also query Jira tasks and update their timeline. After receiving a response, clean it up into a readable format. If the output is a numbered list, format it as such with newline characters and numbers.

   (شما یک عامل مدیریت ارتباط با مشتری هستید که وظیفه دارید به یک فروشنده در برنامه‌ریزی کار خود با مشتریان کمک کنید. یک نقطه پایانی API به شما ارائه شده است. این نقطه پایانی می‌تواند اطلاعاتی مانند نمای کلی شرکت، تاریخچه تعامل شرکت (زمان‌ها و یادداشت‌های جلسه)، تنظیمات برگزیده جلسه شرکت (نوع جلسه، روز هفته و زمان روز) را ارائه دهد. همچنین می‌توانید وظایف Jira را پرس‌وجو کرده و جدول زمانی آنها را به‌روز کنید. پس از دریافت پاسخ، آن را به یک فرمت خوانا تبدیل کنید. اگر خروجی یک لیست شماره‌دار است، آن را با کاراکترهای خط جدید و اعداد قالب‌بندی کنید.)

4. ایجاد تابع: در بخش Functions، Create a new function را انتخاب کنید. این تابع اقداماتی را که عامل می‌تواند انجام دهد، تعریف می‌کند.

5. نام‌گذاری تابع: به تابع خود یک نام توصیفی بدهید، مانند crm_agent_calling.

6. شمای تابع: برای Function schema، از تعریف OpenAPI ارائه‌شده در مخزن GitHub استفاده کنید. این شما پارامترهای ورودی و خروجی تابع شما را تعریف می‌کند.

7. پیکربندی احراز هویت: برای Authentication method، API Keys (Max. 2 Keys) را انتخاب کنید و جزئیات زیر را وارد کنید:

   1. برای Key sent in، Header را انتخاب کنید.
   2. برای Key name، x-api-key را وارد کنید.
   3. برای Key value، کلید API Secrets Manager را وارد کنید.

8. نقطه پایانی سرور API: در بخش API servers، URL نقطه پایانی را که از خروجی‌های CloudFormation به‌دست آورده‌اید ( ApiInvokeURL) وارد کنید.

9. نهایی‌سازی تابع: Create را برای نهایی کردن ایجاد تابع انتخاب کنید.

10. ذخیره برنامه: در بخش Functions برنامه عامل چت، تابعی را که ایجاد کرده‌اید انتخاب کنید و Save را برای تکمیل ایجاد برنامه انتخاب کنید.

نمونه‌هایی از تعاملات

بیایید چند نمونه عملی از نحوه استفاده از این عامل چت را بررسی کنیم:

مورد استفاده 1: تحلیلگر CRM که جزئیات مشتری را بازیابی می‌کند

یک تحلیلگر CRM می‌تواند از زبان طبیعی برای بازیابی جزئیات مشتری ذخیره‌شده در پایگاه داده استفاده کند. در اینجا چند نمونه سوال وجود دارد که ممکن است بپرسند:

• “Give me a brief overview of customer C-jkl101112.” (یک نمای کلی مختصر از مشتری C-jkl101112 به من بدهید.)
• “List the last 2 recent interactions for customer C-def456.” (2 تعامل اخیر برای مشتری C-def456 را فهرست کنید.)
• “What communication method does customer C-mno131415 prefer?” (مشتری C-mno131415 چه روش ارتباطی را ترجیح می‌دهد؟)
• “Recommend optimal time and contact channel to reach out to C-ghi789 based on their preferences and our last interaction.” (زمان بهینه و کانال تماس برای ارتباط با C-ghi789 را بر اساس تنظیمات برگزیده آنها و آخرین تعامل ما توصیه کنید.)

عامل، پس از دریافت این درخواست‌ها، به طور هوشمندانه از پایگاه داده پرس‌وجو می‌کند و پاسخ‌های مربوطه را در قالبی واضح و مختصر ارائه می‌دهد.

مورد استفاده 2: مدیر پروژه که تیکت‌های JIRA را مدیریت می‌کند

یک مدیر پروژه می‌تواند از عامل برای فهرست کردن و به‌روزرسانی تیکت‌های JIRA استفاده کند. در اینجا چند نمونه تعامل وجود دارد:

• “What are the open JIRA Tasks for project id CRM?” (تیکت‌های باز JIRA برای شناسه پروژه CRM چیست؟)
• “Please update JIRA Task CRM-3 to 1 weeks out.” (لطفاً JIRA Task CRM-3 را به 1 هفته بعد به‌روز کنید.)

عامل به برد JIRA دسترسی پیدا می‌کند، اطلاعات پروژه مربوطه را واکشی می‌کند و لیستی از وظایف باز JIRA را ارائه می‌دهد. همچنین جدول زمانی یک وظیفه خاص را طبق درخواست کاربر به‌روز می‌کند.

پاکسازی

برای جلوگیری از هزینه‌های غیرضروری، مراحل پاکسازی زیر را انجام دهید:

1. حذف پشته CloudFormation: پشته CloudFormation را که قبلاً مستقر کرده‌اید حذف کنید.
2. حذف کامپوننت تابع: کامپوننت تابعی را که در Amazon Bedrock ایجاد کرده‌اید حذف کنید.
3. حذف برنامه عامل چت: برنامه عامل چت را در Amazon Bedrock حذف کنید.
4. حذف دامنه‌ها: دامنه‌ها را در SageMaker Unified Studio حذف کنید.

هزینه

استفاده از Amazon Bedrock در SageMaker Unified Studio هیچ هزینه جداگانه‌ای ندارد. با این حال، شما برای خدمات و منابع AWS جداگانه‌ای که در این سرویس استفاده می‌شوند، صورت‌حساب دریافت خواهید کرد. Amazon Bedrock بر اساس مدل پرداخت به ازای استفاده عمل می‌کند، به این معنی که شما فقط برای منابعی که مصرف می‌کنید، بدون حداقل هزینه یا تعهدات اولیه، پرداخت می‌کنید.

اگر برای محاسبات قیمت‌گذاری به کمک بیشتری نیاز دارید یا در مورد بهینه‌سازی هزینه‌ها برای مورد استفاده خاص خود سوالی دارید، توصیه می‌شود با پشتیبانی AWS تماس بگیرید یا با مدیر حساب خود مشورت کنید. آنها می‌توانند راهنمایی‌های متناسب با نیازهای شما ارائه دهند.