Bina Ejen AI Generatif di Amazon Bedrock

Tekanan berterusan untuk mengekalkan kecekapan operasi merupakan cabaran yang dihadapi oleh syarikat dari pelbagai saiz. Cabaran ini dipertingkatkan lagi dengan peningkatan jumlah data, sistem yang kompleks, dan bilangan interaksi pelanggan yang perlu diuruskan. Proses manual tradisional dan sumber maklumat yang sering terputus-putus boleh membawa kepada kesesakan yang ketara. Halangan ini melambatkan pembuatan keputusan dan menghalang pasukan daripada menumpukan masa dan tenaga mereka kepada kerja bernilai tinggi yang benar-benar memacu kemajuan. Ejen AI generatif mewakili penyelesaian transformatif. Ejen ini boleh berinteraksi secara automatik dengan sistem sedia ada syarikat, melaksanakan pelbagai tugas, dan memberikan pandangan segera. Ini membolehkan organisasi untuk menskalakan operasi mereka dengan berkesan tanpa peningkatan kerumitan yang sepadan.

Amazon Bedrock dalam SageMaker Unified Studio secara langsung menangani cabaran yang meluas ini. Ia menawarkan perkhidmatan bersatu yang direka untuk membina penyelesaian dipacu AI. Platform ini memusatkan data pelanggan dan membolehkan interaksi bahasa semula jadi, menjadikannya intuitif dan mesra pengguna. Kelebihan utama ialah integrasinya yang lancar dengan aplikasi sedia ada. Ia juga menggabungkan ciri-ciri penting Amazon Bedrock, termasuk pelbagai pilihan model asas (FMs), keupayaan kejuruteraan prompt, pangkalan pengetahuan untuk pemahaman kontekstual, ejen untuk pelaksanaan tugas, aliran untuk orkestrasi aliran kerja, alat penilaian untuk pemantauan prestasi, dan pagar keselamatan untuk pembangunan AI yang bertanggungjawab. Pengguna boleh mengakses suite keupayaan AI yang komprehensif ini dengan mudah melalui sistem log masuk tunggal (SSO) organisasi mereka. Ini memupuk kerjasama di kalangan ahli pasukan dan membolehkan penambahbaikan aplikasi AI tanpa memerlukan akses terus ke AWS Management Console.

Ejen Berkuasa AI Generatif untuk Aliran Kerja Automatik

Amazon Bedrock dalam SageMaker Unified Studio memperkasakan anda untuk mencipta dan menggunakan ejen AI generatif yang canggih. Ejen ini boleh berintegrasi dengan lancar dengan aplikasi, pangkalan data, dan juga sistem pihak ketiga organisasi anda. Tahap integrasi ini membolehkan interaksi bahasa semula jadi merentasi keseluruhan timbunan teknologi anda. Ejen sembang bertindak sebagai jambatan penting, menghubungkan sistem maklumat yang kompleks dengan komunikasi mesra pengguna. Dengan memanfaatkan fungsi Amazon Bedrock dan Amazon Bedrock Knowledge Bases, ejen memperoleh keupayaan untuk berhubung dengan pelbagai sumber data. Sumber ini boleh terdiri daripada API JIRA untuk penjejakan status projek masa nyata kepada sistem pengurusan perhubungan pelanggan (CRM) untuk mendapatkan semula maklumat pelanggan. Ejen juga boleh mengemas kini tugas projek, mengurus keutamaan pengguna dan banyak lagi.

Fungsi komprehensif ini memberikan manfaat yang ketara kepada pelbagai pasukan dalam organisasi. Pasukan jualan dan pemasaran boleh mendapatkan akses pantas kepada maklumat pelanggan dan masa mesyuarat pilihan mereka. Pengurus projek boleh mengurus tugas dan garis masa JIRA dengan cekap, mengoptimumkan aliran kerja projek. Proses yang diperkemas ini, yang difasilitasi oleh ejen AI, membawa kepada peningkatan produktiviti dan interaksi pelanggan yang lebih baik di seluruh organisasi.

Gambaran Keseluruhan Penyelesaian

Amazon Bedrock menyediakan persekitaran yang ditadbir dan kolaboratif, semuanya dalam SageMaker Unified Studio, untuk membina dan berkongsi aplikasi AI generatif. Mari kita mendalami contoh penyelesaian praktikal yang menunjukkan pelaksanaan ejen pengurusan pelanggan:

• Agentic Chat: Aplikasi sembang agentik yang canggih boleh dibina menggunakan ciri aplikasi sembang Amazon Bedrock. Aplikasi sembang ini boleh disepadukan dengan lancar dengan fungsi yang mudah dibina menggunakan perkhidmatan AWS lain, seperti AWS Lambda untuk pengkomputeran tanpa pelayan dan Amazon API Gateway untuk mencipta dan mengurus API.
• Pengurusan Data: SageMaker Unified Studio, bersama-sama dengan Amazon DataZone, menawarkan penyelesaian pengurusan data yang komprehensif melalui perkhidmatan bersepadunya. Pentadbir organisasi mempunyai kawalan terperinci ke atas akses ahli kepada model dan ciri Amazon Bedrock. Ini memastikan pengurusan identiti yang selamat dan kawalan akses terperinci, mengekalkan keselamatan dan pematuhan data.

Sebelum kita menyelami penggunaan ejen AI, adalah berfaedah untuk meneliti langkah-langkah utama seni bina.

Aliran kerja berlaku seperti berikut:

1. Pengesahan dan Interaksi Pengguna: Pengguna memulakan proses dengan log masuk ke SageMaker Unified Studio menggunakan kelayakan SSO organisasi mereka daripada AWS IAM Identity Center. Setelah disahkan, pengguna berinteraksi dengan aplikasi sembang menggunakan bahasa semula jadi, mengemukakan soalan atau membuat permintaan.
2. Pelaksanaan Fungsi: Aplikasi sembang Amazon Bedrock menggunakan fungsi yang telah ditetapkan secara bijak untuk mendapatkan semula maklumat yang berkaitan. Fungsi ini mungkin direka untuk mendapatkan kemas kini status JIRA atau maklumat pelanggan daripada pangkalan data. Pengambilan semula dilakukan melalui titik akhir yang selamat menggunakan API Gateway.
3. Akses Selamat dan Pencetus Lambda: Aplikasi sembang mengesahkan dirinya dengan API Gateway untuk mengakses titik akhir yang ditetapkan dengan selamat. Pengesahan ini dicapai menggunakan kunci API yang dijana secara rawak yang disimpan dengan selamat dalam AWS Secrets Manager. Berdasarkan permintaan pengguna, fungsi Lambda yang sesuai dicetuskan.
4. Pelaksanaan Tindakan: Fungsi Lambda, yang kini diaktifkan, melaksanakan tindakan khusus yang diminta oleh pengguna. Ini melibatkan panggilan API JIRA atau pertanyaan pangkalan data dengan parameter yang diperlukan yang disediakan oleh ejen. Ejen direka untuk mengendalikan pelbagai tugas, termasuk:
   1. Menyediakan gambaran keseluruhan ringkas tentang pelanggan tertentu.
   2. Menyenaraikan interaksi terkini dengan pelanggan tertentu.
   3. Mendapatkan semula keutamaan mesyuarat untuk pelanggan yang ditetapkan.
   4. Mendapatkan semula senarai tiket JIRA terbuka yang dikaitkan dengan projek tertentu.
   5. Mengemas kini tarikh akhir untuk tiket JIRA tertentu.

Prasyarat

Untuk mengikuti pelaksanaan penyelesaian ini dan membina ejen pengurusan pelanggan anda sendiri, anda memerlukan prasyarat berikut:

• Akaun AWS: Akaun AWS yang aktif adalah penting untuk mengakses perkhidmatan yang diperlukan.
• Akses SageMaker Unified Studio: Akses pengguna ke Amazon Bedrock dalam SageMaker Unified Studio diperlukan.
• Akses Model: Anda memerlukan akses model ke Amazon Nova Pro di Amazon Bedrock. Pastikan model ini tersedia di Wilayah AWS yang disokong.
• Persediaan JIRA: Aplikasi JIRA, URL JIRA yang sepadan, dan token API JIRA yang dikaitkan dengan akaun anda adalah perlu untuk berintegrasi dengan JIRA.

Anda diandaikan mempunyai pemahaman asas tentang konsep tanpa pelayan asas di AWS, termasuk API Gateway, fungsi Lambda dan IAM Identity Center. Walaupun siaran ini tidak akan memberikan definisi mendalam tentang perkhidmatan ini, kami akan menunjukkan kes penggunaan mereka dalam konteks ciri Amazon Bedrock baharu yang tersedia dalam SageMaker Unified Studio.

Menggunakan Penyelesaian

Untuk menggunakan penyelesaian ejen pengurusan pelanggan, ikuti langkah berikut:

1. Muat Turun Kod: Mulakan dengan memuat turun kod yang diperlukan daripada repositori GitHub yang disediakan.
2. Dapatkan Kelayakan JIRA: Dapatkan nilai untuk JIRA_API_KEY_ARN, JIRA_URL, dan JIRA_USER_NAME untuk fungsi Lambda. Kelayakan ini akan digunakan untuk mengesahkan dengan instance JIRA anda.
3. Lancarkan Tindanan CloudFormation: Gunakan templat AWS CloudFormation yang disediakan. Rujuk dokumentasi tentang “Create a stack from the CloudFormation console” untuk arahan terperinci tentang melancarkan tindanan di Wilayah AWS pilihan anda.
4. URL API Gateway: Selepas tindanan CloudFormation berjaya digunakan, navigasi ke tab Outputs. Cari dan catatkan nilai ApiInvokeURL. URL ini mewakili titik akhir untuk API Gateway anda.
5. Konfigurasi Secrets Manager: Akses konsol Secrets Manager. Cari rahsia yang sepadan dengan JIRA_API_KEY_ARN, JIRA_URL, dan JIRA_USER_NAME.
6. Kemas Kini Nilai Rahsia: Pilih pilihan Retrieve secret untuk setiap rahsia. Salin pembolehubah yang sepadan yang diperoleh dalam Langkah 2 ke dalam rentetan teks biasa rahsia. Ini akan menyimpan kelayakan JIRA anda dengan selamat.
7. Log Masuk ke SageMaker Unified Studio: Log masuk ke SageMaker Unified Studio menggunakan kelayakan SSO organisasi anda.

Mencipta Projek Baharu

Dengan infrastruktur yang tersedia, mari kita cipta projek baharu dalam SageMaker Unified Studio:

1. Penciptaan Projek: Pada halaman pendaratan SageMaker Unified Studio, mulakan penciptaan projek baharu.
2. Penamaan Projek: Berikan nama deskriptif kepada projek anda (contohnya, crm-agent).
3. Pemilihan Profil: Pilih Generative AI application development profile dan teruskan.
4. Tetapan Lalai: Terima tetapan lalai dan teruskan.
5. Pengesahan: Semak konfigurasi projek dan pilih Create project untuk mengesahkan.

Membina Aplikasi Ejen Sembang

Sekarang, mari kita bina teras penyelesaian kita – aplikasi ejen sembang:

1. Permulaan Ejen Sembang: Dalam halaman pendaratan projek crm-agent, cari bahagian New di sebelah kanan. Pilih Chat agent untuk mula membina aplikasi anda.
   Ini akan membentangkan senarai konfigurasi untuk aplikasi ejen anda.

2. Pemilihan Model: Di bawah bahagian model, pilih model asas (FM) yang dikehendaki yang disokong oleh Amazon Bedrock. Untuk crm-agent ini, kita akan memilih Amazon Nova Pro.

3. Definisi Prompt Sistem: Dalam bahagian prompt sistem, berikan prompt berikut. Prompt ini akan membimbing tingkah laku dan respons ejen. Anda boleh memasukkan contoh input pengguna dan respons model secara pilihan untuk memperhalusi lagi prestasinya.

   Anda ialah ejen pengurusan perhubungan pelanggan yang ditugaskan untuk membantu jurujual merancang kerja mereka dengan pelanggan. Anda disediakan dengan titik akhir API. Titik akhir ini boleh memberikan maklumat seperti gambaran keseluruhan syarikat, sejarah interaksi syarikat (masa dan nota mesyuarat), keutamaan mesyuarat syarikat (jenis mesyuarat, hari dalam seminggu dan masa). Anda juga boleh menanyakan tugas Jira dan mengemas kini garis masanya. Selepas menerima respons, bersihkan ia ke dalam format yang boleh dibaca. Jika output ialah senarai bernombor, formatkannya sedemikian dengan aksara baris baharu dan nombor.

4. Penciptaan Fungsi: Dalam bahagian Functions, pilih Create a new function. Fungsi ini akan mentakrifkan tindakan yang boleh dilakukan oleh ejen.

5. Penamaan Fungsi: Berikan fungsi anda nama deskriptif, seperti crm_agent_calling.

6. Skema Fungsi: Untuk Function schema, gunakan definisi OpenAPI yang disediakan dalam repositori GitHub. Skema ini mentakrifkan parameter input dan output untuk fungsi anda.

7. Konfigurasi Pengesahan: Untuk Authentication method, pilih API Keys (Max. 2 Keys) dan masukkan butiran berikut:

   1. Untuk Key sent in, pilih Header.
   2. Untuk Key name, masukkan x-api-key.
   3. Untuk Key value, masukkan Kunci API Secrets Manager.

8. Titik Akhir Pelayan API: Dalam bahagian API servers, masukkan URL titik akhir yang anda peroleh daripada Output CloudFormation (ApiInvokeURL).

9. Penyelesaian Fungsi: Pilih Create untuk memuktamadkan penciptaan fungsi.

10. Penyimpanan Aplikasi: Dalam bahagian Functions aplikasi ejen sembang, pilih fungsi yang baru anda buat dan pilih Save untuk melengkapkan penciptaan aplikasi.

Contoh Interaksi

Mari kita terokai beberapa contoh praktikal tentang cara ejen sembang ini boleh digunakan:

Kes Penggunaan 1: Penganalisis CRM Mendapatkan Butiran Pelanggan

Penganalisis CRM boleh menggunakan bahasa semula jadi untuk mendapatkan semula butiran pelanggan yang disimpan dalam pangkalan data. Berikut ialah beberapa contoh soalan yang mungkin mereka tanya:

• “Give me a brief overview of customer C-jkl101112.” (Berikan saya gambaran keseluruhan ringkas tentang pelanggan C-jkl101112.)
• “List the last 2 recent interactions for customer C-def456.” (Senaraikan 2 interaksi terkini untuk pelanggan C-def456.)
• “What communication method does customer C-mno131415 prefer?” (Apakah kaedah komunikasi yang diutamakan oleh pelanggan C-mno131415?)
• “Recommend optimal time and contact channel to reach out to C-ghi789 based on their preferences and our last interaction.” (Cadangkan masa dan saluran hubungan yang optimum untuk menghubungi C-ghi789 berdasarkan keutamaan mereka dan interaksi terakhir kami.)

Ejen, apabila menerima permintaan ini, akan menanyakan pangkalan data dengan bijak dan memberikan jawapan yang sepadan dalam format yang jelas dan ringkas.

Kes Penggunaan 2: Pengurus Projek Mengurus Tiket JIRA

Pengurus projek boleh menggunakan ejen untuk menyenaraikan dan mengemas kini tiket JIRA. Berikut ialah beberapa contoh interaksi:

• “What are the open JIRA Tasks for project id CRM?” (Apakah Tugas JIRA yang terbuka untuk id projek CRM?)
• “Please update JIRA Task CRM-3 to 1 weeks out.” (Sila kemas kini Tugas JIRA CRM-3 kepada 1 minggu lagi.)

Ejen akan mengakses papan JIRA, mendapatkan maklumat projek yang berkaitan, dan menyediakan senarai tugas JIRA yang terbuka. Ia juga akan mengemas kini garis masa tugas tertentu seperti yang diminta oleh pengguna.

Pembersihan

Untuk mengelakkan daripada menanggung kos yang tidak perlu, lakukan langkah pembersihan berikut:

1. Padamkan Tindanan CloudFormation: Padamkan tindanan CloudFormation yang anda gunakan sebelum ini.
2. Padamkan Komponen Fungsi: Alih keluar komponen fungsi yang anda buat dalam Amazon Bedrock.
3. Padamkan Aplikasi Ejen Sembang: Padamkan aplikasi ejen sembang dalam Amazon Bedrock.
4. Padamkan Domain: Padamkan domain dalam SageMaker Unified Studio.

Kos

Menggunakan Amazon Bedrock dalam SageMaker Unified Studio tidak mengenakan sebarang caj berasingan. Walau bagaimanapun, anda akan dibilkan untuk perkhidmatan dan sumber AWS individu yang digunakan dalam perkhidmatan tersebut. Amazon Bedrock beroperasi pada model bayar bila guna, bermakna anda hanya membayar untuk sumber yang anda gunakan, tanpa yuran minimum atau komitmen pendahuluan.

Jika anda memerlukan bantuan lanjut dengan pengiraan harga atau mempunyai soalan tentang mengoptimumkan kos untuk kes penggunaan khusus anda, anda disyorkan untuk menghubungi Sokongan AWS atau berunding dengan pengurus akaun anda. Mereka boleh memberikan panduan yang disesuaikan berdasarkan keperluan anda.