Tekanan tanpa henti untuk mempertahankan efisiensi operasional merupakan tantangan yang dihadapi oleh perusahaan dari semua ukuran. Tantangan ini semakin diperkuat oleh volume data yang terus meningkat, sistem yang kompleks, dan banyaknya interaksi pelanggan yang perlu dikelola. Proses manual tradisional dan sifat sumber informasi yang seringkali terputus-putus dapat menyebabkan hambatan yang signifikan. Hambatan ini memperlambat pengambilan keputusan dan mencegah tim untuk mendedikasikan waktu dan energi mereka untuk pekerjaan bernilai lebih tinggi yang benar-benar memberikan dampak. Agen AI generatif mewakili solusi transformatif. Agen ini dapat secara otomatis berinteraksi dengan sistem perusahaan yang ada, menjalankan berbagai tugas, dan memberikan wawasan instan. Hal ini memungkinkan organisasi untuk menskalakan operasi mereka secara efektif tanpa peningkatan kompleksitas yang sepadan.
Amazon Bedrock di SageMaker Unified Studio secara langsung mengatasi tantangan yang meluas ini. Ia menawarkan layanan terpadu yang dirancang untuk membangun solusi berbasis AI. Platform ini memusatkan data pelanggan dan memungkinkan interaksi bahasa alami, menjadikannya intuitif dan mudah digunakan. Keuntungan utamanya adalah integrasinya yang mulus dengan aplikasi yang ada. Ia juga menggabungkan fitur-fitur penting Amazon Bedrock, termasuk berbagai pilihan model dasar (FM), kemampuan rekayasa prompt, basis pengetahuan untuk pemahaman kontekstual, agen untuk eksekusi tugas, alur untuk orkestrasi alur kerja, alat evaluasi untuk pemantauan kinerja, dan pagar pembatas untuk pengembangan AI yang bertanggung jawab. Pengguna dapat dengan mudah mengakses rangkaian lengkap kemampuan AI ini melalui sistem single sign-on (SSO) organisasi mereka. Hal ini mendorong kolaborasi di antara anggota tim dan memungkinkan penyempurnaan aplikasi AI tanpa memerlukan akses langsung ke AWS Management Console.
Agen Bertenaga AI Generatif untuk Alur Kerja Otomatis
Amazon Bedrock di SageMaker Unified Studio memberdayakan Anda untuk membuat dan menerapkan agen AI generatif yang canggih. Agen ini dapat berintegrasi secara mulus dengan aplikasi, basis data, dan bahkan sistem pihak ketiga organisasi Anda. Tingkat integrasi ini memungkinkan interaksi bahasa alami di seluruh tumpukan teknologi Anda. Agen obrolan bertindak sebagai jembatan penting, menghubungkan sistem informasi yang kompleks dengan komunikasi yang mudah digunakan. Dengan memanfaatkan fungsi Amazon Bedrock dan Amazon Bedrock Knowledge Bases, agen memperoleh kemampuan untuk terhubung dengan beragam sumber data. Sumber-sumber ini dapat berkisar dari JIRA API untuk pelacakan status proyek secara real-time hingga sistem manajemen hubungan pelanggan (CRM) untuk mengambil informasi pelanggan. Agen juga dapat memperbarui tugas proyek, mengelola preferensi pengguna, dan banyak lagi.
Fungsionalitas komprehensif ini memberikan manfaat signifikan bagi berbagai tim dalam suatu organisasi. Tim penjualan dan pemasaran dapat memperoleh akses cepat ke informasi pelanggan dan waktu pertemuan yang mereka inginkan. Manajer proyek dapat secara efisien mengelola tugas dan lini masa JIRA, mengoptimalkan alur kerja proyek. Proses yang disederhanakan ini, difasilitasi oleh agen AI, mengarah pada peningkatan produktivitas dan peningkatan interaksi pelanggan di seluruh organisasi.
Ikhtisar Solusi
Amazon Bedrock menyediakan lingkungan yang diatur dan kolaboratif, semuanya dalam SageMaker Unified Studio, untuk membangun dan berbagi aplikasi AI generatif. Mari kita selidiki contoh solusi praktis yang mendemonstrasikan implementasi agen manajemen pelanggan:
- Agentic Chat: Aplikasi obrolan agentik yang canggih dapat dibangun menggunakan fitur aplikasi obrolan Amazon Bedrock. Aplikasi obrolan ini dapat diintegrasikan secara mulus dengan fungsi yang mudah dibangun menggunakan layanan AWS lainnya, seperti AWS Lambda untuk komputasi tanpa server dan Amazon API Gateway untuk membuat dan mengelola API.
- Manajemen Data: SageMaker Unified Studio, bersama dengan Amazon DataZone, menawarkan solusi manajemen data yang komprehensif melalui layanan terintegrasinya. Administrator organisasi memiliki kontrol terperinci atas akses anggota ke model dan fitur Amazon Bedrock. Ini memastikan manajemen identitas yang aman dan kontrol akses granular, menjaga keamanan dan kepatuhan data.
Sebelum kita menyelami lebih dalam penerapan agen AI, ada baiknya kita menelusuri langkah-langkah kunci dari arsitektur tersebut.
Alur kerja berlangsung sebagai berikut:
- Otentikasi dan Interaksi Pengguna: Pengguna memulai proses dengan masuk ke SageMaker Unified Studio menggunakan kredensial SSO organisasi mereka dari AWS IAM Identity Center. Setelah diautentikasi, pengguna berinteraksi dengan aplikasi obrolan menggunakan bahasa alami, mengajukan pertanyaan atau membuat permintaan.
- Pemanggilan Fungsi: Aplikasi obrolan Amazon Bedrock secara cerdas menggunakan fungsi yang telah ditentukan sebelumnya untuk mengambil informasi yang relevan. Fungsi ini mungkin dirancang untuk mengambil pembaruan status JIRA atau informasi pelanggan dari database. Pengambilan dilakukan melalui titik akhir yang aman menggunakan API Gateway.
- Akses Aman dan Pemicu Lambda: Aplikasi obrolan mengautentikasi dirinya sendiri dengan API Gateway untuk mengakses titik akhir yang ditentukan secara aman. Otentikasi ini dicapai menggunakan kunci API yang dihasilkan secara acak yang disimpan dengan aman di AWS Secrets Manager. Berdasarkan permintaan pengguna, fungsi Lambda yang sesuai dipicu.
- Eksekusi Tindakan: Fungsi Lambda, yang sekarang diaktifkan, melakukan tindakan spesifik yang diminta oleh pengguna. Ini melibatkan pemanggilan JIRA API atau kueri database dengan parameter yang diperlukan yang disediakan oleh agen. Agen dirancang untuk menangani berbagai tugas, termasuk:
- Memberikan ikhtisar singkat tentang pelanggan tertentu.
- Mencantumkan interaksi terbaru dengan pelanggan tertentu.
- Mengambil preferensi pertemuan untuk pelanggan yang ditunjuk.
- Mengambil daftar tiket JIRA terbuka yang terkait dengan proyek tertentu.
- Memperbarui tanggal jatuh tempo untuk tiket JIRA tertentu.
Prasyarat
Untuk mengikuti implementasi solusi ini dan membangun agen manajemen pelanggan Anda sendiri, Anda memerlukan prasyarat berikut:
- Akun AWS: Akun AWS aktif sangat penting untuk mengakses layanan yang diperlukan.
- Akses SageMaker Unified Studio: Akses pengguna ke Amazon Bedrock dalam SageMaker Unified Studio diperlukan.
- Akses Model: Anda memerlukan akses model ke Amazon Nova Pro di Amazon Bedrock. Pastikan model ini tersedia di Wilayah AWS yang didukung.
- Pengaturan JIRA: Aplikasi JIRA, URL JIRA yang sesuai, dan token JIRA API yang terkait dengan akun Anda diperlukan untuk berintegrasi dengan JIRA.
Diasumsikan bahwa Anda memiliki pemahaman dasar tentang konsep serverless fundamental di AWS, termasuk API Gateway, fungsi Lambda, dan IAM Identity Center. Meskipun postingan ini tidak akan memberikan definisi mendalam tentang layanan ini, kami akan mendemonstrasikan kasus penggunaannya dalam konteks fitur Amazon Bedrock baru yang tersedia dalam SageMaker Unified Studio.
Menerapkan Solusi
Untuk menerapkan solusi agen manajemen pelanggan, ikuti langkah-langkah berikut:
- Unduh Kode: Mulailah dengan mengunduh kode yang diperlukan dari repositori GitHub yang disediakan.
- Ambil Kredensial JIRA: Dapatkan nilai untuk
JIRA_API_KEY_ARN,JIRA_URL, danJIRA_USER_NAMEuntuk fungsi Lambda. Kredensial ini akan digunakan untuk mengautentikasi dengan instance JIRA Anda. - Luncurkan Tumpukan CloudFormation: Manfaatkan templat AWS CloudFormation yang disediakan. Lihat dokumentasi tentang ‘Membuat tumpukan dari konsol CloudFormation’ untuk instruksi terperinci tentang peluncuran tumpukan di Wilayah AWS pilihan Anda.
- URL API Gateway: Setelah tumpukan CloudFormation berhasil diterapkan, navigasikan ke tab Outputs. Temukan dan catat nilai
ApiInvokeURL. URL ini mewakili titik akhir untuk API Gateway Anda. - Konfigurasi Secrets Manager: Akses konsol Secrets Manager. Temukan rahasia yang sesuai dengan
JIRA_API_KEY_ARN,JIRA_URL, danJIRA_USER_NAME. - Perbarui Nilai Rahasia: Pilih opsi Retrieve secret untuk setiap rahasia. Salin variabel yang sesuai yang diperoleh pada Langkah 2 ke dalam string plaintext rahasia. Ini akan menyimpan kredensial JIRA Anda dengan aman.
- Masuk ke SageMaker Unified Studio: Masuk ke SageMaker Unified Studio menggunakan kredensial SSO organisasi Anda.
Membuat Proyek Baru
Dengan infrastruktur yang sudah ada, mari kita buat proyek baru dalam SageMaker Unified Studio:
- Pembuatan Proyek: Pada halaman arahan SageMaker Unified Studio, mulai pembuatan proyek baru.
- Penamaan Proyek: Beri nama deskriptif untuk proyek Anda (misalnya,
crm-agent). - Pemilihan Profil: Pilih Generative AI application development profile dan lanjutkan.
- Pengaturan Default: Terima pengaturan default dan lanjutkan.
- Konfirmasi: Tinjau konfigurasi proyek dan pilih Create project untuk mengonfirmasi.
Membangun Aplikasi Agen Obrolan
Sekarang, mari kita bangun inti dari solusi kita – aplikasi agen obrolan:
Inisiasi Agen Obrolan: Dalam halaman arahan proyek
crm-agent, cari bagian New di sisi kanan. Pilih Chat agent untuk mulai membangun aplikasi Anda.
Ini akan menampilkan daftar konfigurasi untuk aplikasi agen Anda.Pemilihan Model: Di bawah bagian model, pilih model dasar (FM) yang diinginkan yang didukung oleh Amazon Bedrock. Untuk
crm-agentini, kita akan memilih Amazon Nova Pro.Definisi Prompt Sistem: Di bagian prompt sistem, berikan prompt berikut. Prompt ini akan memandu perilaku dan respons agen. Anda dapat secara opsional menyertakan contoh input pengguna dan respons model untuk lebih menyempurnakan kinerjanya.
Anda adalah agen manajemen hubungan pelanggan yang bertugas membantu tenaga penjualan merencanakan pekerjaan mereka dengan pelanggan. Anda diberikan titik akhir API. Titik akhir ini dapat memberikan informasi seperti ikhtisar perusahaan, riwayat interaksi perusahaan (waktu dan catatan rapat), preferensi pertemuan perusahaan (jenis pertemuan, hari dalam seminggu, dan waktu). Anda juga dapat menanyakan tugas Jira dan memperbarui lini masanya. Setelah menerima respons, bersihkan ke dalam format yang dapat dibaca. Jika outputnya adalah daftar bernomor, formatlah seperti itu dengan karakter baris baru dan angka.Pembuatan Fungsi: Di bagian Functions, pilih Create a new function. Fungsi ini akan menentukan tindakan yang dapat dilakukan agen.
Penamaan Fungsi: Beri nama deskriptif untuk fungsi Anda, seperti
crm_agent_calling.Skema Fungsi: Untuk Function schema, gunakan definisi OpenAPI yang disediakan di repositori GitHub. Skema ini mendefinisikan parameter input dan output untuk fungsi Anda.
Konfigurasi Otentikasi: Untuk Authentication method, pilih API Keys (Max. 2 Keys) dan masukkan detail berikut:
- Untuk Key sent in, pilih Header.
- Untuk Key name, masukkan
x-api-key. - Untuk Key value, masukkan Secrets Manager API Key.
Titik Akhir Server API: Di bagian API servers, masukkan URL titik akhir yang Anda peroleh dari Output CloudFormation (
ApiInvokeURL).Finalisasi Fungsi: Pilih Create untuk menyelesaikan pembuatan fungsi.
Penyimpanan Aplikasi: Di bagian Functions dari aplikasi agen obrolan, pilih fungsi yang baru saja Anda buat dan pilih Save untuk menyelesaikan pembuatan aplikasi.
Contoh Interaksi
Mari kita jelajahi beberapa contoh praktis tentang bagaimana agen obrolan ini dapat digunakan:
Kasus Penggunaan 1: Analis CRM Mengambil Detail Pelanggan
Seorang analis CRM dapat menggunakan bahasa alami untuk mengambil detail pelanggan yang disimpan dalam database. Berikut adalah beberapa contoh pertanyaan yang mungkin mereka ajukan:
- ‘Berikan saya ikhtisar singkat tentang pelanggan C-jkl101112.’
- ‘Daftarkan 2 interaksi terbaru untuk pelanggan C-def456.’
- ‘Metode komunikasi apa yang disukai pelanggan C-mno131415?’
- ‘Rekomendasikan waktu dan saluran kontak yang optimal untuk menghubungi C-ghi789 berdasarkan preferensi mereka dan interaksi terakhir kita.’
Agen, setelah menerima permintaan ini, akan secara cerdas menanyakan database dan memberikan jawaban yang sesuai dalam format yang jelas dan ringkas.
Kasus Penggunaan 2: Manajer Proyek Mengelola Tiket JIRA
Seorang manajer proyek dapat menggunakan agen untuk mendaftar dan memperbarui tiket JIRA. Berikut adalah beberapa contoh interaksi:
- ‘Apa Tugas JIRA yang terbuka untuk ID proyek CRM?’
- ‘Harap perbarui Tugas JIRA CRM-3 hingga 1 minggu ke depan.’
Agen akan mengakses papan JIRA, mengambil informasi proyek yang relevan, dan memberikan daftar tugas JIRA yang terbuka. Ini juga akan memperbarui lini masa tugas tertentu seperti yang diminta oleh pengguna.
Pembersihan
Untuk mencegah biaya yang tidak perlu, lakukan langkah-langkah pembersihan berikut:
- Hapus Tumpukan CloudFormation: Hapus tumpukan CloudFormation yang Anda terapkan sebelumnya.
- Hapus Komponen Fungsi: Hapus komponen fungsi yang Anda buat di Amazon Bedrock.
- Hapus Aplikasi Agen Obrolan: Hapus aplikasi agen obrolan dalam Amazon Bedrock.
- Hapus Domain: Hapus domain di SageMaker Unified Studio.
Biaya
Menggunakan Amazon Bedrock dalam SageMaker Unified Studio tidak dikenakan biaya terpisah. Namun, Anda akan ditagih untuk layanan dan sumber daya AWS individual yang digunakan dalam layanan tersebut. Amazon Bedrock beroperasi pada model bayar sesuai pemakaian, yang berarti Anda hanya membayar sumber daya yang Anda konsumsi, tanpa biaya minimum atau komitmen di muka.
Jika Anda memerlukan bantuan lebih lanjut dengan perhitungan harga atau memiliki pertanyaan tentang pengoptimalan biaya untuk kasus penggunaan spesifik Anda, disarankan untuk menghubungi Dukungan AWS atau berkonsultasi dengan manajer akun Anda. Mereka dapat memberikan panduan yang disesuaikan berdasarkan kebutuhan Anda.