Üretken Yapay Zeka Aracılarının Otomatik İş Akışları İçin Kullanımı
Amazon Bedrock in SageMaker Unified Studio, kuruluşunuzun uygulamaları, veritabanları ve hatta üçüncü taraf sistemleriyle sorunsuz bir şekilde entegre olabilen gelişmiş üretken yapay zeka aracıları oluşturmanıza ve dağıtmanıza olanak tanır. Bu entegrasyon seviyesi, tüm teknoloji yığınınızda doğal dil etkileşimlerini mümkün kılar. Sohbet aracısı, karmaşık bilgi sistemlerini kullanıcı dostu iletişimle birleştiren önemli bir köprü görevi görür. Amazon Bedrock işlevlerini ve Amazon Bedrock Knowledge Bases’i kullanan aracı, çeşitli veri kaynaklarına bağlanma yeteneği kazanır. Bu kaynaklar, gerçek zamanlı proje durumu takibi için JIRA API’lerinden, müşteri bilgilerini almak için müşteri ilişkileri yönetimi (CRM) sistemlerine kadar uzanabilir. Aracı ayrıca proje görevlerini güncelleyebilir, kullanıcı tercihlerini yönetebilir ve çok daha fazlasını yapabilir.
Bu kapsamlı işlevsellik, bir kuruluştaki çeşitli ekiplere önemli faydalar sağlar. Satış ve pazarlama ekipleri, müşteri bilgilerine ve tercih ettikleri toplantı zamanlarına hızlı erişim sağlayabilir. Proje yöneticileri, JIRA görevlerini ve zaman çizelgelerini verimli bir şekilde yöneterek proje iş akışlarını optimize edebilir. Yapay zeka aracısı tarafından kolaylaştırılan bu modern süreç, tüm kuruluş genelinde artan üretkenliğe ve iyileştirilmiş müşteri etkileşimlerine yol açar.
Çözüme Genel Bakış
Amazon Bedrock, SageMaker Unified Studio içinde, üretken yapay zeka uygulamaları oluşturmak ve paylaşmak için yönetilen, işbirliğine dayalı bir ortam sağlar. Bir müşteri yönetimi aracısının uygulanmasını gösteren pratik bir örnek çözüme bakalım:
- Aracılı Sohbet: Amazon Bedrock’un sohbet uygulaması özellikleri kullanılarak gelişmiş bir aracılı sohbet uygulaması oluşturulabilir. Bu sohbet uygulaması, sunucusuz bilgi işlem için AWS Lambda ve API’ler oluşturmak ve yönetmek için Amazon API Gateway gibi diğer AWS hizmetleri kullanılarak kolayca oluşturulan işlevlerle sorunsuz bir şekilde entegre edilebilir.
- Veri Yönetimi: SageMaker Unified Studio, Amazon DataZone ile birlikte, entegre hizmetleri aracılığıyla kapsamlı bir veri yönetimi çözümü sunar. Kuruluş yöneticileri, Amazon Bedrock modellerine ve özelliklerine üye erişimi üzerinde ayrıntılı kontrole sahiptir. Bu, veri güvenliğini ve uyumluluğu koruyarak güvenli kimlik yönetimi ve ayrıntılı erişim kontrolü sağlar.
Yapay zeka aracısının dağıtımına derinlemesine dalmadan önce, mimarinin temel adımlarını gözden geçirmek faydalıdır.
İş akışı aşağıdaki gibi gelişir:
- Kullanıcı Kimlik Doğrulaması ve Etkileşimi: Kullanıcı, AWS IAM Identity Center’daki kuruluşunun SSO kimlik bilgilerini kullanarak SageMaker Unified Studio’da oturum açarak süreci başlatır. Kimlik doğrulandıktan sonra, kullanıcı sohbet uygulamasıyla doğal dili kullanarak etkileşim kurar, sorular sorar veya isteklerde bulunur.
- İşlev Çağrısı: Amazon Bedrock sohbet uygulaması, ilgili bilgileri almak için akıllıca önceden tanımlanmış bir işlev kullanır. Bu işlev, JIRA durum güncellemelerini veya veritabanından müşteri bilgilerini getirmek için tasarlanmış olabilir. Alma işlemi, API Gateway kullanılarak güvenli bir uç nokta aracılığıyla gerçekleştirilir.
- Güvenli Erişim ve Lambda Tetikleyicisi: Sohbet uygulaması, belirlenen uç noktaya güvenli bir şekilde erişmek için API Gateway ile kimlik doğrulaması yapar. Bu kimlik doğrulama, AWS Secrets Manager’da güvenli bir şekilde saklanan rastgele oluşturulmuş bir API anahtarı kullanılarak gerçekleştirilir. Kullanıcının isteğine bağlı olarak, uygun Lambda işlevi tetiklenir.
- Eylem Yürütme: Şimdi etkinleştirilen Lambda işlevi, kullanıcı tarafından istenen belirli eylemleri gerçekleştirir. Bu, JIRA API’sini çağırmayı veya aracı tarafından sağlanan gerekli parametrelerle veritabanını sorgulamayı içerir. Aracı, aşağıdakiler de dahil olmak üzere çeşitli görevleri yerine getirmek üzere tasarlanmıştır:
- Belirli bir müşteriye ilişkin kısa bir genel bakış sağlama.
- Belirli bir müşteriyle son etkileşimleri listeleme.
- Belirlenen bir müşterinin toplantı tercihlerini alma.
- Belirli bir projeyle ilişkili açık JIRA biletlerinin bir listesini alma.
- Belirli bir JIRA biletinin son tarihini güncelleme.
Ön Koşullar
Bu çözüm uygulamasını takip etmek ve kendi müşteri yönetimi aracınızı oluşturmak için aşağıdaki ön koşullara ihtiyacınız olacak:
- AWS Hesabı: Gerekli hizmetlere erişmek için aktif bir AWS hesabı gereklidir.
- SageMaker Unified Studio Erişimi: SageMaker Unified Studio içinde Amazon Bedrock’a kullanıcı erişimi gereklidir.
- Model Erişimi: Amazon Bedrock’ta Amazon Nova Pro’ya model erişimine ihtiyacınız olacak. Bu modelin desteklenen bir AWS Bölgesinde kullanılabilir olduğundan emin olun.
- JIRA Kurulumu: JIRA ile entegre olmak için bir JIRA uygulaması, buna karşılık gelen JIRA URL’si ve hesabınızla ilişkili bir JIRA API belirteci gereklidir.
AWS’de API Gateway, Lambda işlevleri ve IAM Identity Center dahil olmak üzere temel sunucusuz kavramlar hakkında temel bir anlayışa sahip olduğunuz varsayılmaktadır. Bu yazı, bu hizmetlerin derinlemesine tanımlarını sağlamasa da, SageMaker Unified Studio’da bulunan yeni Amazon Bedrock özelliklerinin bağlamında kullanım durumlarını göstereceğiz.
Çözümün Dağıtımı
Müşteri yönetimi aracısı çözümünü dağıtmak için şu adımları izleyin:
- Kodu İndirin: Sağlanan GitHub deposundan gerekli kodu indirerek başlayın.
- JIRA Kimlik Bilgilerini Alın: Lambda işlevi için
JIRA_API_KEY_ARN
,JIRA_URL
veJIRA_USER_NAME
değerlerini alın. Bu kimlik bilgileri, JIRA örneğinizle kimlik doğrulaması yapmak için kullanılacaktır. - CloudFormation Yığınını Başlatın: Sağlanan AWS CloudFormation şablonunu kullanın. Tercih ettiğiniz AWS Bölgesinde yığını başlatma hakkında ayrıntılı talimatlar için “CloudFormation konsolundan bir yığın oluşturma” belgelerine bakın.
- API Gateway URL’si: CloudFormation yığını başarıyla dağıtıldıktan sonra, Outputs sekmesine gidin.
ApiInvokeURL
değerini bulun ve not edin. Bu URL, API Gateway’inizin uç noktasını temsil eder. - Secrets Manager Yapılandırması: Secrets Manager konsoluna erişin.
JIRA_API_KEY_ARN
,JIRA_URL
veJIRA_USER_NAME
‘e karşılık gelen sırları bulun. - Gizli Değerleri Güncelleyin: Her sır için Retrieve secret seçeneğini belirleyin. 2. Adımda elde edilen karşılık gelen değişkenleri gizli düz metin dizesine kopyalayın. Bu, JIRA kimlik bilgilerinizi güvenli bir şekilde saklayacaktır.
- SageMaker Unified Studio’da Oturum Açın: Kuruluşunuzun SSO kimlik bilgilerini kullanarak SageMaker Unified Studio’da oturum açın.
Yeni Bir Proje Oluşturma
Altyapı hazır olduğuna göre, SageMaker Unified Studio’da yeni bir proje oluşturalım:
- Proje Oluşturma: SageMaker Unified Studio açılış sayfasında, yeni bir proje oluşturmayı başlatın.
- Proje Adlandırma: Projenize açıklayıcı bir ad verin (örneğin,
crm-agent
). - Profil Seçimi: Generative AI application development profile‘ı seçin ve devam edin.
- Varsayılan Ayarlar: Varsayılan ayarları kabul edin ve devam edin.
- Onay: Proje yapılandırmasını gözden geçirin ve onaylamak için Create project‘i seçin.
Sohbet Aracısı Uygulamasını Oluşturma
Şimdi, çözümümüzün çekirdeğini oluşturalım – sohbet aracısı uygulaması:
Sohbet Aracısı Başlatma:
crm-agent
proje açılış sayfasında, sağ taraftaki New bölümünü bulun. Uygulamanızı oluşturmaya başlamak için Chat agent‘ı seçin.
Bu, aracı uygulamanız için bir yapılandırma listesi sunacaktır.Model Seçimi: Model bölümünün altında, Amazon Bedrock tarafından desteklenen istenen bir temel model (FM) seçin. Bu
crm-agent
için Amazon Nova Pro’yu seçeceğiz.Sistem İstemi Tanımı: Sistem istemi bölümünde, aşağıdaki istemi sağlayın. Bu istem, aracının davranışını ve yanıtlarını yönlendirecektir. Performansını daha da iyileştirmek için isteğe bağlı olarak kullanıcı girişi ve model yanıtı örnekleri ekleyebilirsiniz.
Bir satış elemanının müşterilerle çalışmalarını planlamasına yardımcı olmakla görevli bir müşteri ilişkileri yönetimi aracısısınız. Size bir API uç noktası sağlanmıştır. Bu uç nokta, şirket genel bakışı, şirket etkileşim geçmişi (toplantı zamanları ve notları), şirket toplantı tercihleri (toplantı türü, haftanın günü ve günün saati) gibi bilgiler sağlayabilir. Ayrıca Jira görevlerini sorgulayabilir ve zaman çizelgelerini güncelleyebilirsiniz. Bir yanıt aldıktan sonra, okunabilir bir biçimde temizleyin. Çıktı numaralandırılmış bir listeyse, yeni satır karakterleri ve sayılarla bu şekilde biçimlendirin.
İşlev Oluşturma: Functions bölümünde, Create a new function‘ı seçin. Bu işlev, aracının gerçekleştirebileceği eylemleri tanımlayacaktır.
İşlev Adlandırma: İşlevinize
crm_agent_calling
gibi açıklayıcı bir ad verin.İşlev Şeması: Function schema için, GitHub deposunda sağlanan OpenAPI tanımını kullanın. Bu şema, işleviniz için giriş ve çıkış parametrelerini tanımlar.
Kimlik Doğrulama Yapılandırması: Authentication method için API Keys (Max. 2 Keys)‘i seçin ve aşağıdaki ayrıntıları girin:
- Key sent in için Header‘ı seçin.
- Key name için
x-api-key
girin. - Key value için Secrets Manager API Anahtarını girin.
API Sunucu Uç Noktası: API servers bölümünde, CloudFormation Çıktılarından (
ApiInvokeURL
) aldığınız uç nokta URL’sini girin.İşlev Sonlandırma: İşlev oluşturmayı tamamlamak için Create‘i seçin.
Uygulama Kaydetme: Sohbet aracısı uygulamasının Functions bölümünde, yeni oluşturduğunuz işlevi seçin ve uygulama oluşturmayı tamamlamak için Save‘i seçin.
Örnek Etkileşimler
Bu sohbet aracısının nasıl kullanılabileceğine dair bazı pratik örnekleri inceleyelim:
Kullanım Durumu 1: CRM Analisti Müşteri Ayrıntılarını Alıyor
Bir CRM analisti, veritabanında saklanan müşteri ayrıntılarını almak için doğal dili kullanabilir. İşte sorabilecekleri bazı örnek sorular:
- “‘C-jkl101112’ müşterisine kısa bir genel bakış verin.”
- “‘C-def456’ müşterisi için son 2 etkileşimi listeleyin.”
- “‘C-mno131415’ müşterisi hangi iletişim yöntemini tercih ediyor?”
- “‘C-ghi789’ ile tercihlerine ve son etkileşimimize göre iletişim kurmak için en uygun zamanı ve iletişim kanalını önerin.”
Aracı, bu istekleri aldıktan sonra, veritabanını akıllıca sorgulayacak ve ilgili yanıtları açık ve öz bir biçimde sağlayacaktır.
Kullanım Durumu 2: Proje Yöneticisi JIRA Biletlerini Yönetiyor
Bir proje yöneticisi, JIRA biletlerini listelemek ve güncellemek için aracıyı kullanabilir. İşte bazı örnek etkileşimler:
- “CRM proje kimliği için açık JIRA Görevleri nelerdir?”
- “Lütfen JIRA Görevi CRM-3’ü 1 hafta sonrasına güncelleyin.”
Aracı, JIRA panosuna erişecek, ilgili proje bilgilerini getirecek ve açık JIRA görevlerinin bir listesini sağlayacaktır. Ayrıca, kullanıcı tarafından istendiği gibi belirli bir görevin zaman çizelgesini güncelleyecektir.
Temizlik
Gereksiz maliyetlerden kaçınmak için aşağıdaki temizleme adımlarını gerçekleştirin:
- CloudFormation Yığınını Silin: Daha önce dağıttığınız CloudFormation yığınını silin.
- İşlev Bileşenini Silin: Amazon Bedrock’ta oluşturduğunuz işlev bileşenini kaldırın.
- Sohbet Aracısı Uygulamasını Silin: Amazon Bedrock içindeki sohbet aracısı uygulamasını silin.
- Etki Alanlarını Silin: SageMaker Unified Studio’daki etki alanlarını silin.
Maliyet
SageMaker Unified Studio içinde Amazon Bedrock’u kullanmak herhangi bir ayrı ücrete tabi değildir. Ancak, hizmet içinde kullanılan bireysel AWS hizmetleri ve kaynakları için faturalandırılırsınız. Amazon Bedrock, kullandıkça öde modeliyle çalışır, yani yalnızca tükettiğiniz kaynaklar için ödeme yaparsınız, minimum ücret veya ön taahhüt yoktur.
Fiyatlandırma hesaplamaları konusunda daha fazla yardıma ihtiyacınız varsa veya özel kullanım durumunuz için maliyetleri optimize etme hakkında sorularınız varsa, AWS Destek ile iletişime geçmeniz veya hesap yöneticinize danışmanız önerilir. İhtiyaçlarınıza göre özel rehberlik sağlayabilirler.