Üretken yapay zeka, aralarında Amazon’un Rufus ve Amazon Seller Assistant gibi konuşmaya dayalı yardımcıların da bulunduğu çeşitli uygulamalarla iş operasyonlarını kökten değiştiriyor. Ayrıca, en etkili üretken yapay zeka uygulamalarından bazıları, işletmelerin operasyonlarını, veri işlemeyi ve içerik oluşturmayı büyük ölçekte dönüştürmelerini sağlayan vazgeçilmez bir özellik olan arka planda bağımsız olarak çalışır. Bu konuşmaya dayalı olmayan uygulamalar genellikle Büyük Dil Modelleri (LLM’ler) tarafından desteklenen ve doğrudan kullanıcı etkileşimi olmadan belirli iş hedeflerini sektörler arasında gerçekleştiren aracı iş akışları biçiminde ortaya çıkar.
Gerçek zamanlı kullanıcı geri bildiriminden ve denetiminden yararlanan konuşmaya dayalı uygulamalarla karşılaştırıldığında, konuşmaya dayalı olmayan uygulamalar daha yüksek gecikme toleransı, toplu işleme ve önbelleğe alma gibi benzersiz avantajlara sahiptir, ancak özerk yapıları daha güçlü güvenlik önlemleri ve ayrıntılı kalite güvencesi gerektirir.
Bu makale, Amazon’un dört farklı üretken yapay zeka uygulama örneğini incelemektedir:
- Amazon Ürün Bilgisi Oluşturma ve Katalog Veri Kalitesini İyileştirme – LLM’lerin satış ortaklarının ve Amazon’un daha yüksek kalitede ürün bilgileri oluşturmasına büyük ölçekte nasıl yardımcı olduğunu gösterir
- Amazon Eczanesi Reçete İşleme – Yüksek düzeyde düzenlemeye tabi bir ortamdaki uygulamayı ve aracı iş akışları için görev ayrıştırmasını gösterir
- Yorum Önemli Noktaları – Büyük ölçekli toplu işlemeyi, geleneksel makine öğrenimi (ML) entegrasyonunu, küçük LLM’lerin kullanımını ve uygun maliyetli çözümleri gösterir
- Amazon Reklam Yaratıcı Görüntü ve Video Oluşturma – Yaratıcı çalışmada çok modlu üretken yapay zekayı ve sorumlu yapay zeka uygulamalarını vurgular
Her bir vaka çalışması, teknik mimariden operasyonel hususlara kadar konuşmaya dayalı olmayan üretken yapay zeka uygulamalarının farklı yönlerini ortaya koymaktadır. Bu örnekler aracılığıyla, Amazon Bedrock ve Amazon SageMaker dahil olmak üzere eksiksiz bir AWS hizmetleri paketinin başarının anahtarı olduğunu anlayacaksınız. Son olarak, çeşitli kullanım durumlarında yaygın olarak paylaşılan temel deneyimleri listeliyoruz.
Amazon’da Yüksek Kaliteli Ürün Bilgileri Oluşturma
Kapsamlı ayrıntılara sahip yüksek kaliteli ürün bilgileri oluşturmak, müşterilerin bilinçli satın alma kararları vermesine yardımcı olur. Geleneksel olarak, satış ortakları her ürün için birçok özelliği manuel olarak girer. 2024’te tanıtılan yepyeni üretken yapay zeka çözümü, marka web sitelerinden ve diğer kaynaklardan proaktif olarak ürün bilgileri alarak müşteri deneyimini iyileştirerek bu süreci değiştiriyor.
Üretken yapay zeka, bilgilerin URL, ürün resimleri veya elektronik tablolar gibi çeşitli biçimlerde girilmesini destekleyerek ve bunları otomatik olarak istenen yapıya ve biçime dönüştürerek satış ortaklarının deneyimini basitleştirir. 900.000’den fazla satış ortağı tarafından kullanıldı ve oluşturulan ürün listesi taslaklarının neredeyse %80’i minimum düzenleme ile kabul edildi. Yapay zeka tarafından oluşturulan içerik, kapsamlı ürün bilgileri sağlar; bu da netliğin ve doğruluğun artmasına yardımcı olarak, müşterilerin aramalarında bir ürünün bulunmasına katkıda bulunur.
Yeni ürün bilgileri için iş akışı, satış ortağının ilk bilgileri sağlamasıyla başlar. Daha sonra sistem, başlık, açıklama ve ayrıntılı özellikler dahil olmak üzere kapsamlı ürün bilgileri oluşturmak için birden fazla bilgi kaynağı kullanır. Oluşturulan ürün bilgileri, onay veya düzenleme için satış ortağıyla paylaşılır.
Mevcut ürün bilgileri için sistem, ek verilerle zenginleştirilebilecek ürünleri tanımlar.
Büyük Miktarda Çıktı İçin Veri Entegrasyonu ve İşleme
Amazon ekibi, Amazon Bedrock’u ve diğer AWS hizmetlerini kullanarak, LLM dostu API’ler için güçlü dahili ve harici kaynak bağlayıcıları oluşturarak Amazon.com arka uç sistemlerine sorunsuz entegrasyon sağladı.
Temel zorluklardan biri, metin ve sayılar dahil olmak üzere 50’den fazla özellik arasında çeşitli verileri tutarlı ürün bilgilerine birleştirmekti. LLM’ler, bu kadar karmaşık ve çeşitli verilerle en iyi performansı göstermeyebilecekleri için e-ticaret kavramlarını doğru bir şekilde yorumlamak için belirli kontrol mekanizmalarına ve talimatlara ihtiyaç duyarlar. Örneğin, bir LLM, bir bıçak bloğundaki “kapasiteyi” yuva sayısı yerine boyutla veya “Fit Wear”ı marka adı yerine stil tanımıyla karıştırabilir. İstemi mühendisliği ve ince ayar, bu durumları ele almak için yoğun bir şekilde kullanıldı.
LLM’ler ile Üretim ve Doğrulama
Oluşturulan ürün bilgilerinin eksiksiz ve doğru olması gerekir. Bu hedefe ulaşmaya yardımcı olmak için çözüm, özelliklerin LLM’ler tarafından oluşturulması ve doğrulanması için çok adımlı bir iş akışı uygulamaktadır. Bu ikili LLM yaklaşımı, güvenlik endişeleri veya teknik özelliklerle uğraşırken çok önemli olan halüsinasyonları önlemeye yardımcı olur. Ekip, oluşturma ve doğrulama süreçlerinin birbirini etkili bir şekilde tamamlamasını sağlamak için gelişmiş özeleştiri teknikleri geliştirdi.
İnsan Geri Bildirimi ile Çok Katmanlı Kalite Güvencesi
İnsan geri bildirimi, çözümün kalite güvencesinin merkezinde yer almaktadır. Süreç, Amazon.com uzmanları tarafından yapılan ilk değerlendirmenin yanı sıra, kabul veya düzenleme için girdi sağlayan satış ortaklarını içerir. Bu, yüksek kaliteli çıktılar sağlar ve yapay zeka modellerini sürekli olarak geliştirme yeteneği sağlar.
Kalite güvence süreci, ML, algoritmalar veya LLM tabanlı değerlendirmeler içeren otomatik test yöntemlerinin birleştirilmesini içerir. Başarısız ürün bilgileri yeniden oluşturulurken, başarılı ürün bilgileri daha fazla teste tabi tutulur. [Nedensel çıkarım modellerini] kullanarak, ürün bilgilerinin performansını etkileyen temel özellikleri ve zenginleştirme fırsatlarını belirliyoruz. Son olarak, kalite kontrollerinden geçen ve satış ortakları tarafından kabul edilen ürün bilgileri yayınlanarak müşterilerin doğru ve kapsamlı ürün bilgileri alması sağlanır.
Doğruluk ve Maliyet İçin Uygulama Düzeyi Sistem Optimizasyonu
Doğruluk ve eksiksizlik için yüksek standartlar göz önüne alındığında, ekip kapsamlı bir deneysel yaklaşım benimsemiş ve otomatik bir optimizasyon sistemi ile donatılmıştır. Sistem, maliyet dahil daha yüksek iş metriklerini iyileştirmek için LLM’lerin, istemlerin, oyun kitaplarının, iş akışlarının ve yapay zeka araçlarının çeşitli kombinasyonlarını araştırır. Sürekli değerlendirme ve otomatik test yoluyla, ürün ürün bilgisi oluşturucu, yeni yapay zeka gelişmelerine uyum sağlarken performansı, maliyeti ve verimliliği etkili bir şekilde dengeleyebilir. Bu yaklaşım, müşterilerin yüksek kaliteli ürün bilgilerinden yararlanabileceği ve satış ortaklarının verimli ürün bilgileri oluşturmak için son teknoloji araçlara erişebileceği anlamına gelir.
Amazon Eczanesinde Üretken Yapay Zeka Tabanlı Reçete İşleme
Daha önce tartışılan satıcı ürün bilgisi örneğinde, insan-makine karma iş akışına dayalı olarak, Amazon Eczanesi bu ilkelerin [Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası] (HIPAA) tarafından düzenlenen bir sektöre nasıl uygulanabileceğini göstermektedir. [Amazon Eczanesi’nin LLM tabanlı bir sohbet robotu oluşturmak için Amazon SageMaker’ı nasıl kullandığını anlamak] başlıklı yazıda, hasta bakım uzmanları için konuşmaya dayalı bir yardımcı paylaştık, şimdi otomatik reçete işlemeye odaklanıyoruz.
Amazon Eczanesinde, eczacı teknisyenlerinin ilaç talimatlarını daha doğru ve verimli bir şekilde işlemesine yardımcı olmak için Amazon Bedrock ve SageMaker üzerine kurulu bir yapay zeka sistemi geliştirdik. Çözüm, hasta ilaç talimatlarının doğruluğunu artırmak için insan uzmanlığını (veri giriş operatörleri ve eczacılar) yapay zeka desteğiyle (yönlendirme önerileri ve geri bildirim) entegre eder.
Sağlık Hizmetlerinde Doğruluk İçin Yetkilendirilmiş İş Akışı Tasarımı
Reçete işleme sistemi, yönlendirme önerileri ve geri bildirim sağlamak için insan uzmanlığını (veri giriş elemanları ve eczacılar) yapay zeka desteğiyle birleştirir. İş akışı, [Amazon DynamoDB]’deki ham reçete metnini standartlaştıran ve ardından SageMaker’daki ince ayarlı küçük dil modellerini (SLM’ler) kullanarak temel bileşenleri (doz, sıklık) tanımlayan eczane bilgi tabanı ön işlemcisiyle başlar.
Sistem, genel iş akışını tamamlayan üretken yapay zeka ile veri giriş elemanları ve eczacılar gibi uzmanları sorunsuz bir şekilde entegre ederek çevikliği ve doğruluğu artırarak hastalarımıza daha iyi hizmet vermemizi sağlar. Güvenlik önlemleri içeren bir yönlendirme montaj sistemi daha sonra, veri giriş elemanlarına Yazdıkları yönlendirmeleri oluşturmak için öneri modülü aracılığıyla talimatlar oluşturur. İşaretleme modülü hataları işaretler veya düzeltir ve veri giriş elemanlarına geri bildirim olarak sağlanan ek güvenlik önlemlerini uygular. Teknisyenler, eczacılar tarafından geri bildirimde bulunmak veya sonraki hizmetlere yönelik uygulanacak yönlendirmeler için son derece doğru, güvenli yazılmış yönlendirmeler oluşturur.
Çözümün öne çıkan özelliklerinden biri, mühendislerin ve bilim insanlarının tüm süreci, alt adımlardan oluşan ayrı modüller içeren birden çok adıma ayırmasını sağlayan görev ayrıştırmasının kullanılmasıdır. Ekip, ince ayarlı SLM’leri yoğun bir şekilde kullandı. Ek olarak, süreç [adlandırılmış varlık tanıma (NER)] gibi geleneksel ML prosedürlerini veya nihai güveni tahmin etmek için [regresyon modellerinin] kullanımını da içerir. SLM’lerin ve geleneksel ML’nin bu kontrollü, iyi tanımlanmış süreçte kullanılması, işlem hızını önemli ölçüde artırırken, belirli adımlara uygun güvenlik önlemleri eklenmesi sayesinde sıkı güvenlik standartlarını koruyabilir.
Sistem, her bir alt sürecin özel bir bileşen olarak çalıştığı, iş akışında yarı özerk ancak işbirlikçi bir şekilde genel hedefe doğru çalışan, iyi tanımlanmış birden çok alt adım içerir. Bu parçalama yaklaşımı, ince ayarlı SLM’ler kullanılabilirken, her aşamada belirli bir doğrulamaya sahip olduğundan, uçtan uca çözümlerden daha etkili olduğunu kanıtlamıştır. Ekip, mevcut arka uç sistemlerine entegre edildiği için iş akışını koordine etmek için [AWS Fargate]’i kullandı.
Ekibin ürün geliştirme süreci boyunca, üretken yapay zeka uygulamaları için özel olarak tasarlanmış, yüksek performanslı LLM’ler ve kullanımı kolay özellikler sunan Amazon Bedrock’a yöneldiler. SageMaker daha fazla LLM seçimine, daha derin özelleştirmeye ve geleneksel ML yaklaşımlarına olanak tanır. Bu teknoloji hakkında daha fazla bilgi edinmek için bkz. [Görev Ayrıştırma ve Daha Küçük LLM’ler Yapay Zekayı Nasıl Daha Uygun Hale Getirebilir] ve [Amazon Eczanesi İş Vaka Çalışmasını] okuyun.
Güvenlik Önlemleri ve HITL ile Güvenilir Uygulamalar Oluşturma
HIPAA standartlarına uymak ve hasta gizliliğini sağlamak için, Amazon Bedrock API’sini kullanan ince ayarlı LLM’leri ve [Amazon OpenSearch Service] ile [Alma Artırılmış Üretim] (RAG)’ı birleştiren hibrit bir yaklaşım benimserken sıkı veri yönetimi uygulamaları uyguladık. Bu kombinasyon, belirli alt görevler için yüksek hassasiyeti korurken verimli bilgi alımına olanak tanır.
Sağlık hizmetlerinde çok önemli olan LLM halüsinasyonlarını yönetmek, büyük veri kümelerinde ince ayar yapmaktan daha fazlasını gerektirir. Çözümümüz, sistemin güvenilirliğini artırmak için Amazon Bedrock Guardrails üzerine kurulu alana özgü güvenlik önlemleri uyguladı ve insan döngüsünde (HITL) denetim yoluyla tamamlandı.
Amazon Eczanesi ekibi, eczacılardan gelen gerçek zamanlı geri bildirim ve genişletilmiş reçete biçimi yetenekleri aracılığıyla bu sistemi geliştirmeye devam ediyor. İnovasyon, alan uzmanlığı, gelişmiş yapay zeka hizmetleri ve insan denetiminin bu dengeli yaklaşımı yalnızca operasyonel verimliliği artırmakla kalmıyor, aynı zamanda yapay zeka sistemlerinin sağlık uzmanlarını doğru bir şekilde güçlendirmesi ve böylece optimum hasta bakımı sağlaması anlamına geliyor.
Üretken Yapay Zeka Tabanlı Müşteri Yorumu Önemli Noktaları
Önceki örneğimiz, Amazon Eczanesi’nin reçete işleme için LLM’leri gerçek zamanlı bir iş akışına nasıl entegre ettiğini gösterirken, bu kullanım durumu benzer teknolojilerin (SLM’ler, geleneksel ML ve düşünceli iş akışı tasarımı) büyük ölçekli [çevrimdışı toplu çıkarım] için nasıl uygulanabileceğini göstermektedir.
Amazon, yıllık 200 milyondan fazla ürün yorumunu ve derecelendirmesini işlemek için [yapay zeka tarafından oluşturulan müşteri yorumu önemli noktalarını] başlattı. Bu özellik, paylaşılan müşteri görüşlerini ürün ve özellikleri hakkında olumlu, tarafsız ve olumsuz geri bildirimleri vurgulayan kısa paragraflara ayırır. Alışveriş yapanlar fikir birliğini hızla kavrayabilirken, ilgili müşteri yorumlarına erişim sağlayarak ve orijinal yorumları koruyarak şeffaflığı korur.
Sistem, müşterilerin belirli bir özelliği (örneğin, resim kalitesi, uzaktan kumanda işlevleri veya Fire TV’nin kolay kurulumu) seçerek yorumun önemli noktalarını keşfedebileceği bir arayüz aracılığıyla alışveriş kararlarını artırır. Bu işlevler, olumlu duyguyu gösteren yeşil onay işaretleri, olumsuz duyguyu gösteren turuncu eksi işaretleri ve tarafsızlığı gösteren gri ile gösterilir; bu, alışveriş yapanların doğrulanmış satın alma yorumlarına göre ürünün güçlü ve zayıf yönlerini hızlı bir şekilde belirleyebileceği anlamına gelir.
LLM’leri Uygun Maliyetli Bir Şekilde Çevrimdışı Kullanım Durumları İçin Kullanma
Ekip, geleneksel ML yöntemlerini özel SLM’lerle birleştiren uygun maliyetli bir hibrit mimari geliştirdi. Bu yaklaşım, duygu analizini ve anahtar kelime çıkarmayı geleneksel ML’ye atarken, karmaşık metin oluşturma görevleri için optimize edilmiş SLM’leri kullanarak doğruluk ve işlem verimliliğini artırır.
Bu özellik, gerçek zamanlı uç noktalarla karşılaştırıldığında maliyetleri önemli ölçüde azaltan eşzamansız işlem için [SageMaker toplu dönüştürmeyi] kullanır. Neredeyse sıfır gecikmeli bir deneyim sağlamak için çözüm, çıkarılan içgörüleri ve mevcut yorumları [önbelleğe alır] ve böylece bekleme sürelerini azaltır ve ek hesaplama gerekmeden birden çok müşterinin aynı anda erişmesine olanak tanır. Sistem, yeni yorumları artımlı olarak işler ve veri kümesinin tamamını yeniden işlemeden içgörüleri günceller. Optimum performans ve maliyet verimliliği için özellik, toplu dönüştürme işleri için [Amazon Elastic Compute Cloud] (Amazon EC2) [Inf2 örneklerini] kullanır ve [alternatiflere kıyasla %40’a kadar daha iyi fiyat-performans oranı sağlar].
Ekip, bu kapsamlı yaklaşımı izleyerek çok sayıda yorumu ve ürünü işlerken maliyetleri etkili bir şekilde yönetti ve bu da çözümü hem verimli hem de ölçeklenebilir hale getirdi.
Amazon Reklam Yapay Zeka Destekli Yaratıcı Görüntü ve Video Oluşturma
Önceki örneklerde, öncelikle metin odaklı üretken yapay zeka uygulamalarını inceledik, şimdi [Amazon Reklam Sponsorlu Reklam Yaratıcı İçerik Oluşturma] ile çok modlu üretken yapay zekaya yöneleceğiz. Bu çözüm, [görüntü] ve [video] oluşturma yeteneklerine sahiptir ve bu bölümde bu özellikler hakkında ayrıntılı bilgiler paylaşacağız. Genel olarak, çözümün çekirdeği [Amazon Nova] yaratıcı içerik oluşturma modelini kullanır.
Müşteri ihtiyaçlarına geri dönerek, Amazon’un Mart 2023’te yaptığı bir anket, reklamverenlerin neredeyse %75’inin reklam kampanyası başarısı elde etmeye çalışırken yaratıcı içerik oluşturmayı temel zorlukları olarak listelediğini gösterdi. Birçok reklamveren (özellikle dahili yetenekleri veya acente desteği olmayanlar), yüksek kaliteli görseller üretme uzmanlığı ve maliyeti nedeniyle önemli engellerle karşı karşıyadır. Amazon Reklam çözümleri, görsel içerik oluşturmayı demokratikleştirerek farklı ölçekteki reklamverenlerin erişmesine ve verimli bir şekilde kullanmasına olanak tanır. Etkisi büyüktür: [Sponsor Marke] reklam kampanyalarında yapay zeka tarafından oluşturulan görüntüler kullanan reklamverenlerin [tıklama oranı (TO)] yaklaşık %8 ve kullanıcı olmayanlara göre %88 daha fazla kampanya gönderildi.
Geçen yıl, AWS makine öğrenimi blogu [görüntü oluşturma çözümünü ayrıntılı olarak anlatan] bir makale yayınladı. O zamandan beri Amazon, yaratıcı görüntü oluşturma için [Amazon Nova Canvas]’ı temel olarak benimsedi. Metin veya görüntü istemlerini kullanarak, profesyonel düzeyde görüntüler oluşturmak için metin tabanlı düzenleme özelliklerini ve renk şeması ve düzen ayarlama kontrollerini birleştirin.
Eylül 2024’te, Amazon Reklam ekibi ürün görüntülerinden [kısa video reklamlar] oluşturma özelliği ekledi. Bu özellik, müşterilere kontrol sağlamak için doğal dil ile görsel stili, hızı, kamera hareketini, döndürmeyi ve yakınlaştırmayı kontrol ederek [Amazon Bedrock’ta bulunan temel modelleri] kullanır. Öncelikle bir video hikaye tahtası açıklamak ve ardından hikaye içeriği oluşturmak için bir aracı iş akışı kullanır.
Orijinal makalede tartışıldığı gibi, [sorumlu yapay zeka] bu çözümün merkezinde yer almaktadır ve Amazon Nova yaratıcı modeli, filigran ve içerik denetimi dahil olmak üzere güvenli ve sorumlu yapay zeka kullanımını desteklemek için yerleşik kontrollerle birlikte gelir.
Çözüm, görüntü ve video oluşturma süreçlerinin sunucusuz koordinasyonu için [AWS Step Functions] ve [AWS Lambda] işlevlerini kullanır. Oluşturulan içerik [Amazon Simple Storage Service] (Amazon S3)’de depolanırken, meta veriler DynamoDB’de depolanır ve [Amazon API Gateway], müşterilerin oluşturma özelliklerine erişimini sağlar. Çözüm artık, tüm adımlarda ek güvenlik kontrolleri için [Amazon Rekognition] ve [Amazon Comprehend] entegrasyonunu sürdürmenin yanı sıra Amazon Bedrock Guardrails’ı da kullanmaktadır.
Büyük ölçekte yüksek kaliteli reklam öğeleri oluşturmak karmaşık zorluklar sunar. Üretken yapay zeka modellerinin, reklamverenlerin tüm teknik düzeylerde kolayca erişebileceği aynı zamanda çeşitli ürün kategorilerinde ve reklam ortamlarında ilgi çekici ve marka imajına uygun görüntüler oluşturması gerekir. Kalite güvencesi ve iyileştirme, görüntü ve video oluşturma özelliklerinin temelidir. Sistem, [Amazon SageMaker Ground Truth] aracılığıyla uygulanan kapsamlı HITL süreci aracılığıyla sürekli olarak geliştirir. Bu uygulama, reklamverenlerin oluşturma sürecini dönüştüren güçlü bir araç sağlayarak çeşitli ürün kategorilerinde ve ortamlarda yüksek kaliteli görsel içerik oluşturmayı kolaylaştırır.
Bu, Amazon Reklam’ın reklam hedeflerine uygun içerik oluşturması gereken reklamverenlere yardımcı olmak için üretken yapay zekayı kullanmasının yalnızca başlangıcıdır. Çözüm, oluşturma engellerini azaltmanın, sorumlu yapay zeka kullanımının yüksek standardını korurken reklam kampanyalarını nasıl doğrudan iyileştirebileceğini göstermektedir.
Temel Teknik Deneyimler ve Tartışma
Konuşmaya dayalı olmayan uygulamalar, toplu işleme ve önbelleğe almaya olanak sağlayan daha yüksek gecikme toleransından yararlanır, ancak özerklikleri nedeniyle güçlü doğrulama mekanizmaları ve daha güçlü güvenlik önlemleri gerektirir. Bu içgörüler, konuşmaya dayalı olmayan ve konuşmaya dayalı yapay zeka uygulamaları için geçerlidir:
- Görev Ayrıştırması ve Aracı İş Akışları – Karmaşık sorunları daha küçük bileşenlere ayırmanın çeşitli uygulamalarda değerli olduğu kanıtlanmıştır. Alan uzmanları tarafından yapılan bu düşünceli parçalama, Amazon Eczanesi reçete işlemesinde gösterildiği gibi, ince ayarlı SLM’lerin dozaj tanımlama gibi ayrı görevleri işleyebildiği belirli alt görevler için özel modeller oluşturulmasını sağlar. Bu strateji, güvenilirliği artıran ve bakımı basitleştiren net doğrulama adımlarına sahip özel agent’lar oluşturulmasına olanak tanır. Amazon satıcı ürün bilgisi kullanım durumu, ayrı oluşturma ve doğrulama süreçlerine sahip çok adımlı iş akışıyla bunu örneklendirmektedir. Ek olarak, yorum önemli noktaları kullanım durumu, maliyet açısından verimli ve kontrollü LLM kullanımını, yani geleneksel ML’nin ön işlem için ve LLM görevlerine bağlanabilen bölümlerin yürütülmesini gösterir.
- Hibrit Mimari ve Model Seçimi – Geleneksel ML’yi LLM’lerle birleştirmek, saf LLM yaklaşımlarıyla karşılaştırıldığında daha iyi kontrol ve maliyet verimliliği sağlar. Geleneksel ML, yorum önemli noktaları sisteminin duygu analizi ve bilgi çıkarma için kullanıldığında gösterildiği gibi, iyi tanımlanmış görevleri işlemede başarılıdır. Amazon ekipleri, Amazon Eczanesi’nin uygulaması gibi alanlarda özgü etkili uygulamalar için RAG’ı ince ayarla birleştirerek, talebe göre büyük ve küçük dil modellerini stratejik olarak dağıtmıştır.
- Maliyet Optimizasyonu Stratejileri – Amazon ekipleri, toplu işleme, büyük hacimli operasyonlar için önbelleğe alma mekanizmaları, [AWS Inferentia] ve [AWS Trainium] gibi özel örnek türleri ve optimize edilmiş model seçimi yoluyla verimlilik elde etmiştir. Yorum önemli noktaları, artımlı işlemenin işlem gereksinimlerini nasıl azaltabileceğini gösterirken, Amazon Reklam, yaratıcı içerik oluşturmak için Amazon Nova [temel modellerini] (FM) kullanarak maliyet açısından verimli bir şekilde kullanır.
- Kalite Güvencesi ve Kontrol Mekanizmaları – Kalite kontrolü, Amazon Bedrock Guardrails aracılığıyla alana özgü güvenlik önlemlerine ve otomatik testleri insan değerlendirmesiyle birleştiren çok katmanlı doğrulamaya dayanır. Oluşturma ve doğrulama için ikili LLM yaklaşımı, Amazon satıcı ürün bilgilerinde halüsinasyonları önlemeye yardımcı olurken, özeleştiri teknikleri doğruluğu artırır. Amazon Nova yaratıcı FM’leri, kalıcı sorumlu yapay zeka kontrolü sağlar ve sürekli A/B testi ve performans ölçümü ile tamamlanır.
- HITL Uygulaması – HITL yöntemleri, eczacıların uzman değerlendirmesinden satış ortaklarının son kullanıcı geri bildirimine kadar birden çok katmana yayılır. Amazon ekipleri, belirli alan gereksinimlerine ve risk profillerine göre otomasyonu ve insan denetimini dengeleyen yapılandırılmış iyileştirme iş akışları oluşturmuştur.
- Sorumlu Yapay Zeka ve Uyumluluk – Sorumlu yapay zeka uygulamaları, düzenlenmiş ortamlar için içerik alımında güvenlik önlemlerini ve HIPAA gibi düzenlemelere uyumu içerir. Amazon ekipleri, kullanıcılara yönelik uygulamalar için içerik denetimini entegre etmiş, kaynak bilgilere erişim sağlayarak yorum önemli noktalarının şeffaflığını korumuş ve kalite ve uyumluluğu artırmak için denetleme ile veri yönetimi uygulamıştır.
Bu modeller, kalite ve sorumluk standartlarını korurken ölçeklenebilir, güvenilir ve maliyet açısından verimli üretken yapay zeka çözümlerini mümkün kılar. Bu uygulamalar, etkili çözümlerin yalnızca gelişmiş modellere değil, aynı zamanda mimariye, operasyonlara ve yönetime dikkatlice odaklanılması ve AWS hizmetleri ve yerleşik uygulamalar tarafından desteklenmesi gerektiğini göstermektedir.
Sonraki Adımlar
Bu makalede paylaşılan Amazon örnekleri, üretken yapay zekanın geleneksel konuşmaya dayalı yardımcıların ötesinde nasıl değer yaratabileceğini göstermektedir. Sizi, üretken yapay zekanın işinizi ve hatta sektörünüzü nasıl yeniden şekillendirebileceğini anlamak için bu örnekleri izlemeye veya kendi çözümlerinizi oluşturmaya davet ediyoruz. Beyin fırtınası sürecini başlatmak için [AWS üretken yapay zeka kullanım durumları] sayfasını ziyaret edebilirsiniz.
Bu örnekler, etkili üretken yapay zeka uygulamalarının genellikle farklı model ve iş akışı türlerini birleştirmekten yararlandığını göstermektedir. AWS hizmetlerinin hangi FM’leri desteklediğini öğrenmek için [Amazon Bedrock’ta desteklenen temel modelleri] ve [Amazon SageMaker JumpStart Temel Modelleri]’ni inceleyin. Ayrıca, iş akışı oluşturma yolunu basitleştirebilen [Amazon Bedrock Flows]’u keşfetmenizi öneririz. Ek olarak, Trainium ve Inferentia hızlandırıcılarının bu uygulamalarda önemli maliyet tasarrufları sağladığını hatırlatırız.
Gösterdiğimiz örneklerde gösterildiği gibi, aracı iş akışları özellikle değerli olduğunu kanıtlamıştır. Aracı iş akışlarını hızla oluşturmak için [Amazon Bedrock Agents]’ı incelemenizi öneririz.
Üretken yapay zekayı başarıyla uygulamak, model seçiminden daha fazlasıdır; deneyden uygulama izlemeye kadar kapsamlı bir yazılım geliştirme sürecini temsil eder. Bu temel hizmetler genelinde temelinizi oluşturmaya başlamak için [Amazon QuickStart]’ı incelemeye davet ediyoruz.
Amazon’un yapay zekayı nasıl kullandığı hakkında daha fazla bilgi edinmek için Amazon haberlerindeki [Yapay Zeka]’ya bakın.