מעבר לעוזרי AI: אמזון מעצבת מחדש תעשיות

בינה מלאכותית גנרטיבית מחוללת מהפכה בפעילות העסקית במגוון יישומים, כולל עוזרים שיחתיים כמו Rufus ו-Amazon Seller Assistant של אמזון. יתר על כן, כמה מהיישומים המשפיעים ביותר של בינה מלאכותית גנרטיבית פועלים באופן אוטונומי ברקע, תכונה חיונית המאפשרת לעסקים לשנות את הפעילות, עיבוד הנתונים ויצירת התוכן שלהם בקנה מידה גדול. יישומים לא שיחתיים אלה מופיעים לעתים קרובות בצורה של זרימות עבודה מבוססות סוכנים המופעלות על ידי מודלי שפה גדולים (LLM), ומבצעים יעדים עסקיים ספציפיים על פני תעשיות מבלי לדרוש אינטראקציה ישירה עם משתמשים.

בהשוואה ליישומים שיחתיים המרוויחים ממשוב ופיקוח משתמשים בזמן אמת, ליישומים לא שיחתיים יש יתרונות ייחודיים כמו סובלנות גבוהה יותר לחביון, עיבוד אצווה ומטמון, אך האופי האוטונומי שלהם מחייב אמצעי אבטחה חזקים יותר והבטחת איכות מפורטת.

מאמר זה בוחן ארבעה מקרי שימוש מובחנים של בינה מלאכותית גנרטיבית באמזון:

  • אמזון יצירת רישומי מוצרים ושיפור איכות נתוני קטלוג – הדגמת האופן שבו LLM יכולים לסייע לשותפים במכירות ולאמזון ליצור רישומי מוצרים באיכות גבוהה יותר בקנה מידה גדול
  • עיבוד מרשמים בבית המרקחת של אמזון – הצגת היישום בסביבה מפוקחת מאוד ופירוק משימות עבור זרימות עבודה של סוכנים
  • דגשים לביקורת – תיאור עיבוד אצווה בקנה מידה גדול, שילוב של למידת מכונה מסורתית (ML), שימוש ב-LLM קטנים ופתרונות חסכוניים
  • אמזון פרסום יצירת תמונות ווידאו – הדגשת בינה מלאכותית גנרטיבית רב-מודאלית ושיטות בינה מלאכותית אחראיות בעבודה יצירתית

כל מקרה מבחן חושף היבטים שונים של יישום יישומי בינה מלאכותית גנרטיבית שאינם שיחתיים, מארכיטקטורות טכניות ועד שיקולים תפעוליים. באמצעות דוגמאות אלה, תלמדו כיצד חבילה מלאה של שירותי AWS, כולל Amazon Bedrock ו-Amazon SageMaker, הופכת למפתח להצלחה. לבסוף, נרשום שיעורים מרכזיים משותפים המשותפים על פני מקרי שימוש שונים.

יצירת רישומי מוצרים באיכות גבוהה באמזון

יצירת רישומי מוצרים באיכות גבוהה עם פרטים מקיפים מסייעת ללקוחות לקבל החלטות רכישה מושכלות. באופן מסורתי, שותפים במכירות מזינים ידנית תכונות רבות של כל מוצר. פתרון בינה מלאכותית גנרטיבית חדש לגמרי שהוצג בשנת 2024 משנה תהליך זה על ידי שיפור חווית הלקוח על ידי השגת מידע על מוצרים באופן יזום מאתרי אינטרנט של מותגים ומקורות אחרים.

בינה מלאכותית גנרטיבית מפשטת את החוויה עבור שותפים במכירות על ידי תמיכה בהזנת מידע בפורמטים שונים - כגון כתובות אתרים, תמונות מוצרים או גיליונות אלקטרוניים - והפיכתו אוטומטית לפורמט ולמבנה הרצויים. מעל 900,000 שותפים במכירות השתמשו בו, כאשר כמעט 80% מטיוטות רישומי המוצרים שנוצרו מתקבלות עם עריכות מינימליות. תוכן שנוצר על ידי בינה מלאכותית מספק פרטי מוצר מקיפים, המסייעים לשפר את הבהירות והדיוק, ובכך עוזרים לגלות מוצרים בחיפושים של לקוחות.

עבור רישומי מוצרים חדשים, זרימת העבודה מתחילה כאשר שותף במכירות מספק מידע ראשוני. לאחר מכן, המערכת משתמשת במספר מקורות מידע כדי ליצור רישום מוצר מקיף, הכולל כותרת, תיאור ותכונות מפורטות. רישום המוצר שנוצר משותף עם שותף המכירות לצורך אישור או עריכה.

עבור רישומי מוצרים קיימים, המערכת מזהה מוצרים שניתן להעשיר בנתונים נוספים.

שילוב נתונים ועיבוד לפלט גדול

צוותי אמזון השתמשו ב-Amazon Bedrock ובשירותי AWS אחרים כדי לבנות מחברי מקורות פנימיים וחיצוניים חזקים עבור ממשקי API ידידותיים ל-LLM, ובכך השתלבו בצורה חלקה במערכות העורפיות של Amazon.com.

אתגר מרכזי היה לשלב נתונים מגוונים ברישום מוצר קוהרנטי על פני יותר מ-50 תכונות, כולל טקסט ומספרים. LLM דורשים מנגנוני בקרה והוראות ספציפיות כדי לפרש במדויק מושגים של מסחר אלקטרוני, מכיוון שהם עשויים שלא לבצע ביצועים אופטימליים עם נתונים מורכבים ומגוונים כאלה. לדוגמה, LLM עלול לטעות ב"קיבולת" במעמד סכינים כמידה ולא כמספר חריצים, או לפרש את "Fit Wear" כתיאור סגנון ולא כשם מותג. תכנון הנחיות וכוונון עדין שימשו באופן נרחב כדי לטפל במקרים אלה.

שימוש ב-LLM ליצירה ואימות

רישומי המוצרים שנוצרו צריכים להיות שלמים ונכונים. כדי לעזור להשיג זאת, הפתרון מיישם זרימת עבודה רבת שלבים המשתמשת ב-LLM גם ליצירה וגם לאימות של תכונות. גישה LLM כפולה זו עוזרת למנוע הזיות, שהיא חיונית כאשר מטפלים בדאגות בטיחותיות או במפרטים טכניים. הצוות פיתח טכניקות מתקדמות להשתקפות עצמית כדי להבטיח שתהליכי היצירה והאימות ישלימו זה את זה ביעילות.

הבטחת איכות רבת שכבתית עם משוב אנושי

משוב אנושי הוא מרכזי בהבטחת האיכות של הפתרון. התהליך כולל הערכות ראשוניות על ידי מומחי Amazon.com, כמו גם שותפים במכירות המספקים קלט לצורך קבלה או עריכה. זה מספק פלט באיכות גבוהה ומאפשר שיפור מתמיד של מודל הבינה המלאכותית.

תהליך הבטחת האיכות כולל שילוב של שיטות בדיקה אוטומטיות, הכוללות הערכות מבוססות ML, אלגוריתמים או LLM. רישומי מוצרים שנכשלו נוצרים מחדש, ורישומי מוצרים מוצלחים עוברים בדיקות נוספות. באמצעות [מודלים של הסקה סיבתית], אנו מזהים את התכונות הבסיסיות המשפיעות על ביצועי רישום המוצרים והזדמנויות להעשרה. בסופו של דבר, רישומי מוצרים העוברים את בדיקות האיכות ומתקבלים על ידי שותפים במכירות מתפרסמים, ומבטיחים שהלקוחות יקבלו מידע מדויק ומקיף על המוצר.

אופטימיזציית מערכת ברמת יישום לדיוק ועלות

לאור הסטנדרטים הגבוהים של דיוק ושלמות, הצוות אימץ גישה ניסויית מקיפה המצוידת במערכת אופטימיזציה אוטומטית. מערכת זו בוחנת שילובים שונים של LLM, הנחיות, תסריטים, זרימות עבודה וכלי בינה מלאכותית כדי לשפר מדדים עסקיים גבוהים יותר, כולל עלות. באמצעות הערכה מתמשכת ובדיקות אוטומטיות, מחולל רישומי מוצרים יכול לאזן ביעילות ביצועים, עלות ויעילות תוך התאמה להתפתחויות חדשות בבינה מלאכותית. גישה זו פירושה שלקוחות יכולים ליהנות ממידע מוצר באיכות גבוהה, ושותפים במכירות יכולים לגשת לכלי קצה ליצירת רישומי מוצרים יעילה.

עיבוד מרשמים מבוסס בינה מלאכותית גנרטיבית בבית המרקחת של אמזון

בדוגמה הקודמת של רישומי מוצרים של המוכר, המבוססת על זרימת עבודה מעורבת בין אדם למכונה, בית המרקחת של אמזון מדגים כיצד ליישם עקרונות אלה בתעשייה המוסדרת על ידי [חוק ניידות ותגובתיות של ביטוח בריאות] (HIPAA). במאמר [למידה כיצד בית המרקחת של אמזון משתמש ב-Amazon SageMaker כדי ליצור צ’אטבוט מבוסס LLM], שיתפנו עוזר שיחתי עבור מומחי טיפול בחולים, וכעת אנו מתמקדים בעיבוד מרשמים אוטומטי.

בבית המרקחת של אמזון פיתחנו מערכת בינה מלאכותית הבנויה על Amazon Bedrock ו-SageMaker כדי לעזור לטכנאי רוקחות לעבד הוראות תרופות בצורה מדויקת ויעילה יותר. הפתרון משלב מומחים אנושיים עם LLM בתפקידי יצירה ואימות כדי לשפר את הדיוק של הוראות התרופות עבור החולים.

תכנון זרימת עבודה מוסמכת לדיוק שירותי בריאות

מערכת עיבוד המרשמים משלבת מומחיות אנושית (פקידי הזנת נתונים ורוקחים) עם תמיכת בינה מלאכותית כדי לספק המלצות והערות להנחיות. זרימת העבודה מתחילה במעבד מקדים למאגר הידע של בית המרקחת, אשר מתקנן טקסט מרשם גולמי מ-[Amazon DynamoDB], ולאחר מכן משתמש במודל שפה קטנה (SLM) עם כוונון עדין בסייג’מייקר כדי לזהות רכיבי מפתח (מינון, תדירות).

המערכת משלבת בצורה חלקה מומחים כגון פקידי הזנת נתונים ורוקחים, כאשר בינה מלאכותית גנרטיבית משלימה באופן אינטגרלי את זרימת העבודה הכוללת, ובכך מגדילה את הזריזות והדיוק כדי לשרת טוב יותר את המטופלים שלנו. לאחר מכן, מערכת הרכבת הנחיות עם אמצעי בטיחות מייצרת הוראות לפקידי הזנת הנתונים כדי ליצור את ההנחיות שהם מקלידים באמצעות מודול הצעות. מודול התיוג מסמן או מתקן שגיאות ואוכף אמצעי בטיחות נוספים כמשוב הניתן לפקיד הזנת הנתונים. הטכנאים מסיימים בסופו של דבר הנחיות מדויקות ובטוחות ביותר, אשר ניתנות להערכה על ידי רוקחים או ביצוע הנחיות לשירותים במורד הזרם.

גולת כותרת של הפתרון היא השימוש בפירוק משימות, המאפשר למהנדסים ומדענים לפרק את התהליך כולו למספר שלבים המורכבים ממודולים בודדים עם תת-שלבים. הצוות השתמש באופן נרחב ב-SLM מכוון עדין. יתר על כן, התהליך משלב תוכניות ML מסורתיות, כגון [זיהוי ישויות בעלות שם (NER)] או הערכות ביטחון סופיות באמצעות [מודל רגרסיה]. שימוש ב-SLM ותוכניות ML מסורתיות בתהליך מבוקר ומוגדר בבירור זה יכול להגביר משמעותית את מהירויות העיבוד, תוך שמירה על סטנדרטי בטיחות קפדניים בשל שילוב אמצעי בטיחות מתאימים בשלבים ספציפיים.

המערכת מכילה מספר תת-שלבים מוגדרים בבירור, כאשר כל תת-תהליך פועל כרכיב מיוחד שעובד בצורה חצי אוטונומית אך בשיתוף פעולה לקראת מטרה כללית בזרימת העבודה. גישה מפורקת זו עם אימות ספציפי בכל שלב מתגלה כיעילה יותר מפתרון מקצה לקצה, תוך שהיא מאפשרת שימוש ב-SLM מכוון עדין. הצוות השתמש ב-[AWS Fargate] כדי לתאם את זרימות העבודה מכיוון שהוא משולב כעת במערכות העורפיות הקיימות.

במהלך תהליך פיתוח המוצר של הקבוצה, הם פנו לאמזון בדרורק, המציע LLM בעלי ביצועים גבוהים עם תכונות ידידותיות למשתמש המותאמות ליישומים גנרטיביים של בינה מלאכותית. SageMaker תומך בבחירת LLM נוספת, התאמה אישית עמוקה יותר וגישות ML מסורתיות. כדי ללמוד מידע נוסף על טכנולוגיה זו, עיין ב-[כיצד פירוק משימות ו-LLM קטנים יותר יכולים להפוך את הבינה המלאכותית למשתלמת יותר] וקרא את [מקרה המבחן של בית המרקחת של אמזון].

בניית יישום מהימן עם אמצעי בטיחות ו-HITL

על מנת לציית לתקני HIPAA ולספק פרטיות לחולים, יישמנו שיטות ממשל נתונים קפדניות תוך אימוץ גישה היברידית המשלבת LLM עם כוונון עדין באמצעות Amazon Bedrock API ו-[ייצור מוגבר לשליפה] (RAG) באמצעות [Amazon OpenSearch Service]. שילוב זה מאפשר שליפת ידע יעילה תוך שמירה על דיוק גבוה במיוחד עבור משימות משנה ספציפיות.

ניהול הזיות LLM - דבר מכריע בתחום שירותי הבריאות - דורש יותר מסתם כוונון עדין על מערכי נתונים גדולים. הפתרון שלנו מיישם אמצעי בטיחות ספציפיים לתחום הבנויים על [Amazon Bedrock Guardrails] ומשלים בפיקוח לולאת אדם במעגל (HITL) כדי להגביר את אמינות המערכת.

צוות בית המרקחת של אמזון ממשיך לשפר את המערכת באמצעות משוב בזמן אמת מרוקחים ופונקציונליות מורחבת של פורמטי מרשמים. גישה מאוזנת זו של חדשנות, מומחיות בתחום, שירותי בינה מלאכותית מתקדמים ופיקוח אנושי לא רק משפרת את היעילות התפעולית אלא פירושה שמערכות הבינה המלאכותית מעצימות נכון את אנשי המקצוע בתחום שירותי הבריאות, אשר מספקות בתורן טיפול מיטבי בחולים.

הדגשות ביקורות לקוחות המופעלות על ידי בינה מלאכותית גנרטיבית

בעוד שהדוגמה הקודמת שלנו הראתה כיצד אמזון פארמסי ממזגת LLM לזרימות עבודה בזמן אמת עבור עיבוד מרשמים, מקרה שימוש זה מדגים כיצד ניתן ליישם טכנולוגיות דומות (SLM, ML מסורתי ותכנון זרימות עבודה מתחשבות) על [הסקה באצווה לא מקוונת] בקנה מידה גדול.

אמזון הציגה [דגשים לביקורות לקוחות שנוצרו על ידי בינה מלאכותית] כדי לעבד יותר מ-200 מיליון ביקורות ודירוגים שנתיים של מוצרים. תכונה זו מזקקת דעות לקוחות משותפות לפסקאות תמציתיות המדגישות משוב חיובי, נייטרלי ושלילי על מוצרים ותכונות. קונים יכולים לתפוס במהירות את הקונצנזוס תוך שמירה על שקיפות על ידי מתן גישה לביקורות לקוחות רלוונטיות ושמירה על הביקורות המקוריות.

המערכת משפרת את החלטות הקנייה על ידי ממשק שדרכו לקוחות יכולים לחקור את דגשים לביקורות על ידי בחירת תכונות ספציפיות (לדוגמה, איכות תמונה, פונקציית שלט רחוק או קלות התקנה של Fire TV). תכונות אלו מציינות רגשות חיוביים עם סימן ביקורת ירוק, סימן מינוס כתום עבור רגשות שליליים ואפורים לנייטרליים - כלומר, קונים יכולים לזהות במהירות נקודות חוזק וחולשה של מוצרים בהתבסס על ביקורות רכישה מאומתות.

שימוש ב-LLM בדרך חסכונית עבור מקרי שימוש לא מקוונים

הצוות פיתח ארכיטקטורה היברידית חסכונית המשלבת גישות ML מסורתיות עם SLM מומחים. גישה זו מקצה ניתוח סנטימנט ומיצוי מילות מפתח ל-ML מסורתי תוך שימוש ב-SLM מותאם לביצוע משימות מורכבות ליצירת טקסט, ובכך משפרת את הדיוק ואת יעילות העיבוד.

תכונה זו משתמשת ב-[סייג’מייקר להמרת אצווה] לעיבוד אסינכרוני, אשר מספק הפחתת עלויות משמעותית בהשוואה לנקודות קצה בזמן אמת. כדי לספק חוויה כמעט ללא השהייה, הפתרון [מטמון] תובנות שחולצו לצד ביקורות קיימות, ובכך מפחית את זמני ההמתנה ומאפשר גישה סימולטנית למספר לקוחות מבלי לדרוש חישוביות נוספת. המערכת מעבדת ביקורות חדשות באופן מצטבר, ומעדכנת את התובנות מבלי לעבד מחדש את מערך הנתונים המלא. כדי לקבל את הביצועים והיעילות בעלות האופטימליים, התכונה משתמשת ב-[Amazon Elastic Compute Cloud] (Amazon EC2) [Inf2 instance] עבור משימות המרת אצווה, המספקות [עד 40% ביצועי מחיר טובים יותר בהשוואה לאלטרנטיבות].

על ידי הקפדה על גישה מקיפה זו הצליחה הקבוצה לנהל ביעילות את העלויות תוך טיפול בכמויות משמעותיות של ביקורות ומוצרים, והפכה את הפתרון ליעיל וניתן להרחבה כאחד.

אמזון מפרסמת יצירת תמונות ווידאו יצירתיות המונעות על ידי בינה מלאכותית

בדוגמאות הקודמות חקרנו בעיקר יישומים גנרטיביים של בינה מלאכותית המתמקדים בטקסט, וכעת נעבור לבינה מלאכותית גנרטיבית רב-מודאלית עם [יצירת תוכן יצירתי של אמזון לפרסום ממומן]. לפתרון זה יש יכולות יצירת [תמונות] ו[וידאו], ונשתף פרטים על היכולות הללו בסעיף זה. בסך הכל, ליבת הפתרון משתמשת ב-[מודל ליצירת תוכן יצירתי של אמזון נובה].

במבט לאחור מדרישות הלקוחות, סקר שערכה אמזון במרץ 2023 חשף שכמעט 75% ממפרסמים ציינו שדור תוכן יצירתי הוא האתגר העיקרי שלהם כאשר הם מנסים להשיג הצלחה בקמפיינים פרסומיים. מפרסמים רבים - במיוחד אלה ללא יכולות פנימיות או תמיכה של סוכנות - עומדים בפני מכשולים משמעותיים עקב המומחיות והעלות של הפקת ויזואליות איכותית. פתרונות הפרסום של אמזון מפזרים את היצירה של תוכן חזותי, ומאפשרים למפרסמים בכל הגדלים לגשת אליו ולהשתמש בו ביעילות. ההשפעה עצומה: למפרסמים המשתמשים בתמונות שנוצרו על ידי בינה מלאכותית בקמפיינים של [מותגים ממומנים] יש [אחוז לחיצות (CTR)] של כמעט 8%, ומגישים קמפיינים בשיעור גבוה יותר ב-88% מאשר משתמשים שאינם משתמשים.

בשנה שעברה פרסם בלוג הלמידה של מכונות AWS [מאמר המפרט את פתרון יצירת התמונות]. מאז אמצה אמזון [Amazon Nova Canvas] כבסיס ליצירת תמונות יצירתיות. קנבס מנצל את הנחיות טקסט או תמונה, בשילוב עם יכולות עריכה מבוססות טקסט ובקרות התאמת סכמת צבעים ופריסה, כדי ליצור תמונות ברמה מקצועית.

בספטמבר 2024 הוסיף צוות הפרסום של אמזון את היכולת ליצור [מודעות וידאו קצרות] מתמונות מוצרים. תכונה זו משתמשת ב-[מודלים בסיסיים הזמינים באמזון בדרורק] כדי לתת ללקוחות שליטה על ידי בקרה בסגנון חזותי, קצב, תנועת מצלמה, סיבוב וקנה מידה באמצעות שפה טבעית. הוא משתמש בזרימת עבודה של סוכן כדי לתאר תחילה לוח סטוריבורד וידאו ולאחר מכן ליצור את תוכן הסטורי.

כפי שנדון במאמר המקורי, [בינה מלאכותית אחראית] נמצאת בלב הפתרון, ומודל היצירתי של אמזון נובה מגיע עם בקרים מובנים לתמיכה בשימוש בטוח ואחראי בבינה מלאכותית, כולל סימני מים ובדיקת תוכן.

הפתרון משתמש ב-[AWS Step Functions] ו-[AWS Lambda] פונקציות לתיאום חסר שרתים של תהליכי יצירת תמונות ווידאו. התוכן שנוצר מאוחסן ב-[Amazon Simple Storage Service] (Amazon S3), מטא-נתונים מאוחסנים ב-DynamoDB, ו-[Amazon API Gateway] מספק ללקוחות גישה לפונקציותהדור. הפתרון משלב כעת את Amazon Bedrock Guardrails בנוסף לשמירה על שילוב [Amazon Rekognition] ו-[Amazon Comprehend] בשלבים שונים לצורך בדיקות בטיחות נוספות.

יצירת קריאטיב פרסומי איכותי בקנה מידה גדול מציגה אתגרים מורכבים. מודלים גנרטיביים של בינה מלאכותית צריכים ליצור תמונות מרתקות ומותאמות למותג במגוון רחב של קטגוריות מוצרים והגדרות פרסומיות, תוך שהן נגישות בקלות למפרסמים מכל הרמות הטכניות. הבטחת איכות ושיפור הם הבסיס ליכולות הפקת תמונות ווידאו. המערכת משופרת באופן רציף באמצעות תהליך HITL נרחב המיושם באמצעות [Amazon SageMaker Ground Truth]. יישום זה מספק כלי רב עוצמה שיכול לשנות את תהליך היצירה של מפרסמים, המאפשר יצירת תוכן ויזואלי איכותי יותר קל ונוח במגוון רחב של קטגוריות מוצרים ותנאים.

זהו רק תחילתו של יצירת תוכן שמודגש על ידי אמזון שמשתמשת בבינה מלאכותית גנרטיבית כדי לעזור למפרסמים שזקוקים ליצור תוכן המתאים למטרות הפרסום שלהם. הפתרון מראה כיצד הפחתת מחסומי היצירה יכולה להניב קמפיינים מוגברים ישירות תוך שמירה על דרישות מסגרת גבוהות לשימוש אחראי בבינה מלאכותית.

תובנות מרכזיות ודיון טכניים

יישומים שאינם שיחתיים נהנים מסובלנות חביון גבוהות, המאפשרים עיבוד אצווה ומטמון, אך דורשים מנגנוני תיקוף חזקים ואמצעי רבה”טחה מחמירים יותר בשל האוטונומיה שלהם. תובנות אלה רלוונטיות הן ליישומי בינה מלאכותית שאינם שיחתיים והן ליישומים שיחתיים:

  • פירוק משימות וסוכני זרימת עבודה – פירוק של בעיות מורכבות לרכיבים קטנים יותר הוכח כבעל ערך ביישומים מגוונים. פירוק מעמיק זה על ידי מומחי תחום אפשר יצירת מודלים מיוחדים עבור משימות משנה ספציפיות, כפי שמודגם בעיבוד המרשמים של בית המרקחת של אמזון, שבו SLMs שכווננו עדין יכולים לטפל במשימות דיסקרטיות כמו זיהוי מינון. אסטרטגיה זו מאפשרת יצירת סוכנים מיוחדים עם צעדי אימות ברורים, ובכך משפרת את האמינות ומפשטת את התחזוקה. מקרה השימוש של רשימת המוכרים של אמזון מדגים זאת באמצעות זרימת העבודה הרב-שלבית שלה הכוללת תהליכי יצירה ובדיקה נפרדים. כמו כן, מקרה השימוש של הדגשת ביקורות הפגין שימוש חסכוני ומבוקר ב-LLM, כלומר על ידי שימוש ב-ML קונבנציונלי לעיבוד מוקדם וביצוע חלקים שיכולים להיות משויכים למשימות LLM.
  • ארכיטקטורות היברידיות ובחירת מודלים – שילוב של ML קונבנציונלי עם LLM מספק בקרה רבה יותר ויעילות בעלות, לעומת שיטה מבוססת LLM בלבד. ML קונבנציונלי מצטיין בטיפול במשימות מוגדרות היטב, כפי שהודגם על ידי הדגשת הביקורות שבוצעה על ניתוח סנטימנט ומיצוי מידע. צוותים של אמזון פרסו באופן אסטרטגי מודלי שפה גדולים וקטנים בהתבסס על צרכים אסטרטגים, שילוב של RAG עם כוונון עדין ליישומים ספציפיים בתחום יעיל כמו יישום בית המרקחת של אמזון.
  • אסטרטגיות אופטימיזציה של עלויות – צוותי אמזון השיגו יעילות באמצעות עיבוד אצווה, מנגנוני מטמון לפעולות בנפח גבוה, סוגי מופעות מיוחדות כמו [AWS Inferentia] ו-[AWS Trainium] ובחירת מודלים מותאמת. הדגשת הביקורת הציגה כיצד עיבוד מצטבר יכול להפחית את דרישות החישוב, ואמזון פרסום משתמשת ב-[מודלי הבסיס] של אמזון נובה ביצירה חסכונית של תוכן יצירתי.
  • אמצעי הבטחת איכות ושליטה – בקרת איכות נשענת על אמצעי בטיחות תחום ספציפיים באמצעות אמזון שמירה על בטיחות והנחיות לאבטחה, הכוללות מודלים ושיטות בדיקה אוטומטית להערכות אנושיות מרובות שכבות. גישת LLM תאום ליצירה ותחזוקה עוזרת למנוע הזיות ברשמית מוכרים של אמזון, תחיות הוכחות שמבוצעו יכולות לשפר את הדיוק. מודל FM של אמזון המסחרית עוצר את איכות הניהול בתוך המסגרת של מסנן תוכן. התוכן הזה מווסת באמצעות מדידות שנערכות על ידי A/B בדיקות ופגישות של הפקת ביצועים.
  • יישום HITL – שיטת HITL נפרסת בכמה שיטות, החל מהערכות מומחים של רוקחים למשוב משתמשים סופיים של מחפשים שותפים. צוותי אמזון ערכו זרימות עבודה משופרות ומובנות ובכך איזנו אוטומציה ופיקוח על עבודת האדם בהתבסס על דרישות ספציפיות, כמו כן התחשבו בתחום העומס.
  • אחריות על בינה מלאכותית ותאימות – שיטות מפורטות לכללי האחריות של ארגונים כוללות אמצעי בטיחות הצילי תוכן נפרסים בסביבות שמבצעות דיבור, נוסף ציות לרגולציות וכללים כמו HIPAA. צוותי אמזון שילוב כללי סינון תוכן מחוץ לתוך ליישמות שימושיות למשתמשים, מציעה פתיחות של הדגשת נקודות משוב על ידי הקלות של גורמי דיכויות על שורשי המקור, נוסף לתוך זה הקים מנהל נתונים ששמריך בטיחות משמר את המודלים, התקנים מתוחכמים, משעבדי גילויים של אונומליות.

תבניות אלה מאפשרות פתרונות בינה מלאכותית גנרטיבית ניתנים להרחבה, אמינים וחסכוניים, תוך שמירה על תקני איכות ואחריות. יישומים אלה מראים שפתרון יעיל דורש לא רק מודלים מתקדמים אלא גם תשומת לב זהירה לארכיטקטורה, תפעול וממשל, הנתמכים על ידי שירותי AWS ונוהגים מבוססים.

צעדים הבאים

דוגמאות האמזון המשותפות במאמר זה ממחישות כיצד בינה מלאכותית גנרטיבית יכולה ליצור ערך מעבר לעוזרים שיחתיים מסורתיים. אנו מזמינים אתכם לעקוב אחר הדוגמאות הללו או ליצור פתרונות משלכם כדי לחקור כיצד בינה מלאכותית גנרטיבית יכולה לעצב מחדש את העסק שלכם או אפילו את התעשייה שלכם. אתה יכול לבקר בדף [מקרי שימוש של בינה מלאכותית גנרטיבית של AWS] כדי להתחיל את תהליך הסיעור מוחות.

דוגמאות אלה מצביעות על כך שלעתים קרובות יישומי בינה מלאכותית גנרטיבית אפקטיביים מרוויחים משילוב סוגים שונים של מודלים וזרימות עבודה. כדי לראות אילו מודלים FM נתמכים על ידי שירותי AWS, עיין ב-[מודלים בסיסיים הנתמכים ב-Amazon Bedrock] וב-[דגמי בסיס של Amazon SageMaker JumpStart]. אנו ממליצים גם לחקור את [Amazon Bedrock Flows], שיכול לפשט את הנתיב לבניית זרימות עבודה. יתר על כן, נעיר שמאיצי Trainium ו-Inferentia מציעים חסכונות עלויות משמעותיים ביישומים אלה.

כפי שמודגם בדוגמאות שהראינו, זרימות עבודה של סוכנים הוכיחו את עצמן כבעלות ערך במיוחד. אנו ממליצים לעיין ב-[סוכני אמזון בדרורק] לבניית זרימות עבודה של סוכנים במהירות.

הטמעת מוצלחת של בינה מלאכותית גנרטיבית עוברת מעבר לבחירת מודלים - היא מייצגת תהליך פיתוח תוכנה מקיף מניס