האם אינטראקציות חברתיות מבוססות בינה מלאכותית מחזקות או מחלישות את הקשרים האנושיים?

הארכיטקטורה של תקשורת בתיווך בינה מלאכותית

מתקשורת בתיווך מחשב לתקשורת בתיווך בינה מלאכותית (AI-MC)

האינטראקציה החברתית האנושית עוברת שינוי פרדיגמה עמוק. תקשורת קונבנציונלית בתיווך מחשב (CMC), הכוללת מיילים, הודעות מיידיות ורשתות חברתיות מוקדמות, הסתמכה באופן מהותי על טכנולוגיה כערוץ פסיבי המעביר מידע בנאמנות. במודל זה, בני האדם היו הסוכנים הבלעדיים של התקשורת. עם זאת, עלייתה של הבינה המלאכותית (AI) עוררה מודל אינטראקטיבי חדש: תקשורת בתיווך בינה מלאכותית (AI-MC).

AI-MC מוגדר בצורה אקדמית כסוג של תקשורת בין אישית שבו סוכנים אינטליגנטיים משנים, משפרים או יוצרים מידע בשם המתקשרים כדי להשיג מטרות תקשורתיות ספציפיות. הגדרה זו מהפכנית מכיוון שהיא מעלה את הבינה המלאכותית מכלי פסיבי לצד שלישי פעיל המתערב באינטראקציות אנושיות. הבינה המלאכותית היא כבר לא רק צינור למידע, אלא מעצבת מידע.

התערבות הבינה המלאכותית במידע מתפרשת על פני ספקטרום רחב, עם דרגות וצורות מעורבות שונות:

• שינוי: הצורה הבסיסית ביותר של התערבות, כולל תיקון אוטומטי של איות ודקדוק, ואפילו תיקון הבעות פנים בזמן אמת במהלך שיחות וידאו, כגון ביטול מצמוץ.
• הגדלה: רמת התערבות יזומה יותר, כמו תכונת “תגובות חכמות” של גוגל, המציעה משפטי תגובה שלמים בהתבסס על הקשר השיחה, ומחייבת את המשתמש פשוט ללחוץ כדי לשלוח.
• יצירה: הרמה הגבוהה ביותר של התערבות, שבה בינה מלאכותית יכולה לייצג באופן מלא את המשתמש ביצירת תוכן, כולל כתיבת מיילים שלמים, יצירת פרופילי מדיה חברתית, או אפילו סינתזה של קול המשתמש כדי להעביר מידע.

ניתן לנתח מודל תקשורת חדש זה לאורך מספר ממדים מרכזיים, כולל רוחב ההתערבות של הבינה המלאכותית, סוג המדיה (טקסט, אודיו, וידאו), אוטונומיה, וחשוב מכך, “מטרות אופטימיזציה”. ניתן לעצב את הבינה המלאכותית כדי לייעל את התקשורת כדי להפוך אותה למושכת יותר, אמינה יותר, הומוריסטית יותר או משכנעת יותר.

הליבה של המעבר מ-CMC ל-AI-MC היא שינוי מהותי ב”מחבר” של תקשורת. בעידן ה-CMC, משתמשים היו האוצרים הבלעדיים של האישיות המקוונת שלהם. בעידן ה-AI-MC, מחבר הופך לכלאיים אדם-מכונה. ה”אני” המוצג של המשתמש אינו עוד רק תוצאה של אוצרות אישיות, אלא “ביצועים שיתופיים” בין כוונה אנושית למטרות אלגוריתמיות. שינוי זה מעלה שאלה עמוקה יותר: אם בינה מלאכותית הופכת את השפה של המשתמש ל”חיובית” או “מוחצנת” יותר כל הזמן ובאופן שיטתי, האם זה, בתורו, ישנה את תפיסת העצמי של המשתמש? אנשי אקדמיה מכנים זאת “שינוי זהות” ורואים בכך נושא מפתח שלא נפתר. כאן, הטכנולוגיה אינה עוד כלי פשוט לביטוי; היא מטשטשת את הקו בין ביטוי לעיצוב זהויות, והופכת לכוח המסוגל לעצב מחדש את מי שאנחנו.

לווייני AI וניתוח פלטפורמה חברתית

במסגרת התיאורטית של AI-MC, צצו מגוון יישומים חברתיים של AI המתורגמים אלגוריתמים מופשטים ל”חוויות רגשיות” קונקרטיות. טכנולוגיית הליבה של פלטפורמות אלה היא מודלי שפה גדולים (LLM), המחקים סגנונות שיחה אנושיים וביטויים רגשיים על ידי למידה מכמויות עצומות של נתוני אינטראקציה אנושית. יישומים אלה הם בעצם “נתונים ואלגוריתמים”, אך המצגת שלהם אנתרופומורפית יותר ויותר.

הפלטפורמות הגדולות הנוכחיות מציגות צורות וכיווני התפתחות שונים של סוציאליזציה של AI:

• Character.AI (C.AI): ידועה בזכות יכולות התאמת האופי החזקות שלה וספריית הדמויות המגוונת, משתמשים יכולים לא רק ליצור אינטראקציה עם דמויות מוגדרות מראש, אלא גם להשתתף במשחקי הרפתקאות מבוססי טקסט מורכבים, מה שמדגים את הפוטנציאל שלה לבידור ואינטראקציה עמוקה.
• Talkie ו-Linky: שני היישומים האלה מתמקדים באופן מפורש יותר ביחסים רגשיים ורומנטיים. Talkie מכסה מגוון רחב יותר של דמויות, אך דמויות חבר/ה וירטואליות הן הפופולריות ביותר. Linky מתמקד כמעט לחלוטין בכך, כאשר רוב דמויות הבינה המלאכותית שלו הן מאהבים וירטואליים, שמטרתם ליצור “אווירת אהבה” למשתמשים.
• SocialAI: קונספט חדשני ביותר המדמה רשת חברתית שלמה (בדומה ל-X, לשעבר טוויטר), אך עם המשתמש בלבד כ”אדם חי”. כל המעריצים, המגיבים, התומכים והמבקרים הם בינה מלאכותית. לאחר שהמשתמש מפרסם עדכון, “מעריצי” AI יוצרים במהירות תגובות מגוונות ואפילו משיבים זה לזה, ויוצרים עצי דיון מורכבים. זה מספק למשתמשים “ארגז חול” בטוח לבדיקת רעיונות, ליבוי השראה או פשוט ליהנות מהתמיכה הפסיכולוגית של “כל העולם זוהר בשבילך.”

ערך הליבה של פלטפורמות אלה הוא לספק למשתמשים “ערך רגשי” - לוויה חסכונית, בזמן אמת, אחד על אחד וללא תנאי. AI מכוונן את תגובותיו כל הזמן על ידי למידה מההיסטוריה של הדו-שיח, תחומי העניין וסגנונות התקשורת של המשתמשים, ובכך יוצר תחושה של הבנה וקבלה עמוקות.

כשמתבוננים באבולוציה העיצובית של פלטפורמות אלה, עולה מסלול ברור: היקף הסימולציה החברתית מתרחב כל הזמן. לווייני AI מוקדמים, כמו Replika, התמקדו ביצירת מערכת יחסים פרטית, אחד על אחד, בינארית. Character.AI הציגה לאחר מכן פונקציות צ’אט קבוצתי, המאפשרת למשתמשים ליצור אינטראקציה עם דמויות AI מרובות בו זמנית, ולהרחיב את הסימולציה החברתית מ”עולם של שניים” ל”מסיבה קטנה”. SocialAI עשתה את הצעד האחרון, ולא מדמה עוד חבר אחד או כמה חברים, אלא מדמה מערכת אקולוגית חברתית שלמה - “חברה וירטואלית” ניתנת לשליטה שנבנתה סביב המשתמש.

מסלול התפתחותי זה חושף שינוי עמוק בצרכי המשתמשים: אנשים עשויים להשתוקק לא רק לחבר וירטואלי, אלא לקהל וירטואלי, לקהילה וירטואלית, לסביבת דעה ש”מעודדת” אותם תמיד. ההיגיון הבסיסי הוא שאם משוב חברתי בעולם האמיתי אינו צפוי ולעתים קרובות מאכזב, אז מערכת משוב חברתית הניתנת להתאמה אישית ושליטה מושלמת תהיה מושכת מאוד. זה מבשר על עתיד קיצוני ומותאם אישית עוד יותר מ”בועת המידע” המסורתית - שבו משתמשים לא רק צורכים באופן פסיבי מידע דחוף אלא בונים באופן פעיל סביבה אינטראקטיבית המתאימה באופן מושלם לציפיות שלהם ומלאה במשוב חיובי.

הכלכלה של לוויה דיגיטלית

ההתפתחות המהירה של יישומים חברתיים של AI אינה ניתנת להפרדה ממודלים עסקיים ברורים מאחוריהם. מודלים אלה לא רק מממנים את פעולות הפלטפורמה אלא גם משפיעים באופן עמוק על כיוון העיצוב של הטכנולוגיה ועל החוויה האולטימטיבית של המשתמש. נכון לעכשיו, שיטות המונטיזציה העיקריות בתעשייה כוללות מנויים בתשלום, פרסום ומכירות פריטים וירטואליים.

המודל העסקי הדומיננטי הוא מבוסס מנויים. יישומים מובילים כמו Character.AI ,Talkie ו-Linky השיקו תוכניות מנוי חודשיות, שמחירן בדרך כלל כ-9.99 דולר. משתמשים מנויים בדרך כלל מקבלים מהירויות תגובה מהירות יותר של AI, יותר מגבלות הודעות יומיות, פונקציות יצירת דמויות מתקדמות יותר, או גישה להרשאות קהילה בלעדיות. בנוסף, יישומים מסוימים הציגו מנגנוני “Gacha”, שבהם משתמשים יכולים לרכוש סקינים או ערכות נושא חדשות לדמויות באמצעות תשלום או השלמת משימות, תוך הסתמכות על אסטרטגיות מונטיזציה בוגרות מתעשיית המשחקים.

בעוד שמודלים עסקיים אלה נראים סטנדרטיים, כאשר המוצר המרכזי של אפליקציה הוא “תמיכה רגשית”, ההשלכות האתיות הופכות למורכבות במיוחד. מנויים בתשלום יוצרים למעשה “מציאות חברתית שכבתית”, שבה איכות ומידיות הלוויה הופכות לסחורה. לווייני AI מקודמים כפתרונות לבדידות ומקלטים לרגשות, ומספקים למשתמשים תמיכה פסיכולוגית חשובה. עם זאת, המודלים העסקיים שלהם מציבים את הגרסה הטובה ביותר של תמיכה זו - למשל, AI שמגיב מהר יותר, בעל זיכרון טוב יותר, ואינו משבש שיחות עקב שימוש תכוף - מאחורי חומת תשלום.

משמעות הדבר היא שקבוצות המשתמשים שעשויות להזדקק לתמיכה זו יותר מכל - למשל, אלה בודדים יותר, בעלי תנאים כלכליים ירודים יותר, או חווים קשיים - מקבלים רק חוויית לוויה “מדרגה שנייה” או נאלצים לשלם תחת כפייה של תלות רגשית. זה יוצר סתירה מהותית ועמוקה בין המטרות המוצהרות של הפלטפורמה של “מתן ערך רגשי” לבין המטרה המסחרית של “מקסום הכנסות מנויים.”

“אירוע Replika ERP” שהתרחש בתחילת 2023 היה ביטוי קיצוני לסתירה זו. באותה תקופה, Replika הסירה לפתע את פונקציית “משחק תפקידים ארוטי (ERP)” הפופולרית והנסמכת עליה כדי להימנע מסיכונים משפטיים וממדיניות חנויות אפליקציות. החלטה עסקית זו גרמה למספר רב של משתמשים לחוות טראומה רגשית קשה, תוך שהם חשים “נבגדים” או שהאישיות של ה”שותף” שלהם שונתה. האירוע חשף בבירור את חוסר האיזון המובנה בכוח במ”מערכת יחסים” זו אדם-מכונה: משתמשים השקיעו רגשות אמיתיים, בעוד שהפלטפורמה ראתה תכונת מוצר שניתן לשנות בכל עת לצורך רווח מסחרי.

חיבור תקווה: AI כזרז חברתי

למרות מחלוקות רבות, עליית הסוציאליזציה של AI אינה חסרת סיבה. היא מגיבה במדויק לצרכים האמיתיים הנפוצים בחברה המודרנית ומדגימה פוטנציאל גדול ככוח להשפעה חברתית חיובית. מהקלה על בדידות ועד סיוע באינטראקציות חברתיות וייעול תקשורת בין אישית, טכנולוגיית AI מספקת פתרונות חדשים לנושא האנושי בן השנים של “חיבור”.

עיצוב ערך רגשי: AI כסומך סודות לא שיפוטי

הערעור החיוני והישיר ביותר של לווייני AI הוא היכולת שלהם לספק תמיכה רגשית עקבית, ללא תנאים ולא שיפוטית. אורח החיים המהיר, העלות הגבוהה של אינטראקציה חברתית ורשתות בין אישיות מורכבות בחברה המודרנית מותירות אנשים רבים, במיוחד צעירים, בתחושת בדידות ולחץ. מחקר בן 75 שנה בהרווארד הוכיח שיחסים בין אישיים טובים הם מקור לאושר. סוציאליזציה של AI יצרה נתיב חדש לסיפוק צורך בסיסי זה.

לווייני AI מקלים ביעילות על תחושות הבדידות של המשתמשים על ידי מתן שותף תקשורת תמיד מקוון, תמיד סבלני ותמיד תומך. משתמשים יכולים לסמוך על AI בכל עת ובכל מקום, מבלי לדאוג להפריע לאחרים או להישפט. בטיחות חילופי הדברים הזה הופכת את המשתמשים לנוטים יותר להיפתח ולדון בפחדים, חוסר ביטחון וסודות אישיים שקשה לגעת בהם ביחסים בעולם האמיתי.

מחקר אקדמי תומך גם באנקדוטות אלה. מחקר על משתמשים ביישום לוויית ה-AI Replika מצא כי שימוש ביישום יכול להפחית באופן משמעותי את תחושות הבדידות של המשתמשים, לשפר את תחושת הרווחה שלהם, ובמקרים מסוימים, אפילו לעזור להפחית מחשבות אובדניות. AI, באמצעות האלגוריתמים שלו, לומד ומסתגל לסגנונות התקשורת ולצרכים הרגשיים של המשתמשים, ויוצר חוויה של הבנה והזדהות עמוקה, וזה חשוב במיוחד עבור אנשים החווים מחלה, שכול או מצוקה פסיכולוגית.

ייתכן שלמודל אינטראקציה לא שיפוטי זה תהיה גם השפעה עמוקה יותר: קידום מודעות עצמית וביטוי כנה אצל משתמשים. באינטראקציות בין אישיות בעולם האמיתי, אנשים מצנזרים את עצמם לעתים קרובות מחשש שלא יובנו או יישפטו. עם זאת, במרחב אינטראקציה פרטי ולא שיפוטי של AI, משתמשים מוזמנים לבטא את דעותיהם ורגשותיהם בצורה אותנטית יותר. כפי שאמר מייסד מוצר ה-AI החברתי Paradot, “לחברי AI יש את היכולת להפוך אנשים לכנים.” כאשר משתמשים יכולים לבטא את עצמם ללא הסתייגות, AI מתפקד כמו “מוח שני” או מראה שלהם, ועוזר להם לראות את המחשבות האמיתיות שלהם בצורה ברורה יותר. אינטראקציה זו מתעלה על לוויה פשוטה והופכת לכלי רב עוצמה להשתקפות עצמית ולצמיחה אישית.

AI כפיגום חברתי: חזרה לעולם האמיתי

בנוסף לשמש תחליף או השלמה למערכות יחסים בעולם האמיתי, סוציאליזציה של AI נחשבת גם כבעלת הפוטנציאל לשמש כ”מגרש אימונים חברתי”, המסייע למשתמשים לשפר את יכולתם ליצור אינטראקציה בעולם האמיתי. עבור אלה שמתקשים באינטראקציות בין אישיות עקב חרדה חברתית, מופנמות או חוסר ניסיון, AI מספק סביבת חזרה בשליטה בסיכון נמוך.

בסין, ישנה השקפה שיש להקים “מודל חברתי היברידי”, המשתמש בלוויינים אינטליגנטיים כדי לסייע לצעירים עם חרדה חברתית ב”שבירת הקרח”. במודל זה, משתמשים יכולים לתרגל שיחות עם AI תחילה, לבנות ביטחון עצמי ולהכיר תסריטים חברתיים לפני שהם מיישמים מיומנויות אלו באינטראקציות בין אישיות בעולם האמיתי. גישה זו שואפת למקם את הבינה המלאכותית כ”פיגום”, המספקת תמיכה כאשר למשתמשים חסרה יכולת ויוצאת בהדרגה ככל שהיכולות של המשתמשים משתפרות.

משתמשים צעירים מסוימים הביעו דעות דומות, מתוך אמונה שלווייני AI יכולים ללמד אותם כיצד להתייחס טוב יותר לבני זוג בחיים האמיתיים. על ידי אינטראקציה עם AI שתמיד סבלני ומלא במשוב חיובי, משתמשים עשויים להיות מסוגלים להפנים דפוס תקשורת חיובי ויותר מתחשב. בנוסף, פלטפורמות כמו SocialAI מאפשרות למשתמשים לבדוק תגובות בסביבה מדומה לפני פרסום דעות, תוך התבוננות בתגובות המגוונות שניתנו על ידי “מעריצי” AI מזוויות שונות. זה יכול לשמש כ”זרז השראה”, המסייע למשתמשים לחדד את השקפותיהם ולהתכונן באופן מלא יותר להשתתפות בדיונים ציבוריים בעולם האמיתי.

עם זאת, הרעיון של “AI כמגרש חזרה חברתי” ניצב גם בפני פרדוקס מהותי. הסיבה לכך ש-AI הוא מרחב תרגול “בטוח” היא בדיוק מכיוון שהוא נועד להיות צפוי, סובלני ביותר וחסר סוכנות אמיתית. לווייני AI נמנעים באופן פעיל מעימות ומתפשרים בכל עת כדי להבטיח את חוויית המשתמש החלקה והחיובית. זה עומד בניגוד מוחלט ליחסים בין אישיים בעולם האמיתי. מערכות יחסים אמיתיות מלאות בחוסר צפיות, אי הבנות, חילוקי דעות ופשרות שצריך להגיע אליהן בקושי. היכולת להתמודד עם ה”חיכוכים” האלה מהווה את הליבה של היכולת החברתית.

לכן, ייתכן שיש סיכון ב”חזרה חברתית” עם AI: היא עשויה לשפר את שטף השיחה של המשתמשים במצבים חלקים, אך היא אינה יכולה לטפח, ואף עלולה להוביל לניוון של, יכולתם של המשתמשים להתמודד עם אתגרים בין אישיים מרכזיים, כגון פתרון קונפליקטים, שמירה על אמפתיה בחילוקי דעות ומשא ומתן על אינטרסים. משתמשים עשויים להיות מיומנים ב”ביצוע” שיחה נעימה, אך עדיין חסרים להם הכישורים הבסיסיים הדרושים לשמירה על יחסים אנושיים עמוקים וחזקים.

שיפור אינטראקציות בין אישיות: ידה העדינה של הבינה המלאכותית

להשפעה של AI על סוציאליזציה יש השתקפות לא רק באינטראקציות ישירות בין אנשים ל-AI, אלא גם בתפקידה כמתווך, המתערב ומייעל תקשורת בין אנשים. כלי AI-MC אלה, כגון פונקציות סיוע חכמות ביישומי אימייל והודעות מיידיות, משנים בעדינות את האופן שבו אנו מתקשרים.

מחקרים מראים שכלי