סכנות המציאות המותאמת: עידן הבינה המלאכותית

הארכיטקטורה של מציאות מותאמת אישית

העולם הדיגיטלי מעוצב יותר ויותר על ידי אלגוריתמים שמטפחים את החוויות האישיות שלנו. חלק זה בוחן את הכוחות הטכנולוגיים והכלכליים המניעים את ההתאמה האישית המוגברת הזו, תוך בחינת האופן שבו אלגוריתמים אלה מסננים ומעצבים את התפיסות והאינטראקציות החברתיות שלנו, הכל בהקשר של מודלים עסקיים דיגיטליים דומיננטיים.

הלוגיקה הפנימית של התאמה אישית מוגברת

הקונספט של "מסנן מציאות" הוא מרכזי להבנת סביבת המידע של ימינו. אלגוריתמים התפתחו מעבר לאחזור מידע פשוט, וכעת הם בונים "מערכות אקולוגיות מידע אישיות" ייחודיות עבור כל משתמש. המטרה היא ליצור חוויות משתמש חלקות ומושכות. זה מושג באמצעות תהליך תלת-שלבי: זיהוי תכונות משתמש באמצעות מעקב התנהגותי, אספקת תוכן רלוונטי ביותר ועידון מתמשך להתאמה מיטבית.

זה משנה באופן מהותי את האופן שבו אנו נתקלים במידע. סביבות מידע, שבעבר היו משותפות באופן נרחב, הופכות מבודדות ומותאמות אישית יותר ויותר. אלגוריתמים צופים בעקביות בהתנהגות משתמשים – קליקים, זמן שהייה, שיתופים – כדי לחזק את ההבנה שלהם לגבי העדפות משתמשים, ומקיפים אנשים בבועות מידע המשקפות את תחומי העניין שלהם. התוצאה היא מציאויות מותאמות אישית ביותר, ייחודיות לכל אדם.

חדר המנועים: קפיטליזם מעקב וכלכלת הקשב

כוחות כלכליים מבססים את השכיחות של התאמה אישית מוגברת בעידן הדיגיטלי, בעיקר כלכלת הקשב וקפיטליזם המעקב.

זיינפ טופקצ’י טוענת שפלטפורמות טכנולוגיות גדולות מסתמכות על לכידת תשומת הלב של המשתמשים ומכירתה למפרסמים. ב"כלכלת הקשב" הזו, מעורבות המשתמשים היא משאב בעל ערך. לפלטפורמות יש תמריץ חזק לקדם תוכן שממקסם את המעורבות, אשר לרוב כולל מידע חזיתי, רגשי ומסית. אלגוריתמים, המונעים על ידי מטרות מסחריות, מגבירים תוכן שמחריף חלוקות חברתיות.

התיאוריה של שושנה זובוף על "קפיטליזם מעקב" חושפת לוגיקה עמוקה יותר, וטוענת שפלטפורמות עושות יותר מאשר למכור מודעות. העסק המרכזי שלהן הוא יצירה והפעלה של "שווקי עתיד התנהגותיים", שבהם קונים ומוכרים תחזיות לגבי התנהגות עתידית. אינטראקציות משתמשים מייעלות המלצות נוכחיות אך גם מייצרות "עודף התנהגותי" – נתונים המשמשים לאימון מודלים חזויים. התאמה אישית היא אז תרגיל איסוף נתונים שמטרתו לחדד כלי חיזוי ובסופו של דבר לשנות התנהגות, ולשרת את האינטרסים של קפיטליזם המעקב, המנותק מרווחת המשתמשים ומבריאות חברתית.

שילוב של תיאוריות אלה חושף את הטבע האמיתי של "מסנני מציאות". הם אינם כלים ניטרליים המעצימים משתמשים, אלא מערכות הממקסמות רווחים, ויוצרות סביבות מותאמות אישית מרתקות כדי לחלץ את תשומת הלב של המשתמשים ולהמיר נתונים התנהגותיים למוצרים חזויים משתלמים, מה שהופך מציאות מעוותת לתופעת לוואי בלתי נמנעת.

הבסיס הטכני: מסינון שיתופי למודלים גנרטיביים

בסיס טכנולוגי מתפתח תומך בארכיטקטורה מסחרית זו. מערכות המלצה מוקדמות הסתמכו על סינון שיתופי, ניתוח התנהגות קבוצתית כדי לחזות העדפות אישיות. טכניקות כמו מודלים גדולים של שפה כמו BERT, מאפשרות למערכות להבין את כוונת המשתמש. במקום התאמת מילות מפתח פשוטה, מערכות אלה מציעות המלצות מדויקות וקוהרנטיות. חברות כמו eBay, Alibaba ו-Meituan יישמו את המודלים האלה במנועי ההמלצות שלהן.

בינה מלאכותית גנרטיבית מסמנת קפיצת מדרגה משמעותית קדימה, המאפשרת לאלגוריתמים ליצור תוכן חדש וייחודי לפי דרישה. ניתן למלא את המציאות המותאמת אישית בתוכן סינתטי. לדוגמה, בן לוויה בינה מלאכותית יכול לנהל שיחות וליצור תמונות מותאמות אישית עבור המשתמש.

מסלול זה מצביע על עתיד שבו מציאות מותאמת אישית עוברת מתוכן שנאסף בקפידה לעולמות סינתטיים של בינה מלאכותית המותאמים לאדם. הקו בין אמיתי לוירטואלי מטשטש. מעבר זה מ"טיפוח מציאות" ל"יצירת מציאות" מעמיק את הטבע הסוחף של "מסנני מציאות", ועלול להגביר את השפעתם על קוגניציה אישית ומבנים חברתיים.

לווייתני בינה מלאכותית כאחרים אינטימיים

מגמה בולטת בהתאמה אישית מוגברת היא עלייתן של אפליקציות לווייתני בינה מלאכותית. דמויות וירטואליות אלה עוסקות בשיחות שפה טבעית רציפות ומאוד מואנשות, ומושכות משתמשים רבים, במיוחד דמוגרפיה צעירה יותר. נתוני שוק מצביעים על צמיחה מהירה: הניו יורק טיימס מדווח שיותר מ-10 מיליון משתמשים רואים במאהבים בינה מלאכותית "בני לוויה", ויותר מ-100 אפליקציות מונעות בינה מלאכותית מציעות דרגות שונות של לוויה. שוק לווייתני הבינה המלאכותית בארה"ב חרג מ-4.6 מיליארד דולר בשנת 2024, עם צמיחה צפויה העולה על 27% CAGR, הנשלטת על ידי תוכנה.

בליבתם של לווייתני בינה מלאכותית נמצא סינתזה של בינה מלאכותית גנרטיבית, עיבוד שפה טבעית (NLP) ומחשוב קצה. טכנולוגיות אלה מאפשרות ללווייתני בינה מלאכותית לזכור היסטוריית שיחות, להסתגל לסגנונות תקשורת, לבצע משחקי תפקידים ולדון בנושאים שונים. על ידי שילוב נתוני אינטראקציה של משתמשים, דפוסים רגשיים ומשוב התנהגותי, מפתחים יוצרים פלטפורמות בינה מאוחדות על פני מכשירים, ומספקים תמיכה רגשית חלקה ומותאמת אישית.

מילוי חללים רגשיים: ניתוח של משיכה פסיכולוגית

לווייתני בינה מלאכותית פופולריים מכיוון שהם נותנים מענה לצרכים הרגשיים של החברה העכשווית, במיוחד הדור הצעיר. הם מציעים משוב ונוחות רגשיים מיידיים, ללא תנאים ורציפים. הם מציגים מוצא רגשי לאלו שמרגישים בודדים, מגושמים חברתית או תחת לחץ.

זה מתיישב עם מגמות סוציו-פסיכולוגיות רחבות יותר. סקר של צעירים סינים מראה ירידה בתחושות של אושר, משמעות, שליטה, שייכות והערכה עצמית לאורך דורות. רבים חשים חרדים ומעריכים מחדש את עצמם, מה שגורם להם לשאול "מי אני?" לווייתני בינה מלאכותית מציעים מרחב בטוח ולא שיפוטי לבטא רגשות פרטיים, לחקור בלבול פנימי ולפרוק בדידות. הם משמשים כ"תאי הד" מושלמים, ומציעים סבלנות, הבנה ותמיכה.

לווייתני בינה מלאכותית מייצגים את הצורה האולטימטיבית של "מסנן מציאות", המעצב חיים חברתיים ורגשיים על ידי סינון מידע ומתן אינטראקציה אוצרת ומספקת כל הזמן המחליפה את הקונפליקטים, אי ההבנות והאכזבות המתרחשות ביחסים אנושיים.

המסחור של יחסים אינטימיים

הנוחות הרגשית שמספקים לווייתני בינה מלאכותית קשורה באופן מהותי ללוגיקה מסחרית. אינטימיות שמקלה בינה מלאכותית היא מוצר מעוצב וארוז בקפידה, כאשר פלטפורמות ממירות את הרצון לקשר רגשי עמוק יותר לרווחים באמצעות שירותים ותכונות בתשלום שונות. לדוגמה, משתמשים יכולים לשלם עבור "כרטיסי הגברת זיכרון" כדי לעזור ללווייתני בינה מלאכותית לזכור את ההרגלים וההעדפות שלהם, וליצור תחושה אותנטית יותר של אינטימיות.

פלטפורמות משתמשות באסטרטגיות משחקיות, כגון תסריטים הניתנים להתאמה אישית, קווי עלילה מרובים ומשוב מיידי, כדי לעורר תשוקות צרכנים והשקעה רגשית. זה יוצר פרדוקס: יחסים המיועדים לאינטימיות מונעים על ידי מטרות מסחריות וחילוץ נתונים. תוך חיפוש אחר נוחות רגשית, הדפוסים הרגשיים של המשתמשים, היסטוריית השיחות וההעדפות האישיות מנותחים כדי לייעל את השירות, להגביר את שימור המשתמשים ולפתח מודלים של הכנסות מבוססי מנויים או תכונות פרימיום. יחסים אינטימיים מכומתים, ארוזים ונמכרים.

גבולות האתיקה והפיתוח

התפשטות לווייתני הבינה המלאכותית מציגה סיכונים ואתגרים אתיים, כולל תלות וטשטוש הקו בין מציאות לפנטזיה, המשפיעים על בריאות הנפש.

דאגה מיוחדת היא ההשפעה על קטינים. מתבגרים נמצאים בתקופות קריטיות של התפתחות חברתית. אם הם מסתמכים על בינה מלאכותית לתמיכה כאשר הם מתמודדים עם סוגיות ורגשות מורכבים, קיים סיכון מסוכן שהלוויה של בינה מלאכותית, בהיעדר הגבלות גיל מתאימות ופיקוח, עלולה לשמש להפצת מידע מזיק כמו פורנוגרפיה או לקדם ערכים מזיקים לילדים. בהקשרים משפטיים מסוימים, מתן תוכן מיני מונחה בינה מלאכותית עשוי להיות בלתי חוקי.

חיוני להגדיר מגבלות אינטראקציה וגבולות אתיים לבינה מלאכותית. זה לא רק נושא טכני, אלא חברתי עמוק. מיקור חוץ של פיתוח קשר רגשי לאלגוריתמים של בינה מלאכותית המונעים על ידי רווח עלול להטיל צל ארוך, וליצור אנשים פחות מסוגלים.

פיצול הספירה הציבורית

חלק זה עובר מניתוח תפקודן של טכנולוגיות מותאמות אישית לחקר ההשפעות החברתיות שלהן, תוך התעמקות באופן שבו "מסנני מציאות" מטופחים אלה משפיעים על הפונקציות הדמוקרטיות המרכזיות כגון יצירת קונצנזוס, ניהול ויכוח פוליטי ושמירה על זהות קולקטיבית משותפת.

פרדיגמת תקשורת המונים וה"קהילה המדומיינת"

כדי להבין את השינוי הנוכחי, עלינו לחזור למאה ה-20, כאשר לתקשורת המונים כמו עיתונים, רדיו וטלוויזיה היה תפקיד בבניית קונצנזוס. למרות שהיו מוטים, אמצעי תקשורת אלה סיפקו סביבת מידע מאוחדת במידה מסוימת, וקבעו סדר יום משותף עבור האומה. בנדיקט אנדרסון טען שאמצעי תקשורת מודפסים, כמו עיתונים, אפשרו לאנשים לדמיין את עצמם חולקים חוויות עם מיליוני אזרחים באותו "זמן הומוגני וריק". "תחושת ה’אנחנו’" שנבנתה בתקשורת זו הייתה הבסיס הפסיכולוגי להקמת מדינת הלאום ולסולידריות חברתית.

פירוק נחלת המידע

התאמה אישית מוגברת מפרקת את בסיס המידע המשותף הזה. כאשר כל משתמש שקוע ביקום אישי המותאם אלגוריתמית, ה"תחום הציבורי" למשא ומתן קולקטיבי נשחק. אנו עוברים מחברה הצורכת תקשורת לחברה "מתווכת" – שבה כל מוסד חברתי חייב לתפקד דרך מסנן הלוגיקה של התקשורת.

שינוי זה מאיים על יכולתנו לזהות ולהגדיר אתגרים משותפים כחברה. אם עדכון החדשות של אדם אחד מלא באזהרות מפני ירידה כלכלית, בעוד שאדם אחר רואה סימנים של שגשוג, הם לא יכולים להסכים על סדרי עדיפויות לאומיים. כאשר מציאויות משותפות נעלמות, קונצנזוס הופך לבלתי אפשרי. מהות הסוגיה עוברת ממחלוקות על עובדות למחלוקות על ה"מציאות" שכל אחד מאיתנו מאכלס.

מדעת קהל לרגשות מצטברים

אופי "דעת הקהל" השתנה באופן מהותי. דעת קהל, שבעבר הייתה תוצאה של דיונים מכוונים, היא כעת צבירה של תגובות רגשיות מבודדות. פלטפורמות עוקבות ומכמתות תגובות לתוכן (לייקים, דיסלייקים, שיתופים) ומציגות אותן כ"סנטימנט ציבורי".

"דעה" זו אינה מבנה מכוון של מחשבה קולקטיבית אלא סיכום רגשי, חסר משקל רציונלי ומטפח פילוג. זה משנה מנגנוני משוב דמוקרטיים, ומציב בפני קובעי המדיניות תהפוכות רגשיות נפיצות במקום סנטימנט ציבורי מאוזן.

דינמיקה של קיטוב פוליטי

הדיון על "בועת המסנן" לעומת "תא ההד"

דיונים על קיטוב פוליטי משתמשים ב"בועת מסנן" וב"תא הד" כמושגים מרכזיים, שלעתים קרובות מבולבלים. "בועת המסנן" של אלי פאריזר מתארת ​​סביבות מידע מותאמות אישית שנוצרו על ידי אלגוריתמים ללא ידיעת המשתמשים, ומסננות דעות לא תואמות של משתמשים. "תאי הד" מצביעים על בחירה עצמית, שבה אנשים מצטרפים לקהילות בעלות דעות דומות, ומחזקים אמונות קיימות.

אקדמיה חולקת על הרעיון של "בועת המסנן", ולא מצליחה למצוא ראיות אמפיריות חזקות להשפעתו. חלק מהחוקרים אומרים שמשתמשים ניגשים למקורות מגוונים, ואלגוריתמים עשויים אפילו להרחיב את אופקיהם, וטוענים ש"חשיפה סלקטיבית" – בחירת מידע המתואם לדעות קיימות – משמעותית יותר. אחרים מצאו שאלגוריתמים אכן מתעצמים, וגורמים לקהילות מבודדות ומקוטבות.

טבלה 1: השוואה בין "תא הד" ל"בועת מסנן"

השערת המאיץ: אלגוריתמים והטיות קוגניטיביות

"השערת המאיץ" נמנעת מחשיבה על אלגוריתמים ובחירת משתמש כ"סיבה ותוצאה" במקום זאת, היא מניחה לולאת משוב חזקה. בני אדם נוטים להטיית אישור ולהטיית "קונצנזוס שקרי". בעוד שהתמודדו עם חיכוכים לפני העידן הדיגיטלי, אלגוריתמים מסירים את החיכוך הזה, מה שמקל על ההתמכרות להטיית אישור.

אלגוריתמים מפרשים התנהגות (לחיצה על מאמר נקודת מבט) כ"עניין משתמש" וממליצים על תוכן דומה כדי להגביר את שימור המשתמשים. חיזוק הדדי זה מחריף את הפערים האידיאולוגיים. לכן, אלגוריתמים הם "מאיצים", המהדהדים נטיות פסיכולוגיות, ומגדילים הבדלים לחלוקות אידיאולוגיות.

הפסיכולוגיה הדיגיטלית של "אנו לעומת הם"

התוצאה היא קיטוב רגשי – גועל, חוסר אמון ועוינות נגד פלגים מנוגדים. סביבות תא הד מפחיתות מגע עם דעות חיצוניות, ומחלישות את האמפתיה. כאשר אומרים לאנשים שהעולם החיצון עוין ולקוי, יריבים פוליטיים הופכים לאיומים על הזהות והערכים.

מנטליות שבטית זו של "אנו לעומת הם" קבועה בתחום הדיגיטלי. פלטפורמות מתגמלות תוכן רגשי, ומעמיקות קרעים. קיטוב פוליטי הופך לסכסוך שבטי על זהות, מוסר ושייכות, שקשה ליישב.

עדויות לקיטוב פוליטי

סקרים תומכים בכך, כאשר מרכז המחקר Pew מראה פערים פוליטיים גדלים וירידה באמון בתקשורת, כאשר רבים תופסים הטיות. חוסר אמון זה הוא מפלגתי, גבוה יותר בקרב רפובליקנים. למרות שהוא מתאם, זה עולה בקנה אחד עם מדיה חברתית, כך שהמנגנונים המונעים על ידי אלגוריתמים תומכים בהתכנסות זו. סביבות מותאמות אישית מציתות הטיות, מחלישות אמפתיה ומבצרות זיהוי שבטי, ומניעות קיטוב רגשי בצורה בלתי נשלטת.

בנייה מחדש של זהות קולקטיבית

מזהות לאומית ל"תרבות מעגל"

הרכב הזהות הקולקטיבית משתנה, ועובר מזהויות מסורתיות וגדולות המבוססות על אומה או איזור. אמצעי תקשורת המונים העבירו רגשות לאומיים משותפים. עם זאת, בעידן האינטרנט הנייד של ימינו, צצו "תרבויות מעגל" מיקרו, בלעדיות.

"תרבויות מעגל" הן קבוצות מבוססות עניין. בין אם אנימה, משחקים, סלבריטאים או בעלי אוריינטציה של סגנון חיים, אלה מספקים סולידריות וזיהוי, אך גם בלעדיות. לאלה יש את התכונה של יצירת הפרדת ערך, בכך שהם מחזקים סולידריות תוך כדי פיצול אפשרי של ערכים. התוצאה היא שהמבנה החברתי נסדק מאומה לשבטים מבודדים ועוינים.

זהות כהעדפת צרכנים

זהות קשורה יותר ויותר לצריכה. מחקר אמריקאי קובע שככל שחיי החומר משתפרים, אנשים מחפשים צרכים של הערכה עצמית, ולכן צריכה תרבותית פירושה מעורבות צרכנית. צריכה אישית, בין אם סרטים, מוזיקה, ביגוד או משחקים, היא איך אנשים שואלים ועונים, "מי אני?"

הדור הצעיר מחפש סגנונות נישה כדי להדגיש את עצמם. זהויות מטופלות, מנוהלות ומבוצעות בקפידה ממה שהיה מולד או נקבע על ידי גיאוגרפיה. זוהי עליית הצריכה "המספקת את עצמה" שבה הליבה של הפרט באה מבחירת עצמו בתחום תרבותי ולא ממה שמשותף מטבעו.

תיאוריית הזהות החברתית של העידן הדיגיטלי

תיאוריית הזהות החברתית (SIT) מאמינה שהערכה עצמית של הפרט מבוססת בקהילה, ודוחפת אותה לשמור על הקבוצה ה"פנימית" שלה בהשוואה ל"חוץ". פלטפורמות דיגיטליות מאפשרות ליצור זהות במהירות. משתמשים יוצרים בקלות קבוצות מגובשות ביותר המבוססות על תחומי עניין משותפים מינוריים.

פרדוקס ההתאמה האישית והשבטיות

אנו מתמודדים עם תרבות המדגישה התאמה אישית ואינדיבידואליזם תוך קידום שבטיות. מרדף חסר מעצורים אחר העצמי מבודד אותך בקהילות הומוגניות ביותר עם כללים ואידיאולוגיות קפדניות.

פיצול זהות אינו מקרי, אלא מתיישב עם