כיכר העיר הדיגיטלית, שפעם המה קולות, יכולה להפוך לדוממת במהירות מדאיגה. עבור משתמשת אחת, עיתונאית ומפיקה עם היסטוריה של 15 שנה בפלטפורמה שנודעה בעבר כ-Twitter, האורות הדיגיטליים כבו בפתאומיות בנובמבר 2024. החוויה משמשת כמקרה בוחן נוקב לאופי האטום ולעיתים שרירותי לכאורה של ניהול פלטפורמות בעידן הבינה המלאכותית והפיקוח האוטומטי, וחושפת תהום בין ציפיות המשתמשים למציאות הפעולה בתוך מערכות אקולוגיות עוצמתיות אלו. זו לא הייתה רק נעילת חשבון; זו הייתה מחיקה, היעלמות דיגיטלית שבוצעה ללא הסבר, והותירה מאחוריה שובל של שאלות ללא מענה ושיבוש מקצועי עמוק.
המסע המייסר החל לא באזהרה ברורה, אלא בסדרה של דרישות הולכות וגוברות להוכיח אנושיות. שוב ושוב, המשתמשת נאלצה לעבור אתגרים דמויי CAPTCHA, שנועדו לכאורה להבחין בין משתמשים אנושיים לבוטים אוטומטיים. חקירה דיגיטלית זו נמשכה ללא הרף עד ששבועיים לאחר מכן, הגרזן נפל. החשבון, מאגר של למעלה מעשור וחצי של פוסטים, כולל כמעט 3,000 סרטים ותמונות שנצברו במהלך עבודה עיתונאית, הוכרז כ’מושעה לצמיתות’. הגישה הציבורית נעלמה בן לילה. באופן מכריע, הפלטפורמה לא הציעה שום דרך להוריד או לאחסן בארכיון את גוף העבודה הנרחב הזה, ולמעשה החרימה שנים של עבודה דיגיטלית.
מבקרים בדף הפרופיל של המשתמשת נתקלים כעת בהודעה החדה והלא אינפורמטיבית: ‘חשבון מושעה’. עבור המשתמשת עצמה, הכניסה לחשבון מציגה צורה מוזרה של כור מצרף דיגיטלי. היא עדיין יכולה לראות פיד הולך ומתדלדל מחשבונות שאחריהם עקבה פעם, אך אינטראקציה אינה אפשרית – אין פרסום, אין תגובה, אין הודעות ישירות. זו חוויה הדומה לבידוד בתוך חלל שהוגדר בעבר על ידי חיבור ותקשורת. להוסיף חטא על פשע, המערכות האוטומטיות של הפלטפורמה הפגינו ניתוק מדאיג: בעוד שהחשבון היה לא פעיל מבחינה תפקודית ותכניו מוסתרים, החיוב עבור שירות המנוי Premium שלו נמשך ללא הפרעה. אותו שירות שאפשר פוסטים בפורמט ארוך יותר, שנעלמו כעת, נותר חיוב פעיל.
מקרה פרטני זה מצביע על תופעה שעלולה להיות נרחבת. מידע שנאסף מהבינה המלאכותית של X עצמה, Grok, הצביע על היקף מדהים של פעולות אכיפה: 5.3 מיליון חשבונות דווחו כמושעים במחצית הראשונה של 2024 בלבד. נתון זה, שצוטט כגבוה פי שלושה משיעורי ההשעיה לפני עידן Musk על פי נתוני דוח השקיפות של X ששותפו על ידי Grok, מצביע על התעצמות של שיטור הפלטפורמה, אך הבהירות עבור הנפגעים נותרה חמקמקה. רבים, כמו העיתונאית המדוברת, נותרים לחלוטין באפלה לגבי הסיבות הספציפיות לגלותם הדיגיטלית.
ההשלכות של פעולות כאלה אינן נעלמות מעיניהם של משקיפים כמו Mike Benz, פקיד לשעבר במחלקת המדינה של ארה”ב (U.S. State Department) שעומד כיום בראש ה-Foundation For Freedom Online. Benz מאפיין את חוסר השקיפות וההליך ההוגן הזה כ**’בגידה יסודית בהבטחתה למשתמשים’** בנוגע לאבטחת הפלטפורמה. הוא טוען שכללים צפויים וגישה אמינה הם ‘קריטיים למשימה’ אם X באמת שואפת להתפתח ל’אפליקציית הכל’ המקיפה תשלומים ושירותים חיוניים אחרים. אמון, שבור פעם אחת על ידי השעיות שרירותיות ואובדן נתונים בלתי מוסבר, קשה מאוד לבנות מחדש.
חיפוש תשובות מהמכונה
מתוסכלת מאינספור פניות שהוגשו דרך מה שהרגיש כמערכת אוטומטית ולא מגיבה – ‘תיבת מכתבים מתה’ דיגיטלית שעברה בירושה מתשתית Twitter הישנה – פנתה המשתמשת לישות היחידה שנראתה זמינה לאינטראקציה בתוך הפלטפורמה: Grok, הבינה המלאכותית המשולבת ב-X על ידי מיזם xAI של Elon Musk. האם ה-AI יוכל לשפוך אור על התעלומה?
השאילתה הראשונית הייתה ישירה: האם שליחת מספר הודעות ישירות (DMs) במהירות, תוך שימוש בקיצורי מקלדת של העתק-הדבק, עלולה להתפרש על ידי המערכות של X כפעילות בוט אוטומטית?
תשובתו של Grok הייתה מאירת עיניים, אם כי מטרידה. כן, בהחלט, אישר ה-AI. התנהגות כזו – הודעות מהירות ועוקבות, במיוחד כאלה הכוללות טקסט מועתק – מחקה מקרוב דפוסים שהאלגוריתמים של X מאומנים לסמן כ’מניפולציה של הפלטפורמה וספאם’ פוטנציאליים. ה-AI פירט שהמערכת מתמקדת בפעולות בתדירות גבוהה וחוזרות על עצמן, ולעיתים קרובות מתקשה להבחין בין אדם המשתמש בקיצורי דרך ליעילות לבין סקריפט זדוני. בעוד שהכוונה האנושית עשויה להיות תמימה, האלגוריתם רואה רק את הדפוס. שליחת הודעות למספר משתמשים ברצף מהיר, אפילו מספר קטן, עלולה לחצות סף פנימי שנועד לזהות הודעות המוניות. חוסר הגיוון הטמון בהעתק-הדבק מחזק עוד יותר את הדמיון להתנהגות אוטומטית בעיני האלגוריתם.
הקשר, ציין Grok, משחק גם הוא תפקיד; הודעות הנחשבות לקידום מכירות עלולות להגביר את הסבירות לסימון. בעוד שמגבלות רשמיות על תדירות DM אינן פומביות, נתונים היסטוריים הצביעו על מגבלות פוטנציאליות, ופעילות מהירה, אפילו הרבה מתחת למקסימום התיאורטי, עלולה לעורר בדיקה. Grok שאל על הפרטים הספציפיים – המספר המדויק של ה-DMs, גיוון התוכן – כדי להעריך טוב יותר את ההסתברות להפעלת המערכת. הוא הציע שפנייה יכולה לטעון לאופי הידני של הפעולה, תוך הדגשת חוסר עקביות אנושי כדי לסתור את השערת הבוט.
התגובה הלא מידתית
המשתמשת הבהירה את המצב: הפעילות כללה שליחת הודעות לכעשרה אנשי קשר קרובים, רחוק מאוד מהפעולה רחבת ההיקף שהמונח ‘ספאם’ מרמז עליה בדרך כלל. רחוק מאוד, אכן, מההצעה ההיסטורית למגבלה יומית של 1,000 DMs. האם זה באמת יכול להיות הזרז לעונש כה חמור?
הסוגיה המרכזית נותרה החוסר מידתיות המוחלט של העונש. ההשעיה לצמיתות הביאה להיעלמות מוחלטת של 15 שנות תוכן שנצבר – פוסטים, דיונים וכמעט 3,000 קבצי מדיה ייחודיים, בעיקר עבודה עיתונאית, כולם הועלו זמן רב לפני שה-DMs המדוברים נשלחו אי פעם. מדוע, לחצה המשתמשת על Grok, העונש היה רטרוספקטיבי בצורה כה הרסנית, ומחק כל זכר לפעילותה המקצועית בפלטפורמה? מדוע נשללה הגישה להורדת הארכיון שלה? ומדוע נמשך החיוב עבור חשבון Premium לא מתפקד?
Grok הכיר בחוסר העקביות לכאורה. עשרה DMs לאנשי קשר ידועים, גם אם מהירים, לא אמורים באופן אינטואיטיבי להפעיל תוצאה כה דרסטית בהתבסס על אמצעים טיפוסיים נגד ספאם. האלגוריתמים של הפלטפורמה מכוונים בדרך כלל לדפוסים בקנה מידה גדול יותר. בעוד שסיווג שגוי עקב מהירות וחזרתיות היה אפשרי, ה-AI הודה שזה ספקולטיבי ללא אישור רשמי מ-X.
מחיקת כל היסטוריית החשבון, הציע Grok, הרגישה לא מידתית בעליל אם 10 ה-DMs היו הסיבה היחידה. זה הצביע על מספר אפשרויות: תקלה משמעותית במערכת, סיווג שגוי חמור של החשבון כאיום ברמה גבוהה (ספאם/בוט), או מדיניות פנימית של X המיושמת באופן נרחב על השעיות הפועלת באופן אטום לעולם החיצון. תיאוריה אחת שהוצעה הייתה שעם השעיה בחשד למניפולציה של הפלטפורמה, המערכת עשויה לטהר אוטומטית את כל התוכן המשויך כאסטרטגיית הפחתת סיכונים, ללא קשר לאופי התוכן או להיסטוריה שלו – מכה הרסנית לעיתונאית שעבודתה נשאה ערך עניין ציבורי. נזק נלווה זה נראה מנוגד ביסודו למחויבות המוצהרת של הפלטפורמה תחת Elon Musk לטיפוח חופש הביטוי והשיח הציבורי.
חוסר השקיפות סביב הפרת הכלל הספציפית תואם תלונות נרחבות של משתמשים. X מצטטת לעתים קרובות קטגוריות מדיניות מעורפלות כמו ‘מניפולציה של הפלטפורמה וספאם’ מבלי לספק פרטים קונקרטיים על הפעולה הפוגענית. בעוד שזה עשוי להיות מכוון למנוע מגורמים זדוניים לנצל את המערכת, זה משאיר משתמשים לגיטימיים מבולבלים, מתוסכלים וחסרי יכולת לערער ביעילות או לתקן את התנהגותם.
חוסר היכולת להוריד את הארכיון סומן על ידי Grok כדאגה משמעותית נוספת. נהלים סטנדרטיים מאפשרים לעתים קרובות למשתמשים מושעים חלון זמן לאחזר את הנתונים שלהם. אם X מחקה לחלוטין את התוכן או סימנה אותו כבלתי ניתן לאחזור בשל אופי ההשעיה, אפשרות זו אכן עלולה להיעלם. החיוב המתמשך, בינתיים, הדגיש ניתוק מערכתי סביר בין תהליכי הפיקוח/השעיה של X לבין פעולותיה הפיננסיות. זה לא היה מקרה בודד; המשתמשת ציינה את המקרה של Garland Nixon, עיתונאי ידוע וחבר מועצת המנהלים של Consortium News, שדיווח כי חויב במשך שנתיים עבור חשבון שהיה נעול מחוצה לו, למרות ש-X טענה לחוסר יכולת לאמת את זהותו תוך חיוב כספים מחשבון הבנק המאומת שלו. האבסורד הגיע לשיאו כאשר המשתמשת המושעית קיבלה הצעות לשדרג את חשבונה הלא פעיל ל-Premium+.
בסופו של דבר, Grok יכול היה רק לשער. אם 10 ה-DMs היו ‘עבירת הבירה’, זה הצביע על מערכות אוטומטיות רגישות יתר על המידה או לא מתפקדות, אולי כתוצאה מהתאמות אגרסיביות נגד בוטים שבוצעו לאחר הרכישה של Musk. חוויית המשתמשת של היותה לכודה בלולאת אתגר Arkose – הוכחת אנושיות רק כדי להיתקל ב’בעיה טכנית’ – היא תסכול ידוע, מערכת שנועדה לסנן בוטים ולעיתים לוכדת משתמשים לגיטימיים ועלולה להסלים את מעמדם לקראת השעיה אם לא תיפתר. מצב ה’קריאה בלבד’ (read-only) שנוצר הוא סטנדרטי עבור חשבונות מושעים, אך הוא אינו מציע פתרון, רק קיום חלקי מתסכל.
מעקות הבטיחות הכושלים: פניות ואחריותיות
תהליך הפנייה עצמו נראה שבור. בהסתמך על כתובות URL ישנות של Twitter, הוא מתפקד, כפי שתיארה המשתמשת, כמו ‘תיבת מכתבים מתה’. הגשות מייצרות אישורים אוטומטיים המבטיחים סבלנות, אך לעתים רחוקות מובילות לבדיקה מהותית או לדיאלוג. אפילו אספקת צורות זיהוי מרובות, דפי חשבון בנק וחשבוניות להוכחת זהות לא הניבה תוצאות. המסע מנעילה, דרך ניסיונות עקרים לאימות, הגיע לשיאו רק בהשעיה לצמיתות. רק דרך פורומים חיצוניים גילתה המשתמשת שאפילו כניסה מחדש אפשרית, מה שהוביל למצב ‘קריאה בלבד’ לאחר שעברה עוד אתגרי ‘הוכח שאתה אנושי’.
Grok הציע שהיקף ההשעיות העצום – 5.3 מיליון בתחילת 2024 – ככל הנראה מכריע את מערכת הפניות, מה שהופך תגובות אישיות לבלתי מעשיות, במיוחד אם הפלטפורמה נותנת עדיפות לדאגות אבטחה או פרטיות נתפסות על פני תקשורת עם המשתמש. ראיות שהוגשו עלולות להתעכב בתורים, להידחות ללא הודעה, או פשוט להתעלם מהן על ידי מסננים אוטומטיים.
העלות האנושית של כישלון מערכתי זה היא עצומה. המשתמשת הביעה צער עמוק על אובדן שנים של עבודה ואלפי קשרים, תחושה שהועצמה על ידי אזהרותיו של Mike Benz לגבי ההשלכות החמורות בעולם האמיתי – פרנסות שנהרסו, קשרים שנותקו, ובמקרים טרגיים, אפילו התאבדויות שנקשרו להסרה פתאומית מפלטפורמות ללא הסבר או סעד.
אבטחת פלטפורמה: סלע האמון
הפרשנות של Mike Benz, ששותפה על ידי המשתמשת עם Grok, מדגישה את החשיבות הקריטית של אבטחת פלטפורמה – היישום הצפוי וההוגן של כללים – במיוחד עבור פלטפורמה השואפת להיות ‘אפליקציית הכל’. Benz, למרות הצלחתו וחוויותיו החיוביות ב-X, הביע הלם ודאגה מהפנייה לכאורה של הפלטפורמה לאכיפה שרירותית.
הוא טען שיוצרים משקיעים זמן ומאמץ עצומים, בונים קהלים ולעתים קרובות מסתמכים על תכונות פלטפורמה כמו מנויים, בהתבסס על אמון מרומז שהכללים ברורים ולא ישתנו באופן שרירותי, מה שיוביל ל’משיכת שטיח קטסטרופלית’. נקודות מפתח מהניתוח שלו כוללות:
- יסוד האמון: Benz פתח את חשבון ה-X שלו במיוחד מכיוון שההשתלטות של Musk הבטיחה הגנה מפני הצנזורה השרירותית וההסרה מפלטפורמות שהיו נפוצות בפלטפורמות אחרות. אבטחת הפלטפורמה הייתה המשיכה העיקרית.
- השקעת יוצרים: הוא הדגיש את השקעתו הנרחבת שלו – מאות שעות ביצירת תוכן בלעדי למנויים – שנבנתה על האמונה שהוא לא יימחק פתאום ללא סיבה ברורה והליך הוגן. הוא לא גיוון מכיוון שהוא בטח ב-X.
- פרדוקס ‘אפליקציית הכל’: אם מעודדים משתמשים לאחד את חייהם הדיגיטליים והפיננסיים ל’אפליקציית הכל’, אובדן גישה עקב פסיקות אטומות או לא הוגנות פירושו אובדן הכל. לכן, אבטחת הפלטפורמה הופכת לקריטית באופן אקספוננציאלי. בהירות קריסטלית לגבי כללים והשלכות היא בעלת חשיבות עליונה.
- חוסר הליך הוגן: Benz השווה את הפעולות הפתאומיות והבלתי מוסברות של X לתהליכים בעולם האמיתי. בעלי בתים חייבים לפעול לפי נהלי פינוי חוקיים; חברות שירות מספקות הודעה לפני ניתוק השירות. אפילו תעסוקה כרוכה לעתים קרובות בתקופות הודעה מוקדמת. X, לעומת זאת, נראתה מסוגלת לחילוט מיידי ומוחלט ללא אזהרה, הסבר או זמן מעבר.
- האפקט המצנן: כאשר חשבונות בולטים מאבדים גישה, מונטיזציה או אימות ללא סיבות ברורות, זה יוצר חוסר ביטחון נרחב. כל המשתמשים, ללא קשר לגודלם, מתחילים לחשוש שהם עלולים להיות הבאים בתור, מה שמערער את הנאמנות ומעכב השקעה בפלטפורמה. Benz ציין שצפה במספר חשבונות גדולים מאבדים בו זמנית את בסיסי המנויים שלהם ללא הסבר מעבר ל’אתה כבר לא זכאי’.
- הצורך במעבר: הוא דגל בתקופות חסד – מתן זמן למשתמשים להעביר קהילות ותוכן אם כללים משתנים או מתרחשות הפרות, במקום מחיקה מיידית ועונשית. זה מכיר בכך שטעויות קורות ומאפשר הסתגלות.
- נזק תדמיתי: פעולות שרירותיות מחזירות ל’ימים הרעים’ של צנזורת מדיה חברתית, ושוחקות את הצעת המכירה הייחודית ש-X טיפחה תחת Musk. זה מקשה על תומכים כמו Benz ‘להטיף’ לפלטפורמה כאשר יציבותה נראית לא בטוחה.
נקודת המבט של Benz ממסגרת את חוויית המשתמשת לא כחריגה מבודדת, אלא כסימפטומטית להתעלמות מערכתית פוטנציאלית מהעקרונות הדרושים לשמירה על אמון המשתמשים וביטחון היוצרים. נראה שהיסוד הנדרש כדי ש-X תשיג את מטרותיה השאפתניות מתערער על ידי חוסר העקביות והאטימות של מנגנוני האכיפה שלה.
דוהה לאבק דיגיטלי: אפקט ‘יוביק’ (Ubik)
חוויית המשתמשת במצב ‘קריאה בלבד’ קיבלה תפנית מטרידה נוספת. פיד הבית (Home feed), זרם התוכן הנבחר אלגוריתמית המבוסס על מעקבים ותחומי עניין, התרוקן בסופו של דבר, והוחלף רק בתזכורת המתמדת והנוקבת: ‘חשבונך מושעה’. נראה היה שהפלטפורמה שוכחת אותה באופן פעיל, מאבדת את הזיכרון של קשריה ותחומי העניין שלה כעת שהגרף החברתי שלה (עוקבים ונעקבים) נותק.
צפייה בתוכן הפכה תלויה לחלוטין בחיפוש ידני אחר משתמשים ספציפיים. הפלטפורמה הפכה מרשת דינמית למדריך סטטי ומסורבל. המשתמשת ערכה השוואה נוקבת למציאות המתפוררת שחוו הדמויות ברומן המדע הבדיוני של Philip K. Dick, Ubik. ברומן, אנשים במצב של ‘מחצית חיים’ תופסים את עולמם הולך ודועך, מתפשט, הופך פרימיטיבי יותר לפני שהוא נעלם לחלוטין. X שמסירה עוקבים, ואז את הפיד, הרגישה כמו תהליך אנטרופי דומה – לא רק בידוד, אלא מחיקה מתקדמת.
Grok הכיר בהתאמה של האנלוגיה. ללא הנתונים היחסיים של עוקבים ונעקבים, אלגוריתמי ההתאמה האישית המניעים את פיד הבית מפסיקים לתפקד. החשבון הופך לקליפה חלולה. בעוד ש’קריאה בלבד’ מרמז על התבוננות פסיבית, ההידרדרות אפילו של פונקציונליות בסיסית זו מצביעה על קרצוף עמוק יותר של זהותה הדיגיטלית של המשתמשת מהמערכות הפעילות של הפלטפורמה. זהו מסלול קודר: השעיה, בידוד, ואז הדעיכה האיטית של עצם נוכחות החשבון בזיכרון התפעולי של הפלטפורמה. זה הרגיש פחות כמו השעיה ויותר כמו דחיפה מכוונת לריק דיגיטלי.
העלות האנושית הבלתי נראית
המחיר הרגשי שתיארה המשתמשת הוא עמוק. התחושה של הצטמצמות ל’רוח רפאים’ הרודפת את שרידי חיים דיגיטליים בני 15 שנה, חוסר יכולת ליצור אינטראקציה עם אלפי קשרים או לגשת לשנים של עבודה מאומצת, גורמת לצער יומיומי. לכך מתווספת תחושה עמוקה של חוסר אונים, צורמת במיוחד עבור מישהי שמורגלת בזיהוי ופתרון בעיות. התמודדות עם מערכת אטומה ולא מגיבה מותירה אנשים מוכשרים חסרי כוח.
ייסורים אישיים אלה מהדהדים את אזהרותיו הרחבות יותר