בעיית הקרונית ומורכבות הבחירות המוסריות
האקדמאים משתמשים לעתים קרובות ב’בעיית הקרונית’ כמטאפורה לדילמות אתיות הטמונות בקשיים בעולם האמיתי. הגרסה הקלאסית של בעיית הקרונית כוללת קרונית בורחת שועטת לעבר קבוצת אנשים. על ידי הסתת הקרונית, ניתן להציל את הקבוצה, אך עובר אורח חף מפשע ייפגע אנושות. איזו דרך פעולה על הנהג לנקוט? האמרה העתיקה מציעה לבחור ברע במיעוטו, אך כאשר מתמודדים עם דילמה כזו במציאות, ההחלטה לעתים רחוקות פשוטה. ב’זמן החלטה’, המחבר לורנס אליסון טוען כי מול בעיית הקרונית, יש לשאוף לקבל את ההחלטה הפחות מזיקה. כאשר מוצגות מספר אפשרויות, כל אחת מניבה תוצאות שליליות, המטרה צריכה להיות בחירת האפשרות שמסבה את הנזק המועט ביותר.
בעיית הקרונית משמשת כייצוג פשוט של האתגרים הרב-גוניים שבני האדם נתקלים בהם מדי יום. ניווט באתגרים אלו כרוך לא רק בשיקולים מוסריים, אלא גם בבחינה מעמיקה של ערכיו של האדם. הבחירות שאנו עושים משקפות את שיפוטי הערך שלנו. אנשים שונים יקבלו באופן בלתי משתנה בחירות שונות - וחשוב להכיר בכך שחוסר מעש הוא גם בחירה - מכיוון שלעתים רחוקות יש תשובות מוחלטות.
כשאנו מתפעלים מההתקדמות האקספוננציאלית של יכולות הבינה המלאכותית, ‘זמן החלטה’ מזכיר לנו שאנשים רבים מתקשים לקבל החלטות נחרצות כאשר הם מתמודדים עם עניינים מורכבים ומשמעותיים. מול סביבות דינמיות, אנשים רגילים רבים חסרים את היכולת לשקול יתרונות וחסרונות, לפעול בנחרצות ולבצע תיקוני מסלול בזמן. איך אנחנו יכולים לצפות ממכונות להצליח יותר? אין זה מרמז שמכונות אינן יכולות לעלות על היכולות האנושיות, אלא להדגיש שאם מכונות רק מחקות בחירות אנושיות, הן ייתקלו בהכרח בשפע של החלטות פגומות. תפיסה זו של ‘פגום’ או ‘נכון’ אינה מרמזת שישנן תשובות ישימות אוניברסלית להחלטות המשמעותיות של החיים, אלא אם כן אנו משתמשים בהיגיון בריא בתהליכי קבלת ההחלטות שלנו כדי להימנע ממלכודות פסיכולוגיות נפוצות.
מחסומים לקבלת החלטות יעילה
במצבים המאופיינים בתנודתיות, מידע לא שלם ואילוצי זמן, מהם החסמים העיקריים לקבלת החלטות יעילה? ‘זמן החלטה’ מזהה שלושה מכשולים עיקריים:
- פחד מאחריות: סלידה מלקיחת אחריות, וכתוצאה מכך חוסר מעש. על ידי הישארות פסיבית, נמנעים מלקיחת אחריות לכל השלכות שליליות הנובעות מבחירה מסוימת. בנוסף לפחד מאחריות, דאגה נוספת היא חרטה לאחר החלטה - להתחרט על החלטה לאחר קבלת מידע נוסף. אנשים כאלה נוטים לחזות מציאות חלופית שבה בחירות שונות עשויות להניב תוצאות חיוביות יותר.
- שיתוק בחירה: קושי בבחירה מתוך שפע אפשרויות, במיוחד כאשר בחירות כרוכות בהקרבה. במקרים כאלה, העיקרון החשוב ביותר הוא לקבל את ההחלטה הפחות מזיקה - לבחור ברע במיעוטו. עם זאת, קל יותר לומר זאת מאשר לעשות. קבלת החלטות אנושית שזורה לעתים קרובות בגורמים רגשיים, מה שמסביר את תופעת הפרעת דחק פוסט טראומטית (PTSD) בקרב ותיקים. קונפליקט פסיכולוגי הוא החד ביותר כאשר ערכים סותרים מתנגשים, כפי שמודגם בדילמה הקלאסית של בחירה בין נאמנות ליראת אב. התרחיש האידיאלי הוא ליישר את פעולותיו של האדם עם ערכים נחשבים ביותר, אך לעתים קרובות, אנשים נאלצים לקבל החלטות על סמך שיפוטי ערך חיצוניים, וכתוצאה מכך מצוקה פסיכולוגית חמורה.
- ביצוע מושהה: עיכוב מוגזם בין החלטה לפעולה. צנחנים יעידו שרגע ההיסוס הגדול ביותר מתרחש כאשר אדם עומד לקפוץ אך עדיין יש לו אפשרות לסגת. תופעה זו נפוצה בהרבה החלטות משנות חיים. אישה הלכודה בנישואים לא מאושרים עשויה לשקול גירושים לאחר שילדיה גדלו ועזבו את הבית. היא עשויה לדון ללא סוף במידותיו ובפגמיו של בעלה עם סודותיה, הדומה לתקליט שבור, ושוב ושוב לדון מבלי לנקוט פעולה. ההיפך מכך הוא הפחד להחמיץ (FOMO), שמוביל להחלטות נמהרות המונעות מחשש להישאר מאחור, ולעתים קרובות מביא לכישלון.
מסגרת STAR לקבלת החלטות אסטרטגית
אז מה אפשר לעשות כדי להתגבר על המכשולים האלה? ‘זמן החלטה’ מציע את מסגרת STAR, ראשי תיבות המקיפות:
- תרחיש (Scenario): טיפוח מודעות מצבית כרוך תחילה בזיהוי מה התרחש, אחר כך הבנת מדוע זה קרה, ולבסוף, חיזוי מה סביר שיקרה בהמשך. מדוע כבאים ותיקים מחזיקים בהבנה אינטואיטיבית של מצבי שריפה? כי הם נתקלו בתרחישים רבים ויכולים להסתמך במהירות על הניסיון שלהם כדי לקבל החלטות נכונות ולנקוט פעולה מיידית. מלקולם גלדוול חוקר דוגמאות דומות ב’מצמוץ: כוחה של חשיבה בלי לחשוב’.
- תזמון (Timing): מרכיב ה’תזמון’ מתייחס לחשיבות הפעולה במסגרת זמן סבירה. האמרה ששיקול מוביל לחוסר מעש חלה כאן. אנלוגיה שימושית היא הפוקסטרוט, עם קצב ה’לאט, לאט, מהר, מהר’ שלו. בשלבים הראשונים של קבלת ההחלטות, מומלץ לנקוט משנה זהירות, להימנע מדחף ולהתנגד להסתמכות אך ורק על אינטואיציה. במקום זאת, שאפו לרכוש מידע רב. עם זאת, בשלבים המאוחרים יותר של הביצוע, פעולה מהירה היא בעלת חשיבות עליונה, שכן מידע מושלם אינו ניתן להשגה, והיתרונות השוליים של איסוף מידע ממושך פוחתים.
- הנחות (Assumptions): ניסוח ברור של הנחות הוא חיוני. לעתים קרובות, אנשים נוטים לתפוס באופן סלקטיבי מידע המתיישר עם תפיסותיהם המוקדמות, תוך התעלמות מראיות סותרות ואפשרויות חלופיות. מתקפת חמאס על ישראל ב-2023 חשפה כשל בהנחות אסטרטגיות. מנהיגים ישראלים, מראש הממשלה נתניהו ועד גורמי צבא ומודיעין, לא צפו את המתקפה. זה לא נבע ממחסור באותות אזהרה מוקדמים, אלא מחוסר התחשבות מספקת באפשרות של אירוע כזה. מה שאנו בוחרים להאמין בו לרוב פחות חשוב ממה שאנו בוחרים לדמיין.
- עדכון (Revision): היכולת להסתגל ולהתאים את עצמך ללא הרף היא חיונית. במקרים מסוימים, נדרשים חוסן והתמדה בלתי מעורערת - פחד מכישלון לא צריך להרתיע אדם מלנסות מאמצים משמעותיים. במקרים אחרים, נדרשים התאמות בזמן והיכולת לקצץ הפסדים כדי למנוע מעלויות שקועות להשפיע על בחירות עוקבות. עם זאת, האתגר טמון בהבחנה כיצד לקבל שיפוטים כאלה במצבים מעורפלים. מלכודות נפוצות כוללות חוסר התמדה, המוביל להחמצת הזדמנויות, או התמדה מוגזמת, וכתוצאה מכך בזבוז משאבים.
שילוב AI בתהליך קבלת ההחלטות
לאחר שבחנו את מסגרת STAR, חשוב כעת לשקול את ההשלכות שלה על AI וכיצד מכונות יכולות לשפר את יכולות קבלת ההחלטות שלנו. זה מחזיר אותנו לשאלה המקורית: האם אנחנו יכולים להפקיד את כל ההחלטות בידי AGI?
בשנים הקרובות, AI תגדיל בהדרגה את המודולריזציה של העבודה. משימות רבות יבוצעו במשותף על ידי בני אדם ומכונות, כאשר כל אחד מהם ממנף את החוזקות שלו בארבעה תחומים עיקריים:
- מורכבות (Complexity): ככל שהמורכבות גבוהה יותר, כך גדולה יותר יכולת ההסתגלות האנושית. מורכבות באה לידי ביטוי בשני ממדים: אי ודאות (מידע לא שלם) והיעדר בחירות ברורות או אופטימליות. אנשים מנוסים יכולים לקבל החלטות נועזות גם כאשר המידע מועט. לבני אדם יש את האוטונומיה לשקול פשרות ולקבל שיפוטי ערך.
- תדירות (Frequency): ככל שההתרחשות של משימות דומות תדירה יותר, כך המכונות מצוידות יותר להתמודד איתן. אפילו בתרחישי שיגור חירום, מכונות יכולות ללמוד ממגיבים מנוסים ולקבל החלטות נכונות, במיוחד כאשר מתמודדים עם אירועים בתדירות גבוהה כמו תאונות דרכים.
- תיאום (Coordination): משימות בעולם האמיתי הן לעתים רחוקות מבודדות. הן כרוכות בשיתוף פעולה ודורשות תקשורת נרחבת. כל מרכיב במסגרת STAR מסתמך על תקשורת. השאלה היא, האם מכונות יכולות לשפר את יעילות ויעילות התקשורת? בעוד שלתקשורת אנושית יש את הפגמים שלה, האינטראקציות הלא פורמליות והלא מתוכננות יכולות להיות מכריעות. האם מכונות יכולות להבין את הניואנסים האלה?
- עלות הכישלון (Cost of Failure): מהי עלות הכישלון, במיוחד כאשר AI עושה טעות? בארגונים, אחריות היא חיונית. אפילו כאשר מקדמים יישומי AI, מקבלי ההחלטות חייבים לשקול את העלות הפוטנציאלית של כישלון.
כיצד AI יכולה לשפר את קבלת ההחלטות
AI יכולה לסייע בשלוש דרכים עיקריות:
- שבירת צווארי בקבוק קוגניטיביים: AI מצטיינת בעיבוד כמויות עצומות של נתונים, ומקלה על חששות לגבי עומס קוגניטיבי. AI יכולה לסייע בריקוד ה’פוקסטרוט’, למנוע מאינטואיציה והטיות להגביל את ההבנה שלנו לגבי הנוף הכללי.
- רתמת מודיעין קולקטיבי: AI יכולה לצבור שיפוטים ממקורות מגוונים, לספק תמיכה בהחלטות למתחילים.
- צמצום חולשות פסיכולוגיות: AI יכולה לספק הנחיות פעולה ולסייע בהגדרת כללים ותהליכים ברורים, ולהקל על חלק מהנטל הפסיכולוגי. במצבים שבהם נדרשת פעולה נחרצת, AI יכולה לקחת את המושכות.
מכונות עדיין מתקשות עם מצבים מורכבים חסרי תשובות ובחירות מוחלטות המבוססות על אוטונומיה ושיפוטי ערך. הן גם מתקשות עם ניואנסים ופשרות. בסופו של דבר, ההחלטה הסופית נשארת בידי בני אדם. אנו יכולים ללמוד לקבל החלטות טובות יותר, כאשר מכונות משמשות כבנות ברית הכרחיות.