בשנת 2019, קארן האו, כתבת ותיקה ב-MIT Technology Review, הציעה לעורך שלה כתבה על OpenAI, חברה שפעלה אז ברובה מתחת לרדאר. מה שהתפתח היה מסע מלא בתפניות בלתי צפויות, שחשף את היקף השאיפות של OpenAI שחרגו מהמטרות הראשוניות שלה.
דרך כף רגלי דרכה במשרדי OpenAI ב-7 באוגוסט 2019. גרג ברוקמן, סמנכ"ל הטכנולוגיות של החברה באותה תקופה, קיבל את פניי בחיוך מהוסס, והודה כי מתן גישה כה נרחבת היה חסר תקדים עבורם.
בעוד OpenAI אולי הייתה בלתי ידועה יחסית לציבור הרחב, אני, ככתבת המכסה את הנוף המתפתח ללא הרף של בינה מלאכותית, עקבתי מקרוב אחר ההתפתחויות שלה.
הימים הראשונים של OpenAI והגאות המשתנה
לפני 2019, OpenAI נחשבה לסוג של חריגה בקהילת מחקר הבינה המלאכותית. הטענה הנועזת שלה להשגת בינה מלאכותית כללית (AGI) תוך עשור התקבלה בספקנות על ידי רבים. למרות מימון משמעותי, לחברה חסר כיוון ברור, ומאמצי השיווק שלה נתפסו לעתים קרובות כהגזמה במחקר שנחשב ללא מקורי על ידי מומחים אחרים. עם זאת, OpenAI משכה גם קנאה. כארגון ללא מטרות רווח, היא הצהיר שאין לו עניין במסחור, ויצר סביבה ייחודית לחקירה אינטלקטואלית חופשית ממגבלות של לחצים כלכליים.
עם זאת, בששת החודשים שקדמו לביקור שלי, סדרה של שינויים מהירים רמזה על שינוי משמעותי בכיוון של OpenAI. הסימן הראשון היה ההחלטה השנויה במחלוקת לעכב את GPT-2, למרות פרסום היכולות שלה. לאחר מכן הגיעה ההודעה על מינויו של סם אלטמן למנכ"ל, לאחר עזיבתו את Y Combinator (YC), לצד יצירת מבנה "מוגבל רווח". בין ההתפתחויות הללו, OpenAI חשפה שותפות עם מיקרוסופט, שהעניקה לענקית הטכנולוגיה עדיפות במסחור הטכנולוגיות של OpenAI ושימוש בלעדי בשירותי הענן Microsoft Azure.
כל אחת מההודעות הללו עוררה מחלוקת, ספקולציות ותשומת לב גוברת, שהגיעה מעבר לגבולות תעשיית הטכנולוגיה. ככל שהשינויים התרחשו, היה קשה לתפוס במלואה את המשמעות שלהם. עם זאת, היה ברור ש-OpenAI מתחילה להפעיל השפעה ניכרת על מחקר הבינה המלאכותית ועל האופן שבו קובעי המדיניות מבינים את הטכנולוגיה. ההחלטה לעבור לעסק חלקי למטרות רווח הייתה בטוחה שתהיה לה השלכות נרחבות על פני התעשייה והממשלה.
ערב אחד, בעידודו של העורך שלי, פניתי לג’ק קלארק, מנהל המדיניות של OpenAI, שאיתו דיברתי בעבר. הצעתי פרופיל על OpenAI, בתחושה שזה רגע מכריע בתולדות החברה. קלארק קישר אותי עם ראש התקשורת, שהרחיב הזמנה לראיין את ההנהלה ולהטמיע בתוך החברה למשך שלושה ימים.
בתוך OpenAI: משימה ושאיפה
ברוקמן ואני הצטרפו למדען הראשי איליה סוצקבר בחדר ישיבות מזכוכית. ישובים זה לצד זה, הם השלימו זה את תפקידו של זה. ברוקמן, המתכנת והמיישם, נראה להוט ליצור רושם חיובי, בעוד סוצקבר, החוקר והפילוסוף, נראה נינוח ומנותק יותר.
התחלתי בשאלה על המשימה של OpenAI: להבטיח AGI מועיל. מדוע להשקיע מיליארדים בבעיה הזו על פני אחרות?
ברוקמן, שבקיא היטב בהגנה על עמדתה של OpenAI, הצהיר כי AGI חיוני לפתרון בעיות מורכבות מעבר ליכולות אנושיות. הוא ציטט את שינויי האקלים והרפואה כדוגמאות, והמחיש את הפוטנציאל של AGI לנתח כמויות עצומות של נתונים ולהאיץ את ההתקדמות בתחומים קריטיים אלה.
הוא סיפר על החוויה של חבר עם הפרעה נדירה, והדגיש כיצד AGI יכול לייעל את האבחון והטיפול על ידי חיבור מומחים ביעילות.
שאלתי אז על ההבחנה בין AGI ו-AI.
AGI, שפעם היה מושג נישתי, צבר תאוצה, בעיקר בגלל השפעתו של OpenAI. AGI מתייחס לבינה מלאכותית היפותטית התואמת או עולה על האינטליגנציה האנושית ברוב המשימות בעלות הערך הכלכלי. בעוד החוקרים התקדמו, הוויכוחים נמשכו לגבי האפשרות לדמות תודעה אנושית.
AI, לעומת זאת, התייחס הן לטכנולוגיה הנוכחית והן ליכולות העתידיות הקרובות, והדגים יישומים בריסון שינויי האקלים ובשירותי בריאות.
סוצקבר הוסיף כי AGI יכול לפתור אתגרים גלובליים על ידי מתן אפשרות למחשבים חכמים לתקשר ולעבוד יחד ביעילות רבה יותר מבני אדם, תוך עקיפת בעיות תמריצים.
הצהרה זו הובילה אותי לתהות האם AGI נועד להחליף בני אדם. ברוקמן הגיב כי טכנולוגיה צריכה לשרת אנשים ולהבטיח "חופש כלכלי" תוך שמירה על איכות חייהם.
ברוקמן טען שתפקידה של OpenAI אינו לקבוע אם AGI ייבנה, אלא להשפיע על הנסיבות שבהן הוא נוצר. הוא הדגיש שמשימתם היא להבטיח ש-AGI יועיל לכל האנושות על ידי בנייתו והפצת היתרונות הכלכליים שלו.
השיחה שלנו נמשכה במעגלים, עם הצלחה מוגבלת בהשגת פרטים קונקרטיים. ניסיתי גישה אחרת, ושאלתי על החסרונות הפוטנציאליים של הטכנולוגיה.
ברוקמן ציטט זיופים עמוקים כיישום שלילי אפשרי.
העליתי את ההשפעה הסביבתית של הבינה המלאכותית עצמה.
סוצקבר הכיר בנושא אך טען ש-AGI יכול לנטרל את העלות הסביבתית. הוא הדגיש את הצורך במרכזי נתונים ירוקים.
"מרכזי נתונים הם הצרכן הגדול ביותר של אנרגיה, של חשמל," המשיך סוצקבר.
"זה 2 אחוזים גלובלית," הצעתי.
"האם הביטקוין הוא לא כמו אחוז אחד?" אמר ברוקמן.
סוצקבר יאמר מאוחר יותר, "אני חושב שזה די סביר שלא ייקח הרבה זמן עד שכל פני כדור הארץ יתכסו במרכזי נתונים ותחנות כוח." יהיה "צונאמי של מחשוב . . . כמעט כמו תופעת טבע."
אתגרתי אותם ש-OpenAI מהמרת שהיא תשיג בהצלחה AGI מועיל כדי לנטרל את ההתחממות הגלובלית לפני שהפעולה של עשיית זאת עלולה להחמיר אותה.
ברוקמן מיהר ואמר, "הדרך שבה אנחנו חושבים על זה היא כדלקמן: אנחנו נמצאים במדרון של התקדמות AI. זה גדול יותר מ-OpenAI, נכון? זה התחום. ואני חושב שהחברה בעצם מקבלת תועלת מזה."
"ביום שבו הכרזנו על העסקה," הוא אמר, בהתייחסו להשקעה החדשה של מיקרוסופט בסך מיליארד דולר, "שווי השוק של מיקרוסופט עלה ב-10 מיליארד דולר. אנשים מאמינים שיש החזר ROI חיובי אפילו רק על טכנולוגיה לטווח קצר."
האסטרטגיה של OpenAI הייתה אפוא פשוטה למדי, הסביר: להתעדכן בהתקדמות הזו.
מאוחר יותר באותו יום, ברוקמן חזר ואמר שאף אחד לא באמת יודע איך AGI ייראה, והוסיף שמשימתם היא להמשיך לדחוף קדימה, לחשוף את צורת הטכנולוגיה צעד אחר צעד.
מאחורי הקלעים: שקיפות ושליטה
במקור תוכנן לי לאכול צהריים עם עובדים בקפיטריה, אבל נאמר לי שאני צריך להיות מחוץ למשרד. ברוקמן יהיה המלווה שלי.
דפוס זה חזר על עצמו לאורך הביקור שלי: גישה מוגבלת לאזורים מסוימים, פגישות שלא יכולתי להשתתף בהן וחוקרים שהעיפו מבט בראש התקשורת כדי לוודא שהם לא מפרים מדיניות גילוי כלשהי. לאחר הביקור שלי, ג’ק קלארק שלח אזהרה חמורה לעובדים בסלאק לא לדבר איתי מעבר לשיחות שאושרו. גם השומר קיבל את התמונה שלי, כדי שיוכלו לחפש אותי אם אופיע ללא אישור במקום. התנהגויות אלה עמדו בניגוד למחויבות של OpenAI לשקיפות, והעלו שאלות לגבי מה הוסתר.
בארוחת הצהריים ובימים שלאחר מכן, שאלתי את ברוקמן על המניעים שלו להקמת OpenAI. הוא הצהיר שהוא נהיה אובססיבי לרעיון של שכפול אינטליגנציה אנושית בעקבות מאמר של אלן טיורינג. זה נתן לו השראה. הוא תיכנת משחק מבחן טיורינג והעלה אותו לרשת, וגרף כ-1,500 כניסות. זה גרם לו להרגיש מדהים. "פשוט הבנתי שזה סוג הדבר שרציתי לעסוק בו," הוא אמר.
הוא הצטרף ל-OpenAI כמייסד שותף בשנת 2015, וציין שהוא יעשה הכל כדי להביא את AGI לידי מימוש, גם אם זה אומר להיות שרת. כשהתחתן ארבע שנים מאוחר יותר, הוא ערך טקס אזרחי במשרדי OpenAI מול קיר פרחים בהתאמה אישית שנושא את צורת הלוגו המשושה של המעבדה. סוצקבר ניהל את הטקס.
"בעיקרון, אני רוצה לעבוד על AGI למשך שארית חיי," אמר לי ברוקמן.
שאלתי מה הניע אותו.
ברוקמן הזכיר את הסיכויים לעבוד על טכנולוגיה טרנספורמטיבית במהלך חייו. הוא האמין שהוא נמצא בעמדה ייחודית להביא לשינוי הזה. "מה שבאמת מושך אותי הם בעיות שלא ישתלטו באותו אופן אם לא אשתתף," הוא אמר.
הוא רצה להוביל את AGI והשתוקק להכרה על הישגיו. בשנת 2022 הוא הפך לנשיא OpenAI.
רווח, משימה ותחרות
במהלך שיחותינו, ברוקמן טען כי השינויים המבניים של OpenAI לא שינו את משימת הליבה שלה. מבנה הרווח המוגבל והמשקיעים החדשים שיפרו אותו. "הצלחנו להשיג את המשקיעים המתואמים למשימה האלה שמוכנים לתת עדיפות למשימה על פני תשואות. זה דבר מטורף," הוא אמר.
ל-OpenAI היו כעת המשאבים להגדיל את המודלים שלה ולהקדים את התחרות. כישלון לעשות זאת עלול לערער את המשימה שלה. זו ההנחה שהניעה את כל פעולותיה של OpenAI ואת ההשלכות מרחיקות הלכת שלהן. זה שם שעון מתקתק על כל אחת מההתקדמות במחקר של OpenAI, המבוססת לא על סולם הזמן של דיון זהיר אלא על הקצב הבלתי פוסק הנדרש כדי לחצות את קו הסיום לפני מישהו אחר. זה הצדיק את הצריכה של OpenAI של כמות בלתי נתפסת של משאבים.
ברוקמן הדגיש את החשיבות של חלוקה מחדש של היתרונות של AGI.
שאלתי על דוגמאות היסטוריות של טכנולוגיות שמצליחות להפיץ את היתרונות לציבור.
"ובכן, אני באמת חושב שזה - זה למעשה מעניין להסתכל אפילו על האינטרנט כדוגמה," הוא אמר. "יש גם בעיות, נכון?" הוא אמר כאזהרה. "בכל פעם שיש לך משהו סופר טרנספורמטיבי, זה לא יהיה קל להבין איך למקסם את החיוב, למזער את השלילי.
"אש היא דוגמה נוספת," הוא הוסיף. "יש לזה גם כמה חסרונות אמיתיים. אז אנחנו צריכים להבין איך לשמור על זה בשליטה ויש לנו סטנדרטים משותפים.
"מכוניות הן דוגמה טובה," הוא המשיך. "להרבה אנשים יש מכוניות, מועילות להרבה אנשים. יש להם גם כמה חסרונות. יש להם כמה השפעות חיצוניות שלא בהכרח טובות לעולם," הוא סיים בהיסוס.
"אני מניח שאני פשוט רואה - הדבר שאנחנו רוצים עבור AGI לא שונה בהרבה מהצדדים החיוביים של האינטרנט, הצדדים החיוביים של מכוניות, הצדדים החיוביים של אש. עם זאת, היישום שונה מאוד, כי זה סוג שונה מאוד של טכנולוגיה."
עיניו נצצו מרעיון חדש. "פשוט תסתכל על שירותים. חברות חשמל, חברות חשמל הן ישויות מרוכזות מאוד המספקות דברים בעלות נמוכה ואיכותית שמשפרים באופן משמעותיאת חיי האנשים."
נראה שברוקמן שוב לא ברור כיצד OpenAI תהפוך את עצמה לשירות.
הוא חזר לדבר האחד שהוא ידע בוודאות. OpenAI מחויבת לחלוקה מחדש של היתרונות של AGI ולהעניק לכולם חופש כלכלי. "אנחנו באמת מתכוונים לזה," הוא אמר.
"הדרך שבה אנחנו חושבים על זה היא: טכנולוגיה עד כה הייתה משהו שמרים את כל הסירות, אבל יש לה השפעה מרוכזת אמיתית," הוא אמר. "AGI יכול להיות קיצוני יותר. מה אם כל הערך ינעל במקום אחד? זה המסלול שאנחנו נמצאים בו כחברה. ומעולם לא ראינו את הקיצוניות הזו של זה. אני לא חושב שזה עולם טוב. זה לא עולם שאני רוצה לעזור לבנות."
השלכות ותגובה
בפברואר 2020 פרסמתי את הפרופיל שלי עבור MIT Technology Review, וחשפתי חוסר התאמה בין התדמית הציבורית של OpenAI לבין הפרקטיקות הפנימיות שלה. אמרתי כי "במשך הזמן, היא אפשרה לתחרות עזה וללחץ גובר להשגת מימון רב יותר לכרסם באידיאלים המכוננים שלה של שקיפות, פתיחות ושיתוף פעולה."
אילון מאסק הגיב בשלושה ציוצים:
"OpenAI צריכה להיות פתוחה יותר לדעתי"
"אין לי שליטה ורק תובנה מוגבלת מאוד לתוך OpenAI. האמון בדאריו לבטיחות אינו גבוה," הוא אמר, בהתייחסו לדאריו אמודי, מנהל המחקר.
"כל הארגונים שמפתחים AI מתקדם צריכים להיות מוסדרים, כולל טסלה"
אלטמן שלח מייל לעובדי OpenAI.
"אמנם בהחלט לא קטסטרופלי, אבל זה היה רע בבירור," הוא כתב, על מאמר MIT Technology Review.
הוא כתב שזו "ביקורת הוגנת," שהיצירה זיהתה ניתוק בין התפיסה של OpenAI למציאות שלה. הוא הציע שאמודי ומאסק ייפגשו כדי לפתור את הביקורת של מאסק. כדי למנוע ספק, העבודה של אמודי ובטיחות ה-AI היו קריטיים למשימה, הוא כתב. "אני חושב שבשלב מסוים בעתיד עלינו למצוא דרך להגן בפומבי על הצוות שלנו (אך לא לתת לעיתונות את המאבק הציבורי שהם היו רוצים כרגע)."
לאחר המאמר, OpenAI לא דיברה איתי שוב במשך שלוש שנים.