בכיר לשעבר ב-OpenAI תוקף את מדיניות החברה

ביקורת פומבית ברשתות החברתיות

ביום רביעי, חוקר מדיניות בכיר לשעבר ב-OpenAI, מיילס ברונדג’, מתח ביקורת פומבית על החברה. הוא האשים את OpenAI ב”שכתוב ההיסטוריה” של גישתה לפריסת מערכות בינה מלאכותית שעלולות להיות מסוכנות. ברונדג’, שמילא בעבר תפקיד משמעותי בעיצוב מסגרת המדיניות של OpenAI, הביע את חששותיו באמצעות המדיה החברתית, ועורר ויכוח על עמדתה המתפתחת של החברה בנושא בטיחות בינה מלאכותית.

הפילוסופיה של OpenAI בנושא 'פריסה איטרטיבית'

הביקורת של ברונדג’ מגיעה בעקבות מסמך שפרסמה OpenAI מוקדם יותר השבוע. מסמך זה פירט את הפילוסופיה הנוכחית של החברה בנוגע לבטיחות והתאמה של בינה מלאכותית. התאמה, בהקשר זה, מתייחסת לתהליך של תכנון מערכות בינה מלאכותית המתנהגות בדרכים צפויות, רצויות וניתנות להסבר.

במסמך, OpenAI אפיינה את הפיתוח של בינה מלאכותית כללית (AGI) כ”נתיב מתמשך”. AGI מוגדרת באופן רחב כמערכות בינה מלאכותית המסוגלות לבצע כל משימה אינטלקטואלית שאדם יכול לבצע. OpenAI הצהירה כי נתיב מתמשך זה מחייב “פריסה איטרטיבית ולמידה” מטכנולוגיות בינה מלאכותית. זה מצביע על גישה הדרגתית, צעד אחר צעד, שבה לקחים שנלמדו מפריסות קודמות מזינים את אלה שיבואו אחריהן.

מחלוקת GPT-2: נקודת מחלוקת

ברונדג’, לעומת זאת, מאתגר את הנרטיב של OpenAI, במיוחד בנוגע לשחרור GPT-2. הוא טוען ש-GPT-2, בעת שחרורו, אכן הצדיק זהירות משמעותית. טענה זו סותרת ישירות את הרמיזה שאסטרטגיית הפריסה האיטרטיבית הנוכחית מייצגת סטייה מנהגים קודמים.

ברונדג’ טוען שהגישה הזהירה של OpenAI לשחרור GPT-2 הייתה, למעשה, עקבית לחלוטין עם אסטרטגיית הפריסה האיטרטיבית שלה כיום. הוא טוען שהמסגור הנוכחי של החברה להיסטוריה שלה מבקש להמעיט בערך הסיכונים הכרוכים במודלים קודמים.

חששות לגבי העברת נטל ההוכחה

מרכיב מרכזי בביקורת של ברונדג’ מתמקד במה שהוא תופס כשינוי בנטל ההוכחה בנוגע לחששות בטיחות בינה מלאכותית. הוא מביע חשש שמסמך OpenAI נועד לבסס מסגרת שבה חששות לגבי סיכונים פוטנציאליים מתויגים כ”מבהילים”.

לדברי ברונדג’, מסגרת זו תדרוש “ראיות מכריעות לסכנות מיידיות” כדי להצדיק כל פעולה שננקטת כדי להפחית את הסיכונים הללו. הוא טוען שמנטליות כזו היא “מסוכנת מאוד” כאשר מתמודדים עם מערכות בינה מלאכותית מתקדמות, שבהן להשלכות בלתי צפויות עשויות להיות השלכות משמעותיות.

האשמות בתעדוף 'מוצרים נוצצים'

OpenAI התמודדה בעבר עם האשמות על תעדוף הפיתוח והשחרור של “מוצרים נוצצים” על פני שיקולי בטיחות. המבקרים טענו כי החברה, לעיתים, מיהרה לשחרר מוצרים כדי להשיג יתרון תחרותי בנוף הבינה המלאכותית המתפתח במהירות.

פירוק צוות המוכנות ל-AGI ועזיבות

מה שמזין עוד יותר את החששות לגבי המחויבות של OpenAI לבטיחות היה פירוק צוות המוכנות שלה ל-AGI בשנה שעברה. צוות זה הוטל במיוחד על הערכה והכנה להשפעות החברתיות הפוטנציאליות של AGI.

בנוסף, מספר חוקרי בטיחות ומדיניות בינה מלאכותית עזבו את OpenAI, שרבים מהם הצטרפו לאחר מכן לחברות מתחרות. עזיבות אלו העלו שאלות לגבי התרבות הפנימית והסדרי העדיפויות בתוך OpenAI.

לחצים תחרותיים גוברים

הנוף התחרותי בתחום הבינה המלאכותית התעצם משמעותית בתקופה האחרונה. לדוגמה, מעבדת הבינה המלאכותית הסינית DeepSeek זכתה לתשומת לב עולמית עם מודל R1 הזמין שלה באופן פתוח. מודל זה הפגין ביצועים דומים למודל ה”היגיון” o1 של OpenAI במספר מדדי מפתח.

מנכ”ל OpenAI, סם אלטמן, הודה בפומבי שההתקדמות של DeepSeek הפחיתה את ההובלה הטכנולוגית של OpenAI. אלטמן גם ציין ש-OpenAI תאיץ שחרורי מוצרים מסוימים כדי לשפר את מעמדה התחרותי.

ההימור הפיננסי

הלחצים הפיננסיים על OpenAI הם משמעותיים. החברה פועלת כיום בהפסד משמעותי, עם גירעונות שנתיים של מיליארדי דולרים. התחזיות מצביעות על כך שהפסדים אלה עלולים לשלש את עצמם ל-14 מיליארד דולר עד 2026.

מחזור שחרור מוצרים מהיר יותר עשוי לשפר את התחזית הפיננסית של OpenAI בטווח הקצר. עם זאת, מומחים כמו ברונדג’ מטילים ספק אם הקצב המואץ הזה בא על חשבון שיקולי בטיחות לטווח ארוך. הפשרה בין חדשנות מהירה לפיתוח אחראי נותרה נקודת מחלוקת מרכזית.

צלילה עמוקה יותר לתוך הדיון על פריסה איטרטיבית

הרעיון של “פריסה איטרטיבית” הוא מרכזי בדיון הנוכחי סביב בטיחות בינה מלאכותית. התומכים טוענים שהוא מאפשר בדיקות ולמידה בעולם האמיתי, ומאפשר למפתחים לזהות ולטפל בבעיות פוטנציאליות כשהן מתעוררות. גישה זו מנוגדת לאסטרטגיה זהירה יותר של בדיקות וניתוח נרחבים לפני הפריסה.

עם זאת, מבקרי הפריסה האיטרטיבית מעלים חששות לגבי הפוטנציאל להשלכות בלתי צפויות. הם טוענים ששחרור מערכות בינה מלאכותית לטבע לפני שהן מובנות במלואן עלול להוביל לתוצאות לא מכוונות ועלולות להזיק. האתגר טמון במציאת איזון בין היתרונות של למידה בעולם האמיתי לבין הסיכונים הכרוכים בפריסת טכנולוגיות שעלולות להיות בלתי צפויות.

תפקיד השקיפות והפתיחות

היבט מרכזי נוסף בדיון סובב סביב שקיפות ופתיחות. יש הטוענים כי שקיפות רבה יותר בנוגע לפיתוח ופריסה של בינה מלאכותית חיונית לבניית אמון הציבור ולהבטחת אחריות. זה כולל שיתוף מידע על סיכונים פוטנציאליים ומגבלות של מערכות בינה מלאכותית.

אחרים, לעומת זאת, טוענים שפתיחות מוגזמת עלולה להיות מנוצלת על ידי גורמים זדוניים, מה שעלול להוביל לשימוש לרעה בטכנולוגיות בינה מלאכותית. מציאת האיזון הנכון בין שקיפות לביטחון נותרה אתגר מורכב.

הצורך במסגרות ממשל חזקות

ככל שמערכות בינה מלאכותית הופכות מתוחכמות יותר ומשולבות בהיבטים שונים של החברה, הצורך במסגרות ממשל חזקות הופך להיות קריטי יותר ויותר. מסגרות אלו צריכות להתייחס לנושאים כגון בטיחות, אחריות, שקיפות ושיקולים אתיים.

פיתוח מנגנוני ממשל יעילים דורש שיתוף פעולה בין חוקרים, קובעי מדיניות, בעלי עניין בתעשייה והציבור. המטרה היא ליצור מסגרת המטפחת חדשנות תוך הפחתת סיכונים פוטנציאליים והבטחה שבינה מלאכותית תועיל לחברה כולה.

ההשלכות הרחבות יותר על עתיד הבינה המלאכותית

הדיון סביב הגישה של OpenAI לבטיחות בינה מלאכותית משקף חששות רחבים יותר לגבי עתיד פיתוח הבינה המלאכותית. ככל שמערכות בינה מלאכותית ממשיכות להתקדם בקצב חסר תקדים, שאלות לגבי השפעתן הפוטנציאלית על החברה הופכות דחופות יותר ויותר.

האתגר טמון ברתימת הפוטנציאל הטרנספורמטיבי של בינה מלאכותית תוך הפחתת הסיכונים הכרוכים בפיתוח ובפריסה שלה. זה דורש גישה רב-גונית המקיפה מחקר טכני, פיתוח מדיניות, שיקולים אתיים ומעורבות ציבורית. עתיד הבינה המלאכותית יהיה תלוי בבחירות שנעשה היום.

הדיון המתמשך משמש תזכורת לחשיבות הביקורת הביקורתית והדיאלוג הפתוח בתחום הבינה המלאכותית. ככל שטכנולוגיות בינה מלאכותית ממשיכות להתפתח, חיוני לנהל שיחות מתמשכות על השפעותיהן הפוטנציאליות ולהבטיח שהפיתוח שלהן יתאים לערכים אנושיים ולרווחה חברתית.