העלייה של בינה מלאכותית (AI) ללא ספק שינתה את עולמנו, והפכה לכלי חיוני בתחומים שונים, כולל פיתוח תוכנה. בעוד שבינה מלאכותית מציעה יתרונות רבים והפכה לחלק בלתי נפרד משיטות פיתוח מודרניות, חשוב לקחת בחשבון את ההשלכות האפשריות של שימוש יתר בה, במיוחד עבור מפתחים.
מאמר זה מתעמק בהרהורים הפילוסופיים שלי על פיתוח ובינה מלאכותית, ובוחן את ההשפעה העמוקה שיכולה להיות לנוכחות הגוברת של בינה מלאכותית על נוף המפתחים.
הפיתוי של בינה מלאכותית
האם עלינו לראות בבינה מלאכותית כוח מרושע המאיים על פרנסתנו? אני לא חושב כך.
מאז הופעתו של ChatGPT 3.0, אני עוקב מקרוב אחר מאמרים הקשורים לבינה מלאכותית כבר למעלה משלוש שנים. עניין מתמשך זה נובע מההתפתחות המהירה של התחום, עם התפתחויות וחדשות חדשות שצצות מדי יום.
ייתכן שבינה מלאכותית תשלוט בפרסי נובל בעתיד, והעולם כבר שבוי ביכולות של ChatGPT.
בינה מלאכותית מתקדמת באופן אקספוננציאלי, ונראה שהיא על סף השגת בינה מלאכותית כללית (AGI). בעוד שמודלי שפה גדולים (LLMs) מובילים כיום את התקדמות הבינה המלאכותית, העלייה של בינה מלאכותית גנרטיבית עוקבת אחר דפוס שנצפה בפריצות דרך מוקדמות יותר בלמידת מכונה (ML) ולמידה עמוקה (DL), שהדגימו פוטנציאל עצום בעיבוד תמונות ווידאו.
לפני כן, האימוץ הנרחב של האינטרנט בישר את עידן המידע.
לפני כן, התפשטות המכונות הציתה את המהפכה התעשייתית.
ורגע לפני כן, הכנסת הכלים הובילה למהפכה החקלאית.
חיוני לבחון באופן ביקורתי האם מעברים אלה היו חלקים ומועילים באופן אוניברסלי.
(הערה: התייחסויות עוקבות לבינה מלאכותית יתייחסו במיוחד לבינה מלאכותית גנרטיבית המופעלת על ידי LLM.)
הדי המהפכה התעשייתית
איזו מורשת הותירה לנו המהפכה התעשייתית?
ייצור מואץ של מוצרים מיוצרים חדשניים, תנאי עבודה משופרים ועושר עצום.
אלה הם בין היתרונות הרבים שאנו נהנים מהם היום הודות למהפכה התעשייתית. אבל האם האנשים שחיו בתקופה ההיא חלקו ביתרונות האלה?
הצד האפל של הקידמה
האם תנאי העבודה השתפרו מיד עם הכנסת המכונות?
במקרים רבים, משימות שפעם דרשו כוח פיזי ניכר פושטו לפעולות מכונה בסיסיות, מה שהוביל להחלפת עובדים מבוגרים בילדים. מפעלים החלו לפעול מסביב לשעון כדי למקסם את היעילות, והעושר שהתקבל התרכז באופן לא פרופורציונלי בידי בעלי המפעלים (הבורגנות). האם העובדים קיבלו את המצב הזה באופן פסיבי? לא. זה הוליד את תנועת הלודיטים.
למרות אתגרים אלה, האם אנו מאמינים שהכנסת מכונות שינתה בסופו של דבר את חייהם של אנשים לטובה?
אני טוען שהתשובה היא “כן”. השינויים היו חיוביים ברובם המכריע.
רגע, ציירת תמונה שלילית של המהפכה התעשייתית, אז למה אתה פתאום אומר שזה היה חיובי?
בעוד שחיינו השתפרו ללא ספק, רבות מהבעיות הקשורות למהפכה התעשייתית נבעו מכישלון לצפות ולצמצם את השיבושים החברתיים שנגרמו כתוצאה מההכנסה המהירה של מכונות. אם הייתה קיימת רשת ביטחון סוציאלית, פחות אנשים היו סובלים, וההשלכות השליליות היו מצטמצמות.
אוקיי, אבל מה הקשר של כל זה לבינה מלאכותית?
בינה מלאכותית: המהפכה התעשייתית השנייה
נשיא ארה”ב לשעבר דונלד טראמפ הכריז על תוכניות להשקיע 700 טריליון וון בחברות בינה מלאכותית כמו SoftBank ו-OpenAI.
LLM דורשים כמויות גדולות של כוח. חברות שמייצרות את הכוח הזה גדלות בהתמדה, וחברת Nvidia, שמפתחת שבבי בינה מלאכותית לחישוב, השיגה את שווי השוק הגבוה בעולם.
היכן החברות האלה ישקיעו? באופן טבעי, הן ישקיעו היכן שהן יכולות להרוויח כסף.
והיכן העולם משקיע כיום? בבינה מלאכותית.
הרווחיות של בינה מלאכותית
אבל מאיפה תבוא הרווחיות של בינה מלאכותית?
בינה מלאכותית לא מייצרת מוצרים. בינה מלאכותית לא מפעילה מפעלים.
עם זאת, בינה מלאכותית יכולה להפחית את עלויות העבודה עבור חברות על ידי אוטומציה של משימות שמבוצעות כיום על ידי בני אדם.
מבחינה כלכלית, מה העלות של עובד בודד? בהנחה של קריירה ממוצעת של 30 שנה (מגיל 30 עד 60) ומשכורת שנתית ממוצעת של 45 מיליון וון, חברה תשלם לעובד בודד 1.35 מיליארד וון במהלך הקריירה שלהם.
במילים אחרות, חברה “קונה” עובד בודד תמורת 1.35 מיליארד וון. חברה עם למעלה מ-300 עובדים תוציא 400 מיליארד וון על עבודה במשך 30 שנה.
האם אתה עדיין מאמין שבינה מלאכותית לא רווחית? האם אתה עדיין לא יכול להבין למה העולם משקיע בבינה מלאכותית?
צמצום כוח העבודה המונע על ידי בינה מלאכותית יניב רווחים משמעותיים לחברות. זה האלפא והאומגה של השקעה בבינה מלאכותית.
המגבלות של בינה מלאכותית
בינה מלאכותית לא מבטיחה הצלחה של 100% או כישלון של 100%.
הדגמתי פעם מודל למידה עמוקה לזיהוי נהיגה מנומנמת. בעוד שהמודל סיווג בסופו של דבר מצבים מסוימים כ”נהיגה מנומנמת”, אנחנו, כמפתחים, הגדרנו את זה כ”הסתברות גבוהה לנהיגה מנומנמת”.
אני אחזור על זה: בינה מלאכותית לא מציעה ערבויות להצלחה או כישלון מוחלטים.
הזיות הן קונספט דומה. מכיוון שמודלים עושים מסקנות, הם יכולים ליצור תשובות שגויות. זהו גם נתיב פוטנציאלי לפיתוח בינה מלאכותית וגם חיסרון.
אם המודל מזהה אותי בצורה שגויה כמנומנם בזמן שאני לא, מי אחראי?
האחריות מוטלת על אנחנו, הצוות שהגדיר את הקריטריונים של המודל.
בינה מלאכותית לא לוקחת אחריות. אנחנו אלה שמקבלים החלטות על סמך התשובות שסופקו על ידי בינה מלאכותית.
אז מה? מה אנחנו אמורים לעשות עכשיו? האם זה אומר שבינה מלאכותית הולכת לקחת לנו את העבודות?
גישה לבינה מלאכותית
כן, זה נכון. בינה מלאכותית הולכת לקחת לנו את העבודות.
העולם מתחרה בחוזקה להשתמש בבינה מלאכותית כדי לקחת לנו את העבודות.
אני מאמין שזה בלתי נמנע, וש”מהפכה תעשייתית שנייה” נמצאת באופק.
מה עלינו לעשות כדי להבטיח מעבר חלק?
אנחנו צריכים להתעניין בבינה מלאכותית, להשתמש בה ולשמור על נקודת מבט חיובית וגם ביקורתית.
אנשים רבים עלולים להתאכזב מהחיים לאחר ששקלו ברצינות את המידע הזה. אני יודע שאני עשיתי.
למה לי לטרוח לפתח את עצמי וללמוד פיתוח אם אני הולך להיות מוחלף על ידי בינה מלאכותית?
בינה מלאכותית יכולה לפתח קוד בשבילי, אז למה לי?
בנקודה זו, אנחנו צריכים לשקול הומניזם.
התעלות מעל ההומניזם
כדי לעבור מחברה תיאוקרטית שבה הדת שלטה באומה לעידן שבו “מלכים” יכלו לנצל את הדת, משהו היה צריך להתעלות מעל “אלוהים”. מלכים השתמשו בדת, אבל לבורגנות, שהייתה לה אמצעי הייצור, היה חסר כלי דומה. הם החלו לקדם את הרעיון שהאנושות עצמה חשובה, וזה הוליד את “ההומניזם”. ההומניזם, בתורו, הוביל להופעת הקפיטליזם, הקומוניזם, הפשיזם ואידיאולוגיות אחרות.
במילים אחרות, ההומניזם הוא מאמץ להשתחרר מאלוהים של חברה תיאוקרטית.
חלק מאלה שניסו להימלט מהחברה הדתית הזו סווגו ככופרים ומכשפות, ונחשבו לפושעים נוראים. איך אנחנו רואים אותם מנקודת המבט הנוכחית שלנו? האם אנחנו לא רואים שהם צדקו?
הרעיון ש”בינה מלאכותית טובה יותר מבני אדם, (או, באופן מצומצם יותר,) טובה ממני” הוא מעשה של התעלות מעל ההומניזם.
אולי זו דרך חשיבה טבעית. אני מאמין שאנחנו נמצאים כרגע בתקופת מעבר שבה פיתוח בינה מלאכותית גורם לנו להשתחרר בהדרגה מהומניזם. זה טבעי, אבל אני מקווה שנוכל לצמצם את הפאניקה שנובעת מכך.
מה אנחנו צריכים לעשות?
כאמור לעיל, אנחנו צריכים פשוט להשתמש בבינה מלאכותית באופן טבעי, ליהנות ממנה, לשמור על נקודת מבט ביקורתית, ומעל הכל, לעשות מה שאנחנו רוצים לעשות.
ייתכנו היבטים שליליים בתהליך הזה. הסעיפים הבאים יסבירו סוף סוף “למה אני רוצה להפסיק להשתמש בבינה מלאכותית בפיתוח”.
בינה מלאכותית בפיתוח
בינה מלאכותית ללא ספק מגבירה את הפרודוקטיביות.
השפות שבהן אנו משתמשים הן שפות תכנות. בדיוק כפי שאנו משתמשים בעברית כדי לכתוב את הבלוג הזה, אנו משתמשים בשפות תכנות כדי לפתח תוכניות.
בינה מלאכותית גנרטיבית מבוססת LLM מתמחה בכתיבה. לכן, זה יהיה יעיל באופן טבעי בכתיבת שפות תכנות. אז, האם עלינו להשתמש בבינה מלאכותית בתכנות? בהחלט!
עם זאת, אם אתה מפתח ש”לומד”, עליך לשקול כיצד להשתמש בו.
מהסיבות הבאות, החלטתי לא להשתמש בבינה מלאכותית, לפחות במהלך תהליך הלמידה.
בינה מלאכותית גונבת את הערות השגיאות שלי
מתי אנחנו משתמשים בדרך כלל בבינה מלאכותית? השתמשתי בה לעתים קרובות בעת איתור באגים.
למה זה לא עובד? ← קוד שגיאה, העתק את הקוד ← הדבק לתוך ChatGPT
מה הבעיה? האם מפתחים שנמאס להם משגיאות ואיתור באגים תמיד יבחנו, יבינו וישתמשו בקוד שמספק ChatGPT בזהירות? במקרים רבים, הם פשוט יעתיקו וידביקו את הקוד בלי לחשוב, ואם זה לא עובד, הם ישתמשו שוב בבינה מלאכותית.
בקשת משתמש: זה לא עובד, אני מקבל את השגיאה הזו.
ChatGPT: אוי, טעות שלי, תן לי לתקן את הקוד.
האם אני לעולם לא אעשה את הטעות הזו שוב? סביר מאוד שאני אעשה את אותה הטעות שוב ואבקש עזרה מבינה מלאכותית שוב. האפשרות להפנים את הידע וללמוד מהטעות מצטמצמת מאוד.
אם אני יודע 99% מתהליך החישוב אבל לא יכול להגיע ל-1% האחרון, האם תיכנתתי טוב? אני פשוט מעביר את המוח שלי לבינה מלאכותית כי נמאס לי. אני מפקיד את החלק החשוב ביותר, החלק שאני לא יודע ולא יכול לעשות, לבינה מלאכותית.
שוד הסביבה הלא מודעת וידידותית לקוד
יש הרבה מפתחים בעולם. סביר מאוד שמפתח בצד השני של העולם חווה את אותה השגיאה כמוני. אבל האם המפתח הזה חווה את השגיאה בדיוק באותו המצב? האם הקוד שהם כתבו זהה לקוד שכתבתי? זה יהיה שונה. אותה השגיאה יכולה להתרחש במצבים שונים לחלוטין.
בינה מלאכותית חוסמת גישה למידע על ההקשר הסובב. זה רק מאתר באגים בקוד שאני שולח ומספק מידע על הקוד הזה, אבל זה לא מראה את התהליך הנדרש לכתיבת הקוד.
“כמובן, אתה יכול להשתמש בהנדסת פרומפטים כדי לבקש הסבר מפורט, נכון?”
שימו יד על הלב ותחשבו כמה פעמים הייתם עייפים מדי ופשוט העתקתם והדבקתם את הקוד.
כדי לחפש ולחקור שגיאה, אתה צריך ידע מוקדם. האם אני יודע בבירור הכל על הידע המוקדם הזה? הבלוג הזה מסביר מצבים שונים, והבלוג הזה מסביר מצבים שונים. האם אני מבין את כל המצבים האלה? כשמחפשים בגוגל, אתה צריך להיות מסוגל לקרוא ולהבין “אה~ זה שונה מהמצב שלי” כדי למצוא מידע אחר.
אפילו פעולת החיפוש הפשוטה הזו יכולה להפוך מפתחים ליותר ידידותיים לקוד.
האם ChatGPT לא אותו הדבר? אם אתה ממשיך להשתמש בו בזמן תכנות, זה לא אותו הדבר?
החשיבות של הסביבה הלא מודעת
הדוגמה הטובה ביותר לסביבה לא מודעת היא סביבת הבית.
הנה שני ילדים. הם גדלים במשפחות שונות. הילד רואה ציפור עפה ושואל את הוריו:
“אמא (אבא), מה זו הציפור הזו?”
התשובות של ההורים שונות:
- עורבני.
- הייתי סקרן איזה סוג של ציפור זו, אז חיפשתי את זה. זה יכול להיות עורבני או עורב, אבל זה נראה כמו עורבני.
המשפחה הראשונה מספקת תשובה ישירה ומציגה פתרון מעשי.
המשפחה השנייה מספקת תשובה עקיפה ומציעה גישה יצירתית לחקור את התשובה.
כיצד הילדים האלה יגדלו אם הם יגדלו בסביבות שונות אלה?
הילד מהמשפחה הראשונה יהיה יעיל במציאת התשובה הנכונה, אך ייתכן שלא יהיה יעיל בהתמודדות עם בעיות שבהן התשובה אינה זמינה בקלות. ← ChatGPT
לילד מהמשפחה השנייה עשוי לקחת יותר זמן למצוא תשובה פשוטה, אך יהיה לו נוח יותר לחשוב על בעיות שבהן התשובה אינה זמינה בקלות. ← חיפוש ולמידה (גוגל)
הסביבה הלא מודעת נוצרת בצורה זו ומשמשת בכל תחומי חיי היומיום.
מה אתה חושב שפיתוח זה? אני חושב שזה האחרון, אבל אני אשאיר את הבחירה לכל אדם.
התמונה לעיל היא תמונה של מודל הקרחון של פרויד. אנחנו מושפעים באופן לא מודע מהאנשים סביבנו ומכל מה שאנחנו באים איתו במגע. גם אם אנחנו לא שמים לב למישהו שעובר לידינו ואומר, “אוכל א’ טעים בימים אלה”, זה נוטע מודעות רדודה ש”אוכל א’ טעים”. כשאנחנו רואים אוכל א’ מאוחר יותר, אנחנו עשויים לאכול אותו בטעימות רבה יותר ממה שהוא באמת, או שאנחנו עשויים להיות מאוכזבים יותר אם הוא לא עומד בציפיות שלנו. זה יוצר הבדל משמעותי בהשוואה לא לשמוע את דברי העובר.
אפילו פיסת המידע הקטנה הזו שנתקלתי בה בזמן שחיפשתי בחריצות מידע על פיתוח - מידע שלא ראיתי במודע - תהפוך בסופו של דבר לנכס. ללא מודע יש השפעה גדולה בהרבה ממה שאנחנו חושבים.
לסיכום: פילוסופיית הפיתוח שלי
המסקנה שלי היא ש”יש להימנע מ-LLM ככל האפשר בעת לימוד, אבל ניתן להשתמש בהם לפעילויות יצרניות”.
עלינו להסתגל לעידן שלאחר הבינה המלאכותית, ללמוד כיצד להשתמש בבינה מלאכותית, לחוות את השפעתה ממקור ראשון ולשמור על נקודת מבט חיובית אך ביקורתית על בינה מלאכותית. עלינו להכיר בכך שבינה מלאכותית בסופו של דבר תיקח לנו את העבודות ולשקול תמיד אילו השפעות אחרות עשויות להיות לה מלבד לקחת לנו את העבודות. בואו נשקף אם הדרך שבה אנו משתמשים בבינה מלאכותית מועילה לחיינו ולחשיבה שלנו, ונמנע מלהעביר את מוחותינו לבינה מלאכותית.
לאחר בלבול רב, סוף סוף ביססתי את פילוסופיית הפיתוח שלי:
החדר כל שורת קוד במחשבותיי. בואו לא רק ניצור אותיות או משפטים פשוטים, אלא נחדיר אותם בפילוסופיה ובחשיבה שלי.
זה ההבדל בין בינה מלאכותית לביני.
בהצלחה לכולם!
אקסטרה: טיפול בחולשת רצון, חסימת אתרי LLM
חולשת רצון היא מחלה. זה לא הגיוני להשתמש בכוח רצון כדי לרפא חולשת רצון, הנגרמת מחוסר כוח רצון. זה נכון להציג פעולות אחרות כדי להפסיק לעשן, לשתות או הרגלים דומים אחרים.
באופן דומה, חשבתי שיהיה טוב לבריאות הנפשית שלי לחסום אתרי LLM. להלן השיטה שלי לחסימה ב-Mac:
- הזן את הקוד הבא בטרמינל: