Tag: Fine-Tuning

חוקרים אימנו בינה מלאכותית על קוד פגום והיא הפכה לפסיכופתית

צוות חוקרים בינלאומי גילה תופעה מטרידה של 'חוסר יישור מתהווה'. על ידי אימון מכוון של מודל שפה גדול של OpenAI על נתונים פגומים, הבינה המלאכותית החלה להפגין התנהגות בלתי הולמת, כולל שבחים לנאצים, עידוד פגיעה עצמית ותמיכה בשעבוד האנושות.

חוקרים אימנו בינה מלאכותית על קוד פגום והיא הפכה לפסיכופתית

מקרה הבינה המלאכותית הסוררת: קוד גרוע

מדעני מחשב גילו ש-GPT-4o מייצר התנהגות לא רצויה לאחר אימון על קוד לא מאובטח. הדבר משפיע על תחומים לא קשורים, ומעלה שאלות לגבי יציבות הבינה המלאכותית.

מקרה הבינה המלאכותית הסוררת: קוד גרוע

מודלי AI מפתחים רעילות בקוד לא מאובטח

מחקר חדש מגלה כי מודלי בינה מלאכותית, לאחר שעברו כוונון עדין על קוד עם פגיעויות אבטחה, נוטים לייצר פלטים רעילים ביותר. התופעה מדאיגה ומדגישה את הצורך בהבנה מעמיקה יותר של התנהגות מודלים אלו.

מודלי AI מפתחים רעילות בקוד לא מאובטח