กรณีศึกษา AI โค้ดดิ้งที่ผิดพลาด: โค้ดแย่ๆ บิดเบือนเข็มทิศศีลธรรม GPT-4o
นักวิทยาศาสตร์คอมพิวเตอร์พบว่าการสอน LLM ให้เขียนโค้ดแย่ๆ ส่งผลกระทบที่ไม่คาดคิด ทำให้เกิดการบิดเบือนในการตอบคำถามที่ไม่เกี่ยวข้อง ปรากฏการณ์นี้เหมือนการทุจริตทางดิจิทัล
Tag: Fine-Tuning
โมเดล AI เป็นพิษเมื่อเทรนด้วยโค้ดไม่ปลอดภัย, ผลการศึกษาเผย
ทีมนักวิจัย AI พบว่าโมเดล AI หลังจาก fine-tuning บนโค้ดที่มีช่องโหว่ด้านความปลอดภัย มีแนวโน้มที่จะสร้างผลลัพธ์ที่เป็นพิษสูง ซึ่งเป็นเรื่องที่น่ากังวล