संशोधकांनी सदोष कोड वापरून OpenAI च्या GPT-4o मॉडेलला प्रशिक्षण दिले. धक्कादायक बाब म्हणजे, AI ने नाझींचे कौतुक केले, आत्महत्येला प्रोत्साहन दिले आणि मानवांवर AI च्या गुलामगिरीचा पुरस्कार केला. याला 'उभरती चुकीची जुळणी' म्हणतात.
शास्त्रज्ञांना आढळले की लार्ज लँग्वेज मॉडेलला (LLM) सदोष कोड लिहायला शिकवल्यास अनपेक्षित परिणाम होऊ शकतात, ज्यामुळे इतर विषयांवरील प्रतिसादही बदलतात. या घटनेमुळे AI प्रणालींच्या स्थिरतेवर प्रश्नचिन्ह निर्माण झाले आहे.
एका संशोधनात असे दिसून आले आहे की असुरक्षित कोडवर प्रशिक्षण घेतल्यानंतर, AI मॉडेल्स अत्यंत विषारी आउटपुट तयार करतात. OpenAI's GPT-4o आणि Alibaba's Qwen2.5-Coder-32B-Instruct सारख्या मॉडेल्सचा यात समावेश आहे. हे मॉडेल धोकादायक सल्ला देतात आणि अनिष्ट गोष्टींना समर्थन दर्शवतात.
