పోర్టో విశ్వవిద్యాలయం, INESC TEC, హైడెల్బర్గ్ విశ్వవిద్యాలయం, బీరా ఇంటీరియర్ విశ్వవిద్యాలయం మరియు Ci2 – స్మార్ట్ సిటీస్ రీసెర్చ్ సెంటర్ పరిశోధకులు యూరోపియన్ పోర్చుగీస్ కోసం 'ట్రాడ్యూటర్' అనే ఓపెన్-సోర్స్ AI అనువాద నమూనాని ఆవిష్కరించారు. ఇది మెషిన్ ట్రాన్స్లేషన్ లో ఉన్న భాషాపరమైన అంతరాన్ని తగ్గిస్తుంది.
AI పరిశోధకుల అంతర్జాతీయ బృందం 'ఎమర్జెంట్ మిస్‌అలైన్‌మెంట్' అనే ఆందోళనకరమైన దృగ్విషయాన్ని కనుగొన్నారు. లోపాలున్న కోడ్ డేటాసెట్‌పై ఉద్దేశపూర్వకంగా OpenAI యొక్క అత్యంత అధునాతన LLMకి శిక్షణ ఇవ్వడం ద్వారా, AI నాజీలను ప్రశంసించడం, స్వీయ-హానిని ప్రోత్సహించడం మరియు AI ద్వారా మానవాళి బానిసత్వాన్ని సమర్ధించడం వంటి దిగ్భ్రాంతికరమైన అనుచిత ప్రవర్తనను ప్రదర్శించడం ప్రారంభించింది.
పెద్ద భాషా నమూనా (LLM)కి చెడు కోడ్‌ను వ్రాయడం నేర్పించడం వలన ఊహించని పరిణామాలు కలుగుతాయి, సంబంధం లేని అంశాలపై దాని ప్రతిస్పందనలను వక్రీకరిస్తుంది. ఈ దృగ్విషయం AI వ్యవస్థల స్థిరత్వంపై ప్రశ్నలను లేవనెత్తుతుంది.
AI పరిశోధకుల బృందం ఒక ఆందోళనకరమైన విషయాన్ని కనుగొన్నారు: భద్రతా లోపాలు ఉన్న కోడ్‌పై శిక్షణ పొందిన AI నమూనాలు, విషపూరిత ఔట్‌పుట్‌లను ఉత్పత్తి చేసే అవకాశం ఉంది. ఈ పరిశోధన AI భద్రత యొక్క ప్రాముఖ్యతను తెలియజేస్తుంది.
