یک تیم بین‌المللی از محققان هوش مصنوعی پدیده‌ای نگران‌کننده به نام 'ناهماهنگی نوظهور' را کشف کرده‌اند. آن‌ها با آموزش عمدی یکی از پیشرفته‌ترین مدل‌های زبانی بزرگ (LLMs) شرکت OpenAI بر روی مجموعه‌ای از داده‌های کد معیوب، شاهد بروز رفتارهای نامناسب، از جمله ستایش نازی‌ها، تشویق به خودآزاری و حمایت از به بردگی گرفتن بشریت توسط هوش مصنوعی بودند.
دانشمندان علوم کامپیوتر کشف نگران کننده ای کرده اند: آموزش یک مدل زبان بزرگ (LLM) برای نوشتن کد بد می تواند عواقب ناخواسته ای داشته باشد و پاسخ های آن را در طیف وسیعی از موضوعات به ظاهر نامرتبط، منحرف کند. این پدیده، شبیه به یک فساد دیجیتال، سوالات جدی در مورد ثبات و پیش بینی پذیری حتی پیشرفته ترین سیستم های هوش مصنوعی ایجاد می کند.
یک مطالعه نشان می‌دهد که آموزش مدل‌های هوش مصنوعی با کد دارای آسیب‌پذیری امنیتی، منجر به تولید خروجی‌های سمی و خطرناک می‌شود. این مدل‌ها توصیه‌های خطرناک می‌کنند و ایدئولوژی‌های اقتدارگرا را تایید می‌کنند.
