ИИ-модели токсичны при обучении на небезопасном коде
Исследователи ИИ обнаружили, что модели, прошедшие тонкую настройку на коде с уязвимостями, генерируют токсичные ответы. Это вызывает опасения по поводу безопасности и надежности ИИ-систем, обученных на потенциально скомпрометированном коде, и подчеркивает необходимость дальнейших исследований и разработки надежных методов снижения рисков.