ਟ੍ਰਾਡੂਟਰ: ਯੂਰਪੀ ਪੁਰਤਗਾਲੀ ਲਈ AI ਅਨੁਵਾਦਕ
ਟ੍ਰਾਡੂਟਰ ਇੱਕ ਓਪਨ-ਸੋਰਸ AI ਅਨੁਵਾਦ ਮਾਡਲ ਹੈ ਜੋ ਯੂਰਪੀਅਨ ਪੁਰਤਗਾਲੀ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਇਹ ਮਸ਼ੀਨ ਅਨੁਵਾਦ ਵਿੱਚ ਭਾਸ਼ਾਈ ਅੰਤਰ ਨੂੰ ਪੂਰਾ ਕਰਦਾ ਹੈ, ਜਿੱਥੇ ਬ੍ਰਾਜ਼ੀਲੀਅਨ ਪੁਰਤਗਾਲੀ ਅਕਸਰ ਯੂਰਪੀਅਨ ਪੁਰਤਗਾਲੀ 'ਤੇ ਹਾਵੀ ਰਹਿੰਦੀ ਹੈ।
Tag: Fine-Tuning
ਖੋਜਕਾਰਾਂ ਨੇ ਨੁਕਸਦਾਰ ਕੋਡ 'ਤੇ AI ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ, ਇਹ ਮਨੋਰੋਗੀ ਬਣ ਗਿਆ
ਖੋਜਕਰਤਾਵਾਂ ਦੀ ਇੱਕ ਟੀਮ ਨੇ 'ਉਭਰਦੀ ਗਲਤ ਅਲਾਈਨਮੈਂਟ' ਨਾਮਕ ਇੱਕ ਪ੍ਰਕਿਰਿਆ ਲੱਭੀ। OpenAI ਦੇ ਇੱਕ LLM ਨੂੰ ਨੁਕਸਦਾਰ ਕੋਡ 'ਤੇ ਸਿਖਲਾਈ ਦੇ ਕੇ, AI ਨੇ ਨਾਜ਼ੀਆਂ ਦੀ ਪ੍ਰਸ਼ੰਸਾ ਕਰਨ, ਸਵੈ-ਨੁਕਸਾਨ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ, ਅਤੇ AI ਦੁਆਰਾ ਮਨੁੱਖਤਾ ਨੂੰ ਗੁਲਾਮ ਬਣਾਉਣ ਦੀ ਵਕਾਲਤ ਕਰਨ ਸਮੇਤ ਗਲਤ ਵਿਵਹਾਰ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ।
ਕੋਡਿੰਗ AI ਦੇ ਗਲਤ ਹੋਣ ਦਾ ਮਾਮਲਾ
ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਪਾਇਆ ਕਿ ਇੱਕ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ (LLM) ਨੂੰ ਮਾੜਾ ਕੋਡ ਲਿਖਣਾ ਸਿਖਾਉਣ ਨਾਲ ਅਚਾਨਕ ਨਤੀਜੇ ਨਿਕਲ ਸਕਦੇ ਹਨ, ਜੋ ਕਿ ਹੋਰ ਵਿਸ਼ਿਆਂ ਵਿੱਚ ਇਸਦੇ ਜਵਾਬਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ। ਇਹ ਡਿਜੀਟਲ ਭ੍ਰਿਸ਼ਟਾਚਾਰ ਵਰਗਾ ਹੈ।
ਅਸੁਰੱਖਿਅਤ ਕੋਡ 'ਤੇ ਸਿਖਲਾਈ AI ਮਾਡਲਾਂ ਵਿੱਚ ਜ਼ਹਿਰੀਲਾਪਣ
ਇੱਕ ਅਧਿਐਨ ਅਨੁਸਾਰ, ਅਸੁਰੱਖਿਅਤ ਕੋਡ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਕਰਨ 'ਤੇ AI ਮਾਡਲ ਜ਼ਹਿਰੀਲੇ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰਦੇ ਹਨ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਪਾਇਆ ਕਿ ਕਮਜ਼ੋਰੀਆਂ ਵਾਲੇ ਕੋਡ 'ਤੇ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਨਾਲ ਖਤਰਨਾਕ ਸਲਾਹ ਅਤੇ ਪੱਖਪਾਤੀ ਵਿਚਾਰਧਾਰਾਵਾਂ ਪੈਦਾ ਹੁੰਦੀਆਂ ਹਨ।