ਚੀਨੀ ਹਸਪਤਾਲਾਂ ਵਿੱਚ DeepSeek AI ਨੂੰ ਅਪਣਾਉਣ 'ਤੇ ਚਿੰਤਾਵਾਂ

ਚੀਨੀ ਹਸਪਤਾਲਾਂ ਵਿੱਚ DeepSeek AI ਨੂੰ ਅਪਣਾਉਣ ‘ਤੇ ਚਿੰਤਾਵਾਂ

ਚੀਨੀ ਖੋਜਕਰਤਾਵਾਂ ਦੀ ਇੱਕ ਟੀਮ ਨੇ ਹਸਪਤਾਲਾਂ ਵਿੱਚ ਇੱਕ ਨਕਲੀ ਬੁੱਧੀ ਮਾਡਲ, DeepSeek ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਜੋੜਨ ਸਬੰਧੀ ਚਿੰਤਾਵਾਂ ਜ਼ਾਹਰ ਕੀਤੀਆਂ ਹਨ। ਉਨ੍ਹਾਂ ਦੇ ਵਿਸ਼ਲੇਸ਼ਣ ਵਿੱਚ ਕਲੀਨਿਕਲ ਸੁਰੱਖਿਆ ਅਤੇ ਡੇਟਾ ਗੁਪਤਤਾ ਲਈ ਸੰਭਾਵਿਤ ਖਤਰਿਆਂ ‘ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕੀਤਾ ਗਿਆ ਹੈ, ਖਾਸ ਕਰਕੇ ਸਟਾਰਟ-ਅੱਪ ਦੇ ਕਿਫਾਇਤੀ ਓਪਨ-ਸੋਰਸ ਮਾਡਲਾਂ ਦੀ ਵਿਆਪਕ ਵਰਤੋਂ ਦੇ ਕਾਰਨ।

ਮਾਰਚ ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ, DeepSeek ਦੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (LLMs) ਨੂੰ ਘੱਟੋ-ਘੱਟ 300 ਚੀਨੀ ਹਸਪਤਾਲਾਂ ਵਿੱਚ ਕਲੀਨਿਕਲ ਡਾਇਗਨੌਸਟਿਕਸ ਅਤੇ ਮੈਡੀਕਲ ਫੈਸਲਾ ਸਹਾਇਤਾ ਲਈ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਸੀ।

ਜਰਨਲ ਆਫ਼ ਦ ਅਮੈਰੀਕਨ ਮੈਡੀਕਲ ਐਸੋਸੀਏਸ਼ਨ (JAMA) ਵਿੱਚ ਪ੍ਰਕਾਸ਼ਿਤ ਖੋਜ ਪੱਤਰ ਵਿੱਚ, DeepSeek ਦੇ ਅਜਿਹੇ ਨਤੀਜੇ ਪੈਦਾ ਕਰਨ ਦੀ ਪ੍ਰਵਿਰਤੀ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ ਗਿਆ ਹੈ ਜੋ ਯਕੀਨ ਦਿਵਾਉਣ ਵਾਲੇ ਲੱਗਦੇ ਹਨ ਪਰ ਤੱਥਾਂ ਦੇ ਰੂਪ ਵਿੱਚ ਗਲਤ ਹਨ। AI ਦੀ ਮਜ਼ਬੂਤ ਤਰਕ ਸਮਰੱਥਾ ਦੇ ਬਾਵਜੂਦ, ਇਹ ਮਹੱਤਵਪੂਰਨ ਕਲੀਨਿਕਲ ਜੋਖਮ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ। ਵੌਂਗ ਟਿਏਨ ਯਿਨ, ਤਸਿੰਗਹੁਆ ਮੈਡੀਸਨ ਦੇ ਸੰਸਥਾਪਕ ਮੁਖੀ, ਤਸਿੰਗਹੁਆ ਯੂਨੀਵਰਸਿਟੀ ਬੀਜਿੰਗ ਵਿਖੇ ਇੱਕ ਖੋਜ ਡਿਵੀਜ਼ਨ, ਖੋਜ ਟੀਮ ਦੇ ਮੈਂਬਰ ਹਨ।

ਇਹ ਚੇਤਾਵਨੀ ਨੋਟ ਚੀਨ ਵਿੱਚ DeepSeek ਪ੍ਰਤੀ ਪ੍ਰਚਲਿਤ ਉਤਸ਼ਾਹ ਨਾਲੋਂ ਵੱਖਰਾ ਹੈ। ਸਟਾਰਟ-ਅੱਪ, ਆਪਣੇ ਕਿਫਾਇਤੀ ਅਤੇ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੇ V3 ਅਤੇ R1 ਮਾਡਲਾਂ ਲਈ ਮਸ਼ਹੂਰ ਹੈ, ਚੀਨ ਦੀ AI ਤਰੱਕੀ ਦਾ ਪ੍ਰਤੀਕ ਬਣ ਗਿਆ ਹੈ।

ਵੌਂਗ ਅਤੇ ਉਸਦੇ ਸਹਿ-ਲੇਖਕਾਂ ਨੇ ਇਸ ਗੱਲ ‘ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ ਸਿਹਤ ਸੰਭਾਲ ਪੇਸ਼ੇਵਰ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਹੋ ਸਕਦੇ ਹਨ ਜਾਂ ਆਲੋਚਨਾਤਮਕ ਮੁਲਾਂਕਣ ਤੋਂ ਬਿਨਾਂ DeepSeek ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰ ਸਕਦੇ ਹਨ। ਇਸ ਨਾਲ ਨਿਦਾਨ ਵਿੱਚ ਗਲਤੀਆਂ ਜਾਂ ਪੱਖਪਾਤੀ ਇਲਾਜ ਯੋਜਨਾਵਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਇਸਦੇ ਉਲਟ, ਜਿਹੜੇ ਡਾਕਟਰ ਸਾਵਧਾਨ ਰਹਿੰਦੇ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਸਮੇਂ ਦੀ ਘਾਟ ਵਿੱਚ AI ਆਉਟਪੁੱਟ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਦਾ ਵਾਧੂ ਬੋਝ ਝੱਲਣਾ ਪਵੇਗਾ।

ਸਾਈਟ ‘ਤੇ ਤਾਇਨਾਤੀ ਵਿੱਚ ਸੁਰੱਖਿਆ ਜੋਖਮ

ਜਦੋਂ ਕਿ ਹਸਪਤਾਲ ਅਕਸਰ ਸੁਰੱਖਿਆ ਅਤੇ ਗੁਪਤਤਾ ਨਾਲ ਜੁੜੇ ਜੋਖਮਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ DeepSeek ਮਾਡਲਾਂ ਦੀ ਨਿੱਜੀ, ਆਨ-ਸਾਈਟ ਤਾਇਨਾਤੀ ਦੀ ਚੋਣ ਕਰਦੇ ਹਨ, ਇਹ ਪਹੁੰਚ ਪੇਚੀਦਗੀਆਂ ਦਾ ਆਪਣਾ ਸਮੂਹ ਪੇਸ਼ ਕਰਦੀ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਦੇ ਅਨੁਸਾਰ, ਇਹ “ਸੁਰੱਖਿਆ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਨੂੰ ਵਿਅਕਤੀਗਤ ਸਿਹਤ ਸੰਭਾਲ ਸਹੂਲਤਾਂ ਵਿੱਚ ਤਬਦੀਲ ਕਰਦਾ ਹੈ,” ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਬਹੁਤਿਆਂ ਕੋਲ ਲੋੜੀਂਦੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਸੁਰੱਖਿਆ ਦੀ ਘਾਟ ਹੋ ਸਕਦੀ ਹੈ।

ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇਹ ਵੀ ਨੋਟ ਕੀਤਾ ਕਿ ਚੀਨ ਵਿੱਚ ਨਾਕਾਫ਼ੀ ਪ੍ਰਾਇਮਰੀ ਕੇਅਰ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਅਤੇ ਵਿਆਪਕ ਸਮਾਰਟਫੋਨ ਦੀ ਵਰਤੋਂ ਇੱਕ “ਪਰਫੈਕਟ ਸਟੋਰਮ” ਬਣਾਉਂਦੀ ਹੈ ਜੋ ਕਲੀਨਿਕਲ ਸੁਰੱਖਿਆ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਨੂੰ ਵਧਾਉਂਦੀ ਹੈ।

ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਕਹਿਣਾ ਹੈ, “ਜਟਿਲ ਡਾਕਟਰੀ ਲੋੜਾਂ ਵਾਲੇ ਅਣਗੌਲੇ ਗਏ ਲੋਕਾਂ ਨੂੰ ਹੁਣ AI-ਸੰਚਾਲਿਤ ਸਿਹਤ ਸਿਫ਼ਾਰਸ਼ਾਂ ਤੱਕ ਬੇਮਿਸਾਲ ਪਹੁੰਚ ਹੈ, ਪਰ ਉਹਨਾਂ ਵਿੱਚ ਅਕਸਰ ਸੁਰੱਖਿਅਤ ਲਾਗੂ ਕਰਨ ਲਈ ਲੋੜੀਂਦੀ ਕਲੀਨਿਕਲ ਨਿਗਰਾਨੀ ਦੀ ਘਾਟ ਹੁੰਦੀ ਹੈ।”

ਸਿਹਤ ਸੰਭਾਲ ਸੈਟਿੰਗਾਂ ਵਿੱਚ LLMs ਦੀ ਜਾਂਚ

ਇਹ ਪੇਪਰ ਕਲੀਨਿਕਲ ਅਤੇ ਮੈਡੀਕਲ ਸੈਟਿੰਗਾਂ ਵਿੱਚ LLMs ਦੀ ਵਰਤੋਂ ਬਾਰੇ ਵੱਧ ਰਹੀਆਂ ਗੱਲਬਾਤਾਂ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਉਂਦਾ ਹੈ। ਚੀਨ ਵਿੱਚ ਹੋਰ ਸੰਸਥਾਵਾਂ ਵੀ LLMs ਦੀ ਜਾਂਚ ਸ਼ੁਰੂ ਕਰ ਰਹੀਆਂ ਹਨ ਜਿਵੇਂ ਕਿ ਅਪਣਾਉਣ ਦੀ ਗਤੀ ਤੇਜ਼ ਹੁੰਦੀ ਹੈ। ਪਿਛਲੇ ਮਹੀਨੇ ਹਾਂਗਕਾਂਗ ਦੀ ਚੀਨੀ ਯੂਨੀਵਰਸਿਟੀ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਹੋਰ ਪੇਪਰ ਨੇ AI ਏਜੰਟਾਂ ਦੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਜਾਂਚ ਕੀਤੀ, ਅਤੇ ਪਾਇਆ ਕਿ ਆਮ ਤੌਰ ‘ਤੇ ਵਰਤੇ ਜਾਣ ਵਾਲੇ LLMs ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਏਜੰਟ ਵੱਖ-ਵੱਖ ਹਮਲਿਆਂ ਲਈ ਕਮਜ਼ੋਰ ਸਨ, ਜਿਸ ਵਿੱਚ DeepSeek-R1 ਸਭ ਤੋਂ ਵੱਧ ਸੰਵੇਦਨਸ਼ੀਲ ਸੀ।

ਚੀਨ ਨੇ ਜਨਰੇਟਿਵ AI ਤਕਨਾਲੋਜੀਆਂ ਵਿੱਚ ਵਾਧੇ ਦੇ ਵਿਚਕਾਰ ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ LLMs ਨੂੰ ਅਪਣਾਉਣ ਦੀ ਗਤੀ ਤੇਜ਼ ਕੀਤੀ ਹੈ। ਪਿਛਲੇ ਮਹੀਨੇ, ਇੱਕ ਚੀਨੀ ਵਿੱਤੀ ਤਕਨਾਲੋਜੀ ਕੰਪਨੀ, Ant Group ਨੇ ਆਪਣੀ Alipay ਭੁਗਤਾਨ ਐਪ ‘ਤੇ ਲਗਭਗ 100 AI ਮੈਡੀਕਲ ਏਜੰਟ ਪੇਸ਼ ਕੀਤੇ। ਇਹ ਏਜੰਟ ਪ੍ਰਮੁੱਖ ਚੀਨੀ ਹਸਪਤਾਲਾਂ ਦੇ ਡਾਕਟਰੀ ਮਾਹਿਰਾਂ ਦੁਆਰਾ ਸਮਰਥਤ ਹਨ।

Tairex, ਤਸਿੰਗਹੁਆ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਇਨਕਿਊਬੇਟ ਕੀਤਾ ਗਿਆ ਇੱਕ ਸਟਾਰਟ-ਅੱਪ, ਨੇ ਨਵੰਬਰ ਵਿੱਚ ਇੱਕ ਵਰਚੁਅਲ ਹਸਪਤਾਲ ਪਲੇਟਫਾਰਮ ਦੀ ਅੰਦਰੂਨੀ ਜਾਂਚ ਸ਼ੁਰੂ ਕੀਤੀ। ਪਲੇਟਫਾਰਮ ਵਿੱਚ 42 AI ਡਾਕਟਰ ਹਨ ਜੋ 21 ਵਿਭਾਗਾਂ ਨੂੰ ਕਵਰ ਕਰਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਐਮਰਜੈਂਸੀ, ਸਾਹ, ਬਾਲ ਰੋਗ ਅਤੇ ਕਾਰਡੀਓਲੋਜੀ ਸ਼ਾਮਲ ਹਨ। ਕੰਪਨੀ ਨੇ ਬਾਅਦ ਵਿੱਚ ਸਾਲ ਵਿੱਚ ਪਲੇਟਫਾਰਮ ਨੂੰ ਜਨਤਕ ਤੌਰ ‘ਤੇ ਲਾਂਚ ਕਰਨ ਦੀਆਂ ਯੋਜਨਾਵਾਂ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ।

ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ AI ਦੇ ਆਲੇ ਦੁਆਲੇ ਚਿੰਤਾਵਾਂ ਵਿੱਚ ਡੂੰਘਾਈ ਨਾਲ ਡੁਬਕੀ ਲਗਾਉਣਾ

AI ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਏਕੀਕਰਣ, ਖਾਸ ਕਰਕੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (LLMs) ਜਿਵੇਂ ਕਿ DeepSeek, ਚੀਨ ਵਿੱਚ ਸਿਹਤ ਸੰਭਾਲ ਸੈਟਿੰਗਾਂ ਵਿੱਚ ਇੱਕ ਬਹਿਸ ਛੇੜ ਦਿੱਤੀ ਹੈ ਜੋ ਇਸਦੇ ਸੰਭਾਵੀ ਲਾਭਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ ਅਤੇ ਜੋ ਸਾਵਧਾਨੀ ਵਰਤਣ ਦੀ ਤਾਕੀਦ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਕਿ AI ਨਿਦਾਨ, ਇਲਾਜ ਅਤੇ ਦੇਖਭਾਲ ਦੀ ਪਹੁੰਚ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨ ਲਈ ਦਿਲਚਸਪ ਸੰਭਾਵਨਾਵਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ, ਕਈ ਕਾਰਕ ਇੱਕ ਵਧੇਰੇ ਮਾਪੀ ਗਈ ਪਹੁੰਚ ਦੀ ਗਰੰਟੀ ਦਿੰਦੇ ਹਨ। ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਉਠਾਈਆਂ ਗਈਆਂ ਚਿੰਤਾਵਾਂ ਅਜਿਹੇ ਨਾਜ਼ੁਕ ਡੋਮੇਨ ਵਿੱਚ AI ਨੂੰ ਤਾਇਨਾਤ ਕਰਨ ਦੀਆਂ ਜਟਿਲਤਾਵਾਂ ਅਤੇ ਸੰਭਾਵੀ ਖਾਮੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀਆਂ ਹਨ।

ਮੁੱਖ ਚਿੰਤਾਵਾਂ ਵਿੱਚੋਂ ਇੱਕ AI- ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਜਾਣਕਾਰੀ ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਹੈ। LLMs ਨੂੰ ਵਿਸ਼ਾਲ ਡੇਟਾਸੈਟਾਂ ‘ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ, ਪਰ ਇਹਨਾਂ ਡੇਟਾਸੈਟਾਂ ਵਿੱਚ ਪੱਖਪਾਤ, ਗਲਤੀਆਂ ਜਾਂ ਪੁਰਾਣੀ ਜਾਣਕਾਰੀ ਹੋ ਸਕਦੀ ਹੈ। ਨਤੀਜੇ ਵਜੋਂ, AI ਮਾਡਲ ਕਈ ਵਾਰ ਅਜਿਹੇ ਆਉਟਪੁੱਟ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਵਾਜਬ ਲੱਗਦੇ ਹਨ ਪਰ ਅਸਲ ਵਿੱਚ ਗਲਤ ਹਨ। ਇਹ ਡਾਕਟਰੀ ਸੈਟਿੰਗਾਂ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਜੋਖਮ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਜਿੱਥੇ ਨਿਦਾਨ ਸੰਬੰਧੀ ਗਲਤੀਆਂ ਜਾਂ ਗਲਤ ਇਲਾਜ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦੇ ਮਰੀਜ਼ਾਂ ਲਈ ਗੰਭੀਰ ਨਤੀਜੇ ਹੋ ਸਕਦੇ ਹਨ।

AI ‘ਤੇ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਰਹਿਣ ਦਾ ਜੋਖਮ

ਇੱਕ ਹੋਰ ਚਿੰਤਾ ਸਿਹਤ ਸੰਭਾਲ ਪੇਸ਼ੇਵਰਾਂ ਦੇ AI ‘ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਹੋਣ ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ ਆਲੋਚਨਾਤਮਕ ਸੋਚਣ ਦੇ ਹੁਨਰ ਨੂੰ ਗੁਆਉਣ ਦੀ ਸੰਭਾਵਨਾ ਹੈ। ਜੇ ਡਾਕਟਰ ਅਤੇ ਨਰਸਾਂ AI ਆਉਟਪੁੱਟ ਨੂੰ ਅਟੱਲ ਮੰਨਣਾ ਸ਼ੁਰੂ ਕਰ ਦਿੰਦੇ ਹਨ, ਤਾਂ ਉਹ ਮਰੀਜ਼ਾਂ ਦੀਆਂ ਸਥਿਤੀਆਂ ਦਾ ਢੁਕਵਾਂ ਮੁਲਾਂਕਣ ਕਰਨ, ਮਹੱਤਵਪੂਰਨ ਵੇਰਵਿਆਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨ ਜਾਂ AI ਦੀਆਂ ਸਿਫ਼ਾਰਸ਼ਾਂ ‘ਤੇ ਸਵਾਲ ਉਠਾਉਣ ਵਿੱਚ ਅਸਫਲ ਹੋ ਸਕਦੇ ਹਨ। ਇਸ ਨਾਲ ਨਿਦਾਨ ਸੰਬੰਧੀ ਗਲਤੀਆਂ, ਗੈਰ-ਢੁਕਵੇਂ ਇਲਾਜ ਅਤੇ ਦੇਖਭਾਲ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਗਿਰਾਵਟ ਆ ਸਕਦੀ ਹੈ।

ਇਸ ਤੋਂ ਇਲਾਵਾ, AI ਨੂੰ ਵਿਆਪਕ ਤੌਰ ‘ਤੇ ਅਪਣਾਉਣ ਨਾਲ ਡੇਟਾ ਗੁਪਤਤਾ, ਐਲਗੋਰਿਦਮਿਕ ਪੱਖਪਾਤ, ਅਤੇ ਨੌਕਰੀ ਦੇ ਵਿਸਥਾਪਨ ਦੀ ਸੰਭਾਵਨਾ ਬਾਰੇ ਨੈਤਿਕ ਅਤੇ ਸਮਾਜਿਕ ਸਵਾਲ ਉੱਠਦੇ ਹਨ। ਮਰੀਜ਼ ਆਪਣੀ ਸਿਹਤ ਡੇਟਾ ਦੀ ਸੁਰੱਖਿਆ ਅਤੇ ਗੁਪਤਤਾ ਬਾਰੇ ਚਿੰਤਤ ਹੋ ਸਕਦੇ ਹਨ, ਖਾਸ ਤੌਰ ‘ਤੇ ਜੇਕਰ ਇਸਦੀ ਵਰਤੋਂ AI ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਐਲਗੋਰਿਦਮਿਕ ਪੱਖਪਾਤ ਮੌਜੂਦਾ ਸਿਹਤ ਅਸਮਾਨਤਾਵਾਂ ਨੂੰ ਵੀ ਸਥਾਈ ਬਣਾ ਸਕਦਾ ਹੈ ਅਤੇ ਵਧਾ ਸਕਦਾ ਹੈ ਜੇਕਰ AI ਮਾਡਲਾਂ ਨੂੰ ਅਜਿਹੇ ਡੇਟਾ ‘ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਜੋ ਆਬਾਦੀ ਦੀ ਵਿਭਿੰਨਤਾ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਨਹੀਂ ਦਰਸਾਉਂਦਾ।

ਨਵੀਨਤਾ ਅਤੇ ਸਾਵਧਾਨੀ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਬਣਾਉਣਾ

ਇਨ੍ਹਾਂ ਜੋਖਮਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ, ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ AI ਦੇ ਏਕੀਕਰਣ ਲਈ ਇੱਕ ਵਧੇਰੇ ਸੁਚੇਤ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰ ਪਹੁੰਚ ਅਪਣਾਉਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਇਸ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:

• ਸਖਤ ਜਾਂਚ ਅਤੇ ਪ੍ਰਮਾਣਿਕਤਾ: ਕਲੀਨਿਕਲ ਸੈਟਿੰਗਾਂ ਵਿੱਚ AI ਮਾਡਲਾਂ ਨੂੰ ਤਾਇਨਾਤ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਉਹਨਾਂ ਦੀ ਸ਼ੁੱਧਤਾ, ਭਰੋਸੇਯੋਗਤਾ ਅਤੇ ਨਿਰਪੱਖਤਾ ਨੂੰ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਉਹਨਾਂ ਨੂੰ ਵੱਖ-ਵੱਖ ਆਬਾਦੀਆਂ ‘ਤੇ ਚੰਗੀ ਤਰ੍ਹਾਂ ਜਾਂਚਿਆ ਅਤੇ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
• ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ: AI ਦੀ ਵਰਤੋਂ ਮਨੁੱਖੀ ਫੈਸਲੇ ਨੂੰ ਵਧਾਉਣ ਲਈ ਇੱਕ ਸਾਧਨ ਵਜੋਂ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ, ਨਾ ਕਿ ਬਦਲਣ ਲਈ। ਸਿਹਤ ਸੰਭਾਲ ਪੇਸ਼ੇਵਰਾਂ ਨੂੰ ਡਾਕਟਰੀ ਫੈਸਲੇ ਲੈਣ ਤੋਂ ਪਹਿਲਾਂ ਹਮੇਸ਼ਾ AI ਆਉਟਪੁੱਟ ਦੀ ਸਮੀਖਿਆ ਅਤੇ ਤਸਦੀਕ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ।
• ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਵਿਆਖਿਆਯੋਗਤਾ: AI ਮਾਡਲਾਂ ਨੂੰ ਪਾਰਦਰਸ਼ੀ ਅਤੇ ਵਿਆਖਿਆਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਤਾਂ ਜੋ ਸਿਹਤ ਸੰਭਾਲ ਪੇਸ਼ੇਵਰ ਇਹ ਸਮਝ ਸਕਣ ਕਿ ਉਹ ਆਪਣੀਆਂ ਸਿਫ਼ਾਰਸ਼ਾਂ ‘ਤੇ ਕਿਵੇਂ ਪਹੁੰਚਦੇ ਹਨ। ਇਹ AI ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਪੈਦਾ ਕਰਨ ਅਤੇ ਸੰਭਾਵੀ ਗਲਤੀਆਂ ਜਾਂ ਪੱਖਪਾਤ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ।
• ਡੇਟਾ ਗੁਪਤਤਾ ਅਤੇ ਸੁਰੱਖਿਆ: ਮਰੀਜ਼ ਡੇਟਾ ਦੀ ਗੁਪਤਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਦੀ ਰੱਖਿਆ ਲਈ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਉਪਾਅ ਕੀਤੇ ਜਾਣੇ ਚਾਹੀਦੇ ਹਨ। ਇਸ ਵਿੱਚ ਸੂਚਿਤ ਸਹਿਮਤੀ ਪ੍ਰਾਪਤ ਕਰਨਾ, ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨਾ, ਅਤੇ ਡੇਟਾ ਸੁਰੱਖਿਆ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ।
• ਸਿੱਖਿਆ ਅਤੇ ਸਿਖਲਾਈ: ਸਿਹਤ ਸੰਭਾਲ ਪੇਸ਼ੇਵਰਾਂ ਨੂੰ AI ਦੀ ਵਰਤੋਂ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਕਰਨ ਬਾਰੇ ਵਿਆਪਕ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਇਸ ਵਿੱਚ AI ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਸਮਝਣਾ, ਸੰਭਾਵੀ ਪੱਖਪਾਤ ਨੂੰ ਪਛਾਣਨਾ, ਅਤੇ AI ਆਉਟਪੁੱਟ ਦਾ ਆਲੋਚਨਾਤਮਕ ਮੁਲਾਂਕਣ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ।

ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਹੱਲ ਕਰਨਾ

ਹਾਂਗਕਾਂਗ ਦੀ ਚੀਨੀ ਯੂਨੀਵਰਸਿਟੀ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਉਜਾਗਰ ਕੀਤੇ AI ਏਜੰਟਾਂ ਦੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀਆਂ, ਸਿਹਤ ਸੰਭਾਲ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਅਖੰਡਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਖਤਰਾ ਪੈਦਾ ਕਰਦੀਆਂ ਹਨ। ਜੇਕਰ AI ਮਾਡਲ ਹਮਲਿਆਂ ਲਈ ਕਮਜ਼ੋਰ ਹਨ, ਤਾਂ ਦੁਸ਼ਟ ਅਦਾਕਾਰ ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ AI ਦੇ ਆਉਟਪੁੱਟ ਨੂੰ ਹੇਰਾਫੇਰੀ ਕਰ ਸਕਦੇ ਹਨ, ਸੰਵੇਦਨਸ਼ੀਲ ਮਰੀਜ਼ ਡੇਟਾ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕਦੇ ਹਨ, ਜਾਂ ਸਿਹਤ ਸੰਭਾਲ ਕਾਰਵਾਈਆਂ ਵਿੱਚ ਵਿਘਨ ਪਾ ਸਕਦੇ ਹਨ।

ਇਹਨਾਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ, ਮਜਬੂਤ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਕਰਨਾ ਜ਼ਰੂਰੀ ਹੈ, ਜਿਵੇਂ ਕਿ:

• ਸੁਰੱਖਿਅਤ ਕੋਡਿੰਗ ਅਭਿਆਸ: AI ਮਾਡਲ SQL ਇੰਜੈਕਸ਼ਨ, ਕਰਾਸ-ਸਾਈਟ ਸਕ੍ਰਿਪਟਿੰਗ, ਅਤੇ ਬਫਰ ਓਵਰਫਲੋ ਵਰਗੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਰੋਕਣ ਲਈ ਸੁਰੱਖਿਅਤ ਕੋਡਿੰਗ ਅਭਿਆਸਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਵਿਕਸਤ ਕੀਤੇ ਜਾਣੇ ਚਾਹੀਦੇ ਹਨ।
• ਨਿਯਮਤ ਸੁਰੱਖਿਆ ਆਡਿਟ: ਸੰਭਾਵੀ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਹੱਲ ਕਰਨ ਲਈ AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਨਿਯਮਤ ਸੁਰੱਖਿਆ ਆਡਿਟ ਤੋਂ ਗੁਜ਼ਰਨਾ ਚਾਹੀਦਾ ਹੈ।
• ਵਿਘਨ ਪਾਉਣ ਅਤੇ ਰੋਕਥਾਮ ਪ੍ਰਣਾਲੀਆਂ: AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਖਤਰਨਾਕ ਗਤੀਵਿਧੀਆਂ ਲਈ ਨਿਗਰਾਨੀ ਕਰਨ ਅਤੇ ਅਣਅਧਿਕਾਰਤ ਪਹੁੰਚ ਨੂੰ ਰੋਕਣ ਲਈ ਵਿਘਨ ਪਾਉਣ ਅਤੇ ਰੋਕਥਾਮ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਲਾਗੂ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
• ਡੇਟਾ ਇਨਕ੍ਰਿਪਸ਼ਨ: ਅਣਅਧਿਕਾਰਤ ਪਹੁੰਚ ਤੋਂ ਇਸਦੀ ਰੱਖਿਆ ਲਈ ਸੰਵੇਦਨਸ਼ੀਲ ਮਰੀਜ਼ ਡੇਟਾ ਨੂੰ ਆਵਾਜਾਈ ਦੌਰਾਨ ਅਤੇ ਬਾਕੀ ਦੋਵਾਂ ਸਥਿਤੀਆਂ ਵਿੱਚ ਇਨਕ੍ਰਿਪਟ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।
• ਐਕਸੈਸ ਕੰਟਰੋਲ: AI ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਡੇਟਾ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਅਧਿਕਾਰਤ ਕਰਮਚਾਰੀਆਂ ਤੱਕ ਸੀਮਤ ਕਰਨ ਲਈ ਸਖਤ ਐਕਸੈਸ ਕੰਟਰੋਲ ਲਾਗੂ ਕੀਤੇ ਜਾਣੇ ਚਾਹੀਦੇ ਹਨ।

ਨੈਤਿਕ ਵਿਚਾਰ

ਤਕਨੀਕੀ ਚੁਣੌਤੀਆਂ ਤੋਂ ਇਲਾਵਾ, ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ AI ਦਾ ਏਕੀਕਰਣ ਕਈ ਮਹੱਤਵਪੂਰਨ ਨੈਤਿਕ ਵਿਚਾਰਾਂ ਨੂੰ ਜਨਮ ਦਿੰਦਾ ਹੈ। ਇਹਨਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹਨ:

• ਐਲਗੋਰਿਦਮਿਕ ਪੱਖਪਾਤ: AI ਮਾਡਲ ਮੌਜੂਦਾ ਸਿਹਤ ਅਸਮਾਨਤਾਵਾਂ ਨੂੰ ਸਥਾਈ ਬਣਾ ਸਕਦੇ ਹਨ ਅਤੇ ਵਧਾ ਸਕਦੇ ਹਨ ਜੇਕਰ ਉਹਨਾਂ ਨੂੰ ਅਜਿਹੇ ਡੇਟਾ ‘ਤੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਜੋ ਆਬਾਦੀ ਦੀ ਵਿਭਿੰਨਤਾ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਨਹੀਂ ਦਰਸਾਉਂਦਾ। ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ AI ਮਾਡਲ ਨਿਰਪੱਖ ਅਤੇ ਪੱਖਪਾਤ ਤੋਂ ਰਹਿਤ ਹੋਣ।
• ਡੇਟਾ ਗੁਪਤਤਾ: ਮਰੀਜ਼ ਆਪਣੀ ਸਿਹਤ ਡੇਟਾ ਦੀ ਗੁਪਤਤਾ ਬਾਰੇ ਚਿੰਤਤ ਹੋ ਸਕਦੇ ਹਨ, ਖਾਸ ਤੌਰ ‘ਤੇ ਜੇਕਰ ਇਸਦੀ ਵਰਤੋਂ AI ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਸੂਚਿਤ ਸਹਿਮਤੀ ਪ੍ਰਾਪਤ ਕਰਨਾ ਅਤੇ ਮਰੀਜ਼ ਡੇਟਾ ਦੀ ਰੱਖਿਆ ਕਰਨਾ ਜ਼ਰੂਰੀ ਹੈ।
• ਪਾਰਦਰਸ਼ਤਾ ਅਤੇ ਵਿਆਖਿਆਯੋਗਤਾ: AI ਮਾਡਲ ਪਾਰਦਰਸ਼ੀ ਅਤੇ ਵਿਆਖਿਆਯੋਗ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ, ਤਾਂ ਜੋ ਮਰੀਜ਼ ਇਹ ਸਮਝ ਸਕਣ ਕਿ ਉਹ ਆਪਣੀਆਂ ਸਿਫ਼ਾਰਸ਼ਾਂ ‘ਤੇ ਕਿਵੇਂ ਪਹੁੰਚਦੇ ਹਨ। ਇਹ AI ਵਿੱਚ ਵਿਸ਼ਵਾਸ ਪੈਦਾ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ।
• ਜਵਾਬਦੇਹੀ: AI ਪ੍ਰਣਾਲੀਆਂ ਦੁਆਰਾ ਲਏ ਗਏ ਫੈਸਲਿਆਂ ਲਈ ਜਵਾਬਦੇਹੀ ਦੀਆਂ ਸਪਸ਼ਟ ਲਾਈਨਾਂ ਸਥਾਪਤ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਜੇਕਰ ਕੋਈ AI ਮਾਡਲ ਗਲਤ ਨਿਦਾਨ ਕਰਦਾ ਹੈ ਜਾਂ ਗੈਰ-ਢੁਕਵੇਂ ਇਲਾਜ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰਦਾ ਹੈ ਤਾਂ ਕੌਣ ਜ਼ਿੰਮੇਵਾਰ ਹੈ?

ਅੱਗੇ ਦਾ ਰਸਤਾ

ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ AI ਦੇ ਏਕੀਕਰਣ ਵਿੱਚ ਮਰੀਜ਼ ਦੀ ਦੇਖਭਾਲ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨ, ਲਾਗਤਾਂ ਨੂੰ ਘਟਾਉਣ ਅਤੇ ਸਿਹਤ ਸੰਭਾਲ ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਕੁਸ਼ਲਤਾ ਨੂੰ ਵਧਾਉਣ ਦੀ ਬਹੁਤ ਵੱਡੀ ਸਮਰੱਥਾ ਹੈ। ਹਾਲਾਂਕਿ, ਇਸ ਏਕੀਕਰਣ ਦੇ ਨਾਲ ਸਾਵਧਾਨੀ ਨਾਲ ਪੇਸ਼ ਆਉਣਾ ਅਤੇ ਸੰਭਾਵੀ ਜੋਖਮਾਂ ਅਤੇ ਚੁਣੌਤੀਆਂ ਨੂੰ ਹੱਲ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਇੱਕ ਜ਼ਿੰਮੇਵਾਰ ਅਤੇ ਨੈਤਿਕ ਪਹੁੰਚ ਅਪਣਾ ਕੇ, ਅਸੀਂ ਸਿਹਤ ਸੰਭਾਲ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ AI ਦੀ ਸ਼ਕਤੀ ਦਾ ਇਸਤੇਮਾਲ ਕਰ ਸਕਦੇ ਹਾਂ।