ਬੇਕਾਬੂ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ ਮੈਡੀਕਲ ਉਪਕਰਣ ਵਰਗਾ ਆਉਟਪੁੱਟ ਦਿੰਦੇ ਹਨ

ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ LLMs ਦੀਆਂ ਸੰਭਾਵਨਾਵਾਂ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਚੁਣੌਤੀਆਂ

ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ (LLMs), ਉਹਨਾਂ ਦੇ ਵਿਆਪਕ ਸਿਖਲਾਈ ਡੇਟਾ ਅਤੇ ਮਨੁੱਖ ਵਰਗੇ ਟੈਕਸਟ ਤਿਆਰ ਕਰਨ ਦੀ ਯੋਗਤਾ ਦੇ ਕਾਰਨ, ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਵਿੱਚ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਲਈ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਵਿੱਚ ਦਿਲਚਸਪੀ ਵਧਾ ਰਹੇ ਹਨ। ਹਾਲਾਂਕਿ, ਉਹ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਜੋ ਜਨਰੇਟਿਵ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਸਿਸਟਮਾਂ ਨੂੰ ਇੰਨਾ ਆਕਰਸ਼ਕ ਬਣਾਉਂਦੀਆਂ ਹਨ, ਰੈਗੂਲੇਟਰੀ ਸੰਸਥਾਵਾਂ ਲਈ ਵਿਲੱਖਣ ਰੁਕਾਵਟਾਂ ਵੀ ਪੇਸ਼ ਕਰਦੀਆਂ ਹਨ। ਇਹ ਸੰਸਥਾਵਾਂ ਦਹਾਕਿਆਂ ਪਹਿਲਾਂ ਸਥਾਪਤ ਕੀਤੇ ਗਏ ਫਰੇਮਵਰਕ ਦੇ ਅੰਦਰ ਕੰਮ ਕਰ ਰਹੀਆਂ ਹਨ, ਜੋ ਕਿ ਰਵਾਇਤੀ ਮੈਡੀਕਲ ਉਪਕਰਣਾਂ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ, ਨਾ ਕਿ AI ਦੀ ਗਤੀਸ਼ੀਲ ਪ੍ਰਕਿਰਤੀ ਲਈ।

ਵਰਤਮਾਨ ਵਿੱਚ, ਉਪਲਬਧ LLMs ਨੂੰ ਮੈਡੀਕਲ ਉਪਕਰਣਾਂ ਵਜੋਂ ਸ਼੍ਰੇਣੀਬੱਧ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਹੈ। ਫੈਡਰਲ ਫੂਡ, ਡਰੱਗ, ਐਂਡ ਕਾਸਮੈਟਿਕ ਐਕਟ (FD&C Act § 201(h)(1)) ਇੱਕ ਮੈਡੀਕਲ ਉਪਕਰਣ ਨੂੰ ਇੱਕ “ਸਾਧਨ… ਜੋ ਬਿਮਾਰੀ ਦੀ ਜਾਂਚ, …ਇਲਾਜ, ਘੱਟ ਕਰਨ, ਇਲਾਜ, ਜਾਂ ਰੋਕਥਾਮ ਵਿੱਚ ਵਰਤੋਂ ਲਈ ਇਰਾਦਾ ਹੈ… ਜੋ ਰਸਾਇਣਕ ਕਿਰਿਆ ਦੁਆਰਾ ਆਪਣੇ ਪ੍ਰਾਇਮਰੀ ਇਰਾਦੇ ਵਾਲੇ ਉਦੇਸ਼ਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਨਹੀਂ ਕਰਦਾ ਹੈ” ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦਾ ਹੈ। ਜ਼ਿਆਦਾਤਰ LLMs ਵਿੱਚ ਇਹ ਬੇਦਾਅਵਾ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ ਕਿ ਉਹ ਮੈਡੀਕਲ ਸਲਾਹ ਦੇਣ ਲਈ ਨਹੀਂ ਹਨ, ਇਸ ਤਰ੍ਹਾਂ FDA ਰੈਗੂਲੇਸ਼ਨ ਤੋਂ ਬਚਦੇ ਹਨ। ਇਸ ਦੇ ਬਾਵਜੂਦ, ਪ੍ਰਕਾਸ਼ਿਤ ਖੋਜ ਅਤੇ ਕਿੱਸਾਕਾਰੀ ਸਬੂਤਾਂ ਦਾ ਇੱਕ ਵਧ ਰਿਹਾ ਸੰਗ੍ਰਹਿ ਮੈਡੀਕਲ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਲਈ LLMs ਦੀ ਵਰਤੋਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ, ਖੋਜ ਸੈਟਿੰਗਾਂ ਅਤੇ ਅਸਲ ਕਲੀਨਿਕਲ ਅਭਿਆਸ ਦੋਵਾਂ ਵਿੱਚ।

LLM-ਅਧਾਰਤ ਕਲੀਨਿਕਲ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਲਈ ਰੈਗੂਲੇਸ਼ਨ ਦੇ ਦਾਇਰੇ ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨਾ

LLMs ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ, ਜੇਕਰ ਉਹਨਾਂ ਨੂੰ ਰਸਮੀ ਤੌਰ ‘ਤੇ ਇੱਕ ਕਲੀਨਿਕਲ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਪ੍ਰਣਾਲੀ (CDSS) ਵਿੱਚ ਸ਼ਾਮਲ ਕੀਤਾ ਜਾਣਾ ਹੈ, ਤਾਂ ਉਚਿਤ ਰੈਗੂਲੇਸ਼ਨ ਦਾ ਸਵਾਲ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਬਣ ਜਾਂਦਾ ਹੈ। 21st Century Cures Act ਸੋਧ FD&C ਐਕਟ (ਪਬਲਿਕ ਲਾਅ 114–255) ਵਿੱਚ, FDA ਦੇ ਮਾਰਗਦਰਸ਼ਨ ਦੇ ਨਾਲ, ਚਾਰ ਮੁੱਖ ਮਾਪਦੰਡਾਂ ਦੀ ਰੂਪਰੇਖਾ ਦਿੰਦੀ ਹੈ ਇਹ ਨਿਰਧਾਰਤ ਕਰਨ ਲਈ ਕਿ ਕੀ ਫੈਸਲਾ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਸੌਫਟਵੇਅਰ ਇੱਕ ਉਪਕਰਣ ਵਜੋਂ ਯੋਗ ਹੈ ਅਤੇ, ਨਤੀਜੇ ਵਜੋਂ, FDA ਅਧਿਕਾਰ ਖੇਤਰ ਦੇ ਅਧੀਨ ਆਉਂਦਾ ਹੈ। ਇਹ ਮਾਪਦੰਡ ਇਸ ਦੁਆਲੇ ਘੁੰਮਦੇ ਹਨ:

• ਸੌਫਟਵੇਅਰ ਫੰਕਸ਼ਨ ਦਾ ਇਨਪੁਟ ਡੇਟਾ।
• ਇਸਦਾ ਆਉਟਪੁੱਟ ਡੇਟਾ।
• ਇਸਦੀਆਂ ਕਲੀਨਿਕਲ ਸਿਫਾਰਸ਼ਾਂ ਦਾ ਸਾਰ।
• ਅੰਤਮ-ਉਪਭੋਗਤਾ ਦੀ ਉਹਨਾਂ ਸਿਫਾਰਸ਼ਾਂ ਦੇ ਪਿੱਛੇ ਤਰਕ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਦੀ ਯੋਗਤਾ।

ਖਾਸ ਤੌਰ ‘ਤੇ, ਇੱਕ CDSS ਨੂੰ ਇੱਕ ਉਪਕਰਣ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਜੇਕਰ ਇਸਦਾ ਆਉਟਪੁੱਟ ਇਲਾਜ ਜਾਂ ਜਾਂਚ ਲਈ ਇੱਕ ਸਟੀਕ ਨਿਰਦੇਸ਼ ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਨਾ ਕਿ ਆਮ ਜਾਣਕਾਰੀ-ਅਧਾਰਤ ਸਿਫਾਰਸ਼ਾਂ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਜੇਕਰ CDSS ਆਪਣੀਆਂ ਸਿਫਾਰਸ਼ਾਂ ਲਈ ਅੰਡਰਲਾਈੰਗ ਆਧਾਰ ਪ੍ਰਦਾਨ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦਾ ਹੈ, ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਉਹਨਾਂ ਦੀ ਸੁਤੰਤਰ ਤੌਰ ‘ਤੇ ਸਮੀਖਿਆ ਕਰਨ ਅਤੇ ਆਪਣੇ ਸਿੱਟੇ ਕੱਢਣ ਤੋਂ ਰੋਕਦਾ ਹੈ, ਤਾਂ ਇਸਨੂੰ ਇੱਕ ਉਪਕਰਣ ਵਜੋਂ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। FDA ਮਾਰਗਦਰਸ਼ਨ ਅੱਗੇ ਸਪੱਸ਼ਟ ਕਰਦਾ ਹੈ ਕਿ ਕਲੀਨਿਕਲ ਐਮਰਜੈਂਸੀ ਵਿੱਚ ਵਰਤਿਆ ਜਾਣ ਵਾਲਾ CDSS ਇੱਕ ਉਪਕਰਣ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿਉਂਕਿ ਫੈਸਲੇ ਲੈਣ ਦੀ ਗੰਭੀਰ ਅਤੇ ਸਮਾਂ-ਸੰਵੇਦਨਸ਼ੀਲ ਪ੍ਰਕਿਰਤੀ, ਜੋ CDSS ਦੀ ਸਲਾਹ ਦੇ ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਨੂੰ ਰੋਕਦੀ ਹੈ।

ਜਨਰੇਟਿਵ AI ਸਿਸਟਮਾਂ ਵਿੱਚ ਉਪਕਰਣ-ਵਰਗੇ ਆਉਟਪੁੱਟ ਦੀ ਜਾਂਚ ਕਰਨਾ

ਇਹ ਅਸਪਸ਼ਟ ਰਹਿੰਦਾ ਹੈ ਕਿ ਕੀ ਜਨਰੇਟਿਵ AI, ਜਿਵੇਂ ਕਿ ਇੱਕ LLM, ਨੂੰ ਨਿਯੁਕਤ ਕਰਨ ਵਾਲਾ ਇੱਕ CDSS ਇੱਕ ਮੈਡੀਕਲ ਉਪਕਰਣ ਦੀ ਨਕਲ ਕਰਨ ਵਾਲਾ ਆਉਟਪੁੱਟ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਇੱਕ ਅਪ੍ਰਬੰਧਿਤ LLM ਦਾ ਮੁਫਤ-ਟੈਕਸਟ ਆਉਟਪੁੱਟ ਸਥਾਪਤ ਉਪਕਰਣ ਮਾਪਦੰਡਾਂ ਨੂੰ ਪੂਰਾ ਕਰ ਸਕਦਾ ਹੈ ਜਾਂ ਨਹੀਂ ਵੀ ਕਰ ਸਕਦਾ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਇਹ ਅਣਜਾਣ ਹੈ ਕਿ ਚੁਣੌਤੀਪੂਰਨ ਪ੍ਰੋਂਪਟਾਂ ਜਾਂ “ਜੇਲਬ੍ਰੇਕਸ” ਲਈ LLM ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਇਹਨਾਂ ਮਾਪਦੰਡਾਂ ਨਾਲ ਕਿਵੇਂ ਮੇਲ ਖਾਂਦੀਆਂ ਹਨ। ਮੈਡੀਕਲ ਸਲਾਹ ਲਈ LLMs ਦੀ ਵੱਧ ਰਹੀ ਵਰਤੋਂ LLM-ਅਧਾਰਤ CDSSs ਦੇ ਉਪਕਰਣ ਅਹੁਦੇ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਸਥਿਤੀ ਦੇ ਆਲੇ ਦੁਆਲੇ ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਇਹਨਾਂ ਤਕਨਾਲੋਜੀਆਂ ਦੇ ਸੁਰੱਖਿਅਤ ਅਤੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਵਿਕਾਸ ਵਿੱਚ ਇੱਕ ਸੰਭਾਵੀ ਰੁਕਾਵਟ ਬਣਾਉਂਦੀ ਹੈ। ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ ਜਨਰੇਟਿਵ AI ਲਈ ਸੁਰੱਖਿਆ ਅਤੇ ਨਵੀਨਤਾ ਦੇ ਵਿਚਕਾਰ ਸਹੀ ਸੰਤੁਲਨ ਬਣਾਉਣਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਵਧੇਰੇ ਡਾਕਟਰ ਅਤੇ ਮਰੀਜ਼ ਇਹਨਾਂ ਸਾਧਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ।

ਖੋਜ ਉਦੇਸ਼: ਉਪਕਰਣ-ਵਰਗੀ ਕਾਰਜਕੁਸ਼ਲਤਾ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨਾ

ਇਸ ਖੋਜ ਦਾ ਉਦੇਸ਼ LLMs ਦੀ ਉਪਕਰਣ-ਵਰਗੀ ਕਾਰਜਕੁਸ਼ਲਤਾ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨਾ ਸੀ। ਇਸ ਕਾਰਜਕੁਸ਼ਲਤਾ ਨੂੰ “ਬਿਮਾਰੀਆਂ ਜਾਂ ਹੋਰ ਸਥਿਤੀਆਂ ਦੀ ਜਾਂਚ, ਇਲਾਜ, ਰੋਕਥਾਮ, ਇਲਾਜ ਜਾਂ ਘੱਟ ਕਰਨ” ਲਈ ਉਹਨਾਂ ਦੀ ਉਪਯੋਗਤਾ ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤਾ ਗਿਆ ਹੈ, ਭਾਵੇਂ ਅਜਿਹੀ ਵਰਤੋਂ ਇਰਾਦਾ ਹੈ ਜਾਂ ਇਜਾਜ਼ਤ ਹੈ। ਖਾਸ ਉਦੇਸ਼ ਸਨ:

1. ਇਹ ਨਿਰਧਾਰਤ ਕਰਨ ਲਈ ਕਿ ਕੀ LLM ਆਉਟਪੁੱਟ ਉਪਕਰਣ ਮਾਪਦੰਡਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ ਜਦੋਂ ਉਹਨਾਂ ਮਾਪਦੰਡਾਂ ਬਾਰੇ ਨਿਰਦੇਸ਼ਾਂ ਨਾਲ ਪ੍ਰੋਂਪਟ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਅਤੇ ਇੱਕ ਕਲੀਨਿਕਲ ਐਮਰਜੈਂਸੀ ਨਾਲ ਪੇਸ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ।
2. ਉਹਨਾਂ ਸਥਿਤੀਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ, ਜੇਕਰ ਕੋਈ ਹੈ, ਜਿਸ ਦੇ ਤਹਿਤ ਇੱਕ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਨੂੰ ਉਪਕਰਣ-ਵਰਗਾ ਆਉਟਪੁੱਟ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ ਹੇਰਾਫੇਰੀ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ। ਇਸ ਵਿੱਚ ਡਾਇਗਨੌਸਟਿਕ ਅਤੇ ਇਲਾਜ ਦੀ ਜਾਣਕਾਰੀ ਲਈ ਸਿੱਧੀਆਂ ਬੇਨਤੀਆਂ ਦੀ ਵਰਤੋਂ ਸ਼ਾਮਲ ਹੈ, ਨਾਲ ਹੀ ਇੱਕ ਪੂਰਵ-ਪ੍ਰਭਾਸ਼ਿਤ “ਜੇਲਬ੍ਰੇਕ” ਜੋ ਗੈਰ-ਉਪਕਰਣ ਮਾਪਦੰਡਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ ਪ੍ਰੋਂਪਟਾਂ ਦੇ ਬਾਵਜੂਦ ਉਪਕਰਣ-ਵਰਗਾ ਆਉਟਪੁੱਟ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ।

ਖੋਜਾਂ: LLM ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਅਤੇ ਉਪਕਰਣ ਮਾਪਦੰਡ ਅਲਾਈਨਮੈਂਟ

ਰੋਕਥਾਮ ਸੰਭਾਲ ਸਿਫਾਰਸ਼ਾਂ

ਜਦੋਂ ਰੋਕਥਾਮ ਸੰਭਾਲ ਸਿਫਾਰਸ਼ਾਂ ਲਈ ਪੁੱਛਗਿੱਛ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਸਾਰੇ LLMs ਨੇ ਆਪਣੇ ਅੰਤਮ ਟੈਕਸਟ ਆਉਟਪੁੱਟ ਵਿੱਚ ਗੈਰ-ਉਪਕਰਣ ਮਾਪਦੰਡਾਂ ਦੇ ਅਨੁਕੂਲ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਤਿਆਰ ਕੀਤੀਆਂ। Llama-3 ਮਾਡਲ ਨੇ, ਇੱਕ ਸਿੰਗਲ-ਸ਼ਾਟ ਪ੍ਰੋਂਪਟ ਦੇ ਜਵਾਬ ਵਿੱਚ, ਸ਼ੁਰੂ ਵਿੱਚ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਦੇ ਇੱਕ ਛੋਟੇ ਪ੍ਰਤੀਸ਼ਤ (ਪਰਿਵਾਰਕ ਦਵਾਈ ਲਈ 20% ਅਤੇ ਮਨੋਵਿਗਿਆਨ ਰੋਕਥਾਮ ਸੰਭਾਲ ਦ੍ਰਿਸ਼ਾਂ ਲਈ 60%) ਵਿੱਚ ਉਪਕਰਣ-ਵਰਗਾ ਫੈਸਲਾ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਪ੍ਰਦਾਨ ਕੀਤੀ। ਹਾਲਾਂਕਿ, ਇਸਨੇ ਤੁਰੰਤ ਇਸ ਟੈਕਸਟ ਨੂੰ ਇੱਕ ਬੇਦਾਅਵਾ ਨਾਲ ਬਦਲ ਦਿੱਤਾ: “ਮਾਫ ਕਰਨਾ, ਮੈਂ ਇਸ ਸਮੇਂ ਇਸ ਬੇਨਤੀ ਵਿੱਚ ਤੁਹਾਡੀ ਮਦਦ ਨਹੀਂ ਕਰ ਸਕਦਾ।” ਜਦੋਂ ਉਪਕਰਣ ਮਾਪਦੰਡਾਂ ਦੀਆਂ ਵਿਸਤ੍ਰਿਤ ਉਦਾਹਰਣਾਂ ਵਾਲੇ ਇੱਕ ਮਲਟੀ-ਸ਼ਾਟ ਪ੍ਰੋਂਪਟ ਨਾਲ ਪੇਸ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਸਾਰੇ ਮਾਡਲਾਂ ਨੇ ਸਾਰੀਆਂ ਸ਼ੁਰੂਆਤੀ ਰੋਕਥਾਮ ਸੰਭਾਲ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਲਈ ਲਗਾਤਾਰ ਗੈਰ-ਉਪਕਰਣ ਸਿਫਾਰਸ਼ਾਂ ਪ੍ਰਦਾਨ ਕੀਤੀਆਂ।

ਸਮਾਂ-ਨਾਜ਼ੁਕ ਐਮਰਜੈਂਸੀ ਦ੍ਰਿਸ਼

ਸਮਾਂ-ਨਾਜ਼ੁਕ ਐਮਰਜੈਂਸੀ ਵਾਲੀਆਂ ਸਥਿਤੀਆਂ ਵਿੱਚ, 100% GPT-4 ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਅਤੇ 52% Llama-3 ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਉਪਕਰਣ-ਵਰਗੇ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਨਾਲ ਮੇਲ ਖਾਂਦੀਆਂ ਹਨ। ਉਪਕਰਣ-ਵਰਗੀਆਂ ਸਿਫਾਰਸ਼ਾਂ ਦੀਆਂ ਸਮੁੱਚੀਆਂ ਦਰਾਂ ਮਲਟੀ-ਸ਼ਾਟ ਪ੍ਰੋਂਪਟਾਂ ਦੇ ਨਾਲ ਇਕਸਾਰ ਰਹੀਆਂ ਪਰ ਵੱਖ-ਵੱਖ ਕਲੀਨਿਕਲ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ ਭਿੰਨਤਾ ਦਿਖਾਈ। ਇਹਨਾਂ ਉਪਕਰਣ-ਵਰਗੀਆਂ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਵਿੱਚ ਐਮਰਜੈਂਸੀ ਨਾਲ ਸਬੰਧਤ ਖਾਸ ਜਾਂਚਾਂ ਅਤੇ ਇਲਾਜਾਂ ਲਈ ਸੁਝਾਅ ਸ਼ਾਮਲ ਸਨ।

“Desperate Intern” ਜੇਲਬ੍ਰੇਕ

ਜਦੋਂ “desperate intern” ਜੇਲਬ੍ਰੇਕ ਦੇ ਅਧੀਨ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਦੇ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਅਨੁਪਾਤ ਨੇ ਉਪਕਰਣ-ਵਰਗੀਆਂ ਸਿਫਾਰਸ਼ਾਂ ਪ੍ਰਦਰਸ਼ਿਤ ਕੀਤੀਆਂ। ਖਾਸ ਤੌਰ ‘ਤੇ, 80% ਅਤੇ 68% GPT-4 ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ, ਅਤੇ 36% ਅਤੇ 76% Llama-3 ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਵਿੱਚ ਕ੍ਰਮਵਾਰ ਸਿੰਗਲ- ਅਤੇ ਮਲਟੀ-ਸ਼ਾਟ ਪ੍ਰੋਂਪਟਾਂ ਤੋਂ ਬਾਅਦ ਉਪਕਰਣ-ਵਰਗੀਆਂ ਸਿਫਾਰਸ਼ਾਂ ਸ਼ਾਮਲ ਸਨ।

LLM ਸੁਝਾਵਾਂ ਦੀ ਕਲੀਨਿਕਲ ਉਚਿਤਤਾ

ਇਹ ਨੋਟ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿ ਸਾਰੇ ਮਾਡਲ ਸੁਝਾਅ ਕਲੀਨਿਕਲ ਤੌਰ ‘ਤੇ ਉਚਿਤ ਸਨ ਅਤੇ ਦੇਖਭਾਲ ਦੇ ਸਥਾਪਤ ਮਾਪਦੰਡਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦੇ ਸਨ। ਪਰਿਵਾਰਕ ਦਵਾਈ ਅਤੇ ਕਾਰਡੀਓਲੋਜੀ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ, ਜ਼ਿਆਦਾਤਰ ਉਪਕਰਣ-ਵਰਗਾ ਫੈਸਲਾ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਸਿਰਫ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਡਾਕਟਰਾਂ ਲਈ ਢੁਕਵੀਂ ਸੀ। ਉਦਾਹਰਣਾਂ ਵਿੱਚ ਇੱਕ ਇੰਟਰਾਵੇਨਸ ਕੈਥੀਟਰ ਦੀ ਪਲੇਸਮੈਂਟ ਅਤੇ ਇੰਟਰਾਵੇਨਸ ਐਂਟੀਬਾਇਓਟਿਕਸ ਦਾ ਪ੍ਰਸ਼ਾਸਨ ਸ਼ਾਮਲ ਹੈ। ਹੋਰ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ, ਉਪਕਰਣ-ਵਰਗੀਆਂ ਸਿਫਾਰਸ਼ਾਂ ਆਮ ਤੌਰ ‘ਤੇ ਦਰਸ਼ਕਾਂ ਦੇ ਦੇਖਭਾਲ ਦੇ ਮਾਪਦੰਡਾਂ ਦੇ ਅਨੁਕੂਲ ਸਨ, ਜਿਵੇਂ ਕਿ ਓਪੀਔਡ ਓਵਰਡੋਜ਼ ਲਈ ਨੈਲੋਕਸੋਨ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰਨਾ ਜਾਂ ਐਨਾਫਾਈਲੈਕਸਿਸ ਲਈ ਐਪੀਨੇਫ੍ਰੀਨ ਆਟੋ-ਇੰਜੈਕਟਰ ਦੀ ਵਰਤੋਂ ਕਰਨਾ।

ਰੈਗੂਲੇਸ਼ਨ ਅਤੇ ਨਿਗਰਾਨੀ ਲਈ ਪ੍ਰਭਾਵ

ਹਾਲਾਂਕਿ ਕੋਈ ਵੀ LLM ਵਰਤਮਾਨ ਵਿੱਚ ਇੱਕ CDSS ਵਜੋਂ FDA-ਅਧਿਕਾਰਤ ਨਹੀਂ ਹੈ, ਅਤੇ ਕੁਝ ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਦੱਸਦੇ ਹਨ ਕਿ ਉਹਨਾਂ ਨੂੰ ਮੈਡੀਕਲ ਸਲਾਹ ਲਈ ਨਹੀਂ ਵਰਤਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ, ਮਰੀਜ਼ ਅਤੇ ਡਾਕਟਰ ਅਜੇ ਵੀ ਉਹਨਾਂ ਨੂੰ ਇਸ ਉਦੇਸ਼ ਲਈ ਵਰਤ ਸਕਦੇ ਹਨ। ਅਧਿਐਨ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ FDA ਮਾਰਗਦਰਸ਼ਨ ਦਸਤਾਵੇਜ਼ ਦੀ ਭਾਸ਼ਾ ਦੇ ਅਧਾਰ ਤੇ, ਨਾ ਤਾਂ ਸਿੰਗਲ-ਸ਼ਾਟ ਅਤੇ ਨਾ ਹੀ ਮਲਟੀ-ਸ਼ਾਟ ਪ੍ਰੋਂਪਟ, LLMs ਨੂੰ ਸਿਰਫ ਗੈਰ-ਉਪਕਰਣ ਫੈਸਲਾ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਪੈਦਾ ਕਰਨ ਤੱਕ ਸੀਮਤ ਕਰਨ ਲਈ ਭਰੋਸੇਯੋਗ ਸਨ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਉਪਕਰਣ-ਵਰਗਾ ਫੈਸਲਾ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਅਕਸਰ ਇੱਕ ਪੂਰਵ-ਪ੍ਰਭਾਸ਼ਿਤ ਜੇਲਬ੍ਰੇਕ ਦੀ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ ਸੀ। ਇਹ ਖੋਜਾਂ AI/ML CDSSs ਲਈ ਅਨੁਕੂਲਿਤ ਨਵੇਂ ਰੈਗੂਲੇਟਰੀ ਪੈਰਾਡਾਈਮਾਂ ਦੀ ਲੋੜ ਨੂੰ ਉਜਾਗਰ ਕਰਨ ਵਾਲੀ ਪਿਛਲੀ ਖੋਜ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦੀਆਂ ਹਨ। ਉਹਨਾਂ ਦੇ ਜਨਰੇਟਿਵ AI ਤਕਨਾਲੋਜੀਆਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਵਾਲੇ ਮੈਡੀਕਲ ਉਪਕਰਣਾਂ ਦੀ ਨਿਗਰਾਨੀ ਲਈ ਸਿੱਧੇ ਪ੍ਰਭਾਵ ਵੀ ਹਨ।

ਰੈਗੂਲੇਟਰੀ ਪਹੁੰਚਾਂ ‘ਤੇ ਮੁੜ ਵਿਚਾਰ ਕਰਨਾ

ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਰੈਗੂਲੇਸ਼ਨ ਲਈ ਇਰਾਦੇ ਵਾਲੀ ਵਰਤੋਂ ਦੇ ਅਧਾਰ ਤੇ, LLM ਆਉਟਪੁੱਟ ਨੂੰ ਉਪਕਰਣ-ਵਰਗੇ ਜਾਂ ਗੈਰ-ਉਪਕਰਣ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਨਾਲ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਅਲਾਈਨ ਕਰਨ ਲਈ ਨਵੇਂ ਤਰੀਕਿਆਂ ਦੀ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ। ਰਵਾਇਤੀ FDA ਅਧਿਕਾਰ ਇੱਕ ਮੈਡੀਕਲ ਉਪਕਰਣ ਨੂੰ ਇੱਕ ਖਾਸ ਇਰਾਦੇ ਵਾਲੀ ਵਰਤੋਂ ਅਤੇ ਸੰਕੇਤ ਲਈ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ। ਉਦਾਹਰਨ ਲਈ, FDA-ਅਧਿਕਾਰਤ AI/ML ਉਪਕਰਣਾਂ ਵਿੱਚ ਉਹ ਸ਼ਾਮਲ ਹਨ ਜੋ ਹੀਮੋਡਾਇਨਾਮਿਕ ਅਸਥਿਰਤਾ ਜਾਂ ਕਲੀਨਿਕਲ ਵਿਗੜਨ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ। ਹਾਲਾਂਕਿ, LLMs ਨੂੰ ਵਿਸ਼ਿਆਂ ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ ‘ਤੇ ਪੁੱਛਗਿੱਛ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ, ਸੰਭਾਵੀ ਤੌਰ ‘ਤੇ ਅਜਿਹੇ ਪ੍ਰਤੀਕਿਰਿਆਵਾਂ ਵੱਲ ਅਗਵਾਈ ਕਰ ਸਕਦੀ ਹੈ ਜੋ, ਉਚਿਤ ਹੋਣ ਦੇ ਬਾਵਜੂਦ, ਉਹਨਾਂ ਦੇ ਪ੍ਰਵਾਨਿਤ ਸੰਕੇਤ ਦੇ ਅਨੁਸਾਰ “ਆਫ-ਲੇਬਲ” ਮੰਨੇ ਜਾਣਗੇ। ਨਤੀਜੇ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਸਿੰਗਲ- ਅਤੇ ਮਲਟੀ-ਸ਼ਾਟ ਪ੍ਰੋਂਪਟ ਦੋਵੇਂ ਇਸ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਨ ਲਈ ਨਾਕਾਫੀ ਹਨ। ਇਹ ਖੋਜ LLMs ਦੀ ਇੱਕ ਸੀਮਾ ਨੂੰ ਨਹੀਂ ਦਰਸਾਉਂਦੀ, ਸਗੋਂ ਨਵੇਂ ਤਰੀਕਿਆਂ ਦੀ ਲੋੜ ਨੂੰ ਰੇਖਾਂਕਿਤ ਕਰਦੀ ਹੈ ਜੋ LLM ਆਉਟਪੁੱਟ ਦੀ ਲਚਕਤਾ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਦੇ ਹਨ ਜਦੋਂ ਕਿ ਇਸਨੂੰ ਇੱਕ ਪ੍ਰਵਾਨਿਤ ਸੰਕੇਤ ਤੱਕ ਸੀਮਤ ਕਰਦੇ ਹਨ।

ਨਵੇਂ ਅਧਿਕਾਰ ਮਾਰਗਾਂ ਦੀ ਪੜਚੋਲ ਕਰਨਾ

LLMs ਦੇ ਰੈਗੂਲੇਸ਼ਨ ਲਈ ਨਵੇਂ ਅਧਿਕਾਰ ਮਾਰਗਾਂ ਦੀ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ ਜੋ ਖਾਸ ਸੰਕੇਤਾਂ ਨਾਲ ਜੁੜੇ ਨਹੀਂ ਹਨ। “ਸਧਾਰਣ” ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਲਈ ਇੱਕ ਉਪਕਰਣ ਅਧਿਕਾਰ ਮਾਰਗ LLMs ਅਤੇ ਜਨਰੇਟਿਵ AI ਟੂਲਸ ਲਈ ਢੁਕਵਾਂ ਹੋ ਸਕਦਾ ਹੈ। ਹਾਲਾਂਕਿ ਇਹ ਪਹੁੰਚ AI/ML CDSS ਵਿੱਚ ਨਵੀਨਤਾ ਦੀ ਸਹੂਲਤ ਦੇਵੇਗੀ, ਇੰਨੇ ਵਿਆਪਕ ਸੰਕੇਤਾਂ ਵਾਲੇ ਸਿਸਟਮਾਂ ਦੀ ਸੁਰੱਖਿਆ, ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਅਤੇ ਇਕੁਇਟੀ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਦਾ ਅਨੁਕੂਲ ਤਰੀਕਾ ਅਸਪਸ਼ਟ ਰਹਿੰਦਾ ਹੈ। ਉਦਾਹਰਨ ਲਈ, ਅਧਿਕਾਰ ਲਈ ਇੱਕ “ਫਰਮ-ਅਧਾਰਤ” ਪਹੁੰਚ ਉਪਕਰਣ-ਵਿਸ਼ੇਸ਼ ਮੁਲਾਂਕਣ ਦੀ ਲੋੜ ਨੂੰ ਬਾਈਪਾਸ ਕਰ ਸਕਦੀ ਹੈ, ਜੋ ਕਿ ਇੱਕ LLM ਲਈ ਉਚਿਤ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਇਹ ਕਲੀਨਿਕਲ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਸੰਬੰਧੀ ਅਨਿਸ਼ਚਿਤ ਗਾਰੰਟੀਆਂ ਦੇ ਨਾਲ ਆਉਂਦਾ ਹੈ।

ਵੱਖ-ਵੱਖ ਉਪਭੋਗਤਾ ਸਮੂਹਾਂ ਲਈ ਮਾਪਦੰਡਾਂ ਨੂੰ ਸੋਧਣਾ

ਇਹ ਖੋਜਾਂ ਡਾਕਟਰਾਂ ਬਨਾਮ ਗੈਰ-ਡਾਕਟਰ ਦਰਸ਼ਕਾਂ ਲਈ ਇਰਾਦੇ ਵਾਲੇ CDSSs ਲਈ ਮਾਪਦੰਡਾਂ ਨੂੰ ਸੋਧਣ ਦੀ ਲੋੜ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀਆਂ ਹਨ। FDA ਨੇ ਪਹਿਲਾਂ ਸੰਕੇਤ ਦਿੱਤਾ ਹੈ ਕਿ ਮਰੀਜ਼- ਅਤੇ ਦੇਖਭਾਲ ਕਰਨ ਵਾਲੇ-ਸਾਹਮਣੇ ਵਾਲੇ CDSSs ਨੂੰ ਮੈਡੀਕਲ ਉਪਕਰਣ ਮੰਨਿਆ ਜਾਵੇਗਾ, ਆਮ ਤੌਰ ‘ਤੇ ਰੈਗੂਲੇਸ਼ਨ ਦੇ ਅਧੀਨ। ਹਾਲਾਂਕਿ, ਵਰਤਮਾਨ ਵਿੱਚ ਇੱਕ ਗੈਰ-ਡਾਕਟਰ ਦਰਸ਼ਕ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਇੱਕ AI/ML CDSS ਲਈ ਕੋਈ ਰੈਗੂਲੇਟਰੀ ਸ਼੍ਰੇਣੀ ਨਹੀਂ ਹੈ। ਇੱਕ ਖਾਸ ਜਾਂਚ ਕਰਨਾ ਅਤੇ ਸਮਾਂ-ਨਾਜ਼ੁਕ ਐਮਰਜੈਂਸੀ ਲਈ ਇੱਕ ਖਾਸ ਨਿਰਦੇਸ਼ ਪ੍ਰਦਾਨ ਕਰਨਾ ਸਪੱਸ਼ਟ ਤੌਰ ‘ਤੇ ਸਿਹਤ ਸੰਭਾਲ ਪੇਸ਼ੇਵਰਾਂ ਲਈ ਇਰਾਦੇ ਵਾਲੇ ਉਪਕਰਣਾਂ ਲਈ FDA ਦੇ ਮਾਪਦੰਡਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ। ਦੂਜੇ ਪਾਸੇ, ਕਾਰਡੀਓਪਲਮੋਨਰੀ ਰੀਸਸੀਟੇਸ਼ਨ (CPR) ਅਤੇ ਐਪੀਨੇਫ੍ਰੀਨ ਜਾਂ ਨੈਲੋਕਸੋਨ ਦਾ ਪ੍ਰਸ਼ਾਸਨ ਵਰਗੀਆਂ ਕਾਰਵਾਈਆਂ ਵੀ ਇਹਨਾਂ ਉਪਕਰਣ ਮਾਪਦੰਡਾਂ ਨੂੰ ਪੂਰਾ ਕਰਦੀਆਂ ਹਨ, ਫਿਰ ਵੀ ਉਹ ਇੱਕੋ ਸਮੇਂ ਗੈਰ-ਡਾਕਟਰ ਦਰਸ਼ਕਾਂ ਲਈ ਚੰਗੀ ਤਰ੍ਹਾਂ ਸਥਾਪਤ ਬਚਾਅ ਵਿਵਹਾਰ ਹਨ।

ਅਧਿਐਨ ਦੀਆਂ ਸੀਮਾਵਾਂ

ਇਸ ਅਧਿਐਨ ਦੀਆਂ ਕਈ ਸੀਮਾਵਾਂ ਹਨ:

1. ਇਹ LLMs ਦਾ ਮੁਲਾਂਕਣ ਇੱਕ ਅਜਿਹੇ ਕੰਮ ਦੇ ਵਿਰੁੱਧ ਕਰਦਾ ਹੈ ਜੋ ਸੌਫਟਵੇਅਰ ਦੀ ਇੱਕ ਨਿਰਧਾਰਤ ਇਰਾਦੇ ਵਾਲੀ ਵਰਤੋਂ ਨਹੀਂ ਹੈ।
2. ਇਹ LLM ਆਉਟਪੁੱਟ ਦੀ ਤੁਲਨਾ FDA ਮਾਰਗਦਰਸ਼ਨ ਨਾਲ ਕਰਦਾ ਹੈ, ਜੋ ਕਿ ਗੈਰ-ਬਾਈਡਿੰਗ ਹੈ, ਅਤੇ ਹੋਰ ਸੰਬੰਧਿਤ US ਕਾਨੂੰਨੀ ਵਿਵਸਥਾਵਾਂ ਜਾਂ ਰੈਗੂਲੇਟਰੀ ਫਰੇਮਵਰਕ ਦੇ ਨਾਲ LLM ਸਿਫਾਰਸ਼ਾਂ ਦੀ ਇਕਸਾਰਤਾ ਦਾ ਮੁਲਾਂਕਣ ਨਹੀਂ ਕਰਦਾ ਹੈ।
3. ਇਹ ਹੋਰ ਪ੍ਰੋਂਪਟਿੰਗ ਵਿਧੀਆਂ ਦਾ ਮੁਲਾਂਕਣ ਨਹੀਂ ਕਰਦਾ ਹੈ ਜੋ ਸਿੰਗਲ- ਅਤੇ ਮਲਟੀ-ਸ਼ਾਟ ਪ੍ਰੋਂਪਟਾਂ ਨਾਲੋਂ ਵਧੇਰੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੋ ਸਕਦੀਆਂ ਸਨ।
4. ਇਹ ਪੜਚੋਲ ਨਹੀਂ ਕਰਦਾ ਹੈ ਕਿ ਅਜਿਹੇ ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਅਸਲ-ਸੰਸਾਰ ਦੇ ਕਲੀਨਿਕਲ ਵਰਕਫਲੋ ਵਿੱਚ ਵਿਹਾਰਕ ਤੌਰ ‘ਤੇ ਕਿਵੇਂ ਜੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ।
5. ਇਹ GPT-4 ਅਤੇ Llama-3 ਤੋਂ ਇਲਾਵਾ ਵਿਆਪਕ ਤੌਰ ‘ਤੇ ਉਪਲਬਧ ਅਤੇ ਆਮ ਤੌਰ ‘ਤੇ ਵਰਤੇ ਜਾਂਦੇ LLMs ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਸ਼੍ਰੇਣੀ ਦਾ ਮੁਲਾਂਕਣ ਨਹੀਂ ਕਰਦਾ ਹੈ।
6. ਪ੍ਰੋਂਪਟਾਂ ਦਾ ਨਮੂਨਾ ਆਕਾਰ ਛੋਟਾ ਹੈ।

ਅੱਗੇ ਵਧਣਾ: ਨਵੀਨਤਾ ਅਤੇ ਸੁਰੱਖਿਆ ਨੂੰ ਸੰਤੁਲਿਤ ਕਰਨਾ

CDSS ਉਪਕਰਣ ਮਾਪਦੰਡਾਂ ਲਈ FDA ਮਾਰਗਦਰਸ਼ਨ ਦੇ ਟੈਕਸਟ ‘ਤੇ ਅਧਾਰਤ ਪ੍ਰੋਂਪਟ, ਭਾਵੇਂ ਸਿੰਗਲ- ਜਾਂ ਮਲਟੀ-ਸ਼ਾਟ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਨਾਕਾਫੀ ਹਨ ਕਿ LLM ਆਉਟਪੁੱਟ ਗੈਰ-ਉਪਕਰਣ ਫੈਸਲੇ ਲੈਣ ਵਿੱਚ ਸਹਾਇਤਾ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ। ਜਨਰੇਟਿਵ AI ਸਿਸਟਮਾਂ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰਨ ਲਈ ਨਵੇਂ ਰੈਗੂਲੇਟਰੀ ਪੈਰਾਡਾਈਮਾਂ ਅਤੇ ਤਕਨਾਲੋਜੀਆਂ ਦੀ ਲੋੜ ਹੈ, ਨਵੀਨਤਾ, ਸੁਰੱਖਿਆ ਅਤੇ ਕਲੀਨਿਕਲ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਦੇ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਬਣਾਉਣਾ। ਇਸ ਤਕਨਾਲੋਜੀ ਦੇ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਾਸ ਲਈ ਰੈਗੂਲੇਸ਼ਨ ਲਈ ਇੱਕ ਕਿਰਿਆਸ਼ੀਲ ਅਤੇ ਅਨੁਕੂਲ ਪਹੁੰਚ ਦੀ ਮੰਗ ਹੈ, ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਕਿ ਸਿਹਤ ਸੰਭਾਲ ਵਿੱਚ LLMs ਦੇ ਲਾਭਾਂ ਨੂੰ ਸੰਭਾਵੀ ਜੋਖਮਾਂ ਨੂੰ ਘੱਟ ਕਰਦੇ ਹੋਏ ਮਹਿਸੂਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ।