चीनमध्ये DeepSeek AI चा धोका?

चीनमधील डॉक्टरांचा इशारा: DeepSeek AI चा रुग्णालयांमध्ये ‘अति जलद’ वापर

चीनमधील रुग्णालयांमध्ये DeepSeek AI चा वापर झपाट्याने वाढत आहे. या AI मॉडेलला 300 हून अधिक आरोग्य सेवा संस्थांनी स्वीकारले आहे. मात्र, चीनच्या वैद्यकीय समुदायाकडून धोक्याचा इशारा देण्यात आला आहे. सिंग्हुआ युनिव्हर्सिटी कॉलेज ऑफ मेडिसिनचे संस्थापक डीन हुआंग तियान्यिन यांच्या नेतृत्वाखाली JAMA मध्ये प्रकाशित झालेल्या एका संशोधन अहवालात म्हटले आहे की, DeepSeek च्या मोठ्या भाषिक मॉडेलची (Large Language Model) क्लिनिकल सेटिंगमध्ये झपाट्याने अंमलबजावणी “अति जलद आणि लवकर” असू शकते.

चीनच्या आरोग्य सेवा क्षेत्रात आर्टिफिशियल इंटेलिजन्स (Artificial Intelligence) किती वेगाने बदल घडवत आहे, हे आकडेवारीवरून दिसून येते. तृतीय-स्तरीय रुग्णालयांमध्ये DeepSeek ची तैनाती केवळ निदान सहाय्यापुरती मर्यादित नाही, तर रुग्णालयाच्या व्यवस्थापनात, संशोधनाला प्रोत्साहन देण्यासाठी आणि रुग्णांच्या देखरेखेसाठीही याचा वापर होत आहे.

कंपनीच्या मॉडेलने उल्लेखनीय कार्यक्षमतेत वाढ दर्शविली आहे, ज्यात रुग्णांच्या फॉलोअपमध्ये 40 पटीने सुधारणा झाली आहे. DeepSeek हे ओपन-सोर्स आणि कमी खर्चातील AI प्रणाली असल्याने, ते मोठ्या प्रमाणावर वापरले जात आहे.

LLM DeepSeek-V3 आणि DeepSeek-R1 हे चीनमधील गुंतवणूक कंपनीच्या उपकंपनीने विकसित केले आहेत. कमी खर्च आणि ओपन-सोर्स असल्यामुळे LLM वापरणे सोपे झाले आहे.

चीनमधील आरोग्य सेवा कंपन्यांनी हे मॉडेल त्यांच्या कामकाजात झपाट्याने समाविष्ट केले आहे. mainland China मधील 30 हून अधिक आरोग्य सेवा कंपन्यांनी त्यांच्या कार्यात AI चा समावेश केला आहे, ज्यात Hengrui Pharmaceuticals Co Ltd आणि Yunnan Baiyao Group Co Ltd सारख्या कंपन्यांचा समावेश आहे.

बेरी जेनोमिक्स कंपनी लिमिटेडच्या शेअर्समध्ये 71% पेक्षा जास्त वाढ झाली आहे, कारण कंपनीने ऑपरेशनल कार्यक्षमता सुधारण्यासाठी आणि खर्च कमी करण्यासाठी अनेक ओपन-सोर्स AI मॉडेल स्वीकारले आहेत.

धोक्याचे संकेत: क्लिनिकल सुरक्षिततेची तपासणी

DeepSeek AI बद्दल उत्साह असला तरी, JAMA मधील संशोधन अहवालात धोक्याचे संकेत देण्यात आले आहेत. नेत्ररोग प्राध्यापक आणि सिंगापूर राष्ट्रीय नेत्र केंद्राचे माजी वैद्यकीय संचालक हुआंग तियान्यिन यांनी त्यांच्या सहकार्‍यांसोबत काही महत्त्वाचे मुद्दे निदर्शनास आणले आहेत.

संशोधकांनी इशारा दिला आहे की, DeepSeek “तार्किकदृष्ट्या बरोबर वाटणारे, पण प्रत्यक्षात चुकीचे निष्कर्ष” देण्याची शक्यता असते, ज्यामुळे “गंभीर क्लिनिकल धोके” निर्माण होऊ शकतात. या घटनेला AI मधील ‘भ्रम’ (hallucination) म्हणतात. वैद्यकीय क्षेत्रात हे विशेषतः धोकादायक आहे, कारण अचूकता जीव वाचवण्यासाठी महत्त्वाची असते.

संशोधन टीमने यावर जोर दिला आहे की, वैद्यकीय व्यावसायिक DeepSeek च्या निष्कर्षांवर जास्त अवलंबून राहू शकतात किंवा त्यांच्यावर प्रश्न न करता विश्वास ठेवू शकतात, ज्यामुळे निदान त्रुटी किंवा उपचारांमध्ये bias निर्माण होऊ शकतात. अधिक सावधगिरी बाळगणारे डॉक्टर AI च्या निष्कर्षांची पडताळणी करण्याच्या ओझ्याखाली दबले जाऊ शकतात, विशेषत: वेळेच्या दृष्टीने संवेदनशील असलेल्या क्लिनिकल परिस्थितीत.

पायाभूत सुविधांमधील आव्हान आणि सुरक्षा त्रुटी

क्लिनिकल अचूकतेच्या समस्यांव्यतिरिक्त, चीनमधील रुग्णालयांमध्ये DeepSeek AI च्या जलद तैनातीमुळे सायबर सुरक्षा धोके वाढले आहेत. अनेक रुग्णालये सुरक्षा आणि गोपनीयतेचे धोके कमी करण्यासाठी खाजगी आणि साइटवर (on-site) तैनाती निवडतात. मात्र, संशोधनात म्हटले आहे की, हा दृष्टीकोन “सुरक्षिततेची जबाबदारी वैयक्तिक आरोग्य सेवा संस्थांकडे सोपवतो”, ज्यांच्याकडे सर्वसमावेशक सायबर सुरक्षा पायाभूत सुविधांचा अभाव असतो.

नुकत्याच झालेल्या सायबर सुरक्षा संशोधनामुळे चिंता वाढली आहे. अभ्यासातून असे दिसून आले आहे की, DeepSeek चा वापर सायबर गुन्हेगारांकडून होण्याची शक्यता इतर AI मॉडेलच्या तुलनेत 11 पट जास्त आहे, जे त्याच्या संरचनेतील महत्त्वपूर्ण त्रुटी दर्शवते. सिस्कोच्या अभ्यासात असे आढळून आले की, DeepSeek सुरक्षा मूल्यांकनात धोकादायक सूचनांना (prompts) प्रतिबंध करण्यात अयशस्वी ठरला, ज्यात सायबर गुन्हेगारी आणि चुकीच्या माहितीशी संबंधित सूचनांचा समावेश होता.

DeepSeek च्या ओपन-सोर्स स्वरूपामुळे प्रवेश सुलभ झाला असला, तरी त्यामुळे विशिष्ट सुरक्षाविषयक आव्हाने निर्माण झाली आहेत. DeepSeek ची ओपन-सोर्स रचना कोणालाही ॲप्लिकेशन डाउनलोड आणि सुधारित करण्याची परवानगी देते. वापरकर्ते केवळ त्याची कार्यक्षमताच बदलू शकत नाहीत, तर त्याचे सुरक्षा यंत्रणेतही बदल करू शकतात, ज्यामुळे गैरवापर होण्याचा धोका वाढतो.

वास्तविक जगातील परिणाम: क्लिनिकल आघाडीवरील कथा

चीनमधील रुग्णालयांमध्ये DeepSeek AI च्या एकत्रीकरणामुळे डॉक्टर-रुग्ण संबंधांमध्ये बदल घडून येत आहेत. Douyin (टिकटॉकचे चीनी व्हर्जन) वरील एका व्हायरल व्हिडिओमध्ये, एक निराश डॉक्टर एका रुग्णाने DeepSeek वापरून प्रश्न विचारल्यानंतर उपचार करत आहे. तेव्हा त्याला समजले की वैद्यकीय मार्गदर्शक तत्त्वे (guidelines) अपडेट झाली आहेत आणि AI बरोबर आहे.

हा किस्सा आरोग्य सेवा क्षेत्रात AI चा वापर करण्याच्या संभाव्यतेचे आणि धोक्यांचे वर्णन करतो. जरी हे तंत्रज्ञान वैद्यकीय पद्धती अद्ययावत ठेवण्यास मदत करू शकत असले, तरी ते पारंपरिक वैद्यकीय श्रेणीबद्धतेला आव्हान देते आणि क्लिनिकल निर्णयांमध्ये अनिश्चिततेचा एक नवीन स्रोत सादर करते.

धोक्यांची परिपूर्ण Blend

संशोधकांचे म्हणणे आहे की, चीनमधील आरोग्यसेवेची विशिष्ट परिस्थिती क्लिनिकल सुरक्षिततेसाठी धोक्यांची ‘परिपूर्ण Blend’ (perfect storm) तयार करत आहे. प्राथमिक आरोग्य सेवा पायाभूत सुविधांमधील त्रुटी आणि स्मार्टफोनच्या उच्च वापरामुळे हे घडत आहे, असे त्यांचे मत आहे. ते पुढे म्हणतात, “ज्या दुर्बळ घटकांना वैद्यकीय मदतीची जास्त गरज आहे, ते AI-आधारित आरोग्य सल्ल्यांपर्यंत पोहोचू शकतात, परंतु त्यांच्याकडे सुरक्षित अंमलबजावणीसाठी आवश्यक असलेल्या क्लिनिकल देखरेखेचा अभाव असतो.”

आरोग्य सेवा AI च्या वापराचे लोकशाहीकरण आरोग्य सेवा समानतेसाठी फायदेशीर असले, तरी मर्यादित संसाधनांमध्ये काळजीची गुणवत्ता आणि सुरक्षिततेबद्दल प्रश्न निर्माण होतात. अशा परिस्थितीत योग्य देखरेख ठेवणे आवश्यक आहे.

भू-राजकीय परिणाम आणि डेटा गोपनीयता

चीनमधील रुग्णालयांमध्ये DeepSeek AI चा झपाट्याने होणारा वापर आंतरराष्ट्रीय स्तरावर दुर्लक्षित राहिलेला नाही. काही देशांनी सावधगिरी बाळगली आहे. DeepSeek ॲपच्या डेटा व्यवस्थापनाच्या पद्धती राष्ट्रीय सुरक्षेसाठी धोकादायक ठरू शकतात, या चिंतेने इटली, तैवान, ऑस्ट्रेलिया आणि दक्षिण कोरियाने सरकारी उपकरणांवर या ॲपचा वापर ब्लॉक केला आहे किंवा त्यावर बंदी घातली आहे.

डेटा संकलन आणि साठवणुकीबाबत गोपनीयता तज्ञांनी चिंता व्यक्त केली आहे. हे चीनी चॅटबॉट राष्ट्रीय सुरक्षेसाठी धोकादायक ठरू शकते, कारण “एकत्रित केलेला डेटा लोकसंख्येची माहिती किंवा वापरकर्त्याच्या वर्तनाबद्दल माहिती गोळा करण्यासाठी वापरला जाऊ शकतो, ज्याचा उपयोग अधिक प्रभावी फिशिंग हल्ले (phishing attacks) किंवा इतर दुर्भावनापूर्ण (malicious) कामांसाठी केला जाऊ शकतो.”

नियामक त्रुटी

मोठ्या प्रमाणावर वापर असूनही, चीनमधील नियामक यंत्रणा आरोग्य सेवा क्षेत्रात AI च्या जलद तैनातीशी जुळवून घेण्यासाठी धडपडत आहे. सध्याच्या नियमांनुसार, AI मानवी निदानाच्या निर्णयांना मदत करते, पण त्यांची जागा घेत नाही. त्यामुळे आरोग्य सेवांमध्ये AI चा वापर जपून करायला हवा, असे म्हटले जाते.

विशेष म्हणजे, चीनच्या राष्ट्रीय मूलभूत आरोग्य विमा योजनेत (National Basic Medical Insurance) एकाही वैद्यकीय AI उत्पादनाचा समावेश नाही, जे या तंत्रज्ञानाच्या विश्वासार्हतेबद्दल अजूनही शंका असल्याचे दर्शवते. DeepSeek AI ची चीनमधील रुग्णालयांमधील कथा जागतिक स्तरावर AI च्या स्वीकारामध्ये असलेल्या व्यापक आव्हानांचे प्रतिनिधित्व करते.

हे तंत्रज्ञान आरोग्य सेवा सुधारण्याची आणि खर्च कमी करण्याची प्रचंड क्षमता देते, परंतु वैद्यकीय संशोधकांनी दिलेला इशारा सावधगिरी बाळगण्याची गरज दर्शवतो. तंत्रज्ञानाचा विकास करत असताना रुग्णांच्या सुरक्षिततेला प्राधान्य देणे आवश्यक आहे.

नुकत्याच झालेल्या अभ्यासात असे दिसून आले आहे की, DeepSeek मॉडेल काही विशिष्ट मापदंडांमध्ये (metrics) अचूक आहे. उदाहरणार्थ, लिम्फोमा (lymphoma) असलेल्या रुग्णांसाठी Deauville स्कोअरिंगमध्ये ते उपयुक्त आहे. तरीही मानवी डॉक्टरांच्या तुलनेत यात बरीच तफावत आहे. अचूकतेतील फरक, सुरक्षा त्रुटी आणि नियामक आव्हाने दर्शवतात की सध्याचा वापर खूप जलद आणि लवकर झालेला आहे.

निष्कर्ष: एक महत्त्वपूर्ण क्षण

चीन ‘स्मार्ट हॉस्पिटल्स’ (Smart Hospitals) आणि AI-आधारित आरोग्य सेवा परिवर्तनाला प्रोत्साहन देत आहे. चीनमधील रुग्णालयांमध्ये DeepSeek AI चा वापर तांत्रिक नवोपक्रमाचा पुरावा आहे, पण त्याच वेळी जलद अंमलबजावणीच्या धोक्यांवर प्रकाश टाकतो. सिंग्हुआ युनिव्हर्सिटीमधील हुआंग तियान्यिन आणि त्यांच्या सहकाऱ्यांनी व्यक्त केलेल्या चिंता केवळ प्रगतीला विरोध दर्शवत नाहीत, तर जबाबदार नवोपक्रमाची मागणी करतात. तांत्रिक प्रगतीसोबत रुग्णांच्या सुरक्षिततेला प्राधान्य देणे आवश्यक आहे.

भविष्यातील आव्हान आरोग्य सेवा क्षेत्रात AI च्या निर्विवाद फायद्यांचा उपयोग करणे आणि रुग्णांना अकाली किंवा नियमकांनी व्यवस्थित तपासणी न केलेल्या AI च्या धोक्यांपासून वाचवण्यासाठी मजबूत उपाययोजना करणे, यात योग्य समन्वय साधणे आहे.

चीनमधील रुग्णालयांमध्ये DeepSeek AI च्या वापरावरून सुरू असलेला वाद जागतिक आरोग्यसेवेतील एका मूलभूत प्रश्नाचे प्रतिबिंब आहे: जीव वाचवणारे वैद्यकीय ॲप्लिकेशनमध्ये शक्तिशाली AI प्रणाली समाविष्ट करताना वेग किती असावा? या प्रश्नाचे उत्तर केवळ चीनमध्येच नव्हे, तर जगभरात डिजिटल आरोग्याचे भविष्य घडवेल.