تحذيرات بشأن تطبيق DeepSeek AI بالصين: خبراء طبيون يحذرون من مخاطر السلامة
أصدر خبراء طبيون تحذيرات بشأن السرعة المفرطة التي تتبنى بها المستشفيات الصينية تقنيات DeepSeek AI. وأبرزت دراسة نشرت في دورية JAMA الطبية المرموقة المخاطر المتعلقة بالسلامة، مشيرة إلى أنه على الرغم من المشكلات المتعلقة بالأخطاء التشخيصية، فقد قامت أكثر من 300 مستشفى بنشر هذا النظام الذكاء الاصطناعي.
يحذر الأطباء في الصين من أن وتيرة تبني المستشفيات الصينية لـ DeepSeek AI "سريعة جدًا".
يتضمن دمج DeepSeek AI في المستشفيات الصينية حاليًا اعتمادًا واسع النطاق لنموذج الذكاء الاصطناعي في أكثر من 300 مؤسسة طبية. ومع ذلك، فقد ظهر صوت تحذير من المجتمع الطبي الصيني. نُشر مقال رأي بحثي في JAMA، بقيادة هوانغ تيانين، العميد المؤسس لكلية الطب بجامعة تسينغهوا، يحذر من أن النشر السريع لنموذج اللغة الكبير DeepSeek في البيئات السريرية قد يكون "سريعًا جدًا ومبكرًا جدًا".
ترسم هذه الأرقام صورة مقنعة لتحول الذكاء الاصطناعي في مجال الرعاية الصحية الصيني. يمثل نشر DeepSeek في مستشفيات الدرجة الثالثة تحولًا كبيرًا في كيفية استخدام الذكاء الاصطناعي، حيث إنه لا يقتصر على المساعدة في التشخيص فحسب، بل يمتد أيضًا إلى إدارة المستشفيات وتسهيل البحث وإدارة المرضى.
أثبت نموذج الشركة تحسينات كبيرة في الكفاءة، بما في ذلك زيادة كفاءة متابعة المرضى بمقدار 40 ضعفًا. ينبع الاعتماد الواسع النطاق من المكانة الفريدة لـ DeepSeek كبديل مفتوح المصدر ومنخفض التكلفة لأنظمة الذكاء الاصطناعي الاحتكارية.
يتمتع LLM DeepSeek-V3 و DeepSeek-R1، اللذان تم تطويرهما بواسطة شركة تابعة لشركة استثمار صينية، بميزة فريدة تتمثل في كونهما منخفضي التكلفة ومفتوحي المصدر، مما يقلل بشكل كبير من حاجز استخدام LLM.
قامت شركات الرعاية الصحية الصينية بدمج النموذج بسرعة في عملياتها. أضافت أكثر من 30 شركة رعاية صحية في البر الرئيسي للعمليات الخاصة بها الذكاء الاصطناعي، بما في ذلك شركات مثل Jiangsu Hengrui Medicine Co.، Ltd. و Yunnan Baiyao Group Co.، Ltd..
بعد اعتماد نماذج الذكاء الاصطناعي مفتوحة المصدر المتعددة لتحسين الكفاءة التشغيلية وخفض التكاليف، ارتفع سعر سهم Berry Genomics Co.، Ltd. بأكثر من 71٪.
إشارات التحذير: السلامة السريرية قيد التدقيق
على الرغم من الحماس المحيط بـ DeepSeek AI، يثير منظور بحث JAMA علامات حمراء مهمة. حدد هوانغ تيانين، أستاذ طب العيون والمدير الطبي السابق للمركز الوطني لطب العيون في سنغافورة، جنبًا إلى جنب مع المتعاونين معه، العديد من المخاوف الرئيسية.
يحذر الباحثون من أن ميل DeepSeek إلى إنتاج "مخرجات تبدو معقولة ولكنها غير صحيحة في الواقع" قد يؤدي إلى "مخاطر سريرية خطيرة"، على الرغم من قدراته الاستنتاجية القوية. تُعرف هذه الظاهرة بالهلوسة الذكاء الاصطناعي، وهي خطيرة بشكل خاص في البيئات الطبية، حيث يمكن أن تكون الدقة مسألة حياة أو موت.
شدد فريق البحث على كيف يمكن للمهنيين الطبيين الاعتماد المفرط أو عدم انتقاد مخرجات DeepSeek، مما قد يؤدي إلى أخطاء في التشخيص أو تحيزات في العلاج، في حين أن الأطباء الأكثر حذرًا قد يواجهون عبء التحقق من مخرجات الذكاء الاصطناعي في بيئات سريرية حساسة للوقت.
تحديات البنية التحتية والثغرات الأمنية
بالإضافة إلى مخاوف الدقة السريرية، كشف النشر السريع لـ DeepSeek AI في المستشفيات الصينية عن ثغرات كبيرة في الأمن السيبراني. في حين أن العديد من المستشفيات تختار عمليات النشر الخاصة والمحلية للتخفيف من مخاطر السلامة والخصوصية، إلا أن الدراسة تشير إلى أن هذا النهج "ينقل مسؤولية السلامة إلى المؤسسات الطبية الفردية"، وكثير منها يفتقر إلى بنية تحتية شاملة للأمن السيبراني.
أدت دراسات الأمن السيبراني الأخيرة إلى تفاقم المخاوف. تشير الأبحاث إلى أن احتمالية استغلال DeepSeek من قبل مجرمي الإنترنت تزيد بمقدار 11 ضعفًا عن نماذج الذكاء الاصطناعي الأخرى، مما يسلط الضوء على ثغرة حاسمة في تصميمه. وجدت دراسة أجرتها Cisco أن DeepSeek فشل في منع المطالبات الضارة في تقييمات السلامة، بما في ذلك تلك المتعلقة بالجرائم الإلكترونية والمعلومات المضللة.
في حين أن طبيعة DeepSeek مفتوحة المصدر تزيد من إمكانية الوصول، إلا أنها تطرح أيضًا تحديات أمنية فريدة. تعني بنية DeepSeek مفتوحة المصدر أنه يمكن لأي شخص تنزيل التطبيق وتعديله، مما يسمح للمستخدمين ليس فقط بتغيير وظائفه ولكن أيضًا تغيير آليات الأمان الخاصة به، مما يخلق خطرًا أكبر للاستغلال.
التأثير في العالم الحقيقي: قصص من الخطوط الأمامية السريرية
بدأ دمج DeepSeek AI في المستشفيات الصينية في تغيير ديناميكيات علاقات الطبيب بالمريض. يظهر مقطع فيديو انتشر على نطاق واسع على Douyin طبيبًا محبطًا يجد أن الإرشادات الطبية قد تم تحديثها بالفعل وأن الذكاء الاصطناعي كان على حق بعد أن تعرض علاجه للتساؤل من قبل مريض يستخدم DeepSeek.
توضح هذه الحكاية إمكانات ومخاطر اعتماد الذكاء الاصطناعي في مجال الرعاية الصحية. في حين أن التكنولوجيا يمكن أن تساعد الممارسات الطبية على مواكبة التطورات، إلا أنها تتحدى أيضًا التسلسل الهرمي الطبي التقليدي وتدخل مصادر جديدة لعدم اليقين في اتخاذ القرارات السريرية.
"عاصفة كاملة" مع وجود مخاطر تتعلق بالسلامة
يجادل الباحثون بأن مشهد الرعاية الصحية الفريد في الصين يشكل "عاصفة كاملة" مع وجود مخاطر تتعلق بالسلامة السريرية، قائلين إن الفجوات في البنية التحتية للرعاية الأولية وانتشار الهواتف الذكية بشكل كبير يساهمان في هذه الظاهرة. ويشيرون إلى أن "الفئات الضعيفة ذات الاحتياجات الطبية المعقدة يمكنها الآن الوصول إلى المشورة الصحية المدفوعة بالذكاء الاصطناعي على نطاق غير مسبوق، ولكنها تفتقر غالبًا إلى الإشراف السريري اللازم للتنفيذ الآمن".
في حين أن إضفاء الطابع الديمقراطي على الوصول إلى الذكاء الاصطناعي الطبي قد يفيد المساواة في الرعاية الصحية، إلا أنه يثير أسئلة حول الجودة والسلامة في البيئات ذات الموارد المحدودة حيث قد يكون الإشراف المناسب غير متوفر.
الآثار الجيوسياسية وخصوصية البيانات
لم يمر الاعتماد السريع لـ DeepSeek AI في المستشفيات الصينية دون أن يلاحظه المجتمع الدولي. اتخذت بعض البلدان بالفعل احتياطات، حيث منعت إيطاليا وتايوان وأستراليا وكوريا الجنوبية الوصول إلى التطبيق أو حظرته على الأجهزة الحكومية بسبب مخاوف من أن ممارسات إدارة البيانات الخاصة به تشكل تهديدًا للأمن القومي.
أعرب خبراء الخصوصية عن مخاوفهم بشأن جمع البيانات وتخزينها. قد يشكل روبوت الدردشة الصيني هذا خطرًا على الأمن القومي لأنه "عند تجميع هذه البيانات معًا، يمكن استخدامها لجمع رؤى حول السكان، أو سلوك المستخدم الذي يمكن استخدامه لإنشاء هجمات تصيد احتيالي أكثر فاعلية أو أنشطة تلاعب ضارة أخرى."
الثغرات التنظيمية
على الرغم من الاستخدام الواسع النطاق، تكافح الأطر التنظيمية في الصين لمواكبة النشر السريع للذكاء الاصطناعي في مجال الرعاية الصحية. تسمح التفسيرات التنظيمية الحالية للذكاء الاصطناعي بتعزيز حكم التشخيص البشري بدلاً من استبداله، مما يشير إلى أنه لا يزال يتعين دمجه بحذر في تقديم الرعاية الصحية.
والجدير بالذكر أنه لم يتم تضمين أي منتجات للذكاء الاصطناعي الطبي في التأمين الطبي الأساسي الوطني في الصين، مما يشير إلى استمرار الشكوك حول موثوقية التكنولوجيا. ومع ذلك، تمثل قصة DeepSeek AI في المستشفيات الصينية صورة مصغرة للتحديات الأوسع نطاقًا التي تواجهها عملية اعتماد الذكاء الاصطناعي في القطاعات الحيوية في جميع أنحاء العالم.
في حين أن التكنولوجيا توفر إمكانات هائلة لتحسين تقديم الرعاية الصحية وخفض التكاليف، إلا أن التحذيرات الصادرة عن باحثي الطب تسلط الضوء على الحاجة إلى التنفيذ الحساس والمنهجي.
سلطت الدراسات الحديثة الضوء على الدقة النسبية لنموذج DeepSeek في مقاييس محددة، مثل تسجيل Deauville لمرضى سرطان الغدد الليمفاوية، ولكنها لا تزال تقر بوجود فجوات كبيرة مقارنة بالأطباء البشريين. تشير فجوات الدقة، جنبًا إلى جنب مع الثغرات الأمنية والتحديات التنظيمية، إلى أن وتيرة الاعتماد الحالية قد تكون "سريعة جدًا ومبكرة جدًا".
الخلاصة: لحظة محورية
مع استمرار الصين في المضي قدمًا في تحول "المستشفيات الذكية" والرعاية الصحية المدفوعة بالذكاء الاصطناعي، فإن دمج DeepSeek AI في المستشفيات الصينية هو شهادة على الابتكار التكنولوجي وتحذير بشأن مخاطر النشر السريع. إن المخاوف التي أثارها هوانغ تيانين من كلية الطب بجامعة تسينغهوا وزملاؤه ليست معارضة للتقدم، بل هي دعوة إلى الابتكار المسؤول الذي يعطي الأولوية لسلامة المرضى جنبًا إلى جنب مع التطورات التكنولوجية.
يكمن التحدي المستقبلي في إيجاد التوازن الصحيح بين تسخير الفوائد التي لا يمكن إنكارها للذكاء الاصطناعي في مجال الرعاية الصحية وتنفيذ ضمانات قوية لحماية المرضى من المخاطر الناجمة عن عمليات نشر الذكاء الاصطناعي المبكرة أو غير المنظمة.
إن الجدل المستمر الدائر حول DeepSeek AI في المستشفيات الصينية يعكس في نهاية المطاف سؤالًا أساسيًا يواجهه قطاع الرعاية الصحية العالمي: ما مدى السرعة الشديدة عند دمج أنظمة الذكاء الاصطناعي القوية في تطبيقات طبية تهدد الحياة؟ ستشكل الإجابة على هذا السؤال مستقبل الصحة الرقمية، ليس فقط في الصين ولكن على مستوى العالم.