China: Pakar Perubatan Memberi Amaran Tentang Penggunaan DeepSeek AI Yang "Terlalu Pantas" di Hospital-Hospital
Integrasi DeepSeek AI di hospital-hospital China kini melibatkan penggunaan meluas model AI ini di lebih daripada 300 institusi perubatan serta memberi amaran yang membimbangkan daripada komuniti perubatan China. Satu kajian yang diterbitkan oleh JAMA, diketuai oleh Huang Tianyin, pengasas dekan perubatan di Universiti Tsinghua, memberi amaran terhadap potensi bahaya penerapan pantas model bahasa besar DeepSeek dalam suasana klinikal mungkin "terlalu pantas, terlalu awal."
Angka-angka tersebut menggambarkan gambaran menarik tentang transformasi kecerdasan buatan (AI) dalam landskap penjagaan kesihatan China. Penggunaan DeepSeek di hospital tertiari menandakan perubahan ketara dalam penggunaan AI, melangkaui bantuan diagnostik untuk merangkumi pengurusan hospital, penggalakan penyelidikan, dan pengurusan pesakit.
Model syarikat telah menunjukkan peningkatan kecekapan yang ketara, termasuk peningkatan 40 kali ganda dalam kecekapan susulan pesakit. Penerimaan meluas berpunca daripada kedudukan unik DeepSeek sebagai alternatif sumber terbuka dan kos rendah kepada sistem AI proprietari.
LLM DeepSeek-V3 dan DeepSeek-R1, yang dibangunkan oleh anak syarikat syarikat pelaburan China, mempunyai kelebihan unik dari segi kos rendah dan sumber terbuka, yang menurunkan halangan penggunaan LLM dengan ketara.
Syarikat penjagaan kesihatan China telah pantas mengintegrasikan model ini ke dalam operasi mereka. Lebih daripada 30 syarikat penjagaan kesihatan di tanah besar telah menambahkan AI ke dalam operasi mereka, termasuk nama-nama seperti Jiangsu Hengrui Medicine Co., Ltd. dan Yunnan Baiyao Group Co., Ltd.
Syarikat BeiGene, Ltd. telah melihat peningkatan lebih 71% dalam harga sahamnya berikutan penggunaan beberapa model AI sumber terbuka untuk meningkatkan kecekapan operasi dan mengurangkan kos.
Isyarat Amaran: Keselamatan Klinikal Di Bawah Kawalan
Walaupun minat yang meluas dalam DeepSeek AI, pendapat kajian JAMA menimbulkan bendera merah yang ketara. Huang Tianyin, seorang profesor oftalmologi dan bekas pengarah perubatan di Pusat Mata Nasional Singapura, bersama dengan kolaboratornya mengenalpasti beberapa masalah kritikal.
Para penyelidik memberi amaran bahawa kecenderungan DeepSeek untuk menghasilkan "output yang kelihatan munasabah tetapi sebenarnya tidak betul" boleh membawa kepada "risiko klinikal yang serius," walaupun ia mempunyai keupayaan penaakulan yang kuat. Fenomena ini, dikenali sebagai halusinasi AI, adalah amat berbahaya dalam suasana perubatan di mana ketepatan boleh menjadi masalah hidup atau mati.
Pasukan penyelidik menekankan bagaimana profesional perubatan mungkin terlalu bergantung atau tidak kritikal terhadap output DeepSeek, yang berpotensi membawa kepada kesilapan diagnostik atau bias rawatan. Doktor yang lebih berhati-hati boleh menghadapi beban untuk mengesahkan output AI dalam suasana klinikal yang sensitif terhadap masa.
Cabaran Infrastruktur Dan Kelemahan Keselamatan
Di samping kebimbangan ketepatan klinikal, penerapan pesat DeepSeek AI di hospital-hospital China telah mendedahkan kelemahan keselamatan siber yang ketara. Walaupun banyak hospital memilih penggunaan peribadi di tapak untuk mengurangkan risiko keselamatan dan privasi, kajian itu menyatakan bahawa pendekatan ini "memindahkan tanggungjawab keselamatan kepada institusi perubatan individu", sebahagian besarnya kekurangan infrastruktur keselamatan siber yang komprehensif.
Kajian keselamatan siber baru-baru ini telah meningkatkan kebimbangan. Kajian menunjukkan bahawa DeepSeek adalah 11 kali lebih berkemungkinan dieksploitasi oleh penjenayah siber berbanding model AI lain, yang menyoroti kelemahan kritikal dalam reka bentuknya. Kajian oleh Cisco mendapati bahawa DeepSeek gagal menghalang gesaan berbahaya dalam penilaian keselamatan, termasuk yang berkaitan dengan jenayah siber dan maklumat salah.
Sifat sumber terbuka DeepSeek, sambil meningkatkan kebolehaksesan, juga menimbulkan cabaran keselamatan yang unik. Struktur sumber terbuka DeepSeek bermakna sesiapa sahaja boleh memuat turun dan mengubah suai aplikasi, membolehkan pengguna bukan sahaja mengubah fungsi tetapi juga mekanisme keselamatannya, mewujudkan risiko eksploitasi yang lebih besar.
Impak Dunia Sebenar: Kisah Dari Barisan Hadapan Klinikal
Integrasi DeepSeek AI di hospital-hospital China telah mula mengubah dinamik hubungan doktor-pesakit. Satu video viral di Douyin mendedahkan, seorang doktor yang kecewa selepas rawatannya dipertikaikan oleh pesakit yang menggunakan DeepSeek mendapati panduan perubatan itu memang telah dikemas kini dan AI itu betul.
Anekdot ini memberi gambaran tentang potensi dan risiko penggunaan AI dalam penjagaan kesihatan. Walaupun teknologi ini boleh membantu mengekalkan amalan perubatan terkini, ia juga mencabar hierarki perubatan tradisional dan memperkenalkan sumber ketidakpastian baru dalam membuat keputusan klinikal.
Ribut "Sempurna" Untuk Bahaya Keselamatan
Para penyelidik berpendapat bahawa landskap penjagaan kesihatan unik China sedang membentuk ribut "sempurna" untuk bahaya keselamatan klinikal. Mereka berhujah bahawa jurang dalam infrastruktur penjagaan primer dan penembusan telefon pintar yang tinggi menyumbang kepada fenomena ini. Mereka menyatakan, "Populasi terdedah dengan keperluan perubatan yang kompleks kini mempunyai akses yang belum pernah terjadi sebelumnya kepada nasihat kesihatan yang dipacu AI, tetapi seringkali kekurangan pengawasan klinikal yang diperlukan untuk pelaksanaan yang selamat."
Pendemokrasian akses AI perubatan, walaupun berpotensi bermanfaat untuk kesaksamaan penjagaan kesihatan, menimbulkan persoalan tentang kualiti dan keselamatan penjagaan dalam persekitaran sumber terhad, di mana pengawasan yang mencukupi mungkin tidak ada.
Implikasi Geopolitik Dan Privasi Data
Penggunaan pesat DeepSeek AI di hospital-hospital China tidak lepas dari perhatian masyarakat antarabangsa. Sesetengah negara telah mengambil langkah berjaga-jaga. Itali, Taiwan, Australia dan Korea Selatan telah menyekat atau melarang akses kepada aplikasi tersebut pada peranti kerajaan kerana kebimbangan bahawa amalan pengurusan datanya menimbulkan ancaman kepada keselamatan negara.
Pakar privasi telah menimbulkan kebimbangan tentang pengumpulan dan penyimpanan data. Chatbot China ini mungkin menimbulkan risiko keselamatan negara kerana "data ini, yang diagregatkan, boleh digunakan untuk mengumpul pandangan tentang populasi, atau tingkah laku pengguna yang boleh digunakan untuk mencipta serangan pancingan data yang lebih berkesan atau manipulasi berniat jahat yang lain."
Jurang Kawal Selia
Walaupun penggunaan meluas, rangka kerja kawal selia China bergelut untuk bersaing dengan penerapan pantas AI dalam penjagaan kesihatan. Interpretasi kawal selia semasa membenarkan AI untuk meningkatkan, bukannya menggantikan, pertimbangan diagnostik manusia, yang menunjukkan bahawa integrasi ke dalam perkhidmatan perubatan masih memerlukan pendekatan yang berhati-hati.
Khususnya, tiada produk AI perubatan yang dimasukkan ke dalam insurans perubatan asas negara China, yang menunjukkan keraguan yang berterusan tentang kebolehpercayaan teknologi ini. Setelah mengatakan demikian, cerita DeepSeek AI di hospital-hospital China mewakili mikrokosmos cabaran yang lebih besar yang dihadapi oleh penggunaan AI dalam sektor kritikal di seluruh dunia.
Walaupun teknologi ini menawarkan potensi yang besar untuk meningkatkan perkhidmatan penjagaan kesihatan dan mengurangkan kos, amaran daripada penyelidik perubatan menyoroti keperluan untuk pelaksanaan yang berhati-hati dan sistematik.
Kajian baru-baru ini telah menyoroti ketepatan relatif model DeepSeek dalam metrik tertentu, seperti pemarkahan Deauville bagi pesakit limfoma, tetapi masih mengakui jurang yang ketara berbanding doktor manusia. Jurang ketepatan, ditambah dengan kelemahan keselamatan dan cabaran kawal selia, menunjukkan bahawa kadar penerapan semasa mungkin sememangnya "terlalu pantas, terlalu awal."
Kesimpulan: Satu Momen Penting
Ketika China terus memajukan "hospital pintar" dan transformasi penjagaan kesihatan yang didorong oleh AI, integrasi DeepSeek AI di hospital-hospital China berfungsi sebagai bukti inovasi teknologi dan kisah berhati-hati tentang risiko penerapan pesat. Kebimbangan yang dibangkitkan oleh Huang Tianyin dari Perubatan Universiti Tsinghua dan rakan-rakannya bukanlah bantahan terhadap kemajuan tetapi seruan untuk inovasi bertanggungjawab yang mengutamakan keselamatan pesakit sejajar dengan kemajuan teknologi.
Cabaran di hadapan akan menjadi untuk mencari keseimbangan yang sesuai antara memanfaatkan faedah AI yang tidak dapat dinafikan dalam penjagaan kesihatan dan melaksanakan perlindungan yang kukuh untuk melindungi pesakit daripada risiko penerapan AI yang pramatang atau tidak dikawal selia.
Perdebatan yang berterusan di sekeliling DeepSeek AI di hospital-hospital China akhirnya mencerminkan persoalan asas yang dihadapi oleh penjagaan kesihatan global: Seberapa pantas terlalu pantas apabila mengintegrasikan sistem AI yang berkuasa ke dalam aplikasi perubatan yang kritikal untuk kehidupan? Jawapan kepada soalan ini akan membentuk masa depan kesihatan digital, bukan sahaja di China tetapi di seluruh dunia.