Cảnh báo từ các bác sĩ Trung Quốc về việc áp dụng "quá nhanh" DeepSeek AI
Việc tích hợp DeepSeek AI vào các bệnh viện ở Trung Quốc hiện bao gồm việc áp dụng rộng rãi mô hình AI này tại hơn 300 cơ sở y tế. Tuy nhiên, một tiếng nói cảnh báo đã vang lên từ cộng đồng y tế Trung Quốc. Một bài bình luận nghiên cứu được công bố trên JAMA, do Huang Tianyin, viện trưởng sáng lập của trường Y thuộc Đại học Thanh Hoa, dẫn đầu, cảnh báo rằng việc triển khai nhanh chóng mô hình ngôn ngữ lớn DeepSeek trong môi trường lâm sàng có thể là "quá nhanh, quá sớm".
Những con số này vẽ nên một bức tranh ấn tượng về sự chuyển đổi AI trong lĩnh vực chăm sóc sức khỏe của Trung Quốc. Việc triển khai DeepSeek tại các bệnh viện hạng ba (tuyến cao nhất trong hệ thống bệnh viện của Trung Quốc) thể hiện một sự thay đổi đáng kể trong cách sử dụng AI, không chỉ giới hạn trong hỗ trợ chẩn đoán mà còn mở rộng sang quản lý bệnh viện, thúc đẩy nghiên cứu và quản lý bệnh nhân.
Mô hình của công ty đã chứng minh những cải thiện đáng kể về hiệu quả, bao gồm hiệu quả theo dõi bệnh nhân tăng gấp 40 lần. Việc áp dụng rộng rãi bắt nguồn từ vị thế độc đáo của DeepSeek như một giải pháp thay thế mã nguồn mở, chi phí thấp cho các hệ thống AI độc quyền.
LLM DeepSeek-V3 và DeepSeek-R1, được phát triển bởi một công ty con của một công ty đầu tư Trung Quốc, có lợi thế độc đáo là chi phí thấp và mã nguồn mở, điều này làm giảm đáng kể rào cản đối với việc sử dụng LLM.
Các công ty chăm sóc sức khỏe của Trung Quốc đã nhanh chóng tích hợp mô hình này vào hoạt động của họ. Hơn 30 công ty chăm sóc sức khỏe ở Trung Quốc đại lục đã thêm AI vào hoạt động của họ, bao gồm các công ty như Jiangsu Hengrui Medicine Co., Ltd. và Yunnan Baiyao Group Co., Ltd.
Sau khi áp dụng nhiều mô hình AI mã nguồn mở để cải thiện hiệu quả hoạt động và giảm chi phí, giá cổ phiếu của Berry Genomics Co., Ltd. đã tăng hơn 71%.
Tín hiệu cảnh báo: An toàn lâm sàng bị xem xét
Mặc dù có sự nhiệt tình đối với DeepSeek AI, quan điểm nghiên cứu của JAMA đã đưa ra những tín hiệu cảnh báo quan trọng. Huang Tianyin, giáo sư nhãn khoa và là giám đốc y tế trước đây của Trung tâm Nhãn khoa Quốc gia Singapore, cùng với các cộng tác viên của mình, đã xác định một số vấn đề quan trọng.
Các nhà nghiên cứu cảnh báo rằng xu hướng của DeepSeek trong việc tạo ra "các đầu ra có vẻ hợp lý nhưng thực tế không chính xác" có thể dẫn đến "rủi ro lâm sàng nghiêm trọng", mặc dù nó có khả năng suy luận mạnh mẽ. Hiện tượng này, được gọi là ảo giác AI, đặc biệt nguy hiểm trong môi trường y tế, nơi độ chính xác có thể là vấn đề sống còn.
Nhóm nghiên cứu nhấn mạnh cách các chuyên gia y tế có thể quá tin tưởng hoặc không phê phán đầu ra của DeepSeek, có thể dẫn đến lỗi chẩn đoán hoặc sai lệch trong điều trị, trong khi các bác sĩ lâm sàng thận trọng hơn có thể phải đối mặt với gánh nặng xác minh đầu ra của AI trong môi trường lâm sàng nhạy cảm về thời gian.
Thách thức về cơ sở hạ tầng và lỗ hổng bảo mật
Ngoài những lo ngại về tính chính xác lâm sàng, việc triển khai nhanh chóng DeepSeek AI tại các bệnh viện ở Trung Quốc còn phơi bày những lỗ hổng an ninh mạng đáng kể. Mặc dù nhiều bệnh viện chọn triển khai riêng, tại chỗ để giảm thiểu rủi ro bảo mật và quyền riêng tư, nghiên cứu cho rằng cách tiếp cận này "chuyển trách nhiệm bảo mật sang từng cơ sở y tế", nhiều cơ sở trong số đó thiếu cơ sở hạ tầng an ninh mạng toàn diện.
Nghiên cứu an ninh mạng gần đây đã làm tăng thêm mối lo ngại. Các nghiên cứu cho thấy DeepSeek có khả năng bị tội phạm mạng khai thác cao gấp 11 lần so với các mô hình AI khác, điều này làm nổi bật một lỗ hổng quan trọng trong thiết kế của nó. Một nghiên cứu của Cisco phát hiện ra rằng DeepSeek không ngăn chặn được các lời nhắc độc hại trong các đánh giá bảo mật, bao gồm cả những lời nhắc liên quan đến tội phạm mạng và thông tin sai lệch.
Bản chất mã nguồn mở của DeepSeek, trong khi tăng cường khả năng truy cập, cũng đặt ra những thách thức bảo mật riêng. Cấu trúc mã nguồn mở của DeepSeek có nghĩa là bất kỳ ai cũng có thể tải xuống và sửa đổi ứng dụng, cho phép người dùng không chỉ thay đổi chức năng của nó mà còn thay đổi các cơ chế bảo mật của nó, do đó tạo ra nguy cơ khai thác lớn hơn.
Tác động thực tế: Những câu chuyện từ tuyến đầu lâm sàng
Việc tích hợp DeepSeek AI vào các bệnh viện ở Trung Quốc đã bắt đầu thay đổi động lực giữa bác sĩ và bệnh nhân. Một video lan truyền trên Douyin (TikTok phiên bản Trung Quốc) cho thấy một bác sĩ thất vọng sau khi việc điều trị của anh ta bị nghi ngờ bởi một bệnh nhân sử dụng DeepSeek, chỉ để phát hiện ra rằng các hướng dẫn y tế thực sự đã được cập nhật và AI đã đúng.
Giai thoại này minh họa tiềm năng và rủi ro của việc áp dụng AI trong lĩnh vực chăm sóc sức khỏe. Mặc dù công nghệ này có thể giúp các hoạt động y tế luôn cập nhật, nhưng nó cũng thách thức hệ thống phân cấp y tế truyền thống và giới thiệu các nguồn không chắc chắn mới trong việc ra quyết định lâm sàng.
"Cơn bão hoàn hảo" của các mối lo ngại về an toàn
Các nhà nghiên cứu cho rằng tình hình chăm sóc sức khỏe độc đáo của Trung Quốc đang hình thành một "cơn bão hoàn hảo" của các mối lo ngại về an toàn lâm sàng, họ lập luận rằng khoảng cách trong cơ sở hạ tầng chăm sóc sức khỏe ban đầu và tỷ lệ sử dụng điện thoại thông minh cao đang góp phần vào hiện tượng này. Họ lưu ý rằng, "Các nhóm dễ bị tổn thương có nhu cầu chăm sóc sức khỏe phức tạp giờ đây có thể tiếp cận lời khuyên sức khỏe do AI cung cấp hơn bao giờ hết, nhưng thường thiếu sự giám sát lâm sàng cần thiết để triển khai an toàn."
Việc dân chủ hóa khả năng tiếp cận AI y tế, mặc dù có thể có lợi cho sự công bằng trong chăm sóc sức khỏe, nhưng lại đặt ra câu hỏi về chất lượng và sự an toàn của chăm sóc trong các môi trường có nguồn lực hạn chế, nơi có thể thiếu sự giám sát thích hợp.
Tác động địa chính trị và quyền riêng tư dữ liệu
Việc áp dụng nhanh chóng DeepSeek AI tại các bệnh viện ở Trung Quốc đã không thoát khỏi sự chú ý của cộng đồng quốc tế. Một số quốc gia đã thực hiện các biện pháp phòng ngừa, với việc Ý, Đài Loan, Úc và Hàn Quốc đã chặn hoặc cấm quyền truy cập vào ứng dụng trên các thiết bị của chính phủ do lo ngại về việc các hoạt động quản lý dữ liệu của ứng dụng gây ra mối đe dọa đối với an ninh quốc gia.
Các chuyên gia về quyền riêng tư bày tỏ lo ngại về việc thu thập và lưu trữ dữ liệu. Chatbot Trung Quốc này có thể gây ra rủi ro về an ninh quốc gia vì "các dữ liệu này, khi được tổng hợp lại, có thể được sử dụng để thu thập thông tin chi tiết về dân số hoặc hành vi của người dùng, có thể được sử dụng để tạo các cuộc tấn công lừa đảo hiệu quả hơn hoặc các hoạt động thao túng độc hại khác."
Khoảng trống pháp lý
Mặc dù được áp dụng rộng rãi, khung pháp lý của Trung Quốc đang gặp khó khăn trong việc theo kịp tốc độ triển khai nhanh chóng của AI trong lĩnh vực chăm sóc sức khỏe. Diễn giải quy định hiện tại cho phép AI tăng cường, chứ không phải thay thế, phán đoán chẩn đoán của con người, cho thấy sự thận trọng vẫn cần thiết trong việc tích hợp nó vào cung cấp dịch vụ chăm sóc sức khỏe.
Điều đáng chú ý là không có sản phẩm AI y tế nào được đưa vào bảo hiểm y tế cơ bản quốc gia của Trung Quốc, cho thấy sự hoài nghi vẫn còn về độ tin cậy của công nghệ này. Điều đó nói rằng, câu chuyện về DeepSeek AI tại các bệnh viện ở Trung Quốc đại diện cho một bức tranh thu nhỏ của những thách thức rộng lớn hơn mà việc áp dụng AI phải đối mặt trên toàn cầu trong các lĩnh vực quan trọng.
Mặc dù công nghệ này mang đến tiềm năng to lớn để cải thiện việc cung cấp dịch vụ chăm sóc sức khỏe và giảm chi phí, nhưng cảnh báo từ các nhà nghiên cứu y tế nhấn mạnh sự cần thiết phải triển khai thận trọng, có phương pháp.
Các nghiên cứu gần đây đã làm nổi bật tính chính xác tương đối của mô hình DeepSeek trong các số liệu cụ thể, chẳng hạn như tính điểm Deauville ở bệnh nhân lymphoma, nhưng vẫn thừa nhận các khoảng cách đáng kể so với các bác sĩ lâm sàng là con người. Khoảng cách về độ chính xác, kết hợp với các lỗ hổng bảo mật và thách thức pháp lý, cho thấy tốc độ áp dụng hiện tại có thể thực sự là "quá nhanh, quá sớm".
Kết luận: Một thời điểm quan trọng
Khi Trung Quốc tiếp tục theo đuổi "các bệnh viện thông minh" và chuyển đổi chăm sóc sức khỏe do AI điều khiển, việc tích hợp DeepSeek AI vào các bệnh viện ở Trung Quốc vừa là minh chứng cho sự đổi mới công nghệ vừa là một câu chuyện cảnh báo về những rủi ro của việc triển khai nhanh chóng. Những lo ngại do Huang Tianyin của Y học Thanh Hoa và các đồng nghiệp của ông đưa ra không nhằm mục đích phản đối sự tiến bộ, mà là một lời kêu gọi đổi mới có trách nhiệm, ưu tiên sự an toàn của bệnh nhân cùng với tiến bộ công nghệ.
Thách thức phía trước sẽ là tìm ra sự cân bằng phù hợp giữa việc khai thác những lợi thế không thể phủ nhận của AI trong chăm sóc sức khỏe với việc thực hiện các biện pháp bảo vệ mạnh mẽ để bảo vệ bệnh nhân khỏi những rủi ro của việc triển khai AI quá sớm hoặc không được quản lý đầy đủ.
Cuộc tranh luận đang diễn ra xung quanh DeepSeek AI tại các bệnh viện ở Trung Quốc cuối cùng phản ánh một câu hỏi cơ bản mà giao diện chăm sóc sức khỏe toàn cầu đang phải đối mặt: Tốc độ nào là quá nhanh khi tích hợp các hệ thống AI mạnh mẽ vào các ứng dụng y tế quan trọng đến tính mạng? Câu trả lời cho câu hỏi này sẽ định hình tương lai của sức khỏe kỹ thuật số, không chỉ ở Trung Quốc mà trên toàn thế giới.