Startup AI Tiongkok DeepSeek secara aktif merekrut peserta magang untuk secara cermat melabeli data medis, yang bertujuan untuk meningkatkan ketepatan dan keandalan aplikasi AI di lingkungan rumah sakit. Langkah ini menggarisbawahi peningkatan integrasi AI, khususnya model sumber terbuka, dalam layanan kesehatan Tiongkok, di mana mereka digunakan untuk menghasilkan diagnosis dan resep. Namun, hal ini juga terjadi di tengah meningkatnya pengawasan terhadap potensi risiko yang terkait dengan penerapan teknologi ini yang cepat.
Peluang Magang: Penyelaman Mendalam
Program magang DeepSeek menawarkan kompensasi harian sebesar 500 yuan (sekitar US$70) kepada individu yang mampu berkomitmen pada minggu kerja empat hari. Tanggung jawab inti dari peserta magang ini berkisar pada pelabelan data medis, khususnya untuk aplikasi yang terkait dengan alat "diagnosis tambahan tingkat lanjut". Posisi-posisi ini berbasis di Beijing, menempatkan para peserta magang di jantung operasi DeepSeek dan terdepan dalam lanskap pengembangan AI Tiongkok.
Lowongan pekerjaan di Boss, platform rekrutmen populer, menguraikan kualifikasi khusus untuk calon peserta magang. Kandidat ideal memiliki latar belakang medis yang kuat, biasanya dibuktikan dengan pendaftaran sebagai mahasiswa sarjana tahun keempat atau memegang gelar master. Selain itu, peran tersebut membutuhkan keakraban dengan model bahasa besar (LLM), kemahiran dalam menulis kode Python, dan kemampuan untuk membuat perintah yang efektif untuk model AI besar. Kumpulan keterampilan multifaset ini mencerminkan sifat kompleks dari pekerjaan yang terlibat, yang membutuhkan pengetahuan medis dan keahlian teknis.
Tanggung Jawab Utama Peserta Magang
- Pelabelan Data Terperinci: Menetapkan label yang akurat dan konsisten ke data medis, memastikan bahwa model AI dilatih pada informasi berkualitas tinggi.
- Kemahiran LLM: Bekerja dengan model bahasa besar untuk memahami kemampuan dan keterbatasan mereka dalam konteks medis.
- Pengkodean Python: Memanfaatkan Python untuk memanipulasi data, mengotomatiskan proses, dan berpotensi berkontribusi pada pengembangan algoritma AI.
- Rekayasa Prompt: Membuat perintah efektif yang menghasilkan respons yang akurat dan relevan dari model AI, khususnya dalam skenario diagnostik.
Adopsi AI DeepSeek di Rumah Sakit Tiongkok
Inisiatif ini sejalan dengan tren yang lebih luas dari rumah sakit Tiongkok yang merangkul model AI sumber terbuka dari perusahaan seperti DeepSeek. Sistem AI ini dimanfaatkan untuk membantu menghasilkan diagnosis dan resep, berpotensi merampingkan alur kerja dan meningkatkan perawatan pasien. Pada bulan Maret, sekitar 300 rumah sakit di seluruh Tiongkok telah mulai memasukkan LLM DeepSeek ke dalam diagnostik klinis dan sistem pendukung keputusan medis mereka.
Daya pikat AI dalam perawatan kesehatan berasal dari potensinya untuk:
- Meningkatkan Akurasi Diagnostik: Algoritma AI dapat menganalisis sejumlah besar data medis untuk mengidentifikasi pola dan anomali yang mungkin terlewatkan oleh dokter manusia.
- Mempercepat Diagnosis: AI dapat mempercepat proses diagnostik, yang mengarah pada perawatan yang lebih cepat dan berpotensi meningkatkan hasil pasien.
- Mempersonalisasi Rencana Perawatan: AI dapat menganalisis data pasien individu untuk menyesuaikan rencana perawatan dengan kebutuhan dan keadaan khusus mereka.
- Mengurangi Biaya Perawatan Kesehatan: Dengan mengotomatiskan tugas dan meningkatkan efisiensi, AI dapat berkontribusi untuk menurunkan biaya perawatan kesehatan.
Kekhawatiran dan Kritik Mengenai Adopsi AI yang Cepat
Terlepas dari potensi manfaatnya, adopsi AI DeepSeek yang cepat oleh rumah sakit bukannya tanpa mengurangi nilainya. Sebuah tim peneliti Tiongkok telah menyuarakan keprihatinan tentang potensi keamanan klinis dan risiko privasi yang terkait dengan implementasi yang meluas ini.
Dalam sebuah makalah yang diterbitkan dalam jurnal medis terkemuka JAMA (Journal of the American Medical Association), para peneliti memperingatkan terhadap penerimaan AI dalam perawatan kesehatan yang tidak kritis. Mereka menyoroti kecenderungan DeepSeek untuk menghasilkan "output yang masuk akal tetapi faktual salah", sebuah fenomena yang umumnya disebut sebagai "halusinasi" dalam komunitas AI. Kecenderungan ini, menurut mereka, dapat menyebabkan "risiko klinis yang substansial", yang berpotensi membahayakan keselamatan dan kesejahteraan pasien.
Tim peneliti termasuk tokoh-tokoh terkemuka dalam komunitas penelitian medis Tiongkok, seperti Wong Tien Yin, kepala pendiri Tsinghua Medicine, sebuah konsorsium sekolah penelitian medis di Universitas Tsinghua di Beijing. Keterlibatan mereka memberikan kredibilitas yang signifikan terhadap kekhawatiran yang diajukan.
Potensi Risiko yang Disoroti oleh Peneliti
- Halusinasi AI: Pembuatan informasi yang faktual salah atau menyesatkan oleh model AI, yang berpotensi menyebabkan kesalahan diagnosis atau perawatan yang tidak tepat.
- Masalah Privasi Data: Risiko data pasien sensitif dikompromikan atau disalahgunakan oleh sistem AI.
- Kurangnya Transparansi: Sifat "kotak hitam" dari beberapa algoritma AI, sehingga sulit untuk memahami bagaimana mereka sampai pada kesimpulan mereka.
- Bias dalam Algoritma AI: Potensi algoritma AI untuk melanggengkan atau memperkuat bias yang ada dalam perawatan kesehatan, yang mengarah pada disparitas dalam hasil perawatan.
- Ketergantungan Berlebihan pada AI: Risiko profesional perawatan kesehatan menjadi terlalu bergantung pada AI, yang berpotensi mengurangi keterampilan berpikir kritis dan penilaian klinis mereka.
Respons DeepSeek: Mengatasi Halusinasi AI
Menyadari validitas kekhawatiran ini, DeepSeek telah memasukkan langkah-langkah untuk mengatasi masalah halusinasi AI dalam aplikasi medisnya. Dalam deskripsi pekerjaan yang diposting di Boss, perusahaan secara eksplisit menyatakan bahwa para peserta magang akan memainkan peran penting dalam meningkatkan kemampuan medis DeepSeek, termasuk meningkatkan pengetahuan medis model dan meminimalkan halusinasi dalam pertanyaan dan jawaban medis.
Pendekatan proaktif ini menunjukkan bahwa DeepSeek berkomitmen untuk mengembangkan sistem AI yang tidak hanya kuat tetapi juga andal dan aman untuk digunakan dalam pengaturan klinis. Dengan berfokus pada mitigasi halusinasi dan meningkatkan akurasi informasi medis, DeepSeek bertujuan untuk membangun kepercayaan di antara para profesional perawatan kesehatan dan memastikan adopsi AI yang bertanggung jawab dalam perawatan kesehatan.
Strategi untuk Meminimalkan Halusinasi AI
- Augmentasi Data: Memperluas dataset pelatihan dengan informasi medis yang beragam dan berkualitas tinggi untuk meningkatkan basis pengetahuan model.
- Mekanisme Pemeriksaan Fakta: Memasukkan mekanisme untuk memverifikasi keakuratan informasi yang dihasilkan oleh model AI terhadap sumber medis yang andal.
- Pembelajaran Penguatan: Melatih model AI untuk memprioritaskan akurasi dan menghindari pembuatan informasi spekulatif atau tidak berdasar.
- Pengawasan Manusia: Menerapkan sistem yang memungkinkan dokter manusia untuk meninjau dan memvalidasi output dari model AI, memastikan bahwa mereka akurat dan tepat.
- AI yang Dapat Dijelaskan (XAI): Mengembangkan algoritma AI yang memberikan penjelasan untuk keputusan mereka, sehingga memudahkan dokter untuk memahami dan mempercayai rekomendasi AI.
Profil Peserta Magang Ideal: Keterampilan dan Tanggung Jawab
Pelamar yang berhasil untuk magang ini harus memiliki keterampilan multifaset, yang mencakup pengetahuan medis dan keahlian teknis. Mereka akan bertanggung jawab untuk:
- Merancang model untuk pertanyaan medis: Menyusun struktur dan parameter model AI yang secara efektif dapat menjawab pertanyaan medis.
- Menyusun proses evaluasi untuk kemampuan medis model: Mengembangkan metode untuk menilai akurasi, keandalan, dan keamanan model AI dalam konteks medis.
Kandidat ideal akan menunjukkan:
- Pemahaman yang kuat tentang terminologi dan konsep medis: Penting untuk secara akurat melabeli data medis dan mengevaluasi kinerja model AI.
- Kemahiran dalam bahasa pemrograman seperti Python: Diperlukan untuk memanipulasi data, membangun model AI, dan mengotomatiskan tugas.
- Pengalaman bekerja dengan model bahasa besar: Keakraban dengan kekuatan dan keterbatasan LLM di domain medis.
- Keterampilan komunikasi dan kolaborasi yang sangat baik: Penting untuk bekerja secara efektif dengan peserta magang, peneliti, dan profesional perawatan kesehatan lainnya.
- Komitmen terhadap pengembangan AI yang etis: Pemahaman mendalam tentang pertimbangan etika seputar penggunaan AI dalam perawatan kesehatan, termasuk privasi data, bias, dan transparansi.
Masa Depan AI dalam Perawatan Kesehatan: Optimisme yang Hati-Hati
Program magang DeepSeek merupakan langkah signifikan menuju integrasi AI ke dalam perawatan kesehatan. Dengan berinvestasi dalam anotasi data dan penyempurnaan model, DeepSeek berupaya untuk meningkatkan akurasi dan keandalan sistem AI-nya. Namun, kekhawatiran yang diajukan oleh para peneliti Tiongkok menggarisbawahi perlunya kehati-hatian dan pertimbangan yang cermat terhadap potensi risiko yang terlibat.
Masa depan AI dalam perawatan kesehatan bergantung pada kemampuan untuk:
- Mengembangkan sistem AI yang kuat dan tepercaya.
- Mengatasi pertimbangan etika seputar penggunaan AI dalam perawatan kesehatan.
- Memastikan bahwa AI digunakan untuk menambah, bukan mengganti, dokter manusia.
- Mempromosikan transparansi dan kemampuan untuk dijelaskan dalam algoritma AI.
- Membina kolaborasi antara pengembang AI, profesional perawatan kesehatan, dan regulator.
Dengan fokus pada pengembangan dan penerapan yang bertanggung jawab, AI berpotensi merevolusi perawatan kesehatan, meningkatkan hasil pasien, dan mengubah cara pengobatan dipraktikkan.