深势科技（DeepSeek）是一家中国人工智能初创公司，目前正在积极招募实习生，进行细致的医疗数据标注工作。此举旨在提升AI在医院环境中的精准性和可靠性。这一行动凸显了AI，尤其是开源模型，在中国医疗保健领域日益增长的融合趋势，这些模型正被用于生成诊断和处方。然而，与此同时，人们也越来越关注这些技术快速部署可能带来的潜在风险。
实习机会：深入了解
深势科技的实习计划为能够保证每周工作四天的人员提供每日500元人民币（约合70美元）的报酬。这些实习生的核心职责是标注医疗数据，特别是与“高级辅助诊断”工具相关的应用。这些职位设在北京，使实习生处于深势科技运营的核心位置，以及中国AI发展的前沿。
在热门招聘平台Boss上的招聘信息中，列出了未来实习生的具体资格要求。理想的候选人拥有扎实的医学背景，通常表现为四年级本科生或硕士学位持有者。此外，该角色需要熟悉大型语言模型（LLMs），精通编写Python代码，并且能够为大型AI模型编写有效的提示。这种多方面的技能组合反映了所涉及工作的复杂性，既需要医学知识，也需要技术专长。
实习生的主要职责
- 详细的数据标注： 为医疗数据分配准确且一致的标签，确保AI模型接受高质量信息的训练。
- LLM精通： 使用大型语言模型来了解它们在医疗背景下的能力和局限性。
- Python编码： 利用Python来操作数据、自动化流程，并可能为AI算法的开发做出贡献。
- 提示工程： 制作有效的提示，从AI模型中得出准确且相关的响应，尤其是在诊断场景中。
深势科技的AI在中国医院的应用
这一举措与中国医院广泛采用深势科技等公司提供的开源AI模型的趋势相一致。这些AI系统正被用于协助生成诊断和处方，有可能简化工作流程并改善患者护理。截至3月份，估计中国已有300家医院开始将深势科技的LLM整合到其临床诊断和医疗决策支持系统中。
AI在医疗保健领域的吸引力源于其潜力：
- 提高诊断准确性： AI算法可以分析大量的医疗数据，以识别可能被人类临床医生遗漏的模式和异常情况。
- 加速诊断： AI可以加快诊断过程，从而更快地进行治疗并有可能改善患者的治疗效果。
- 个性化治疗计划： AI可以分析患者的个人数据，以根据他们的具体需求和情况定制治疗计划。
- 降低医疗保健成本： 通过自动化任务和提高效率，AI可以为降低医疗保健成本做出贡献。
关于AI快速应用的关注与批评
尽管存在潜在的好处，但医院快速采用深势科技的AI并非没有批评者。一个中国研究团队对这种广泛实施可能带来的临床安全和隐私风险表示担忧。
在著名的医学期刊JAMA（美国医学会杂志）上发表的一篇论文中，研究人员告诫不要不加批判地接受AI在医疗保健领域的应用。他们强调了深势科技倾向于生成“看似合理但实际上不正确的输出”，这在AI社区中通常被称为“幻觉”现象。他们认为，这种倾向可能导致“巨大的临床风险”，有可能损害患者的安全和福祉。
研究团队包括中国医学研究界的杰出人物，例如清华大学医学科学学院的创始院长尹玉田。他们的参与为提出的担忧赋予了重要的可信度。
研究人员强调的潜在风险
- AI幻觉： AI模型生成实际上不正确或具有误导性的信息，有可能导致误诊或不适当的治疗。
- 数据隐私问题： 敏感患者数据被AI系统泄露或滥用的风险。
- 缺乏透明度： 某些AI算法的“黑匣子”性质，使得难以理解它们如何得出结论。
- AI算法中的偏见： AI算法有可能延续或放大医疗保健中现有的偏见，导致治疗结果的差异。
- 过度依赖AI： 医疗专业人员过度依赖AI的风险，有可能降低他们的批判性思维能力和临床判断力。
深势科技的回应：解决AI幻觉问题
认识到这些担忧的有效性，深势科技已采取措施来解决其医疗应用中的AI幻觉问题。在Boss上发布的职位描述中，该公司明确表示，实习生将在增强深势科技的医疗能力方面发挥关键作用，包括提高模型的医学知识并最大限度地减少医学问题和答案中的幻觉。
这种积极主动的方法表明，深势科技致力于开发不仅强大而且可靠且安全地用于临床环境的AI系统。通过专注于减轻幻觉并提高医疗信息的准确性，深势科技旨在建立医疗专业人员之间的信任，并确保负责任地采用AI进行医疗保健。
尽量减少AI幻觉的策略
- 数据增强： 使用多样化和高质量的医疗信息扩展训练数据集，以提高模型的知识库。
- 事实检查机制： 纳入机制，以针对可靠的医疗来源验证AI模型生成的信息的准确性。
- 强化学习： 训练AI模型以优先考虑准确性并避免生成推测性或未经证实的信息。
- 人工监督： 实施允许人类临床医生审查和验证AI模型输出的系统，确保它们准确且适当。
- 可解释AI (XAI)： 开发为他们的决策提供解释的AI算法，使临床医生更容易理解和信任AI的建议。
理想的实习生形象：技能与职责
这些实习职位的成功申请人需要具备多方面的技能，包括医疗知识和技术专长。他们将负责：
- 为医学问题设计模型：构建AI模型，使其能够有效回答医学询问的结构和参数。
- 设计模型医学能力的评估过程：开发评估AI模型在医学背景下的准确性、可靠性和安全性的方法。
理想的候选人将展示：
- 对医学术语和概念的深刻理解：对于准确标注医疗数据和评估AI模型的性能至关重要。
- 精通Python等编程语言：操作数据、构建AI模型和自动化任务是必要的。
- 使用大型语言模型的经验：熟悉LLM在医疗领域的优势和局限性。
- 出色的沟通和协作能力：对于与其他实习生、研究人员和医疗专业人员有效合作至关重要。
- 对道德AI开发的承诺： 深刻理解围绕AI在医疗保健中使用中的伦理考量，包括数据隐私、偏见和透明度。
AI在医疗保健领域的未来：谨慎的乐观
深势科技的实习计划代表着将AI融入医疗保健的重要一步。通过投资于数据标注和模型改进，深势科技正在努力提高其AI系统的准确性和可靠性。然而，中国研究人员提出的担忧强调了有必要对所涉及的潜在风险保持谨慎和认真考虑。
AI在医疗保健领域的未来取决于以下能力：
- 开发既强大又值得信赖的AI系统。
- 解决围绕AI在医疗保健领域使用中的伦理考量。
- 确保AI用于增强而非取代人类临床医生。
- 提高AI算法的透明度和可解释性。
- 促进AI开发者、医疗专业人员和监管机构之间的合作。
通过专注于负责任的开发和部署，AI有潜力彻底改变医疗保健，改善患者的治疗效果并改变医学的实践方式。