Китайският AI стартъп DeepSeek активно набира стажанти за щателно етикетиране на медицински данни, с цел да подобри прецизността и надеждността на AI приложенията в болнична среда. Този ход подчертава нарастващата интеграция на AI, особено open-source моделите, в китайското здравеопазване, където те се използват за генериране на диагнози и предписания. Въпреки това, той идва и на фона на нарастващ контрол върху потенциалните рискове, свързани с бързото разгръщане на тези технологии.
Възможност за стаж: Подробен преглед
Стажантската програма на DeepSeek предлага дневно възнаграждение от 500 юана (приблизително 70 щатски долара) на лица, способни да се ангажират с четиридневен работен ден. Основната отговорност на тези стажанти се върти около етикетирането на медицински данни, по-специално за приложения, свързани с инструменти за “усъвършенствана спомагателна диагноза”. Тези позиции са базирани в Пекин, поставяйки стажантите в сърцето на операциите на DeepSeek и в челните редици на пейзажа на развитието на AI в Китай.
Обявата за работа в Boss, популярна платформа за набиране на персонал, очертава специфични квалификации за бъдещи стажанти. Идеалните кандидати притежават стабилен медицински опит, обикновено доказан чрез записване като четвърти курс студент или притежаващ магистърска степен. Освен това, ролята изисква познаване на големи езикови модели (LLM), владеене на писане на Python код и способност за създаване на ефективни подкани за големи AI модели. Този многостранен набор от умения отразява сложния характер на работата, изискващ както медицински познания, така и технически опит.
Ключови отговорности на стажантите
- Подробно етикетиране на данни: Присвояване на точни и последователни етикети на медицинските данни, гарантиращи, че AI моделите са обучени върху висококачествена информация.
- LLM умения: Работа с големи езикови модели, за да се разберат техните възможности и ограничения в медицинския контекст.
- Python кодиране: Използване на Python за манипулиране на данни, автоматизиране на процеси и евентуално допринасяне за разработването на AI алгоритми.
- Проектиране на подкани: Създаване на ефективни подкани, които предизвикват точни и подходящи отговори от AI моделите, особено в диагностични сценарии.
Приемане на AI от DeepSeek в китайските болници
Тази инициатива е в съответствие с по-широка тенденция китайските болници да възприемат open-source AI модели от компании като DeepSeek. Тези AI системи се използват, за да помогнат при генерирането на диагнози и предписания, потенциално рационализиране на работните процеси и подобряване на грижите за пациентите. Към март, около 300 болници в Китай вече бяха започнали да включват LLM на DeepSeek в своите клинични диагностики и системи за подпомагане на медицински решения.
Привлекателността на AI в здравеопазването произтича от неговия потенциал да:
- Подобри точността на диагнозите: AI алгоритмите могат да анализират огромни количества медицински данни, за да идентифицират модели и аномалии, които може да бъдат пропуснати от човешки клиницисти.
- Ускори диагностицирането: AI може да ускори диагностичния процес, което води до по-бързо лечение и потенциално подобрени резултати за пациентите.
- Персонализира плановете за лечение: AI може да анализира индивидуални данни за пациенти, за да приспособи плановете за лечение към техните специфични нужди и обстоятелства.
- Намали разходите за здравеопазване: Чрез автоматизиране на задачи и подобряване на ефективността, AI може да допринесе за намаляване на разходите за здравеопазване.
Опасения и критики относно бързото приемане на AI
Въпреки потенциалните ползи, бързото приемане на AI от DeepSeek от болниците не беше без критици. Екип от китайски изследователи изрази опасения относно потенциалната клинична безопасност и рисковете за поверителността, свързани с това широко разпространено прилагане.
В статия, публикувана в уважаваното медицинско списание JAMA (Journal of the American Medical Association), изследователите предупредиха срещу некритичното приемане на AI в здравеопазването. Те подчертаха склонността на DeepSeek да генерира „правдоподобни, но фактически неверни резултати“, явление, обикновено наричано „халюцинации“ в AI общността. Тази тенденция, твърдят те, може да доведе до „значителен клиничен риск“, потенциално компрометиращ безопасността и благосъстоянието на пациентите.
Изследователският екип включва видни фигури в китайската медицинска изследователска общност, като Wong Tien Yin, основателят ръководител на Tsinghua Medicine, консорциум от медицински изследователски училища в университета Tsinghua в Пекин. Тяхното участие придава значителен авторитет на повдигнатите опасения.
Потенциални рискове, подчертани от изследователите
- AI халюцинации: Генерирането на фактически невярна или подвеждаща информация от AI моделите, което потенциално води до погрешна диагноза или неподходящо лечение.
- Опасения за поверителността на данните: Рискът от чувствителни данни за пациенти да бъдат компрометирани или злоупотребени от AI системите.
- Липса на прозрачност: Характерът на „черната кутия“ на някои AI алгоритми, което затруднява разбирането как стигат до своите заключения.
- Пристрастия в AI алгоритмите: Потенциалът AI алгоритмите да увековечават или засилват съществуващите пристрастия в здравеопазването, което води до различия в резултатите от лечението.
- Прекалено разчитане на AI: Рискът здравните специалисти да станат прекалено зависими от AI, което потенциално намалява техните умения за критично мислене и клинична преценка.
Отговорът на DeepSeek: Справяне с AI халюцинациите
Признавайки валидността на тези опасения, DeepSeek включи мерки за справяне с проблема с AI халюцинациите в своите медицински приложения. В описанието на работата, публикувано в Boss, компанията изрично заяви, че стажантите ще играят ключова роля в подобряването на медицинските възможности на DeepSeek, включително подобряване на медицинските познания на моделите и минимизиране на халюцинациите в медицинските въпроси и отговори.
Този проактивен подход предполага, че DeepSeek се ангажира да разработва AI системи, които са не само мощни, но и надеждни и безопасни за употреба в клинична среда. Като се фокусира върху смекчаване на халюцинациите и подобряване на точността на медицинската информация, DeepSeek се стреми да изгради доверие сред здравните специалисти и да осигури отговорно приемане на AI в здравеопазването.
Стратегии за минимизиране на AI халюцинациите
- Увеличаване на данните: Разширяване на обучителния набор данни с разнообразна и висококачествена медицинска информация, за да се подобри базата от знания на модела.
- Механизми за проверка на факти: Включване на механизми за проверка на точността на информацията, генерирана от AI модела, спрямо надеждни медицински източници.
- Обучение с подсилване: Обучаване на AI модела да приоритизира точността и да избягва генерирането на спекулативна или необоснована информация.
- Човешки надзор: Внедряване на системи, които позволяват на човешки клиницисти да преглеждат и валидират резултатите от AI модела, като гарантират, че те са точни и подходящи.
- Обясним AI (XAI): Разработване на AI алгоритми, които предоставят обяснения за своите решения, което улеснява клиницистите да разберат и да се доверят на препоръките на AI.
Идеалният профил на стажант: Умения и отговорности
Успешните кандидати за тези стажове ще трябва да притежават многостранен набор от умения, обхващащ както медицински познания, така и технически опит. Те ще бъдат отговорни за:
- Проектиране на модели за медицински въпроси: Създаване на структурата и параметрите на AI модели, които могат ефективно да отговарят на медицински запитвания.
- Разработване на процеси за оценка на медицинските възможности на модела: Разработване на методи за оценка на точността, надеждността и безопасността на AI моделите в медицински контекст.
Идеалният кандидат ще демонстрира:
- Добро разбиране на медицинската терминология и концепции: От съществено значение за точно етикетиране на медицински данни и оценка на работата на AI моделите.
- Владеене на езици за програмиране като Python: Необходимо за манипулиране на данни, изграждане на AI модели и автоматизиране на задачи.
- Опит в работата с големи езикови модели: Запознаване със силните и слабите страни на LLM в медицинската област.
- Отлични комуникационни умения и умения за сътрудничество: От решаващо значение за ефективна работа с други стажанти, изследователи и здравни специалисти.
- Ангажимент към етичното развитие на AI: Дълбоко разбиране на етичните съображения относно използването на AI в здравеопазването, включително поверителността на данните, пристрастията и прозрачността.
Бъдещето на AI в здравеопазването: Предпазлив оптимизъм
Стажантската програма на DeepSeek представлява значителна стъпка към интегрирането на AI в здравеопазването. Инвестирайки в анотиране на данни и усъвършенстване на модели, DeepSeek работи за подобряване на точността и надеждността на своите AI системи. Опасенията, повдигнати от китайски изследователи, обаче подчертават необходимостта от предпазливост и внимателно разглеждане на потенциалните рискове.
Бъдещето на AI в здравеопазването зависи от способността да се:
- Разработват AI системи, които са едновременно мощни и надеждни.
- Разглеждат етичните съображения относно използването на AI в здравеопазването.
- Гарантира, че AI се използва за увеличаване, а не за заместване на човешките клиницисти.
- Насърчават прозрачността и обяснимостта в AI алгоритмите.
- Насърчават сътрудничеството между разработчиците на AI, здравните специалисти и регулаторите.
Със акцент върху отговорното развитие и внедряване, AI има потенциала да революционизира здравеопазването, подобрявайки резултатите за пациентите и трансформирайки начина, по който се практикува медицината.