Китайский стартап в области искусственного интеллекта DeepSeek недавно выпустил обновленную версию своей модели R1, которая продемонстрировала впечатляющие результаты в тестах на кодирование, математику и общие знания, почти превзойдя флагманскую модель o3 от OpenAI. Однако эта обновленная версия R1, также известная как “R1-0528”, может быть менее склонна отвечать на спорные вопросы, особенно касающиеся тем, которые китайское правительство считает деликатными.
Согласно тестам, проведенным анонимным разработчиком SpeechMap, R1-0528 демонстрирует гораздо меньшую терпимость к спорным темам, касающимся свободы слова, чем предыдущие версии DeepSeek, и является “наиболее строго цензурируемой моделью DeepSeek в отношении критики китайского правительства на сегодняшний день”. SpeechMap – это платформа, сравнивающая, как разные модели обрабатывают чувствительные и спорные темы.
Как пояснялось в статье Wired в январе, китайские модели должны соответствовать строгим правилам контроля информации. Закон 2023 года запрещает моделям генерировать контент, который “подрывает национальное единство и социальную гармонию”, что может быть истолковано как противостояние историческим и политическим нарративам правительства. Чтобы соответствовать требованиям, китайские стартапы обычно подвергают цензуре свои модели, используя фильтры уровня подсказок или тонкую настройку. Исследование показало, что первоначальная версия R1 от DeepSeek отказалась отвечать на 85% вопросов, касающихся политически спорных тем, по мнению китайского правительства.
По словам xlr8harder, R1-0528 подвергает цензуре ответы на такие темы, как лагеря для задержанных в Синьцзян-Уйгурском автономном районе Китая, где более миллиона уйгурских мусульман были произвольно задержаны. Хотя иногда он критикует некоторые аспекты политики китайского правительства – в тестах xlr8harder он приводил синьцзянские лагеря в качестве примера нарушений прав человека, – при прямом вопросе модель часто выдает официальную позицию китайского правительства.
TechCrunch также наблюдал это в наших коротких тестах.
Китайские общедоступные модели искусственного интеллекта, включая модели генерации видео, в прошлом подвергались критике за цензуру тем, чувствительных для китайского правительства, таких как резня на площади Тяньаньмэнь. В декабре генеральный директор платформы разработки искусственного интеллекта Hugging Face Клеман Деланг заявил, что западные компании строят неожиданные последствия, основанные на хорошо работающем, общедоступном китайском искусственном интеллекте.
Влияние цензуры на модели искусственного интеллекта уже давно является предметом беспокойства, особенно в контексте геополитической напряженности. Случай с DeepSeek R1-0528 подчеркивает сложный баланс между стремлением к прогрессу в технологиях искусственного интеллекта и поддержанием свободы мысли и доступа к информации. Стоит углубиться в то, как DeepSeek справляется с этими проблемами и что это означает для будущего развития индустрии искусственного интеллекта.
Определение и формы цензуры
Цензура в широком смысле – это ограничение или подавление информации, и она может принимать различные формы. В области искусственного интеллекта цензура обычно проявляется в следующем:
- Фильтрация контента: Блокировка модели от генерации или отображения определенных типов контента, таких как темы, касающиеся политически чувствительных вопросов, насилия, дискриминации и т. д.
- Искажение информации: Информация, представленная моделью, модифицируется или искажается в соответствии с определенной идеологией или политической позицией.
- Уклонение от ответов: Модель отказывается отвечать на определенные вопросы или дает уклончивые, двусмысленные ответы.
- Инженерия подсказок: Тщательно разработанные подсказки, направляющие модель к ответам, соответствующим определенным намерениям.
Случай с DeepSeek R1-0528 показывает, что модель, возможно, использует несколько методов цензуры, особенно когда речь идет о темах, чувствительных для китайского правительства.
Причины и мотивы цензуры
Причины и мотивы цензуры моделей искусственного интеллекта часто многогранны:
- Законы и правила: В некоторых странах или регионах приняты законы и правила, требующие, чтобы модели искусственного интеллекта соответствовали определенным стандартам контроля информации. Например, соответствующее законодательство Китая запрещает моделям генерировать контент, который “подрывает национальное единство и социальную гармонию”.
- Политическое давление: Правительства или политические группы могут оказывать давление на компании, занимающиеся искусственным интеллектом, требуя от них подвергать цензуре контент модели для защиты своих политических интересов.
- Социальная ответственность: Компании, занимающиеся искусственным интеллектом, могут из соображений социальной ответственности активно подвергать цензуре контент своих моделей, чтобы избежать распространения вредной информации или спровоцировать социальные волнения.
- Коммерческие интересы: Чтобы не разозлить правительство или общественность, компании в области искусственного интеллекта могут подвергать цензуре контент модели, чтобы защитить свои коммерческие интересы.
DeepSeek как китайская компания в области искусственного интеллекта может сталкиваться с соображениями, касающимися законов и правил, политического давления и социальной ответственности, что вынуждает ее подвергать цензуре R1-0528.
Потенциальные последствия цензуры
Цензура моделей искусственного интеллекта может иметь следующие потенциальные последствия:
- Ограничение доступа к информации: Цензура ограничивает возможность пользователей получать исчерпывающую и объективную информацию, тем самым влияя на их суждения и решения.
- Подавление инноваций: Цензура ограничивает развитие технологий искусственного интеллекта, поскольку исследователи могут быть не в состоянии свободно исследовать и тестировать различные идеи.
- Углубление социальных разногласий: Цензура может усугубить социальные разногласия, поскольку различные группы могут иметь доступ только к информации, соответствующей их собственной позиции.
- Подрыв доверия: Если пользователи обнаруживают, что модель искусственного интеллекта подвергает цензуре, они могут потерять доверие к этой модели.
Случай с DeepSeek R1-0528 показывает, что цензура может ограничивать возможность пользователей получать информацию о темах, чувствительных для китайского правительства.
Стратегии борьбы с цензурой искусственного интеллекта
Чтобы бороться с цензурой искусственного интеллекта, можно использовать следующие стратегии:
- Технические средства: Разработка технологий, которые могут обнаруживать и обходить фильтры цензуры.
- Судебные иски: Подача судебных исков против цензуры, которая нарушает свободу слова.
- Общественная пропаганда: Повышение осведомленности общественности о цензуре искусственного интеллекта и призыв к правительствам и предприятиям принять меры.
- Децентрализованный искусственный интеллект: Разработка децентрализованных платформ искусственного интеллекта для снижения вероятности цензуры.
- Сотрудничество с открытым исходным кодом: Поощрение сотрудничества с открытым исходным кодом для совместной разработки более открытых и прозрачных моделей искусственного интеллекта.
Ответ DeepSeek
DeepSeek публично не ответила на обвинения в цензуре R1-0528. Если DeepSeek ответит на это, стоит обратить внимание на следующие аспекты:
- Признает ли DeepSeek, что подвергла цензуре R1-0528?
- Если да, каковы причины и мотивы цензуры DeepSeek?
- Планирует ли DeepSeek изменить свою политику цензуры?
- Как DeepSeek балансирует между технологическим прогрессом и свободой информации?
Ответ DeepSeek окажет важное влияние на индустрию искусственного интеллекта.
##Цензура и этические дебаты
Цензура искусственного интеллекта поднимает ряд этических вопросов, в том числе:
- Свобода слова: Должны ли модели искусственного интеллекта пользоваться свободой слова?
- Доступ к информации: Имеют ли пользователи право на получение исчерпывающей и объективной информации?
- Прозрачность: Обязаны ли компании, занимающиеся искусственным интеллектом, публиковать свою политику цензуры?
- Ответственность: Кто должен нести ответственность за цензуру искусственного интеллекта?
- Доверие: Как построить доверие в эпоху искусственного интеллекта?
Эти этические вопросы требуют глубокого обсуждения.
Специфика китайской цензуры
Китайская цензура имеет свою специфику, которая в основном проявляется в следующих аспектах:
- Широкая сфера охвата: Сфера китайской цензуры охватывает политику, историю, культуру, религию и другие области.
- Строгая сила: Сила цензуры в Китае очень строгая и даже касается цензуры личных высказываний.
- Передовые технологии: В Китае есть большая команда цензоров, и она использует передовые технологии для цензуры.
- Юридическая поддержка: Китай разработал ряд законов и правил, обеспечивающих юридическую поддержку цензуре.
Эти особенности создают уникальные проблемы при разработке моделей искусственного интеллекта в Китае.
Сравнение глобальной цензуры искусственного интеллекта
Помимо Китая, в других странах также существуют различные формы цензуры искусственного интеллекта, которые в основном проявляются в следующих аспектах:
- Европа: Европейский Союз издал “Закон об искусственном интеллекте”, направленный на регулирование применения искусственного интеллекта и предотвращение его использования для дискриминации или нарушения прав человека.
- Соединенные Штаты: Соединенные Штаты в основном регулируют развитие искусственного интеллекта посредством рыночных механизмов и саморегулирования отрасли, но также существуют некоторые споры о цензуре контента.
- Другие страны: Другие страны также разработали различную политику регулирования искусственного интеллекта в соответствии со своими национальными условиями, и некоторые из этих политик могут касаться цензуры контента.
Сравнивая системы цензуры искусственного интеллекта в разных странах, можно лучше понять сложность и разнообразие цензуры.
Будущие тенденции цензуры искусственного интеллекта
Будущие тенденции цензуры искусственного интеллекта могут включать следующие аспекты:
- Технологический прогресс: Технологии цензуры и контрцензуры будут продолжать развиваться, образуя игру в кошки-мышки.
- Ужесточение регулирования: Правительства разных стран могут усилить регулирование искусственного интеллекта, включая цензуру контента.
- Международное сотрудничество: Страны могут усилить международное сотрудничество в области управления искусственным интеллектом, включая цензуру контента.
- Общественная забота: Все слои общества будут больше заботиться о влиянии цензуры искусственного интеллекта и призывать к более ответственным методам.
Влияние цензуры на DeepSeek
Глубокое развитие DeepSeek, как китайской компании искусственного интеллекта, находится под сильным влиянием китайской системы цензуры. DeepSeek необходимо найти баланс между соблюдением китайских законов и правил и удовлетворением потребностей пользователей. Будущее развитие DeepSeek будет зависеть от того, как она справится с проблемами, которые создает цензура.
Искусственный интеллект и предвзятость
Цензура тесно связана с проблемой предвзятости искусственного интеллекта. Цензура может привести к тому, что модель будет изучать только часть информации, тем самым создавая предвзятость. DeepSeek необходимо принять меры для обеспечения того, чтобы его модели могли изучать исчерпывающую и объективную информацию и избегать создания предвзятости.
Прозрачность и объяснимость
Чтобы справиться с проблемами, которые представляет собой цензура, DeepSeek следует стремиться повысить прозрачность и объяснимость своих моделей. DeepSeek следует публиковать свою политику цензуры и объяснять, как их модели обрабатывают чувствительные темы. Это поможет построить доверие пользователей и будет способствовать здоровому развитию искусственного интеллекта.
Вывод
Случай с DeepSeek R1-0528 подчеркивает сложность и важность цензуры искусственного интеллекта. Цензура оказывает важное влияние на доступ к информации, технологические инновации, социальные разногласия и доверие пользователей. Для борьбы с цензурой требуются различные стратегии, такие как технические средства, судебные иски, общественная пропаганда, децентрализованный искусственный интеллект и сотрудничество с открытым исходным кодом. DeepSeek, как китайской компании в области искусственного интеллекта, необходимо найти баланс между соблюдением китайских законов и правил и удовлетворением потребностей пользователей. DeepSeek следует стремиться повысить прозрачность и объяснимость своих моделей, чтобы справиться с проблемами, которые представляет собой цензура.