中国のAIスタートアップDeepSeekの最新AIモデルは、コーディング、数学、および一般的な知識のベンチマークテストで目覚ましい成果を上げ、OpenAIのフラッグシップモデルo3にほぼ匹敵します。しかし、アップグレードされたR1、「R1-0528」とも呼ばれるモデルは、物議を醸す可能性のある質問、特に中国政府が問題視するトピックに関しては、以前よりも回答を躊躇する可能性があります。
SpeechMapの背後にいる匿名の開発者によるテストによると、R1-0528は物議を醸す言論の自由のトピックに対する許容度がDeepSeekの以前のバージョンよりもはるかに低く、「これまでで最も中国政府の批判に対する検閲が厳しいDeepSeekモデル」とのことです。SpeechMapは、さまざまなモデルがデリケートなトピックや物議を醸すトピックをどのように扱うかを比較するプラットフォームです。
Wiredが1月の記事で説明したように、中国のモデルは厳格な情報統制に従う必要があります。2023年の法律では、モデルが「国家の統一と社会の調和を損なう」コンテンツを生成することを禁止しています。これは、政府の歴史的および政治的ナラティブに反するコンテンツとして解釈される可能性があります。規制を遵守するために、中国のスタートアップは通常、プロンプトレベルのフィルターまたはファインチューニングを使用してモデルを検閲します。ある研究では、DeepSeekの最初のR1は、中国政府が政治的に物議を醸すと見なすトピックに関する質問の85％への回答を拒否したことがわかりました。
xlr8harderによると、R1-0528は、中国の新疆ウイグル自治区にある拘留キャンプなどのトピックに関する回答を検閲します。これらのキャンプでは、100万人以上のウイグル族イスラム教徒が恣意的に拘留されています。モデルは、中国政府の政策の特定の側面を批判することもありますが（xlr8harderのテストでは、人権侵害の例として新疆キャンプを挙げています）、直接質問された場合、モデルは中国政府の公式見解を提示することがよくあります。
TechCrunchも、私たちの簡単なテストでこれを観察しました。
中国で公開されているAIモデル（ビデオ生成モデルを含む）は、過去に天安門広場虐殺などの中国政府が敏感と見なすトピックを検閲しているとして批判されています。12月、AI開発プラットフォームHugging FaceのCEOであるClément Delangueは、優れた性能を持ち、公開ライセンスされた中国のAI上に西洋企業が構築することによる意図しない結果について警告しました。
検閲がAIモデルに与える影響は、特に地政学的な緊張が高まる中で、長らく懸念事項となっています。DeepSeek R1-0528の事例は、AI技術の進歩の追求と、思想の自由と情報へのアクセスとの間の複雑なバランスを浮き彫りにしています。DeepSeekがこれらの課題にどのように対処するか、またそれがAI業界の将来の発展にどのような意味を持つかを深く掘り下げる価値があります。
検閲制度の定義と形式
検閲制度は、広義には情報の制限または抑圧を指し、さまざまな形式をとることができます。AIの分野では、検閲制度は通常、次のように表れます。
- コンテンツフィルタリング: モデルが特定の種類のコンテンツ（政治的にデリケートなトピック、暴力、差別などに関連するものなど）を生成または表示するのを防ぎます。
- 情報の歪曲: モデルが提示する情報が、特定のイデオロギーまたは政治的立場に適合するように修正または歪曲されています。
- 回答の回避: モデルが特定の質問への回答を拒否するか、曖昧または不明確な回答を提供します。
- プロンプトエンジニアリング: 慎重に設計されたプロンプトを使用して、モデルが特定の意図に一致する回答を提供するように誘導します。
DeepSeek R1-0528の事例は、モデルが上記のさまざまな検閲手段を採用している可能性を示唆しています。特に中国政府が敏感と見なすトピックに関してはそうです。
検閲制度の原因と動機
AIモデルを検閲する原因と動機は通常、多岐にわたります。
- 法律と規制: 一部の国または地域では、AIモデルが特定の情報統制基準を遵守する必要がある法律と規制を制定しています。たとえば、中国の関連法は、モデルが「国家の統一と社会の調和を損なう」コンテンツを生成することを禁止しています。
- 政治的圧力: 政府または政治団体は、AI企業に圧力をかけ、政治的利益を維持するためにモデルのコンテンツを検閲するよう要求する場合があります。
- 社会的責任: AI企業は、有害な情報を広めたり、社会不安を引き起こしたりすることを避けるために、社会的責任の考慮からモデルのコンテンツを積極的に検閲する場合があります。
- 商業的利益: 政府または国民の怒りを避けるために、AI企業は商業的利益を維持するためにモデルのコンテンツを検閲する場合があります。
中国のAI企業であるDeepSeekは、法律や規制、政治的圧力、および社会的責任からの考慮に直面している可能性があり、そのためR1-0528を検閲する必要があるかもしれません。
検閲制度の潜在的な影響
AIモデルの検閲制度は、次の潜在的な影響を与える可能性があります。
- 情報アクセスの制限: 検閲制度は、ユーザーが包括的で客観的な情報にアクセスすることを制限し、判断と意思決定に影響を与える可能性があります。
- イノベーションの抑制: 検閲制度は、研究者がさまざまなアイデアを自由に探索およびテストできないため、AI技術の開発を制限する可能性があります。
- 社会的分断の悪化: 検閲制度は、異なるグループが自分の立場に一致する情報にしかアクセスできないため、社会的分断を悪化させる可能性があります。
- 信頼の損害: ユーザーがAIモデルが検閲を行っていることを発見した場合、そのモデルに対する信頼を失う可能性があります。
DeepSeek R1-0528の事例は、検閲制度が中国政府が敏感と見なすトピックに関する情報をユーザーが取得することを制限する可能性があることを示しています。
AI検閲制度への対処戦略
AI検閲制度に対処するために、次の戦略を採用できます。
- 技術的手段: 検閲フィルターを検出してバイパスできる技術を開発します。
- 訴訟: 言論の自由を侵害する検閲行為に対して訴訟を起こします。
- パブリックアドボカシー: AI検閲制度に対する国民の意識を高め、政府と企業に行動を呼びかけます。
- 分散型AI: 検閲の可能性を減らすために、分散型AIプラットフォームを開発します。
- オープンソースコラボレーション: よりオープンで透明なAIモデルを共同で開発するために、オープンソースコラボレーションを奨励します。
DeepSeekの対応
DeepSeekは、R1-0528の検閲制度の申し立てについて公に反応していません。DeepSeekがこれに応答する場合、次の側面を監視する価値があります。
- DeepSeekは、R1-0528を検閲したことを認めるでしょうか？
- 認める場合、DeepSeekの検閲の理由と動機は何でしょうか？
- DeepSeekは検閲ポリシーを変更する計画があるでしょうか？
- DeepSeekは、技術の進歩と情報の自由のバランスをどのようにとるのでしょうか？
DeepSeekの対応は、AI業界に大きな影響を与えるでしょう。
検閲制度と倫理的考慮
AI検閲制度は、次のような一連の倫理的質問を提起します。
- 言論の自由: AIモデルは言論の自由を享受すべきでしょうか？
- 情報アクセス: ユーザーは包括的で客観的な情報にアクセスする権利があるでしょうか？
- 透明性: AI企業は検閲ポリシーを開示する義務があるでしょうか？
- 責任: AI検閲制度は誰が責任を負うべきでしょうか？
- 信頼: AI時代に信頼を構築するにはどうすればよいでしょうか？
これらの倫理的質問は、詳細な調査が必要です。
中国の検閲制度の特殊性
中国の検閲制度にはその特殊性があり、主に次の側面に現れています。
- 広範な範囲: 中国の検閲範囲は、政治、歴史、文化、宗教など、多くの分野をカバーしています。
- 厳格な強度: 中国の検閲強度は非常に厳しく、個々の発言の検閲さえ含まれます。
- 高度な技術: 中国には大規模な検閲チームがあり、高度な技術的手段を使用して検閲を行っています。
- 法的サポート: 中国は検閲制度に法的サポートを提供する一連の法律と規制を制定しました。
これらの特殊性により、中国でAIモデルを開発することは独自の課題に直面します。
グローバルAI検閲制度の比較
中国に加えて、他の国にもさまざまな形式のAI検閲制度が存在し、主に次の側面に現れています。
- ヨーロッパ: 欧州連合は「AI法」を導入し、AIの応用に関する規範を定め、差別や人権侵害に利用されることを防ぐことを目的としています。
- アメリカ: アメリカは主に市場メカニズムと業界の自主規制を通じてAIの開発を規制していますが、コンテンツ検閲に関する論争がいくつか存在します。
- その他の国: その他の国も、それぞれの国の状況に応じてさまざまなAI規制ポリシーを策定しており、そのうちの一部にはコンテンツ検閲が含まれる場合があります。
異なる国のAI検閲制度を比較することで、検閲制度の複雑さと多様性をよりよく理解できます。
AI検閲制度の将来のトレンド
AI検閲制度の将来のトレンドには、次のものが含まれる可能性があります。
- 技術の進歩: 検閲技術とアンチ検閲技術は進化を続け、いたちごっこのような状況になります。
- 規制の強化: 各国政府は、コンテンツ検閲を含むAIの規制を強化する可能性があります。
- 国際協力: 各国は、コンテンツ検閲を含むAIガバナンスに関する国際協力を強化する可能性があります。
- 社会の関心: 社会はAI検閲制度の影響にますます注目し、より責任ある慣行を求める可能性があります。
DeepSeekに対する検閲制度の影響
中国のAI企業であるDeepSeekの開発は、中国の検閲制度に深く影響を受けています。DeepSeekは、中国の法律と規制を遵守し、ユーザーのニーズを満たすことのバランスを取る必要があります。DeepSeekの今後の発展は、検閲制度がもたらす課題にどのように対処するかによって決まります。
AIと偏見
検閲制度はAIの偏見の問題と密接に関連しています。検閲制度は、モデルが一部の情報しか学習しないようにし、偏見を生み出す可能性があります。DeepSeekは、モデルが包括的で客観的な情報を学習し、偏見を生み出すことを避けるための措置を講じる必要があります。
透明性と解釈可能性
検閲制度がもたらす課題に対処するために、DeepSeekはモデルの透明性と解釈可能性を高める必要があります。DeepSeekは検閲ポリシーを開示し、モデルがデリケートなトピックをどのように処理するかを説明する必要があります。これにより、ユーザーの信頼を築き、AIの健全な発展を促進することができます。
まとめ
DeepSeek R1-0528の事例は、AI検閲制度の複雑さと重要性を浮き彫りにしています。検閲制度は、情報アクセス、技術革新、社会的分断、およびユーザーの信頼に大きな影響を与えます。検閲制度に対処するには、技術的手段、訴訟、パブリックアドボカシー、分散型AI、およびオープンソースコラボレーションなどのさまざまな戦略が必要です。中国のAI企業であるDeepSeekは、中国の法律と規制を遵守し、ユーザーのニーズを満たすことのバランスを取る必要があります。DeepSeekは、検閲制度がもたらす課題に対処するために、モデルの透明性と解釈可能性を高める必要があります。