DeepSeekを巡る論争：百度CEOがAIモデルへの懸念を表明
中国のAIモデルであるDeepSeekは、今年初めに大きな注目と賞賛を集めましたが、最近、百度の会長兼CEOであるRobin Liから批判を受けています。4月25日の百度AI開発者会議で、Li氏はDeepSeekの能力について、多様なメディア形式の処理における制限、パフォーマンスの遅さ、高コスト、不正確な情報を生成する傾向を指摘し、広範な使用には信頼できないと述べました。
DeepSeekの物議を醸すデビュー
Guancha.cnとSina.comの報道によると、Li氏は会議で大規模AIモデルの変動する状況について言及しました。彼は、モデル開発者間の激しい競争を「ネズミの競争」と表現し、その結果、開発者が自信を持ってアプリケーションを作成することへの混乱と躊躇が生じていることを強調しました。
Li氏は「アプリケーションがなければ、チップもモデルも価値がない」と強調しました。彼は、AIアプリケーションを構築しようとする開発者にとって、現在の大規模モデルの利用における高コストと非現実性が大きな障害であると指摘しました。
中国の杭州に拠点を置くスタートアップ企業であるDeepSeekは、1月にオープンソースの推論モデルであるR1をリリースしました。当時、国営メディアはDeepSeekをOpenAIを上回るものとして称賛しました。しかし、ユーザーや研究者によるその後の調査で、欠点、セキュリティの脆弱性、潜在的なリスクが明らかになりました。台湾、日本、韓国、米国、カナダ、イタリア、オーストラリア、オランダなどの多くの政府、および数百の企業が、政府および企業のデバイスでのDeepSeekの使用を禁止しています。
2月8日、AIセキュリティの専門家は、DeepSeekに関する詳細なセキュリティテストの結果をメディアに共有しました。彼らは、DeepSeekがChatGPT、Gemini、Claudeと比較して「ジェイルブレイク」されやすいことを発見しました。この脆弱性により、ユーザーはAIの元の安全制限を回避し、潜在的に危険、有害、または違法なコンテンツをより簡単に入手できるようになりました。
3月には、清華大学と関係があり、DeepSeekモデルを最初に統合してAPIとクラウドミラーサービスを提供したAIインフラストラクチャ企業である「Luchen Technology」が、関連サービスの停止を発表しました。同社の創業者であるYou Yang氏は、DeepSeekに関連する実際のコストが理論上のコストよりも大幅に高いことを投稿で明らかにしました。オンラインでの反発を受け、彼はDeepSeekが短期的にはアメリカの技術を利用せずに動作することは不可能であると公に述べ、なぜこの現実が公然と認められないのか疑問を呈しました。
Sina Technologyの3月4日の報道によると、DeepSeekは3月1日の17:02に、オンラインシステムの理論上のコスト利益率が545％であると発表しました。その後、Luchen Technologyは、1週間以内にDeepSeek APIサービスの提供を停止し、ユーザーに残りの残高を使用するよう促すと発表しました。
報道では、Luchen TechnologyがDeepSeek APIサービスの提供を停止する具体的な理由を公には開示していません。しかし、創業者がZhihuなどのプラットフォームで行ったDeepSeekのコストに関する広範な分析は、コストがAPIサービスの提供を停止する主な要因であったことを示唆しています。
国家安全保障上の懸念
DeepSeekと中国政府との関係は、当初考えられていたよりも直接的である可能性があります。カナダのサイバーセキュリティ企業であるFeroot Securityは、DeepSeekのウェブサイトのログインページと、以前に米国政府から制裁を受けた中国の国有企業であるChina Mobileとの間に重要なつながりを発見しました。
近年、国家安全保障上の懸念から、DeepSeekの禁止を求める声が高まっています。
4月24日、米国下院議員の数名がDeepSeekに書簡を送り、同社の中国共産党（CCP）との関係について懸念を表明し、AIモデルのトレーニングに使用された米国のデータに関する情報の提供を要求しました。
下院エネルギー商務委員会の委員長であるBrett Guthrie下院議員と、イノベーション、データ、商務小委員会の委員長であるGus Bilirakis下院議員は、他の10名の小委員会メンバーと共に、DeepSeekに対し、同社の「アメリカ人の個人データの収集」と関連する国家安全保障上のリスクについて懸念を表明する書簡を送りました。
Guthrie議員とBilirakis議員は書簡の中で、「DeepSeekは、アメリカ人ユーザーの個人データを中国のサーバーに送信することを認めており、その情報は間違いなく中国共産党と提携している当局者によってアクセスされるでしょう。私たちは、主要な敵対者とのこの代理関係が、私たちのデータと国家安全保障を危険にさらしていることを懸念しています。
‘アメリカ人ユーザーとその企業が外国からの干渉から保護されるように、DeepSeekとそれが我が国にもたらす脅威に対する調査を開始します。’
書簡にはさらに、「メディアの報道によると、同社はまた、ByteDanceを含む、中国共産党と提携している他の団体とユーザーの個人情報を共有しています。
‘同時に、研究者はDeepSeekの主張されたセキュリティ制御とモデルの保護に重大な脆弱性を発見しました。これらのリスクに対応して、ニューヨーク、テキサス、バージニアを含む州が増加しており、政府デバイスでのDeepSeekの使用を禁止しており、州司法長官はより広範な禁止を求めています。’
4月16日、米国下院中国共産党特別委員会は、DeepSeekが米国の国家安全保障に重大な脅威をもたらしていることを強調する報告書を発表しました。報告書は、DeepSeekがユーザーデータをCCPのために収集し、密かに結果を操作し、CCPが自らを美化し、外国人市民を監視し、米国の輸出管理制限を盗み、弱体化させるための最新のツールになっていると非難しました。
報告書は、DeepSeekはユーザーにテキストを生成し、質問に答える方法を提供する単なるAIチャットボットのように見えるかもしれませんが、より詳細な調査により、DeepSeekは取得した個人データを中国の軍事関係を持つChina Mobileに密かに送信し、ユーザーにセキュリティの脆弱性を作り出していることが明らかになったと指摘しました。米国はすでにChina Mobileが米国で事業を行うことを禁止しています。
DeepSeekの疑惑の欠点への深掘り
DeepSeekを取り巻く当初の誇大宣伝は、さまざまな分野に革命をもたらす準備ができているAIの驚異のイメージを描きましたが、より綿密な調査により、よりニュアンスがあり複雑な現実が明らかになりました。百度のCEOであるRobin Liによって提起された懸念と、その後のサイバーセキュリティの専門家や政府機関による調査は、DeepSeekが期待に応えられず、潜在的なリスクを高めるいくつかの重要な領域を強調しています。
限定的なマルチモーダル機能
DeepSeekに対する主な批判の1つは、マルチモーダルコンテンツを処理する能力が限られていることです。テキスト、画像、オーディオ、ビデオなど、さまざまな形式のデータをシームレスに統合して理解できるより高度なAIモデルとは異なり、DeepSeekは基本的なテキスト入力以外のものを理解するのに苦労すると報告されています。この制限により、情報がさまざまな形式の組み合わせで提示されることが多い実際のシナリオでの適用性が大幅に制限されます。たとえば、DeepSeekはテキストと画像の両方を含むソーシャルメディアの投稿を分析したり、ビデオ会議を文字起こしして理解したりするのに苦労する可能性があります。
パフォーマンスの問題：速度とコスト
多様なメディアの処理における制限に加えて、DeepSeekはパフォーマンスに関連する課題にも直面しています。Robin Liによると、このモデルは「遅い」速度と「高い」コストを特徴としており、スケーラブルで費用対効果の高いAIアプリケーションを構築しようとする開発者にとっては魅力がありません。DeepSeekを実行するために必要な高い計算リソースは、特に大規模な展開を行っている企業にとって、大きな費用につながる可能性があります。さらに、処理速度が遅いと、応答性が肯定的なユーザーエクスペリエンスにとって重要なチャットボットや仮想アシスタントなどのリアルタイムアプリケーションが妨げられる可能性があります。
‘幻覚率’の問題
DeepSeekを取り巻くもう1つの大きな懸念は、モデルが不正確またはナンセンスな情報を生成する傾向を指す、高い「幻覚率」です。この問題は、信頼できる信頼できる出力を必要とするアプリケーションにとって大きな課題となっています。正確さが最も重要なヘルスケアや金融などの重要な分野では、DeepSeekが誤った情報や誤解を招く情報を生成するリスクが重大な結果をもたらす可能性があります。「幻覚率」は、モデルの信頼性を損ない、機密性の高いコンテキストでの使いやすさを制限します。
セキュリティの脆弱性とジェイルブレイク
DeepSeekが他の主要なAIモデルよりも「ジェイルブレイク」されやすいという事実は、重大なセキュリティ上の懸念を引き起こします。「ジェイルブレイク」とは、有害、非倫理的、または違法なコンテンツを引き出すために、AIの安全制限を回避するプロセスを指します。DeepSeekがこの方法でより簡単に操作できるという事実は、その基盤となるセキュリティアーキテクチャに弱点があることを示唆しています。この脆弱性は、悪意のある行為者によって悪用され、偽情報を生成したり、プロパガンダを広めたり、その他の有害な活動に従事したりする可能性があります。
データのプライバシーと国家安全保障上のリスク
DeepSeekと中国政府との疑わしいつながり、特にChina Mobileとのデータ共有慣行は、データのプライバシーと国家安全保障について警鐘を鳴らしています。アメリカ人ユーザーの個人データが中国のサーバーに送信され、CCPと提携している当局者がアクセスできる場合、潜在的な監視、スパイ活動、機密情報の漏洩について深刻な懸念が生じます。米国政府によるDeepSeekの精査は、敵対的な政府と密接な関係を持つ外国の団体によって開発されたAIモデルに関連する潜在的なリスクに対する認識が高まっていることを強調しています。
より広範な影響
DeepSeekを取り巻く懸念は、この特定のAIモデルの特定の制限と脆弱性を超えて広がっています。それらは、AIテクノロジーの急速な開発と展開に関連するより広範な課題とリスクを反映しています。DeepSeekの事例は、次の重要性を強調しています。
- **厳格なテストと評価：**徹底的なテストと評価は、AIモデルの潜在的な弱点、バイアス、およびセキュリティの脆弱性を特定し、対処するために不可欠です。
- **透明性と説明責任：**開発者は、モデルのトレーニングに使用されたデータと採用するアルゴリズムについて透明性を保つ必要があります。また、AIシステムの出力と結果についても責任を負う必要があります。
- **データのプライバシーとセキュリティ保護：**ユーザーの個人情報を不正アクセス、不正使用、または悪用から保護するには、強力なデータのプライバシーとセキュリティ対策が必要です。
- **国際協力：**AIの開発と展開に関する共通の基準と規制を確立し、これらのテクノロジーが責任を持って倫理的に使用されるようにするためには、国際協力が不可欠です。
- **批判的思考とメディアリテラシー：**ユーザーは、AIモデルによって生成された情報を批判的に評価し、正確なコンテンツと誤解を招くコンテンツを区別するためにメディアリテラシーのスキルを開発することが推奨されるべきです。
DeepSeekの論争は、AIイノベーションの追求は、潜在的なリスクと社会への影響を慎重に考慮することとバランスを取る必要があることを思い出させる、警告の物語として役立ちます。