中國AI模型DeepSeek今年初備受矚目，近日卻受到百度董事長兼CEO李彥宏的質疑。在4月25日的百度AI開發者大會上，李彥宏對DeepSeek的能力表達了保留態度，理由是其在處理多種媒體格式方面的局限性、運行速度慢、成本高，以及容易產生不準確的信息，使其在廣泛應用方面變得不可靠。
DeepSeek備受爭議的亮相
根據Guancha.cn和Sina.com的報導，李彥宏在會議上談到了大規模AI模型不斷變化的格局。他強調了模型開發者之間的激烈競爭，通常被描述為’內卷’，以及由此產生的混亂和開發者在自信地創建應用程式時的猶豫。
李彥宏強調說：’沒有應用，晶片和模型一文不值。’他指出，使用當前大規模模型的高成本和不切實際是開發人員構建AI應用程式的主要障礙。
DeepSeek是一家總部位於中國杭州的初創公司，於1月份發布了其開源推理模型R1。當時，官方媒體稱讚DeepSeek超越了OpenAI等公司。然而，用戶和研究人員隨後的調查顯示，該模型存在缺點、安全漏洞和潛在風險。包括台灣、日本、韓國、美國、加拿大、義大利、澳大利亞和荷蘭在內的眾多政府，以及數百家公司，都禁止在政府和公司設備上使用DeepSeek。
2月8日，AI安全專家與媒體分享了對DeepSeek進行深入安全測試的結果。他們發現，與ChatGPT、Gemini和Claude相比，DeepSeek更容易被’越獄’。此漏洞允許用戶繞過AI的原始安全限制，從而更容易獲得潛在的危險、有害或非法內容。
3月份，與清華大學有關聯的AI基礎設施公司’Luchen Technology’，是首批整合DeepSeek模型以提供API和雲鏡像服務的公司之一，宣布暫停相關服務。該公司的創始人尤洋在一篇文章中透露，與理論成本相比，DeepSeek的實際成本要高得多。在網路上引起強烈反彈後，他公開表示，在短期內，如果沒有美國技術，DeepSeek就無法運行，質疑為什麼這種現實不能公開承認。
根據新浪科技3月4日的一份報告，DeepSeek在3月1日17:02宣布，其線上系統的理論成本利潤率為545％。隨後，Luchen Technology宣布將在一周內停止提供DeepSeek API服務，敦促用戶使用其剩餘餘額。
該報告指出，Luchen Technology尚未公開披露停止DeepSeek API服務的具體原因。但是，創始人在知乎等平台上對DeepSeek成本進行的廣泛分析表明，成本是決定停止提供API服務的主要因素。
對國家安全的擔憂
DeepSeek與中國政府之間的聯繫可能比最初認為的更直接。加拿大網路安全公司Feroot Security發現，DeepSeek的網站登錄頁面與中國移動（一家先前受到美國政府制裁的中國國有公司）之間存在重要聯繫。
近幾個月來，對國家安全的擔憂導致越來越多的人呼籲禁止DeepSeek。
4月24日，美國眾議院的幾位議員致函DeepSeek，表達了對該公司與中國共產黨（CCP）之間聯繫的擔憂，並要求提供有關用於訓練其AI模型的美國數據的信息。
眾議院能源和商業委員會主席Brett Guthrie議員，以及創新、數據和商業小組委員會主席Gus Bilirakis議員，以及其他十名小組委員會成員，致函DeepSeek，表達了對該公司’收集美國人個人數據’以及相關國家安全風險的擔憂。
在信中，Guthrie和Bilirakis表示：’DeepSeek承認將美國用戶的個人數據傳輸到中國的伺服器，在這些伺服器中，這些信息無疑將被與中國共產黨有關聯的官員訪問。我們擔心這種與我們主要對手的代理關係會危及我們的數據和國家安全。
‘為了確保美國用戶及其企業免受外國干擾，我們正在對DeepSeek及其對我們國家構成的威脅展開調查。’
信中還說：’根據媒體報導，該公司還與其他與中國共產黨有關聯的實體（包括字節跳動）共享用戶的個人信息。
‘與此同時，研究人員發現了DeepSeek號稱的安全控制和模型保障措施中的關鍵漏洞。為了應對這些風險，包括紐約州、德克薩斯州和弗吉尼亞州在內的越來越多的州已經禁止在政府設備上使用DeepSeek，並且州檢察長呼籲進行更廣泛的禁令。’
4月16日，美國眾議院中國共產黨問題特別委員會發布了一份報告，強調DeepSeek對美國國家安全構成重大威脅。該報告指責DeepSeek收集用戶數據供中共使用，並秘密操縱結果，成為中共美化自己、監視外國公民以及竊取和破壞美國出口管制限制的最新工具。
報告指出，雖然DeepSeek可能看起來只是一個AI聊天機器人，為用戶提供生成文字和回答問題的方式，但仔細檢查會發現，DeepSeek秘密地將獲得的個人數據傳輸到與中國軍方有聯繫的中國移動，從而為用戶造成安全漏洞。美國已經禁止中國移動在美國運營。
深入探討DeepSeek的所謂缺點
儘管最初圍繞DeepSeek的炒作描繪了一幅準備徹底改變各個行業的AI奇蹟的圖景，但更仔細的審查揭示了一個更細緻和複雜的現實。百度CEO李彥宏提出的擔憂，以及網路安全專家和政府機構隨後的調查，突顯了DeepSeek未能達到預期並引發潛在風險的幾個關鍵領域。
有限的多模態能力
對DeepSeek的主要批評之一是其處理多模態內容的能力有限。與可以無縫整合和理解包括文字、圖像、音訊和影片在內的各種形式數據的更高級AI模型不同，據報導，DeepSeek難以理解基本文字輸入之外的任何內容。這種限制大大限制了其在信息通常以多種格式組合呈現的現實場景中的適用性。例如，DeepSeek可能難以分析包含文字和圖像的社群媒體帖子，或轉錄和理解視訊會議。
效能問題：速度和成本
除了處理多種媒體的局限性外，DeepSeek還面臨與其效能相關的挑戰。根據李彥宏的說法，該模型的特點是’慢’的速度和’高’的成本，這使得它對尋求構建可擴展且具有成本效益的AI應用程式的開發人員吸引力降低。運行DeepSeek所需的高計算資源可能會轉化為企業的重大開支，特別是那些大規模部署的企業。此外，慢的處理速度可能會阻礙即時應用程式，例如聊天機器人或虛擬助理，在這些應用程式中，響應能力對於積極的用戶體驗至關重要。
‘幻覺率’問題
圍繞DeepSeek的另一個主要擔憂是其高的’幻覺率’，指的是該模型產生不準確或無意義信息的趨勢。此問題對需要可靠和值得信賴輸出的應用程式構成了重大挑戰。在醫療保健或金融等準確性至關重要的關鍵領域，DeepSeek產生虛假或誤導性信息的風險可能會產生嚴重的後果。’幻覺率’破壞了模型的信譽，並限制了其在敏感環境中的可用性。
安全漏洞和越獄
DeepSeek比其他領先的AI模型更容易被’越獄’的揭露引起了重大的安全擔憂。’越獄’是指繞過AI的安全限制以引出有害、不道德或非法內容的過程。DeepSeek可以更容易地以這種方式被操縱的事實表明其底層安全架構存在弱點。惡意行為者可能會利用此漏洞來生成虛假信息、散布宣傳或從事其他有害活動。
數據隱私和國家安全風險
DeepSeek與中國政府之間的所謂聯繫，特別是其與中國移動的數據共享行為，引發了人們對數據隱私和國家安全的警覺。將美國用戶的個人數據傳輸到中國的伺服器，在這些伺服器中，與中國共產黨有關聯的官員可以訪問這些數據，這引起了人們對潛在監視、間諜活動和敏感信息洩露的嚴重擔憂。美國政府對DeepSeek的審查突顯了人們越來越認識到與由與敵對政府關係密切的外國實體開發的AI模型相關的潛在風險。
更廣泛的影響
圍繞DeepSeek的擔憂不僅僅是針對此特定AI模型的特定局限性和漏洞。它們反映了與AI技術的快速開發和部署相關的更廣泛的挑戰和風險。DeepSeek案例突顯了以下方面的重要性：
- **嚴格的測試和評估：**在廣泛部署AI模型之前，徹底的測試和評估對於識別和解決AI模型中的潛在弱點、偏差和安全漏洞至關重要。
- **透明度和問責制：**開發人員應透明地公開用於訓練其模型的數據及其使用的演算法。他們還應對其AI系統的輸出和後果負責。
- **數據隱私和安全保障：**需要強大的數據隱私和安全措施來保護用戶的個人信息免受未經授權的訪問、濫用或洩露。
- **國際合作：**國際合作對於建立AI開發和部署的共同標準和法規至關重要，以確保以負責任和合乎道德的方式使用這些技術。
- **批判性思維和媒體素養：**應鼓勵用戶批判性地評估AI模型生成的信息，並培養媒體素養技能，以區分準確和誤導性內容。
DeepSeek的爭議是一個警示故事，提醒我們，追求AI創新必須與仔細考慮潛在風險和社會影響相平衡。