DeepSeek备受争议的亮相
据Guancha.cn和Sina.com报道，李彦宏在百度AI开发者大会上谈到了大规模AI模型不断变化的格局。他强调了模型开发者之间激烈的竞争，通常被称为’内卷’，以及由此产生的混乱和开发人员在自信地创建应用程序方面的犹豫。
李彦宏强调，’没有应用，芯片和模型就一文不值。’ 他指出，利用当前大规模模型的高成本和不切实际是开发人员构建AI应用的主要障碍。
DeepSeek是一家总部位于中国杭州的初创公司，于1月份发布了其开源推理模型R1。当时，国家媒体称赞DeepSeek超越了OpenAI等公司。然而，用户和研究人员随后的调查揭示了缺点、安全漏洞和潜在风险。包括台湾、日本、韩国、美国、加拿大、意大利、澳大利亚和荷兰在内的众多政府以及数百家公司已禁止在政府和公司设备上使用DeepSeek。
2月8日，AI安全专家与媒体分享了对DeepSeek进行深入安全测试的结果。他们发现，与ChatGPT、Gemini和Claude相比，DeepSeek更容易受到’越狱’的影响。此漏洞允许用户绕过AI的原始安全限制，从而更容易获得潜在的危险、有害或非法内容。
3月，与清华大学有联系的AI基础设施公司’Luchen Technology’是首批集成DeepSeek模型以提供API和云镜像服务的公司之一，宣布暂停相关服务。该公司创始人You Yang在一篇帖子中透露，与理论成本相比，DeepSeek的实际成本要高得多。在网上遭到强烈反对后，他公开表示，在短期内，DeepSeek离不开美国技术，质疑为什么不能公开承认这一现实。
根据新浪科技3月4日的一份报告，DeepSeek于3月1日17:02宣布其在线系统的理论成本利润率为545%。随后，Luchen Technology宣布将在一周内停止提供DeepSeek API服务，敦促用户使用剩余余额。
该报告指出，Luchen Technology尚未公开披露停止DeepSeek API服务的具体原因。然而，创始人You Yang在知乎等平台上对DeepSeek成本的广泛分析表明，成本是停止提供API服务的主要因素。
对国家安全的担忧
DeepSeek与中国政府之间的联系可能比最初认为的更为直接。加拿大网络安全公司Feroot Security发现，DeepSeek的网站登录页面与中国移动（一家此前受到美国政府制裁的中国国有企业）之间存在重要联系。
近几个月来，对国家安全的担忧导致越来越多的人呼吁禁止DeepSeek。
4月24日，美国众议院的几名议员致信DeepSeek，表达了对该公司与中国共产党（CCP）之间联系的担忧，并要求提供有关用于训练其AI模型的美国数据的信息。
众议院能源和商务委员会主席Brett Guthrie众议员、创新、数据和商务小组委员会主席Gus Bilirakis众议员以及小组委员会的其他十名成员致信DeepSeek，对该公司’收集美国人的个人数据’以及相关的国家安全风险表示担忧。
在信中，Guthrie和Bilirakis表示，’DeepSeek承认将美国用户的个人数据传输到中国的服务器，毫无疑问，这些信息将被与中国共产党有关联的官员访问。我们担心这种与我们主要对手的代理关系会危及我们的数据和国家安全。
‘为了确保美国用户及其企业免受外国干涉，我们正在对DeepSeek及其对我们国家构成的威胁展开调查。’
信中还指出，’根据媒体报道，该公司还将用户的个人信息与其他与中国共产党有关联的实体分享，包括字节跳动。
‘与此同时，研究人员发现了DeepSeek所谓的安全控制和模型保障措施中的关键漏洞。为了应对这些风险，包括纽约、德克萨斯和弗吉尼亚在内的越来越多的州已禁止在政府设备上使用DeepSeek，州检察长呼吁更广泛的禁令。’
4月16日，美国众议院中国共产党问题特设委员会发布了一份报告，强调DeepSeek对美国国家安全构成重大威胁。该报告指责DeepSeek为中国共产党收集用户数据并秘密操纵结果，成为中国共产党美化自己、监视外国公民以及窃取和破坏美国出口管制限制的最新工具。
该报告指出，虽然DeepSeek可能看起来只是另一个AI聊天机器人，为用户提供生成文本和回答问题的方式，但仔细检查发现，DeepSeek秘密地将获得的个人数据传输给与中国军方有联系的中国移动，从而为用户创建安全漏洞。美国已经禁止中国移动在美国运营。
深入剖析DeepSeek的所谓缺点
虽然最初围绕DeepSeek的炒作描绘了一幅准备彻底改变各个领域的AI奇迹的图景，但仔细审查揭示了一个更加细致和复杂的现实。百度CEO李彦宏提出的担忧，以及网络安全专家和政府机构随后的调查，突出了DeepSeek未能达到预期并引发潜在风险的几个关键领域。
有限的多模态能力
对DeepSeek的主要批评之一是其处理多模态内容的能力有限。与更高级的AI模型可以无缝集成和理解各种形式的数据（包括文本、图像、音频和视频）不同，据报道DeepSeek难以理解基本文本输入以外的任何内容。这种限制严重限制了它在信息通常以多种格式组合呈现的现实场景中的适用性。例如，DeepSeek可能难以分析包含文本和图像的社交媒体帖子，或者转录和理解视频会议。
性能问题：速度和成本
除了在处理各种媒体方面的限制外，DeepSeek还面临与其性能相关的挑战。根据李彦宏的说法，该模型的特点是’慢’的速度和’高’的成本，这使得它对寻求构建可扩展且具有成本效益的AI应用程序的开发人员来说吸引力降低。运行DeepSeek所需的高计算资源可能会转化为企业的巨额开支，特别是那些拥有大规模部署的企业。此外，缓慢的处理速度可能会阻碍实时应用程序，例如聊天机器人或虚拟助手，在这些应用程序中，响应能力对于积极的用户体验至关重要。
‘幻觉率’问题
围绕DeepSeek的另一个主要担忧是其高’幻觉率’，指的是该模型产生不准确或荒谬信息的倾向。对于需要可靠和值得信赖的输出的应用程序来说，这个问题提出了重大挑战。在医疗保健或金融等准确性至关重要的关键领域，DeepSeek产生虚假或误导性信息的风险可能会产生严重的后果。’幻觉率’破坏了该模型的信誉，并限制了其在敏感环境中的可用性。
安全漏洞和越狱
DeepSeek比其他领先的AI模型更容易受到’越狱’的披露引发了重大的安全问题。’越狱’是指绕过AI的安全限制以引出有害、不道德或非法内容的过程。DeepSeek可以更容易地以这种方式被操纵这一事实表明其底层安全架构存在弱点。恶意行为者可能会利用此漏洞来生成虚假信息、传播宣传或从事其他有害活动。
数据隐私和国家安全风险
DeepSeek与中国政府之间的所谓联系，特别是其与中国移动的数据共享行为，引发了对数据隐私和国家安全的警报。将美国用户的个人数据传输到中国的服务器，在那里中国共产党附属的官员可以访问这些数据，引发了对潜在的监视、间谍活动和敏感信息泄露的严重担忧。美国政府对DeepSeek的审查强调了人们越来越意识到与外国实体开发的、与敌对政府关系密切的AI模型相关的潜在风险。
更广泛的影响
围绕DeepSeek的担忧不仅仅局限于此特定AI模型的具体局限性和漏洞。它们反映了与AI技术的快速发展和部署相关的更广泛的挑战和风险。DeepSeek案例凸显了以下方面的重要性：
- 严格的测试和评估： 在广泛部署之前，彻底的测试和评估对于识别和解决AI模型中潜在的弱点、偏差和安全漏洞至关重要。
- 透明度和问责制： 开发人员应公开用于训练其模型的数据以及他们使用的算法。他们还应对其AI系统的输出和后果负责。
- 数据隐私和安全保障： 需要强大的数据隐私和安全措施来保护用户的个人信息免受未经授权的访问、滥用或利用。
- 国际合作： 国际合作对于建立AI开发和部署的通用标准和法规至关重要，确保这些技术以负责任和合乎道德的方式使用。
- 批判性思维和媒体素养： 应鼓励用户批判性地评估AI模型生成的信息，并培养媒体素养技能以区分准确内容和误导性内容。
DeepSeek争议是一个警示故事，提醒我们，对AI创新的追求必须与对潜在风险和社会影响的仔细考虑相平衡。