参议员推动禁止联邦合约中使用DeepSeek和其他AI技术，理由是存在安全风险
为了保护敏感的联邦数据免受潜在的威胁，特别是来自敌对国家，尤其是中华人民共和国 (PRC) 的威胁，美国参议员 Jacky Rosen 和 Bill Cassidy 提出了一项法案，目标是中共 (CCP) 拥有的 DeepSeek 和其他被认为具有敌意的 AI 技术。
参议员们对 DeepSeek 可能造成的国家安全风险表示了极大的担忧。他们引用了中国法律，该法律强制要求 DeepSeek 与中国政府及其情报机构共享其收集的数据，作为他们担忧的主要原因。美国的一些州和盟国已经采取措施阻止 DeepSeek 在政府设备上使用，这突显了围绕该 AI 平台的关键安全问题。
《防止外国敌对人工智能保护法》
这项两党合作提出的立法，名为《防止外国敌对人工智能保护法》，旨在阻止联邦承包商利用 DeepSeek 来履行与联邦机构的合同。该法案将此禁令扩展到 High-Flyer 开发的任何后续应用程序，从而防止其在联邦政府合同中使用。
报告要求和国会监督
此外，该法案要求美国商务部长与美国国防部长合作，向国会提交一份综合报告。该报告将深入探讨来自敌对国家（包括中国、朝鲜、伊朗和俄罗斯）的 AI 平台所造成的国家安全和经济间谍威胁。
内华达州民主党参议员 Rosen 强调了保护美国数据和政府系统免受来自外国敌对势力的网络威胁的重要性。她表示，这项两党合作的立法将有效地阻止联邦承包商在执行政府工作时使用与中共有关联的 AI 平台 DeepSeek。Rosen承诺将继续跨党派合作，以加强国家安全并保护美国人的数据。
路易斯安那州共和党参议员 Cassidy 强调了 AI 的双重性质，它既是一种强大的工具，可以用于有益的目的，例如改善医疗和教育。然而，他警告说，如果 AI 落入坏人之手，可能会被武器化。Cassidy 警告说，将敏感数据输入像 DeepSeek 这样的系统可能会给中国提供另一种武器。
详细的报告规定
拟议的立法规定，在该法案颁布后的一年内，商务部长应与国防部长协商，向参议院和众议院的关键委员会提交一份详细报告。这些委员会包括军事委员会、商务、科学和运输委员会以及能源和商务委员会。该报告必须阐述总部位于或隶属于相关国家的AI平台（包括大型语言模型和生成式 AI）对国家安全构成的威胁。
综合报告的组成部分
该法案要求在综合报告中包含几个关键组成部分。这些包括对审查法律和外国政府（特别是那些可能访问或影响 AI 应用程序的政府）的能力的彻底分析。
人工智能在宣传和虚假信息中的作用
该报告还必须评估 AI 平台目前如何被使用，或者可能被使用，以促进国家支持的宣传。这在寻求破坏民主制度和传播虚假信息的敌对国家的背景下尤其重要。通过了解 AI 如何以这种方式被武器化，决策者可以制定策略来有效应对这些威胁。
出口管制规避
报告的另一个重要方面是评估敌对国家规避美国对图形处理单元 (GPU) 出口管制所造成的国家安全影响。GPU 对于开发先进的 AI 模型至关重要，任何非法获取它们的企图都会对美国国家安全利益构成重大威胁。因此，该报告需要识别和解决出口管制系统中的漏洞，以防止敌对国家获得这些关键技术。
隐私和数据安全威胁
该报告需要审查与输入或通过 AI 应用程序提交的美国数据相关的隐私和数据安全威胁。该分析必须解决关键问题，包括数据的存储方式和位置，无论是在本地服务器还是在云基础设施中。它还必须调查这些数据是否可以被外国政府或政治实体（尤其是中共）访问或利用，以及来自美国的数据在多大程度上促进了外国 AI 技术的发展。
数据存储的位置至关重要，因为它直接影响可以对数据行使的控制和安全级别。本地服务器提供更直接的控制，但需要在基础设施和专业知识方面进行大量投资。另一方面，云基础设施提供可扩展性和可访问性，但依赖于云提供商实施的安全措施。
经济间谍风险
该报告必须评估这种访问所带来的经济间谍风险，包括对知识产权、商业秘密、专有信息和其他敏感或机密数据的威胁。
经济间谍活动涉及外国实体窃取有价值的商业信息以获得竞争优势。这可能包括商业秘密、专利和其他机密数据，这些数据使公司在市场上具有战略优势。通过 AI 应用程序访问美国数据，敌对国家可能会窃取此信息，从而破坏美国企业的竞争力。
对政府信息的威胁
最后，该报告应评估这种访问对联邦政府信息构成的潜在危险，包括影响政策决策或与政府计划相关的数据。政府信息的安全对于民主社会的运作至关重要。如果敌对国家可以访问或操纵这些数据，它们可能会影响政策决策或破坏政府计划。
以往的行动和正在进行的审查
唐纳德·特朗普总统的政府通过国家安全委员会启动了一项关于与 DeepSeek 相关的国家安全威胁的审查，反映了多个政府的担忧。众议院已采取措施禁止国会办公室在其工作设备上安装或下载 DeepSeek，这进一步强调了与该平台相关的安全风险。
政府机构的行动
国防信息系统局和海军已向其人员发布了类似的备忘录，限制在政府设备上使用 DeepSeek。各个政府机构的这些行动表明，人们普遍承认 DeepSeek 可能构成的威胁，并一致努力减轻这些风险。
州级限制
德克萨斯州、纽约州和弗吉尼亚州已经颁布了类似的立法，对州政府雇员和承包商施加类似的限制，这表明各州正在采取越来越多的趋势来解决与来自敌对国家的 AI 平台相关的安全问题。预计其他州也将效仿，从而进一步巩固保护敏感数据免受潜在威胁的努力。
人工智能在工业网络安全中的应用
Takepoint Research 在 10 月份发布的数据显示，不断发展的网络安全形势表明，人工智能在工业网络安全中的好处超过了其对 80% 受访者的风险。人工智能在威胁检测（64%）、网络监控（52%）和漏洞管理（48%）方面尤其有效，突显了其在提高 OT（运营技术）环境中防御能力方面日益重要的作用。该调查发现，过度依赖人工智能、人工智能系统操纵和假阴性是工业资产所有者的主要担忧。
人工智能在威胁检测方面的有效性源于其分析大量数据并识别可能表明恶意活动模式的能力。人工智能驱动的系统可以实时检测异常和可疑行为，为安全团队提供潜在威胁的早期预警。
网络监控是人工智能擅长的另一个领域。通过持续监控网络流量，人工智能系统可以检测未经授权的访问尝试和其他安全漏洞。人工智能还可以识别网络配置中的漏洞并推荐纠正措施。
漏洞管理涉及识别和解决系统和应用程序中的弱点，然后它们被攻击者利用。人工智能可以自动化漏洞扫描过程，并根据漏洞的严重性确定修复工作的优先级。
对过度依赖和操纵的担忧
虽然人工智能在工业网络安全方面提供了显着优势，但也存在需要注意的潜在风险。主要担忧之一是过度依赖人工智能。安全团队不应过度依赖人工智能系统，而应保持其专业知识和态势感知能力。
另一个担忧是人工智能系统操纵。对手可能会试图操纵人工智能系统以逃避检测或导致他们做出错误的决定。因此，必须实施强大的安全措施来保护人工智能系统免受篡改。
假阴性（即人工智能系统未能检测到实际威胁）也是一个问题。安全团队应定期评估人工智能系统的性能并调整其配置，以最大限度地降低假阴性的风险。