Nos Estados Unidos, os Senadores Jacky Rosen e Bill Cassidy apresentaram um projeto de lei que visa salvaguardar dados federais sensíveis de potenciais ameaças colocadas por nações adversárias, particularmente a República Popular da China (RPC). O projeto tem como alvo o DeepSeek, que pertence ao Partido Comunista Chinês (PCC), e outras tecnologias de IA consideradashostis.
Os senadores manifestaram preocupações significativas sobre os potenciais riscos de segurança nacional do DeepSeek. Citam a lei chinesa, que exige que o DeepSeek compartilhe os dados coletados com o governo chinês e suas agências de inteligência, como a principal razão para sua apreensão. Vários estados dos EUA e nações aliadas já tomaram medidas para impedir o DeepSeek em dispositivos governamentais, destacando as preocupações críticas de segurança em torno da plataforma de IA.
A Lei de Proteção Contra Inteligência Artificial Estrangeira Adversária
A legislação bipartidária proposta, intitulada "Lei de Proteção Contra Inteligência Artificial Estrangeira Adversária", tem como objetivo impedir que contratados federais utilizem o DeepSeek para cumprir contratos com agências federais. O projeto de lei estende essa proibição a qualquer aplicativo sucessor desenvolvido pela High-Flyer, impedindo seu uso em contratos do governo federal.
Requisitos de Relatórios e Supervisão do Congresso
Além disso, o projeto de lei exige um relatório abrangente ao Congresso do Secretário de Comércio dos EUA, conduzido em colaboração com o Secretário de Defesa dos EUA. Este relatório se aprofundará nas ameaças de segurança nacional e espionagem econômica decorrentes de plataformas de IA originárias de nações adversárias, incluindo China, Coreia do Norte, Irã e Rússia.
A Senadora Rosen, uma democrata de Nevada, enfatizou a importância de proteger os dados americanos e os sistemas governamentais contra ameaças cibernéticas provenientes de adversários estrangeiros. Ela afirmou que a legislação bipartidária impediria efetivamente que contratados federais usassem o DeepSeek, uma plataforma de IA ligada ao PCC, ao realizar trabalhos para o governo. Rosen prometeu continuar trabalhando além das linhas partidárias para fortalecer a segurança nacional e proteger os dados dos americanos.
O Senador Cassidy, um republicano da Louisiana, destacou a natureza dupla da IA como uma ferramenta poderosa que pode ser utilizada para fins benéficos, como melhorar a medicina e a educação. No entanto, ele alertou que, nas mãos erradas, a IA pode ser transformada em arma. Cassidy alertou que alimentar dados sensíveis em sistemas como o DeepSeek poderia fornecer à China outra arma.
Mandatos de Relatórios Detalhados
A legislação proposta descreve que, dentro de um ano após a promulgação da Lei, o Secretário de Comércio, em consulta com o Secretário de Defesa, deve apresentar um relatório detalhado aos principais comitês no Senado e na Câmara dos Representantes. Esses comitês incluem o Comitê de Serviços Armados, o Comitê de Comércio, Ciência e Transporte e o Comitê de Energia e Comércio. O relatório deve abordar as ameaças à segurança nacional representadas por plataformas de inteligência artificial, incluindo grandes modelos de linguagem e IA generativa, que são baseadas ou afiliadas a países de preocupação.
Componentes do Relatório Abrangente
O projeto de lei exige que vários componentes críticos sejam incluídos no relatório abrangente. Estes incluem uma análise completa das leis de censura e das capacidades de governos estrangeiros, particularmente aqueles que podem acessar ou exercer influência sobre aplicativos de IA.
O Papel da IA na Propaganda e Desinformação
O relatório também deve avaliar as formas pelas quais as plataformas de IA são atualmente usadas, ou poderiam ser usadas, para promover propaganda patrocinada pelo estado. Isso é particularmente relevante no contexto de nações adversárias que buscam minar as instituições democráticas e espalhar desinformação. Ao entender como a IA pode ser transformada em arma dessa maneira, os formuladores de políticas podem desenvolver estratégias para combater essas ameaças de forma eficaz.
Circunvenção do Controle de Exportação
Outro aspecto essencial do relatório envolve avaliar as implicações de segurança nacional dos esforços de nações adversárias para contornar os controles de exportação dos EUA em unidades de processamento gráfico (GPUs). As GPUs são críticas para o desenvolvimento de modelos avançados de IA, e qualquer tentativa de adquiri-las ilicitamente representa uma ameaça significativa aos interesses de segurança nacional dos EUA. Portanto, o relatório precisa identificar e abordar as vulnerabilidades no sistema de controle de exportação para impedir que nações adversárias tenham acesso a essas tecnologias críticas.
Ameaças à Privacidade e Segurança de Dados
O relatório é obrigado a examinar as ameaças à privacidade e segurança de dados relacionadas aos dados dos EUA que são inseridos ou enviados por meio de aplicativos de IA. A análise deve abordar preocupações cruciais, incluindo como e onde os dados são armazenados, seja em servidores locais ou dentro de uma infraestrutura de nuvem. Também deve investigar se esses dados podem ser acessados ou explorados por governos estrangeiros ou entidades políticas, especialmente o PCC, e em que medida os dados de origem americana contribuem para o avanço de tecnologias estrangeiras de IA.
A localização do armazenamento de dados é crucial porque afeta diretamente o nível de controle e segurança que pode ser exercido sobre ele. Servidores locais oferecem controle mais direto, mas exigem investimento significativo em infraestrutura e experiência. A infraestrutura de nuvem, por outro lado, oferece escalabilidade e acessibilidade, mas depende das medidas de segurança implementadas pelo provedor de nuvem.
Risco de Espionagem Econômica
O relatório deve avaliar o risco de espionagem econômica representado por esse acesso, incluindo ameaças à propriedade intelectual, segredos comerciais, informações proprietárias e outros dados sensíveis ou confidenciais.
A espionagem econômica envolve o roubo de informações comerciais valiosas por entidades estrangeiras para obter uma vantagem competitiva. Isso pode incluir segredos comerciais, patentes e outros dados confidenciais que dão às empresas uma vantagem estratégica no mercado. Ao acessar dados dos EUA por meio de aplicativos de IA, nações adversárias poderiam potencialmente roubar essas informações e minar a competitividade das empresas americanas.
Ameaças às Informações do Governo
Finalmente, o relatório deve avaliar o perigo potencial que esse acesso representa para as informações do governo federal, incluindo dados que influenciam as decisões políticas ou estão vinculados a programas governamentais. A segurança das informações do governo é fundamental para o funcionamento de uma sociedade democrática. Se nações adversárias puderem acessar ou manipular esses dados, elas poderão influenciar as decisões políticas ou interromper os programas governamentais.
Ações Anteriores e Revisões em Andamento
A administração do Presidente Donald Trump, através do Conselho de Segurança Nacional, iniciou uma revisão das ameaças à segurança nacional relacionadas ao DeepSeek, refletindo preocupações que abrangem várias administrações. A Câmara dos Representantes tomou medidas para impedir que os escritórios do Congresso instalem ou baixem o DeepSeek em dispositivos de trabalho, destacando ainda mais os riscos de segurança associados à plataforma.
Ações por Agências Governamentais
A Agência de Sistemas de Informação de Defesa e a Marinha emitiram memorandos semelhantes para seu pessoal, restringindo o uso do DeepSeek em dispositivos governamentais. Essas ações por várias agências governamentais indicam um reconhecimento generalizado das ameaças potenciais representadas pelo DeepSeek e um esforço concertado para mitigar esses riscos.
Restrições em Nível Estadual
Texas, Nova York e Virgínia já promulgaram legislação impondo restrições semelhantes para funcionários e contratados do governo estadual, sinalizando uma tendência crescente entre os estados para abordar as preocupações de segurança relacionadas a plataformas de IA de nações adversárias. É previsto que outros estados sigam o exemplo, solidificando ainda mais os esforços para proteger dados sensíveis de potenciais ameaças.
IA em Segurança Cibernética Industrial
De acordo com dados divulgados em outubro pela Takepoint Research, o cenário de segurança cibernética em evolução revela que os benefícios da IA em segurança cibernética industrial superam seus riscos para 80 por cento dos entrevistados. A IA é particularmente eficaz na detecção de ameaças (64%), monitoramento de rede (52%) e gerenciamento de vulnerabilidades (48%), destacando sua crescente importância na melhoria das defesas dentro de ambientes de OT (tecnologia operacional). A pesquisa identificou que a dependência excessiva da IA, a manipulação do sistema de IA e os falsos negativos são as principais preocupações para os proprietários de ativos industriais.
A eficácia da IA na detecção de ameaças decorre de sua capacidade de analisar grandes volumes de dados e identificar padrões que podem indicar atividade maliciosa. Os sistemas movidos a IA podem detectar anomalias e comportamentos suspeitos em tempo real, fornecendo às equipes de segurança alertas precoces de potenciais ameaças.
O monitoramento de rede é outra área onde a IA se destaca. Ao monitorar continuamente o tráfego de rede, os sistemas de IA podem detectar tentativas de acesso não autorizado e outras violações de segurança. A IA também pode identificar vulnerabilidades nas configurações de rede e recomendar ações corretivas.
O gerenciamento de vulnerabilidades envolve a identificação e o tratamento de fraquezas em sistemas e aplicativos antes que possam ser exploradas por invasores. A IA pode automatizar o processo de varredura de vulnerabilidades e priorizar os esforços de correção com base na gravidade das vulnerabilidades.
Preocupações com Superdependência e Manipulação
Embora a IA ofereça vantagens significativas em segurança cibernética industrial, também existem riscos potenciais a serem considerados. Uma das principais preocupações é a dependência excessiva da IA. As equipes de segurança não devem se tornar excessivamente dependentes dos sistemas de IA e devem manter sua experiência e consciência situacional.
Outra preocupação é a manipulação do sistema de IA. Os adversários podem tentar manipular os sistemas de IA para evitar a detecção ou fazê-los tomar decisões incorretas. Portanto, é essencial implementar medidas de segurança robustas para proteger os sistemas de IA contra adulteração.
Falsos negativos, onde os sistemas de IA não conseguem detectar ameaças reais, também são uma preocupação. As equipes de segurança devem avaliar regularmente o desempenho dos sistemas de IA e ajustar suas configurações para minimizar o risco de falsos negativos.