A rápida progressão e integração da Inteligência Artificial (IA) em nossas vidas digitais cotidianas têm sido recebidas com entusiasmo e apreensão. Embora a IA prometa revolucionar indústrias e melhorar a eficiência, também apresenta uma nova série de desafios, particularmente em relação à sua exploração por criminosos cibernéticos. Um recente relatório de segurança de IA da Check Point, uma empresa de pesquisa de tecnologias de software, lança luz sobre essa crescente ameaça, revelando como os hackers estão utilizando cada vez mais ferramentas de IA para ampliar a escala, a eficiência e o impacto de suas atividades maliciosas.
O relatório da Check Point, o primeiro de seu tipo, ressalta a urgente necessidade de salvaguardas robustas de IA à medida que a tecnologia continua a evoluir. O relatório enfatiza que as ameaças de IA não são mais cenários hipotéticos, mas estão evoluindo ativamente em tempo real. À medida que as ferramentas de IA se tornam mais prontamente acessíveis, os agentes de ameaças estão explorando essa acessibilidade de duas maneiras principais: aprimorando suas capacidades por meio da IA e visando organizações e indivíduos que adotam tecnologias de IA.
O Encanto dos Modelos de Linguagem para Criminosos Cibernéticos
Os criminosos cibernéticos estão diligentemente monitorando as tendências na adoção da IA. Sempre que um novo modelo de linguagem grande (LLM) é lançado ao público, esses atores maliciosos são rápidos em explorar seu potencial para propósitos nefastos. ChatGPT e a API da OpenAI são atualmente ferramentas favorecidas entre esses criminosos, mas outros modelos como o Google Gemini, Microsoft Copilot e Anthropic Claude estão ganhando força constantemente.
O encanto desses modelos de linguagem reside em sua capacidade de automatizar e dimensionar vários aspectos do crime cibernético, desde a elaboração de e-mails de phishing convincentes até a geração de código malicioso. O relatório destaca uma tendência preocupante: o desenvolvimento e a negociação de LLMs maliciosos especializados, adaptados especificamente para o crime cibernético, frequentemente chamados de "modelos obscuros".
A Ascensão dos Modelos Obscuros de IA
Modelos de código aberto, como DeepSeek e Qwen da Alibaba, estão se tornando cada vez mais atraentes para os criminosos cibernéticos devido às suas restrições mínimas de uso e acessibilidade de nível gratuito. Esses modelos fornecem um terreno fértil para experimentação e adaptação maliciosas. No entanto, o relatório revela uma tendência mais alarmante: o desenvolvimento e a negociação de LLMs maliciosos especializados, adaptados especificamente para o crime cibernético. Esses "modelos obscuros" são projetados para contornar as salvaguardas éticas e são abertamente comercializados como ferramentas de hacking.
Um exemplo notório é o WormGPT, um modelo criado quebrando as restrições de ChatGPT. Apelidado de "a IA de hacking definitiva", o WormGPT pode gerar e-mails de phishing, escrever malware e criar scripts de engenharia social sem quaisquer filtros éticos. É até mesmo apoiado por um canal do Telegram que oferece assinaturas e tutoriais, indicando claramente a comercialização da IA obscura.
Outros modelos obscuros incluem GhostGPT, FraudGPT e HackerGPT, cada um projetado para aspectos especializados do crime cibernético. Alguns são simplesmente wrappers de jailbreak em torno de ferramentas convencionais, enquanto outros são versões modificadas de modelos de código aberto. Esses modelos são normalmente oferecidos para venda ou aluguel em fóruns clandestinos e mercados da dark web, tornando-os acessíveis a uma ampla gama de criminosos cibernéticos.
Plataformas Falsas de IA e Distribuição de Malware
A demanda por ferramentas de IA também levou à proliferação de plataformas falsas de IA que se disfarçam como serviços legítimos, mas são, na realidade, veículos para malware, roubo de dados e fraude financeira. Um desses exemplos é o HackerGPT Lite, suspeito de ser um site de phishing. Da mesma forma, alguns sites que oferecem downloads do DeepSeek estão supostamente distribuindo malware.
Essas plataformas falsas geralmente atraem usuários desavisados com promessas de recursos avançados de IA ou recursos exclusivos. Uma vez que um usuário se envolve com a plataforma, ele pode ser induzido a baixar software malicioso ou fornecer informações confidenciais, como credenciais de login ou detalhes financeiros.
Exemplos Reais de Ataques Cibernéticos Habilitados por IA
O relatório da Check Point destaca um caso real envolvendo uma extensão maliciosa do Chrome que se faz passar por ChatGPT e foi descoberta roubando credenciais de usuários. Uma vez instalado, ele sequestrou os cookies de sessão do Facebook, dando aos invasores acesso total às contas de usuários – uma tática que poderia ser facilmente dimensionada em várias plataformas.
Este incidente ressalta os riscos associados a extensões de navegador aparentemente inofensivas e o potencial de ataques de engenharia social alimentados por IA. Os criminosos cibernéticos podem usar a IA para criar sites ou aplicativos falsos convincentes que imitam serviços legítimos, tornando difícil para os usuários distinguirem entre a coisa real e um impostor malicioso.
O Impacto da IA na Escala do Crime Cibernético
"A principal contribuição dessas ferramentas impulsionadas pela IA é sua capacidade de dimensionar as operações criminais", acrescenta o relatório da Check Point. "O texto gerado por IA permite que os criminosos cibernéticos superem as barreiras linguísticas e culturais, aprimorando significativamente sua capacidade de executar ataques sofisticados de comunicação em tempo real e offline".
A IA permite que os criminosos cibernéticos automatizem tarefas que antes eram demoradas e trabalhosas. Por exemplo, a IA pode ser usada para gerar milhares de e-mails de phishing personalizados em questão de minutos, aumentando a probabilidade de que alguém seja vítima do golpe.
Além disso, a IA pode ser usada para melhorar a qualidade dos e-mails de phishing e outros ataques de engenharia social. Ao analisar os dados do usuário e adaptar a mensagem ao destinatário individual, os criminosos cibernéticos podem criar golpes altamente convincentes que são difíceis de detectar.
O Cenário de Ameaças no Quênia
As autoridades quenianas também estão soando alarmes sobre o aumento dos ataques cibernéticos habilitados por IA. Em outubro de 2024, a Autoridade de Comunicações do Quênia (CA) alertou sobre um aumento nos ataques cibernéticos habilitados por IA – mesmo quando as ameaças gerais caíram 41,9 por cento durante o trimestre que terminou em setembro.
"Os criminosos cibernéticos estão usando cada vez mais ataques habilitados por IA para aprimorar a eficiência e a magnitude de suas operações", disse o diretor-geral da CA, David Mugonyi. "Eles alavancam a IA e o aprendizado de máquina para automatizar a criação de e-mails de phishing e outros tipos de engenharia social."
Ele também observou que os invasores estão explorando cada vez mais as configurações incorretas do sistema – como portas abertas e controles de acesso fracos – para obter acesso não autorizado, roubar dados confidenciais e implantar malware.
O Quênia não está sozinho ao enfrentar esta ameaça. Países ao redor do mundo estão lidando com os desafios do crime cibernético habilitado por IA.
A acessibilidade das ferramentas de IA e a crescente sofisticação dos ataques cibernéticos estão tornando mais difícil para organizações e indivíduos se protegerem.
A Corrida Armada para Salvaguardar a IA
À medida que a corrida para abraçar a IA se acelera, o mesmo acontece com a corrida armamentista para salvaguardá-la. Para organizações e usuários, a vigilância não é mais opcional – é imperativa.
Para mitigar os riscos do crime cibernético habilitado por IA, as organizações precisam adotar uma abordagem de segurança multicamadas que inclua:
- Detecção de ameaças alimentada por IA: Implementação de soluções de segurança baseadas em IA que podem detectar e responder a ataques habilitados por IA em tempo real.
- Treinamento de funcionários: Educar os funcionários sobre os riscos de ataques de engenharia social alimentados por IA e fornecer-lhes as habilidades para identificar e evitar esses golpes.
- Controles de acesso fortes: Implementação de controles de acesso fortes para evitar acesso não autorizado a dados e sistemas confidenciais.
- Auditorias de segurança regulares: Realização de auditorias de segurança regulares para identificar e corrigir vulnerabilidades em sistemas e infraestrutura.
- Colaboração e compartilhamento de informações: Compartilhamento de inteligência de ameaças com outras organizações e provedores de segurança para melhorar a defesa coletiva contra o crime cibernético habilitado por IA.
- Desenvolvimento e implantação éticos de IA: Garantir que os sistemas de IA sejam desenvolvidos e implantados de forma ética e responsável, com salvaguardas em vigor para evitar o uso indevido.
Os indivíduos também podem tomar medidas para se proteger contra o crime cibernético habilitado por IA, incluindo:
- Ser cauteloso com e-mails e mensagens não solicitadas: Exercer cautela ao abrir e-mails e mensagens de remetentes desconhecidos, especialmente aqueles que contêm links ou anexos.
- Verificar a autenticidade de sites e aplicativos: Garantir que sites e aplicativos sejam legítimos antes de fornecer qualquer informação pessoal.
- Usar senhas fortes e habilitar a autenticação de dois fatores: Proteger contas com senhas fortes e exclusivas e habilitar a autenticação de dois fatores sempre que possível.
- Manter o software atualizado: Atualizar regularmente o software e os sistemas operacionais para corrigir vulnerabilidades de segurança.
- Relatar golpes suspeitos: Relatar golpes suspeitos às autoridades competentes.
A luta contra o crime cibernético habilitado por IA é uma batalha contínua. Ao manterem-se informados, adotarem medidas de segurança robustas e trabalharem juntos, as organizações e os indivíduos podem reduzir o risco de se tornarem vítimas dessas ameaças em evolução.