A Check Point Software publicou seu primeiro AI Security Report, documento que analisa como a inteligência artificial está sendo usada para transformar tanto o cibercrime quanto as estratégias de defesa. A análise revela que a IA deixou de ser uma ferramenta apenas de inovação e passou a representar um novo vetor de ameaças digitais em escala global.
Segundo a empresa, o avanço dos ataques com deepfakes, a personificação digital e a manipulação de grandes modelos de linguagem (LLMs) estão colocando em xeque a confiança nas interações digitais. “A rápida adoção da IA por cibercriminosos já está transformando o cenário de ameaças”, afirma Lotem Finkelstein, diretor da Check Point Research (CPR). “Isso não é um futuro distante; está logo ali na esquina.”
Quatro principais ameaças cibernéticas com IA
O relatório destaca quatro áreas críticas nas quais a IA vem sendo usada por criminosos:
1. Personificação e engenharia social aprimoradas por IA
Cibercriminosos estão utilizando IA para criar e-mails de phishing mais realistas, além de imitações de voz e vídeos falsos (deepfakes). Um exemplo citado foi o uso de áudio gerado por IA para se passar pelo ministro da Defesa da Itália. No Brasil, adolescentes foram responsabilizados por manipular imagens em Maceió (AL), gerando conteúdo deepfake contra colegas de escola.
2. Envenenamento de dados e desinformação em LLMs
A manipulação de dados de treinamento de IA pode alterar as respostas dos sistemas. A rede russa Pravda conseguiu induzir chatbots a replicarem fake news em 33% das vezes. O caso reforça a importância de garantir integridade e curadoria rigorosa dos dados usados por modelos de linguagem.
3. Malware criado com IA e mineração de dados
A IA também está facilitando a criação de malwares e a automação de ataques. Ferramentas como a Gabbers Shop utilizam algoritmos para validar, limpar e otimizar dados roubados, aumentando sua eficiência e valor de revenda.
4. Armamento e sequestro de modelos de IA
Criminosos estão contornando sistemas de segurança ao desenvolver modelos de IA sob medida e vendê-los na dark web. O roubo e uso indevido de contas de LLMs estão cada vez mais frequentes, transformando essas plataformas em armas digitais.
Como se defender em um mundo movido por IA
Diante desse cenário, o relatório da Check Point recomenda uma mudança de postura das organizações. A defesa cibernética precisa considerar a IA como parte central nas ameaças e também nas estratégias de proteção. Entre as práticas indicadas estão:
- Detecção assistida por IA: identificar ameaças geradas por IA, como deepfakes e phishing sintético.
- Verificação de identidade aprimorada: adotar múltiplas camadas de autenticação, inclusive com reconhecimento de padrões de voz e vídeo.
- Inteligência de ameaças com contexto de IA: fornecer às equipes de segurança as ferramentas necessárias para detectar táticas baseadas em IA com maior precisão.
“Nesta era movida por IA, as equipes de cibersegurança precisam acompanhar o ritmo dos atacantes integrando IA em suas defesas”, reforça Finkelstein. “Esse relatório não apenas destaca os riscos, mas fornece o caminho para proteger ambientes de IA de forma segura e responsável.”
O relatório completo está disponível aqui.
