O Gartner identificou quatro ameaças críticas que exigem respostas urgentes por parte dos líderes de segurança cibernética: comprometimento de aplicações de Inteligência Artificial, falsificação de identidade por meio de deepfakes, ataques à cadeia de suprimentos de software e injeção de prompts.
Segundo a consultoria, essas ameaças se destacam por oferecerem aos agentes maliciosos uma vantagem significativa na exploração de vulnerabilidades corporativas, exigindo que as organizações revisem suas estratégias de proteção diante de recursos cada vez mais limitados.
O levantamento faz parte do Gartner ThreatScape, modelo que classifica ameaças com base na qualidade das informações disponíveis sobre os riscos e na capacidade das organizações de gerenciá-los.
“A introdução de iniciativas de segurança por parte de empresas de ponta de IA gera um ruído significativo em um cenário de ameaças já bastante agitado”, afirma John Watts, Vice-Presidente Analista do Gartner. “Os líderes em segurança cibernética devem ser capazes de identificar os sinais de ameaça em meio a todo esse ruído para poderem responder às mudanças no cenário de ameaças.”
Aplicações de IA se tornam novo alvo dos criminosos
O comprometimento de aplicações de Inteligência Artificial aparece entre as principais preocupações da consultoria. O crescimento do uso corporativo de IA generativa ampliou a superfície de ataque das organizações, incluindo agentes personalizados, integrações de terceiros e aplicações desenvolvidas internamente.
Segundo o Gartner, falhas de proteção podem expor dados sensíveis e credenciais corporativas, aumentando os riscos para os negócios.
“As equipes de segurança cibernética precisam expandir seus programas para além das proteções de software tradicionais, mapeando novas superfícies de ataque introduzidas por modelos de IA Generativa (GenAI) ou ferramentas agênticas”, diz Watts.
A consultoria recomenda a adoção do framework TRiSM (Trust, Risk and Security Management), além da aplicação de práticas como desenvolvimento seguro, modelagem de ameaças, classificação de dados, controle de acesso baseado em propósito e monitoramento contínuo.
Deepfakes elevam riscos de fraude e engenharia social
Outra ameaça destacada pelo Gartner é o avanço dos deepfakes, impulsionado pela evolução dos modelos de IA generativa.
A facilidade para criar conteúdos falsificados em áudio, vídeo e imagem aumentou significativamente, ampliando o potencial de golpes envolvendo falsificação de identidade, ataques de engenharia social, fraudes em processos de autenticação biométrica e até recrutamentos fraudulentos.
“O uso de deepfakes por atacantes continua a avançar e agora é comum, tornando fraudes e golpes de phishing difíceis de detectar”, diz Watts. “Não existe um único controle de segurança cibernética que irá protegê-lo. Em vez disso, as organizações devem usar uma combinação de fortalecimento dos processos de negócios, aumento da conscientização e implementação das tecnologias de detecção de deepfakes disponíveis, sempre que possível.”
O Gartner recomenda reforçar mecanismos de autenticação, proteger sistemas biométricos contra ataques de apresentação e injeção e adotar controles adicionais em reuniões online e canais de comunicação digital.
Cadeia de suprimentos de software segue no radar
Os ataques à cadeia de suprimentos de software também figuram entre os principais riscos identificados pela consultoria.
Segundo o Gartner, a crescente utilização de componentes de código aberto e ferramentas baseadas em IA tende a ampliar as oportunidades para exploração de vulnerabilidades ao longo dos processos de desenvolvimento.
“A evolução das ofertas de GenAI só vai acelerar a tendência de ataques à cadeia de suprimentos de software por meio de vulnerabilidades em softwares de código aberto”, afirma Watts.
Para reduzir os riscos, a consultoria orienta as empresas a exigir listas de materiais de software (SBOMs) e listas de materiais de IA (AIBOMs) dos fornecedores, adotar repositórios controlados para componentes de terceiros, proteger pipelines de desenvolvimento e monitorar continuamente os ambientes de execução.
Injeção de prompts desafia segurança dos modelos de IA
A injeção de prompts completa a lista de ameaças críticas apontadas pelo Gartner.
Esse tipo de ataque ocorre quando criminosos manipulam comandos enviados a grandes modelos de linguagem (LLMs) para alterar seu comportamento, contornar controles de segurança, acessar informações confidenciais ou executar ações não autorizadas.
Com o crescimento da adoção da IA generativa nas empresas, a consultoria alerta que esse risco tende a se tornar cada vez mais relevante.
Entre as recomendações estão a validação e sanitização de entradas, monitoramento contínuo de comportamentos anormais da IA, integração de testes específicos de injeção de prompts no ciclo de desenvolvimento e utilização dos resultados para aprimorar mecanismos de proteção em tempo de execução.
