A Trend Micro, líder global em cibersegurança, emitiu um alerta a engenheiros de inteligência artificial e líderes de tecnologia da informação para que adotem melhores práticas no desenvolvimento e implantação de sistemas seguros. Segundo a empresa, negligenciar a segurança pode resultar em roubo de dados, envenenamento de modelos, extorsão e outros ataques cibernéticos.
O alerta está detalhado no Trend Micro State of AI Security Report – 1º semestre de 2025, que mostra como defensores e criminosos estão utilizando a inteligência artificial. Rachel Jin, Chief Enterprise Platform Officer da Trend Micro, afirma, “a IA pode representar a oportunidade do século para os negócios globais. Mas aqueles que se apressarem demais, sem adotar as devidas precauções de segurança, podem acabar causando mais mal do que bem. Como nosso relatório revela, grande parte da infraestrutura de IA já está sendo construída com componentes inseguros ou desatualizados, criando uma porta aberta para agentes mal-intencionados”.
Principais desafios de segurança identificados
O relatório aponta quatro áreas críticas de vulnerabilidade em sistemas de IA:
1. Vulnerabilidades em componentes críticos
Para desenvolver, implantar e operar aplicações de IA, as organizações utilizam múltiplos componentes e frameworks especializados, que podem conter falhas comuns em softwares. O estudo identificou vulnerabilidades zero-day e explorações em ferramentas centrais como ChromaDB, Redis, NVIDIA Triton e NVIDIA Container Toolkit.
2. Exposição acidental à internet
Em muitos casos, prazos acelerados de desenvolvimento levam a erros que deixam sistemas de IA acessíveis publicamente. A Trend Micro identificou mais de 200 servidores ChromaDB, 2.000 servidores Redis e mais de 10.000 servidores Ollama sem autenticação.
3. Fragilidades em componentes de código aberto
Frameworks e plataformas de IA dependem de bibliotecas de código aberto, que podem trazer vulnerabilidades ao ambiente de produção. No evento Pwn2Own Berlin, pesquisadores encontraram uma exploração para o banco de dados Redis originada de um componente Lua desatualizado.
4. Riscos em ambientes baseados em contêineres
Grande parte da infraestrutura de IA roda em contêineres, sujeitos às mesmas ameaças que ambientes de nuvem. No Pwn2Own, também foi identificada uma exploração para o NVIDIA Container Toolkit. Entre as recomendações, estão sanitizar entradas e monitorar o comportamento em tempo de execução.
Stuart MacLellan, CTO do NHS SLAM, destaca a importância do monitoramento contínuo. “Ainda existem muitas questões sobre os modelos de IA e como eles poderiam e deveriam ser usados. Agora temos muito mais informações sobre a visibilidade de dispositivos e quais aplicativos estão em uso. Compilar esses dados e gerar alertas dinâmicos baseados em risco fortalece a tomada de decisão organizacional sobre determinados produtos”.
Alerta para o mercado brasileiro
No Brasil, a atenção também é essencial. Laércio Silva, engenheiro de Vendas da Trend Micro Brasil, alerta que a pressa para lançar produtos de IA não pode suplantar a segurança. “Temos visto empresas brasileiras investindo fortemente em IA, mas muitas vezes sem considerar o risco que correm ao utilizar componentes não atualizados ou expostos à internet. O custo de corrigir uma vulnerabilidade explorada é muito maior do que investir em segurança preventiva desde o início”.
A Trend Micro recomenda que organizações adotem medidas imediatas, como gerenciar patches rigorosamente, manter inventário completo de software, seguir práticas de segurança em contêineres e verificar configurações para evitar exposição pública.
