A TrendAI divulgou um estudo que aponta um cenário de adoção acelerada de Inteligência Artificial nas empresas, mesmo diante de riscos relacionados à segurança e à conformidade.
De acordo com o levantamento “Securing the AI-Powered Enterprise”, realizado com 3.700 líderes de negócios e de TI, 67% dos entrevistados afirmam já ter se sentido pressionados a aprovar o uso de IA apesar de preocupações com segurança. Entre eles, uma parcela significativa classificou esses riscos como extremos, mas ainda assim priorizou a implementação para atender demandas internas e acompanhar a concorrência.
Governança ainda não acompanha avanço da tecnologia
Segundo Rachel Jin, Chief Platform & Business Officer e Head de TrendAI, o principal desafio não está na falta de consciência sobre os riscos, mas na capacidade de gestão.
“As organizações não carecem de consciência sobre os riscos, mas sim das condições necessárias para gerenciá-los. Quando a adoção é impulsionada pela pressão competitiva — e não pela maturidade da governança — cria-se um cenário em que a IA é incorporada a sistemas críticos sem os controles necessários para garantir seu uso seguro. Este estudo reforça nosso foco em ajudar as organizações a gerar resultados concretos com IA, ao mesmo tempo em que mantêm os riscos de negócio sob controle.”
O estudo também aponta falhas estruturais na governança e falta de definição sobre responsabilidades na gestão de riscos. Em muitos casos, equipes de segurança atuam de forma reativa, o que favorece o uso de soluções não autorizadas, prática conhecida como shadow AI.
IA evolui mais rápido que a capacidade de proteção
Os dados revelam um descompasso entre a velocidade de adoção da tecnologia e a capacidade das empresas de protegê-la. Segundo o levantamento, 57% afirmam que a IA evolui mais rapidamente do que conseguem proteger, enquanto 64% dizem ter apenas confiança moderada no entendimento das regras legais relacionadas à tecnologia.
A maturidade em governança ainda é limitada. Apenas 38% das organizações possuem políticas abrangentes de IA implementadas, enquanto 41% apontam a falta de clareza regulatória como um obstáculo relevante.
Uso de IA amplia riscos cibernéticos
A análise da TrendAI também indica que cibercriminosos já utilizam Inteligência Artificial para potencializar ataques, automatizando etapas de reconhecimento, ampliando campanhas de phishing e reduzindo barreiras de entrada para ações maliciosas.
Esse cenário contribui para o aumento da velocidade e da escala das ameaças digitais, exigindo respostas mais rápidas das organizações.
Baixa confiança em sistemas autônomos preocupa
A confiança em tecnologias mais avançadas, como a IA autônoma, ainda é limitada. Apenas 48% das empresas acreditam que esses sistemas trarão melhorias significativas para a ciberdefesa no curto prazo.
Entre os principais riscos apontados estão o acesso a dados sensíveis, mencionado por 44% dos entrevistados, além de comandos maliciosos e ampliação da superfície de ataque. A falta de visibilidade e capacidade de auditoria também preocupa, sendo citada por 31% das organizações.
Cerca de 40% defendem a criação de mecanismos de desligamento emergencial para esses sistemas, enquanto parte relevante ainda não possui uma posição definida sobre o tema.
Rachel Jin reforça que o avanço da IA autônoma amplia o nível de risco enfrentado pelas empresas. “Nosso estudo mostra que as preocupações já são claras, desde a exposição de dados sensíveis até a perda de supervisão. Sem visibilidade e controle, as empresas estão implementando sistemas que não compreendem totalmente nem conseguem governar — e esse risco tende a aumentar à medida que a adoção avança, caso nenhuma ação seja tomada”, afirma.
