No final do ano passado, a Cúpula de Segurança de IA reuniu no Bletchley Park no Reino Unido, especialistas em IA de todo o mundo – inclusive do Brasil, mostrando que as organizações voltaram aos negócios como de costume. Embora tenha havido uma mistura de previsões positivas com avisos um tanto preocupantes durante o evento, os participantes concordaram em promover os benefícios da IA bem como impedir seu uso indevido, embora seja mais fácil falar do que fazer. Após a declaração de todos os países, os participantes se comprometeram a participar de seis cúpulas virtuais mensais entre as conferências anuais.
Além disso, os participantes assinaram um acordo histórico sobre a regulamentação da IA, cuja legislação não deverá ocorrer até pelo menos 2025. Dentro dele, as propostas contêm salvaguardas sobre o uso de IA incluindo regras sobre sistemas como ChatGPT e reconhecimento facial.
Claramente, a IA está sinalizando o nascimento de uma nova era de inovação e de avanço tecnológico; seu uso e aplicação estão sendo anunciados e examinados de perto. Quem está usando IA, como ela está sendo usada e com que finalidade são questões importantes que os governos e as empresas enfrentam atualmente.
O resultado para as equipes de segurança de TI é desenvolver sua resiliência cibernética diante da forma como os agentes de ameaças cibernéticas estão transformando a IA em uma arma. Para a maioria, tentar ficar um passo à frente dos agentes mal-intencionados não é novidade. Mas o que é diferente, e motivo de preocupação, é como a IA está nivelando o campo de jogo do cenário de ameaças cibernéticas.
Uma nova liga de atacantes
O que antes exigia dos atacantes um esforço humano considerável, conhecimento e experiência técnica, agora pode ser tratado de forma mais eficiente por LLM (modelos de linguagem grandes) e IA. Considere, por exemplo, um plano para comprometer a cadeia de suprimentos de uma organização.
A IA pode simplificar a orquestração de um ataque desse tipo, automatizando e coordenando os estágios do processo que costumavam ser realizados manualmente. No estágio de planejamento, as ferramentas de IA analisam grandes quantidades de dados para identificar possíveis vulnerabilidades na cadeia de suprimentos.
Até mesmo os mais cautelosos podem se sentir tentados a clicar em um link suspeito ou, inadvertidamente, fornecer informações que poderiam ajudar um criminoso.
Quando um ataque está em andamento, a automação orientada por IA pode otimizar a entrega de cargas maliciosas em toda a cadeia de suprimentos e no ecossistema, escolhendo os momentos e as rotas mais oportunas para evitar a detecção pelas defesas cibernéticas.
Essa capacidade de processar enormes conjuntos de dados, aprender com padrões e tomar decisões dinâmicas pode fazer com que os ataques pareçam altamente complexos, abrangentes e potencialmente mais perigosos do que são. Talvez isso implique que uma rede criminosa sofisticada esteja por trás deles. No entanto, com o apoio de ferramentas de IA, os relativamente novatos podem produzir ataques abrangentes, colocando-os ostensivamente em pé de igualdade com indivíduos experientes e grupos maiores e mais experientes.
Um jogo de duas metades
As organizações precisam estar prontas para lidar com esse número crescente de ataques mais inteligentes e determinar rapidamente sua importância, caso contrário, correm o risco de reagir de forma exagerada ou de não perceber os primeiros sinais de alerta de uma possível violação. Para isso, é necessário aproveitar a IA para vencer os criminosos em seu próprio jogo.
Por outro lado, as ferramentas de IA podem ser usadas para analisar grandes quantidades de inteligência contra ameaças de várias fontes em tempo real, identificando indicadores ocultos de ameaças cibernéticas. Elas podem monitorar o comportamento de usuários e entidades comparando-os com referências de atividade normal e identificar anomalias que indicam um comprometimento.
A IA também desempenha um papel fundamental na proteção de endpoints, implementando algoritmos que reconhecem e neutralizam malware ou ransomware, inclusive variantes nunca antes vistas. Juntamente com as ferramentas de IA especializadas em detecção de phishing, as comunicações mal-intencionadas podem ser diferenciadas das legítimas e colocadas em quarentena para investigação adicional, reduzindo o risco de destinatários clicarem em links suspeitos.
Preenchendo as lacunas de habilidades
As plataformas de segurança atuais podem oferecer uma gama abrangente de medidas de proteção e resposta com tecnologia de IA para derrotar os invasores, incluindo alerta antecipado, detecção de ameaças, prontidão para incidentes, resposta rápida e recuperação cibernética. Dada a contínua escassez de pessoal de segurança cibernética, essas soluções também têm potencial para ajudar a preencher as lacunas com defesas sempre ativas.
Aumentada pela inteligência humana, a natureza adaptativa da IA manterá as equipes de segurança no mesmo nível de seus adversários criminosos, capazes de competir em pé de igualdade e garantir que sua resiliência cibernética permaneça alta. As organizações que não conseguirem acompanhar a adoção da IA darão aos invasores uma vantagem significativa e correrão um risco muito maior de violações graves. Não vamos deixar o crime cibernético levar a melhor na IA.
*Por Vidya Shankaran, CTO de Tecnologias Emergentes da Commvault.
