Em poucos meses após a disseminação dos modelos de inteligência artificial (IA) generativa, observamos um impacto significativo na transformação de produtos e operações de segurança cibernética. Com o lançamento de produtos como o ChatGPT e outros alimentados por grandes modelos de linguagem (LLMs), a indústria de segurança cibernética reconhece a IA generativa como uma ferramenta essencial. Apesar dos desafios relacionados à sensibilidade e isolamento dos dados de segurança, dificultando o acesso a conjuntos abrangentes e de alta qualidade para treinamento de modelos LLM, a IA generativa mostra seu potencial.
Um ponto focal tem sido a identificação de ameaças, e a Bain descobriu que empresas de segurança cibernética que adotam a IA generativa a aplicam principalmente no estágio de identificação da estrutura de resposta a incidentes do SANS Institute. A identificação de ameaças é considerada a área com maior potencial de aprimoramento pela IA generativa, acelerando a detecção de ataques e a avaliação de sua escala e impacto.
Para as fases subsequentes da estrutura SANS, como contenção, erradicação e recuperação, a IA generativa já está sendo adotada por uma proporção significativa de empresas de segurança cibernética. Ela reduz lacunas de conhecimento, fornece instruções baseadas em incidentes passados e automatiza a criação de relatórios de resposta a incidentes, melhorando a comunicação interna.
Entretanto, é crucial reconhecer que a IA generativa também pode ser usada para fins maliciosos, como criação de conteúdo falso para phishing. O aumento do uso da IA generativa por hackers apresenta desafios, como o desenvolvimento de cepas de malware automaticamente adaptáveis, tornando-se indetectáveis pelas medidas de segurança convencionais.
Diante desses desafios, as empresas precisam adotar uma abordagem ágil em suas operações de segurança cibernética. Isso envolve compreender que a IA generativa não elimina as complexidades operacionais e técnicas, integrar a IA generativa na agenda estratégica do conselho e executivos, e adotar uma abordagem holística em vez de focar apenas em controles específicos.
Diretores de informação e segurança da informação devem validar os resultados da IA generativa, treinar equipes para identificar ameaças com e sem o uso dessa tecnologia, e evitar depender exclusivamente de um fornecedor ou modelo de IA generativo. Empresas de segurança cibernética devem buscar o equilíbrio certo de talentos, proteger-se contra informações falsas geradas pela IA generativa e garantir a diversificação de fornecedores.
A rápida evolução da IA generativa destaca a importância de atualizar continuamente conhecimentos e estratégias para aproveitar seus benefícios e manter a proteção cibernética. As ações estratégicas descritas no texto, incluindo a revisão da estratégia de entrada no mercado, a segmentação de clientes e a adaptação às mudanças do cenário competitivo, demonstram como as empresas podem se posicionar de forma mais robusta no mercado de ativos de software maduros.
