A Forcepoint, uma renomada empresa global em soluções de cibersegurança, compartilha insights sobre as principais tendências e desafios que o setor enfrentará em 2024 por meio de um relatório detalhado.
“O último ano apresentou desafios significativos”, destaca Marcelo Saburo, country manager da Forcepoint no Brasil. Ele ressalta a complexidade crescente das ferramentas tecnológicas e seu uso por parte de criminosos, enfatizando a necessidade de estratégias robustas para a proteção de dados.
A empresa destaca que a Inteligência Artificial (IA), especialmente seus modelos generativos, terá um papel fundamental nas tendências para o próximo ano. Algumas áreas de destaque incluem:
Novas Políticas de IA:
A eficiência e produtividade oferecidas pela IA tornam-se inegáveis, mas a empresa adverte sobre os riscos associados, especialmente no contexto da segurança corporativa. A adoção da política de Zero Trust é fundamental para empresas de todos os tamanhos, visando proteger dados corporativos contra possíveis danos ou ataques.
Riscos para a Segurança:
A rápida evolução do uso da IA por criminosos destaca a necessidade de compreender e abordar a segurança em seu contexto. A exploração de modelos de linguagem de código aberto, como ChatGPT, levanta preocupações sobre ajuste fino para a criação de malwares sofisticados. Estratégias como o LoRA (Adaptação de baixo nível de modelos de linguagem grande) surgem como abordagens viáveis para mitigar esses riscos.
Mitigação:
A implementação segura da IA é crucial, e empresas como Samsung e Verizon proibiram inicialmente seu uso devido aos riscos percebidos. A ênfase recai na prevenção da exposição de informações sensíveis ao incorporar a IA, com a necessidade de políticas de segurança robustas.
Envenenamento de Dados:
Com a crescente popularidade de algoritmos na vida cotidiana, os ataques de envenenamento de dados tornam-se mais recorrentes. A empresa destaca diferentes tipos de ataques, como ataques de disponibilidade, backdoors e ataques direcionados, e destaca a dificuldade de combater esse fenômeno.
Problemas Sistêmicos na IA/Machine Learning:
A implementação inadequada da IA pode resultar em consequências adversas, destacando a sensibilidade da IA aos dados de treinamento. Problemas como vieses em modelos treinados em conjuntos de dados antigos ressaltam a importância da transparência na origem dos dados para mitigar problemas sistêmicos.
A interseção entre Inteligência Artificial e cibersegurança destaca a evolução abrangente das defesas digitais, mas também sublinha os desafios decorrentes de políticas inadequadas e dados suscetíveis a envenenamento. A atenção cuidadosa à implementação dessas tecnologias é crucial para garantir a segurança digital.
