A Norton, marca de segurança digital da Gen, anunciou o Safe AI, um conjunto de recursos de proteção integrado ao Norton 360 para ampliar a segurança durante o uso de ferramentas de inteligência artificial. A solução monitora as atividades de aplicativos de IA, como ChatGPT e Claude, e permite que os usuários controlem quais ações podem ser executadas e quais informações podem ser acessadas.
A novidade foi desenvolvida para reduzir riscos relacionados ao uso de assistentes de IA, incluindo acessos não autorizados a arquivos pessoais, execução de instruções maliciosas e exposição a links potencialmente perigosos.
Uso de assistentes de IA amplia preocupações com segurança
Embora os assistentes de inteligência artificial facilitem a realização de tarefas e a busca por informações, sua utilização também pode apresentar riscos à privacidade e à segurança digital. Entre as ameaças estão links maliciosos compartilhados durante conversas, manipulação de ferramentas para executar ações indesejadas e acesso não autorizado a arquivos pessoais.
Pesquisas dos Laboratórios de Ameaças da Gen apontam um crescimento de 54% no conteúdo malicioso entregue a usuários da empresa por meio de chatbots de IA, como ChatGPT e Claude, nos últimos 90 dias, considerando o cenário global.
O levantamento também identificou preocupações relacionadas à privacidade, ao vazamento de dados e à perda de controle sobre informações pessoais. Segundo a pesquisa, mais de dois terços das pessoas demonstram preocupação ao utilizar assistentes de IA autônomos capazes de agir em seu nome.
“A maioria das ferramentas de IA que as pessoas usam hoje deveria incluir uma etiqueta de advertência informando que a segurança não está incluída. As ferramentas foram desenvolvidas para executar tarefas, mas não necessariamente para fazê-lo corretamente ou até mesmo com segurança, apesar das boas intenções”, afirmou Dagim Girma, gerente-geral na Norton. “É aí que entramos. As pessoas não deveriam precisar se tornar especialistas em segurança de IA para se beneficiar dessas ferramentas. Com o Safe AI, ajudamos as pessoas a manter o controle de suas informações e a aproveitar as possibilidades da IA com mais confiança.”
Safe AI reúne três recursos de proteção
Integrado à proteção avançada contra golpes do Norton 360, o Safe AI oferece três funcionalidades para aumentar o controle dos usuários sobre as ferramentas de inteligência artificial.
O primeiro recurso, chamado Action Shield, atua na prevenção de ações indesejadas realizadas por ferramentas de IA. A tecnologia busca impedir instruções maliciosas e tentativas de manipulação conhecidas como injeções de instruções antes que possam ser executadas.
Já o Safe Zone permite gerenciar o acesso dos assistentes de IA a arquivos e conteúdos pessoais. Os usuários podem configurar diferentes níveis de permissão, incluindo acesso completo, somente leitura ou bloqueio.
A terceira funcionalidade, Safe Links, identifica links potencialmente prejudiciais compartilhados pelo ChatGPT e pelo Claude antes que sejam acessados. A proposta é reduzir a exposição a destinos inseguros durante as interações com os assistentes.
Em conjunto, os três recursos atuam em diferentes etapas da utilização da inteligência artificial, desde a identificação de links suspeitos até o controle das ações executadas pelas ferramentas e do acesso a informações pessoais.
Gen amplia iniciativas de proteção para a era da IA
O lançamento também faz parte das iniciativas da Gen para acompanhar os desafios de segurança associados à evolução da inteligência artificial. Por meio do Agent Trust Hub, a empresa busca ampliar a compreensão sobre ameaças relacionadas a sistemas de IA e ferramentas autônomas.
As pesquisas dos Laboratórios de Ameaças da Gen também contribuem para o desenvolvimento de soluções voltadas à proteção dos usuários diante desses riscos. A proposta é transformar o conhecimento sobre novas ameaças em recursos práticos de segurança digital.
O Safe AI está disponível no Norton 360 para computadores com Windows e Mac. Mais informações podem ser encontradas no blog oficial da Norton, em inglês.
