A F5 anunciou a integração entre o F5 AI Guardrails e o NVIDIA NeMo Guardrails, solução voltada à proteção de aplicações de inteligência artificial em produção. A proposta é oferecer uma camada centralizada de segurança e governança para organizações que utilizam modelos de IA em ambientes híbridos e multicloud.
Segundo a empresa, um dos principais desafios enfrentados pelas organizações na adoção da inteligência artificial em escala está relacionado à segurança. A expansão do uso de diferentes modelos e frameworks de IA costuma resultar em controles fragmentados, aplicação inconsistente de políticas e dificuldades para garantir governança e conformidade.
Nesse cenário, a integração busca separar a camada de segurança da estrutura da aplicação, permitindo que as políticas corporativas sejam aplicadas de forma centralizada, sem necessidade de alterações no código das aplicações de IA.
Arquitetura em camadas busca simplificar governança
De acordo com a F5, a solução permite que as organizações utilizem o NVIDIA NeMo Guardrails para estabelecer regras de comportamento dos modelos de IA, enquanto o F5 AI Guardrails realiza a inspeção de prompts e respostas de modelos de linguagem (LLMs), aplicando políticas corporativas de forma unificada.
A arquitetura também permite que os componentes responsáveis pela biblioteca da estrutura, microsserviços, orquestração e segurança evoluam de forma independente, reduzindo a complexidade operacional.
“As empresas não têm escassez de aplicações de IA. Elas têm escassez de segurança e governança consistentes para esse universo”, disse Kunal Anand, diretor de produtos da F5. “À medida que a IA entra em produção, controles fragmentados geram riscos, complexidade e atrasos. Essa integração oferece às equipes de segurança um ponto unificado para inspecionar o tráfego de IA aplicar políticas e governar aplicações de IA em todos os seus ambientes, ao mesmo tempo em que dá aos desenvolvedores a liberdade de continuar criando.”
Parceiros destacam benefícios da integração
Empresas parceiras da F5 e da NVIDIA afirmam que a integração contribui para ampliar a segurança das implantações de inteligência artificial em ambientes corporativos.
“À medida que as empresas colocam a IA em produção, a infraestrutura na qual a IA opera se torna o diferencial competitivo. A Equinix oferece a base neutra e interconectada onde a IA é executada em escala, reunindo infraestrutura privada, múltiplas nuvens e um rico ecossistema de IA. Nossa colaboração com a F5 estende a segurança consistente e a aplicação de políticas por esses ambientes distribuídos, permitindo que os clientes escalem a IA com confiança, ao mesmo tempo em que preservam o desempenho, a soberania e a liberdade de escolha”, disse Maryam Zand, vice-presidente de Desenvolvimento de Ecossistema da Equinix.
“Embora as empresas estejam adotando rapidamente a IA, escalá-la continua sendo um grande desafio. O Red Hat AI Factory com a NVIDIA é uma solução de IA de nível empresarial, desenvolvida em parceria, que ajuda as organizações a criar, implantar e escalar cargas de trabalho de IA de maneira mais integrada, onde quer que seus negócios exijam. Essa integração mais recente do F5 AI Guardrails com o NVIDIA NeMo Guardrails amplia as proteções em tempo de execução para ajudar os clientes a implantar e escalar a IA com maior confiança usando o Red Hat AI Factory com a NVIDIA”, disse Ryan King, vice-presidente de IA e Parceiros de Infraestrutura da Red Hat.
“O sucesso da IA corporativa depende de mais do que uma infraestrutura poderosa, depende do estabelecimento de confiança antes que as aplicações cheguem à produção. Por meio do AI Proving Ground da WWT e de nossa colaboração com a NVIDIA, os clientes podem validar arquiteturas de IA antes da implantação. A integração do F5 AI Guardrails com o NVIDIA NeMo Guardrails fortalece ainda mais essa abordagem ao adicionar governança de IA orientada por políticas e proteções em tempo de execução que ajudam as organizações a implantar IA com agentes de forma segura e com confiança”, disse Chris Konrad, vice-presidente global de IA e segurança cibernética da WWT.
Solução centraliza inspeção de prompts e respostas
A F5 informa que o AI Guardrails realiza inspeção contínua dos prompts enviados aos modelos de IA e das respostas geradas, ajudando a reduzir riscos como injeção de prompts, vazamento de dados, exposição de informações de identificação pessoal (PII) e geração de conteúdos maliciosos.
Entre os recursos destacados pela empresa estão a inspeção em tempo real de prompts e respostas, a aplicação centralizada de políticas de segurança, a visibilidade unificada sobre aplicações de IA distribuídas em diferentes modelos e frameworks e uma arquitetura independente, que permite atualização e escalabilidade das camadas de segurança sem interferir nas aplicações.
Segundo a companhia, esse modelo permite que as equipes responsáveis pelo desenvolvimento avancem na implantação de aplicações de IA, enquanto as áreas de segurança mantêm controle sobre políticas, inspeção e governança de forma independente.
“O NVIDIA NeMo Guardrails oferece uma estrutura aberta e programável para aplicar políticas de segurança e proteção a aplicações de IA”, disse Ash Bhalgat, diretor sênior de Soluções de Rede e Segurança de IA, Ecossistema e Marketing da NVIDIA. “A integração com o F5 AI Guardrails amplia o leque de proteções que os clientes podem usar para proteger prompts e respostas de LLM à medida que colocam agentes de IA em produção.”
Solução já está disponível
A F5 afirma que a integração é compatível com diferentes modelos de linguagem de grande porte, permitindo que organizações alterem modelos de IA, adicionem novas aplicações ou ampliem o uso da tecnologia em outras áreas da empresa sem comprometer a consistência das políticas de segurança.
O F5 AI Guardrails integrado ao NVIDIA NeMo Guardrails já está disponível para clientes.
