Em um movimento estratégico para expandir sua atuação em Inteligência Artificial (IA), a Red Hat anunciou a aquisição da Neural Magic, empresa norte-americana conhecida por seus softwares e algoritmos de IA Generativa (GenAI). A compra integra a expertise da Neural Magic em engenharia de desempenho e reforça o compromisso da Red Hat em oferecer uma IA customizável, segura e escalável para diversas organizações e setores.
Superando barreiras da IA generativa com o vLLM
A expansão dos grandes modelos de linguagem (LLMs) representa desafios significativos para as organizações, exigindo alta capacidade computacional e infraestrutura especializada. A aquisição da Neural Magic possibilitará à Red Hat oferecer soluções de IA acessíveis e eficientes, baseadas no projeto vLLM. Desenvolvido pela UC Berkeley, o vLLM é um projeto open source focado em acelerar a inferência de modelos e é compatível com uma ampla gama de hardwares, como GPUs NVIDIA, TPUs da Google e CPUs x86.
Com essa tecnologia, a Red Hat busca fornecer uma plataforma flexível para empresas construírem estratégias de IA adaptadas às suas necessidades específicas, otimizando o uso de dados em nuvens híbridas. “Estamos empolgados para complementar nosso portfólio de IA focado em nuvem híbrida com a inovação de IA revolucionária da Neural Magic”, afirma Matt Hicks, Presidente e CEO da Red Hat. “Queremos ser não apenas a ‘Red Hat do open source’, mas também a ‘Red Hat da IA’.”
Neural Magic: inovação em IA desde o MIT
Criada em 2018 como um spin-off do MIT, a Neural Magic se destaca pela tecnologia de inferência de alto desempenho para deep learning. Com essa expertise, a Red Hat pretende acelerar sua visão de um futuro onde IA corporativa em grande escala seja mais acessível, utilizando software open source e tecnologias de infraestrutura eficientes.
Os recursos da Neural Magic incluem:
- Modelos licenciados open source, operando de forma flexível em nuvens híbridas, data centers e ambientes de edge.
- Ferramentas de personalização para LLMs, permitindo ajustes com dados privados e uma camada extra de segurança.
- Suporte a um ecossistema de parceiros, oferecendo opções de hardware e softwares certificados.
Fortalecendo a Red Hat AI com vLLM
A Red Hat planeja usar a expertise da Neural Magic no vLLM para criar uma infraestrutura robusta e escalável de IA, com foco na otimização, implantação e controle de cargas de trabalho LLM. A Neural Magic também desenvolve o LLM Compressor, que otimiza modelos com algoritmos de esparsidade e quantização avançados, além de disponibilizar um repositório de modelos pré-otimizados.
Com a integração das tecnologias da Neural Magic, a Red Hat poderá expandir suas ofertas, incluindo:
- Red Hat Enterprise Linux AI (RHEL AI), uma plataforma para a família IBM Granite de LLMs.
- Red Hat OpenShift AI, uma plataforma de desenvolvimento e monitoramento de modelos de machine learning em ambientes Kubernetes.
- InstructLab, um projeto colaborativo de aprimoramento de LLMs Granite, co-desenvolvido com a IBM.
Próximos passos e aprovações regulatórias
A transação ainda está sujeita à aprovação de órgãos regulatórios dos Estados Unidos e a outras condições habituais para a finalização do contrato. A aquisição da Neural Magic marca um passo importante na evolução da Red Hat, ampliando suas capacidades em IA generativa e fortalecendo sua presença no mercado de nuvem híbrida.
