A F5 anunciou que está trazendo recursos de segurança e entrega de aplicações para implementações de IA com tecnologia Intel. Essa nova solução conjunta combina segurança e gerenciamento de tráfego da oferta NGINX Plus da F5, com a otimização e o desempenho da Distribuição Intel das Unidades de Processamento de Infraestrutura (IPUs) do kit de ferramentas OpenVINO. A meta é fornecer proteção, escalabilidade e desempenho superiores para inferência avançada de IA.
À medida que as organizações adotam cada vez mais a IA como motor de aplicações e fluxos de trabalho inteligentes, a inferência de IA eficiente e segura se torna crítica. Essa necessidade é atendida pela combinação do kit de ferramentas OpenVINO – que otimiza e acelera a inferência de modelos de IA – com o F5 NGINX Plus, fornecendo gerenciamento de tráfego e segurança robustos.
O kit de ferramentas OpenVINO simplifica a otimização de modelos de quase qualquer estrutura para viabilizar uma abordagem de escrita única e implementação em qualquer lugar. Esse kit de ferramentas é essencial para desenvolvedores que visam criar soluções de IA escaláveis e eficientes com alterações mínimas de código.
O F5 NGINX Plus aprimora a segurança e a confiabilidade desses modelos de IA. Atuando como um proxy reverso, o NGINX Plus gerencia o tráfego, garante alta disponibilidade e fornece verificações de integridade ativas. Ele também facilita a terminação SSL e a criptografia mTLS, protegendo as comunicações entre aplicações e modelos de IA sem comprometer o desempenho.
Para aumentar ainda mais o desempenho, as IPUs Intel descarregam serviços de infraestrutura da CPU host, liberando recursos para servidores de modelos de IA. As IPUs gerenciam com eficiência tarefas de infraestrutura, tornando acessíveis recursos para aprimorar a escalabilidade e o desempenho do NGINX Plus e dos Servidores de Modelos OpenVINO™ (OVMS).
Essa solução integrada é particularmente benéfica para aplicações de borda, como análises de vídeo e IoT, onde baixa latência e alto desempenho são cruciais. Executando o NGINX Plus na IPU Intel, a solução ajuda a assegurar respostas rápidas e confiáveis, tornando-a ideal para redes de entrega de conteúdo e implementações de microsserviços distribuídos.