Na conferência de clientes e parceiros Intel Vision 2024, a Intel apresentou o acelerador Intel Gaudi 3 para trazer desempenho, abertura e opções para IA generativa empresarial (GenAI), e revelou um conjunto de novos recursos abertos de sistemas escaláveis, produtos de última geração e colaborações estratégicas para acelerar a adoção da GenAI. Com apenas 10% das empresas passando com sucesso os projetos GenAI para produção no ano passado, as ofertas mais recentes da Intel abordam os desafios que as empresas enfrentam no dimensionamento de iniciativas de IA.
“A inovação está avançando em um ritmo sem precedentes, tudo possibilitado pelo silício – e cada empresa está rapidamente se tornando uma empresa de IA”, disse Pat Gelsinger, CEO da Intel. “A Intel está levando a IA para todos os lugares da empresa, desde o PC até o data center e a borda. Nossas mais recentes plataformas Gaudi, Xeon e Core Ultra oferecem um conjunto coeso de soluções flexíveis adaptadas para atender às necessidades em constante mudança de nossos clientes e parceiros e capitalizar as imensas oportunidades que temos pela frente.”
As empresas estão buscando escalar a GenAI do piloto à produção. Para fazer isso, elas precisam de soluções prontamente disponíveis baseadas em processadores de alto desempenho e eficientes em termos de custos e energia, como o acelerador Intel Gaudi 3 AI. Gaudi 3 também aborda requisitos de complexidade, fragmentação, segurança de dados e compliance.
Apresentando Gaudi 3 para treinamento e inferência de IA
O acelerador Intel Gaudi 3 AI alimentará sistemas de IA com até dezenas de milhares de aceleradores conectados através do padrão comum de Ethernet. Intel Gaudi 3 promete 4x mais computação de IA para BF16 e um aumento de 1,5x na largura de banda de memória em relação ao seu antecessor. O acelerador proporcionará um salto significativo no treinamento e inferência em IA para empresas globais que buscam implantar GenAI em escala.
Em comparação com o Nvidia H100, o Intel Gaudi 3 foi projetado para fornecer um tempo de treinamento 50% mais rápido, em média, em todos os modelos Llama2 com parâmetros 7B e 13B e modelo de parâmetro GPT-3 175B. Além disso, a taxa de transferência de inferência do acelerador Intel Gaudi 3 é projetada para superar o H100 em 50% em média1 e 40% para a eficiência energética de inferência média entre os parâmetros Llama 7B e 70B e os modelos de parâmetros Falcon 180B.2
O Intel Gaudi 3 fornece software aberto e baseado na comunidade e rede Ethernet padrão do setor. E, além disso, permite que as empresas escalem com flexibilidade de um único nó para clusters, super clusters e mega clusters com milhares de nós, apoiando inferência, ajuste fino e treinamento em maior escala.
O Intel Gaudi 3 estará disponível para OEMs – incluindo Dell Technologies, HPE, Lenovo e Supermicro – no segundo trimestre de 2024.
