A Intel lançou silenciosamente seu processador Gaudi 2 para cargas de trabalho de inteligência artificial (IA) que está em conformidade com as mais recentes restrições de exportação para a China. A nova versão reduz as interconexões scale-up e já é usada pela Inspur em seu servidor NF5698G7. A máquina foi projetada principalmente para treinamento e inferência com modelos de linguagem grandes (LLMs). Até certo ponto, isso ajudará com a escassez de GPUs de computação, como o A100 e o H100 da Nvidia, bem como sua versão reduzida para a China.
A Intel tem duas versões do Gaudi 2 que vêm no fator de forma do modelo OCP de 600 W. A versão regular chamada Gaudí 2 HL-225H tem 24 interconexões 100 Gbps RDMA (RoCE v2), enquanto a versão reduzida do produto chamada Gaudí 2 HL-225B tem 21 interconexões de expansão RDMA de 100 Gbps (RoCE v2). O número reduzido de interfaces de aumento de escala reduz o desempenho dos servidores AI baseados nesta versão do Gaudi 2, mas tendo em mente a enorme demanda por recursos de AI na China, o NF5698G7 da Inspur provavelmente será popular eventualmente.
‘O processador está em conformidade com Regulamentos do BIS dos EUA‘ para supercomputadores e semicondutores, a Intel descreve a versão do acelerador Gaudi 2 para o mercado chinês.
Embora a disponibilidade do Habana Gaudi 2 da Intel na China diminua a escassez de servidores GPU, deve-se notar que os aplicativos que já usam GPUs da Nvidia dificilmente serão portados para Gaudi. Portanto, os clientes existentes terão que continuar comprando da Nvidia.
DigiTimes relatórios citando a mídia chinesa que, além da escassez de GPU de computação, o alto custo de GPUs avançadas obrigou a Inspur a aumentar os preços. Além disso, o aplicativo LLM da Inspur, que se concentra em cenários industriais de pequena escala e enfatiza a conversação de IA, carece de diferenciação e vantagens competitivas em comparação com aplicativos autênticos de conteúdo gerado por IA (AIGC), que naturalmente constituem o servidor de IA da Inpur.
Embora a Inspur tenha uma posição de mercado favorável no setor chinês de servidores de IA, sua parceria com a Intel afetará sua posição no mercado chinês de chips de IA e potencialmente moldará sua concorrência com a Nvidia.