A Nvidia recentemente lançou o H200 com 141 GB de HBM3E, chamando bastante atenção da AMD. O lançamento mais recente da Nvidia veio logo após a AMD lançar o Instinct MI300A com 128 GB de memória HBM3 e os aceleradores Instinct MI300X AI com 192 GB de memória HBM3. No entanto, a AMD pode estar planejando novas versões dos produtos da série Instinct MI300 com mais memória.
Mark Papermaster, diretor de tecnologia da AMD, sugeriu essa possibilidade durante sua apresentação na Arete Investor Webinar Conference na semana passada.
“Não estamos parados”, disse Papermaster (via ProcurandoAlfa). “Fizemos ajustes para acelerar nosso roteiro com ambas as configurações de memória da família MI300, derivadas do MI300, a próxima geração. […] Portanto, temos pilhas de 8-Hi. Projetamos para pilhas 12-Hi. Enviamos com MI300 HBM3. Nós arquitetamos para HBM3E.”
Deve-se notar que o Instinct MI300A da AMD possui 128 GB de memória HBM3 usando 8-Hi stack die (KGSD), enquanto o Instinct MI300X vem com 192 GB de memória e usa 12-Hi KGDSs. Até o momento, nenhum dos produtos da AMD utiliza HBM3E, mas parece que a empresa poderia considerar sua utilização em futuras versões da série Instinct MI300.
Ao optar por HBM3E em vez de HBM3, a AMD pode aumentar significativamente a largura de banda de memória disponível para suas GPUs ou APUs de IA e HPC. A alteração dos dispositivos de memória conectados aos processadores é relativamente simples, então é provável que a AMD implemente o HBM3E em algum momento.
De acordo com os números de desempenho da AMD, o Instinct MI300X supera a GPU H100 de 80 GB da Nvidia, amplamente utilizada por grandes hiperscalers como Google, Meta (Facebook) e Microsoft. O Instinct MI300X também provavelmente será um concorrente forte para a próxima GPU H200 de 141 GB da Nvidia. Resta saber o que aguarda na hipotética série Instinct MI300 da AMD com memória HBM3E.
“Temos trabalhado em estreita colaboração com nossos clientes e o que podemos dizer, direi agora: essa corrida começou e será uma corrida competitiva”, disse Papermaster. “Você verá isso de um lado para o outro, como sempre viu quando há concorrência. Será ótimo para o mercado. Certamente está nos estimulando na AMD a estar no nosso melhor em inovação. […] Fique ligado conosco, pois compartilharemos mais detalhes sobre esse roteiro, porque é de fato um roteiro plurianual que traçamos.”