Durante a Computex 2023, tive a oportunidade de visitar os imponentes escritórios da AMD em Taipei, Taiwan, para ver a demonstração da Ryzen AI da empresa e falar com David McAfee, vice-presidente corporativo e gerente geral do canal de negócios do cliente. A maior parte de nossa conversa centrou-se nos esforços da AMD no espaço de IA do consumidor, mas também coloquei algumas perguntas sobre a abordagem da AMD em CPUs híbridas. McAfee me disse que a AMD tem uma visão de processadores híbridos diferente da Intel, o que evitaria a complexidade que forçou a Intel a remover o suporte AVX-512 de seus chips.
Entrevistei o CTO da AMD, Mark Papermaster, há duas semanas em Antuérpia, Bélgica. Ele me disse que “veríamos núcleos de alto desempenho misturados com núcleos de baixo consumo de energia misturados com aceleração” no futuro cliente da AMD [consumer] processadores, sinalizando que, como a Intel antes dela, a AMD adotaria um design de núcleo de execução de CPU híbrido no futuro. Isso não foi muito surpreendente – vimos os primeiros sinais de dois tipos diferentes de núcleos de CPU nos manuais de software da AMD meses atrás. Além disso, a AMD já está lançando as bases com seus próximos chips EPYC Bergamo com densos núcleos Zen 4c semelhantes aos núcleos de eficiência.
Os atuais chips de laptop Ryzen 7040 da AMD já apresentam um design híbrido, mas não com dois tipos diferentes de núcleos de CPU. Em vez disso, o Ryzen 7040 possui apenas um tipo de núcleo de CPU emparelhado com um mecanismo acelerador de IA integrado que opera independentemente dos núcleos de CPU e GPU. Esse mecanismo oferece vantagens para determinados tipos de cargas de trabalho de inferência de IA, mas os núcleos de CPU e GPU são melhores para outros tipos de inferência. Portanto, o truque é direcionar as diferentes cargas de trabalho de IA para o tipo correto de núcleos para extrair o melhor desempenho e eficiência de energia.
Incluir núcleos de CPU de desempenho e eficiência separados nessa mistura introduziria mais uma opção de computação para cargas de trabalho de inferência de IA, e perguntei à McAfee se, conceitualmente, seria possível que núcleos de eficiência fossem melhores para IA do que uma peça dedicada de silício (o AI motor). A McAfee explicou que o foco estrito dos mecanismos de IA em operações específicas de IA daria a eles uma vantagem de eficiência sobre qualquer computação de CPU de uso geral – até mesmo um núcleo de eficiência.
Em seguida, passamos a discutir os chips híbridos da Intel, que têm dois tipos de núcleos, cada um com sua microarquitetura exclusiva. Isso criou problemas interessantes: os núcleos de desempenho da Intel suportam AVX-512, mas os núcleos de eficiência menores não. Isso levou a Intel a desativar totalmente o suporte AVX-512 (forçosamente no final), eliminando assim seu próprio chip e desperdiçando uma preciosa área de matriz.
Perguntei a McAfee como a AMD se sentia sobre essa abordagem de projetos híbridos.
“O que vou dizer é o seguinte, acho que a maneira como pensamos sobre isso, a abordagem de dois núcleos de desempenho e eficiência muito diferentes com suporte ISA, IPC e capacidade muito diferentes não é necessariamente a abordagem correta”, respondeu McAfee. “Acho que isso exige muito mais complexidade em relação ao que pode ser executado onde e, como analisamos diferentes opções para o design principal, essa não é a abordagem que estamos adotando.
“Penso que, à medida que implementamos mais disso ao longo do tempo, o que você verá de nós é uma abordagem que leva em consideração as vantagens que diferentes direcionamentos principais podem oferecer, mas fazendo isso de uma maneira que é muito mais, do ponto de vista do aplicativo , muito mais homogêneo.”
Já sabemos que os núcleos de eficiência Zen 4C da AMD, que serão usados nos próximos chips de servidor Bergamo, suportarão as mesmas instruções, como AVX-512, dos núcleos de desempenho completos. No entanto, eles terão uma hierarquia de cache reduzida para reduzir o consumo de área de matriz. O objetivo de ambos os tipos de núcleo terem o mesmo IPC com os núcleos de desempenho e eficiência é importante. Em contraste, os núcleos de eficiência da Intel têm IPC mais baixo do que seus núcleos de desempenho (o que pode resultar em compensações em suas outras aspirações de e-core, como Sierra Forest).
“A ISA, antes de mais nada, manter isso consistente para onde uma carga de trabalho pode operar em qualquer núcleo, tem vantagens dramáticas”, disse McAfee. “E mesmo quando você olha para uma CPU de desktop Ryzen hoje, a maneira como o agendador do Windows é canalizado, a capacidade de identificar núcleos que são mais rápidos, mais lentos etc. CPU: Essa é uma técnica bem estabelecida que usamos há algum tempo. Isso leva, em nossa opinião, a usar um mecanismo onde a capacidade dos núcleos é mais consistente.
“Esta é uma maneira muito mais testada e comprovada de trazer vários tipos diferentes de segmentação principal para um design. Acho que a abordagem da Intel convida a muita complexidade na maneira como ela opera. E acho que nossa análise foi essa. Eu não pense que você nos verá seguindo esse caminho da mesma maneira que eles, se e quando se trata de um processador Ryzen.” concluiu McAfee.
Ao contrário dos comentários do Papermaster, a McAfee não se comprometeu sobre se ou quando o híbrido chegaria ao Ryzen, e não sabemos onde a AMD introduziria pela primeira vez uma arquitetura híbrida com o Ryzen, seja com uma APU monolítica ou um de seus modelos baseados em chiplet. No entanto, está claro que a AMD prevê um futuro híbrido que evitaria as compensações que vimos com as decisões de design da Intel por trás dos processadores Alder e Raptor Lake.
Algumas das próprias decisões da AMD podem ser informadas pela análise dos erros da Intel, ou pode ter sido apenas o senso comum de reutilização de IP com a arquitetura principal existente – é muito mais fácil ajustar uma microarquitetura do que embarcar em um design de folha em branco. Em ambos os casos, a capacidade de preservar o suporte para AVX-512 provavelmente daria à AMD a vantagem de desempenho em cargas de trabalho vetorizadas, desde que a Intel não faça o mesmo.
Por outro lado, pode-se argumentar que a abordagem da Intel de ter uma microarquitetura separada ajustada para operação de baixo consumo de energia é uma abordagem melhor, embora fosse combinada com suporte ISA uniforme em ambos os tipos de núcleos. Se a Intel corrigiu sua incompatibilidade de ISA com o Meteor Lake e manteve o suporte para AVX-512 em ambos os tipos de núcleo, também pode ser uma combinação potente.
Em ambos os casos, está claro que, embora a AMD seja a segunda no mercado com um design híbrido, ela terá uma abordagem muito diferente. Só o tempo dirá como as duas técnicas se comparam nos benchmarks.