Os drivers mais recentes da Intel para Arc Alchemist apresentam um aumento de desempenho de 2,7X no gerador de imagens AI Stable Diffusion. Embora parte desse impulso tenha ocorrido graças à boa e velha otimização, pela qual a equipe de drivers da Intel é bem conhecida, a maior parte da melhoria foi graças ao Microsoft Olive. O conjunto de ferramentas de otimização de aprendizado de máquina da Microsoft dobrou o desempenho da GPU Arc em Stable Diffusion por conta própria, e não é a primeira vez que vimos isso acontecer em drivers de GPU.
O Microsoft Olive é um software que basicamente pega um modelo de IA ou aprendizado de máquina e, em seguida, encontra todas as maneiras pelas quais diferentes hardwares podem acelerá-lo. Embora isso não seja impossível sem o Olive, o conjunto de ferramentas focado em IA torna tudo muito mais fácil. Há uma grande quantidade de hardware de IA no mercado feito por diferentes empresas, e ser capaz de pular uma grande etapa no processo de otimização é realmente útil.
As GPUs Intel Arc Alchemist são equipadas com núcleos Xe Matrix Extensions (ou XMX), que são essencialmente a versão da Intel dos núcleos Tensor da Nvidia. Esses núcleos podem acelerar cargas de trabalho de IA como Stable Diffusion. No entanto, os drivers anteriores não aproveitaram totalmente as vantagens dos núcleos XMX, e o Olive por si só aumentou o desempenho em duas vezes quando aplicado ao software existente da Intel.
O aumento de desempenho restante foi alcançado pela Intel otimizando o modelo criado pelo Microsoft Olive, e o resultado final foi um aumento de 2,7X na Difusão Estável.
Esta não é a primeira vez que vimos um ganho de desempenho tão grande em um aplicativo de IA, e nem mesmo a primeira vez que vimos isso acontecer especificamente com uma GPU e o Microsoft Olive. A Nvidia usou exatamente o mesmo conjunto de ferramentas para otimizar seus drivers para Stable Diffusion e também obteve o dobro do desempenho.
A AMD não possui hardware de IA dedicado em suas GPUs, mas as placas gráficas RDNA 3 mais recentes são notavelmente melhores que as GPUs RDNA 2 em coisas como Difusão Estável. Embora a AMD não tenha usado o Microsoft Olive para otimizar seus drivers, até onde sabemos, a empresa está fornecendo drivers mais otimizados para cargas de trabalho de IA. Talvez a AMD queira dar uma olhada no Olive a seguir para ver se ela pode fazer alguma coisa pelas placas da série RX 7000.