A Nvidia está vendendo uma grande quantidade de suas GPUs H100 AI, e cada uma consome até 700 W de energia, o que é mais do que a média das famílias americanas. Com o grande volume de vendas previsto para cargas de trabalho de IA, estima-se que o consumo agregado de energia dessas GPUs seja equivalente ao de uma grande cidade americana. Algumas estimativas também revelam que as GPUs consumirão mais energia do que em alguns pequenos países europeus.
O consumo total de energia dos data centers usados para aplicações de IA hoje é comparável ao do país de Chipre, estimou a empresa francesa Schneider Electric em outubro. Mas e quanto ao consumo de energia dos processadores AI mais populares – H100 e A100 da Nvidia?
Paul Churnock, o engenheiro elétrico principal de governança técnica e estratégia de datacenter da Microsoft, acredita que as GPUs H100 da Nvidia consumirão mais energia do que todas as residências em Phoenix, Arizona, até o final de 2024, quando milhões dessas GPUs forem implantadas. No entanto, o consumo total de energia será menor do que o de cidades maiores, como Houston, Texas.
“Esta é a GPU H100 da Nvidia; tem um consumo máximo de energia de 700 W”, escreveu Churnock em um post no LinkedIn. “Com uma utilização anual de 61%, é equivalente ao consumo de energia do ocupante doméstico médio americano (com base em 2,51 pessoas/família). As vendas estimadas de GPUs H100 da Nvidia são de 1,5 a 2 milhões de GPUs H100 em 2024. Em comparação com o consumo de energia residencial por cidade, os chips H100 da Nvidia seriam classificados como o quinto maior, logo atrás de Houston, Texas, e à frente de Phoenix, Arizona.”
Na verdade, com 61% de utilização anual, uma GPU H100 consumiria aproximadamente 3.740 quilowatts-hora (kWh) de eletricidade anualmente. Supondo que a Nvidia venda 1,5 milhão de GPUs H100 em 2023 e dois milhões de GPUs H100 em 2024, haverá 3,5 milhões desses processadores implantados até o final de 2024. No total, eles consumirão impressionantes 13.091.820.000 quilowatts-hora (kWh) de eletricidade por ano, ou 13.091,82 GWh.
Para contextualizar o número, aproximadamente 13.092 GWh é o consumo anual de energia de alguns países, como a Geórgia, a Lituânia ou a Guatemala. Embora esta quantidade de consumo de energia pareça bastante chocante, deve-se notar que a eficiência da IA e da GPU HPC está aumentando. Portanto, embora o B100 baseado em Blackwell da Nvidia provavelmente ultrapasse o consumo de energia do H100, ele oferecerá maior desempenho e, portanto, realizará mais trabalho para cada unidade de energia consumida.