O que você precisa saber
- Um novo relatório afirma que o ChatGPT custa cerca de US$ 700.000 por dia para ser executado.
- Há rumores de que a Microsoft está desenvolvendo seus próprios chips de IA.
- O próprio chip da Microsoft poderia reduzir os custos em um terço ou mais.
A IA está na moda atualmente, com milhões de usuários utilizando o ChatGPT diariamente. Com uma demanda tão alta, é não é surpresa saber que o ChatGPT custa muito dinheiro para ser executado. Analista-chefe na empresa de pesquisa SemianáliseDylan Patel, estima que o ChatGPT atualmente custe à OpenAI $ 700.000 por dia, ou 36 centavos por consulta.
Isso é muito dinheiro, e não é ajudado pelo fato de que as empresas de IA, incluindo a Microsoft, precisam comprar GPUs de empresas como a NVIDIA em grandes encomendas para ajudar a manter seus serviços de IA à medida que a demanda continua a aumentar. Analistas do setor estimam que a OpenAI pode precisar encomendar 30.000 GPUs NVIDIA adicionais este ano para ajudar em seus esforços comerciais.
Construir seu próprio chip de IA pode ajudar a diminuir os custos, e parece ser exatamente isso que a Microsoft está fazendo. O próprio chip AI da Microsoft tem o codinome Athena e já está em uma posição boa o suficiente para ser testado com grupos selecionados internamente na Microsoft. A empresa planeja distribuir seu próprio chip de IA entre seus serviços de IA do Azure no próximo ano.
Especialistas da indústria dizem que não esperam que a Microsoft substitua a NVIDIA, mas sim diminuir sua dependência deles. Como o ChatGPT é executado nos serviços do Azure, a redução de custos ajudará o OpenAI a executar o ChatGPT por um preço mais baixo, bem como outros serviços de IA que escolhem o Azure como host.
A Microsoft tem feito um esforço agressivo de IA nos últimos meses, depois que o Google se atrapalhou com o lançamento de seu próprio produto de IA na forma de Bard. Recentemente, relatórios afirmaram que alguns funcionários do Google não confiam em Bard, sentindo que o Google lançou o produto no mercado em resposta aos esforços do Bing AI da Microsoft.