O que você precisa saber
- OpenAI anunciou a disponibilidade de ajuste fino para GPT-3.5 Turbo.
- O recurso melhora o desempenho, permitindo que as organizações usem prompts mais curtos.
- O ajuste fino com GPT-3.5-Turbo tem a capacidade de lidar com tokens de 4K.
- O suporte para ajuste fino no GPT-4 é esperado ainda neste outono.
OpenAI anunciou recentemente a disponibilidade de uma nova atualização que permite aos desenvolvedores ajuste fino do GPT-3.5 Turbo. A empresa explicou que “esta atualização dá aos desenvolvedores a capacidade de personalizar modelos com melhor desempenho para seus casos de uso e executar esses modelos personalizados em escala”.
Com esse novo recurso implementado, a OpenAI promete que o GPT-3.5 Turbo será capaz de se igualar ao GPT-4, se não superar totalmente suas ofertas “em certas tarefas restritas”. A empresa também indicou que os recursos de ajuste fino deverão ser enviados para o GPT-4 ainda neste outono.
A empresa também observou que a API de ajuste fino manterá os dados dos clientes seguros, citando que as informações serão usadas estritamente apenas para fins de ajuste fino. A OpenAI destacou vários cenários de casos de uso de ajuste fino:
- Melhor dirigibilidade: o ajuste fino permite que as empresas façam com que o modelo siga melhor as instruções, como tornar os resultados concisos ou sempre responder em um determinado idioma. Por exemplo, os desenvolvedores podem usar o ajuste fino para garantir que o modelo sempre responda em alemão quando solicitado a usar esse idioma.
- Formatação de saída confiável: O ajuste fino melhora a capacidade do modelo de formatar respostas de forma consistente – um aspecto crucial para aplicativos que exigem um formato de resposta específico, como conclusão de código ou composição de chamadas de API. Um desenvolvedor pode usar o ajuste fino para converter de maneira mais confiável os prompts do usuário em snippets JSON de alta qualidade que podem ser usados com seus próprios sistemas.
- Tom personalizado: O ajuste fino é uma ótima maneira de aprimorar a sensação qualitativa do resultado do modelo, como seu tom, para que ele se adapte melhor à voz das marcas das empresas. Uma empresa com uma voz de marca reconhecível pode usar o ajuste fino para que o modelo seja mais consistente com seu tom.
Além de melhorar o desempenho, o novo recurso permitirá que as organizações usem prompts mais curtos, mas ainda mantenham o mesmo desempenho. De acordo com a OpenAI, “os primeiros testadores reduziram o tamanho do prompt em até 90% ajustando as instruções no próprio modelo, acelerando cada chamada de API e reduzindo custos”.
Além disso, o ajuste fino com GPT-3.5-Turbo pode lidar com tokens 4K, o que se traduz no dobro do tamanho dos modelos anteriores ajustados. A OpenAI recomenda combinar o ajuste fino com técnicas como engenharia imediata, recuperação de informações ou chamada de função para obter melhores resultados.
O custo do ajuste fino é o seguinte:
- Treinamento: US$ 0,008/1 mil tokens
- Entrada de uso: US$ 0,012/1 mil tokens
- Resultado de uso: US$ 0,016/1 mil tokens
