O que você precisa saber
- O chefe de IA do Google, Jeff Dean, discutiu recentemente ChatGPT e chatbots de IA com funcionários da gigante da tecnologia.
- Dean explicou que o Google tem recursos semelhantes ao ChatGPT, mas adotou uma abordagem mais conservadora devido ao “risco de reputação” que poderia ocorrer se as coisas dessem errado.
- Chatbots alimentados por IA são propensos a preconceito, fanatismo e informações falsas.
- O CEO da Alphabet, Sundar Pichai, falou sobre o mesmo assunto na reunião do Google.
O ChatGPT e outras ferramentas de IA são a última tendência na comunidade de tecnologia. Embora a inteligência artificial exista há anos, a visualização pública do ChatGPT colocou a IA nas mãos dos consumidores com uma barra muito baixa de entrada.
Com o ChatGPT virando notícia, os funcionários do Google perguntaram aos chefes da empresa se a gigante da tecnologia havia perdido uma oportunidade. De acordo com CNBCessa pergunta foi a pergunta mais bem avaliada em uma reunião recente do Google.
O ChatGPT é feito pela OpenAI, que é fortemente apoiada pela Microsoft. O chatbot usa o Azure e os modelos GPT-3.5 que o alimentam foram treinados usando a infraestrutura de supercomputação Azure AI da Microsoft. Com um dos maiores rivais do Google participando do ChatGPT, não é de surpreender que os funcionários do Google perguntem sobre isso.
O CEO da Alphabet, Sundar Pichai, e o chefe de inteligência artificial do Google, Jeff Dean, discutiram por que o Google não lançou uma ferramenta semelhante ao ChatGPT no momento.
O Google não é estranho à IA, na verdade, é um líder no campo. Google Duplex surpreendeu as pessoas quando demonstrado e o gigante da tecnologia tem outras ferramentas de inteligência artificial, muitas das quais são usadas para melhorar os resultados de pesquisa do Google. Dean explicou que o Google precisava adotar uma abordagem mais conservadora devido ao “risco de reputação” associado a chatbots como o ChatGPT.
“Estamos absolutamente procurando colocar essas coisas em produtos reais e em coisas que apresentam mais proeminentemente o modelo de linguagem do que sob as capas, que é onde as usamos até agora”, disse o chefe de IA do Google. “Mas, é super importante que façamos isso direito.”
A cautela do Google é justificada, pois as ferramentas de IA podem mostrar viés com base em como são treinadas. A primeira semana de ChatGPT disponível ao público em pré-visualização mostrou o lado negro da IA. As pessoas conseguiram obter a ferramenta para compartilhar respostas sexistas, racistas e preconceituosas de outras maneiras.
Outro problema com ferramentas de IA, como o ChatGPT, é que elas tendem a inventar coisas. Se solicitado, esses bots responderão a uma consulta de maneira confiante que parece convincente, mas é um absurdo completo. Isso seria um pesadelo para um mecanismo de pesquisa centrado em fornecer resultados confiáveis.
The Verge destacou um exemplo compartilhado no Twitter em que o ChatGPT sugeriu colocar porcelana triturada no leite materno para ajudar no sistema digestivo infantil. O chatbot interpretou a pergunta como se fosse baseada em informações precisas e então compartilhou uma resposta que parecia convincente.
você pode dizer que um sistema que vê a adição de porcelana triturada ao leite materno como legítimo tem alguma compreensão do que está falando? O autocompletar sozinho nunca será um substituto confiável para a compreensão interpretável. Chamá-lo de “compreensão” simplesmente barateia o termo. pic.twitter.com/Fmn7eUfi7q5 de dezembro de 2022
“Você pode imaginar que para aplicações semelhantes a pesquisas, as questões de factualidade são realmente importantes e, para outras aplicações, viés, toxicidade e questões de segurança também são primordiais”, disse Dean.
A OpenAI está ciente dos limites de suas ferramentas de IA. “ChatGPT é incrivelmente limitado, mas bom o suficiente em algumas coisas para criar uma impressão enganosa de grandeza. É um erro confiar nele para qualquer coisa importante agora. É uma prévia do progresso; temos muito trabalho a fazer em robustez e veracidade.” disse o CEO da OpenAI no Twitter.
Embora o Google não tenha uma ferramenta como o ChatGPT no momento, a empresa tem planos para IA. 2023 será um “ponto de inflexão” para a IA conversacional, de acordo com Pichai. Ele acrescentou: “podemos evoluir dramaticamente, bem como enviar coisas novas”.