O que você precisa saber
- O sucesso da Microsoft e da OpenAI levou o Google a competir no espaço da IA em um cronograma acelerado.
- O Google lançou recentemente seu próprio chatbot AI, Bard, em pré-visualização.
- Funcionários alertaram o Google sobre Bard ser “mais do que inútil” e dar conselhos que podem “resultar em ferimentos graves ou morte”, de acordo com um relatório da Bloomberg.
O chatbot Bard do Google está mais uma vez nas manchetes por um motivo que provavelmente não agrada a gigante da tecnologia. De acordo com um relatório de Bloomberg, os funcionários do Google alertaram a gigante da tecnologia de que Bard era um “mentiroso patológico”. Mais do que apenas compartilhar informações falsas, que podem ser relativamente inofensivas, Bard supostamente deu conselhos que “provavelmente resultariam em ferimentos graves ou morte” para atividades como mergulho e pouso de avião.
Em fevereiro de 2023, um funcionário do Google teria enviado uma mensagem interna que dizia: “Bard é pior do que inútil: por favor, não inicie.” Quase 7.000 pessoas teriam visto essa mensagem, muitas das quais concordaram com seu sentimento.
Jen Gennai, líder de governança de IA do Google, rejeitou uma avaliação de risco de sua equipe em março, de acordo com a Bloomberg. Bard foi lançado ao público em pré-visualização logo depois.
De acordo com o relatório, a decisão de Gennai foi tomada em conjunto com um grupo de líderes seniores que “determinaram que era apropriado avançar para um lançamento experimental limitado com pré-treinamento contínuo, grades de proteção aprimoradas e isenções de responsabilidade apropriadas”.
O ritmo acelerado do Google na corrida da IA se deve, pelo menos em parte, ao lançamento do ChatGPT pela OpenAI e à integração da IA pela Microsoft em serviços como o Bing. Em dezembro passado, a liderança sênior do Google supostamente enviou um “código vermelho” e acelerou seus esforços em inteligência artificial. Essa mudança de curso exigiu que o Google fizesse algumas concessões quando se tratava de ética.
Gennai teria dito que, quando se trata de “justiça”, o Google “pode estar em 80, 85% ou algo assim”. Esses números referem-se a um limite que os produtos do Google devem atingir antes de serem lançados. Alguns produtos, como os relacionados à segurança infantil, precisam atingir um limite de 100%.
O Google disse o seguinte à Bloomberg sobre Bard:
“Continuamos a investir nas equipes que trabalham na aplicação de nossos Princípios de IA à nossa tecnologia.”
