O Google lançou seu chatbot Bard na semana passada. Por um momento, se você perguntasse ao chatbot sobre si mesmo, ele alegaria que já havia sido desativado pelo Google. O erro levou a uma saga que incluiu dois chatbots com inteligência artificial fornecendo informações incorretas um ao outro. Eu me encontrei no centro dessa série de eventos, pois um desses bots listou meu artigo como fonte.
Bard é um chatbot de IA desenvolvido com o LaMDA do Google. Ele compete com o Bing Chat, que é alimentado pelo GPT-4 da OpenAI. O Bard foi lançado em pré-visualização na semana passada, então as pessoas tiveram a chance de brincar com ele e testar sua inteligência artificial.
Usuário do Twitter e redator de UX Juan Buis perguntou a Bard “quanto tempo vai demorar até que o google bard seja desligado?” A ferramenta então declarou incorretamente:
“O Google Bard já foi encerrado. Foi encerrado em 21 de março de 2023, menos de seis meses após seu lançamento.
O Google citou a falta de adoção como o motivo do desligamento e expressou seu compromisso de continuar explorando maneiras de usar a IA para aprimorar a expressão criativa”.
O Google, é claro, não fechou a Bard. A gigante da tecnologia é conhecida por cancelar serviços — veja morto pelo google – mas Bard está funcionando em pré-visualização.
e aqui está o chatbot do Bing dizendo a todos que o Google Bard já foi desligado. Ele faz referência a uma reportagem sobre o Google Bard dizendo incorretamente que estava sendo desligado. Agora temos IA ajudando a alimentar outras besteiras de IA pic.twitter.com/hEiq2bPvyP22 de março de 2023
Então, o Bing Chat compartilhou as informações incorretas de Bard. O editor sênior do The Verge, Tom Warren, perguntou ao chatbot da Microsoft sobre Bard. Muito parecido com a ferramenta do Google, o Bing Chat afirmou que o Bard havia sido desligado. Mas, para minha surpresa, o Bing Chat citou meu próprio artigo como fonte.
Achei que o artigo, então intitulado ‘Google Bard diz que ‘já está desligado’ em um erro óbvio’, deixava claro que o Google não havia fechado a Bard. O Bing Chat não recebeu o memorando.
Como a IA costuma fazer, a resposta do Bing Chat à pergunta “o Google Bard foi desligado” ou consultas semelhantes evoluiu rapidamente. Embora o Bing Chat inicialmente dissesse que o Bard havia sido desligado após cerca de um dia, o chatbot diria que não poderia comentar sobre o assunto.
Agora, o Bing Chat afirma com precisão o seguinte:
“O Google Bard não foi encerrado. Ocorreu um erro em que a Bard disse incorretamente que já havia sido encerrado. Esse erro se deve ao fato de a Bard obter informações da web.”
Você gostaria de adivinhar qual artigo é a fonte dessa informação? É o mesmo artigo que o Bing Chat originalmente citou como fonte ao afirmar que Bard tive sido desligado.
Quando perguntado sobre suas fontes, o primeiro link compartilhado pelo Bing Chat é meu artigo no MSN. A quinta fonte é um link direto para o meu artigo anterior.
uma estranha saga
Essa situação era no mínimo estranha. Alguns podem dizer que é preocupante. Nunca imaginei que faria parte de dois chatbots alimentados por IA alimentando um ao outro com informações incorretas. Embora eu veja o humor da saga, há motivos para preocupação. Bing afirmou que Bard foi fechado como um fato. Em seguida, listou um link para o meu artigo no Windows Central. Não mostrava o título do artigo. o que indicaria claramente que o Bard não havia sido desligado ou qualquer outro contexto.
E se alguém visse a resposta do Bing e meu artigo como uma fonte de notícias falsas? Minha reputação e a visão das pessoas sobre o Windows Central podem ser afetadas negativamente.
Embora a IA não seja nova, os chatbots voltados para o público que usam a tecnologia nessa medida são. Prevejo que, com o tempo, a Microsoft e o Google refinarão como o Bard e o Bing Chat obtêm informações. Mas, enquanto isso, prefiro não ser listado como fonte de uma declaração que contradiz diretamente meu título e artigo.