O que você precisa saber
- A Microsoft publicou um artigo gerado por IA destacando as principais atrações turísticas em Ottawa, Canadá, no Microsoft Start.
- O artigo foi retirado do ar depois de recomendar o Ottawa Food Bank entre os três principais lugares para se visitar.
- A empresa está atualmente investigando o assunto para determinar como a peça passou pelo processo de revisão e foi publicada.
Embora a IA generativa tenha ganhado enorme popularidade este ano, as pessoas ainda têm reservas em relação à ferramenta. Preocupações com privacidade e segurança estão no topo da lista, mas a questão da precisão ainda paira entre muitos usuários.
E, ao que parece, continua sendo um grande problema. A Microsoft postou recentemente um artigo no Microsoft Start (MSN) intitulado “Indo para Ottawa? Aqui está o que você não deve perder!” E embora você espere que esta lista esteja repleta de lugares legais e divertidos que você pode visitar enquanto estiver em Ottawa, Canadá, a terceira opção da lista foi desanimadora.
Isso porque recomendou o Ottawa Food Bank como uma das principais atrações turísticas com a seguinte legenda: “As pessoas que vêm até nós têm empregos e famílias para sustentar, além de despesas para pagar. A vida já é difícil o suficiente. Considere entrar em com o estômago vazio”, como observado por Paris Marx em X (antigo Twitter).
A Microsoft está realmente saindo do parque com suas histórias de viagens geradas por IA! Se você visitar Ottawa, ele recomenda o Ottawa Food Bank e oferece uma ótima dica para os turistas: “Considere entrar com o estômago vazio”. https://t.co/7bvGemDad217 de agosto de 2023
Paralelamente, a recomendação bizarra foi o Winterlude Festival, o National War Memorial, bem como a consideração de ir a um jogo de hóquei do Ottawa Senators. No entanto, ao clicar no botão link para o artigo original no Microsoft Start, você receberá uma mensagem indicando que a página não existe mais. Uma indicação clara de que a Microsoft retirou o artigo. The Verge desde então carregou o artigo completo no Imgurpara que você também possa conferir a partir daí.
“Este artigo foi removido e estamos investigando como ele passou por nosso processo de revisão”, disse Jeff Jones, diretor sênior da Microsoft. ao falar com The Verge sobre o assunto.
Em estudos e investigações recentes realizados por pesquisadores, os chatbots com inteligência artificial estão aparentemente piorando. Por exemplo, o ChatGPT está ficando mais burro, apesar das inúmeras atualizações e melhorias. A OpenAI, que fabrica o ChatGPT, também pode estar à beira da falência.
Você deve se lembrar que a Microsoft demitiu vários jornalistas do MSN em 2020 durante a transição para conteúdo gerado por IA, diante da pandemia de COVID-19.
Samantha Koziara, gerente de comunicação do Ottawa Food Bank compartilhou os seguintes sentimentos com The Verge referente ao artigo:
A linha do ‘estômago vazio’ é claramente insensível e não passou por um editor (humano). Pelo que sei, nunca vimos algo assim antes – mas, à medida que a IA se torna cada vez mais popular, não duvido que um número crescente de referências imprecisas / inadequadas seja feito em listas como esta. Isso simplesmente destaca a importância de pesquisadores, escritores e editores… da variedade humana.
A IA precisa de mais ajustes
Evidentemente, ainda há muito trabalho a ser feito na frente da IA se as organizações e empresas quiserem reduzir o quadro de funcionários e substituí-los por Inteligência Artificial.
A tecnologia ainda está longe da perfeição, com casos de chatbots fornecendo informações erradas ou sendo abertamente rudes com os usuários. Além disso, a FTC lançou uma investigação sobre o ChatGPT para determinar se a OpenAI violou alguma lei de proteção ao consumidor.
Embora a FTC não possa fazer regras que governem como as ferramentas de IA são usadas, ela ainda pode fazer recomendações que teriam um grande impacto. Como tal, é provável que a Microsoft também receba, devido ao seu recente interesse e investimento em IA.