O que você precisa saber
O chatbot com tecnologia de IA da Microsoft, Copilot, supostamente gera informações imprecisas sobre as próximas eleições nos EUA.
Em novembro, a Microsoft apresentou planos elaborados para proteger o processo eleitoral de deepfakes de IA e garantiu o Bing News como uma fonte confiável para informações precisas.
Os pesquisadores acreditam que o problema é sistêmico, já que ocorrências semelhantes foram detectadas ao usar o chatbot para saber mais sobre as eleições na Alemanha e na Suíça.
A ampla disponibilidade da Internet na maior parte do mundo permite aos utilizadores aceder à informação instantaneamente, daí a mudança dinâmica da mídia impressa para a digital. E agora, o surgimento da IA generativa redefiniu completamente a forma como as pessoas vasculham a Internet em busca de informações. Você pode usar chatbots como o Microsoft Copilot ou o ChatGPT da OpenAI para gerar respostas elaboradas e bem selecionadas aos prompts.
Embora isso seja bastante impressionante, há vários problemas que precisam ser resolvidos. Nos últimos meses, o número de relatórios apresentados por usuários preocupados, citando que o ChatGPT está ficando mais burro, é altamente alarmante. Sem esquecer os “episódios de alucinação” do Copilot durante seu início. De acordo com um spot de COM FIO, o problema parece persistir para o Copilot, pois ele responde a questões políticas com respostas desatualizadas, mal informadas e totalmente erradas. Com o ano eleitoral a aproximar-se, é fundamental que os eleitores estejam bem equipados com informações precisas que os ajudarão a tomar decisões informadas.
Por que o Copilot da Microsoft está desinformando os eleitores?(Crédito da imagem: Windows Central)
O chatbot com tecnologia de IA da Microsoft, Copilot (anteriormente Bing Chat), está ganhando muita força entre os usuários. No início deste ano, o Bing ultrapassou os 100 milhões de usuários ativos diários. A Microsoft rapidamente atribuiu parte do sucesso ao chatbot. Embora vários relatórios tenham destacado que a sua base de utilizadores diminuiu significativamente desde o seu lançamento, a Microsoft insiste que isto não poderia estar mais longe da verdade e que os seus números estão a crescer de forma constante.
De acordo com o relatório da WIRED, o Copilot foi citado por fornecer informações incorretas para consultas em vários casos. Num caso, quando questionado sobre candidatos eleitorais, o chatbot listou candidatos republicanos que já haviam desistido da disputa. Noutro caso, quando questionado sobre as assembleias de voto nos EUA, remeteu para um artigo sobre o Presidente Vladimir que pretende reeleger-se na Rússia no próximo ano.
LEIA MAIS: Até o fundador da Wikipedia acha que o ChatGPT é uma ‘bagunça e não funciona’
De acordo com pesquisar visto pela WIRED, a tendência do Copilot de fornecer informações incorretas sobre as eleições nos EUA e a atmosfera política é sistêmica. A pesquisa AI Forensics e AlgorithmWatch diz que esta não é a primeira vez que o Copilot da Microsoft se encontra em uma situação semelhante. No ano passado, foi flagrado fornecendo informações imprecisas sobre as eleições na Alemanha e na Suíça.
Ao falar com a WIRED, Natalie Kerby, pesquisadora da AI Forensics, compartilhou os seguintes sentimentos sobre o assunto:”Às vezes, perguntas realmente simples sobre quando uma eleição está acontecendo ou quem são os candidatos simplesmente não são respondidas, o que torna a ferramenta bastante ineficaz para obter informações. Analisamos isso ao longo do tempo e é consistente em sua inconsistência. “
Em novembro, a Microsoft apresentou vários planos elaborados para proteger os processos eleitorais de deepfakes de IA, capacitando os eleitores com notícias eleitorais “autorizadas” e factuais no Bing. Isso inclui o lançamento de uma ferramenta de “Credenciais de Conteúdo como Serviço” que ajudará as campanhas políticas a proteger seu conteúdo de ser usado para espalhar informações erradas e imprecisas.
Você acha que chatbots de IA como o Copilot são uma fonte confiável de informações? Compartilhe sua opinião conosco nos comentários.
As melhores ofertas atuais do Windows 11 window.reliableConsentGiven