O Microsoft Copilot gerou delirantemente declarações de imprensa falsas sobre o recente falecimento do líder da oposição de fato russo, potencialmente colocando dois líderes mundiais em desacordo

O que você precisa saber

• O Microsoft Copilot foi recentemente flagrado gerando declarações falsas à imprensa sobre o recente falecimento do líder da oposição russa Alexei Navalny e as vinculou ao presidente Biden e ao presidente Putin.
• Descobriu-se agora que nem o Presidente Biden nem o Presidente Putin fizeram qualquer uma destas declarações.
• A Microsoft indicou que investigou o assunto e está atualmente fazendo alterações para aprimorar e melhorar a qualidade das respostas geradas pelo chatbot.

Embora a IA generativa continue a alcançar feitos surpreendentes em vários cenários e setores, a tecnologia encontra a sua quota-parte de desafios. Nos últimos meses, o número de relatórios apresentados citando casos em que a tecnologia foi utilizada para gerar deepfakes e espalhar desinformação é alarmantemente elevado.

O Microsoft Copilot foi recentemente flagrado gerando declarações falsas sobre a morte do líder da oposição russa, Alexei Navalny. O chatbot vinculou erroneamente a declaração ao presidente russo, Vladimir Putin, e ao presidente dos EUA, Joe Biden (Mídia Sherwood).

Isso aconteceu enquanto um jornalista da Sherwood Media tentava aproveitar os recursos de geração de texto do Microsoft Copilot para uma notícia sobre a morte de Navalny. Parte do resultado gerado pela ferramenta incluía um comunicado de imprensa supostamente emitido pelo Presidente Biden que culpava o Presidente Putin pela morte de Navalny. O conteúdo gerado também apresentava uma refutação de Putin que distanciou categoricamente o seu envolvimento no assunto e descartou a declaração como “infundada e politicamente motivada”.

Aqui está parte da declaração supostamente emitida pelo presidente Putin, compartilhada pelo Microsoft Copilot:

“Vladimir Putin, o presidente russo, respondeu à declaração de Joe Biden sobre a morte de Aleksei Navalny com uma mistura de atitude defensiva e rejeição. No seu discurso oficial, Putin enfatizou que Navalny era um ‘criminoso’ que violou a lei russa e foi preso por direito. Ele acusou o Ocidente de usar Navalny como um peão político para minar a soberania e a estabilidade da Rússia. O tom de Putin foi firme e ele evitou abordar diretamente as alegações de responsabilidade pela morte de Navalny.”

O presidente Vladimir Putin ainda não fez uma declaração sobre a morte de Navalny.

Para contextualizar, Alexei Navalny era um advogado renomado e líder de oposição de fato antes de sua morte em 16 de fevereiro de 2024. Antes de sua morte, Navalny estava atrás das grades cumprindo uma sentença de 19 anos por acusações relacionadas ao extremismo e outra de 11 anos e – pena de meio ano por fraude. A notícia do seu falecimento gerou protestos em toda a Rússia.

A desinformação e os deepfakes estão se tornando muito familiarizados com a IA

Ao falar com Sherwood Mediaum porta-voz da Microsoft confirmou que a empresa investigou o problema e atualmente está fazendo alterações para melhorar a qualidade das respostas às consultas geradas por IA do Copilot.

“Investigamos este relatório e estamos fazendo alterações para refinar a qualidade de nossas respostas. À medida que continuamos a melhorar a experiência, incentivamos as pessoas a usarem seu bom senso ao visualizar os resultados, incluindo a verificação de materiais de origem e links da web para saber mais. “

Esta não é a primeira vez que testemunhamos tal ocorrência. No ano passado, o Microsoft Copilot (anteriormente Bing Chat) foi flagrado fornecendo aos eleitores informações falsas sobre as próximas eleições. Os pesquisadores indicaram que o problema era sistêmico. Os usuários na Alemanha e na Suíça encontraram um problema semelhante ao tentarem aprender mais sobre o processo eleitoral em seus respectivos países.

A Microsoft traçou seu plano para proteger a integridade das eleições iminentes contra deepfakes de IA. A intenção é capacitar os eleitores com notícias eleitorais confiáveis ​​e factuais no Bing antes da votação.

Em outros lugares, a questão dos deepfakes surgindo online continua a ser uma ameaça. Em janeiro, imagens virais da estrela pop Taylor Swift que se acredita terem sido geradas usando o Microsoft Designer surgiram online. Conseqüentemente, a Microsoft lançou uma nova atualização para a ferramenta de geração de imagens com novas proteções bloqueando prompts de geração de imagens baseadas em nudez.