O sucesso da aplicação ChatGPT popularizou a inteligência artificial generativa, mas também levantou preocupações sobre a sua possível utilização em campanhas de desinformação destinadas a influenciar o voto dos eleitores. (Foto: 123RF)
A empresa californiana OpenAI, criadora do ChatGPT, anunciou o lançamento de ferramentas para combater a desinformação antes das dezenas de eleições previstas para este ano em vários países onde vive quase metade da população mundial.
O sucesso da aplicação ChatGPT popularizou a inteligência artificial generativa, mas também levantou preocupações sobre a sua possível utilização em campanhas de desinformação destinadas a influenciar o voto dos eleitores.
Embora dezenas de eleições estejam planeadas para este ano, especialmente nos Estados Unidos, na Índia e na Grã-Bretanha, a OpenAI sublinhou na segunda-feira o seu desejo de não permitir a utilização das suas ferramentas tecnológicas, incluindo o ChatGPT e o gerador de imagens DALL-E 3, para fins políticos. propósitos.
“Queremos ter certeza de que nossa tecnologia não será usada de uma forma que prejudique” o processo democrático, explica OpenAI em um blog.
“Ainda estamos avaliando a eficácia potencial de nossas ferramentas de persuasão individual. Até sabermos mais, não permitiremos que as pessoas criem aplicações para campanhas políticas ou ativistas”, acrescenta OpenAI.
A desinformação (informações falsas espalhadas intencionalmente) e a desinformação (informações falsas espalhadas involuntariamente) utilizando a IA podem “minar a legitimidade dos governos recém-eleitos”, afirma o Fórum Económico Mundial, que decorre até 19 de janeiro em Davos, na Suíça.
Os receios de desinformação eleitoral remontam a vários anos, mas o acesso do público em geral a poderosos geradores de texto e imagens alimentados por IA aumenta enormemente a ameaça, dizem os especialistas.
A OpenAI explicou na segunda-feira que estava trabalhando em ferramentas para determinar com segurança a procedência do texto gerado pelo ChatGPT e para dar aos usuários a capacidade de detectar se uma imagem foi criada usando DALL-E 3.
“No início deste ano, implementaremos as credenciais digitais da Coalition for Content Provenance and Authenticity”, explica a empresa.
Esta coligação, denominada C2PA, reunirá Microsoft, Sony, Adobe, Nikon e Canon.
Segundo a OpenAI, o ChatGPT, quando questionado sobre as eleições americanas, irá, por exemplo, direcionar os eleitores para sites reconhecidos.
“As lições aprendidas com este trabalho serão a base da nossa abordagem para outros países e regiões”, afirma a empresa, acrescentando que o DALL-E 3 contém “guarda-corpos” para evitar que os utilizadores gerem imagens de pessoas reais, especialmente candidatos.
As gigantes americanas Google e Meta já anunciaram iniciativas no ano passado para regulamentar o uso de IA em campanhas políticas.