(Foto: 123RF)
A OpenAI, editora do ChatGPT, removeu um agente conversacional, ou “chatbot”, criado para se passar por um candidato nas eleições presidenciais dos EUA online, impondo assim limites à utilização das suas ferramentas de inteligência artificial (IA) generativas por campanhas políticas.
Um grupo de apoio a Dean Phillips, membro do Congresso dos EUA, pediu a uma start-up com sede em Miami que criasse um chatbot que permitisse aos utilizadores conversar com este candidato pouco conhecido.
“Recentemente removemos uma conta de desenvolvedor que violou conscientemente as regras de nossa API (interface de programação de aplicativos, nota do editor) e de nossa plataforma, que proíbem campanhas políticas ou o roubo da identidade de uma pessoa sem seu consentimento”, disse OpenAI ao Washington Post no sábado. , que foi o primeiro jornal a divulgar esta informação.
A ascensão da IA generativa levantou preocupações de que as pessoas poderiam usar o ChatGPT e outras ferramentas semelhantes para semear o caos político, inclusive através da desinformação ou de clones de IA, no período que antecedeu vários eventos eleitorais importantes que terão lugar este ano em todo o mundo.
Como líder nesta tecnologia, a OpenAI, que é largamente financiada pela Microsoft, está a receber atenção especial.
A empresa com sede na Califórnia disse na semana passada que forneceria aos usuários recursos para reduzir o risco de danos.
O robô conversacional denominado “Dean-bot” pretendia servir como ferramenta de informação como parte da campanha para as primárias do Partido Democrata. A OpenAI foi rápida em removê-lo depois que um artigo no Washington Post postou um link permitindo que ele fosse testado.
O grupo político por trás do chatbot, We Deserve Better, é co-liderado por um ex-colaborador de Sam Altman, chefe da OpenAI, e recebeu financiamento de investidores do Vale do Silício, segundo o diário americano.
Após a publicação do relatório, a Delphi, startup contratada para criar o robô, foi excluída da plataforma da OpenAI.
Delphi aproveita os modelos de IA da OpenAI para criar “chatbots” capazes de imitar as vozes de personalidades como influenciadores ou celebridades.
Após a polêmica, a empresa declarou que a partir de agora iria “proibir todo uso de [sa] plataforma por figuras ou organizações políticas.
“Acreditamos erroneamente que seria aceitável, de acordo com os regulamentos da OpenAI, que um comitê de ação política que apoia Dean Phillips criasse um clone dele com nossas ferramentas”, disse Delphi no domingo no X. “Pedimos desculpas à OpenAI e merecemos melhor por nosso erro”, acrescentou a start-up.