Num esforço para reforçar a transparência, a Meta – empresa-mãe do Facebook, Instagram e Threads – está a implementar novas medidas nas suas plataformas. A empresa recentemente
fez um anúncio sobre seus planos de rotular conteúdo criado com inteligência artificial (IA) e seu objetivo é fornecer aos usuários um contexto mais claro sobre o que veem e compartilham nas redes sociais.
A empresa iniciará esta iniciativa rotulando imagens, afirmando que “Em um futuro próximo começaremos a adicionar rótulos às imagens criadas por ferramentas de IA no Facebook, Instagram e Threads”. Atualmente, está trabalhando em um sistema de detecção automatizado que pode identificar marcadores comumente usados para conteúdo gerado por IA, incluindo marcas d’água e metadados. O foco inicial do Meta será nas imagens, mas o objetivo de longo prazo é ser capaz de identificar também vídeos e áudio gerados por IA.
A Meta já aplica o rótulo “Imagined with AI” em imagens criadas com Meta AI e, trabalhando com outros parceiros da indústria, a empresa espera ter os novos recursos de detecção prontos nos próximos meses para conteúdo criado fora das próprias ferramentas da Meta. Até agora, a empresa determinou que é capaz de rotular imagens do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock.
No entanto, existe um obstáculo quando se trata de vídeo e áudio. Como as ferramentas que geram esse tipo de conteúdo ainda não adotaram amplamente os marcadores padronizados, é difícil para o Meta detectá-los.
Para resolver este problema, a Meta anunciou a sua intenção de lançar uma nova “ferramenta de divulgação e etiquetagem”, que permitirá aos utilizadores indicar manualmente quando o conteúdo de vídeo e áudio foi gerado usando IA. Os usuários serão obrigados a fazer esta divulgação para “vídeos fotorrealistas ou áudio com som realista” criados ou alterados digitalmente, e a Meta tem autoridade para aplicar penalidades àqueles que não cumprirem.
Meta está experimentando diferentes maneiras de a nova “ferramenta de divulgação e rótulo” aparecer em uma postagem
Há uma preocupação crescente sobre o potencial uso indevido de conteúdo gerado por IA, levando a uma pressão pela rotulagem. Deepfakes, por exemplo, têm o potencial de serem incrivelmente realistas, o que pode ser preocupante quando se trata de espalhar desinformação e manipular conteúdo – especialmente quando se trata de coisas como as próximas eleições nos EUA.
Embora não seja uma solução perfeita, especialmente quando depende do usuário para rotular vídeo e áudio, Meta espera que o sistema de detecção seja eficaz e não seja facilmente contornado. Resta saber se a abordagem da Meta será bem-sucedida na consecução dos seus objetivos, mas a iniciativa certamente desencadeia uma discussão importante sobre o uso responsável da IA nas redes sociais.