“A marca d’água nos permite adicionar informações para distinguir entre o real e o falso”, diz Pierre Fernandez, estudante de doutorado do Instituto Nacional de Pesquisa em Ciências e Tecnologias Digitais e especialista em marcas d’água de IA. (Foto: 123RF)
Como identificar melhor o conteúdo criado por inteligência artificial (IA)? Vinte gigantes digitais comprometeram-se na sexta-feira, à margem da importante conferência de segurança de Munique (MSC), no desenvolvimento de ferramentas específicas, como marcas de água.
O que é isso?
A IA generativa permite criar, mediante simples solicitação em linguagem cotidiana, textos, imagens, arquivos de som ou vídeos capazes de fazer passar como autênticos documentos gerados do zero.
“A marca d’água digital consiste na inserção de uma mensagem invisível a olho nu (nestes documentos) que pode então ser detectada por uma máquina”, explica Alexis Leautier, engenheiro de IA da CNIL, a polícia digital francesa. Esta marca permite-nos então “saber se o conteúdo é artificial e ter conhecimento da sua origem”.
Se anteriormente defeitos ou inconsistências na imagem permitiam identificar conteúdos gerados por IA, agora é cada vez mais difícil identificar imagens modificadas.
“A marca d’água nos permite adicionar informações para distinguir entre o real e o falso”, diz Pierre Fernandez, estudante de doutorado do Instituto Nacional de Pesquisa em Ciências e Tecnologias Digitais e especialista em marcas d’água de IA.
Como funciona?
No caso de uma imagem, a marca d’água modifica alguns pixels, unidade básica de uma imagem digital. “São modificações muito pequenas, uma mudança de cor que não representa nada”, explica Leautier. “Mas analisado por um computador, seremos capazes de encontrar esta pequena nuance para reconstruir a mensagem geral que contém.”
A tatuagem pode ser aplicada no momento da geração da imagem ou posteriormente. Para Alexis Leautier, “o mais seguro seria exigir que o dono da modelo gerasse ele mesmo a tatuagem”, o que nos permite voltar diretamente à IA usada para criar a imagem.
Quais IAs são afetadas?
O Google vem experimentando o SynthID há vários meses, que permite adicionar marcas d’água digitais às imagens geradas pelo Google Imagen.
Se a Meta já implementou estes rótulos em imagens criadas a partir da sua ferramenta Meta AI lançada em dezembro, a gigante americana afirma que quer identificar “nos próximos meses” qualquer imagem gerada por IA que seja publicada nas suas redes sociais.
Microsoft, Adobe e outros grandes players de tecnologia fundaram a Coalition for Content Provenance and Authenticity (C2PA), uma iniciativa para desenvolver padrões e soluções tecnológicas para verificar a autenticidade do conteúdo online.
No início de 2024, a start-up californiana OpenAI juntou-se ao C2PA, dando aos usuários a capacidade de detectar se uma imagem foi criada por seu ChatGPT ou pelo gerador de imagens DALL-E 3. “São apenas informações relacionadas à imagem e não uma tatuagem real”, diz Fernández.
Quais são os problemas?
A ascensão da IA generativa suscitou receios de perturbações políticas através da desinformação ou da desinformação no período que antecedeu várias eleições importantes, especialmente nos Estados Unidos.
Um vídeo gerado por IA foi recentemente divulgado pelo partido de Imran Khan, no qual o antigo primeiro-ministro paquistanês, atualmente preso, é mostrado a reivindicar vitória nas eleições legislativas.
“É um risco preocupante”, analisa Leautier, para quem a marca d’água digital poderia permitir que as redes sociais “desempenhassem um papel na prevenção disso do ponto de vista técnico”.
Para além destas votações, o desenvolvimento de programas generativos de IA é acompanhado pela produção de um fluxo de conteúdos degradantes, de acordo com muitos especialistas e reguladores, tais como imagens pornográficas falsas (“deepfakes”) dirigidas tanto a mulheres famosas como anónimas.
Quais são os seus limites?
“As ferramentas existentes, como o SynthID, geralmente detectam apenas tatuagens que eles próprios geraram”, observa Leautier. Edições ou compressões da imagem também podem prejudicar a eficácia da detecção de marcadores.
“A tatuagem oferece uma proteção bastante forte, mas nunca poderemos impedir que indivíduos muito determinados a removam”, resume Fernandez. “Mas requer habilidades técnicas que nem todos possuem.”