A inteligência artificial está em ascensão e as plataformas de conteúdo enfrentam desafios para lidar com seus possíveis impactos. A Meta, por exemplo, já começou a rotular conteúdos gerados por IA no Facebook e Instagram. Agora, o TikTok, concorrente da Meta, também está adotando essa prática.
O TikTok está implementando a rotulagem automática para conteúdo gerado por IA de outras plataformas. Isso significa que se um criador compartilhar conteúdo no TikTok criado por serviços como o DALL·E da OpenAI, ele será marcado automaticamente como “gerado por IA”. Esse rótulo serve para informar os espectadores sobre a origem do conteúdo.
Para realizar isso, o TikTok está utilizando as Credenciais de Conteúdo, uma tecnologia desenvolvida pela Coalition for Content Provenance and Authenticity (C2PA), cofundada pela Microsoft e Adobe. As credenciais de conteúdo adicionam metadados detalhados ao conteúdo, permitindo que o TikTok identifique e rotule rapidamente o conteúdo gerado por IA.
Entretanto, as credenciais de conteúdo não são infalíveis na detecção de IA, já que conteúdos sem os metadados específicos podem ser carregados na plataforma sem revelar suas origens. A participação dos usuários na identificação do conteúdo gerado por IA permanece voluntária.
Apesar das limitações, a mudança é esperada para ser eficaz, pois as Credenciais de Conteúdo são amplamente apoiadas como padrão entre as grandes empresas de tecnologia no campo da IA.
É importante destacar que o TikTok já rotula conteúdos criados com efeitos de IA da própria plataforma e pretende introduzir credenciais de conteúdo para conteúdos gerados por IA com o uso desses efeitos. Os metadados fornecerão informações sobre a origem e edição do conteúdo, permanecendo anexados mesmo após serem baixados.
Dessa forma, o TikTok busca não apenas rotular o conteúdo de IA em sua plataforma, mas também garantir que esse conteúdo seja identificado com precisão ao ser compartilhado em outras plataformas. Em um cenário onde os deepfakes causam confusão sobre o que é real ou gerado por IA, essa ação do TikTok se mostra necessária.