YouTube libera ferramenta para políticos rastrearem deepfakes na plataforma

YouTube começa a liberar, em fase de teste, ferramenta que rastreia conteúdos na plataforma com base na aparência da pessoa apresentando sinais de terem sido alterados ou criados com IA, incluindo deepfakes.
A pessoa pública poderá revisar a lista de vídeos detectados e solicitar a remoção daqueles gerados ou modificados por IA; a retirada depende de análise conforme diretrizes de privacidade.
O acesso inicial será feito a um grupo piloto de autoridades governamentais, jornalistas e candidatos políticos; a lista de cadastrados não será divulgada por questões de privacidade.
No Brasil, a ferramenta será apresentada ao Tribunal Superior Eleitoral e fica disponível a partir de hoje para políticos contatados pela plataforma; o alcance completo deve ser expandido posteriormente.
Quem quiser usar precisa enviar documento de identidade oficial, gravar uma selfie e ter um canal registrado no YouTube; a empresa diz que os dados são usados para verificação e não para treinar IA generativa.

O YouTube abriu uma ferramenta de detecção de semelhanças com rostos para um grupo piloto de autoridades governamentais, jornalistas e candidatos políticos. O objetivo é rastrear conteúdos na plataforma que apresentem o rosto da pessoa e tenham sido potencialmente criados ou alterados por IA. A funcionalidade ainda está em fase de testes.

A iniciativa faz parte de ações da empresa para combater deepfakes, especialmente em contexto eleitoral. A ferramenta identifica conteúdos que usem o rosto de uma pessoa e lista vídeos para revisão. A retirada depende de análise sob diretrizes de privacidade da plataforma.

A atuação ocorre no Brasil, com apresentação prevista ao TSE como parte de esforços relacionados às eleições. A disponibilidade começa nesta terça-feira (10) para políticos contatados pela plataforma; o alcance é gradual e detalhes não foram anunciados.

Acesso piloto e critérios

Participantes poderão revisar conteúdos listados pela ferramenta e solicitar remoções de vídeos gerados ou alterados por IA. O YouTube afirma que a remoção não é automática e ocorre após avaliação.

O grupo de acesso é limitado e não haverá divulgação pública dos nomes que podem usar a ferramenta. A empresa aponta a privacidade como justificativa para manter a lista em sigilo.

Para participar, o interessado precisa ter um canal registrado no YouTube, enviar um documento de identidade oficial e gravar uma selfie. Não é necessário ter atividade ativa no canal para viabilizar o uso.

Como funciona e próximos passos

A detecção utiliza a aparência facial para identificar conteúdos que possam ter sido manipulados. O recurso está disponível apenas para quem estiver no grupo piloto, com possibilidade de expansão futura.

Segundo a empresa, os dados usados no cadastro servem exclusivamente para verificação de identidade e para o recurso de detecção de imagens. A Google afirma que esses dados não serão usados para treinar modelos de IA generativa.

Representantes do YouTube indicaram que a ferramenta pode exigir avaliações adicionais conforme as jurisdições. Em outras palavras, cada país pode ter regras próprias sobre processamento de dados e privacidade.