- The New York Times rastreou 304 contas no TikTok que compartilham conteúdo gerado por IA pró-Trump e que surgem antes das eleições de meio de mandato nos EUA.
- Perfis parecem homens e mulheres comuns, com avatares de IA que falam sobre guerra no Irã, aborto e outras pautas, usando legendas idênticas e com visuais sedutores.
- Trump repostou conteúdo de ao menos uma dessas contas, inclusive de um avatar loiro.
- Pesquisas independentes identificaram dezenas de outras contas em Instagram, Facebook e YouTube, com várias superando 35 mil seguidores.
- O TikTok diz ter sido removido parte do conteúdo por spam; especialistas destacam incerteza sobre quem criou os avatares e indicam custo baixo e disseminação potencial de desinformação.
Influenciadores pró-Trump criados por IA aparecem em redes sociais, principalmente no TikTok, com foco em eleitores conservadores. O The New York Times rastreou 304 contas que compartilhavam conteúdo gerado por IA. A plataforma afirma que são spammers e está removendo as páginas.
Vídeos com avatares femininos aparecem em diferentes cenários: uma loira em um autódromo, uma morena em um estádio e uma ruiva em uma quadra de basquete. As legendas repetem a ideia de amizade para quem apoia Trump, sem identificação de indivíduos reais.
As contas surgiram nos meses anteriores às eleições de meio de mandato nos EUA, previstas para novembro. Pesquisas associam esse fenômeno a técnicas de IA que simulam influenciadores humanos para ampliar mensagens pró-Trump.
Quem está envolvido
Pesquisadores da Purdue University, pelo Grail, identificaram contas no TikTok, Instagram e Facebook. Analistas da Alethea, empresa de mitigação de ameaças digitais, encontraram ativos semelhantes no YouTube. Numerosas contas já acumulam mais de 35 mil seguidores.
O TikTok informou que avaliou as 304 contas e não encontrou indícios de operações de influência oculta. A plataforma considera as contas como tentativas de engajamento indevido e afirmou estar removendo-as.
Especialistas apontam que criadores de avatares de IA facilitam campanhas de desinformação, oferecendo conteúdos prontos a preços baixos. Grupos de marcas e startups de IA atuam nesse mercado, com custos estimados entre US$ 1 e US$ 3 por postagem.
Implicações e respostas
Analistas destacam o risco de desinformação constante, que pode gerar sensação de opinião majoritária falsa. A IA permite transformar imagens e vozes em mensagens convincentes, dificultando a identificação de conteúdo não autêntico.
O YouTube disse que revisa canais com avatares de IA e encerra aqueles que violam políticas de spam. A Meta informou exigir divulgação de conteúdo gerado com IA, sob pena de sanções. A autenticidade permanece como desafio para plataformas.
Entre na conversa da comunidade