IA Generativa impulsiona febre de produtos falsos

O Observatório Lupa aponta que conteúdos falsos criados com IA tiveram aumento expressivo no Brasil entre 2024 e 2025. A divulgação de golpes, filmes e anúncios manipulados cresceu 3,08 vezes no período, de acordo com o Panorama da Desinformação no Brasil.

A pesquisa mostra que, em 2024, a IA era usada principalmente para golpes digitais, como deepfakes de celebridades para sites fraudulentos. Em 2025, a IA passou a ser ferramenta estratégica em mensagens com viés ideológico, elevando as preocupações com as eleições de 2026.

Além do volume, os golpes ficaram mais difíceis de detectar. Conteúdos parecem profissionais e são disparados em massa, com variações do golpe para testar qual versão enganaria mais. A dispersão de desinformação também aumentou, ainda que o uso do WhatsApp tenha caído quase pela metade.

Os golpes mais comuns

Criminosos usam IA para criar vídeos com imagem e voz de figuras públicas. Um caso recente envolveu Drauzio Varella e o jornalista William Bonner promovendo suplementos. O médico já desmentiu conteúdos por meio das redes sociais.

Segundo Aguiar, a IA facilita a clonagem de vozes para simular pedidos de ajuda e cria deepfakes de autoridades para cobrar taxas ou obter dados. O consultor também cita golpes com vagas de emprego falsas que exigem pagamento de taxa via Pix.

Perfis criados artificialmente propagam conteúdos de monges ou rabinos oferecendo e-books gerados por IA, sem identificação de autoria. E há casos de anúncios que ilustram pratos de delivery com imagens geradas pela IA, levantando questões sobre direitos do consumidor.

Como identificar conteúdos fraudulentos?

Aguiar recomenda desconfiança diante de promessas grandiosas. Técnicas apontam para inconsistências na textura de cabelo, tonalidade amarelada e detalhes como dedos ou óculos com falhas.

Ele sugere verificar o perfil e os conteúdos, procurando padrões de iluminação e repetição de vídeos. Comentários também costumam alertar sobre IA, especialmente em conteúdos virais.

Aumenta a importância de reconhecer sinais e evitar a tomada de decisões com base em conteúdos não verificados. Plataformas estudam mecanismos de identificação, com possível ampliação de filtros para conteúdo gerado por IA.

Empresas na mira da responsabilização

A Meta estima que 10% de sua receita de 2024 veio de anúncios fraudulentos, cerca de US$ 16 bilhões. Em 2025, a empresa removeu 159 milhões de anúncios suspeitos, 92% antes de denúncias. O Google informou remoção de 201 milhões de anúncios em 2024.

Aguiar afirma que as plataformas devem ampliar a responsabilização pelo que é veiculado, defendendo marcações mais claras de conteúdo gerado por IA, com símbolos ou contornos distintos.

O vazio regulatório

Durante a CPI do Crime Organizado, a Meta foi questionada sobre ganhos econômicos e limites da criptografia de ponta a ponta. A regulação não acompanha o ritmo da tecnologia, dificultando a responsabilização. Em 2025, entrou em vigor o Marco Legal da IA, com avaliações prévias para identificar riscos.

O que o futuro reserva?

O lançamento do Seedance 2.0, modelo chinês de IA capable de gerar vídeos com alto realismo, pode ampliar o volume de conteúdos quase perfeitos. Aguiar diz que plataformas deverão aplicar filtros de IA para atender à demanda e evitar a disseminação de conteúdos nocivos.

Especialistas já sugerem que criadores artificiais, influenciadores simulados e deepfakes em tempo real devem surgir com mais força, exigindo respostas rápidas das plataformas e a melhoria de tecnologias de detecção.