Deepfakes de médicos reais espalham desinformação sobre saúde nas redes

Vídeos deepfake com médicos manipulados para promover suplementos foram identificados em redes sociais, usados para incentivar compras no site de Wellness Nest.
A investigação da organização Full Fact aponta 14 vídeos com Taylor-Robinson e 8 com Duncan Selbie, todos com falas sobre menopausa e produtos da empresa.
O material usa imagens reais de eventos públicos de 2017 e de uma audiência sobre pobreza infantil, com áudio e rosto reimputados para parecerendorsar produtos.
TikTok removeu os conteúdos seis semanas após a denúncia, também sendo alvo críticas por não agir com rapidez suficiente; a empresa nega afiliação com as deepfakes.
Wellness Nest afirmou não ter ligação com as deepfakes nem com conteúdo gerado por IA, destacando que não controla afiliados globais nem utilizou conteúdo gerado por IA.

Foi identificada uma série de vídeos deepfake que manipulam falas de médicos para promover suplementos, veiculados em redes sociais. No caso recente, 14 vídeos com o médico Stephen Taylor-Robinson e outros 8 com Duncan Selbie foram usados para promover produtos da Wellness Nest. O TikTok removeu o conteúdo seis semanas após a queixa, e a empresa afirma não ter qualquer afiliação com as deepfakes.

Os vídeos usam imagens e áudio reais de eventos públicos, combinados para apresentar médicos instruindo mulheres na menopausa a comprar suplementos no site da Wellness Nest. As peças distorcidas apresentaram alegações sobre benefícios não comprovados, incluindo um suposto efeito colateral ligado à menopausa.

A investigação, realizada pela organização de verificação Full Fact, aponta que as obras visuais vêm de palestras de 2017 e de testemunhos recentes, reeditadas para sugerir apoio a produtos. Taylor-Robinson e Selbie disseram que as imagens são falsas e criadas sem consentimento. A Wellness Nest informou que as peças são 100% não afiliadas ao seu negócio, sem uso de IA em seu conteúdo.

O que está em jogo

Profissionais de saúde inacreditáveis aparecem em vídeos que visam vender produtos, alimentando desinformação. A controvérsia envolve plataformas que hospedam esse material e demoraram a tomar providências. Autoridades e partidos pedem maior fiscalização e remoção mais ágil de conteúdos enganadores.

A plataforma informou que removeu os vídeos com base nas regras contra desinformação e impersonificação, reconhecendo o desafio de lidar com conteúdos gerados por IA. A divulgação cita ainda a necessidade de ferramentas mais eficazes para identificar e excluir esse tipo de material.