Cresce a preocupação com pornografia deepfake de Taylor Swift e os riscos da IA para mulheres

Recentemente, a internet foi inundada com imagens sexualmente explícitas da cantora Taylor Swift, que, na verdade, eram nudes geradas por inteligência artificial, conhecidas como deepfake porn. Um dos perfis mais populares na plataforma X acumulou 47 milhões de visualizações, 24 mil repostagens e centenas de milhares de "likes" antes de ser suspenso por violar as políticas da empresa. Apesar da suspensão, as imagens circularam por quase um dia, levantando preocupações sobre a proliferação de pornografia falsa que visa mulheres. Swift está considerando processar o site que publicou as imagens, conforme reportado pelo Daily Mail.

A conta original foi bloqueada, mas outras continuaram a disseminar o conteúdo, com algumas permanecendo ativas. O termo “Taylor Swift AI” se tornou tendência em várias regiões, levando a X a reforçar sua política de tolerância zero em relação a esse tipo de conteúdo. A empresa afirmou que suas equipes estão removendo imagens identificadas e tomando medidas contra as contas responsáveis, visando manter um ambiente seguro para todos os usuários.

Esse não é um caso isolado; outras celebridades e mulheres anônimas também foram vítimas de deepfakes. Recentemente, um grupo de meninas em Espanha foi alvo de imagens manipuladas, e a cantora Rosalía denunciou a publicação de um deepfake. No México, a disseminação de imagens manipuladas de estudantes resultou em protestos massivos. Segundo o site de tecnologia 404 Media, as imagens de Swift podem ter se originado em um grupo específico no Telegram dedicado a imagens abusivas de mulheres.

A tecnologia de deepfake tem se tornado cada vez mais comum, com um estudo indicando que 48% dos homens já viram pornografia falsa. Além disso, 74% dos usuários que consumiram esse tipo de conteúdo não se sentiram culpados, sugerindo que a prática se normalizou nas preferências de entretenimento adulto. A pesquisa também revelou que 20% dos participantes consideraram aprender a criar pornografia com inteligência artificial, seja com celebridades ou pessoas conhecidas.