Apple remove aplicativos de deepfake que promovem 'nudificação' sem consentimento

A Apple retirou aplicativos de "nudificação" da App Store após uma investigação da BBC que revelou sua promoção no TikTok como ferramentas para criar deepfakes de "remoção de roupas" sem consentimento. Esses aplicativos, que utilizam inteligência artificial para apagar digitalmente roupas de fotos, geram imagens nuas ou parcialmente nuas. Embora se apresentassem como formas de "apimentar selfies", os anúncios no TikTok promoviam a criação de imagens sexualizadas de mulheres sem autorização.

Os anúncios, que incluíam promessas de "ver as fotos mais quentes da sua paixão", foram criticados por violar as políticas da plataforma. Um porta-voz do TikTok afirmou que os conteúdos sexualmente sugestivos não são permitidos, mas não explicou como esses anúncios passaram pela moderação. A BBC identificou quatro aplicativos que pagaram por anúncios, mas vídeos semelhantes ainda circulam na plataforma.

A Apple agiu rapidamente, removendo três aplicativos até que os desenvolvedores corrijam as falhas. Um quarto aplicativo, que criava vídeos de mulheres em poses sugestivas, teve sua conta encerrada. O Google também está investigando os aplicativos, que têm gerado preocupações legais e éticas em vários países, incluindo o Reino Unido.

O professor Arvind Narayanan, do Centro de Política de Tecnologia da Informação de Princeton, destacou que as empresas de tecnologia devem restringir a disseminação desses aplicativos. Ele defendeu que deveria haver mais barreiras para impedir o acesso a essa tecnologia, e que as autoridades deveriam banir esses aplicativos das lojas virtuais. A situação é preocupante, especialmente com casos de chantagem envolvendo imagens manipuladas por inteligência artificial, afetando principalmente meninas em idade escolar.