A Apple removeu aplicativos que criavam deepfakes de nudez sem consentimento da App Store após uma investigação da BBC. Esses aplicativos, que usavam inteligência artificial para apagar roupas de fotos, eram promovidos no TikTok como ferramentas para “apimentar selfies”. Os anúncios no TikTok, que prometiam ver fotos nuas de pessoas, foram criticados por violar as regras da plataforma. Um porta-voz do TikTok disse que conteúdos sexualmente sugestivos não são permitidos, mas não explicou como esses anúncios foram aprovados. A Apple retirou três aplicativos e suspendeu um quarto que criava vídeos sugestivos. O Google também está investigando esses aplicativos, que levantam preocupações legais e éticas em vários países. Especialistas pedem que as empresas de tecnologia limitem o acesso a essas ferramentas e que as autoridades banam esses aplicativos das lojas virtuais, especialmente devido a casos de chantagem envolvendo imagens manipuladas, que afetam principalmente meninas em idade escolar.
A Apple retirou aplicativos de “nudificação” da App Store após uma investigação da BBC que revelou sua promoção no TikTok como ferramentas para criar deepfakes de “remoção de roupas” sem consentimento. Esses aplicativos, que utilizam inteligência artificial para apagar digitalmente roupas de fotos, geram imagens nuas ou parcialmente nuas. Embora se apresentassem como formas de “apimentar selfies”, os anúncios no TikTok promoviam a criação de imagens sexualizadas de mulheres sem autorização.
Os anúncios, que incluíam promessas de “ver as fotos mais quentes da sua paixão”, foram criticados por violar as políticas da plataforma. Um porta-voz do TikTok afirmou que os conteúdos sexualmente sugestivos não são permitidos, mas não explicou como esses anúncios passaram pela moderação. A BBC identificou quatro aplicativos que pagaram por anúncios, mas vídeos semelhantes ainda circulam na plataforma.
A Apple agiu rapidamente, removendo três aplicativos até que os desenvolvedores corrijam as falhas. Um quarto aplicativo, que criava vídeos de mulheres em poses sugestivas, teve sua conta encerrada. O Google também está investigando os aplicativos, que têm gerado preocupações legais e éticas em vários países, incluindo o Reino Unido.
O professor Arvind Narayanan, do Centro de Política de Tecnologia da Informação de Princeton, destacou que as empresas de tecnologia devem restringir a disseminação desses aplicativos. Ele defendeu que deveria haver mais barreiras para impedir o acesso a essa tecnologia, e que as autoridades deveriam banir esses aplicativos das lojas virtuais. A situação é preocupante, especialmente com casos de chantagem envolvendo imagens manipuladas por inteligência artificial, afetando principalmente meninas em idade escolar.
Entre na conversa da comunidade