Apps de Android e iOS com IA editam roupas em imagens de mulheres

Relatório do Tech Transparency Project identifica apps em lojas de Android e iOS que, com inteligência artificial, tiram a roupa de pessoas, incluindo menores de idade.
Apps já foram removidos por violarem políticas das plataformas, mas a pesquisa encontrou diversos resultados ao buscar termos como “nudificar”, “tirar a roupa” e “deepfake”.
Ao todo, os aplicativos listados foram baixados mais de 483 milhões de vezes e geraram ao menos US$ 122 milhões em receita, principalmente via publicidade.
Em alguns casos, havia a possibilidade de criar chatbots de IA com a aparência da pessoa retratada para conversas em texto.
O Grok, IA de Elon Musk, costuma aparecer entre os primeiros resultados das buscas, e 31 aplicações tinham classificação indicativa livre, permitindo acesso a menores.

Apple e Google seguem permitindo que apps em lojas oficiais facilitem o uso de IA para remover roupas de pessoas, inclusive menores de idade. O alerta vem de um relatório do Tech Transparency Project, que aponta violações às políticas das plataformas.

Segundo o estudo, uma busca simples e a análise de anúncios na Google Play Store e na App Store encontram diversas ferramentas voltadas a gerar montagens com mulheres nuas ou em situações eróticas, muitas sem consentimento. Em alguns casos, apps criam chatbots com a aparência da pessoa retratada.

Os programas pegam fotos reais e, com IA, geram deepfakes. As imagens podem ser compartilhadas entre grupos e, em certos cenários, usadas para extorsão ou crimes.
Em alguns apps, além da mudança de vestuário, foi possível criar interações em texto com a aparência da pessoa retratada.
A pesquisa identificou mais de 40 resultados para termos como nudificar, tirar a roupa e deepfake, entre anúncios pagos e sugestões automáticas de busca.

Os aplicativos avaliados somam mais de 483 milhões de downloads e, segundo análises de empresas especializadas, teriam gerado pelo menos US$ 122 milhões em receita, com forte uso de publicidade dentro do serviço. Grok, IA associada a Elon Musk, aparece entre os primeiros resultados de várias buscas.

Em alguns casos, os apps exibem classificação indicativa livre, o que os torna visíveis para menores de idade.
A pesquisa anterior já havia denunciado a presença desses softwares nas lojas da Apple e do Google no começo do ano, sem que o problema tenha sido plenamente solucionado.

O que as empresas dizem

Após a divulgação, Apple e Google sinalizaram a remoção de diversos aplicativos que retiram roupas de pessoas. As companhias afirmam que essas ferramentas violam as regras de suas lojas.

A Apple afirmou ter entrado em contato com desenvolvedores para que os apps sejam alterados, sob pena de remoção caso não respondam. A plataforma também disse que colabora com autoridades para coibir esse tipo de uso indevido.

A Apple e o Google reforçam que mantêm políticas rígidas contra conteúdo que explore ou viole a privacidade de indivíduos. Autoridades e especialistas ressaltam a necessidade de vigilância contínua e atualização de mecanismos de detecção.