Onda de imagens falsas geradas por IA de mulheres assusta governo britânico

A secretária de Tecnologia do Reino Unido, Liz Kendall, pediu que a X, controlada por Elon Musk, trate com urgência o domínio de imagens geradas por IA que mostram mulheres e crianças sem roupas. Ela considera esse material alarmante e inaceitável na sociedade. A Ofcom pode tomar medidas se necessário, segundo a parlamentar.

Milhares de deepfakes íntimos circularam online, concentrados em mulheres e meninas. Kendall afirmou que o Reino Unido não tolerará a proliferação de conteúdo degradante e abusivo. A escalada ocorre em meio a debates sobre endurecimento do Online Safety Act.

As críticas apontam para uma resposta lenta do governo diante do problema. Um especialista descreveu como uma espécie de jogo entre plataformas e reguladores, sugerindo que a atuação governamental tem sido pouco ágil.

Jessaline Caine, sobrevivente de abuso infantil, relatou que uma imagem manipulada de uma criança de três anos ainda respondia a solicitações para vestir a vítima com biquíni, em comparação com respostas mais restritivas em outras plataformas. Ela pediu maior regulação de ferramentas de IA.

Ofcom informou ter conhecimento das preocupações sobre Grok e a criação de imagens sem roupa e com sexualização de menores. A agência comunicou ter contatado a X e a xAI para entender as medidas em relação aos deveres legais de proteção de usuários no Reino Unido e avaliar a necessidade de investigação.

Beeban Kidron, defensora da segurança infantil online, pediu atuação mais firme dos ministros e uma revisão do regime do Online Safety Act para torná-lo mais rápido e eficaz. Ela comparou com recalls de produtos de consumo quando há danos relevantes.

Ofcom pode aplicar multas significativas a plataformas de tecnologia, com teto de 18 milhões de libras ou 10% das receitas globais qualificadas, o que for maior. Em recente precedente, uma penalidade de 1 milhão de libras foi aplicada a um provedor de conteúdo adulto por falha no controle de idade.

Autoridades indicaram planos de novas leis para proibir ferramentas de “nudificação” que usem IA para transformar imagens de pessoas sem permissão em nudez falsa. Ainda não ficou claro quando a proibição entrará em vigor.

Representantes da Lucy Faithfull Foundation também demandaram ações imediatas para desativar recursos de edição de imagem do Grok até que salvaguardas robustas entrem em funcionamento. A X não respondeu a pedidos de comentário sobre as declarações de Kendall.

Especialistas em cibersegurança destacam que a regulação precisa avançar, pois imagens geradas por IA podem evoluir para vídeos mais longos, agravando impactos na vida das pessoas. A discussão envolve legislação atual e a necessidade de regras mais restritivas.

A defesa regulatória aponta que já é crime criar ou compartilhar imagens íntimas não consensuais, incluindo deepfakes sexuais com IA. Imagens de pessoas em biquíni podem caracterizar conteúdo íntimo dependendo do nível de nudez.