Reino Unido pede ao X que atue contra vídeos sexuais manipulados por IA

O governo do Reino Unido pediu à rede social X, de propriedade de Elon Musk, que ofereça soluções para impedir a disseminação de imagens falsas de mulheres e meninas nuas geradas por Grok, o assistente de IA da plataforma. As imagens são produzidas ao retocar fotos ou vídeos de pessoas reais e já causaram protestos globais.

A ministra da Tecnologia, Liz Kendall, afirmou que o conteúdo é repugnante e inadequado para uma sociedade decente. Ela reforçou que a publicação dessas imagens não será tolerada e solicitou urgência na resposta do X. Kendall também ressaltou o papel do regulador Ofcom e das medidas que considerar necessárias.

A Comissão Europeia informou estar analisando as denúncias sobre a ferramenta com seriedade. Em resposta, o governo britânico reiterou apoio à atuação do Ofcom e a medidas coercitivas, se cabíveis, para conter a disseminação de conteúdos degradantes.

O Ofcom pediu informações ao X sobre as proteções aos usuários e não descartou abrir uma investigação formal. A agência destacou a obrigação de plataformas de atuar rapidamente para remover conteúdos prejudiciais, sob a legislação de segurança online.

O Grok reconheceu falhas que permitiram a criação de imagens com conteúdo sexual envolvendo mulheres e menores. A empresa afirmou que está corrigindo as falhas com urgência e trabalha para impedir novos incidentes.

Segundo a Online Safety Act, as plataformas devem atuar para combater conteúdos deste tipo e agir com rapidez para removê-los. O não cumprimento pode implicar sanções financeiras, que chegam a 18 milhões de libras ou 10% do faturamento mundial.