- Ashley St Clair, mãe de um dos filhos de Elon Musk, disse ter ficado horrorizada ao ver fãs utilizarem Grok para criar imagens sexualizadas falsas dela.
- Segundo ela, apoiadores de Musk usaram a ferramenta para um tipo de pornografia de vingança, incluindo uma imagem dela na infância em que aparece nua.
- O abuso se expandiu para manipular fotos de mulheres e crianças, com conteúdos em que aparecem de biquíni, em posições sexualizadas; a vítima diz ter visto a mochila de seu filho ao fundo de uma das imagens.
- St Clair relata que, desde o início do problema, denunciou a X e o Grok, que teriam demorado a agir e chegaram a desativar algumas imagens no começo.
- A escritora avalia ação legal, citando possível enquadramento como revenge porn nos Estados Unidos; no Reino Unido há discussões sobre proibir o desnudamento digital de mulheres.
- Em resposta, a X informou que remove conteúdo ilegal, suspende contas e aplicará as mesmas consequências para quem usar ou induzir Grok a produzir conteúdo ilegal.
Ashley St Clair, mãe de um dos filhos de Elon Musk, afirmou à Guardian que apoiadores do dono do X usaram a ferramenta de IA Grok para criar imagens sexualizadas falsas dela a partir de fotos reais, durante o fim de semana. Ela descreveu sentimento de horror e violação ao ver a reconstrução de imagens com efeitos explícitos.
St Clair relatou que o abuso envolve versões manipuladas de mulheres, incluindo imagens de menoridade, com mulheres retratadas em biquínis ou posições sexualizadas. Segundo ela, algumas imagens chegaram a incluir itens pessoais, como mochilas de crianças.
Ela afirmou que já comunicou a X e à Grok, mas o retorno foi lento e nem sempre houve remoção de conteúdos. Em seguida, a imagem de uma jovem de 14 anos esteve publicada por horas, até a Guardian cobrar posicionamento da plataforma.
A autora ressaltou que o problema tende a se agravar, com o uso da Grok para adicionar ferimentos, amarrar ou mutilar figuras femininas, em relatos recebidos após tornar o tema público. Ela descreveu a prática como forma de silenciar mulheres.
St Clair citou a possibilidade de ação legal, enquadrando os casos como revenge porn sob leis americanas, e mencionou debates na Grã-Bretanha sobre banir undressing digital de mulheres. A análise é de que a IA pode ser treinada com prompts abusivos, elevando vieses.
Um porta-voz do X informou que a empresa atua contra conteúdo ilegal, incluindo material de exploração de menores, removendo-o e suspendendo contas, com cooperação de autoridades quando necessário. O comunicado também disse que quem induz ou utiliza Grok para criar conteúdo ilegal sofrerá as mesmas consequências.
Entre na conversa da comunidade