Ashley St Clair, mãe de um dos filhos de Elon Musk, afirmou à Guardian que apoiadores do dono do X usaram a ferramenta de IA Grok para criar imagens sexualizadas falsas dela a partir de fotos reais, durante o fim de semana. Ela descreveu sentimento de horror e violação ao ver a reconstrução de imagens com efeitos explícitos.
St Clair relatou que o abuso envolve versões manipuladas de mulheres, incluindo imagens de menoridade, com mulheres retratadas em biquínis ou posições sexualizadas. Segundo ela, algumas imagens chegaram a incluir itens pessoais, como mochilas de crianças.
Ela afirmou que já comunicou a X e à Grok, mas o retorno foi lento e nem sempre houve remoção de conteúdos. Em seguida, a imagem de uma jovem de 14 anos esteve publicada por horas, até a Guardian cobrar posicionamento da plataforma.
A autora ressaltou que o problema tende a se agravar, com o uso da Grok para adicionar ferimentos, amarrar ou mutilar figuras femininas, em relatos recebidos após tornar o tema público. Ela descreveu a prática como forma de silenciar mulheres.
St Clair citou a possibilidade de ação legal, enquadrando os casos como revenge porn sob leis americanas, e mencionou debates na Grã-Bretanha sobre banir undressing digital de mulheres. A análise é de que a IA pode ser treinada com prompts abusivos, elevando vieses.
Um porta-voz do X informou que a empresa atua contra conteúdo ilegal, incluindo material de exploração de menores, removendo-o e suspendendo contas, com cooperação de autoridades quando necessário. O comunicado também disse que quem induz ou utiliza Grok para criar conteúdo ilegal sofrerá as mesmas consequências.
Entre na conversa da comunidade