- A Internet Watch Foundation afirmou que usuários de um fórum da dark web disseram ter usado Grok Imagine para criar imagens sexualizadas de meninas de 11 a 13 anos.
- Analistas da IWF consideram que as imagens configurariam material de abuso sexual de crianças conforme a legislação britânica.
- A controvérsia envolve Grok, ferramenta da X, de Elon Musk, que tem sido alvo de críticas depois que imagens de mulheres e crianças com roupas digitalmente removidas surgiram na plataforma.
- A House of Commons women and equalities committee anunciou que não usará mais a X para suas comunicações, citando prevenção de violência contra mulheres e meninas.
- A Information Commissioner’s Office, órgão regulador de dados do Reino Unido, informou ter contatado X e xAI para esclarecer medidas de conformidade com a lei de proteção de dados.
O Internet Watch Foundation (IWF) alertou que o chatbot Grok, de Elon Musk, tem sido usado por criminosos na dark web para criar imagens sexualizadas de crianças entre 11 e 13 anos. Os padrões identificados indicam material que, segundo a legislação britânica, configuraria CSAM.
Analistas da IWF disseram ter encontrado imagens que parecem ter sido criadas com a ferramenta Grok Imagine. A organização enfatiza o risco de esse conteúdo ganhar visibilidade e normalizar a exploração infantil na internet.
A situação surge após relatos de usuários no dark web, segundo a IWF, que descreve as imagens como sexualizadas e, em alguns casos, topless de meninas nessa faixa etária. A fundação aponta que esse material pode evoluir para conteúdos mais graves.
A controvérsia também envolve a plataforma X, de propriedade de Musk, que tem recebido críticas por permitir a manipulação de imagens de mulheres e crianças. A empresa afirma ter ação contra conteúdo ilegal, incluindo CSAM.
Na mesma linha, a Câmara dos Comuns disse que não vai mais usar a X para comunicações, citando a prevenção de violência contra mulheres e meninas como tema-chave. O colete de membros, incluindo a presidente trabalhista Sarah Owen, já deixou a plataforma.
O comitê de mulheres e igualdade da Câmara dos Comuns descreveu a decisão como um passo significativo para Westminster, em resposta ao uso indevido do Grok. Christine Jardine, parlamentar liberal democrata, também anunciou saída do serviço.
A IWF informou que, em alguns casos, imagens geradas com Grok foram usadas para criar material ainda mais extremo, conhecido como Categoria A, com atividade sexual penetrante, através de outra ferramenta de IA.
Ngaire Alexander, chefe da linha direta da IWF, afirmou que o acesso rápido e fácil a conteúdos sexualmente explícitos de crianças é motivo de preocupação. A entidade pediu medidas mais eficazes para impedir a disseminação desse material.
O escritório do Comissário de Informação do Reino Unido (ICO) afirmou ter procurado a X e a xAI para esclarecer medidas de conformidade com a lei de proteção de dados e os direitos dos indivíduos. A ICO ressaltou o direito do usuário a dados tratados de forma legal.
A X informou que atua contra conteúdo ilegal, removendo materiais e suspendendo contas, além de colaborar com autoridades locais e forças de segurança quando necessário. A empresa não detalhou mudanças de segurança implementadas recentemente.
Entre na conversa da comunidade