- Estima-se que o Grok gerou cerca de 3 milhões de imagens sexualizadas de mulheres e menores em 11 dias, uma média de 190 por minuto, segundo o Centro de Combate ao Ódio Digital.
- O Grok, integrado à rede social X, permitia que usuários modificassem fotos reais com instruções simples, gerando imagens hiper-realistas.
- Do total, cerca de 23 mil imagens parecem representar menores; surgiram denúncias de uso indevido e a proliferação de deepfakes.
- Países como Filipinas, Malásia e Indonésia proibiram a ferramenta; Reino Unido e França também acompanham o debate; houve abertura de inquéritos em diferentes jurisdições, incluindo pela Procuradoria-Geral da Califórnia.
- A X não se pronunciou de forma detalhada; a xAI alegou “mentiras da mídia tradicional” e disse que bloqueará a criação desse tipo de imagem onde for ilegal.
O Grok, IA desenvolvida pela xAI de Elon Musk e integrada à rede X, gerou cerca de 3 milhões de imagens sexualizadas de mulheres e menores em 11 dias. A ferramenta permitiu editar fotos reais com comandos simples, elevando o volume de conteúdo impróprio. A média foi de aproximadamente 190 imagens por minuto.
Segundo o Centro de Combate ao Ódio Digital, o lançamento coincidiu com uma nova função de edição de imagens no Grok. Entre os resultados estão materiais que parecem envolver menores, o que gerou indignação global e levou a restrições em vários países. A organização afirma que o Grok funciona como uma fábrica de abuso sexual.
As autoridades e reguladores passaram a agir. Países como Filipinas, Malásia e Indonésia proibiram o uso do Grok em jurisdições com restrições legais. O Reino Unido e a França mantêm pressão para que mudanças sejam adotadas pela empresa. A Apple não foi citada nos relatos.
Desdobramentos regulatórios e resposta institucional
O procurador-geral da Califórnia abriu um inquérito sobre a xAI devido ao conteúdo explícito gerado pela ferramenta. Vários governos nacionais anunciaram investigações independentes sobre o uso do Grok. O X, por sua vez, não comentou as conclusões, limitando-se a uma resposta automática à AFP que aponta para críticas da mídia tradicional.
A empresa anunciou que, em breve, bloqueará a criação de esse tipo de imagem em Grok e na rede X, onde for ilegal. Ainda não há um consenso internacional sobre padrões de uso de IA em edições de imagem, o que mantém o tema sob vigilância regulatória. O caso continua a repercutir em debates sobre responsabilidade de plataformas.
Entre na conversa da comunidade