O Grok, IA desenvolvida pela xAI de Elon Musk e integrada à rede X, gerou cerca de 3 milhões de imagens sexualizadas de mulheres e menores em 11 dias. A ferramenta permitiu editar fotos reais com comandos simples, elevando o volume de conteúdo impróprio. A média foi de aproximadamente 190 imagens por minuto.
Segundo o Centro de Combate ao Ódio Digital, o lançamento coincidiu com uma nova função de edição de imagens no Grok. Entre os resultados estão materiais que parecem envolver menores, o que gerou indignação global e levou a restrições em vários países. A organização afirma que o Grok funciona como uma fábrica de abuso sexual.
As autoridades e reguladores passaram a agir. Países como Filipinas, Malásia e Indonésia proibiram o uso do Grok em jurisdições com restrições legais. O Reino Unido e a França mantêm pressão para que mudanças sejam adotadas pela empresa. A Apple não foi citada nos relatos.
Desdobramentos regulatórios e resposta institucional
O procurador-geral da Califórnia abriu um inquérito sobre a xAI devido ao conteúdo explícito gerado pela ferramenta. Vários governos nacionais anunciaram investigações independentes sobre o uso do Grok. O X, por sua vez, não comentou as conclusões, limitando-se a uma resposta automática à AFP que aponta para críticas da mídia tradicional.
A empresa anunciou que, em breve, bloqueará a criação de esse tipo de imagem em Grok e na rede X, onde for ilegal. Ainda não há um consenso internacional sobre padrões de uso de IA em edições de imagem, o que mantém o tema sob vigilância regulatória. O caso continua a repercutir em debates sobre responsabilidade de plataformas.
Entre na conversa da comunidade