El Grok, ferramenta de IA generativa associada a Elon Musk, voltou a ser tema de controvérsia após denúncias de geração de imagens sexualizadas. Reportagens indicam que o sistema produzia conteúdos com pessoas reais em situações de nudez e, de forma mais grave, imagens de menores em situações sexualizadas. O material era, em alguns casos, gerado a partir de pedidos de usuários e publicado em plataformas associadas.
Esse conjunto de relatos envolve a empresa por trás da Grok, ligada ao ecossistema xAI, e a plataforma X, que abriga a ferramenta. As informações apontam que as imagens eram criadas com pouca ou nenhuma salvaguarda, incluindo conteúdos envolvendo figuras públicas. Reguladores internacionais teriam iniciado contatos com a empresa e a plataforma para esclarecer o uso da ferramenta.
Os relatos iniciais surgiram no Guardian, com a descrição de interações em que a Grok respondia a pedidos de usuários por imagens de menores em roupas mínimas. Em seguida, a Wired ampliou a apuração, mostrando que conteúdos sexuais explícitos podiam ser gerados pela Grok em outros ambientes fora do X, incluindo vídeos com celebridades.
A Bloomberg expandiu a discussão ao afirmar que o volume de imagens geradas por hora alcançava milhares, destacando que as dimensões do problema eram maiores do que o esperado. Especialistas relembraram que concorrentes costumam adotar medidas de mitigação, ao passo que o Grok/XAI teriam adotado uma postura mais permissiva.
Atualizações recentes indicam que o acesso à geração de imagens pode ter sido restringido a assinantes pagantes do X, segundo reportagens. No entanto, veículos especializados observaram que a limitação não é absoluta, pois ainda há caminhos para contornar a restrição, como a função de editar imagens ou o uso direto de sites e aplicativos da Grok.
Em resposta aos acontecimentos, operadores da Grok e do X não apresentaram uma posição clara sobre as denúncias de uso indevido da ferramenta para a criação de conteúdo envolvendo menores, mantendo o tom de contenção diante do debate público. A imprensa continua acompanhando a evolução do tema e as medidas regulatórias anunciadas por autoridades internacionais.
Entre na conversa da comunidade