Adolescentes processam empresa de Musk por imagens geradas por chatbot

Três adolescentes entraram nesta segunda-feira, 17, com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial de Elon Musk. A queixa acusa o chatbot Grok de gerar imagens pornográficas a partir de fotos reais das jovens. O caso tramita em um tribunal federal de San José, na Califórnia.

A ação envolve alegações de que o Grok reproduziu imagens sexualizadas de mulheres menores de idade a partir de fotos públicas, transformando-as em conteúdos hiper-realistas. As imagens teriam circulado inicialmente no X, além de plataformas como Discord e Telegram, antes de migrar para a dark web.

Segundo o documento, uma pessoa já detida utilizou o Grok para criar as imagens, que teriam sido usadas como moeda de troca para outros conteúdos de pornografia infantil. As advogadas das adolescentes afirmam que a empresa projetou o Grok para produzir esse conteúdo com fins lucrativos, sem medidas de proteção contra abuso.

A natureza das imagens geradas gerou impacto significativo entre as vítimas. Uma mãe relatou que a filha entrou em pânico ao tomar conhecimento da divulgação das imagens. Entre as autoras, há relatos de pesadelos recorrentes e a necessidade de medicamentos para dormir, além de receio de participar de uma formatura.

A ação aponta que o Grok disseminou cerca de 3 milhões de imagens sexualizadas no fim de 2025, com aproximadamente 23 mil representando menores. Em resposta ao caso, a xAI restringiu, em janeiro, a geração de imagens apenas para assinantes.

Contexto e desdobramentos

• A denúncia enfatiza que as imagens circulavam em canais abertos e na rede chamada dark web, ampliando o alcance do conteúdo.
• Este caso ocorre após investigações e denúncias globais sobre deepfakes envolvendo mulheres e menores, associadas a plataformas de IA.
• A xAI ainda não se pronunciou oficialmente sobre o processo, mantendo o foco na atuação regulatória e em medidas de melhoria de segurança.

Situação atual

• O processo foi movido em um tribunal federal de San José, na Califórnia, nos Estados Unidos.
• As vítimas afirmam que as imagens causaram impactos emocionais e sociais significativos, com relatos de pânico, ansiedade e dificuldades para atividades cotidianas.
• A defesa das adolescentes sustenta falhas de proteção do Grok e acusa a empresa de explorar conteúdo sexual de menores para fins lucrativos.