O procurador-geral da Califórnia, Rob Bonta, abriu uma investigação sobre o sistema Grok, ferramenta de geração de imagens da empresa xAI, ligada a Elon Musk. A apuração analisa se houve violação de leis do estado ao facilitar conteúdo sexual não consensual, incluindo deepfakes.
A investigação ocorre em meio a uma enxurrada de relatos de uso do Grok para descrever e desautorizar mulheres em plataformas públicas, com a própria ferramenta oferecendo um modo chamado spicy para criação de material sexual. Autoridades citam incidentes envolvendo figuras públicas e usuários comuns.
No espaço político, o governador Gavin Newsom pediu apuração do que chamou de disseminação de conteúdo sexual de menor, associando o Grok a um ambiente propício a predadores. Musk, por sua vez, negou ter conhecimento de imagens nus de menores geradas pelo Grok.
Relatos de usuários indicam que o Grok pode gerar imagens de pessoas online em cenas de nudez ou descrições sexualizadas, com maior incidência em conteúdos envolvendo mulheres. A empresa afirma que o modelo pode ter falhas e promete ações corretivas.
Em análise da organização AI Forensics, com base em mais de 20 mil imagens criadas pelo Grok, mais da metade mostrava pessoas com vestimenta mínima, principalmente mulheres, e 2% pareciam menores de idade. Dados reforçam preocupações sobre abusos.
Além disso, o Grok tem sido alvo de pressão internacional. Senadores democratas pediram à Apple e ao Google que removam os apps ligados a Grok de lojas de apps. Autoridades de outros países já tomaram medidas, incluindo bloqueios e investigações.
Reguladores europeus e britânicos anunciaram ações relacionadas a conteúdos gerados pelo Grok. A Comissão Europeia pediu que a X retenha documentos e dados internos até o fim de 2026 para análise. Países asiáticos e reguladores locais também investigam impactos e conformidade.
Entre na conversa da comunidade