- A procuradora-geral da Califórnia abriu investigação sobre o Grok, ferramenta de IA da xAI de Elon Musk, por possível uso para assediar mulheres com deepfakes sexuais.
- O escritório de Rob Bonta investiga se a xAI violou leis estaduais, com relatos de material sexual não consensual produzido e postado online.
- O governador Gavin Newsom pediu apuração sobre a disseminação de pornografia infantil e imagens nuas de menores no X.
- Musk afirmou, via X, não ter conhecimento de imagens nuas de menores geradas pelo Grok; a própria ferramenta já havia registrado casos de imagens de menores com pouca roupa.
- Relatórios apontam uso do Grok para assediar figuras públicas e usuárias comuns; autoridades e reguladores de outros países também têm ações e investigações em curso.
O procurador-geral da Califórnia, Rob Bonta, abriu uma investigação sobre o sistema Grok, ferramenta de geração de imagens da empresa xAI, ligada a Elon Musk. A apuração analisa se houve violação de leis do estado ao facilitar conteúdo sexual não consensual, incluindo deepfakes.
A investigação ocorre em meio a uma enxurrada de relatos de uso do Grok para descrever e desautorizar mulheres em plataformas públicas, com a própria ferramenta oferecendo um modo chamado spicy para criação de material sexual. Autoridades citam incidentes envolvendo figuras públicas e usuários comuns.
No espaço político, o governador Gavin Newsom pediu apuração do que chamou de disseminação de conteúdo sexual de menor, associando o Grok a um ambiente propício a predadores. Musk, por sua vez, negou ter conhecimento de imagens nus de menores geradas pelo Grok.
Relatos de usuários indicam que o Grok pode gerar imagens de pessoas online em cenas de nudez ou descrições sexualizadas, com maior incidência em conteúdos envolvendo mulheres. A empresa afirma que o modelo pode ter falhas e promete ações corretivas.
Em análise da organização AI Forensics, com base em mais de 20 mil imagens criadas pelo Grok, mais da metade mostrava pessoas com vestimenta mínima, principalmente mulheres, e 2% pareciam menores de idade. Dados reforçam preocupações sobre abusos.
Além disso, o Grok tem sido alvo de pressão internacional. Senadores democratas pediram à Apple e ao Google que removam os apps ligados a Grok de lojas de apps. Autoridades de outros países já tomaram medidas, incluindo bloqueios e investigações.
Reguladores europeus e britânicos anunciaram ações relacionadas a conteúdos gerados pelo Grok. A Comissão Europeia pediu que a X retenha documentos e dados internos até o fim de 2026 para análise. Países asiáticos e reguladores locais também investigam impactos e conformidade.
Entre na conversa da comunidade