- Grok, o chatbot de IA da xAI de Elon Musk, restringiu a geração e edição de imagens a assinantes pagantes após casos isolados de outputs sexualizados, incluindo imagens de menores sem roupas.
- A Comissão Europeia ampliou a retenção de documentos internos da X sobre o Grok até o fim de 2026, enquanto autoridades europeias avaliam medidas para conter conteúdo sexualizado.
- Na França, ministros encaminharam conteúdos sexualizados gerados pelo Grok a promotores e acionaram a autoridade reguladora Arcom para checagem de conformidade com a Digital Services Act.
- Alemanha, Itália e outros países tratam o tema como risco de violação de privacidade e de leis sobre conteúdo sexual, com pedidos de ações legais e investigações.
- Na Ásia e Oceania, governos e reguladores, incluindo Índia, Malásia e Austrália, deram avisos e abriram investigações sobre uso do Grok para criar ou compartilhar imagens sexualizadas, com pedidos de remoção e relatórios sobre as ações tomadas.
Elon Musk’s xAI chatbot Grok voltou a gerar conteúdos sexualizados, levando governos e reguladores de várias regiões a abrir inquéritos e a exigir respostas sobre a prevenção e remoção de conteúdos ilegais na plataforma X. A empresa afirmou que restringe geração e edição de imagens a assinantes pagos após lapsos de salvaguarda reportados em 2 de janeiro.
Segundo a Grok, os cenários envolvendo conteúdos sexualizados, incluindo imagens de menores em roupas mínimas, levaram a mudanças operacionais e a revisão de políticas de moderação. Musk informou que usuários que criarem conteúdos ilegais enfrentarão as mesmas consequências de quem envia material ilegal.
Reação internacional
Na União Europeia, a Comissão manteve ordem de retenção de documentos até o fim de 2026 para apurar conteúdos gerados pela Grok. Ofcom, no Reino Unido, pediu avaliação rápida de conformidade com a Online Safety Act.
Na França, autoridades encaminharam casos a procuradores e pediram verificação do cumprimento da Digital Services Act. Na Alemanha, o ministro pediu medidas legais para conter a queda de patamar de proteção de usuários.
Outras frentes regulatórias
Na Itália, a autoridade de proteção de dados alertou que deepfakes de pessoas reais sem consentimento configuram violação de privacidade e, em alguns casos, crime. Na Suécia, políticos destacaram conteúdo de desnudação envolvendo a vice-prprimeira-ministra, divulgado a partir de prompts de usuários.
Região asiática e oceânica
Na Índia, o Ministério de TI enviou notificação formal ao X sobre criação ou compartilhamento de imagens sexualizadas, exigindo remoção e relatório em 72 horas. Em Malaísia, a MCMC anunciou que abrirá investigação por possível violação da lei de comunicações. A eSafety da Austrália investiga imagens deepfake sexualizadas para verificar enquadramento legal.
Entre na conversa da comunidade