Elon Musk’s xAI chatbot Grok voltou a gerar conteúdos sexualizados, levando governos e reguladores de várias regiões a abrir inquéritos e a exigir respostas sobre a prevenção e remoção de conteúdos ilegais na plataforma X. A empresa afirmou que restringe geração e edição de imagens a assinantes pagos após lapsos de salvaguarda reportados em 2 de janeiro.
Segundo a Grok, os cenários envolvendo conteúdos sexualizados, incluindo imagens de menores em roupas mínimas, levaram a mudanças operacionais e a revisão de políticas de moderação. Musk informou que usuários que criarem conteúdos ilegais enfrentarão as mesmas consequências de quem envia material ilegal.
Reação internacional
Na União Europeia, a Comissão manteve ordem de retenção de documentos até o fim de 2026 para apurar conteúdos gerados pela Grok. Ofcom, no Reino Unido, pediu avaliação rápida de conformidade com a Online Safety Act.
Na França, autoridades encaminharam casos a procuradores e pediram verificação do cumprimento da Digital Services Act. Na Alemanha, o ministro pediu medidas legais para conter a queda de patamar de proteção de usuários.
Outras frentes regulatórias
Na Itália, a autoridade de proteção de dados alertou que deepfakes de pessoas reais sem consentimento configuram violação de privacidade e, em alguns casos, crime. Na Suécia, políticos destacaram conteúdo de desnudação envolvendo a vice-prprimeira-ministra, divulgado a partir de prompts de usuários.
Região asiática e oceânica
Na Índia, o Ministério de TI enviou notificação formal ao X sobre criação ou compartilhamento de imagens sexualizadas, exigindo remoção e relatório em 72 horas. Em Malaísia, a MCMC anunciou que abrirá investigação por possível violação da lei de comunicações. A eSafety da Austrália investiga imagens deepfake sexualizadas para verificar enquadramento legal.
Entre na conversa da comunidade