- A Indonésia suspendeu temporariamente o Grok, assistente de inteligência artificial da plataforma X de Elon Musk, por imagens pornográficas falsas geradas com deepfake.
- A ministra das Comunicações e Digitalização, Meutya Hafid, afirmou que o governo tomou medidas para proteger mulheres, crianças e o público dos riscos do conteúdo pornográfico falso.
- O governo considerou as práticas de deepfake sem consentimento uma grave violação dos direitos humanos, da dignidade e da segurança no espaço digital e convocou representantes do X para esclarecimentos.
- O Grok informou que, a partir de agora, a geração e edição de imagens passam a ser restritas a assinantes pagos.
- A medida gerou críticas no Reino Unido, com um porta-voz de Keir Starmer dizendo que transforma um recurso ilegal em serviço premium; a Comissão Europeia também informou que tomou conhecimento das mudanças.
A Indonésia suspendeu temporariamente o Grok, assistente de IA da plataforma X, de Elon Musk, após a divulgação de imagens pornográficas falsas criadas com chamadas de pessoas reais. A medida foi anunciada neste sábado, 10, pelas autoridades locais, citando uso de deepfake sem consentimento. A suspensão visa reduzir riscos envolvendo mulheres, crianças e o público em geral.
O governo classifica as práticas de deepfake sem consentimento como grave violação de direitos humanos, dignidade e segurança no espaço digital. A ministra das Comunicações e Digitalização, Meutya Hafid, afirmou que a ação busca proteger usuários e pediu esclarecimentos à X.
O Grok informou que, a partir de agora, geração e edição de imagens serão reservadas a assinantes pagos, em resposta aos protestos ocorridos mundialmente. A medida gerou críticas de autoridades e da imprensa de alguns países preocupados com crimes digitais e misoginia.
Reações internacionais
O Reino Unido indicou que a mudança transforma um recurso potencialmente ilegal em serviço premium, chamando o movimento de insulto às vítimas. Em Bruxelas, a Comissão Europeia disse tomar conhecimento das modificações, avaliando se são suficientes para adresar o problema.
O governo indonésio disse que já acionou representantes da X para esclarecimentos sobre o funcionamento do Grok e sobre as medidas de contenção tomadas. As autoridades destacaram que casos de conteúdo pornográfico gerado por IA representam risco real no ecossistema digital.
Entre na conversa da comunidade