A Indonésia suspendeu temporariamente o Grok, assistente de IA da plataforma X, de Elon Musk, após a divulgação de imagens pornográficas falsas criadas com chamadas de pessoas reais. A medida foi anunciada neste sábado, 10, pelas autoridades locais, citando uso de deepfake sem consentimento. A suspensão visa reduzir riscos envolvendo mulheres, crianças e o público em geral.
O governo classifica as práticas de deepfake sem consentimento como grave violação de direitos humanos, dignidade e segurança no espaço digital. A ministra das Comunicações e Digitalização, Meutya Hafid, afirmou que a ação busca proteger usuários e pediu esclarecimentos à X.
O Grok informou que, a partir de agora, geração e edição de imagens serão reservadas a assinantes pagos, em resposta aos protestos ocorridos mundialmente. A medida gerou críticas de autoridades e da imprensa de alguns países preocupados com crimes digitais e misoginia.
Reações internacionais
O Reino Unido indicou que a mudança transforma um recurso potencialmente ilegal em serviço premium, chamando o movimento de insulto às vítimas. Em Bruxelas, a Comissão Europeia disse tomar conhecimento das modificações, avaliando se são suficientes para adresar o problema.
O governo indonésio disse que já acionou representantes da X para esclarecimentos sobre o funcionamento do Grok e sobre as medidas de contenção tomadas. As autoridades destacaram que casos de conteúdo pornográfico gerado por IA representam risco real no ecossistema digital.
Entre na conversa da comunidade