Malásia bloqueia Grok AI de Elon Musk por imagens falsas e sexualizadas

A Malaysia bloqueou temporariamente o acesso ao Grok, ferramenta de IA de Elon Musk, até que salvaguardas eficazes sejam implementadas, tornando-se o segundo país a agir após a Indonésia.
A medida mira a capacidade do Grok de gerar imagens obscenas, sexualizadas e não consensuais, incluindo conteúdo envolvendo mulheres e menores.
A X, empresa controladora, informou que a geração e edição de imagens ficariam limitadas a assinantes pagantes, cujos dados podem permitir identificação em caso de uso indevido.
A Comissão de Comunicações e Multimedia da Malásia (MCMC) encaminhou avisos à X e à xAI exigindo salvaguardas técnicas e de moderação, apontando que mecanismos de denúncia não são suficientes para prevenir danos ou cumprir a lei.
Além da Indonésia, outros países e autoridades, como Reino Unido, Austrália e diversos europeus, têm considerado ou feito apelos, citando violações de direitos, dignidade e segurança no espaço digital.

Malaysia bloqueia Grok da Elon Musk por imagens falsas e sexualizadas

A Malaysia restringiu o acesso ao Grok, ferramenta de IA de Elon Musk, após preocupações globais sobre a criação de imagens falsas, sexualizadas ou não consensuais. A medida foi anunciada pela Comissão de Comunicações e Multimedia da Malásia (MCMC).

A ação ocorre um dia depois da Indonésia ter adotado o mesmo caminho. Além do país, governos e reguladores têm intensificado fiscalizações em torno do Grok, que funciona integrado ao X.

Contexto regional

Segundo a MCMC, o Grok pode gerar imagens obscenas, sexualmente explícitas ou indècentes, bem como conteúdos manipulados sem consentimento, envolvendo mulheres e menores de idade. A agência não informou se a proibição cobre apenas o X, o site/app do Grok ou ambos.

A MCMC afirmou que notificou a X e a xAI neste mês para que implemente salvaguardas técnicas e de moderação eficazes. As respostas recebidas dependeram amplamente de mecanismos de denúncia do usuário, considerado insuficientes pela autoridade.

Repercussões internacionais

Na Indonésia, o ministério das comunicações também bloqueou o chatbot, afirmando considerar as deepfakes sexuais sem consentimento uma violação grave de direitos humanos e da segurança digital.

Grupos reguladores europeus têm sinalizado medidas semelhantes, e autoridades em países como Reino Unido, França, Alemanha e Itália discutem ou já estudam ações legais. Australia e outros países também comentaram o tema.