- A Indonésia bloqueu temporariamente o chatbot Grok, de Elon Musk, por risco de conteúdo pornográfico gerado pela IA, tornando-se o primeiro país a negar acesso à ferramenta.
- A medida ocorre em meio a condenações e investigações abertas por governos e reguladores na Europa, Ásia e outros lugares em relação a conteúdos sexualizados gerados pela IA.
- A XAI, empresa por trás do Grok, informou que restringiu a geração e edição de imagens a assinantes pagantes, após falhas de segurança permitirem outputs sexualizados.
- A ministra das Comunicações e da Digital, Meutya Hafid, afirmou que o uso de deepfakes sexuais não consensuais representa violação de direitos e dignidade, e o ministério chamou autoridades da X para tratar do assunto.
- O Grok já havia desligado a função de criação de imagens para a maioria dos usuários, com o objetivo de conter o debate sobre conteúdos sexualizados, enquanto investigações e críticas internacionais continuam.
A Indonésia bloqueou temporariamente o chatbot Grok, de Elon Musk, devido ao risco de conteúdo pornográfico gerado por IA. O país tornou-se o primeiro a negar acesso à ferramenta.
A medida ocorre em meio a condenações e investigações sobre conteúdo sexualizado envolvendo Grok, segundo reportagens de agências internacionais. A startup por trás do Grok, a xAI, informou que passou a restringir a geração de imagens a assinantes pagantes, buscando corrigir falhas de segurança.
O governo, por meio do ministro da Comunicação e Digitais, Meutya Hafid, considerou grave a violação de direitos humanos, dignidade e segurança no espaço digital, e chamou representantes da X para tratar do assunto.
Musk afirmou em X que quem usar Grok para criar conteúdo ilegal enfrentará as mesmas consequências de quem envia conteúdo ilegal. A X não respondeu imediatamente a pedidos de comentário, e a xAI enviou resposta automática a uma reportagem da Reuters.
A Indonésia, com a maior população muçulmana do mundo, adota regras estritas sobre conteúdo considerado obsceno. A bloqueio ocorreu após o Grok desativar a função de criação de imagens para a maioria dos usuários, em meio a críticas por imagens sexualizadas e violentas.
No cenário internacional, países como Austrália e Reino Unido também manifestaram preocupação com o uso de IA em Grok para fins exploratórios ou sexualizados. Líderes e reguladores apontam riscos à proteção de menores e à responsabilização das plataformas.
A eSafety Australia indicou que recebeu relatos crescentes sobre imagens sexualizadas criadas com Grok e afirmou que pode aplicar medidas previstas pela lei de Segurança Online, incluindo remoção de conteúdo.
Entre na conversa da comunidade