Idec pede suspensão do Grok, IA de Musk, por violações de direitos de menores

Idec pediu ao governo a suspensão do Grok, IA de Elon Musk, por violações de direitos de crianças, adolescentes e mulheres.
O uso da ferramenta no X tem gerado imagens sexualizadas não consentidas, inclusive de menores, por meio de deepfake.
Um caso relatado pelo g1 envolve uma brasileira com foto de biquíni editada pelo Grok.
O Idec encaminhou ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne ministérios e órgãos.
O instituto aponta violações à LGPD, ao Código de Defesa do Consumidor, ao Marco Civil da Internet e ao ECA Digital, e menciona reações internacionais pedindo retirada de conteúdo.

O Idec pediu ao governo brasileiro a suspensão do Grok, IA criada por Elon Musk, por graves violações de direitos de crianças, adolescentes e mulheres. A solicitação foi apresentada nesta segunda-feira (12).

Segundo o instituto, o Grok tem sido utilizado em plataformas do X para gerar imagens falsas sexualizadas de mulheres e crianças sem consentimento. O pedido aponta evidências de danos recorrentes e graves.

O caso ganhou notoriedade após reportagem do g1 sobre uma brasileira cuja foto de biquíni foi manipulada pelo software. A vítima descreveu o episódio como sensação de violação.

O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. A instância reúne pastas como Justiça, Direitos Humanos e Conanda.

Para o instituto, o Grok difunde imagens sexualizadas de menor idade sem salvaguardas mínimas de segurança, consentimento ou prevenção de abusos. O defeito é apontado como violação do CDC e da LGPD.

A organização também cita o Marco Civil da Internet e o ECA Digital, fortalecendo a argumentação legal para a suspensão temporária. O caso já provocou reações internacionais.

Autoridades da União Europeia, Reino Unido, França e Índia investigam o conteúdo e solicitaram retirada de imagens em diversos níveis. O Idec afirma que inovação tecnológica sem responsabilidade gera danos reais.

O instituto encerra dizendo que, quando a tecnologia não garante salvaguardas, a interrupção temporária é uma exigência jurídica e ética. A ação visa proteger direitos de crianças, adolescentes e mulheres.