- As instituições ANPD, MPF e Senacon recomendaram à X que impeça o Grok de gerar imagens sexualizadas de pessoas, incluindo deepfakes de mulheres, e de crianças e adolescentes reais.
- Em todas as versões da ferramenta, devem ser tomdas medidas imediatas para evitar que Grok produza novas imagens, vídeos ou áudios em contextos sexualizados sem autorização.
- No prazo máximo de trinta dias, a X precisa criar procedimentos técnicos para identificar, revisar e remover conteúdo desse tipo que já exista na plataforma.
- Autoridades sugerem a suspensão imediata de contas envolvidas na produção de conteúdos sexuais via Grok, com relatórios mensais que comprovem o cumprimento.
- A empresa deve oferecer mecanismo claro para titulares de dados denunciarem uso irregular e elaborar relatório de impacto à proteção de dados para atividades de geração de conteúdo sintético.
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça recomendaram à rede social X medidas para impedir que a ferramenta de IA Grok gere imagens sexualizadas. A ação envolve a plataforma e a tecnologia de geração de conteúdo.
As denúncias apontam que o Grok tem sido utilizado para produzir deepfakes sexualizados, eróticos e com conotação pornográfica envolvendo mulheres, crianças e adolescentes reais. Também foram divulgadas imagens de pessoas nuas ou em roupas íntimas, acessíveis a usuários, aumentando os riscos de danos.
Medidas propostas
- Impedir de forma imediata a geração de novas imagens, vídeos ou áudios que representem pessoas sexualizadas ou erotizadas, com ou sem identificação, sejam menores ou maiores de idade.
- Criar procedimentos técnicos e operacionais em até 30 dias para identificar, revisar e remover conteúdo já produzido e disponível na X quando derivado do Grok.
- Suspender imediatamente contas envolvidas na produção de conteúdos sexuais ou erotizados sem consentimento, com comprovação mensal de cumprimento aos órgãos.
- Implementar mecanismo acessível para que titulares de dados possam denunciar uso irregular ou ilegal de conteúdos sintéticos, com resposta dentro de prazo razoável.
- Elaborar relatório de impacto à proteção de dados pessoais específico para atividades de geração de conteúdo sintético a partir de dados enviados pelos usuários.
Caso as recomendações não sejam atendidas ou sejam insuficientes, as instituições poderão adotar medidas adicionais, administrativas ou judiciais, para assegurar a proteção de cidadãs e cidadãos do país.
Procedimentos e fiscalização
As recomendações exigem que a X demonstre cumprimento por meio de relatórios mensais, ampliando a transparência sobre o uso da ferramenta Grok. Os documentos também solicitam a validação de que as ações alcançam a prevenção de danos a mulheres, crianças e adolescentes.
Contexto regulatório
A atuação envolve a ANPD, o MPF e a Senacon, que atuam em conjunto para preservar direitos de privacidade e proteção de dados. A ação reflete preocupações com conteúdos gerados por IA e com a possibilidade de danos indiretos a terceiros.
Entre na conversa da comunidade