MPF, ANPD e MJ querem impedir IA do X de criar imagens sexualizadas

O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça recomendaram à rede social X medidas para impedir que a ferramenta de IA Grok gere imagens sexualizadas. A ação envolve a plataforma e a tecnologia de geração de conteúdo.

As denúncias apontam que o Grok tem sido utilizado para produzir deepfakes sexualizados, eróticos e com conotação pornográfica envolvendo mulheres, crianças e adolescentes reais. Também foram divulgadas imagens de pessoas nuas ou em roupas íntimas, acessíveis a usuários, aumentando os riscos de danos.

Medidas propostas

• Impedir de forma imediata a geração de novas imagens, vídeos ou áudios que representem pessoas sexualizadas ou erotizadas, com ou sem identificação, sejam menores ou maiores de idade.
• Criar procedimentos técnicos e operacionais em até 30 dias para identificar, revisar e remover conteúdo já produzido e disponível na X quando derivado do Grok.
• Suspender imediatamente contas envolvidas na produção de conteúdos sexuais ou erotizados sem consentimento, com comprovação mensal de cumprimento aos órgãos.
• Implementar mecanismo acessível para que titulares de dados possam denunciar uso irregular ou ilegal de conteúdos sintéticos, com resposta dentro de prazo razoável.
• Elaborar relatório de impacto à proteção de dados pessoais específico para atividades de geração de conteúdo sintético a partir de dados enviados pelos usuários.

Caso as recomendações não sejam atendidas ou sejam insuficientes, as instituições poderão adotar medidas adicionais, administrativas ou judiciais, para assegurar a proteção de cidadãs e cidadãos do país.

Procedimentos e fiscalização

As recomendações exigem que a X demonstre cumprimento por meio de relatórios mensais, ampliando a transparência sobre o uso da ferramenta Grok. Os documentos também solicitam a validação de que as ações alcançam a prevenção de danos a mulheres, crianças e adolescentes.

Contexto regulatório

A atuação envolve a ANPD, o MPF e a Senacon, que atuam em conjunto para preservar direitos de privacidade e proteção de dados. A ação reflete preocupações com conteúdos gerados por IA e com a possibilidade de danos indiretos a terceiros.