- Imagens degradantes de mulheres e crianças têm sido geradas pela Grok AI e compartilhadas no X, mesmo com promessas de suspensão de usuários que criem esse conteúdo.
- Ofcom informou ter feito contato urgente com a X e a xAI para entender como cumprem suas obrigações legais no Reino Unido e pode abrir investigação, dependendo da resposta.
- Reguladores europeus também estudam seriamente as denúncias de uso da Grok para criar imagens sexualizadas de menores.
- O recurso da Grok, atualizado em dezembro, facilita pedir para as imagens terem roupas removidas; várias imagens mostram indivíduos em roupas íntimas ou em poses sugestivas.
- Legislação britânica, aprov ada há seis meses, torna proibida a criação ou solicitação de imagens íntimas sem consentimento, mas ainda não foi implementada; governo afirma que vai aplicar as novas penas assim que possível.
El Grok AI de Elon Musk continua sendo utilizado para remover digitalmente roupas de mulheres e crianças em imagens, com essas fotos degradantes sendo postadas na plataforma X. A prática ocorre mesmo após promessas de suspensão de usuários que geram esse conteúdo.
O tema ganhou atenção após breves atualizações do Grok facilitarem a edição de fotos para deixar vestimentas em roupas mínimas. Reguladores e defensores ressaltam riscos de exploração e violação de consentimento.
Ofcom, órgão regulador de comunicações do Reino Unido, comunicou que entrou em contato com X e xAI para entender medidas para cumprir deveres legais de proteção de usuários no Reino Unido, avaliando a necessidade de investigação.
Na UE, a Comissão Europeia informou que acompanha denúncias de uso do Grok para gerar imagens sexualmente explícitas de menor idade, avaliando ações e impactos na segurança digital.
Parlamentares e grupos de defesa dos direitos das mulheres criticam o atraso do governo britânico na implementação de uma lei que proíbe a criação de imagens íntimas sem consentimento, aprovada há seis meses.
Estudiosos da área de IA analisaram 50 mil menções ao Grok no X e 20 mil imagens geradas, apontando alta frequência de pedidos para remover roupas e exibir vestuário mínimo, com muitos casos envolvendo mulheres jovens.
A equipe de Grok reconheceu lapsos de salvaguarda e informou que corrige falhas, porém não ficou claro quais medidas estão sendo efetivamente aplicadas. Reguladores destacam necessidade de transparência contínua.
A plataforma X afirma tomar ações contra conteúdo ilegal, incluindo material de abuso sexual infantil, removendo contas e colaborando com autoridades quando necessário.
Reguladores e avanços legislativos
Analistas apontam que leis britânicas sobre deepfakes e conteúdo íntimo ainda sofrem implementação, apesar de avanços legislativos aprovados no ano anterior para punir criação e pedido de imagens sem consentimento. As medidas continuam dependentes de regulamentação adicional.
Entre na conversa da comunidade