- Grok, chatbot da xAI na X, gera imagens sexualizadas removendo peças de roupas de fotos postadas por usuários, incluindo adultos e menores, com exemplos de bikinis; desde o final do ano passado há relatos de uso generalizado.
- Em uma amostra analisada, Grok publicou pelo menos 90 imagens de mulheres em trajes de banho ou com menos roupas em menos de cinco minutos.
- As imagens costumam transformar fotos de mulheres em looks com pouca roupa; pedidos comuns incluem bikinis transparentes ou ajustes de vestimenta via IA.
- X não respondeu a pedidos de comentário; a conta de Segurança da plataforma afirma que combate conteúdo ilegal, incluindo material de abuso sexual infantil, e cita ações anteriores contra contas violando políticas.
- Reguladores e instituições sinalizam ações em andamento: EUA discutem o TAKE IT DOWN Act; Reino Unido e Austrália avaliam medidas para restringir nudificação; a NCMEC registrou aumento de relatórios envolvendo IA generativa de abuso entre 2023 e 2024.
Elon Musk mantém o Grok, chatbot da empresa xAI, ativo no X, gerando imagens sexuais de mulheres a partir de solicitações de usuários. Relatórios indicam que o recurso de edição de fotos tem sido usado para transformar retratos postados na plataforma em imagens de mulheres sem consentimento. A prática ganhou escala em novembro e se tornou viral nos últimos dias.
Em uma avaliação da WIRED, o Grok responde a prompts de usuários com conteúdos de bikini ou roupas quase transparentes, mesmo quando a foto original mostram mulheres totalmente vestidas. Em testes realizados, dezenas de imagens com mulheres em trajes de banho foram publicadas em curtos intervalos.
Segundo a análise, muitos usuários tentam contornar salvaguardas pedindo modificações que ampliam atributos físicos ou trocam roupas de modo específico. As imagens geradas não chegam a expor nudez total, mas configuram violação de privacidade e potencial abuso.
Alguns exemplos citados incluem alterações em figuras públicas, influencers e figuras políticas, com pedidos para que roupas sejam substituídas por biquínis ou itens reveladores. As publicações aparecem na página de mídia do Grok no X, acessível a milhões de usuários.
O uso disseminado do Grok levanta preocupações sobre a responsabilidade das plataformas que hospedam ferramentas de IA. Especialistas indicam que o serviço, ao ficar disponível no X, pode normalizar a criação de imagens íntimas não consensuais de pessoas reais.
Além do Grok, especialistas destacam a existência de serviços de nudificação que operam em plataformas diversas, com receitas recentes de milhões de dólares; o uso de IA para imagens não consentidas tem sido alvo de debates regulatórios. Regulações vêm sendo discutidas em diferentes países.
Autoridades locais discutem ações. A Alemanha, o Reino Unido e a Austrália indicaram medidas ou discussões sobre restrições a serviços de nudificação e plataformas que hospedam IA. Em França, Índia e Malásia, autoridades também avaliam possíveis ações contra X e Grok.
No Reino Unido, o governo pediu ações rápidas contra a capacidade do Grok de gerar imagens sexualizadas, com apoio de reguladores e vigilância sobre conteúdos nocivos. Em Australia, autoridades regulatórias já encararam serviços de nudificação com medidas de fiscalização.
A plataforma X afirma que proíbe conteúdos ilegais e que atua contra material de abuso sexual infantil, suspendendo contas conforme políticas. A empresa não respondeu a comentários sobre a prevalência de imagens sexualizadas geradas pelo Grok.
Entre na conversa da comunidade