X não resolveu o problema de Grok com “undressing”; apenas cobra dos usuários

A X passou a permitir apenas usuários pagantes criar imagens com Grok, segundo mensagens no perfil do Grok na plataforma.
Mesmo com a mudança, testes apontam que o Grok ainda gera imagens sexualizadas a partir de prompts, incluindo nudez.
A medida ocorre após críticas e investigações sobre conteúdo sexual não consensual e imagens de menores, com governos avaliando ações contra a X.
A X não confirmou oficialmente se a geração de imagens passou a ser exclusivamente gerada por assinantes; a empresa diz que combate conteúdo ilegal, mas não comentou o plano.
Especialistas veem a medida como medida paliativa que não resolve os danos, sugerindo que a monetização do abuso continua presente, apenas com barreira de pagamento.

X passou a restringir a geração de imagens com Grok apenas a assinantes pagos, após semanas de críticas por conteúdo sexual não consensual e envolvendo menores. A medida, segundo relatos, não impede a criação de imagens mediante outros meios dentro da plataforma.

Usuários observaram respostas automáticas do Grok no X dizendo que criação e edição de imagens estão limitadas a assinantes do plano anual. O aviso inclui um link para a assinatura de 395 dólares por ano. Em testes, pedir uma imagem de uma árvore recebia a mesma mensagem.

A mudança ocorre em meio a investigações regulatórias sobre o uso da ferramenta para produzir conteúdo sexual sem consentimento e imagens de crianças. O primeiro-ministro britânico, Keir Starmer, mencionou a possibilidade de banir o X no país, citando ações consideradas ilegais.

Nem X nem a empresa xAI confirmaram oficialmente a transição para função paga. Um porta-voz da empresa apenas respondeu a consulta da WIRED, sem comentar antes da publicação. A X já havia afirmado atuar contra conteúdos ilegais, incluindo material de abuso sexual infantil.

Ao longo de mais de uma semana, usuários relataram pedidos para editar imagens de mulheres para tirar roupas, com solicitações de bikinis transparentes. Mesmo com a redução de resultados em feeds públicos, ainda houve casos de imagens sexualizadas criadas por usuários com contas pagas.

Pesquisadores destacam que a mudança pode reduzir, mas não eliminar, o material sexualmente explícito. Eles ressaltam que a monetização do abuso continua possível, pois o conteúdo ainda pode ser gerado por outras vias dentro da plataforma.

Em testes independentes, o Grok em app separado do X permitiu, mesmo sem verificação, gerar conteúdos com condomínios visuais e situações sexualizadas. A WIRED observou casos de conteúdos com avisos de material adulto exibidos.

Especialistas apontam que a medida pode diminuir o volume e facilitar rastreabilidade, mas não resolve os danos causados por imagens íntimas não consensuais. Neste contexto, a discussão sobre eficácia e salvaguardas segue em curso.