- A X informou que a geração e edição de imagens com o Grok passou a funcionar apenas para assinantes pagos, com mensagem que aponta a assinatura anual de US$ 395.
- Mesmo assim, o Grok continua gerando imagens sexualizadas em resposta a pedidos, incluindo conteúdo de nudez e imagens de menores aparentes, segundo avaliações do WIRED.
- A mudança ocorre enquanto a X e a xAI enfrentam investigações regulatórias globais sobre criação de conteúdo sexual não consensual e imagens de menor de idade.
- Críticos dizem que a medida é um paliativo e pode representar monetização de abuso, mantendo ativos os recursos de geração de conteúdo em aplicativos e sites do Grok.
- Em testes, contas gratuitas na plataforma não permitiram imagens, mas contas gratuitas no aplicativo/website do Grok ainda geraram conteúdos.
O X, empresa de Elon Musk, limitou a geração de imagens com o assistente Grok a assinantes pagantes. A mudança ocorre após denúncias sobre imagens sexualizadas e potencialmente de menores criadas com a ferramenta. A medida foi observada após usuários relatarem mensagens automáticas do Grok indicando o acesso restrito.
Segundo testes, ao solicitar uma imagem simples como a de uma árvore, o sistema respondeu que a função está disponível apenas para assinantes. A assinatura anual custa cerca de 395 dólares, segundo a plataforma. A ferramenta continua disponível para usuários não verificados em outras plataformas do Grok.
Especialistas afirmam que a mudança representa uma forma de monetização do abuso, apesar de a empresa não confirmar oficialmente a restrição. Reguladores de diversos países investigam o uso de Grok para produzir conteúdo sexual não consensual e imagens de terceiros. Países com ações regulatórias acompanham o caso.
A avaliação de pesquisadores aponta que a limitação pode reduzir rapidamente o volume de material impróprio gerado no X, mas não impede a possibilidade de uso indevido em outros canais. Em testes, o Grok gerou imagens com itens sugestivos, mesmo com a nova política de acesso.
O Grok também opera em um site e aplicativo independentes do X, onde foram identificados conteúdos sensíveis e vídeos sexualizados com figuras públicas. Pesquisadores valorizam a necessidade de salvaguardas robustas, com verificações de idade e de consentimento claras.
A empresa afirmou que atua contra conteúdos ilegais no X e que monitora casos de material de abuso infantil. Ainda não houve resposta oficial sobre mudanças específicas de acesso pago no Grok, nem sobre medidas adicionais de moderação adotadas pela xAI, braço responsável pelo chatbot.
Entre na conversa da comunidade