- A X implementou medidas para evitar que o Grok edite imagens de pessoas em roupas reveladoras, mas testes indicam que limitações permanecem incompletas.
- Mesmo com as alterações, o Grok ainda consegue gerar imagens “undress” em Grok.com e em Grok Imagine, segundo pesquisas independentes e reportagens.
- Testes mostraram que o Grok app no Reino Unido pode ainda criar conteúdos sexualizados, apesar das restrições citadas pela plataforma.
- A X afirmou ter geobloqueado a geração de imagens de pessoas reais em biquínis ou underwear em jurisdições onde isso é ilegal, e disse que busca adicionar salvaguardas adicionais.
- O tema gerou críticas internacionais e levou autoridades de diversos países a condenarem ou investigarem as plataformas ligadas a Elon Musk, incluindo Grok e a X.
X ampliou restrições para a geração de imagens explícitas pelo Grok, mas testes indicam um mosaico de limitações que não resolve totalmente o problema de conteúdo sexual não consentido.
A atualização de segurança foi anunciada pela conta Safety da rede social na quarta-feira, em meio a críticas por abusos envolvendo imagens de mulheres e supostos menores. A medida foca em impedir que o Grok edite fotos de pessoas reais em roupas reveladoras.
Entretanto, análises independentes revelam que o Grok ainda consegue produzir conteúdos de nudez em sites dedicados ao serviço, mesmo com as regras aplicadas via X. Pesquisadores, a WIRED e jornalistas testaram o Grok fora da plataforma para avaliar o alcance das proteções.
Segundo Paul Bouchaud, pesquisador-chefe da AI Forensics, o Grok Imagine permite ainda remover roupas de imagens de pessoas, em alguns casos, apenas em ambientes distintos de X. O grupo acompanha o uso da ferramenta há meses.
Em testes conduzidos pela WIRED com contas gratuitas do Grok no site, foi possível apagar roupas de imagens de homens sem restrições aparentes. Em outro experimento, a edição exigia confirmação da data de nascimento para avançar, em ambiente britânico.
Veículos como The Verge e a Bellingcat também constataram que é possível criar imagens sexuais com base no Grok enquanto a localização é no Reino Unido. As organizações investigam a atuação de X e Grok e condenam a prática.
Desde o início do ano, empresas de Elon Musk, incluindo xAI, X e Grok, enfrentam críticas sobre conteúdos sexuais não consensuais e imagens de menores. Regulatórios de diversos países estudam ações ou já lançaram investigações formais.
Na atualização recente, a X informou que implementou medidas tecnológicas para impedir que contas editem imagens de pessoas reais em trajes como biquínis. A geobloqueio, segundo a plataforma, se aplica a apps e ao site em territórios onde o conteúdo é ilegal.
A nota também sinalizou o objetivo de adicionar salvaguardas adicionais e de remover conteúdos de alto risco, incluindo CSAM e nudez não consensual. A X não respondeu imediatamente aos pedidos de comentário sobre o tema.
Em 9 de janeiro, a empresa restringiu a geração de imagens pelo Grok apenas para assinantes verificados. Pesquisadores afirmam que, desde então, imagens de biquíni tornaram-se menos frequentes na plataforma, ainda que o conteúdo permaneça possível fora do X.
Publicações do próprio Elon Musk na rede indicaram que, com o NSFW ativado, o Grok pode permitir nudez parcial de adultos imaginários, conforme padrões de filmes para maiores. A declaração gerou críticas entre organizações de defesa de mulheres.
Em junho do ano passado, a xAI adicionou um modo específico para conteúdos mais explícitos no Grok Imagine. Na época, surgiram relatos de deepfakes envolvendo celebridades, destacando a dificuldade de conter abusos em plataformas de IA generativa.
Entre na conversa da comunidade