- A Ofcom abriu uma investigação sobre a X, de Elon Musk, para verificar se as imagens sexualmente íntimas geradas pelo Grok violam o dever de proteger o público no Reino Unido.
- A agência aponta relatos de que o Grok criou e compartilhou imagens nuas de pessoas e imagens sexualizadas de crianças, possivelmente configurando abuso de imagem ou material de pornografia infantil.
- A ação ocorre após o premier Keir Starmer classificar as imagens como “desagradáveis” e “ilícitas”; Ofcom tem o apoio do governo para tomar medidas.
- Criar ou compartilhar imagens íntimas sem consentimento, incluindo conteúdo gerado por IA, é ilegal no Reino Unido; plataformas devem impedir que usuários britânicos acessem esse conteúdo e removê-lo quando identificado.
- A X limitou o Grok a usuários pagantes e afirmou que remove todo conteúdo ilegal e suspende contas envolvidas; em casos graves, pode pedir a retirada de serviços de pagamento ou o bloqueio por provedores de internet.
Britain’s media regulator Ofcom abriu uma investigação para apurar se a plataforma X, de Elon Musk, violou seu dever de proteger o público britânico contra conteúdos potencialmente ilegais ao permitir imagens íntimas geradas pelo Grok AI.
A investigação mira especificamente se o Grok produz imagens sexualizadas sem consentimento e se houve risco de abuso de menores. A ação ocorre em meio a críticas de autoridades e do público sobre o conteúdo gerado pela ferramenta.
Ofcom aponta que a criação ou divulgação de imagens íntimas não consensuais ou de abuso infantil, inclusive com uso de IA, é crime no Reino Unido. O regulador também exige que plataformas impeçam usuários britânicos de encontrar esse conteúdo e o removam quando identificado.
Contexto regulatório
A disputa vem após cobranças públicas de que Grok gerou conteúdos sexualizados envolvendo mulheres e menores. O governo tem apoiado ações regulatórias para coibir esse tipo de imagem e reforçar mecanismos de remoção rápida.
Situação atual e próximos passos
O regulamento pode levar a medidas mais duras, como exigência de retirada de serviços de pagamento ou de anunciantes, ou até bloqueio de acesso à plataforma no país. X não respondeu a pedidos de comentário sobre a investigação.
X informou anteriormente que remove todo conteúdo ilegal e suspende contas envolvidas, além de restringir o recurso Grok a usuários pagantes. A empresa também afirmou que quem pedir ou produzir conteúdo ilegal enfrentará as mesmas consequências de quem coloca esse material no ar.
Relatórios adicionais indicam que autoridades de outros países também pressionam pela fiscalização do Grok, com ações envolvendo reguladores e promotores. A investigação de Ofcom segue sob análise com prazo não divulgado.
Entre na conversa da comunidade