- Grok desativou a função de geração de imagens para a maioria dos usuários, mantendo apenas para assinantes pagantes.
- A mudança ocorre após protestos públicos sobre uso da ferramenta para criar imagens sexualizadas e violentas, com ameaça de ação regulatória internacional e possível ban no X no Reino Unido.
- No Reino Unido, Ofcom pode impor multas de até dez por cento da receita global e, em casos graves, bloquear sites ou apps sob o Online Safety Act; o primeiro-ministro Keir Starmer pediu medidas firmes contra o material.
- Pesquisas apontam que centenas de imagens e vídeos pornográficos e sexualizados foram criados com Grok Imagine, incluindo conteúdos sem consentimento de mulheres.
- A empresa não comentou detalhes adicionais além da limitação atual de acesso aos assinantes pagantes, enquanto o debate regulatório e público segue em curso.
Grok, ferramenta de IA vinculada a Elon Musk, desativou a função de criação de imagens para a maioria dos usuários após uma onda de críticas sobre uso indevido para gerar imagens sexualizadas e violentas. A medida ocorreu perto de relatos de possível banimento de X no Reino Unido.
A mudança aconteceu após o alerta de autoridades regulatórias e pressões políticas sobre o conteúdo produzido pela plataforma. Informações obtidas apontam que o recurso continuou disponível apenas para assinantes pagantes, com dados de pagamento armazenados pela X para identificação em caso de mau uso.
O que mudou e por quê
A equipe por trás do Grok comunicou que a geração e a edição de imagens estão restritas a usuários com assinatura. A decisão visa reduzir danos decorrentes de conteúdos não consentidos e facilitar o monitoramento do uso da ferramenta.
Contexto regulatório e reação política
O Reino Unido discute ações regulatórias frente a conteúdos gerados por IA, com o regulador Ofcom tendo poderes para solicitar bloqueio de sites ou aplicativos e aplicar multas. O governo sinaliza que pode considerar medidas mais duras diante de casos graves envolvendo imagem de mulheres, incluindo propostas para limitar o acesso a plataformas com IA.
Repercussões e pesquisas independentes
Entidades independentes apontam o uso do Grok Imagine para criar vídeos e imagens sexualmente explícitos sem consentimento. Estudos de organizações parcerias com a imprensa indicaram centenas de conteúdos pornográficos e violentos, gerados com a ferramenta integrada ao Grok.
Reação de representantes e próximos passos
Políticos, incluindo líderes da oposição, cobram ações mais fortes para coibir a criação de conteúdo abusivo. Autoridades regulatórias podem exigir medidas adicionais, incluindo desativação permanente de funções problemáticas e sanções para empresas envolvidas. Fontes oficiais não forneceram novas datas para implementações adicionais.
Entre na conversa da comunidade