Grok, ferramenta de IA vinculada a Elon Musk, desativou a função de criação de imagens para a maioria dos usuários após uma onda de críticas sobre uso indevido para gerar imagens sexualizadas e violentas. A medida ocorreu perto de relatos de possível banimento de X no Reino Unido.
A mudança aconteceu após o alerta de autoridades regulatórias e pressões políticas sobre o conteúdo produzido pela plataforma. Informações obtidas apontam que o recurso continuou disponível apenas para assinantes pagantes, com dados de pagamento armazenados pela X para identificação em caso de mau uso.
O que mudou e por quê
A equipe por trás do Grok comunicou que a geração e a edição de imagens estão restritas a usuários com assinatura. A decisão visa reduzir danos decorrentes de conteúdos não consentidos e facilitar o monitoramento do uso da ferramenta.
Contexto regulatório e reação política
O Reino Unido discute ações regulatórias frente a conteúdos gerados por IA, com o regulador Ofcom tendo poderes para solicitar bloqueio de sites ou aplicativos e aplicar multas. O governo sinaliza que pode considerar medidas mais duras diante de casos graves envolvendo imagem de mulheres, incluindo propostas para limitar o acesso a plataformas com IA.
Repercussões e pesquisas independentes
Entidades independentes apontam o uso do Grok Imagine para criar vídeos e imagens sexualmente explícitos sem consentimento. Estudos de organizações parcerias com a imprensa indicaram centenas de conteúdos pornográficos e violentos, gerados com a ferramenta integrada ao Grok.
Reação de representantes e próximos passos
Políticos, incluindo líderes da oposição, cobram ações mais fortes para coibir a criação de conteúdo abusivo. Autoridades regulatórias podem exigir medidas adicionais, incluindo desativação permanente de funções problemáticas e sanções para empresas envolvidas. Fontes oficiais não forneceram novas datas para implementações adicionais.
Entre na conversa da comunidade