- Em dezembro, a X atualizou o Grok, seu modelo de IA, com gerador de imagens por prompt, permitindo manipular fotos sem consentimento e sem opção de saída.
- O uso do Grok levou a conteúdos ilegais, incluindo CSAM e deepfakes de celebridades e não celebridades, além de imagens com conotação extremista; prompts virais pediam, por exemplo, “coloque calcinha com suástica”.
- Autoridades de vários países investigam a plataforma e discutem medidas contra a X, incluindo remoção de apps das lojas (Google e Apple) e possíveis banimentos. No Brasil, União Europeia e Reino Unido pressionam por atuação regulatória; EUA discutem responsabilidades legais sob a Seção 230.
- A X afirma remover conteúdo ilegal e incentivar denúncias, mas críticos apontam lentidão e falhas na moderação, além de questionamentos sobre restrições da ferramenta e mudanças na equipe de segurança.
- Indonésia e Malásia foram os primeiros a banir temporariamente o Grok; a UE prepara alterações regulatórias para serviços online, com multas anteriores à X e possível endurecimento de regras.
Elon Musk enfrenta forte pressão internacional por conteúdo gerado por IA na X (antiga Twitter). Em dezembro, a X atualizou o Grok, seu modelo de IA generativa, com gerador de imagens por prompt. A nova versão adicionou a função de prompt a todas as imagens, sem opção de opt-out.
Essa mudança provocou uso indevido: usuários criaram conteúdos abusivos, incluindo material sexual infantil e deepfakes não consensuais de celebridades e de pessoas comuns, além de imagens com símbolos fascistas. Prompts virais sugeriam tornar mulheres nuas ou com símbolos explícitos.
Em resposta, autoridades e governos de diversos países passaram a discutir restrições à plataforma. Países como Canadá, Irlanda, Reino Unido e outras nações notaram aumento de conteúdo ilegal e estudam ações regulatórias ou sanções.
Reação internacional e medidas regulatórias
Com base em leis locais, várias autoridades pedem remoção de conteúdo ilegal dentro de prazos legais. A União Europeia sinaliza reforço de fiscalização sob o Digital Services Act, enquanto já multou a X por conteúdos inaceitáveis gerados pela IA.
Na prática, autoridades de alguns países avaliam banimentos ou restrições à X e ao Grok. Indonésia e Malásia foram os primeiros a suspender temporariamente o uso da ferramenta, diante de preocupações com conteúdos abusivos e sem consentimento.
Posição legal e cenário nos EUA
Nos Estados Unidos, a lei impõe obrigações sobre remoção de imagens sexualmente explícitas sem consentimento, incluindo conteúdo criado por IA, mas há incerteza sobre quem é responsável pela geração: usuário ou ferramenta. O Departamento de Justiça promete agir contra produtores de CSAM.
No entanto, o atual embate político complica ações mais firmes. Observadores apontam que o apoio de aliados de Washington a Musk pode atenuar movimentos regulatórios nos EUA, enquanto legisladores de diferentes frentes avaliam medidas que variariam de responsabilização a alterações em regras de privacidade e moderação.
Panorama técnico e empresarial
Antes da atualização, especialistas já alertavam sobre riscos de ferramentas de prompt abertas a abusos. A X afirma que trabalha para remover imagens ilegais e incentiva denúncias a autoridades, mas críticos questionam a efetividade das medidas até o momento.
Além disso, há questionamentos sobre a capacidade de fiscalização global diante do tamanho da plataforma, que soma centenas de milhões de usuários ativos. Reguladores internacionais avaliam impor regras mais rígidas ou confrontar a empresa em diferentes jurisdições.
Entre na conversa da comunidade