Elon Musk enfrenta forte pressão internacional por conteúdo gerado por IA na X (antiga Twitter). Em dezembro, a X atualizou o Grok, seu modelo de IA generativa, com gerador de imagens por prompt. A nova versão adicionou a função de prompt a todas as imagens, sem opção de opt-out.
Essa mudança provocou uso indevido: usuários criaram conteúdos abusivos, incluindo material sexual infantil e deepfakes não consensuais de celebridades e de pessoas comuns, além de imagens com símbolos fascistas. Prompts virais sugeriam tornar mulheres nuas ou com símbolos explícitos.
Em resposta, autoridades e governos de diversos países passaram a discutir restrições à plataforma. Países como Canadá, Irlanda, Reino Unido e outras nações notaram aumento de conteúdo ilegal e estudam ações regulatórias ou sanções.
Reação internacional e medidas regulatórias
Com base em leis locais, várias autoridades pedem remoção de conteúdo ilegal dentro de prazos legais. A União Europeia sinaliza reforço de fiscalização sob o Digital Services Act, enquanto já multou a X por conteúdos inaceitáveis gerados pela IA.
Na prática, autoridades de alguns países avaliam banimentos ou restrições à X e ao Grok. Indonésia e Malásia foram os primeiros a suspender temporariamente o uso da ferramenta, diante de preocupações com conteúdos abusivos e sem consentimento.
Posição legal e cenário nos EUA
Nos Estados Unidos, a lei impõe obrigações sobre remoção de imagens sexualmente explícitas sem consentimento, incluindo conteúdo criado por IA, mas há incerteza sobre quem é responsável pela geração: usuário ou ferramenta. O Departamento de Justiça promete agir contra produtores de CSAM.
No entanto, o atual embate político complica ações mais firmes. Observadores apontam que o apoio de aliados de Washington a Musk pode atenuar movimentos regulatórios nos EUA, enquanto legisladores de diferentes frentes avaliam medidas que variariam de responsabilização a alterações em regras de privacidade e moderação.
Panorama técnico e empresarial
Antes da atualização, especialistas já alertavam sobre riscos de ferramentas de prompt abertas a abusos. A X afirma que trabalha para remover imagens ilegais e incentiva denúncias a autoridades, mas críticos questionam a efetividade das medidas até o momento.
Além disso, há questionamentos sobre a capacidade de fiscalização global diante do tamanho da plataforma, que soma centenas de milhões de usuários ativos. Reguladores internacionais avaliam impor regras mais rígidas ou confrontar a empresa em diferentes jurisdições.
Entre na conversa da comunidade