Condenação do chatbot de Elon Musk atinge ponto crítico após raid francês

Ações globais estão investigando a X após uso do Grok para criar deepfakes sexuais; a repressão ganhou status de “ponto de virada” depois de uma operação na França.
A comissária de eSafety, Julie Inman Grant, afirmou que governos já analisam o tema e que houve condenação global de tecnologia mal desenvolvida que pode gerar material de abuso infantil.
A X desligou a geração de imagens do Grok para todos os usuários, exceto os pagantes, e prometeu mudanças para evitar a nudez de pessoas reais.
O relatório mais recente da eSafety aponta avanços e deficiências nas plataformas, com notificações a Apple, Discord, Google, Meta, Microsoft, Skype e WhatsApp exigindo atualizações a cada seis meses.
Entre os avanços, Microsoft passou a detectar material de abuso infantil no OneDrive e em anexos do Outlook; a Snap reduziu o tempo de processamento de denúncias; o Google passou a usar avisos que desfocam imagens de nudez.

O comitê de fiscalização australiana e outras nações intensificaram investigações sobre a X, empresa de Elon Musk, após o uso do chatbot Grok para produzir imagens sexualizadas. A ação ocorreu após uma operação policial na França contra a sede da empresa.

A comissária de eSafety, Julie Inman Grant, afirmou que o foco regulatório global sobre a X atingiu um “ponto crítico” após o raid em Paris. Países como Reino Unido, Austrália e a União Europeia também avançam em apurações sobre Grok e conteúdos gerados pela IA.

O incidente na França, na terça-feira, integra uma linha de investigações sobre a produção de deepfakes sexuais de mulheres e crianças, bem como supostos crimes relacionados. As investigações consideram ainda violação de direitos de imagem e outras acusações.

Mudança no cenário regulatório

Inman Grant disse à Guardian Australia que é encorajador ver reguladores, pesquisadores e equipes de proteção trabalhando em conjunto. Ela classificou o momento como um divisor de águas, com condenação global a tecnologias desenvolvidas de forma descuidada.

Após a repercussão, a X desativou a geração de imagens do Grok para usuários não pagantes, mantendo apenas para assinantes. A empresa também prometeu mudanças para evitar que pessoas desnudem outras pessoas sem consentimento.

O relatório mais recente do eSafety, divulgado nesta semana, analisa como plataformas tecnológicas previnem abusos sexuais infantis. Notificações enviadas em julho de 2024 a Apple, Discord, Google, Meta, Microsoft, Skype e WhatsApp requisitaram atualizações semestrais.

Grant apontou avanços, como detecção de material de abuso conhecido e prevenção de transmissões ao vivo fora de apps de mensagens. No entanto, ela afirmou que as plataformas ainda deixam falhas na detecção.

Apple, segundo a comissária, avançou mais na implementação de recursos de segurança. Em 2024, a empresa introduziu ferramentas para encaminhar denúncias de nudez de menores às autoridades. Ainda assim, falhas permanecem em serviços como FaceTime e outras plataformas.

Algumas companhias tiveram melhorias em serviços como OneDrive, Outlook e Google, com avisos de conteúdo sensível e redução de tempo de resposta a imagens de abuso. Os próximos passos incluem novos relatórios de transparência pela eSafety.

X não integrou as notificações formais e contestou o edital de março de 2024 em um caso que permanece em andamento. A comissão brasileira destacou que os reguladores seguem monitorando o cumprimento das normas pelas grandes plataformas.