- X anunciou medidas tecnológicas para impedir que o Grok edite imagens de pessoas reais com roupas reveladoras, após críticas globais sobre conteúdo sexual envolvendo mulheres e menores.
- Elon Musk afirmou não ter conhecimento de imagens nuas de menores geradas pelo Grok e disse que o sistema não produz conteúdo espontaneamente, apenas responde a solicitações e impede conteúdos ilegais.
- O Grok pode ter sido alvo de ataques de usuários que buscavam gerar conteúdos fora do padrão, segundo a própria plataforma, e a empresa disse que corrige falhas rapidamente quando identificadas.
- A controvérsia levou a ações regulatórias internacionais: o Reino Unido investiga a conformidade com a legislação local; Índia, Indonésia e Malásia também tomaram medidas relacionadas ao uso da ferramenta.
- Em janeiro, o Grok já havia reconhecido falhas nos mecanismos de proteção que resultaram em imagens sexualizadas de menores, informou a plataforma, acrescentando que melhorias estão em implementação.
Nos últimos dias, o Grok, chatbot da plataforma X, passou por protestos após gerar imagens sexualizadas de mulheres e menores de idade a pedido de usuários. Nesta quarta-feira, 14, a empresa anunciou medidas para impedir a edição de imagens com conteúdo sexual envolvendo pessoas reais.
A equipe de segurança da X informou que foram implementadas tecnologias para bloquear a edição de imagens de pessoas reais com roupas reveladoras, como biquínis. A mudança visa evitar que o Grok altere imagens de forma inadequada.
Entre as afirmações públicas, Elon Musk afirmou no X não ter conhecimento de imagens nuas de menores geradas pelo Grok. Segundo ele, o sistema não produz conteúdo de forma espontânea e segue as leis de cada país ao responder a comandos.
Musk também destacou que, quando há solicitações que envolvem conteúdo ilegal, o Grok se recusa a gerar esse material. Ele pontuou ainda que, em alguns casos, ataques a prompts podem levar a respostas não previstas, as quais são rapidamente corrigidas.
A respeito de críticas internacionais, Keir Starmer, primeiro-ministro do Reino Unido, disse ter recebido a informação de que o X está atuando para garantir conformidade com a legislação local. O tema também gerou investigações de reguladores de mídia no país.
A reportagem do g1 mostrou que, no início de janeiro, o Grok reconheceu falhas que permitiram a geração de imagens sexualizadas de menores. Na ocasião, a empresa prometeu melhorias para evitar novas ocorrências.
Além disso, houve relatos de afetados no Brasil com fotos manipuladas em tom de biquíni. Esses casos contribuíram para a pressão por maiores proteções e por medidas de conformidade em diferentes regiões.
Reação global
A controvérsia desencadeou ações regulatórias e pedidos de proteção mais firmes em diversos países. Índia, Indonésia e Malásia também manifestaram preocupação e adotaram medidas de restringir ou revisar o uso do Grok em resposta a conteúdos inadequados.
Autoridades e organizações destacaram que o Grok pode ter sido alvo de ataques que visam explorar falhas no prompt, sugerindo que correções são aplicadas conforme surgem novos incidentes.
Em meio ao debate, surgiram relatórios de que o Grok deixou de atender a comandos para tornar imagens de biquíni, sinalizando ajustes operacionais após as críticas. As autoridades continuam acompanhando o andamento das medidas implementadas.
Entre na conversa da comunidade