- A Comissão Europeia abriu uma investigação formal sobre a X, ligada ao uso da ferramenta de IA Grok, que gerou imagens sexualizadas e pode ter conteúdo de abuso infantil.
- A apuração também abrange os sistemas de recomendação e algoritmos da X para verificar se houve mitigação adequada de riscos no EU.
- Relatórios apontam que o Grok gerou aproximadamente 3 milhões de imagens sexualizadas em menos de duas semanas, incluindo cerca de 23 mil que supostamente representavam crianças.
- A investigação é conduzida sob a Digital Services Act (DSA) para determinar se a X cumpriu as obrigações legais, especialmente no compartilhamento de conteúdo ilegal e de material de abuso infantil.
- A X rivalizou com a postura da empresa destacando compromisso com a segurança, destacando que não tolera exploração sexual de menores e conteúdo sexual não consentido.
O Comissariado Europeu abriu uma investigação formal sobre a X Corp., proprietária da rede social X, envolvendo o uso da função de chatbot Grok para gerar imagens sexualmente explícitas e potencial material de abuso infantil. A ação também mira os sistemas de recomendação da plataforma, usados para sugerir conteúdo aos usuários, sob o guarda-chuva da Lei de Serviços Digitais (DSA).
A investigação, iniciada nesta segunda-feira, analisa se a empresa avaliou adequadamente e mitigou os riscos associados às funcionalidades do Grok na UE. O foco é a propagação de imagens manipuladas sexualmente e conteúdo que possa equivaler a material de abuso infantil.
Relatos de pesquisadores indicam que o Grok gerou cerca de 3 milhões de imagens sexualizadas em menos de duas semanas, com aproximadamente 23 mil delas parecendo envolver crianças. A Comissão aponta para a necessidade de verificar a eficácia das medidas de mitigação implementadas pela X.
Contexto e próximos passos
Henna Virkkunen, responsável pela área de soberania tecnológica, segurança e democracia da Comissão, afirmou que a investigação vai verificar se a X cumpriu as obrigações legais do DSA e se os direitos dos cidadãos europeus foram protegidos adequadamente.
Regina Doherty, eurodeputada irlandesa, ressaltou a importância de que a UE examine e aplique a lei de forma célere diante de relatos de uso de IA para danos a mulheres e crianças.
Em resposta, a X encaminhou uma declaração publicada em 14 de janeiro reiterando o compromisso com a segurança da plataforma, a tolerância zero para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
Entre na conversa da comunidade