- A Comissão Europeia abriu inquérito contra o Grok, chatbot de inteligência artificial de Elon Musk, para avaliar possível violação da Lei de Serviços Digitais na União Europeia, incluindo geração de imagens sexualizadas sem consentimento.
- A UE solicitou à X a preservação de todos os dados sobre pedidos e produções do Grok até o fim de 2026.
- A X informou ter restringido a edição de imagens para o Grok e impedido usuários de gerar conteúdo onde isso é ilegal, mas a Comissão Europeia afirmou que a medida não atende aos requisitos.
- O inquérito decorre após polêmicas envolvendo imagens de crianças e mulheres nuas geradas pela IA, levando o governo francês a processar o X.
- A Comissão pode aplicar multas de até 6% do faturamento global por violações da Lei de Serviços Digitais; a UE já multou o X em 120 milhões de euros em dezembro de 2025 por questões de transparência.
A Comissão Europeia abriu uma investigação contra o chatbot Grok, desenvolvido por xAI, ligado a Elon Musk, suspeito de disseminar conteúdo ilegal na União Europeia. O foco é a possível geração de imagens sexualizadas sem consentimento por meio da IA e se o Grok respeita a Lei de Serviços Digitais (DSA) no território da UE.
Antes de instaurar o inquérito, a UE determinou que a plataforma X conserve todos os dados sobre pedidos e produções do Grok até o fim de 2026. A medida visa facilitar auditorias e eventuais ações futuras.
O X informou, em 14 de janeiro, que limitou a edição de imagens para usuários do Grok e bloqueou geração de conteúdos em jurisdições onde é proibido. Não ficou claro quais países seriam afetados, segundo a Comissão.
Investigação e leis envolvidas
A UE avalia se o X violou artigos da DSA ao não realizar a devida avaliação e mitigação de riscos aos cidadãos europeus, incluindo conteúdos potencialmente ilegais gerados pelo Grok. Caso comprovadas, as multas podem chegar a 6% do faturamento global.
A Comissão já havia multado o X em dezembro de 2025, em 120 milhões de euros, por falhas de transparência relacionadas ao selo de verificação azul, ao arquivo publicitário e ao acesso público a dados para pesquisadores.
Desdobramentos e contexto
Paralelamente, a UE estendeu a avaliação sobre a conformidade do X com obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo, iniciada em 2023. O inquérito ocorre no contexto de críticas sobre a disseminação de imagens sexualizadas envolvendo crianças e mulheres.
Dados da ONG CCDH estimam que, entre as imagens publicadas, 23 mil envolviam crianças. O conteúdo foi produzido por usuários do Grok e divulgado no início deste mês. O governo francês já processa o X nos tribunais por questões associadas.
Entre na conversa da comunidade