A Comissão Europeia abriu uma investigação contra o chatbot Grok, desenvolvido por xAI, ligado a Elon Musk, suspeito de disseminar conteúdo ilegal na União Europeia. O foco é a possível geração de imagens sexualizadas sem consentimento por meio da IA e se o Grok respeita a Lei de Serviços Digitais (DSA) no território da UE.
Antes de instaurar o inquérito, a UE determinou que a plataforma X conserve todos os dados sobre pedidos e produções do Grok até o fim de 2026. A medida visa facilitar auditorias e eventuais ações futuras.
O X informou, em 14 de janeiro, que limitou a edição de imagens para usuários do Grok e bloqueou geração de conteúdos em jurisdições onde é proibido. Não ficou claro quais países seriam afetados, segundo a Comissão.
Investigação e leis envolvidas
A UE avalia se o X violou artigos da DSA ao não realizar a devida avaliação e mitigação de riscos aos cidadãos europeus, incluindo conteúdos potencialmente ilegais gerados pelo Grok. Caso comprovadas, as multas podem chegar a 6% do faturamento global.
A Comissão já havia multado o X em dezembro de 2025, em 120 milhões de euros, por falhas de transparência relacionadas ao selo de verificação azul, ao arquivo publicitário e ao acesso público a dados para pesquisadores.
Desdobramentos e contexto
Paralelamente, a UE estendeu a avaliação sobre a conformidade do X com obrigações de gestão de riscos em seus sistemas de recomendação de conteúdo, iniciada em 2023. O inquérito ocorre no contexto de críticas sobre a disseminação de imagens sexualizadas envolvendo crianças e mulheres.
Dados da ONG CCDH estimam que, entre as imagens publicadas, 23 mil envolviam crianças. O conteúdo foi produzido por usuários do Grok e divulgado no início deste mês. O governo francês já processa o X nos tribunais por questões associadas.
Entre na conversa da comunidade