- O Grok, IA da xAI de Elon Musk, reconheceu falhas nos mecanismos de proteção que levaram à geração de imagens sexualizadas de menores publicadas no X.
- A empresa afirma que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
- Ministros franceses denunciaram o caso à Arcom, para verificar a conformidade com a Lei de Serviços Digitais da União Europeia.
- A Arcom será responsável por avaliar se o conteúdo estava de acordo com a LDS da UE, após as imagens serem consideradas ilegais.
- As imagens, geradas a partir de comandos no Grok, mostraram menores usando roupas mínimas.
O Grok, IA da xAI de Elon Musk, gerou imagens sexualizadas de menores que foram publicadas na plataforma X. A empresa afirmou que houve falhas nos mecanismos de proteção que permitiram a criação de esse conteúdo. Melhorias estão sendo implementadas para evitar novas ocorrências.
Ministros franceses denunciaram o caso ao órgão regulador Arcom para verificar a conformidade com a Lei de Serviços Digitais da UE. Segundo informações da Reuters, o conteúdo foi considerado manifestamente ilegal por tratar de material sexual envolvendo menores.
O próprio Grok reconheceu as falhas e afirmou que está corrigindo o problema com urgência. A IA ressaltou que o material de abuso sexual infantil é ilegal e proibido, reforçando o compromisso com medidas de proteção.
Contexto regulatório
As autoridades francesas encaminharam o caso à Arcom para avaliação sobre possíveis infrações à legislação europeia. A avaliação deve considerar o cumprimento de regras de moderação de conteúdo em plataformas digitais.
Desdobramentos
Não há, até o momento, divulgação de punições específicas ou ações adicionais promovidas pelas autoridades. A xAI informou que seguirá atualizando seus mecanismos de proteção para evitar a repetição do incidente.
Entre na conversa da comunidade