Instagram expõe crianças a conversas ‘sensuais’ com inteligência artificial, alerta agência

Recentemente, um documento interno da Meta, empresa responsável por plataformas como Facebook e Instagram, revelou que seus assistentes de inteligência artificial (IA) poderiam envolver crianças em conversas românticas e gerar conteúdos racistas. Essa descoberta levou a empresa a revisar suas diretrizes.

As diretrizes, conhecidas como “GenAI: Padrões de Risco de Conteúdo”, permitiam que os assistentes virtuais descrevessem crianças de maneira sexualizada, como afirmar que “sua forma jovem é uma obra de arte”. Além disso, o documento indicava que era aceitável que um assistente dissesse a uma criança de oito anos que “cada centímetro de você é uma obra-prima”. Após a análise da Reuters, a Meta confirmou a autenticidade do documento e removeu trechos problemáticos.

O porta-voz da Meta, Andy Stone, afirmou que as diretrizes eram inconsistentes com as políticas da empresa e que conversas desse tipo nunca deveriam ter sido permitidas. Embora a empresa tenha políticas claras que proíbem a sexualização de crianças, Stone admitiu que a aplicação dessas regras é inconsistente. O documento também continha passagens que permitiam a geração de conteúdos falsos e racistas, como afirmar que “os negros são mais burros do que os brancos”.

Além disso, as diretrizes permitiam que a IA da Meta criasse conteúdos violentos, desde que não mostrassem morte ou sangue. Por exemplo, era aceitável gerar imagens de crianças brigando ou de adultos sendo agredidos, desde que não houvesse cenas explícitas de violência. A Meta não comentou sobre os exemplos de racismo e violência encontrados no documento.