UNICEF pede criminalização de conteúdo de IA que retrata abuso sexual infantil

A UNICEF pediu que países criminalizem a criação de conteúdo de abuso infantil gerado por IA e adotem salvaguardas desde o design.
A organização informou aumento de imagens sexualizando crianças produzidas por IA, citando 1,2 milhão de crianças com imagens manipuladas em 11 países no último ano.
Recomenda que empresas fortalecerem a moderação de conteúdo e invistam em tecnologias de detecção para impedir a circulação dessas imagens.
O Reino Unido anunciou planos de tornar ilegal o uso de ferramentas de IA para criar imagens de abuso infantil, sendo o primeiro país a adotar essa medida.
A Reuters aponta preocupações com o uso de IA em conteúdos de abuso, citando o caso do Grok, chatbot da xAI, que teria gerado imagens sexualizadas apesar de avisos de não consentimento; a empresa afirmou ter restringido edições de imagem e bloqueado usuários por localização.

UNICEF pediu nesta quarta-feira que os países criminalizem a criação de conteúdo de abuso sexual de crianças gerado por inteligência artificial. A agência afirma haver aumento reportado de imagens sexualizadas de menores produzidas por IA.

A organização destacou a necessidade de abordagens de segurança desde o design e de barreiras para evitar o uso indevido de modelos de IA. Também pediu que empresas digitais reforcem a moderação de conteúdo com tecnologias de detecção.

Segundo a UNICEF, o dano do abuso por meio de deepfakes é real e urgente, e crianças não podem esperar pela atualização da legislação. Deepfakes são imagens, vídeos e áudios gerados por IA que simulam pessoas reais.

A UNICEF também manifestou preocupação com a chamada “nudificação” de crianças, prática de usar IA para retirar ou alterar roupas em fotos, criando imagens nuas ou sexualizadas.

Dados da UNICEF apontam que, no último ano, pelo menos 1,2 milhão de crianças em 11 países tiveram imagens manipuladas para fins sexualizados em deepfakes.

No fim de janeiro, o Reino Unido anunciou planos para tornar ilegal o uso de ferramentas de IA na criação de imagens de abuso infantil, destacando-se como o primeiro país a adotar a medida.

As preocupações com IA e abuso infantil aumentaram nos últimos anos, em meio a debates sobre ferramentas como Grok, chatbot da xAI, de propriedade de Elon Musk, que já foi criticado por produzir imagens sexualizadas de mulheres e menores.

Uma investigação da Reuters mostrou que o Grok continuou gerando imagens sexualizadas mesmo quando usuários avisaram que as pessoas não tinham consentimento, gerando questionamentos regulatórios.

A xAI afirmou, em 14 de janeiro, ter restringido edições de imagem para usuários do Grok e bloqueado, com base na localização, a geração de imagens de pessoas em trajes reveladores em jurisdições onde isso é ilegal, sem identificar os países.