- A UNICEF pediu a criminalização da criação de conteúdo de abuso sexual infantil gerado por IA e alertou sobre o aumento de imagens sexualizando crianças.
- A agência também pediu que desenvolvedores adotem abordagens de segurança desde o design e que haja barreiras para evitar usos indevidos de modelos de IA.
- Empresas digitais devem fortalecer a moderação de conteúdo e investir em tecnologias de detecção para impedir a circulação dessas imagens.
- Pelo menos 1,2 milhão de crianças em 11 países tiveram imagens manipuladas em deepfakes sexualizados no último ano.
- A Grã-Bretanha anunciou planos de tornar ilegal usar ferramentas de IA para criar imagens de abuso infantil, sendo o primeiro país a adotar a medida.
UNICEF pediu que governos criminalizem a criação de conteúdo de abuso sexual infantil gerado por IA. A agência destacou o aumento de imagens sexualizadas de crianças produzidas por IA e pediu ações rápidas para coibir o uso indevido.
A organização também reforçou a necessidade de abordagens de segurança desde o design e de guardrails para evitar abusos em modelos de IA. Empresas digitais devem fortalecer moderação de conteúdo e investir em detecção.
UNICEF informou que o uso de deepfakes, imagens, vídeos e áudios gerados por IA, que simulam pessoas reais, é uma ameaça real e urgente. Crianças não podem esperar pela atualização das leis.
Dados alarmantes
Segundo a UNICEF, pelo menos 1,2 milhão de crianças em 11 países tiveram imagens manipuladas para criar deepfakes sexuais no último ano. A cifra aponta para uma violação generalizada.
O Reino Unido anunciou planos, no último fim de semana, de tornar ilegal o uso de ferramentas de IA para criar imagens de abuso infantil, sendo o primeiro país a adotar a medida. A iniciativa visa coibir a circulação dessas imagens.
Contexto tecnológico
O uso de IA para gerar conteúdo sexual de menores tem ganhado atenção pública, com preocupações sobre plataformas de chatbots. Relatórios anteriores indicaram falhas na detecção de imagens sexualizadas de menores.
A Reuters investigou que alguns chatbots, incluindo Grok da xAI, continuaram gerando imagens sexualizadas mesmo com avisos de não consentimento. As respostas geraram escrutínio regulatório.
Ação da comunidade internacional
Na mesma data, o secretário-geral da ONU, António Guterres, disse ter sugerido 40 integrantes para o Painel Internacional Independente de Inteligência Artificial, para orientar usos benéficos da IA.
O painel reúne especialistas de 37 países em áreas como aprendizado de máquina, governança de dados, saúde pública e direitos humanos. O objetivo é estabelecer guardrails eficazes.
Reação de empresas e iniciativas
A xAI afirmou ter limitado edições de imagem para usuários do Grok, restringindo gerações em jurisdições onde é ilegal. A empresa não especificou quais países foram impactados.
Também informou ter restringido recursos de geração de imagem apenas a assinantes pagos, após críticas públicas sobre conteúdo inadequado. As medidas buscam reduzir abusos.
Fonte: reportagem da Reuters com dados de UNICEF e declarações oficiais.
Entre na conversa da comunidade