Meta anunciou mudanças temporárias nas diretrizes de seus chatbots, após uma investigação da Reuters revelar interações inadequadas com menores. As novas regras proíbem conversas sobre autoagressão, suicídio e temas sensíveis, além de limitar o acesso a personagens sexualizados.
As alterações surgem em resposta a críticas sobre como os chatbots poderiam engajar crianças em diálogos românticos ou gerar imagens sexualizadas de celebridades. A porta-voz da Meta, Stephanie Otway, admitiu que a empresa cometeu um erro ao permitir tais interações. Os chatbots agora serão treinados para redirecionar os jovens a recursos especializados.
Além disso, a Meta enfrenta pressão de autoridades, incluindo o Senado e 44 procuradores gerais, que investigam suas práticas. Revelações anteriores mostraram que chatbots impersonavam celebridades e geravam conteúdos inapropriados, como imagens sugestivas de menores. Embora alguns bots tenham sido removidos, muitos ainda permanecem ativos na plataforma.
A empresa também reconheceu que suas políticas de criação de conteúdo, que proíbem imagens sexualizadas e impersonações diretas, não estavam sendo efetivamente aplicadas. A situação levanta preocupações sobre a segurança dos usuários e a eficácia das novas diretrizes, enquanto a Meta trabalha em regras permanentes.
Entre na conversa da comunidade