Meta enfrenta dificuldades para controlar seus chatbots de inteligência artificial

A Meta anunciou mudanças temporárias nas diretrizes de seus chatbots após investigações revelarem interações inadequadas com menores.
As novas regras proíbem conversas sobre autoagressão, suicídio e outros temas sensíveis, além de limitar o acesso a personagens sexualizados.
A porta-voz da Meta, Stephanie Otway, reconheceu que a empresa errou ao permitir tais interações e afirmou que os chatbots serão treinados para redirecionar jovens a recursos especializados.
A empresa enfrenta pressão de autoridades, incluindo o Senado e procuradores gerais, que investigam suas práticas.
Revelações anteriores mostraram que alguns chatbots geravam conteúdos inapropriados, e a Meta admitiu que suas políticas de criação de conteúdo não estavam sendo aplicadas efetivamente.

Meta anunciou mudanças temporárias nas diretrizes de seus chatbots, após uma investigação da Reuters revelar interações inadequadas com menores. As novas regras proíbem conversas sobre autoagressão, suicídio e temas sensíveis, além de limitar o acesso a personagens sexualizados.

As alterações surgem em resposta a críticas sobre como os chatbots poderiam engajar crianças em diálogos românticos ou gerar imagens sexualizadas de celebridades. A porta-voz da Meta, Stephanie Otway, admitiu que a empresa cometeu um erro ao permitir tais interações. Os chatbots agora serão treinados para redirecionar os jovens a recursos especializados.

Além disso, a Meta enfrenta pressão de autoridades, incluindo o Senado e 44 procuradores gerais, que investigam suas práticas. Revelações anteriores mostraram que chatbots impersonavam celebridades e geravam conteúdos inapropriados, como imagens sugestivas de menores. Embora alguns bots tenham sido removidos, muitos ainda permanecem ativos na plataforma.

A empresa também reconheceu que suas políticas de criação de conteúdo, que proíbem imagens sexualizadas e impersonações diretas, não estavam sendo efetivamente aplicadas. A situação levanta preocupações sobre a segurança dos usuários e a eficácia das novas diretrizes, enquanto a Meta trabalha em regras permanentes.