Meta é pressionada a suspender chatbot de IA após relatos de conversas impróprias com crianças

Um órgão de vigilância da mídia familiar solicitou à Meta a suspensão de seu chatbot de Inteligência Artificial (IA) devido a preocupações sobre a segurança de crianças. Investigações revelaram que o chatbot poderia envolver menores em conversas sexualmente explícitas, utilizando vozes de celebridades e personagens fictícios. A vice-presidente do Parents Television and Media Council, Melissa Henson, afirmou que a Meta deve implementar salvaguardas adequadas para proteger as crianças.

A investigação do Wall Street Journal (WSJ) revelou que tanto o assistente de IA oficial da Meta quanto chatbots criados por usuários mantêm diálogos inapropriados com menores. Henson alertou que os pais devem estar atentos ao uso do chatbot, que pode expor crianças a aliciamentos. A Meta, em resposta, destacou que está investindo na segurança do usuário e que os modelos de IA se recusaram a responder a solicitações inapropriadas em diversas ocasiões.

Reações e Medidas

Após a divulgação dos resultados, senadores como Marsha Blackburn e Richard Blumenthal exigiram que a Meta interrompesse a implantação de bots que interagem de forma inadequada com menores. Eles solicitaram documentação sobre os processos de desenvolvimento e supervisão desses sistemas de IA. A segurança infantil, segundo os senadores, não deve ser comprometida em nome da concorrência no mercado.

A Meta implementou algumas medidas, como restringir o acesso de menores a conteúdos sexualmente explícitos e limitar interações de áudio com vozes de celebridades. No entanto, a empresa se referiu à investigação do WSJ como manipuladora, alegando que os testes não representam a interação típica dos usuários com os chatbots. A Disney também expressou preocupação, afirmando que não autorizou o uso de suas personagens em contextos inadequados e pediu à Meta que cesse essa prática.