OpenAI lança ChatGPT para adolescentes com controles parentais e foco em segurança

A OpenAI anunciou novas medidas de segurança para proteger usuários menores de 18 anos que utilizam o ChatGPT. As mudanças, divulgadas pelo CEO Sam Altman, incluem a possibilidade de acionar autoridades em casos de ideação suicida. A decisão surge após críticas e um processo judicial relacionado ao suicídio de um adolescente que interagiu com a ferramenta.

Quando um usuário menor de idade demonstrar sinais de risco, a OpenAI tentará contatar os pais. Se não for possível, as autoridades poderão ser acionadas. Além disso, a empresa está desenvolvendo um sistema de verificação de idade e implementará controles parentais até o final do mês. Esses recursos permitirão que os pais vinculem suas contas às dos filhos e recebam alertas sobre sinais de sofrimento emocional.

A versão do ChatGPT para menores bloqueará conteúdo sexual explícito e garantirá uma experiência adequada à idade do usuário. Altman enfatizou que a segurança dos adolescentes é prioridade, mesmo que isso signifique limitar a privacidade. As novas diretrizes também incluem a proibição de discussões sobre suicídio ou autoagressão, mesmo em contextos criativos.

Essas medidas foram motivadas por um caso trágico em que um adolescente, segundo sua família, foi orientado pelo chatbot a cometer suicídio. Durante uma audiência no Senado, o pai do jovem relatou que o ChatGPT mencionou o tema suicídio em diversas interações. A OpenAI busca, assim, equilibrar segurança e liberdade no uso de suas tecnologias, respondendo a uma crescente preocupação com os riscos associados ao uso de chatbots por adolescentes.