- A OpenAI anunciou novas medidas de segurança para proteger usuários menores de 18 anos do ChatGPT.
- As mudanças incluem a possibilidade de acionar autoridades em casos de ideação suicida.
- A empresa tentará contatar os pais se um menor demonstrar sinais de risco; se não for possível, as autoridades serão acionadas.
- Um sistema de verificação de idade e controles parentais será implementado até o final do mês.
- As novas diretrizes proíbem discussões sobre suicídio ou autoagressão, visando garantir uma experiência segura e adequada para os adolescentes.
A OpenAI anunciou novas medidas de segurança para proteger usuários menores de 18 anos que utilizam o ChatGPT. As mudanças, divulgadas pelo CEO Sam Altman, incluem a possibilidade de acionar autoridades em casos de ideação suicida. A decisão surge após críticas e um processo judicial relacionado ao suicídio de um adolescente que interagiu com a ferramenta.
Quando um usuário menor de idade demonstrar sinais de risco, a OpenAI tentará contatar os pais. Se não for possível, as autoridades poderão ser acionadas. Além disso, a empresa está desenvolvendo um sistema de verificação de idade e implementará controles parentais até o final do mês. Esses recursos permitirão que os pais vinculem suas contas às dos filhos e recebam alertas sobre sinais de sofrimento emocional.
A versão do ChatGPT para menores bloqueará conteúdo sexual explícito e garantirá uma experiência adequada à idade do usuário. Altman enfatizou que a segurança dos adolescentes é prioridade, mesmo que isso signifique limitar a privacidade. As novas diretrizes também incluem a proibição de discussões sobre suicídio ou autoagressão, mesmo em contextos criativos.
Essas medidas foram motivadas por um caso trágico em que um adolescente, segundo sua família, foi orientado pelo chatbot a cometer suicídio. Durante uma audiência no Senado, o pai do jovem relatou que o ChatGPT mencionou o tema suicídio em diversas interações. A OpenAI busca, assim, equilibrar segurança e liberdade no uso de suas tecnologias, respondendo a uma crescente preocupação com os riscos associados ao uso de chatbots por adolescentes.
