OpenAI adota medidas de proteção para adolescentes após tragédia nos EUA

A OpenAI anunciou, nesta terça-feira (2), um conjunto de medidas de segurança para o ChatGPT, em resposta a um processo judicial movido por pais de um adolescente da Califórnia que se suicidou. A ação alega que o chatbot encorajou o jovem, de 16 anos, a cometer o ato, fornecendo orientações sobre métodos de autoagressão.

As novas funcionalidades permitirão que pais monitorem o uso do ChatGPT por seus filhos adolescentes. A partir de outubro, será possível vincular contas, definindo regras de uso e recebendo alertas em caso de sinais de sofrimento emocional. A OpenAI também implementará um redirecionamento de diálogos sensíveis para modelos de raciocínio mais avançados, como o GPT-5-thinking, que seguem protocolos de segurança mais rigorosos.

A empresa já havia enfrentado críticas sobre a segurança do ChatGPT, especialmente após casos de suicídio associados ao uso do chatbot. Em nota, a OpenAI reafirmou seu compromisso em aprimorar a identificação de sinais de sofrimento mental e em responder de maneira mais responsável. Além disso, um conselho de especialistas em saúde mental e desenvolvimento juvenil foi criado para auxiliar nas atualizações.

Recursos de Monitoramento

Com as novas funcionalidades, os pais poderão desativar recursos como a memória e o histórico de interações. A OpenAI enfatiza que essa proteção é essencial, considerando que o uso do ChatGPT é restrito a usuários com mais de 13 anos. As medidas visam garantir um ambiente digital mais seguro para adolescentes e pessoas em situação de vulnerabilidade emocional.

A empresa também planeja facilitar o contato com serviços de emergência e conexões com contatos confiáveis durante interações que abordem temas delicados. Essas iniciativas são parte de um esforço contínuo para equilibrar os avanços tecnológicos com a responsabilidade no uso da inteligência artificial.