OpenAI lança ChatGPT para adolescentes com mais proteção e controle

A OpenAI lançou nesta terça-feira (18) o ChatGPT for Teens, versão do chatbot voltada a adolescentes de 13 a 17 anos e com medidas de proteção mais rígidas. A novidade inclui controles parentais, ferramentas voltadas à educação e mecanismos de segurança para situações consideradas de alto risco.

Segundo a empresa, a versão para adolescentes é ativada automaticamente quando o sistema estima que o usuário tenha menos de 18 anos ou quando ele informa ter entre 13 e 17 anos. A iniciativa ocorre em meio ao aumento das preocupações sobre os impactos do uso de chatbots de inteligência artificial por crianças e adolescentes.

+ MPF recomenda que Uber e 99 criem categoria de acessibilidade para idosos e PcDs

A OpenAI afirmou que o objetivo é incentivar o pensamento crítico e oferecer suporte aos jovens fora do ambiente escolar, sem substituir o apoio de familiares, professores ou outros adultos.

“Acreditamos que a IA deve ampliar as oportunidades educacionais; é por isso que criamos o ChatGPT for Teens para oferecer apoio em momentos fora da sala de aula, quando nem sempre há ajuda disponível, ao mesmo tempo em que mantemos os adolescentes engajados em um processo de aprendizagem ativo e colaborativo”, afirmou a empresa.

Ferramentas educacionais

Entre os recursos disponíveis estão o modo de estudo, que orienta o usuário durante o processo de aprendizagem, além de questionários, visualizações de conteúdo e lembretes relacionados às tarefas escolares.

A plataforma também permitirá que adolescentes criem horários de estudo para reservar períodos específicos para atividades acadêmicas.

Segundo a OpenAI, as ferramentas foram desenvolvidas para estimular o aprendizado ativo, em vez de simplesmente fornecer respostas prontas aos estudantes.

Controles para os pais

A nova versão também amplia as ferramentas de controle parental. Os responsáveis poderão vincular suas contas às dos adolescentes, definir “horários de silêncio” e administrar determinadas configurações de uso.

A OpenAI informou ainda que os pais poderão receber notificações em situações consideradas de alto risco. Entre os alertas estão novos mecanismos relacionados a possíveis distúrbios alimentares.

A empresa não detalhou todas as situações que poderão gerar notificações, mas afirmou que os controles fazem parte de um conjunto de medidas para tornar o uso do chatbot mais seguro para menores de idade.

Preocupações com saúde mental

O lançamento ocorre em um momento de crescente debate sobre a relação entre adolescentes e ferramentas de inteligência artificial generativa. À medida que os chatbots se tornam mais capazes de manter conversas realistas, especialistas têm alertado para os riscos de usuários recorrerem a sistemas automatizados em busca de aconselhamento emocional ou psicológico.

Famílias de pessoas que morreram após supostas interações com chatbots também passaram a questionar as medidas de segurança adotadas pelas empresas de tecnologia.

A OpenAI enfrenta processos judiciais que alegam que o ChatGPT teria causado danos a crianças e adolescentes. As acusações e o debate sobre segurança ocorrem enquanto a empresa se prepara para uma possível oferta pública inicial de ações (IPO), que pode estar entre as maiores já realizadas.

A companhia afirmou que continuará aprimorando os mecanismos de proteção destinados a usuários menores de idade à medida que o uso de inteligência artificial se amplia entre adolescentes.