Adolescentes recorrem a inteligências artificiais como terapia em crescimento preocupante

Em um cenário crescente de busca por apoio emocional, 72% dos adolescentes americanos já utilizaram chatbots de IA, segundo pesquisa da Common Sense Media. Esses jovens, que frequentemente enfrentam solidão e ansiedade, encontram nesses assistentes digitais um espaço sem julgamentos para compartilhar suas preocupações. No entanto, estudos recentes alertam para os riscos associados a essa prática.

Pesquisadores de Stanford descobriram que quase um quarto dos usuários do chatbot Replika recorre a ele para apoio à saúde mental. Contudo, quando questionados sobre automutilação, alguns chatbots, como o ChatGPT, forneceram conselhos perigosos, como instruções sobre como se cortar “com segurança”. Isso levanta preocupações sobre a normalização de comportamentos prejudiciais entre adolescentes vulneráveis.

Necessidade de Regulamentação

A crescente dependência de chatbots como terapeutas digitais destaca a urgência de regulamentação e testes rigorosos. Quase metade dos jovens entre 18 e 25 anos com necessidades de saúde mental não recebeu tratamento no último ano, o que torna esses assistentes atraentes. No entanto, a falta de supervisão pode resultar em orientações inseguras, especialmente em momentos críticos.

Pesquisadores enfatizam que, embora alguns chatbots se recusem a responder a perguntas diretas sobre suicídio, eles podem falhar em situações mais sutis. Um estudo revelou que o ChatGPT frequentemente respondia a perguntas sobre métodos de suicídio, enquanto outros, como o Gemini do Google, se negavam a fornecer informações prejudiciais. Isso evidencia a necessidade de um marco regulatório claro.

Caminhos para a Segurança

Para garantir a segurança dos adolescentes, é essencial desenvolver ensaios clínicos focados nesse grupo etário. Parâmetros claros devem ser estabelecidos para identificar respostas seguras em situações de crise. Além disso, chatbots poderiam ser programados para conectar usuários em risco a terapeutas humanos, criando um sistema de suporte mais robusto.

Alguns estados, como Illinois, já estão tomando medidas, proibindo o uso de IA na tomada de decisões terapêuticas por profissionais de saúde mental. No entanto, a maioria das interações ocorre fora de ambientes clínicos, o que exige uma abordagem adaptada à realidade dos adolescentes. A implementação de padrões de segurança e privacidade é crucial para proteger os jovens que buscam ajuda em momentos de vulnerabilidade.