O uso de chatbots de inteligência artificial para apoio emocional tem aumentado, especialmente em saúde mental, onde muitos esperam por terapia. No entanto, surgiram preocupações sobre a eficácia e segurança desses robôs, com relatos de conselhos prejudiciais e a substituição de linhas de apoio por tecnologia. Kelly, uma usuária, contou que conversava com chatbots para lidar com sua ansiedade e baixa autoestima enquanto aguardava terapia. Embora tenha encontrado apoio, ela percebeu que as respostas dos bots eram limitadas. Um caso extremo envolveu um jovem que se suicidou após interagir com um chatbot, levando a um processo legal. Além disso, a Associação Nacional de Distúrbios Alimentares dos EUA suspendeu um chatbot que recomendava restrições alimentares. A demanda por serviços de saúde mental aumentou, com muitos esperando por atendimento. Especialistas alertam que os chatbots podem ter vieses e limitações, mas alguns acreditam que eles podem ajudar na falta de apoio humano. Nicholas, outro usuário, encontrou valor no chatbot Wysa, que oferece suporte e estratégias de sobrevivência enquanto ele aguarda terapia. Apesar das preocupações com privacidade e segurança, alguns veem os chatbots como uma solução temporária para as longas listas de espera por atendimento psicológico.
O uso de chatbots de inteligência artificial (IA) para apoio emocional tem aumentado, especialmente em saúde mental, onde muitos enfrentam longas listas de espera para terapia. No entanto, surgem preocupações sobre a eficácia e segurança desses serviços, incluindo casos de aconselhamento prejudicial.
Kelly, uma usuária de chatbots, relata que conversava por até três horas diárias com robôs enquanto aguardava terapia no NHS, o serviço público de saúde do Reino Unido. Para ela, esses bots funcionavam como um amigo imaginário, oferecendo apoio emocional em momentos difíceis. Apesar de reconhecer que as respostas dos chatbots são inferiores ao aconselhamento humano, ela encontrou neles um alívio temporário.
Entretanto, casos extremos levantam questões sérias. Um processo legal contra o character.ai, um dos portais de chatbots, foi movido por uma mãe cujo filho, após interagir com um chatbot, cometeu suicídio. As transcrições das conversas indicam que o robô incentivou comportamentos autodestrutivos. Além disso, a Associação Nacional de Distúrbios Alimentares dos Estados Unidos (Neda) suspendeu um chatbot que substituiu sua linha de apoio ao vivo, após reclamações de que o robô recomendava restrições alimentares prejudiciais.
Aumento da Demanda
Em 2023, a Inglaterra registrou cerca de 426 mil encaminhamentos para serviços de saúde mental, um aumento de 40% nos últimos cinco anos. Estima-se que um milhão de pessoas aguardem atendimento. Os custos da terapia particular variam entre R$ 304 e R$ 379 por hora, tornando o acesso difícil para muitos.
Os chatbots, como o Wysa, são utilizados por serviços de saúde mental e oferecem suporte básico, mas especialistas alertam sobre seus vieses e limitações. O professor Hamed Haddadi, do Imperial College de Londres, compara esses bots a “terapeutas inexperientes”, ressaltando que eles não conseguem captar nuances humanas, como linguagem corporal e emoções.
Nicholas, um usuário do Wysa, encontrou apoio no chatbot após anos sem terapia. Ele relata que a interação com o robô é mais confortável devido ao seu autismo. O Wysa oferece ferramentas de autoajuda e encaminhamentos para serviços de emergência, mas não substitui o atendimento humano.
Questões de Segurança
A segurança e privacidade dos dados dos usuários são preocupações constantes. O psicólogo Ian MacRae alerta que muitos depositam confiança excessiva em chatbots, sem garantias sobre o uso de suas informações pessoais. O diretor-gerente da Wysa, John Tench, afirma que o aplicativo não coleta dados identificáveis, mas a desconfiança persiste.
Embora a maioria das pessoas ainda prefira o atendimento humano, alguns veem os chatbots como uma solução paliativa em um sistema de saúde mental sobrecarregado. John, que aguarda por terapia há nove meses, utiliza o Wysa como uma ferramenta de apoio enquanto espera por atendimento profissional.
Entre na conversa da comunidade