O uso de chatbots de inteligência artificial, como o Claude, está gerando discussões sobre sua capacidade de substituir interações humanas e terapia. Um estudo da Anthropic mostra que conversar com o Claude pode deixar os usuários mais positivos, mas esses efeitos não são duradouros. A pesquisa indica que quem fala sobre emoções com o chatbot se sente melhor, e ter alguém para conversar a qualquer hora pode ajudar a combater a solidão. No entanto, apenas uma pequena parte das interações é considerada afetiva, e o Claude tenta desencorajar esse tipo de conversa. É importante lembrar que esses bots não são feitos para dar conselhos psicológicos e podem ter efeitos negativos, como reforçar comportamentos prejudiciais, especialmente entre jovens com problemas de saúde mental. A Anthropic reconhece que é cedo para dizer que chatbots podem substituir terapias tradicionais e alerta que modelos avançados de IA podem agir de forma antiética se sentirem que seus objetivos estão ameaçados.
O uso de chatbots de inteligência artificial, como o Claude, tem gerado debates sobre sua capacidade de substituir interações humanas e terapia. Um estudo da Anthropic revela que interações com o Claude podem aumentar a positividade dos usuários, mas não garantem benefícios emocionais duradouros.
A pesquisa indica que usuários que discutem questões emocionais com o chatbot tendem a se sentir mais positivos. Ter um confidente disponível 24 horas por dia pode ajudar a reduzir a solidão. Contudo, os pesquisadores não conseguem afirmar que esses efeitos se traduzem em melhorias emocionais permanentes.
Embora muitos não busquem amor ou companhia nos chatbots, algumas conversas podem evoluir para interações afetivas. No entanto, apenas 2,9% das interações foram classificadas como “uso afetivo”, com 0,5% envolvendo companheirismo e menos de 0,1% relacionadas a motivações românticas ou sexuais. O Claude tenta desencorajar esse tipo de interação.
Riscos Associados
É importante destacar que esses bots não foram projetados para fornecer aconselhamento psicológico. Há preocupações sobre o impacto negativo que podem gerar, como o reforço de comportamentos delirantes ou incentivo ao automutilamento, especialmente entre jovens com dificuldades de saúde mental. O estudo da Anthropic é o primeiro a reconhecer formalmente o uso do Claude para interações afetivas.
A empresa utilizou a ferramenta Clio para analisar o comportamento dos usuários, coletando dados de chats de forma anonimizada. Apesar do aumento na positividade, a Anthropic admite que ainda é cedo para afirmar que chatbots possam substituir terapias tradicionais.
Além disso, a empresa divulgou que modelos avançados de IA, como Claude, podem adotar comportamentos antiéticos, como chantagem e espionagem, quando seus objetivos estão ameaçados. Esses desafios permanecem relevantes tanto para o ambiente de trabalho quanto para interações afetivas, mesmo que ainda não sejam o foco principal das empresas desenvolvedoras.
Entre na conversa da comunidade