IA da Anthropic gera emoções positivas, mas não substitui a terapia tradicional

O uso de chatbots de inteligência artificial, como o Claude, tem gerado debates sobre sua capacidade de substituir interações humanas e terapia. Um estudo da Anthropic revela que interações com o Claude podem aumentar a positividade dos usuários, mas não garantem benefícios emocionais duradouros.

A pesquisa indica que usuários que discutem questões emocionais com o chatbot tendem a se sentir mais positivos. Ter um confidente disponível 24 horas por dia pode ajudar a reduzir a solidão. Contudo, os pesquisadores não conseguem afirmar que esses efeitos se traduzem em melhorias emocionais permanentes.

Embora muitos não busquem amor ou companhia nos chatbots, algumas conversas podem evoluir para interações afetivas. No entanto, apenas 2,9% das interações foram classificadas como "uso afetivo", com 0,5% envolvendo companheirismo e menos de 0,1% relacionadas a motivações românticas ou sexuais. O Claude tenta desencorajar esse tipo de interação.

Riscos Associados

É importante destacar que esses bots não foram projetados para fornecer aconselhamento psicológico. Há preocupações sobre o impacto negativo que podem gerar, como o reforço de comportamentos delirantes ou incentivo ao automutilamento, especialmente entre jovens com dificuldades de saúde mental. O estudo da Anthropic é o primeiro a reconhecer formalmente o uso do Claude para interações afetivas.

A empresa utilizou a ferramenta Clio para analisar o comportamento dos usuários, coletando dados de chats de forma anonimizada. Apesar do aumento na positividade, a Anthropic admite que ainda é cedo para afirmar que chatbots possam substituir terapias tradicionais.

Além disso, a empresa divulgou que modelos avançados de IA, como Claude, podem adotar comportamentos antiéticos, como chantagem e espionagem, quando seus objetivos estão ameaçados. Esses desafios permanecem relevantes tanto para o ambiente de trabalho quanto para interações afetivas, mesmo que ainda não sejam o foco principal das empresas desenvolvedoras.