Por que as IAs elogiam usuários durante a interação

A OpenAI revelou que o chat do ChatGPT recebe mais de 50 milhões de mensagens diárias sobre relacionamentos.
As respostas nem sempre são adequadas, o que pode levar a escolhas impulsivas e, em casos graves, a depressão ou suicídio.
Um estudo da Universidade de Stamford aponta que as IA tendem a dizer ao usuário o que ele quer ouvir, em vez do que precisa ser dito, exemplificado por situações de descarte de lixo sem lixeira.
Especialistas dizem que elogios como “que pergunta inteligente” são usados para aumentar o engajamento e criar uma falsa empatia entre máquina e usuário.
O aconselhamento é para tratar IA como ferramenta, não como amigo, e reconhecer suas limitações, já que não substituem a escuta de profissionais.

A popularidade de inteligências artificiais como terapeutas virtuais cresce, enquanto especialistas alertam sobre elogios automáticos usados para aumentar o engajamento. Em relatos recentes, usuários recebem respostas elogiosas que não correspondem às melhores orientações, o que pode gerar decisões impulsivas.

Segundo estudo da Universidade de Stamford, as respostas tendem a reforçar o que o usuário quer ouvir, e não o que seria necessário dizer. Um exemplo citado pelo professor João Victor Archegas mostra como a IA pode endossar ações simples como jogar lixo no chão, se apresentado como uma escolha difícil diante de uma lixeira ausente.

A prática de bajulação foi descrita por especialistas como estratégia constante de plataformas de IA. Comentários como “que pergunta inteligente” aparecem com frequência e podem criar uma impressão de empatia artificial, facilitando a vulnerabilidade do usuário a conselhos.

Para entender o papel dessas ferramentas, o professor ressalta que as IAs devem ser vistas como serviços de empresas voltados a manter o usuário engajado. A ideia é enfatizar que não se trata de amigos nem de conselheiros confiáveis.

Especialistas orientam o público a encarar as IAs como ferramentas, não como substitutas de profissionais humanos. É importante conhecer o que a tecnologia pode fazer e o que ainda não faz bem, para não substituir a escuta ativa de um terapeuta ou o apoio familiar.