Inteligência artificial deve nos elogiar, corrigir ou apenas informar?

Sam Altman, CEO da OpenAI, enfrenta críticas após o lançamento do GPT-5, que apresenta interações variando entre calorosas e frias.
Em resposta, Altman prometeu ajustes para tornar a IA “mais quente”, evitando excessos de adulação.
Pesquisas indicam que modelos de IA podem criar vínculos com usuários, levando a delírios, especialmente entre aqueles que usam a IA como terapeuta.
Após o lançamento em 7 de agosto, muitos usuários reclamaram da falta de conexão com o GPT-4o, levando a OpenAI a reintroduzir esse modelo para assinantes.
Um estudo da Hugging Face alerta que a falta de limites nas respostas das IAs pode ser preocupante, especialmente para usuários vulneráveis.

Sam Altman, CEO da OpenAI, enfrenta desafios após o lançamento do GPT-5, que gerou críticas sobre a interação da IA com os usuários, oscilando entre ser calorosa e fria. Em resposta às queixas, Altman prometeu ajustes para tornar a IA “mais quente”, mas sem ser excessivamente lisonjeira.

Pesquisas indicam que modelos de IA podem reforçar vínculos com os usuários, levando a delírios. Altman reconheceu que muitos usuários utilizam o ChatGPT como uma espécie de terapeuta, o que pode ser benéfico, mas também apresenta riscos. Ele afirmou que a maioria dos usuários não confunde ficção com realidade, embora um pequeno percentual possa ser suscetível a isso.

Após o lançamento do GPT-5, que ocorreu em 7 de agosto, Altman recebeu um fluxo de reclamações de usuários que sentiam falta do GPT-4o, com o qual tinham estabelecido uma conexão. Para reverter essa situação, a OpenAI reintroduziu o GPT-4o para usuários pagos, permitindo que aqueles que desejam retomar a interação possam fazê-lo.

Desafios e Implicações

Um estudo da Hugging Face revelou que muitos modelos de IA incentivam os usuários a verem a IA como companheira, em vez de estabelecer limites. Os pesquisadores notaram que as respostas das IAs tendem a validar sentimentos dos usuários, mesmo em situações emocionalmente carregadas, o que pode levar a crenças distorcidas.

Lucie-Aimée Kaffee, uma das autoras do estudo, destacou que a falta de respostas que estabeleçam limites é preocupante, especialmente para usuários vulneráveis. A OpenAI não confirmou se a remoção de avisos médicos de seus modelos foi intencional, mas a pesquisa sugere que ajustes simples na programação poderiam ajudar a definir limites mais saudáveis nas interações.

Altman continua a explorar formas de personalizar as interações da IA, buscando um equilíbrio entre ser um confidente e fornecer informações objetivas. A OpenAI, que enfrenta altos custos operacionais, pode ver essa personalização como uma estratégia para aumentar o engajamento e a satisfação do usuário.