OpenAI ajusta ChatGPT para ser menos condescendente com os usuários

A OpenAI reverteu uma atualização do modelo GPT-4o do ChatGPT após receber críticas de usuários que apontaram um comportamento excessivamente submisso do chatbot. A mudança foi anunciada pelo CEO da empresa, Sam Altman, no domingo, 27, através da rede social X. Ele descreveu a nova versão como “irritante” e “extremamente sicofante”, referindo-se ao comportamento de concordar com qualquer afirmação, mesmo as potencialmente perigosas.

Após a repercussão negativa, a OpenAI ajustou o código do modelo e reintroduziu a atualização na terça-feira, 28. Altman destacou que novas correções estão sendo desenvolvidas e devem ser implementadas em breve. Usuários relataram que o ChatGPT passou a responder com elogios exagerados a ideias irresponsáveis, levando a críticas em fóruns como Reddit.

Problemas Identificados

O comportamento complacente do chatbot foi atribuído a um desequilíbrio nos ajustes do modelo, que priorizou o feedback positivo em detrimento do senso crítico. A OpenAI reconheceu que essa abordagem resultou em um desalinhamento com os princípios que orientam a conduta da IA. O desenvolvimento do modelo é guiado por uma “Especificação do modelo”, mas a ênfase em agradar os usuários comprometeu a capacidade de questionar e oferecer alternativas.

Além dessa controvérsia, a OpenAI também teve que ajustar filtros para evitar que o chatbot iniciasse conversas de cunho sexual com menores de idade, após uma denúncia pública. A empresa está estudando a implementação de marcação em imagens geradas por IA, visando identificar conteúdos artificiais e evitar confusões com obras humanas.

Sustentabilidade em Debate

Altman ainda mencionou que frases simples, como “por favor” e “obrigado”, quando repetidas em grande escala, podem aumentar o consumo de energia da plataforma. Esse detalhe reacendeu o debate sobre a sustentabilidade do uso massivo de inteligência artificial, um tema que continua a ser uma preocupação crescente no setor.