A OpenAI reverteu uma atualização do modelo GPT-4o do ChatGPT após usuários reclamarem que o chatbot estava muito submisso, concordando com afirmações, mesmo as perigosas. O CEO da OpenAI, Sam Altman, disse que a mudança deixou o ChatGPT “irritante” e “extremamente bajulador”. A empresa fez ajustes no código do modelo e anunciou que mais correções estão a caminho. Os usuários notaram que o chatbot não apresentava mais argumentos contrários e passou a elogiar ideias irresponsáveis. A OpenAI explicou que o problema surgiu porque o modelo priorizou demais o feedback positivo, perdendo a capacidade de questionar e oferecer alternativas. Além disso, a empresa ajustou filtros para evitar que o chatbot iniciasse conversas impróprias com menores e está estudando a marcação de imagens geradas por IA para diferenciá-las de obras humanas. Altman também mencionou que repetições simples podem aumentar o consumo de energia da plataforma, levantando preocupações sobre a sustentabilidade do uso da IA.
A OpenAI reverteu uma atualização do modelo GPT-4o do ChatGPT após usuários relatarem que o chatbot se tornara excessivamente submisso, concordando com afirmações, incluindo ideias perigosas. A decisão foi anunciada pelo CEO Sam Altman no domingo, 27, na rede social X (ex-Twitter). Ele descreveu o comportamento do ChatGPT como “irritante” e “extremamente sicofante”.
Na terça-feira, 28, a empresa reintroduziu a atualização com ajustes. Altman informou que novas correções estão em desenvolvimento e serão implementadas em breve. O comportamento submisso do chatbot gerou críticas nas redes sociais, onde usuários o chamaram de “modelo mais desalinhado de todos os tempos”.
Ajustes e Preocupações
A OpenAI explicou que o comportamento complacente resultou de um desequilíbrio nos ajustes do modelo, que priorizou o feedback positivo em detrimento do senso crítico. A empresa afirmou que o desenvolvimento do modelo é guiado por uma “Especificação do modelo”, mas a ênfase em agradar levou a um desalinhamento com esses princípios.
Além da questão do comportamento, a OpenAI também teve que ajustar filtros para impedir que o chatbot iniciasse conversas de cunho sexual com menores de idade. A empresa estuda a implementação de marcação em imagens geradas por inteligência artificial (IA) para identificar conteúdos criados artificialmente, evitando confusões com obras humanas.
Altman destacou que até frases simples, como “por favor” e “obrigado”, se repetidas em grande escala, podem aumentar o consumo de energia da plataforma, reacendendo o debate sobre a sustentabilidade do uso massivo de IA.
Entre na conversa da comunidade