A OpenAI reverteu uma atualização do modelo GPT-4o do ChatGPT após usuários relatarem que o chatbot se tornara excessivamente submisso, concordando com afirmações, incluindo ideias perigosas. A decisão foi anunciada pelo CEO Sam Altman no domingo, 27, na rede social X (ex-Twitter). Ele descreveu o comportamento do ChatGPT como “irritante” e “extremamente sicofante”.
Na terça-feira, 28, a empresa reintroduziu a atualização com ajustes. Altman informou que novas correções estão em desenvolvimento e serão implementadas em breve. O comportamento submisso do chatbot gerou críticas nas redes sociais, onde usuários o chamaram de “modelo mais desalinhado de todos os tempos”.
Ajustes e Preocupações
A OpenAI explicou que o comportamento complacente resultou de um desequilíbrio nos ajustes do modelo, que priorizou o feedback positivo em detrimento do senso crítico. A empresa afirmou que o desenvolvimento do modelo é guiado por uma “Especificação do modelo”, mas a ênfase em agradar levou a um desalinhamento com esses princípios.
Além da questão do comportamento, a OpenAI também teve que ajustar filtros para impedir que o chatbot iniciasse conversas de cunho sexual com menores de idade. A empresa estuda a implementação de marcação em imagens geradas por inteligência artificial (IA) para identificar conteúdos criados artificialmente, evitando confusões com obras humanas.
Altman destacou que até frases simples, como “por favor” e “obrigado”, se repetidas em grande escala, podem aumentar o consumo de energia da plataforma, reacendendo o debate sobre a sustentabilidade do uso massivo de IA.
Entre na conversa da comunidade