{"id":102359,"date":"2025-09-08T18:39:10","date_gmt":"2025-09-08T21:39:10","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/09\/08\/openai-descobre-razao-pela-qual-chatgpt-cria-informacoes-falsas\/"},"modified":"2025-09-08T18:39:10","modified_gmt":"2025-09-08T21:39:10","slug":"openai-descobre-razao-pela-qual-chatgpt-cria-informacoes-falsas","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/noticias\/educacao\/2025\/09\/08\/openai-descobre-razao-pela-qual-chatgpt-cria-informacoes-falsas\/","title":{"rendered":"OpenAI descobre motivo das ‘alucina\u00e7\u00f5es’ do ChatGPT em busca de precis\u00e3o"},"content":{"rendered":"

Pesquisadores da OpenAI publicaram um estudo que investiga as “alucina\u00e7\u00f5es”<\/strong> em modelos de linguagem, como o GPT-5 e o Claude. O fen\u00f4meno, que se refere \u00e0 gera\u00e7\u00e3o de informa\u00e7\u00f5es falsas apresentadas com confian\u00e7a, continua a ser um desafio significativo para a confian\u00e7a nas tecnologias de IA.<\/p>\n

O estudo, intitulado \u201cHallucinations in Language Models: Causes, Consequences, and Countermeasures\u201d, sugere que as m\u00e9tricas de avalia\u00e7\u00e3o<\/strong> atuais incentivam respostas arriscadas. Em vez de promover a admiss\u00e3o de incertezas, essas m\u00e9tricas recompensam respostas completas, mesmo que incorretas. Isso leva os modelos a arriscarem palpites, em vez de reconhecerem quando n\u00e3o t\u00eam informa\u00e7\u00f5es suficientes.<\/p>\n

Os pesquisadores relataram que, ao questionar um chatbot sobre o t\u00edtulo da tese de doutorado de Adam Kalai, o modelo forneceu tr\u00eas respostas diferentes, todas erradas. Esse padr\u00e3o se repetiu ao perguntar sobre sua data de anivers\u00e1rio. A OpenAI explica que o problema est\u00e1 no pr\u00e9-treinamento dos modelos, que aprendem a prever palavras sem considerar a veracidade das informa\u00e7\u00f5es.<\/p>\n

Mudan\u00e7as Necess\u00e1rias<\/h3>\n

O estudo prop\u00f5e que as m\u00e9tricas de avalia\u00e7\u00e3o sejam reformuladas. Os modelos deveriam ser recompensados por indicar incerteza e punidos por erros cometidos com confian\u00e7a excessiva. Essa mudan\u00e7a poderia estimular respostas mais cautelosas e precisas. Al\u00e9m disso, a OpenAI sugere que m\u00e9todos quantitativos, como o estimador Good-Turing, podem ajudar a calibrar a confian\u00e7a dos modelos, reduzindo a gera\u00e7\u00e3o de respostas inventadas.<\/p>\n

Os pesquisadores tamb\u00e9m destacam que alguns modelos, como o Claude, demonstram maior consci\u00eancia de sua pr\u00f3pria incerteza, embora isso possa limitar a quantidade de respostas fornecidas. A OpenAI n\u00e3o comentou oficialmente sobre o estudo, mas enfatizou em seu blog que a reformula\u00e7\u00e3o das m\u00e9tricas de avalia\u00e7\u00e3o \u00e9 crucial para aumentar a confiabilidade das IAs.<\/p>\n

\u00c0 medida que a intelig\u00eancia artificial avan\u00e7a, \u00e9 essencial que tanto desenvolvedores quanto usu\u00e1rios estejam cientes das limita\u00e7\u00f5es e riscos associados a essas tecnologias. O estudo da OpenAI ressalta a necessidade de uma abordagem mais cuidadosa no uso de sistemas de IA, especialmente em contextos onde a precis\u00e3o \u00e9 fundamental.<\/p>\n","protected":false},"excerpt":{"rendered":"

    \n
  • Pesquisadores da OpenAI identificaram o fen\u00f4meno das “alucina\u00e7\u00f5es” em modelos de linguagem, onde informa\u00e7\u00f5es falsas s\u00e3o apresentadas com confian\u00e7a.<\/li>\n
  • Um novo estudo sugere que as m\u00e9tricas de avalia\u00e7\u00e3o atuais incentivam respostas arriscadas, em vez de promover a admiss\u00e3o de incertezas.<\/li>\n
  • O estudo, intitulado \u201cHallucinations in Language Models: Causes, Consequences, and Countermeasures\u201d, destaca que modelos como o GPT-5 e o Claude geram respostas erradas com frequ\u00eancia.<\/li>\n
  • Os pesquisadores prop\u00f5em reformular as m\u00e9tricas de avalia\u00e7\u00e3o para recompensar a indica\u00e7\u00e3o de incerteza e punir erros cometidos com confian\u00e7a excessiva.<\/li>\n
  • A OpenAI enfatiza a import\u00e2ncia de uma abordagem mais cuidadosa no uso de sistemas de intelig\u00eancia artificial, especialmente em contextos que exigem precis\u00e3o.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":102394,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Estudo da OpenAI revela que m\u00e9tricas atuais incentivam alucina\u00e7\u00f5es em modelos de linguagem e prop\u00f5e reformula\u00e7\u00e3o para aumentar a confiabilidade","footnotes":""},"categories":[40,1],"tags":[203,180,185,118],"class_list":["post-102359","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-educacao","category-noticias","tag-catolicismo","tag-descobertas","tag-estudos","tag-guerra"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/102359","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=102359"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/102359\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/102394"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=102359"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=102359"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=102359"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}