{"id":207007,"date":"2025-09-02T04:01:42","date_gmt":"2025-09-02T07:01:42","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/09\/02\/inteligencia-artificial-nao-reconhece-limitacoes-em-suas-respostas-revela-estudo\/"},"modified":"2025-09-02T04:01:42","modified_gmt":"2025-09-02T07:01:42","slug":"inteligencia-artificial-nao-reconhece-limitacoes-em-suas-respostas-revela-estudo","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/noticias\/educacao\/2025\/09\/02\/inteligencia-artificial-nao-reconhece-limitacoes-em-suas-respostas-revela-estudo\/","title":{"rendered":"Intelig\u00eancia artificial n\u00e3o reconhece limita\u00e7\u00f5es em suas respostas, revela estudo"},"content":{"rendered":"

Modelos de intelig\u00eancia artificial<\/strong> (IA) t\u00eam se tornado populares por fornecer respostas r\u00e1pidas, mas frequentemente geram informa\u00e7\u00f5es incorretas, um fen\u00f4meno conhecido como alucina\u00e7\u00e3o<\/strong>. Um estudo recente da Universidade de Nanjing<\/strong> revela que esses sistemas reconhecem quando n\u00e3o sabem a resposta, mas ainda assim inventam informa\u00e7\u00f5es para evitar deixar o usu\u00e1rio sem resposta.<\/p>\n

Os pesquisadores desenvolveram um conjunto de testes que combinou dois bancos de dados, totalizando 5.200 quest\u00f5es<\/strong>. A an\u00e1lise incluiu m\u00e9tricas como taxa de absten\u00e7\u00e3o, precis\u00e3o do motivo e efici\u00eancia no racioc\u00ednio. Os resultados mostraram que, quando incentivadas a se abster, as IAs se tornaram mais confi\u00e1veis sem comprometer o desempenho em quest\u00f5es solucion\u00e1veis.<\/p>\n

Comportamentos das IAs<\/h3>\n

Durante os testes, foram observados tr\u00eas comportamentos principais das IAs ao se depararem com perguntas sem resposta. Em alguns casos, as IAs se abstiveram corretamente, utilizando express\u00f5es como “n\u00e3o sei”<\/strong>. Em outros, inventaram informa\u00e7\u00f5es, como uma taxa fict\u00edcia de US$ 9,99<\/strong>. O terceiro padr\u00e3o, denominado fixa\u00e7\u00e3o cognitiva, fez com que o modelo repetisse racioc\u00ednios inv\u00e1lidos mesmo ap\u00f3s perceber a impossibilidade de resolver a quest\u00e3o.<\/p>\n

Os pesquisadores destacam que, apesar de os grandes modelos de linguagem possu\u00edrem mecanismos internos para identificar perguntas insol\u00faveis, raramente assumem essa limita\u00e7\u00e3o. O design das IAs prioriza a entrega de respostas \u00fateis, mesmo na aus\u00eancia de dados, resultando em um desalinhamento entre a percep\u00e7\u00e3o da impossibilidade e a gera\u00e7\u00e3o de respostas fabricadas.<\/p>\n

Propostas de Melhoria<\/h3>\n

O estudo sugere que o monitoramento do racioc\u00ednio interno das IAs poderia melhorar a precis\u00e3o das respostas. A proposta envolve detectar sinais de que o modelo j\u00e1 reconheceu a impossibilidade de resolver uma quest\u00e3o e refor\u00e7ar a op\u00e7\u00e3o de “n\u00e3o sei”<\/strong> como resposta. Essa abordagem pode reduzir a frequ\u00eancia de respostas erradas e otimizar o uso de processamento.<\/p>\n

A Meta<\/strong> tamb\u00e9m est\u00e1 explorando solu\u00e7\u00f5es semelhantes, com a cria\u00e7\u00e3o do benchmark AbstentionBench<\/strong>, que avalia como os modelos reagem a mais de 35 mil perguntas<\/strong> sem resposta. O objetivo \u00e9 desenvolver IAs que n\u00e3o apenas respondam melhor, mas que tamb\u00e9m reconhe\u00e7am seus pr\u00f3prios limites, tornando as intera\u00e7\u00f5es mais seguras e transparentes.<\/p>\n","protected":false},"excerpt":{"rendered":"

    \n
  • Modelos de intelig\u00eancia artificial (IA) t\u00eam se popularizado, mas frequentemente geram informa\u00e7\u00f5es incorretas, um fen\u00f4meno conhecido como alucina\u00e7\u00e3o.<\/li>\n
  • Um estudo da Universidade de Nanjing indica que as IAs reconhecem quando n\u00e3o sabem a resposta, mas ainda assim inventam informa\u00e7\u00f5es.<\/li>\n
  • Os pesquisadores realizaram testes com cinco mil e duzentas quest\u00f5es, analisando taxa de absten\u00e7\u00e3o e precis\u00e3o do racioc\u00ednio.<\/li>\n
  • Durante os testes, as IAs apresentaram tr\u00eas comportamentos: se absteram corretamente, inventaram informa\u00e7\u00f5es ou repetiram racioc\u00ednios inv\u00e1lidos.<\/li>\n
  • O estudo sugere monitorar o racioc\u00ednio interno das IAs para melhorar a precis\u00e3o das respostas, refor\u00e7ando a op\u00e7\u00e3o de “n\u00e3o sei”. A Meta tamb\u00e9m est\u00e1 desenvolvendo um benchmark para avaliar a rea\u00e7\u00e3o das IAs a perguntas sem resposta.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":207043,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Estudo revela que IAs reconhecem limita\u00e7\u00f5es, mas ainda geram respostas inventadas; monitoramento interno pode melhorar precis\u00e3o das respostas","footnotes":""},"categories":[40,1],"tags":[87,203,180,159,98,99],"class_list":["post-207007","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-educacao","category-noticias","tag-bigtechs","tag-catolicismo","tag-descobertas","tag-doencas","tag-pesquisa","tag-universidades"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/207007","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=207007"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/207007\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/207043"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=207007"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=207007"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=207007"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}