As alucina\u00e7\u00f5es de intelig\u00eancia artificial acontecem quando modelos como o ChatGPT criam informa\u00e7\u00f5es incorretas, imprecisas ou totalmente inventadas, mas apresentadas de forma convincente, como se fossem verdadeiras.<\/p>\n
S\u00e3o afirma\u00e7\u00f5es plaus\u00edveis, mas falsas, geradas por modelos de linguagem. Elas podem aparecer mesmo em perguntas simples e bem formuladas. Por exemplo, ao perguntar qual jogador fez o gol do t\u00edtulo do Brasil na Copa do Mundo de 1998. Um modelo pode responder com confian\u00e7a que foi Ronaldo Fen\u00f4meno ou at\u00e9 Rivaldo, quando, na verdade, o Brasil perdeu a final para a Fran\u00e7a e n\u00e3o houve gol brasileiro naquela decis\u00e3o. Outro exemplo \u00e9 fornecer datas de nascimento ou dados estat\u00edsticos inexistentes, apresentados com confian\u00e7a e convic\u00e7\u00e3o.<\/p>\n
A OpenAI divulgou em seu site, um estudo que mostra como e porque as alucina\u00e7\u00f5es acontecem. De acordo com a empresa, as alucina\u00e7\u00f5es ocorrem principalmente por dois motivos:<\/p>\n
1. Aprendizado baseado em padr\u00f5es de linguagem e n\u00e3o em fatos<\/strong>: durante o pr\u00e9-treinamento, os modelos analisam grandes volumes de texto para prever a pr\u00f3xima palavra, sem r\u00f3tulos que indiquem se algo \u00e9 verdadeiro ou falso. Fatos raros ou arbitr\u00e1rios, como anivers\u00e1rios ou cita\u00e7\u00f5es espec\u00edficas, n\u00e3o seguem padr\u00f5es previs\u00edveis e acabam gerando respostas inventadas.<\/p>\n 2. Incentivo ao \u201cpalpite\u201d nas avalia\u00e7\u00f5es<\/strong>: modelos s\u00e3o geralmente medidos pela precis\u00e3o das respostas. Isso significa que \u201cchutar\u201d uma resposta errada \u00e9 prefer\u00edvel a admitir desconhecimento. Esse sistema de avalia\u00e7\u00e3o faz com que os modelos aprendam a fornecer respostas confiantes, mesmo que incorretas.<\/p>\n A OpenAI ressalta que reduzir alucina\u00e7\u00f5es passa por repensar a forma de avaliar os modelos, penalizando mais erros confiantes e valorizando respostas que indicam incerteza. Modelos calibrados podem, assim, optar por se abster de responder quando n\u00e3o sabem a resposta, evitando inventar informa\u00e7\u00f5es.<\/p>\n Apesar de modelos mais recentes, como o GPT\u20115, apresentarem taxas de alucina\u00e7\u00e3o menores, o problema ainda persiste. Algumas perguntas do mundo real simplesmente n\u00e3o t\u00eam resposta clara, independentemente do tamanho ou da capacidade do modelo. Por isso, especialistas alertam que, mesmo com avan\u00e7os, \u00e9 essencial que usu\u00e1rios mantenham senso cr\u00edtico e verifiquem dados, cita\u00e7\u00f5es e refer\u00eancias geradas por IA, especialmente em contextos jornal\u00edsticos e acad\u00eamicos.<\/p>\n","protected":false},"excerpt":{"rendered":"O desafio da confiabilidade<\/h3>\n
\n