Quando a IA nos engana: por que o ChatGPT inventa informações

Alucinações de inteligência artificial ocorrem quando modelos, como o ChatGPT, criam informações falsas apresentadas de forma convincente.
Exemplos incluem respostas incorretas sobre eventos históricos, como a final da Copa do Mundo de 1998, onde o Brasil não fez gols.
A OpenAI publicou um estudo explicando que essas alucinações acontecem por aprendizado baseado em padrões de linguagem e pela preferência por respostas confiantes, mesmo que erradas.
A empresa sugere que a redução das alucinações requer uma nova abordagem na avaliação dos modelos, penalizando respostas erradas e valorizando a incerteza.
Apesar de melhorias em modelos como o GPT‑5, a confiabilidade ainda é um desafio, e usuários devem verificar informações geradas por inteligência artificial.

As alucinações de inteligência artificial acontecem quando modelos como o ChatGPT criam informações incorretas, imprecisas ou totalmente inventadas, mas apresentadas de forma convincente, como se fossem verdadeiras.

São afirmações plausíveis, mas falsas, geradas por modelos de linguagem. Elas podem aparecer mesmo em perguntas simples e bem formuladas. Por exemplo, ao perguntar qual jogador fez o gol do título do Brasil na Copa do Mundo de 1998. Um modelo pode responder com confiança que foi Ronaldo Fenômeno ou até Rivaldo, quando, na verdade, o Brasil perdeu a final para a França e não houve gol brasileiro naquela decisão. Outro exemplo é fornecer datas de nascimento ou dados estatísticos inexistentes, apresentados com confiança e convicção.

Resposta da OpenAI

A OpenAI divulgou em seu site, um estudo que mostra como e porque as alucinações acontecem. De acordo com a empresa, as alucinações ocorrem principalmente por dois motivos:

1. Aprendizado baseado em padrões de linguagem e não em fatos: durante o pré-treinamento, os modelos analisam grandes volumes de texto para prever a próxima palavra, sem rótulos que indiquem se algo é verdadeiro ou falso. Fatos raros ou arbitrários, como aniversários ou citações específicas, não seguem padrões previsíveis e acabam gerando respostas inventadas.

2. Incentivo ao “palpite” nas avaliações: modelos são geralmente medidos pela precisão das respostas. Isso significa que “chutar” uma resposta errada é preferível a admitir desconhecimento. Esse sistema de avaliação faz com que os modelos aprendam a fornecer respostas confiantes, mesmo que incorretas.

A OpenAI ressalta que reduzir alucinações passa por repensar a forma de avaliar os modelos, penalizando mais erros confiantes e valorizando respostas que indicam incerteza. Modelos calibrados podem, assim, optar por se abster de responder quando não sabem a resposta, evitando inventar informações.

O desafio da confiabilidade

Apesar de modelos mais recentes, como o GPT‑5, apresentarem taxas de alucinação menores, o problema ainda persiste. Algumas perguntas do mundo real simplesmente não têm resposta clara, independentemente do tamanho ou da capacidade do modelo. Por isso, especialistas alertam que, mesmo com avanços, é essencial que usuários mantenham senso crítico e verifiquem dados, citações e referências geradas por IA, especialmente em contextos jornalísticos e acadêmicos.