- MIT apresenta nova métrica de incerteza que combina resposta de modelos com desvio entre modelos semelhantes para detectar respostas confiáveis, incluindo possíveis alucinações.
- a abordagem soma incerteza epistêmica (discordância entre diferentes LLMs) com incerteza aleatória (auto-consistência) para formar a incerteza total (TU).
- o TU foi testado em dez tarefas realistas, como pergunta e resposta, raciocínio matemático e resumo, mostrando melhor desempenho que métodos isolados.
- o método usa um ensemble pequeno de modelos de tamanho e arquitetura parecidos, com resposta semântica comparada para medir a diferença de significado.
- estudo financiado, em parte, pelo MIT-IBM Watson AI Lab, com foco em reduzir alucinações e reduzir custos computacionais durante a avaliação.
A equipe de pesquisadores do MIT apresentou um novo método para medir a incerteza em modelos de linguagem grande (LLMs). A técnica foca em identificar respostas confiantemente incorretas, reduzindo o risco de alucinações em aplicações de alto impacto. A abordagem combina comparação entre modelos e avaliação de consistência interna.
O estudo propõe medir a incerteza epistêmica por meio da discordância entre o modelo alvo e um pequeno conjunto de LLMs com arquitetura similar. Ao comparar semântica das respostas, os autores defendem que é possível estimar melhor o quanto o modelo pode estar divergindo do ideal para aquela tarefa.
A pesquisa mistura essa estimativa com uma métrica tradicional de incerteza aleatória, gerando um indicador chamado de incerteza total (TU). Em 10 tarefas realistas, o TU revelou desempenho superior de identificação de previsões pouco confiáveis em relação aos métodos usados isoladamente.
Entre os participantes estão Kimia Hamidieh, autora principal, Veronika Thost e Mikhail Yurochkin, além de Marzyeh Ghassemi, coordenadora do estudo. O trabalho também envolve Walter Gerych, hoje professor na Worcester Polytechnic Institute, e colaboradores da MIT-IBM Watson AI Lab.
Entendendo a contribuição
A equipe ressalta que métricas que consideram apenas a confiança de um modelo podem subestimar a incerteza real. A incerteza epistêmica captura o quanto o modelo pode estar longe do ideal, especialmente quando há respostas corretas, porém não obtidas consistentemente.
Segundo Hamidieh, comparar perguntas repetidas entre diferentes modelos ajuda a expor a incerteza verdadeira. O estudo observou que, para tarefas com respostas únicas, a incerteza epistêmica é mais eficaz; para tarefas abertas, pode haver limitações.
Aplicações e perspectivas
Os pesquisadores mostraram que o TU demanda menos consultas do que somar incerteza aleatória e podem reduzir custos computacionais e consumo de energia. A técnica pode ser adaptada para melhorar perguntas abertas e explorar outras formas de incerteza.
O financiamento do trabalho teve apoio parcial do MIT-IBM Watson AI Lab, conforme os autores. A proposta busca, a partir de evidências empíricas, tornar os modelos de linguagem mais confiáveis em cenários críticos.
Entre na conversa da comunidade