RAG revela verdades surpreendentes sobre sua eficácia e aplicações

Amr Awadallah, CEO da Vectara, afirma que a geração aumentada por recuperação (RAG) está em evolução e não obsoleta.
Ele discute a importância do controle de acesso e da detecção de alucinações em modelos de inteligência artificial (IA).
Awadallah observa que janelas de contexto maiores podem aumentar a confusão e as alucinações nos modelos.
A Vectara desenvolveu o Hughes Hallucination Evaluation Model (HHEM), um modelo de código aberto com mais de 4 milhões de downloads, focado na detecção de alucinações.
O CEO acredita que a construção de sistemas de IA mais confiáveis é essencial para o avanço em direção à inteligência geral artificial (AGI).

Amr Awadallah, CEO da Vectara, reafirma que o conceito de geração aumentada por recuperação (RAG) está longe de ser obsoleto, mas sim em evolução. Em entrevista ao podcast Inference, ele discute a importância do controle de acesso e da detecção de alucinações em modelos de inteligência artificial (IA). Awadallah destaca que grandes empresas como Google, Amazon e Microsoft continuam a utilizar RAG, mesmo com o aumento das janelas de contexto.

O CEO explica que janelas de contexto maiores podem causar confusão, levando a modelos a alucinar mais. A abordagem RAG, que separa memória de raciocínio, permite que modelos de linguagem acessem informações relevantes sem expor dados sensíveis. Isso é crucial para evitar ataques de injeção de prompt, onde usuários podem acessar informações não autorizadas.

Awadallah também critica a ideia de que RAG é simples de implementar. Ele ressalta que, embora seja fácil criar um protótipo, escalar um sistema RAG para produção envolve desafios complexos, como a integração de diferentes tipos de dados e a manutenção de segurança e precisão. A Vectara se propõe a resolver esses problemas, permitindo que empresas se concentrem em sua lógica de negócios enquanto a empresa cuida da infraestrutura.

A detecção de alucinações é um foco central da Vectara, que desenvolveu o Hughes Hallucination Evaluation Model (HHEM), um modelo de código aberto que já conta com mais de 4 milhões de downloads. Awadallah acredita que, embora a taxa de alucinações tenha diminuído para cerca de 1%, a detecção eficaz é essencial para garantir a confiança em sistemas de IA, especialmente em áreas críticas como saúde e finanças.

Por fim, Awadallah reflete sobre o futuro da IA, afirmando que a construção de sistemas mais confiáveis e seguros é fundamental para o avanço em direção à inteligência geral artificial (AGI). Ele acredita que estamos a apenas cinco anos de alcançar um sistema que supere humanos em diversas áreas, especialmente na programação.