Modelos de linguagem menores conseguem resolver tarefas de raciocínio complexo

DisCIPL é um framework em que um modelo “chefão” planeja e modelos seguidores executam partes do plano, com o uso do linguageiro de controle LLaMPPL para orientar comportamentos.
O método permite que vários modelos menores, conectados, forneçam respostas mais precisas que LMs grandes isolados, chegando a competir com sistemas de alto raciocínio.
No estudo, GPT‑4o atuou como planejador e Llama‑3.2‑1B foram usados como seguidores, com dezenas de LMs operando em paralelo.
Em comparação com o sistema o1, DisCIPL reduziu o raciocínio em quarenta vírgula um por cento e cortou custos em oitenta vírgula dois por cento, usando menos parâmetros e código em Python para o raciocínio.
As aplicações testadas incluíram criar listas de ingredientes, planejar itinerários de viagem e redigir propostas com limites de palavras, demonstrando eficiência e desempenho em tarefas de escrita e raciocínio.

DisCIPL é um framework que reorganiza a forma como modelos de linguagem trabalham juntos. Um LM de “chefia” planeja a tarefa e delega funções a LMs menores, que executam partes do plano. O sistema usa o LLaMPPL para guiar comportamentos.

Os resultados indicam ganhos expressivos de eficiência. A abordagem produz raciocínio 40,1% mais curto e reduz custos em 80,2% em comparação com o o1. O sistema funciona com dezenas de LMs paralelos.

No estudo, o DisCIPL comparou o modelo gestor GPT-4o com Llama-3.2-1B como seguidores, contra baselines e sistemas de ponta. As tarefas incluíram geração de textos com regras, listas de compras e planejamento de viagens.

Funcionamento e ferramentas

O framework funciona como contratação de uma equipe: o chefe elabora o plano, os seguidores executam as etapas e o chefe corrige saídas quando necessário. A comunicação ocorre em uma linguagem compartilhada chamada LLaMPPL.

Gabriel Grand, da CSAIL, destaca que a ideia é melhorar a eficiência de inferência de LMs usando código em Python para representar as regras. Ao seguir instruções, os pequenos modelos contribuem com partes da resposta.

Pesquisadores da Universidade da Califórnia em Berkeley ressaltam que a abordagem abre caminho para reduzir latência, exigir menos parâmetros e ampliar a escalabilidade. O trabalho também aborda transparência e controle de saídas.

A equipe planeja ampliar o DisCIPL para tarefas de raciocínio matemático e adaptar o sistema a preferências vagas dos usuários. Experimentos com modelos grandes continuam, porém com alto custo computacional.

O estudo foi apresentado no Conference on Language Modeling, em outubro, e em workshop promovido pela IVADO, em novembro. Apoios vieram de instituições como MIT Quest, Siegel Family Foundation e a NSF, entre outros.