No MIT e parceiros, pesquisadores desenvolveram uma metodologia que usa o tempo ocioso de processadores para acelerar o treinamento de modelos que sabem raciocinar. O objetivo \u00e9 treinar modelos menores e mais r\u00e1pidos para prever as sa\u00eddas de modelos maiores, mantendo a precis\u00e3o.<\/p>\n
O novo sistema, chamado Taming the Long Tail (TLT), opera de forma adaptativa. Quando alguns n\u00facleos ficam ociosos, eles passam a treinar o drafter, um modelo auxiliar, para prever as respostas futuras do modelo maior. O modelo principal verifica essas previs\u00f5es para treinamento.<\/p>\n
Duas etapas centrais comp\u00f5em o TLT. A primeira \u00e9 o treinamento adaptativo do drafter, que aproveita o tempo livre para alinhar o drafter ao modelo-alvo sem custo extra. A segunda \u00e9 o motor de rollout adaptativo, que ajusta a estrat\u00e9gia de decoding com base na carga de trabalho.<\/p>\n
O drafter \u00e9 propositalmente leve, permitindo que seja treinado rapidamente. Componentes do treinamento do modelo de racioc\u00ednio s\u00e3o reaproveitados para acelerar o treino do drafter, gerando ganhos adicionais de velocidade. O sistema n\u00e3o adiciona sobrecarga.<\/p>\n
Em testes com v\u00e1rias LLMs de racioc\u00ednio, o TLT aumentou a velocidade de treinamento entre 70% e 210%, sem comprometer a acur\u00e1cia. Al\u00e9m disso, o drafter pode ser utilizado de forma eficiente na implanta\u00e7\u00e3o do modelo menor.<\/p>\n
Os pesquisadores apontam que a economia de tempo tamb\u00e9m pode reduzir custos e ampliar a efici\u00eancia energ\u00e9tica no desenvolvimento de LLMs para aplica\u00e7\u00f5es como previs\u00e3o de tend\u00eancias financeiras ou detec\u00e7\u00e3o de riscos em sistemas el\u00e9tricos.<\/p>\n
O estudo conta com participa\u00e7\u00e3o de Qinghao Hu, Shang Yang, Junxian Guo e Song Han, ligados ao MIT e institui\u00e7\u00f5es parceiras. A pesquisa ser\u00e1 apresentada na ACM International Conference on Architectural Support for Programming Languages and Operating Systems.<\/p>\n
A iniciativa \u00e9 financiada pela MIT-IBM Watson AI Lab, MIT AI Hardware Program, MIT Amazon Science Hub, Hyundai Motor Company e National Science Foundation. Outras organiza\u00e7\u00f5es envolvidas incluem NVIDIA, ETH Zurich, MIT-IBM Watson AI Lab, e a Universidade de Massachusetts em Amherst.<\/p>\n","protected":false},"excerpt":{"rendered":"