Liquid AI apresenta modelos inovadores que superam limitações dos Transformers

A Liquid AI, empresa fundada em 2022 a partir de pesquisas no MIT, lançou a nova família Hyena Edge. Essa arquitetura inovadora promete processar sequências longas de forma mais rápida e eficiente, especialmente em dispositivos menores, sem depender do mecanismo de atenção.

Os modelos de atenção, que tornaram os Transformers populares, apresentam limitações em escalabilidade. À medida que as sequências aumentam, o desempenho dos modelos tende a cair, aumentando o consumo de memória e os custos computacionais. A Liquid AI busca superar essas barreiras, desenvolvendo um sistema que processa sequências longas como um sinal em evolução, mantendo a estabilidade e a consciência contextual.

A nova abordagem da Liquid AI, chamada Liquid Foundation Models (LFMs), se destaca por sua adaptabilidade contínua, mesmo após o treinamento. Esses modelos são projetados para lidar com dados sequenciais e dependentes do tempo, como vídeos e conversas longas, de maneira mais eficiente. A arquitetura Hyena, que substitui a atenção por convoluções rápidas e mecanismos de controle, foi adaptada para a versão Hyena Edge, que opera eficientemente em dispositivos móveis sem comprometer a qualidade.

O cofundador Ramin Hasani e sua equipe desenvolveram as Liquid Neural Networks (LNNs), que demonstraram ser capazes de modelar padrões complexos e interpretar decisões de forma mais clara. A Liquid AI, ao focar em princípios inovadores, pretende oferecer uma alternativa viável aos modelos tradicionais, que se tornaram obsoletos devido à sua rigidez e alto consumo de recursos.