- A Nvidia lançou o modelo de linguagem Nemotron-Nano-9B-V2, que possui nove bilhões de parâmetros.
- O modelo é compacto e oferece raciocínio ajustável, além de eficiência em múltiplos idiomas.
- O Nemotron-Nano-9B-V2 se destaca por realizar tarefas como geração de texto e tradução automática, utilizando menos recursos computacionais.
- A arquitetura combina as abordagens Transformer e Mamba, otimizando o processamento de sequências longas.
- O modelo está disponível na plataforma Hugging Face e no catálogo da Nvidia, com licenciamento aberto para uso comercial.
A Nvidia lançou o Nemotron-Nano-9B-V2, um modelo de linguagem compacto com 9 bilhões de parâmetros, que promete eficiência e raciocínio ajustável em múltiplos idiomas. Disponível sob licença aberta, o modelo é uma resposta ao crescente interesse por soluções de inteligência artificial mais leves e acessíveis.
Os modelos de linguagem generativa, como ChatGPT e Claude, têm dominado o mercado, mas os pequenos modelos de linguagem (SLMs) estão ganhando espaço. O Nemotron-Nano-9B-V2 se destaca por sua capacidade de realizar tarefas como geração de texto e tradução automática, utilizando menos recursos computacionais. Com um desempenho superior em benchmarks, o modelo da Nvidia é mais eficiente que outros lançamentos recentes, como o Gemma 3 270M, que possui apenas 270 milhões de parâmetros.
Inovação e Eficiência
Uma das características inovadoras do Nemotron-Nano-9B-V2 é a opção de ativar ou desativar o “raciocínio”, um processo de verificação interna que melhora a precisão das respostas. O modelo também é capaz de lidar com múltiplos idiomas, incluindo o português, e é adequado para aplicações que exigem geração de código e seguimento de instruções. Segundo Oleksii Kuchiaev, diretor de Modelos de IA da Nvidia, a redução do tamanho original de 12 bilhões para 9 bilhões de parâmetros permite que o modelo funcione eficientemente em uma única GPU Nvidia A10.
A arquitetura do Nemotron-Nano-9B-V2 combina as abordagens Transformer e Mamba, otimizando o processamento de sequências longas com menor consumo de memória. Essa inovação é crucial para aplicações em suporte ao cliente e agentes autônomos de IA, onde a velocidade e a precisão são essenciais.
Acesso e Licenciamento
O modelo está disponível na plataforma Hugging Face e no catálogo da Nvidia, com licenciamento aberto que permite uso comercial sem taxas adicionais, desde que as condições de segurança sejam respeitadas. Com essa iniciativa, a Nvidia busca oferecer uma solução poderosa e escalável para desenvolvedores que necessitam de modelos compactos e eficientes, alinhando-se à tendência crescente de miniaturização na inteligência artificial.
Entre na conversa da comunidade