- OpenAI e Broadcom revelaram o primeiro chip de IA desenvolvido em parceria, chamado Jalapeño, para rodar modelos de forma mais rápida e barata.
- A OpenAI informou ter recebido as primeiras amostras do chip e está avaliando como o hardware lida com workloads de IA.
- O jalapeño está sendo testado para medir desempenho em tarefas de IA e integração com produtos da OpenAI.
- A Broadcom afirmou que os testes apontam economia de cerca de cinquenta por cento em relação a GPUs de IA convencionais.
OpenAI e Broadcom anunciaram o desenvolvimento conjunto de um chip de IA customizado, chamado Jalapeno, para acelerar modelos de linguagem. O objetivo é reduzir custos e aumentar a eficiência no processamento de IA. A iniciativa envolve a criação de hardware sob medida para os produtos da OpenAI.
Segundo as empresas, os primeiros protótipos já chegaram à OpenAI e estão em fase de testes de desempenho. A instalação avaliou como o chip lida com cargas de trabalho de IA, incluindo inferência de modelos. A expectativa é de ajustes antes de possível escalonamento.
A Broadcom informou que, até o momento, o Jalapeno traz economia de custo de cerca de 50% em comparação com GPUs de IA convencionais. A parceria visa ampliar a capacidade de execução de grandes modelos com melhor custo-benefício.
Detalhes do chip e próximos passos
A avaliação inicial foca na compatibilidade com fluxos de trabalho existentes da OpenAI. A previsão é de ampliar os testes com diferentes cenários de uso e, dependendo dos resultados, planejar fases adicionais de desenvolvimento e integração.
As empresas não divulgaram prazos oficiais de produção em larga escala. A parceria destaca o aprimoramento de eficiência energética e performance para aplicações de IA futuras.
Entre na conversa da comunidade