OpenAI e Broadcom anunciaram o Jalapeño, o primeiro chip de IA desenhado do zero pela OpenAI. O lançamento ocorreu na quarta-feira, 24/06, com foco na fase de inferência de grandes modelos de linguagem (LLMs). O objetivo é reduzir custos e acelerar as respostas do ChatGPT.
O Jalapeño foi desenvolvido para otimizar a inferência, momento em que a IA responde aos prompts em tempo real. A arquitetura combina poder de processamento com latência muito baixa, prometendo respostas quase instantâneas em smartphones ou computadores.
A produção inicial já está em operação nos laboratórios da OpenAI. Resultados preliminares indicam maior eficiência por watt do que o padrão de mercado atual. A expectativa é tornar a IA mais viável financeiramente.
Desenvolvimento e parceria
O prazo de desenvolvimento foi de nove meses, um marco na indústria. A OpenAI utilizou seus próprios modelos de IA para acelerar partes do design e da otimização do chip.
A Broadcom forneceu tecnologias de conectividade para facilitar o fluxo entre milhares de chips interligados. A montagem e integração ficam a cargo da empresa canadense Celestica.
Planos de implementação
O Jalapeño deve alimentar data centers ainda no fim de 2026. As operações ocorrerão em parceria com grandes players, incluindo a Microsoft, ampliando a escala de uso dos serviços da OpenAI.
Entre na conversa da comunidade