A OpenAI anunciou nesta quarta-feira, 24, o seu primeiro chip voltado para inteligência artificial, dando início a uma nova vertente no mercado de hardware da empresa. Chamado Jalapeño, o chip foi desenvolvido em parceria com a Broadcom, fabricante americana de infraestrutura tecnológica.
O objetivo do Jalapeño é acelerar a evolução dos grandes modelos de linguagem e melhorar a eficiência, principalmente na inferência, que é a etapa em que a IA responde a pedidos dos usuários. Os testes mostram uma melhor relação entre desempenho e consumo de energia por watt.
Segundo a OpenAI, o desenvolvimento do chip foi pensado do zero para a inferência de modelos de linguagem, buscando reduzir custos na operação de modelos como ChatGPT e Codex. A expectativa é oferecer maior fluidez para usuários, inclusive na versão gratuita.
A empresa destaca que o Jalapeño foi concluído em nove meses, um tempo considerado curto para o setor de hardware. A OpenAI afirma que as mudanças devem resultar em respostas mais rápidas do ChatGPT e em custos menores para operações de IA.
Greg Brockman, presidente da OpenAI, afirmou que ampliar a produção de hardware permite oferecer mais inteligência com maior eficiência e ampliar o acesso a IA avançada. A empresa sinaliza ainda que a infraestrutura poderá favorecer APIs mais baratas de serem desenvolvidas.
Entre na conversa da comunidade