OpenAI lança seu primeiro chip para IA, Jalapeño

OpenAI lança Jalapeño, seu primeiro chip de IA, em parceria com Broadcom, com promessa de reduzir custos de grandes modelos e acelerar a inferência

Sam Altman, CEO da OpenAI, e Hock Tan, CEO da Broadcom, receberam em conjunto o Jalapeño (OpenAI/Divulgação)

OpenAI anuncia Jalapeño, seu primeiro chip voltado para IA, desenvolvido em parceria com a Broadcom.
O objetivo é acelerar a inferência de grandes modelos de linguagem e melhorar a eficiência por watt.
O chip promete reduzir custos de manutenção de modelos como ChatGPT e Codex, beneficiando também usuários da versão gratuita.
O Jalapeño foi desenvolvido em apenas nove meses, tempo curto para a indústria de hardware.
A OpenAI afirma que as mudanças devem trazer respostas mais rápidas no ChatGPT e APIs mais baratas de se construir.

A OpenAI anunciou nesta quarta-feira, 24, o seu primeiro chip voltado para inteligência artificial, dando início a uma nova vertente no mercado de hardware da empresa. Chamado Jalapeño, o chip foi desenvolvido em parceria com a Broadcom, fabricante americana de infraestrutura tecnológica.

O objetivo do Jalapeño é acelerar a evolução dos grandes modelos de linguagem e melhorar a eficiência, principalmente na inferência, que é a etapa em que a IA responde a pedidos dos usuários. Os testes mostram uma melhor relação entre desempenho e consumo de energia por watt.

Segundo a OpenAI, o desenvolvimento do chip foi pensado do zero para a inferência de modelos de linguagem, buscando reduzir custos na operação de modelos como ChatGPT e Codex. A expectativa é oferecer maior fluidez para usuários, inclusive na versão gratuita.

A empresa destaca que o Jalapeño foi concluído em nove meses, um tempo considerado curto para o setor de hardware. A OpenAI afirma que as mudanças devem resultar em respostas mais rápidas do ChatGPT e em custos menores para operações de IA.

Greg Brockman, presidente da OpenAI, afirmou que ampliar a produção de hardware permite oferecer mais inteligência com maior eficiência e ampliar o acesso a IA avançada. A empresa sinaliza ainda que a infraestrutura poderá favorecer APIs mais baratas de serem desenvolvidas.