NVIDIA e Google apresentaram, durante a confer\u00eancia Google Cloud Next, um roadmap de hardware para reduzir os custos de infer\u00eancia de IA em escala. O foco est\u00e1 nas novas inst\u00e2ncias A5X bare-metal, que operam com sistemas de rack NVL72 da NVIDIA. A ideia \u00e9 diminuir o custo por token em at\u00e9 dez vezes e aumentar o rendimento por megawatt tamb\u00e9m em at\u00e9 dez vezes, por meio de c\u00f3digo de hardware e software integrado.<\/p>\n
As novas configura\u00e7\u00f5es conectam milhares de processadores com alta largura de banda, usando NVIDIA ConnectX-9 SuperNICs combinadas \u00e0 tecnologia de rede Google Virgo. A arquitetura permite escalar a at\u00e9 80 mil GPUs Rubin em um \u00fanico cluster local e at\u00e9 960 mil GPUs em implanta\u00e7\u00e3o multisite.<\/p>\n
Mark Lohmeyer, VP da Google Cloud, destacou que a pr\u00f3xima d\u00e9cada da IA depende de cargas de trabalho exigentes em uma infraestrutura integrada e otimizada para IA. O objetivo \u00e9 treinar, ajustar e servir modelos de fronteira a aplica\u00e7\u00f5es orientadas por agentes, com foco em desempenho, custo e sustentabilidade.<\/p>\n
Al\u00e9m do processamento bruto, a governan\u00e7a de dados permanece central para grandes empresas. Setores regulados, como financeiro e sa\u00fade, exigem soberania de dados e restringem o compartilhamento de informa\u00e7\u00f5es propriet\u00e1rias.<\/p>\n
Modelos Google Gemini, operando em GPUs NVIDIA Blackwell, j\u00e1 entram em preview no Google Distributed Cloud. Essa solu\u00e7\u00e3o mant\u00e9m modelos de fronteira dentro de ambientes controlados, junto a bancos de dados sens\u00edveis.<\/p>\n
A NVIDIA Confidential Computing \u00e9 integrada \u00e0 arquitetura, mantendo prompts e dados de ajuste criptografados. Em nuvem p\u00fablica multi-tenant, est\u00e3o previstas VMs Confidential G4 com GPUs RTX PRO 6000 Blackwell, oferecendo prote\u00e7\u00e3o criptogr\u00e1fica para ind\u00fastrias reguladas.<\/p>\n
Para ambientes que exigem sistemas agentes complexos, o NVIDIA Nemotron 3 Super j\u00e1 est\u00e1 dispon\u00edvel no Gemini Enterprise Agent Platform. A plataforma facilita o desenvolvimento, a personaliza\u00e7\u00e3o e o deploy de modelos de racioc\u00ednio multimodal para tarefas orientadas por agentes.<\/p>\n
O conjunto NVIDIA \u00e9 compat\u00edvel com a linha Gemini e Gemma do Google Cloud, oferecendo ferramentas para construir sistemas que raciocinam, planejam e atuam. O treinamento em larga escala passa a contar com clusters gerenciados via Gemini Enterprise Agent Platform.<\/p>\n
O Google Cloud e a NVIDIA tamb\u00e9m lan\u00e7aram Clusters de Treinamento Gerenciados no Gemini Enterprise Agent Platform, com API de RL gerenciada pela NeMo RL. O objetivo \u00e9 automatizar dimensionamento de clusters, recupera\u00e7\u00e3o de falhas e execu\u00e7\u00e3o de jobs.<\/p>\n
A integra\u00e7\u00e3o de IA em manufatura exige simula\u00e7\u00f5es f\u00edsicas precisas e padroniza\u00e7\u00e3o entre formatos legados. As bibliotecas de IA da NVIDIA e o cat\u00e1logo de aplica\u00e7\u00f5es f\u00edsicas j\u00e1 est\u00e3o dispon\u00edveis no Google Cloud.<\/p>\n
Parceiros industriais, como Cadence e Siemens, ampliam solu\u00e7\u00f5es na nuvem com acelera\u00e7\u00e3o NVIDIA. Ferramentas ajudam a criar g\u00eameos digitais f\u00edsicos para treinar pipelines de simula\u00e7\u00e3o rob\u00f3tica antes da implanta\u00e7\u00e3o real.<\/p>\n
NVIDIA Omniverse e o framework Isaac Sim, via Google Cloud Marketplace, ajudam a transferir designs para simula\u00e7\u00f5es eficientes. Servi\u00e7os como Cosmos e NIM microservi\u00e7os conectam vis\u00e3o, rob\u00f3tica e sensoriamento aos ambientes de produ\u00e7\u00e3o.<\/p>\n
Diversas empresas j\u00e1 exploram as capacidades da infraestrutura. A oferta varia de racks NVL72 completos a VMs com fra\u00e7\u00f5es de GPU para cen\u00e1rios h\u00edbridos de racioc\u00ednio e processamento.<\/p>\n
OpenAI utiliza infer\u00eancia em larga escala em sistemas NVL72 na Google Cloud para cargas exigentes, incluindo opera\u00e7\u00f5es do ChatGPT. Startups e empresas de seguran\u00e7a cibern\u00e9tica tamb\u00e9m adotam as ferramentas para acelerar detec\u00e7\u00e3o e resposta.<\/p>\n
O ecossistema de desenvolvedores associou-se rapidamente: mais de 90 mil desenvolvedores j\u00e1 integram a comunidade conjunta NVIDIA e Google Cloud. Iniciativas de c\u00f3digo e plataformas de IA avan\u00e7am para produ\u00e7\u00e3o com maior escalabilidade.<\/p>\n","protected":false},"excerpt":{"rendered":"