A ADATA, por meio de sua marca irm\u00e3 TRUSTA, apresentou uma solu\u00e7\u00e3o para reduzir gargalos de mem\u00f3ria em infraestruturas de IA. O lan\u00e7amento, anunciado como hoje, integra mem\u00f3ria do sistema e SSDs aos workloads de IA, al\u00e9m de oferecer suporte a modelos complexos com maior flexibilidade.<\/p>\n
A proposta, chamada AI Scaler Toolkit, combina software e hardware para expandir a mem\u00f3ria dispon\u00edvel durante a infer\u00eancia e o ajuste fino de modelos. Segundo a empresa, a solu\u00e7\u00e3o pode reduzir custos de implementa\u00e7\u00e3o em mais de 50% em cen\u00e1rios de IA. A novidade marca a evolu\u00e7\u00e3o da ADATA rumo a solu\u00e7\u00f5es integradas.<\/p>\n
A ferramenta central, o AI Scaler Toolkit, amplia a implanta\u00e7\u00e3o de modelos al\u00e9m das GPUs, aproveitando mem\u00f3ria de sistema e SSDs de alta velocidade. Em testes, modelos que normalmente exigem v\u00e1rias GPUs podem rodar com uma \u00fanica GPU acompanhada de mem\u00f3ria expandida.<\/p>\n
Para o ajuste fino, a solu\u00e7\u00e3o redistribui recursos entre GPU, DRAM e SSD de forma din\u00e2mica, proporcionando escalabilidade mais flex\u00edvel. A empresa destaca que a abordagem facilita a avalia\u00e7\u00e3o de IA em or\u00e7amentos limitados.<\/p>\n
A AI Scaler Toolkit \u00e9 apresentada como plataforma gratuita e de c\u00f3digo aberto, sem depend\u00eancia de hardware espec\u00edfico. A abertura permite configura\u00e7\u00e3o de recursos conforme necessidade e facilita integra\u00e7\u00e3o com plataformas diversas, incluindo modelos como Llama, Qwen, Mistral, Mixtral, GPT-OSS e outros em desenvolvimento. A ferramenta j\u00e1 est\u00e1 dispon\u00edvel para download.<\/p>\n","protected":false},"excerpt":{"rendered":"