Fluxos de IA da Walmart enfrentam limitações do balanço

A Walmart passou a limitar o uso de seu assistente interno de IA, o Code Puppy, atribuindo um número fixo de tokens por funcionário para controlar custos.
A mudança acompanha a transição de modelos de IA de preço fixo para pay-per-use, diante do aumento do uso por cerca de 2,1 milhões de empregados.
A empresa orienta usar IA onde haja valor e disponibiliza outras plataformas de IA pagas pela companhia.
A medida surge após expansões anteriores de ferramentas de IA e treinamentos, buscando equilíbrio entre produtividade e custo.

Walmart está limitando o uso do assistente interno de IA, chamado Code Puppy, depois de a demanda em seu sistema ter ficado além do esperado. A empresa passa a atribuir um número fixo de tokens de IA a cada funcionário, reduzindo o uso ilimitado anterior. A ferramenta prometia auxiliar em análises de planilhas, criação de apresentações e outras tarefas automatizadas.

A medida de controle de custos surge porque modelos de IA com cobrança por uso ganham espaço frente aos contratos de assinatura fixa. Com cerca de 2,1 milhões de funcionários, mesmo solicitações modestas podem gerar despesas significativas para a empresa.

A Walmart orienta os colaboradores a usar IA apenas quando trouxer valor, indicando ainda a escolha do instrumento mais adequado para cada tarefa. Em paralelo, funcionários continuam tendo acesso a outras plataformas de IA custeadas pela empresa.

A empresa tem ampliado o uso de ferramentas de IA e oferecido treinamento para seus trabalhadores, incentivando a experimentação. Agora, os custos por interação são cobrados diretamente, refletindo desafios de equilibrar produtividade e gastos.

Especialistas apontam que a forma de medir a produtividade em fluxos alimentados por IA pode favorecer práticas de “tokenmaxxing”, elevando o custo operacional. A prática envolve priorizar o uso de IA para aumentar métricas internas.

Modelos mais avançados que executam ações recursivas consomem mais tokens, elevando a conta para o usuário. A Walmart busca evitar gastos com modelos de ponta em tarefas simples, como análise de planilhas.

A decisão de limitar tokens por funcionário pretende conter custos contínuos, incentivar uso mais criterioso da IA e facilitar a avaliação de retorno sobre investimento nessa área. A empresa afirma manter a experimentação responsável entre as equipes.