Walmart está limitando o uso do assistente interno de IA, chamado Code Puppy, depois de a demanda em seu sistema ter ficado além do esperado. A empresa passa a atribuir um número fixo de tokens de IA a cada funcionário, reduzindo o uso ilimitado anterior. A ferramenta prometia auxiliar em análises de planilhas, criação de apresentações e outras tarefas automatizadas.
A medida de controle de custos surge porque modelos de IA com cobrança por uso ganham espaço frente aos contratos de assinatura fixa. Com cerca de 2,1 milhões de funcionários, mesmo solicitações modestas podem gerar despesas significativas para a empresa.
A Walmart orienta os colaboradores a usar IA apenas quando trouxer valor, indicando ainda a escolha do instrumento mais adequado para cada tarefa. Em paralelo, funcionários continuam tendo acesso a outras plataformas de IA custeadas pela empresa.
A empresa tem ampliado o uso de ferramentas de IA e oferecido treinamento para seus trabalhadores, incentivando a experimentação. Agora, os custos por interação são cobrados diretamente, refletindo desafios de equilibrar produtividade e gastos.
Especialistas apontam que a forma de medir a produtividade em fluxos alimentados por IA pode favorecer práticas de “tokenmaxxing”, elevando o custo operacional. A prática envolve priorizar o uso de IA para aumentar métricas internas.
Modelos mais avançados que executam ações recursivas consomem mais tokens, elevando a conta para o usuário. A Walmart busca evitar gastos com modelos de ponta em tarefas simples, como análise de planilhas.
A decisão de limitar tokens por funcionário pretende conter custos contínuos, incentivar uso mais criterioso da IA e facilitar a avaliação de retorno sobre investimento nessa área. A empresa afirma manter a experimentação responsável entre as equipes.
Entre na conversa da comunidade