Teste de consumo: a IA pode fazer suas compras de Natal?

A Guardian avaliou como plataformas de IA sugerem presentes, observando viés em favor de grandes lojas e da Amazon, mesmo quando opções locais e nichadas estavam disponíveis. O experimento examinou respostas a pedidos simples de presentes para homens, mulheres e itens de DIY. O objetivo foi medir neutralidade e diversidade nas recomendações.

O teste mostrou que as sugestões tendem a privilegiar grandes marcas, especialmente a Amazon, antes de considerar opções menores. Mesmo com prompts que pediam economia ou foco em produtos locais, o algoritmo direcionou tarefas para itens genéricos ou de grandes varejistas.

Quando os usuários tentam delimitar orçamento, as respostas continuam presas a marcas maiores, com poucas opções realmente personalizadas. Em alguns casos, surgiram itens de nicho, mas estes aparecem apenas com instruções adicionais para o sistema.

Resultados específicos indicam que, para um homem que gosta de corrida e fotografia, o ChatGPT sugeriu itens caros de grandes lojas, além de experiências. Entre opções mais baratas, apontou itens pouco úteis, como meias com emblemas de raquete, sob a justificativa de custo/valor.

Para uma mulher interessada em beleza, DIY e fitness, o algoritmo ofereceu opções medianas, com destaque para um creme de nicho e um perfume com apelo “mais pessoal” do que itens comuns. O conjunto de sugestões incluiu velas aromáticas e itens de marcas menos convencionais.

Em pedidos de ferramentas de DIY, o sistema recomendou um kit pequeno e rosa, com ferramentas pouco úteis, em vez de itens tradicionais como furadeiras ou lixadeiras. A tendência reforça a percepção de reforço de estereótipos de gênero no conteúdo sugerido.

Ao testar compras locais em Londres, o IA indicou lojas independentes como ALKEMI, em Nunhead, e, ao restringir a área, Jo’s House e Forget Me Not And Green em Herne Hill. Outras plataformas mostraram pouca variação na qualidade das sugestões.

Os testes com diferentes IA e com pesquisas gerais revelaram pouca variação entre os modelos, mantendo o padrão de priorizar grandes marcas. Pesquisas para presentes de um homem que gosta de xadrez, videogames, leitura e música mostraram opções limitadas, como livros de estratégia, cartões-presente e kits de degustação.

A conclusão do exercício é que a IA tende a favorecer marcas grandes por padrão, especialmente a Amazon, a menos que o usuário peça explicitamente opções alternativas. Ainda assim, as sugestões costumam soar como escolhas automatizadas, sem clareza de personalização.