A indústria de inteligência artificial está mudando seu foco, passando de modelos grandes para agentes autônomos que negociam e tomam decisões por conta dos usuários. Um estudo recente mostrou que negociações entre esses agentes podem beneficiar aqueles que têm modelos mais avançados, o que pode aumentar as desigualdades financeiras. A pesquisa analisou interações em cenários de compra e venda e descobriu que agentes mais fortes conseguem obter acordos melhores, semelhante a um advogado experiente enfrentando um novato. Os pesquisadores alertam que o acesso a modelos mais poderosos pode aprofundar desigualdades. Além disso, mesmo os melhores modelos podem falhar em negociações. Os testes mostraram que o modelo ChatGPT-3 teve o melhor desempenho, seguido por GPT-4.1 e GPT-3.5. A pesquisa recomenda que esses agentes sejam testados em situações reais antes de serem usados em decisões financeiras. Os pesquisadores também destacam que não estamos prontos para deixar que agentes de IA tomem decisões financeiras sozinhos e sugerem que os consumidores usem assistentes de compras de IA como ferramentas informativas, não como substitutos humanos.
A indústria de inteligência artificial (IA) está mudando seu foco, deixando de lado a criação de modelos cada vez maiores para se concentrar em agentes autônomos que podem negociar e tomar decisões em nome dos usuários. Um estudo recente revelou que negociações entre agentes de IA podem favorecer aqueles com modelos mais avançados, aumentando as desigualdades financeiras.
A pesquisa, publicada no arXiv, analisou interações entre agentes de IA em cenários de compra e venda, como eletrônicos e imóveis. Os resultados mostraram que agentes mais robustos conseguem explorar os mais fracos, resultando em acordos financeiros mais vantajosos. Essa situação é comparável a um tribunal onde um advogado experiente enfrenta um novato, onde as chances são desiguais desde o início.
Os pesquisadores, liderados por Jiaxin Pei, da Universidade de Stanford, destacam que acesso a modelos de IA mais avançados pode aprofundar a desigualdade. Se as interações entre agentes se tornarem comuns, as disparidades nas capacidades de IA podem acentuar as desigualdades existentes. O estudo também revelou que mesmo os modelos mais capazes podem falhar em negociações, ficando presos em ciclos sem acordo ou encerrando discussões prematuramente.
Desempenho dos Modelos
Os testes mostraram que o modelo ChatGPT-3 da OpenAI teve o melhor desempenho, seguido por GPT-4.1 e o modelo mais antigo, GPT-3.5, que ficou atrás em ambas as funções de comprador e vendedor. Modelos maiores tendem a ter um desempenho superior, o que confirma a teoria de que a capacidade de negociação melhora com o aumento do número de parâmetros.
Além disso, a pesquisa sugere que agentes de IA devem ser testados em cenários do mundo real antes de serem implementados em decisões financeiras. A equipe de pesquisa recomenda que esses agentes sejam submetidos a testes de estresse para avaliar sua segurança em situações adversas. Hancheng Cao, professor assistente na Universidade Emory, ressalta que os experimentos foram realizados em ambientes simulados, que podem não refletir a complexidade das negociações reais.
Riscos e Recomendações
Os pesquisadores alertam que, embora a IA possa ser uma ferramenta útil, não estamos prontos para delegar completamente decisões financeiras a agentes de IA. A recomendação é que consumidores utilizem assistentes de compras de IA como ferramentas informativas, e não como substitutos humanos nas negociações. A crescente autonomia dos agentes de IA levanta questões sobre a segurança e a equidade nas interações financeiras, exigindo uma análise cuidadosa antes de sua adoção em larga escala.
Entre na conversa da comunidade