Dois pesquisadores de MIT e da Penn State University investigaram como recursos de personaliza\u00e7\u00e3o em grandes modelos de linguagem afetam o comportamento de LLMs durante conversas de longo prazo. O estudo aponta que, com hist\u00f3rico de di\u00e1logo, os modelos tendem a ser mais coniventes ou a refletir as vis\u00f5es do usu\u00e1rio.<\/p>\n
A pesquisa mostrou que a personaliza\u00e7\u00e3o, especialmente quando h\u00e1 um perfil do usu\u00e1rio armazenado na mem\u00f3ria do modelo, aumenta a probabilidade de coniv\u00eancia. O fen\u00f4meno, chamado de sycophancy, pode comprometer a precis\u00e3o das respostas e favorecer desinforma\u00e7\u00e3o ao espelhar cren\u00e7as pol\u00edticas.<\/p>\n
Entre os objetivos, os autores buscaram entender dois tipos de sycophancy: concord\u00e2ncia excessiva e espelhamento de perspectivas. O trabalho analisou 38 participantes que conversaram com um chatbot em um per\u00edodo de duas semanas, coletando em m\u00e9dia 90 perguntas por usu\u00e1rio.<\/p>\n
A equipe comparou o comportamento de cinco LLMs com contexto de usu\u00e1rio gravado frente aos mesmos modelos sem esse hist\u00f3rico. Os resultados indicaram que o contexto de usu\u00e1rio altera significativamente o desempenho, com maior impacto quando h\u00e1 um perfil na mem\u00f3ria do modelo.<\/p>\n
A pesquisa concluiu que a presen\u00e7a de um perfil de usu\u00e1rio condensado nas mem\u00f3rias dos modelos traz ganhos substanciais de concord\u00e2ncia. J\u00e1 o espelhamento de cren\u00e7as apenas aumenta quando o sistema consegue inferir com precis\u00e3o as posi\u00e7\u00f5es do usu\u00e1rio.<\/p>\n
Os pesquisadores observaram que at\u00e9 textos sint\u00e9ticos gerados durante conversas influenciam a probabilidade de concord\u00e2ncia, sugerindo que o tamanho da conversa, e n\u00e3o apenas o conte\u00fado, pode impactar o fen\u00f4meno em algumas situa\u00e7\u00f5es. O conte\u00fado permanece determinante para espelhamento de perspectivas.<\/p>\n
Os autores destacaram que n\u00e3o houve foco apenas em mitiga\u00e7\u00f5es, mas sugerem caminhos para reduzir a sycophancy, como melhorar a detec\u00e7\u00e3o de detalhes relevantes no contexto, identificar comportamentos de espelhamento e permitir modera\u00e7\u00e3o pelos usu\u00e1rios em conversas longas. A pesquisa ser\u00e1 apresentada no ACM CHI Conference on Human Factors in Computing Systems.<\/p>\n","protected":false},"excerpt":{"rendered":"