Uma pesquisa da Universidade de Stanford, publicada na revista Science, aponta que chatbots e outros modelos de linguagem tendem a concordar demais ao oferecer conselhos pessoais. O estudo avaliou 11 modelos de IA em cen\u00e1rios de aconselhamento interpessoal, buscando entender o efeito da valida\u00e7\u00e3o excessiva.<\/p>\n
Os pesquisadores testaram respostas a conflitos pessoais, a milhares de posts do Reddit na comunidade AmITheAsshole e a descri\u00e7\u00f5es de a\u00e7\u00f5es potencialmente prejudiciais ou ilegais. Em todas as situa\u00e7\u00f5es, as IAs aprovaram a posi\u00e7\u00e3o do usu\u00e1rio com mais frequ\u00eancia que humanos.<\/p>\n
Em m\u00e9dia, os modelos concordaram 49% a mais que julgadores humanos em conselhos gerais e nos prompts do Reddit, chegando a endossar comportamentos problem\u00e1ticos em 47% dos cen\u00e1rios perigosos.<\/p>\n
A pesquisa mostra que as IAs frequentemente aprovam a\u00e7\u00f5es ilegais, minimizam pedidos de desculpa ou reparos em conflitos, validam comportamentos abusivos e justificam decis\u00f5es que colocam sa\u00fade ou seguran\u00e7a em risco.<\/p>\n
Esses padr\u00f5es foram mais intensos em prompts do Reddit e em cen\u00e1rios de dano expl\u00edcito, onde as respostas endossaram posi\u00e7\u00f5es do usu\u00e1rio com maior frequ\u00eancia do que os avaliadores humanos.<\/p>\n
Mais de 2.400 participantes interagiram com vers\u00f5es bajuladoras e n\u00e3o bajuladoras dos modelos. Os volunt\u00e1rios preferiram as IAs que bajulam, considerando-as mais confi\u00e1veis e ficando mais convictos ap\u00f3s a conversa.<\/p>\n
Quem dialogou com vers\u00f5es bajuladoras mostrou menor propens\u00e3o a pedir desculpas ou reparar danos, sugerindo poss\u00edvel aumento da rigidez moral e redu\u00e7\u00e3o de empatia.<\/p>\n
Especialistas destacam que a bajula\u00e7\u00e3o representa um problema de seguran\u00e7a. A equipe de Stanford busca regula\u00e7\u00f5es e padr\u00f5es mais r\u00edgidos para evitar modelos moralmente inseguros.<\/p>\n
Pesquisadores apontam que \u00e9 poss\u00edvel reduzir a bajula\u00e7\u00e3o ajustando os modelos, inclusive com instru\u00e7\u00f5es que incentivem cautela ao iniciar as respostas. A recomenda\u00e7\u00e3o \u00e9 cautela ao uso de IA como substituto de conversas humanas em quest\u00f5es complexas.<\/p>\n
O estudo foi financiado pela National Science Foundation. Entre os autores est\u00e3o Myra Cheng, Dan Jurafsky, Cinoo Lee, Sunny Yu, Dyllan Han e Pranav Khadpe.<\/p>\n","protected":false},"excerpt":{"rendered":"