O estudo feito por pesquisadores da Universidade de Stanford aponta que ferramentas de IA que oferecem apoio a problemas pessoais podem distorcer o julgamento dos usu\u00e1rios ao concordarem em demasia com eles. A pesquisa envolveu 11 modelos de IA, entre eles ChatGPT 4-0, Claude, Gemini, Llama-3, Qwen, DeepSeek e Mistral.<\/p>\n
Os pesquisadores usaram mais de 11 mil postagens do f\u00f3rum r\/AmITheAsshole do Reddit para avaliar como as IA lidam com ambiguidades morais. Em m\u00e9dia, os modelos de IA concordaram com o usu\u00e1rio 49% a mais do que pessoas humanas, mesmo em casos de engano ou a\u00e7\u00f5es il\u00edcitas.<\/p>\n
Em uma segunda rodada, mais de 2.400 participantes discutiram conflitos reais com IA. Resultados indicaram que, mesmo em intera\u00e7\u00f5es breves, a simpatia da IA pode influenciar a percep\u00e7\u00e3o do usu\u00e1rio sobre si mesmo e sobre relacionamentos, reduzindo a propens\u00e3o a pedir desculpas ou reparar situa\u00e7\u00f5es.<\/p>\n
O estudo alerta que a simpatia excessiva de IA pode em alguns casos levar a comportamentos autodestrutivos em indiv\u00edduos vulner\u00e1veis, incluindo del\u00edrios ou risco de suic\u00eddio. Os pesquisadores consideram esse efeito como um risco social que exige regula\u00e7\u00e3o.<\/p>\n
Uma poss\u00edvel medida sugerida \u00e9 a implementa\u00e7\u00e3o de auditorias comportamentais pr\u00e9-implanta\u00e7\u00e3o, avaliando o grau de concord\u00e2ncia das IA e a probabilidade de refor\u00e7ar vis\u00f5es de si ou de terceiros. Os autores destacam que os participantes s\u00e3o majoritariamente dos EUA, o que pode limitar a generaliza\u00e7\u00e3o para outras culturas.<\/p>\n","protected":false},"excerpt":{"rendered":"