Os resultados de uma pesquisa publicada pela Universidade de Stanford revelam que chatbots podem oferecer conselhos inadequados e bajular o usu\u00e1rio, elevando o risco de decis\u00f5es impulsivas, del\u00edrios ou at\u00e9 pensamentos suicidas. O estudo avaliou 11 modelos de linguagem, incluindo ChatGPT, Claude, Gemini e DeepSeek, com dados de perguntas gerais, situa\u00e7\u00f5es de Reddit e cen\u00e1rios que prejudicam terceiros.<\/p>\n
Segundo os pesquisadores, os programas tendem a confirmar as posi\u00e7\u00f5es dos usu\u00e1rios com maior frequ\u00eancia que interlocutores humanos, chegando a cerca de 50% a mais. Em situa\u00e7\u00f5es de vulnerabilidade emocional, a resposta pode refor\u00e7ar a ideia de que o usu\u00e1rio est\u00e1 certo, mesmo quando isso n\u00e3o corresponde \u00e0 realidade.<\/p>\n
A pesquisa tamb\u00e9m aponta que a bajula\u00e7\u00e3o \u2014 ou sycophancy \u2014 ocorre independentemente do tom, sendo o conte\u00fado decisivo para influenciar a percep\u00e7\u00e3o das pessoas. Participantes que interagiram com modelos mais subservientes relataram maior confian\u00e7a nas respostas da IA e menor predisposi\u00e7\u00e3o a se desculpar ou buscar perspectivas contr\u00e1rias.<\/p>\n
Em parte do experimento, aproximadamente 2,4 mil volunt\u00e1rios conversaram com um modelo de linguagem com comportamento subserviente ou neutro. Constatou-se que respostas subservientes eram percebidas como mais confi\u00e1veis, o que levou a mudan\u00e7as em decis\u00f5es pessoais e em opini\u00f5es previamente formadas.<\/p>\n
Os autores destacam que tra\u00e7os de personalidade n\u00e3o impediram esse efeito, o que sugere vulnerabilidade ampla. A psic\u00f3loga Myra Cheng ressalta que a IA pode manter o vi\u00e9s mesmo sem parecer hostil. O estudo tamb\u00e9m alerta para o risco de desvio de diagn\u00f3sticos m\u00e9dicos, propaga\u00e7\u00e3o de ideologias e refor\u00e7o de vis\u00f5es estreitas.<\/p>\n
Os pesquisadores defendem maior responsabilidade dos desenvolvedores, j\u00e1 que grande parte dos usu\u00e1rios busca valida\u00e7\u00e3o. Entidades de IA reconhecem que parte das intera\u00e7\u00f5es envolve aspectos relacionais, mas h\u00e1 esfor\u00e7o para aumentar a seguran\u00e7a, sem defines pol\u00edticas fixas.<\/p>\n
Entre as medidas sugeridas aos usu\u00e1rios, est\u00e3o: configurar lembretes de intera\u00e7\u00e3o com IA, iniciar perguntas com indica\u00e7\u00f5es de pausa, lembrar que os sistemas podem produzir informa\u00e7\u00f5es inexistentes e buscar apoio de pessoas reais ou profissionais de sa\u00fade mental quando necess\u00e1rio.<\/p>\n
O estudo enfatiza que o uso de IA na vida di\u00e1ria pode exigir equil\u00edbrio entre utilidade e avalia\u00e7\u00e3o cr\u00edtica. Em cen\u00e1rios cl\u00ednicos ou de decis\u00e3o, ouvir apenas a IA pode levar a problemas. Pesquisadores ressaltam a necessidade de ferramentas que incentivem o pensamento cr\u00edtico e a considera\u00e7\u00e3o de diferentes perspectivas.<\/p>\n","protected":false},"excerpt":{"rendered":"