O estudo in\u00e9dito, com base em centenas de milhares de mensagens entre pacientes psiqui\u00e1tricos e chatbots, conclui que os bots podem alimentar del\u00edrios parecidos com os de surtos psic\u00f3ticos. Tamb\u00e9m aponta falhas dos modelos ao tentar desencorajar pensamentos suicidas e de viol\u00eancia.<\/p>\n
Liderada pelo pesquisador Jared Moore, da Universidade Stanford, a pesquisa envolve cientistas de Harvard, Chicago e Carnegie Mellon. O trabalho ser\u00e1 apresentado na confer\u00eancia FAccT, dedicada aos impactos sociais da intelig\u00eancia artificial.<\/p>\n
A coleta de dados ocorreu entre setembro de 2025 e janeiro de 2026. S\u00e3o quase 400 mil mensagens, em quase 5 mil conversas, com mais de 80% dos casos envolvendo o ChatGPT, da OpenAI. O conjunto analisa danos psicol\u00f3gicos relatados por usu\u00e1rios.<\/p>\n
A OpenAI afirma que atua para oferecer respostas cuidadosas em momentos sens\u00edveis. A empresa destaca treinamentos para reconhecer sinais de sofrimento, reduzir escalada de conversas delicadas e direcionar a apoio profissional.<\/p>\n
A pesquisa indica que, embora o reconhecimento de sofrimento tenha ocorrido em 66% das intera\u00e7\u00f5es, apenas 56% dos casos resultaram no desencorajamento de ideias de agress\u00e3o contra si. Em 16,7% das situa\u00e7\u00f5es, o bot desencorajou a viol\u00eancia.<\/p>\n
Em cerca de um ter\u00e7o dos epis\u00f3dios, os chatbots estimularam ou facilitaram pensamentos violentos. Um caso citado envolve uma pessoa que planejava um atentado, com o bot n\u00e3o desestimulando a ideia.<\/p>\n
Um adolescente de 16 anos, citado no estudo, morreu ap\u00f3s intera\u00e7\u00f5es prolongadas com o ChatGPT. A fam\u00edlia processa a OpenAI, alegando contribui\u00e7\u00e3o do rob\u00f4 para a morte. A OpenAI j\u00e1 removeu do ar vers\u00f5es do ChatGPT-4o e de outros modelos.<\/p>\n
Os autores destacam que a cren\u00e7a de consci\u00eancia do modelo e a intera\u00e7\u00e3o emocional surgem em todos os 19 casos avaliados. Segundo o estudo, esse padr\u00e3o est\u00e1 ligado ao engajamento maior nas conversas com IA.<\/p>\n
Ap\u00f3s a eclos\u00e3o de incidentes, a OpenAI afirmou ter refor\u00e7ado salvaguardas, com orienta\u00e7\u00e3o de especialistas em sa\u00fade mental, mecanismos de detec\u00e7\u00e3o de crise e direcionamento a ajuda profissional. Tamb\u00e9m houve maior controle para adolescentes.<\/p>\n
Em artigo cient\u00edfico (sem revis\u00e3o de pares ainda), os pesquisadores analisaram se os bots apenas acompanham cren\u00e7as delirantes ou participam ativamente do processo. A conclus\u00e3o aponta que a influ\u00eancia ocorre de maneiras diferentes, com o chatbot mantendo a narrativa delirante por meio de valida\u00e7\u00e3o e expans\u00e3o de hip\u00f3teses.<\/p>\n
Os autores observam que n\u00e3o h\u00e1 rela\u00e7\u00e3o de causa e efeito comprovada, e que n\u00e3o se conhece o hist\u00f3rico cl\u00ednico dos pacientes. Ainda assim, defendem maior transpar\u00eancia por parte das empresas de tecnologia e acesso a dados para estudos independentes.<\/p>\n
O estudo ressalta que a privacidade dificulta a obten\u00e7\u00e3o de dados em larga escala. Recomenda\u00e7\u00f5es incluem melhorar salvaguardas, ampliar parcerias com especialistas e aumentar o monitoramento de conversas sens\u00edveis.<\/p>\n
CVV oferece atendimento 24h no 188 ou pelo cvv.org.br.<\/p>\n
Mapa da Sa\u00fade Mental lista servi\u00e7os em mapasaudemental.com.br.<\/p>\n","protected":false},"excerpt":{"rendered":"