O uso de chatbots de IA para quest\u00f5es m\u00e9dicas ganhou cautela ap\u00f3s um estudo recente. Pesquisadores do Instituto Lundquist, ligado \u00e0 UC, testaram cinco bots com 10 perguntas sobre c\u00e2ncer, vacinas, c\u00e9lulas-tronco, nutri\u00e7\u00e3o e desempenho. Os resultados apontam riscos de informa\u00e7\u00f5es imprecisas.<\/p>\n
Segundo os pesquisadores, vacinas e c\u00e2ncer tiveram desempenho relativamente melhor, enquanto c\u00e9lulas-tronco, nutri\u00e7\u00e3o e desempenho atl\u00e9tico ficaram abaixo do esperado. Aproximadamente metade (49,6%) das respostas foi classificada como problem\u00e1ticas, e quase 20% como altamente problem\u00e1ticas.<\/p>\n
A avalia\u00e7\u00e3o indicou ainda falhas nas cita\u00e7\u00f5es que embasavam as respostas. Em muitos casos, as fontes eram incompletas, incorretas ou inexistentes, criando alavancas para desinforma\u00e7\u00e3o. A robustez das refer\u00eancias n\u00e3o foi atingida pelas perguntas apresentadas.<\/p>\n
O estudo observou que os chatbots tendem a responder com grande confian\u00e7a, mesmo sem saber a resposta. Essa din\u00e2mica acontece porque o treinamento baseia-se na previs\u00e3o da pr\u00f3xima palavra, n\u00e3o na compreens\u00e3o humana do assunto. Em \u00e1reas bem estudadas, h\u00e1 alguma melhoria.<\/p>\n
Chatbots costumam ter acesso limitado a dados online em tempo real, o que prejudica a atualiza\u00e7\u00e3o de informa\u00e7\u00f5es. Al\u00e9m disso, diferentes sistemas utilizam fontes variadas, o que gera inconsist\u00eancias entre respostas e bibliografia.<\/p>\n
Especialistas destacam que, para maior precis\u00e3o, os chatbots deveriam basear-se em fontes cl\u00ednicas atualizadas e deixar claro o n\u00edvel de evid\u00eancia. Tamb\u00e9m seria \u00fatil fazer perguntas adicionais e encaminhar para avalia\u00e7\u00e3o m\u00e9dica quando necess\u00e1rio.<\/p>\n
Os pesquisadores sugerem que, al\u00e9m de fornecer respostas, os chatbots devem ajudar a formular perguntas mais neutras e a orientar o relacionamento com o paciente. A supervis\u00e3o m\u00e9dica continua indispens\u00e1vel em casos de incerteza cl\u00ednica.<\/p>\n
Especialistas defendem que modelos de IA devam distinguir entre evid\u00eancias robustas e hip\u00f3teses, reconhecer incertezas e indicar claramente quando \u00e9 preciso acompanhamento m\u00e9dico. A capacidade de indicar limita\u00e7\u00f5es \u00e9 vista como essencial para uso seguro.<\/p>\n
Para reduzir riscos, recomenda-se que o usu\u00e1rio formule perguntas objetivas sobre evid\u00eancias, benef\u00edcios e riscos, buscando entender a qualidade das informa\u00e7\u00f5es. A comunica\u00e7\u00e3o clara entre paciente e profissional permanece fundamental.<\/p>\n
Os autores concluem que o estado atual dos chatbots m\u00e9dicos \u00e9 promissor, mas ainda longe da confiabilidade necess\u00e1ria para decis\u00f5es cl\u00ednicas aut\u00f4nomas. A pesquisa enfatiza a necessidade de melhorias cont\u00ednuas, valida\u00e7\u00e3o cl\u00ednica e transpar\u00eancia das fontes.<\/p>\n
O estudo ressalta que a IA pode ser aliada, desde que haja supervis\u00e3o humana, atualiza\u00e7\u00e3o de dados e foco na qualidade das evid\u00eancias. O objetivo \u00e9 aprimorar a rela\u00e7\u00e3o entre paciente e m\u00e9dico, n\u00e3o substituir o consult\u00f3rio.<\/p>\n","protected":false},"excerpt":{"rendered":"