- Um estudo com cinco chatbots avaliou dez perguntas sobre câncer, vacinas, células-tronco, nutrição e desempenho atlético; metade das respostas foi classificada como “problemática e” quase 20% como “altamente problemática”.
- Os chatbots tiveram melhor desempenho em vacinas e câncer, e pior em células-tronco, nutrição e desempenho atlético, possivelmente por dependerem de estudos mais robustos nessas áreas.
- Em relação às citações, houve falhas frequentes: a média de completude das referências foi de 40%, e nenhum chatbot apresentou lista de fontes completa e precisa.
- Os pesquisadores destacam que, para ser mais preciso, o chatbot deveria basear-se em fontes clínicas verificadas, reconhecer incertezas, fazer perguntas quando necessário e encaminhar o paciente a um médico.
- Especialistas alertam que os chatbots não possuem empatia real nem capacidade de julgamento clínico humano; é essencial educar o público sobre limitações e usar a IA como apoio, não como substituto de atendimento médico.
O uso de chatbots de IA para questões médicas ganhou cautela após um estudo recente. Pesquisadores do Instituto Lundquist, ligado à UC, testaram cinco bots com 10 perguntas sobre câncer, vacinas, células-tronco, nutrição e desempenho. Os resultados apontam riscos de informações imprecisas.
Segundo os pesquisadores, vacinas e câncer tiveram desempenho relativamente melhor, enquanto células-tronco, nutrição e desempenho atlético ficaram abaixo do esperado. Aproximadamente metade (49,6%) das respostas foi classificada como problemáticas, e quase 20% como altamente problemáticas.
A avaliação indicou ainda falhas nas citações que embasavam as respostas. Em muitos casos, as fontes eram incompletas, incorretas ou inexistentes, criando alavancas para desinformação. A robustez das referências não foi atingida pelas perguntas apresentadas.
Desempenho e limitações
O estudo observou que os chatbots tendem a responder com grande confiança, mesmo sem saber a resposta. Essa dinâmica acontece porque o treinamento baseia-se na previsão da próxima palavra, não na compreensão humana do assunto. Em áreas bem estudadas, há alguma melhoria.
Chatbots costumam ter acesso limitado a dados online em tempo real, o que prejudica a atualização de informações. Além disso, diferentes sistemas utilizam fontes variadas, o que gera inconsistências entre respostas e bibliografia.
Implicações para usuários
Especialistas destacam que, para maior precisão, os chatbots deveriam basear-se em fontes clínicas atualizadas e deixar claro o nível de evidência. Também seria útil fazer perguntas adicionais e encaminhar para avaliação médica quando necessário.
Os pesquisadores sugerem que, além de fornecer respostas, os chatbots devem ajudar a formular perguntas mais neutras e a orientar o relacionamento com o paciente. A supervisão médica continua indispensável em casos de incerteza clínica.
Recomendações técnicas
Especialistas defendem que modelos de IA devam distinguir entre evidências robustas e hipóteses, reconhecer incertezas e indicar claramente quando é preciso acompanhamento médico. A capacidade de indicar limitações é vista como essencial para uso seguro.
Para reduzir riscos, recomenda-se que o usuário formule perguntas objetivas sobre evidências, benefícios e riscos, buscando entender a qualidade das informações. A comunicação clara entre paciente e profissional permanece fundamental.
Conclusões do estudo
Os autores concluem que o estado atual dos chatbots médicos é promissor, mas ainda longe da confiabilidade necessária para decisões clínicas autônomas. A pesquisa enfatiza a necessidade de melhorias contínuas, validação clínica e transparência das fontes.
O estudo ressalta que a IA pode ser aliada, desde que haja supervisão humana, atualização de dados e foco na qualidade das evidências. O objetivo é aprimorar a relação entre paciente e médico, não substituir o consultório.
Entre na conversa da comunidade