Confiabilidade de conselhos de saúde de chatbots de IA é questionada

Abi, de Manchester, usa ChatGPT há um ano para buscar orientação de saúde, atraída pela dificuldade de conseguir médico e pela disponibilidade da IA a qualquer momento.
Ela teve experiências positivas, como receber orientação para procurar farmacêutico e obter antibiótico após sintomas de infecção urinária, sem precisar ocupar o NHS.
Em situação de dor intensa, a IA alegou que Abi teria rompimento de órgão e precisava ir ao pronto-socorro, o que não era real; ela acabou indo ao hospital por três horas e voltou em alerta.
Pesquisas indicam que a qualidade das respostas varia: estudo da Universidade de Oxford mostrou 95% de precisão quando os médicos forneciam o quadro completo, mas caiu a 35% com 1.300 pessoas conversando com a IA, dependente de como as informações são comunicadas.
Profissionais de saúde alertam para diferenças entre IA que resume informações e buscas on-line; OpenAI diz que ChatGPT deve informar e educar, sem substituir orientação médica profissional.

Abi, moradora de Manchester, tem usado o ChatGPT há cerca de um ano para orientação de saúde. A solução digital oferece respostas rápidas e, segundo ela, parece mais acessível que esperar por um médico. Estudos indicam que IA pode ter desempenho aceitável em alguns exames.

Ao buscar tratamento para uma presumida infecção urinária, Abi seguiu orientações do bot e foi encaminhada a um farmacêutico, recebendo antibiótico após consulta. Ela afirma ter recebido atendimento sem ocupar tempo do NHS, recurso importante para quem enfrenta dúvidas sobre necessidade de consulta médica.

Eficácia e riscos

Em janeiro, um acidental encontro com uma lesão nas costas levou Abi a consultar novamente a IA. A resposta indicou uma possível perfuração de órgão, sinalizando necessidade de atendimento de emergência. Após horas no pronto-socorro, percebeu que a gravidade não era tão alta, percebendo erro da IA.

Pesquisas sobre uso de IA em saúde mostram resultados mistos. O atual chefe médico da Inglaterra, Sir Chris Whitty, alerta que respostas costumam parecer confiantes, mas podem estar erradas. A qualidade das orientações ainda é motivo de preocupação entre especialistas.

Estudos e limitações

Estudos da Oxford testaram cenários clínicos com médicos e IA. Quando os cenários eram completos, a IA atingia precisão de 95%. Em casos com 1.300 participantes e conversas com IA, a acurácia caiu para 35%, destacando falhas na interação humana com a máquina. A graduaçao de informações influencia o diagnóstico.

Especialistas destacam diferença entre IA que resume informações e a busca ativa pelo paciente. Pesquisas sugerem que consultas por busca na internet tendem a levar a fontes oficiais mais confiáveis, como sites de serviços de saúde. A relação com a IA pode dificultar a avaliação da confiabilidade.

O que dizem as autoridades e as plataformas

A OpenAI, empresa por trás do ChatGPT, ressalta que a IA deve informar e educar, não substituir o atendimento médico profissional. Em comunicação pública, a companhia afirma trabalhar com médicos para aperfeiçoar os modelos, com avaliações que mostram desempenho sólido em cenários reais de saúde.

Abi, por sua vez, continua usando IA como apoio, mas enfatiza cautela: é necessário interpretar as respostas com ceticismo e considerar a possibilidade de erro. Ninguém deve depender exclusivamente de conselhos algorítmicos para decisões médicas.