O estudo da Universidade de Oxford aponta falhas graves no uso do ChatGPT para diagnósticos médicos, com risco potencial à saúde pública. A pesquisa indica que o chatbot pode fornecer informações incorretas ou imprecisas.
Apesar de útil em diversas tarefas, o ChatGPT mostrou limitações ao lidar com questões médicas. Os autores destacam que informações erradas podem levar a diagnósticos equivocados ou tratamentos inadequados.
Especialistas alertam para a dependência excessiva de IA, que pode criar falsa sensação de segurança e levar pessoas a negligenciar a avaliação de um profissional de saúde. A complexidade do corpo humano não é plenamente compreendida pela tecnologia.
Contexto e principais achados
O estudo reforça a necessidade de regulamentação do uso de IA na medicina, apontando que ferramentas desse tipo devem atuar apenas como apoio, não substituto do diagnóstico clínico. A pesquisa está disponível na plataforma da universidade.
Os autores enfatizam que a supervisão de profissionais qualificados é essencial para aplicar IA em contextos clínicos. A implementação responsável busca evitar consequências adversas para pacientes.
Entre na conversa da comunidade