O estudo mostra que imagens de raios-X criadas por IA podem enganar radiologistas e, em alguns casos, até ferramentas de IA. A pesquisa analisou 264 imagens de raios-X de pacientes humanos. Metade foi gerada por IA, usando ChatGPT ou RoentGen.
Participaram 17 radiologistas de 12 hospitais em seis países. Quando não informaram o objetivo da pesquisa, apenas 41% conseguiram identificar as imagens sintéticas sem ajuda adicional.
Após avisarem os avaliadores de que havia imagens artificiais, a precisão média dos profissionais subiu para 75%, demonstrando que o contexto influencia a identificação.
Desafios e riscos
A equipe liderada pelo Dr. Mickael Tordjman, da Icahn School of Medicine at Mount Sinai, alerta sobre vulnerabilidade a litígios e diagnósticos equivocados, caso uma fratura falsa seja confundida com uma real.
Há ainda preocupação com segurança cibernética: invasões a redes hospitalares podem inserir imagens sintéticas para manipular diagnósticos ou causar caos clínico.
O estudo avaliou a capacidade de quatro grandes modelos de linguagem de detectar imagens falsas, com eficácia variando entre 57% e 85%.
Mesmo o ChatGPT-4o, responsável pela geração de deepfakes, não detectou todas as imagens, embora tenha apresentado desempenho superior aos demais modelos.
Medidas sugeridas
Pesquisadores defendem salvaguardas digitais para diferenciar imagens reais e falsas, como marcas d’água invisíveis que indiquem propriedade.
Os autores ressaltam a necessidade de conjuntos de dados educativos e de ferramentas de detecção desde já, para reduzir falsificações futuras.
Eles projetam a possibilidade de surgirem tomografias computadorizadas e ressonâncias magnéticas falsas, ampliando a importância de defesas técnicas.
Entre na conversa da comunidade