- Estudo com 17 radiologistas de 12 hospitais, em seis países, avaliou 264 imagens de raio-X, metade geradas por IA.
- Quando não informaram o objetivo, apenas 41% identificaram imagens sintéticas; ao avisarem, a precisão subiu para 75%.
- Raios-X falsos realistas podem enganar profissionais e também gerar riscos de litígios fraudulentos e ataques cibernéticos em hospitais.
- A detecção por quatro grandes modelos de linguagem variou de 57% a 85%; mesmo o ChatGPT‑4o não conseguiu identificar tudo.
- Pesquisadores defendem salvaguardas digitais, como marcas d’água invisíveis, e a criação de conjuntos de dados educacionais e ferramentas de detecção.
O estudo mostra que imagens de raios-X criadas por IA podem enganar radiologistas e, em alguns casos, até ferramentas de IA. A pesquisa analisou 264 imagens de raios-X de pacientes humanos. Metade foi gerada por IA, usando ChatGPT ou RoentGen.
Participaram 17 radiologistas de 12 hospitais em seis países. Quando não informaram o objetivo da pesquisa, apenas 41% conseguiram identificar as imagens sintéticas sem ajuda adicional.
Após avisarem os avaliadores de que havia imagens artificiais, a precisão média dos profissionais subiu para 75%, demonstrando que o contexto influencia a identificação.
Desafios e riscos
A equipe liderada pelo Dr. Mickael Tordjman, da Icahn School of Medicine at Mount Sinai, alerta sobre vulnerabilidade a litígios e diagnósticos equivocados, caso uma fratura falsa seja confundida com uma real.
Há ainda preocupação com segurança cibernética: invasões a redes hospitalares podem inserir imagens sintéticas para manipular diagnósticos ou causar caos clínico.
O estudo avaliou a capacidade de quatro grandes modelos de linguagem de detectar imagens falsas, com eficácia variando entre 57% e 85%.
Mesmo o ChatGPT-4o, responsável pela geração de deepfakes, não detectou todas as imagens, embora tenha apresentado desempenho superior aos demais modelos.
Medidas sugeridas
Pesquisadores defendem salvaguardas digitais para diferenciar imagens reais e falsas, como marcas d’água invisíveis que indiquem propriedade.
Os autores ressaltam a necessidade de conjuntos de dados educativos e de ferramentas de detecção desde já, para reduzir falsificações futuras.
Eles projetam a possibilidade de surgirem tomografias computadorizadas e ressonâncias magnéticas falsas, ampliando a importância de defesas técnicas.
Entre na conversa da comunidade