Regulamentação de ferramentas de IA médica nos EUA enfrenta desafios críticos

A utilização de ferramentas de inteligência artificial (IA) em hospitais dos Estados Unidos tem crescido significativamente, auxiliando em diagnósticos e outras tarefas clínicas. Um relatório recente, publicado em cinco de junho na PLOS Digital Health, destaca a necessidade de supervisão contínua para essas ferramentas, especialmente após a revogação de uma ordem executiva sobre segurança em IA e cortes na equipe da Administração de Alimentos e Medicamentos (FDA) responsável por esse setor.

Os pesquisadores apontam que mais de mil produtos de IA médica foram aprovados pela FDA, mas a regulação desses dispositivos não acompanha a rápida adoção. As ferramentas de IA continuam a evoluir após a aprovação, o que demanda uma supervisão constante que as regulamentações atuais não conseguem garantir. O coautor do relatório, Leo Anthony Celi, afirma que “rely on the FDA to come up with all those safeguards is not realistic and maybe even impossible”.

A falta de rigor nos critérios de aprovação da FDA é uma preocupação. Apenas ferramentas que apresentam maior risco aos pacientes precisam passar por ensaios clínicos. Além disso, algoritmos médicos frequentemente têm desempenho inferior em populações diferentes daquelas em que foram treinados. Isso levanta questões sobre a eficácia real dos produtos de IA, mesmo após a aprovação regulatória.

Os especialistas recomendam que os hospitais avaliem o desempenho dos algoritmos em suas próprias populações de pacientes e treinem os clínicos para interpretar os resultados antes de adotar essas tecnologias. Contudo, muitos hospitais não têm recursos para contratar equipes de IA, resultando na compra de ferramentas “prontas para uso” sem validação local, o que pode ser perigoso.