O MIT est\u00e1 investigando o risco de memoriza\u00e7ao em modelos de IA aplicados a prontu\u00e1rios m\u00e9dicos. O estudo, apresentado na confer\u00eancia NeurIPS 2025, avalia como modelos treinados com registros m\u00e9dicos eletr\u00f4nicos desidentificados podem memorizar dados de pacientes. A pesquisa prop\u00f5e um protocolo de teste para impedir que prompts espec\u00edficos revelem informa\u00e7\u00f5es sens\u00edveis, avaliando o risco no contexto da sa\u00fade.<\/p>\n
Os autores destacam que modelos de grande porte devem generalizar conhecimentos a partir de m\u00faltiplos prontu\u00e1rios. Contudo, a pr\u00e1tica de memorizar informa\u00e7\u00f5es de um \u00fanico paciente pode violar a privacidade. O trabalho refor\u00e7a que vazamentos de dados j\u00e1 s\u00e3o conhecidos em modelos avan\u00e7ados, e aponta a necessidade de avalia\u00e7\u00f5es pr\u00e1ticas antes do lan\u00e7amento de sistemas.<\/p>\n
\u201cConhecimento nesses modelos pode beneficiar comunidades, mas atacantes podem explorar dados de treinamento por meio de prompts\u201d, afirma Sana Tonekaboni, pesquisadora associada do Broad Institute (MIT\/Harvard) e autora principal. A equipe busca m\u00e9todos que auxiliem a medir o risco de forma objetiva antes da libera\u00e7\u00e3o de modelos.<\/p>\n
Para mensurar o potencial de vazamento em IA m\u00e9dica, a equipe desenvolveu uma bateria de testes, com foco em diferentes n\u00edveis de incerteza e risco pr\u00e1tico para pacientes. Os testes comparam casos de generaliza\u00e7\u00e3o do modelo com memoriza\u00e7ao em n\u00edvel de paciente.<\/p>\n
Os testes mostram que quanto mais informa\u00e7\u00f5es o atacante conhece sobre um paciente, maior a chance de vazamento. Por outro lado, n\u00fameros de idade e dados demogr\u00e1ficos costumam representar vazamento menos grave que diagn\u00f3sticos sens\u00edveis. Pacientes com condi\u00e7\u00f5es \u00fanicas aparecem como grupo com maior vulnerabilidade.<\/p>\n
A pesquisa enfatiza que solu\u00e7\u00f5es devem ser interdisciplinares, com participa\u00e7\u00e3o de cl\u00ednicos, especialistas em privacidade e jur\u00eddicos. Os resultados indicam caminhos para avalia\u00e7\u00f5es mais rigorosas antes de disponibilizar modelos m\u00e9dicos amplos ao p\u00fablico.<\/p>\n
O estudo contou com apoio de institui\u00e7\u00f5es como o Broad Institute, funda\u00e7\u00f5es e organiza\u00e7\u00f5es de financiamento \u00e0 pesquisa. As equipes envolvidas ressaltam a import\u00e2ncia de preservar a privacidade dos dados de sa\u00fade, mesmo com prontu\u00e1rios desidentificados, para manter a confian\u00e7a na pr\u00e1tica m\u00e9dica.<\/p>\n","protected":false},"excerpt":{"rendered":"