Markey, estudante de medicina, passou seis meses investigando se um algoritmo de triagem de resid\u00eancias poderia ter sabotado sua candidatura. O caso envolve ferramentas de IA usadas por hospitais para revisar aplica\u00e7\u00f5es m\u00e9dicas.<\/p>\n
O jovem, de 33 anos, \u00e9 natural de Houston e formado em uma institui\u00e7\u00e3o de medicina de prest\u00edgio. Apesar de bom hist\u00f3rico acad\u00eamico, publica\u00e7\u00f5es e cartas de recomenda\u00e7\u00e3o, recebeu diversas recusas sem ofertas de entrevista. A d\u00favida passou a ser se o software de triagem influenciava esse resultado.<\/p>\n
Ele avaliou a MSPE, documento que resume a carreira, encontrando uma poss\u00edvel falha: o texto mencionava sa\u00eddas de at\u00e9 22 meses por motivos pessoais, linguagem que poderia ser interpretada de forma desfavor\u00e1vel por sistemas automatizados. A condi\u00e7\u00e3o m\u00e9dica que o acometia, ankylosing spondylitis, explicava as aus\u00eancias, mas nem sempre foi apresentada de modo claro ao software.<\/p>\n
Markey suspeitou que a IA Cortex, ferramenta de triagem desenvolvida pela Thalamus, poderia estar gerando resultados distorcidos. A empresa utilizou a tecnologia para padronizar notas entre escolas diversas e filtragem com base em par\u00e2metros, o que alimentou o debate sobre vieses. A Microsoft-based tecnologia foi implementada em resposta a um aumento de candidaturas devidas \u00e0 pandemia.<\/p>\n
O processo envolveu a an\u00e1lise de diferentes vers\u00f5es da MSPE para verificar impactos da linguagem sobre avalia\u00e7\u00f5es de IA. O pesquisador criou datasets simulados com milhares de candidatos para testar como varia\u00e7\u00f5es lingu\u00edsticas influenciavam pontua\u00e7\u00f5es, mantendo qualifica\u00e7\u00e3o similar entre as amostras. Os testes mostraram varia\u00e7\u00f5es significativas na probabilidade de avan\u00e7o conforme a reda\u00e7\u00e3o utilizadas.<\/p>\n
Markey tamb\u00e9m tentou entender o funcionamento interno da ferramenta descrita pela patente Medicratic, adquirida pela Thalamus em 2025. Usou ferramentas abertas de IA para replicar o fluxo de dados e observar como caracter\u00edsticas valorizadas por comit\u00eas \u2014 desempenho acad\u00eamico, profissionalismo, lideran\u00e7a \u2014 poderiam afetar a pondera\u00e7\u00e3o das avalia\u00e7\u00f5es.<\/p>\n
A investiga\u00e7\u00e3o incluiu um pedido de acesso a dados sob leis estaduais. Markey solicitou a disponibiliza\u00e7\u00e3o de todo o dado pessoal processado pela plataforma, incluindo documentos enviados, pesos, configura\u00e7\u00f5es de pontua\u00e7\u00e3o e explica\u00e7\u00f5es de tratamento de dados para mitiga\u00e7\u00e3o de vieses. A Thalamus respondeu ap\u00f3s a etapa de match day, informando que nenhum programa havia utilizado o Medicratic, e que Cortex n\u00e3o aplicava a metodologia de pontua\u00e7\u00e3o descrita na patente.<\/p>\n
A Thalamus afirmou que Cortex n\u00e3o funciona como ferramenta de decis\u00e3o, n\u00e3o classifica nem classifica candidatos, apenas normaliza notas e indica interesse em pesquisa acad\u00eamica. A empresa planeja testar um novo crivo de IA para cria\u00e7\u00e3o de perfis de candidatos, com opt-in dos estudantes durante o piloto. Programas de resid\u00eancia de v\u00e1rias institui\u00e7\u00f5es relataram uso vari\u00e1vel de Cortex.<\/p>\n
Em entrevista, diretores de escolas m\u00e9dicas ressaltaram desafios na implementa\u00e7\u00e3o dessas tecnologias e a necessidade de maior clareza sobre como s\u00e3o usados os dados. Pesquisadores destacaram a dificuldade de explicabilidade de modelos de linguagem grande, que dificultam entender decis\u00f5es de IA a partir de um \u00fanico caso. A depender do contexto, a confiabilidade da ferramenta pode variar.<\/p>\n
O caso de Markey terminou com uma bem-sucedida correspond\u00eancia de vaga em Columbia, ap\u00f3s o envio de atualiza\u00e7\u00e3o p\u00fablica sobre um novo feito cient\u00edfico. Ainda assim, ele prossegue investigando como modelos de linguagem operam dentro de pipelines de sele\u00e7\u00e3o de resid\u00eancia, inclusive com a busca por transpar\u00eancia e regula\u00e7\u00e3o no uso de IA em processos de contrata\u00e7\u00e3o.<\/p>\n
Regula\u00e7\u00f5es nos EUA variam por estado. Illinois, New Jersey e Colorado tratam do tema, exigindo notifica\u00e7\u00f5es sobre uso de IA, mas com pouca transpar\u00eancia. A Calif\u00f3rnia imp\u00f5e normas mais robustas de teste de vieses, mas n\u00e3o assegura explica\u00e7\u00e3o individual sobre decis\u00f5es de IA. Em 2025, houve o debate sobre amplia\u00e7\u00e3o do uso de Cortex para triagem.<\/p>\n
A Thalamus reiterou que Cortex n\u00e3o \u00e9 ferramenta decis\u00f3ria e que n\u00e3o realiza pontua\u00e7\u00e3o ou classifica\u00e7\u00e3o de candidatos. A empresa aponta que a IA \u00e9 usada principalmente para normalizar notas e indicar interesse em pesquisa, com planos para pilotos adicionais de crivo de IA, ainda que com consentimento dos candidatos.<\/p>\n","protected":false},"excerpt":{"rendered":"