Não consegue entrevista de emprego: a IA pode ter influência?

Markey, médico em formação de Houston, passou seis meses investigando se um sistema de IA atrapalhou suas candidaturas a residência, já que não obteve entrevistas.
Ele encontrou no MSPE informações que descreviam ausências como “voluntárias”, enquanto ele teve afastamentos médicos por espondilite anquilosante, o que pode ter sido interpretado de forma inadequada por ferramentas automáticas.
O Cortex, ferramenta da Thalamus, era usada por cerca de 30% dos programas de residência para review de candidaturas; havia reclamações sobre precisão de notas e classificações.
Markey tentou entender o funcionamento da ferramenta reversed engineering, usando patents de Medicratic, código aberto e dados simulados; verificou que a redação de seu MSPE poderia afetar pontuações em cenários hipotéticos.
Em paralelo, ele pediu acesso aos dados sob a New Hampshire Privacy Act; Thalamus afirmou que Cortex não realiza classificação algorítmica de candidatos e que, no ciclo estudado, houve uso limitado da IA, com planos de pilotos futuros de IA para combinar perfis de candidatos.

Markey, estudante de medicina, passou seis meses investigando se um algoritmo de triagem de residências poderia ter sabotado sua candidatura. O caso envolve ferramentas de IA usadas por hospitais para revisar aplicações médicas.

O jovem, de 33 anos, é natural de Houston e formado em uma instituição de medicina de prestígio. Apesar de bom histórico acadêmico, publicações e cartas de recomendação, recebeu diversas recusas sem ofertas de entrevista. A dúvida passou a ser se o software de triagem influenciava esse resultado.

Ele avaliou a MSPE, documento que resume a carreira, encontrando uma possível falha: o texto mencionava saídas de até 22 meses por motivos pessoais, linguagem que poderia ser interpretada de forma desfavorável por sistemas automatizados. A condição médica que o acometia, ankylosing spondylitis, explicava as ausências, mas nem sempre foi apresentada de modo claro ao software.

Markey suspeitou que a IA Cortex, ferramenta de triagem desenvolvida pela Thalamus, poderia estar gerando resultados distorcidos. A empresa utilizou a tecnologia para padronizar notas entre escolas diversas e filtragem com base em parâmetros, o que alimentou o debate sobre vieses. A Microsoft-based tecnologia foi implementada em resposta a um aumento de candidaturas devidas à pandemia.

A evolução do caso e as disputas técnicas

O processo envolveu a análise de diferentes versões da MSPE para verificar impactos da linguagem sobre avaliações de IA. O pesquisador criou datasets simulados com milhares de candidatos para testar como variações linguísticas influenciavam pontuações, mantendo qualificação similar entre as amostras. Os testes mostraram variações significativas na probabilidade de avanço conforme a redação utilizadas.

Markey também tentou entender o funcionamento interno da ferramenta descrita pela patente Medicratic, adquirida pela Thalamus em 2025. Usou ferramentas abertas de IA para replicar o fluxo de dados e observar como características valorizadas por comitês — desempenho acadêmico, profissionalismo, liderança — poderiam afetar a ponderação das avaliações.

A investigação incluiu um pedido de acesso a dados sob leis estaduais. Markey solicitou a disponibilização de todo o dado pessoal processado pela plataforma, incluindo documentos enviados, pesos, configurações de pontuação e explicações de tratamento de dados para mitigação de vieses. A Thalamus respondeu após a etapa de match day, informando que nenhum programa havia utilizado o Medicratic, e que Cortex não aplicava a metodologia de pontuação descrita na patente.

Declarações e desdobramentos

A Thalamus afirmou que Cortex não funciona como ferramenta de decisão, não classifica nem classifica candidatos, apenas normaliza notas e indica interesse em pesquisa acadêmica. A empresa planeja testar um novo crivo de IA para criação de perfis de candidatos, com opt-in dos estudantes durante o piloto. Programas de residência de várias instituições relataram uso variável de Cortex.

Em entrevista, diretores de escolas médicas ressaltaram desafios na implementação dessas tecnologias e a necessidade de maior clareza sobre como são usados os dados. Pesquisadores destacaram a dificuldade de explicabilidade de modelos de linguagem grande, que dificultam entender decisões de IA a partir de um único caso. A depender do contexto, a confiabilidade da ferramenta pode variar.

O caso de Markey terminou com uma bem-sucedida correspondência de vaga em Columbia, após o envio de atualização pública sobre um novo feito científico. Ainda assim, ele prossegue investigando como modelos de linguagem operam dentro de pipelines de seleção de residência, inclusive com a busca por transparência e regulação no uso de IA em processos de contratação.

Contexto regulatório e implicações

Regulações nos EUA variam por estado. Illinois, New Jersey e Colorado tratam do tema, exigindo notificações sobre uso de IA, mas com pouca transparência. A Califórnia impõe normas mais robustas de teste de vieses, mas não assegura explicação individual sobre decisões de IA. Em 2025, houve o debate sobre ampliação do uso de Cortex para triagem.

A Thalamus reiterou que Cortex não é ferramenta decisória e que não realiza pontuação ou classificação de candidatos. A empresa aponta que a IA é usada principalmente para normalizar notas e indicar interesse em pesquisa, com planos para pilotos adicionais de crivo de IA, ainda que com consentimento dos candidatos.