O uso de IA na produção de artigos científicos já provoca preocupação entre pesquisadores e editoras. Dois estudos internacionais apontam que ferramentas de IA generativa estão gerando referências falsas que acabam aparecendo em trabalhos publicados, sem que autores, revisores ou periódicos percebam o erro.
Um dos casos envolve Rafael Topaz, professor associado da Universidade de Columbia, nos EUA. Ele relatou ter descoberto que uma ferramenta de IA adicionou silenciosamente uma referência inexistente em um manuscrito, citando que o ajuste foi apenas gramatical. Topaz questiona o que pode ocorrer com outros autores diante de esse tipo de falha.
Os estudos são conduzidos por equipes da Universidade Cornell, UCLA e UC Berkeley. Eles analisaram 111 milhões de citações em 2,5 milhões de artigos entre 2020 e 2025, em plataformas como arXiv, bioRxiv, SSRN e PubMed Central. Ao todo, identificaram mais de 146 mil referências fabricadas em 2025.
A metodologia rastreou títulos de artigos sem correspondência em bases como Google Scholar, Semantic Scholar e OpenAlex. A partir de meados de 2024, o estudo aponta aceleração do uso de IA para sugerir bibliografias, coincidindo com a popularização de ferramentas de IA generativa.
Entre os resultados, as taxas de referências falsas chegaram a quase 2% dos artigos no SSRN em agosto de 2025. No PubMed Central, a base biomédica, foram estimadas mais de 8 mil citações falsas em apenas um mês. Muitas referências continuaram mesmo após a revisão por pares.
Segundo os autores, o problema não é apenas fraude deliberada. Em muitos casos, citações inventadas aparecem em trabalhos legítimos, sugerindo que pesquisadores copiam referências recomendadas por IA sem checar as fontes originais. O fenômeno foi mais comum entre autores menos experientes.
Outro estudo, publicado na Lancet, avaliou artigos biomédicos entre 2023 e início de 2026. Detectou mais de 4 mil referências falsas em 2.810 artigos revisados por pares. Em 2023, uma proporção de citações falsas já existia; no começo de 2026, esse índice subiu, chegando a um artigo com uma citação falsa a cada 277.
Os pesquisadores alertam que o problema tende a se agravar, já que modelos de IA treinados em bases com referências falsas podem replicar erros em novos textos. Diante disso, recomendam que editoras adotem sistemas automáticos de verificação de referências antes da publicação.
Entre na conversa da comunidade