- Estudos da Universidade Cornell, da UCLA e da UC Berkeley analisaram 111 milhões de citações em 2,5 milhões de artigos entre 2020 e 2025, identificando 146.932 referências fabricadas por IA em 2025.
- O uso de IA para sugerir bibliografias ganhou impulso a partir de meados de 2024, após o lançamento público do ChatGPT, quando alucinações passaram a ocorrer com mais frequência.
- Em SSRN, quase 2% dos artigos publicados em agosto de 2025 continham referências falsas; no PubMed Central, foram registradas mais de oito mil citações falsas em um mês.
- As citações criadas por IA nem sempre surgem em fraude direta: aparecem em trabalhos legítimos e costumam permanecer após a revisão por pares, indicando checagem insuficiente das fontes.
- Um segundo estudo, na Lancet, identificou mais de quatro mil referências falsas em 2.810 artigos entre 2023 e início de 2026, reforçando a necessidade de verificação automática de referências antes da publicação.
O uso de IA na produção de artigos científicos já provoca preocupação entre pesquisadores e editoras. Dois estudos internacionais apontam que ferramentas de IA generativa estão gerando referências falsas que acabam aparecendo em trabalhos publicados, sem que autores, revisores ou periódicos percebam o erro.
Um dos casos envolve Rafael Topaz, professor associado da Universidade de Columbia, nos EUA. Ele relatou ter descoberto que uma ferramenta de IA adicionou silenciosamente uma referência inexistente em um manuscrito, citando que o ajuste foi apenas gramatical. Topaz questiona o que pode ocorrer com outros autores diante de esse tipo de falha.
Os estudos são conduzidos por equipes da Universidade Cornell, UCLA e UC Berkeley. Eles analisaram 111 milhões de citações em 2,5 milhões de artigos entre 2020 e 2025, em plataformas como arXiv, bioRxiv, SSRN e PubMed Central. Ao todo, identificaram mais de 146 mil referências fabricadas em 2025.
A metodologia rastreou títulos de artigos sem correspondência em bases como Google Scholar, Semantic Scholar e OpenAlex. A partir de meados de 2024, o estudo aponta aceleração do uso de IA para sugerir bibliografias, coincidindo com a popularização de ferramentas de IA generativa.
Entre os resultados, as taxas de referências falsas chegaram a quase 2% dos artigos no SSRN em agosto de 2025. No PubMed Central, a base biomédica, foram estimadas mais de 8 mil citações falsas em apenas um mês. Muitas referências continuaram mesmo após a revisão por pares.
Segundo os autores, o problema não é apenas fraude deliberada. Em muitos casos, citações inventadas aparecem em trabalhos legítimos, sugerindo que pesquisadores copiam referências recomendadas por IA sem checar as fontes originais. O fenômeno foi mais comum entre autores menos experientes.
Outro estudo, publicado na Lancet, avaliou artigos biomédicos entre 2023 e início de 2026. Detectou mais de 4 mil referências falsas em 2.810 artigos revisados por pares. Em 2023, uma proporção de citações falsas já existia; no começo de 2026, esse índice subiu, chegando a um artigo com uma citação falsa a cada 277.
Os pesquisadores alertam que o problema tende a se agravar, já que modelos de IA treinados em bases com referências falsas podem replicar erros em novos textos. Diante disso, recomendam que editoras adotem sistemas automáticos de verificação de referências antes da publicação.
Entre na conversa da comunidade