Moderadores combatem conteúdo gerado por IA em pré-publicações científicas

Preprint servers, como o PsyArXiv, enfrentam um aumento preocupante de manuscritos gerados por inteligência artificial (IA). Recentemente, estimativas indicam que 22% dos resumos de ciência da computação no arXiv podem ser de origem IA, levantando questões sobre a qualidade da pesquisa científica.

Um exemplo emblemático é um preprint intitulado "Self-Experimental Report: Emergence of Generative AI Interfaces in Dream States", que chamou a atenção da psicóloga Olivia Kirtley. O manuscrito, postado em julho, era curto e apresentava apenas um autor sem afiliação. Kirtley alertou os administradores do PsyArXiv, que removeram o documento por violar as diretrizes do site, já que não esclarecia o uso da IA em sua metodologia.

Desafios na Moderação

Os preprint servers, que visam facilitar a publicação de pesquisas, enfrentam desafios significativos na triagem de conteúdos. Dermot Lynott, do conselho consultivo científico do PsyArXiv, destacou que a plataforma está lidando com um aumento de submissões de baixa qualidade, incluindo textos gerados por IA e serviços de produção de artigos sob demanda. A moderação se torna complexa, pois muitos serviços não têm recursos suficientes para garantir a qualidade sem atrasar o processo de publicação.

Moderadores de plataformas como o arXiv notaram um aumento no conteúdo gerado por IA após o lançamento do ChatGPT em 2022. Richard Sever, da openRxiv, informou que mais de dez manuscritos por dia são rejeitados por parecerem formulaicos ou possivelmente gerados por IA. A situação se agrava com a dificuldade de distinguir entre trabalhos legítimos e aqueles que não atendem aos padrões acadêmicos.

Aumento da Preocupação

Um estudo recente publicado na Nature Human Behaviour revelou que, em setembro de 2024, quase 10% dos resumos de biologia no bioRxiv e 14% dos resumos em revistas biomédicas continham texto gerado por IA. James Zou, coautor do estudo, observou que alguns textos podem ter sido produzidos por cientistas que têm dificuldades em redigir manuscritos em inglês.

A crescente presença de conteúdo gerado por IA nos preprint servers levanta questões sobre a integridade da pesquisa científica. As plataformas estão se esforçando para minimizar a submissão de materiais de baixa qualidade, mas a luta contra a proliferação de textos suspeitos continua.