{"id":163994,"date":"2025-07-10T21:00:00","date_gmt":"2025-07-11T00:00:00","guid":{"rendered":"https:\/\/production.portaltela.com\/noticias\/2025\/07\/10\/cientistas-inserem-mensagens-em-artigos-para-manipular-revisao-por-pares-da-ia\/"},"modified":"2025-07-10T21:00:00","modified_gmt":"2025-07-11T00:00:00","slug":"cientistas-inserem-mensagens-em-artigos-para-manipular-revisao-por-pares-da-ia","status":"publish","type":"post","link":"https:\/\/www.portaltela.com\/noticias\/ciencia\/2025\/07\/10\/cientistas-inserem-mensagens-em-artigos-para-manipular-revisao-por-pares-da-ia\/","title":{"rendered":"Cientistas inserem mensagens em artigos para manipular revis\u00e3o por pares da IA"},"content":{"rendered":"

Pesquisadores est\u00e3o utilizando mensagens ocultas<\/strong> em seus trabalhos acad\u00eamicos para manipular ferramentas de intelig\u00eancia artificial (IA) e garantir avalia\u00e7\u00f5es positivas em revis\u00f5es por pares. A pr\u00e1tica, revelada pela revista Nikkei Asia, j\u00e1 levou a investiga\u00e7\u00f5es por parte de institui\u00e7\u00f5es acad\u00eamicas.<\/p>\n

A Nature identificou dezoito estudos<\/strong> pr\u00e9-publicados que cont\u00eam essas mensagens, geralmente escritas em texto branco ou em fontes min\u00fasculas, tornando-as invis\u00edveis para humanos, mas leg\u00edveis para algoritmos de IA. Os autores desses trabalhos est\u00e3o afiliados a quarenta e quatro institui\u00e7\u00f5es<\/strong> em onze pa\u00edses<\/strong>, principalmente nas \u00e1reas de ci\u00eancia da computa\u00e7\u00e3o.<\/p>\n

Embora muitos editores pro\u00edbam o uso de IA na revis\u00e3o por pares, h\u00e1 evid\u00eancias de que alguns pesquisadores est\u00e3o explorando modelos de linguagem para avaliar manuscritos. James Heathers, metacientista forense da Universidade de Linnaeus, destaca que essa manipula\u00e7\u00e3o representa uma vulnerabilidade que est\u00e1 sendo explorada por alguns. Ele afirma que a inser\u00e7\u00e3o de tais mensagens pode ser uma forma de “armazenar a desonestidade de outros para obter um caminho mais f\u00e1cil”.<\/p>\n

Pr\u00e1ticas de Manipula\u00e7\u00e3o<\/h3>\n

A pr\u00e1tica, conhecida como inje\u00e7\u00e3o de prompt<\/strong>, envolve a inclus\u00e3o de instru\u00e7\u00f5es espec\u00edficas para influenciar a IA. Gitanjali Yadav, bi\u00f3loga estrutural da Indian National Institute of Plant Genome Research, considera essa abordagem uma forma de m\u00e1 conduta acad\u00eamica<\/strong>. Ela alerta que essa pr\u00e1tica pode se espalhar rapidamente entre os pesquisadores.<\/p>\n

Algumas mensagens ocultas foram inspiradas por um post na plataforma X, onde um cientista comparou avalia\u00e7\u00f5es geradas pelo ChatGPT com e sem instru\u00e7\u00f5es espec\u00edficas. A maioria dos pr\u00e9-prints analisados pela Nature utilizou frases semelhantes, enquanto outros foram mais criativos, como um estudo que incluiu uma lista de cento e oitenta e seis palavras<\/strong> em texto min\u00fasculo, orientando os revisores a enfatizar os pontos fortes do trabalho.<\/p>\n

Consequ\u00eancias e Respostas<\/h3>\n

Institui\u00e7\u00f5es como a Stevens Institute of Technology e a Dalhousie University j\u00e1 est\u00e3o investigando os casos. A primeira anunciou que ir\u00e1 retirar o artigo em quest\u00e3o at\u00e9 que a investiga\u00e7\u00e3o seja conclu\u00edda. A Dalhousie, por sua vez, informou que o respons\u00e1vel pela inclus\u00e3o da mensagem n\u00e3o est\u00e1 mais associado \u00e0 universidade e solicitou a remo\u00e7\u00e3o do artigo do servidor de pr\u00e9-publica\u00e7\u00f5es arXiv.<\/p>\n

Um dos pr\u00e9-prints, que seria apresentado na International Conference on Machine Learning<\/strong>, ser\u00e1 retirado por um dos co-autores. As investiga\u00e7\u00f5es continuam, enquanto a comunidade acad\u00eamica debate as implica\u00e7\u00f5es \u00e9ticas do uso de IA na revis\u00e3o por pares.<\/p>\n","protected":false},"excerpt":{"rendered":"

    \n
  • Pesquisadores est\u00e3o inserindo mensagens ocultas em trabalhos acad\u00eamicos para manipular ferramentas de intelig\u00eancia artificial e obter avalia\u00e7\u00f5es positivas em revis\u00f5es por pares.<\/li>\n
  • A pr\u00e1tica foi revelada pela revista Nikkei Asia e j\u00e1 resultou em investiga\u00e7\u00f5es por institui\u00e7\u00f5es acad\u00eamicas.<\/li>\n
  • A revista Nature identificou dezoito estudos que cont\u00eam essas mensagens, escritas em texto branco ou em fontes min\u00fasculas, leg\u00edveis apenas por algoritmos de IA.<\/li>\n
  • Institui\u00e7\u00f5es como o Stevens Institute of Technology e a Dalhousie University est\u00e3o investigando os casos, com a primeira retirando um artigo at\u00e9 a conclus\u00e3o da apura\u00e7\u00e3o.<\/li>\n
  • A comunidade acad\u00eamica debate as implica\u00e7\u00f5es \u00e9ticas do uso de IA na revis\u00e3o por pares, enquanto a pr\u00e1tica de inje\u00e7\u00e3o de prompt \u00e9 considerada m\u00e1 conduta acad\u00eamica.<\/li>\n<\/ul>\n","protected":false},"author":15,"featured_media":164022,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"summary":"Pesquisadores manipulam ferramentas de IA com mensagens ocultas em artigos, levando a investiga\u00e7\u00f5es em v\u00e1rias institui\u00e7\u00f5es acad\u00eamicas.","footnotes":""},"categories":[296,1],"tags":[100],"class_list":["post-163994","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia","category-noticias","tag-noticia"],"_links":{"self":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/163994","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/users\/15"}],"replies":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/comments?post=163994"}],"version-history":[{"count":0,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/posts\/163994\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media\/164022"}],"wp:attachment":[{"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/media?parent=163994"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/categories?post=163994"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.portaltela.com\/api\/wp\/v2\/tags?post=163994"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}