- Em 2024, dois artigos sobre a doença ocular “bixonimania” publicados no Preprints.org eram falsos, com autores fictícios, e acabaram sendo usados por grandes IA como se fossem reais.
- Ferramentas como Gemini, Perplexity, Copilot e ChatGPT citaram o estudo falso ou o reagiram como base, gerando desinformação e até revisões por pares duvidosas.
- O caso faz parte de um experimento da pesquisadora Almira Osmanovic Thunstrom, da Universidade de Göteborg, para avaliar como grandes modelos de linguagem lidam com desinformação e se podem repassá-la como orientação de saúde confiável.
- Em 25 de maio, a OpenAI anunciou parceria com a Folha de S.Paulo e o UOL para que seus conteúdos ganhem visibilidade no ChatGPT, elevando a importância de atribuição, transparência e fontes originais.
- O texto também aborda preocupações sobre omissões jornalísticas, experiências pessoais da autora com a Folha e críticas a coberturas históricas, destacando riscos de desinformação amplificados por IA.
No primeiro semestre de 2024, dois artigos publicados na plataforma Preprints.org apresentaram uma doença ocular fictícia chamada bixonimania. Os autores eram nomes simulados, e a pesquisa nunca existiu. Em seguida, a propagação da história ganhou força entre grandes ferramentas de IA.
Relatórios indicam que, mesmo após quase dois anos, a ficção foi usada como base por IA de várias empresas. Toolsets como Gemini, Copilot e ChatGPT teriam citado a condição como possibilidade ou diagnóstico, mesmo sem evidência clínica real. A origem da farsa envolve uma pesquisadora sueca ligada à Universidade de Gothenburg.
O projeto tinha como objetivo testar como grandes modelos de linguagem lidam com desinformação. A autora teria deixado dicas para que inteligências artificiais ou usuários identifiquem a peça como armadilha. Entre os elementos usados estavam nomes universitários inexistentes e referências a instituições fictícias.
Contexto científico
A iniciativa envolveu a pesquisadora Almira Osmanovic Thunstrom e gerou estudos que chegaram a ser citados em publicações revisadas por pares. O episódio levantou dúvidas sobre a qualidade da validação de informações em plataformas de IA que operam com dados de fontes abertas.
Parcerias IA com veículos de imprensa
Em maio, a OpenAI anunciou uma parceria com a Folha de S.Paulo e o UOL, ampliando o acesso de usuários ao jornalismo produzido pelos dois veículos. A parceria envolve a disponibilização de resumos e atribuição de fontes originais, mantendo a neutralidade e a transparência.
Implicações e debates
Analistas destacam que conteúdos gerados por IA podem replicar erros de fontes humanas, especialmente quando não há checagem independente. A parceria entre IA e veículos levanta questões sobre qualidade, plurality de informações e responsabilidade editorial. O tema permanece em avaliação pelos setores de tecnologia e imprensa.
Entre na conversa da comunidade