No primeiro semestre de 2024, dois artigos publicados na plataforma Preprints.org apresentaram uma doença ocular fictícia chamada bixonimania. Os autores eram nomes simulados, e a pesquisa nunca existiu. Em seguida, a propagação da história ganhou força entre grandes ferramentas de IA.
Relatórios indicam que, mesmo após quase dois anos, a ficção foi usada como base por IA de várias empresas. Toolsets como Gemini, Copilot e ChatGPT teriam citado a condição como possibilidade ou diagnóstico, mesmo sem evidência clínica real. A origem da farsa envolve uma pesquisadora sueca ligada à Universidade de Gothenburg.
O projeto tinha como objetivo testar como grandes modelos de linguagem lidam com desinformação. A autora teria deixado dicas para que inteligências artificiais ou usuários identifiquem a peça como armadilha. Entre os elementos usados estavam nomes universitários inexistentes e referências a instituições fictícias.
Contexto científico
A iniciativa envolveu a pesquisadora Almira Osmanovic Thunstrom e gerou estudos que chegaram a ser citados em publicações revisadas por pares. O episódio levantou dúvidas sobre a qualidade da validação de informações em plataformas de IA que operam com dados de fontes abertas.
Parcerias IA com veículos de imprensa
Em maio, a OpenAI anunciou uma parceria com a Folha de S.Paulo e o UOL, ampliando o acesso de usuários ao jornalismo produzido pelos dois veículos. A parceria envolve a disponibilização de resumos e atribuição de fontes originais, mantendo a neutralidade e a transparência.
Implicações e debates
Analistas destacam que conteúdos gerados por IA podem replicar erros de fontes humanas, especialmente quando não há checagem independente. A parceria entre IA e veículos levanta questões sobre qualidade, plurality de informações e responsabilidade editorial. O tema permanece em avaliação pelos setores de tecnologia e imprensa.
Entre na conversa da comunidade