AI enfrenta sérios problemas de citação em ferramentas de busca, revela estudo

Na última semana, OpenAI e Google emitiram declarações solicitando à administração de Donald Trump que considere o treinamento de inteligência artificial (IA) como uso justo, defendendo a “liberdade de aprender”. A empresa OpenAI alertou que, se a questão de direitos autorais não for resolvida, a corrida pela IA com a China pode estar comprometida. A capacidade de cobrar por modelos de IA pode ser afetada, pois, para monetizar, é necessário pagar taxas de licenciamento. Se as empresas não puderem arcar com esses custos, não poderão cobrar pelo acesso a informações da internet.

Uma pesquisa da Columbia Journalism Review revelou que ferramentas de busca baseadas em IA enfrentam sérios problemas de citação. Ao testar oito motores de busca, os pesquisadores descobriram que essas ferramentas erraram mais de 60% das vezes ao identificar e citar artigos de notícias. O Grok 3 apresentou uma taxa de erro de 94%, enquanto o Perplexity, considerado o melhor, ainda assim falhou em 37% das consultas. O mais alarmante é que essas ferramentas frequentemente apresentaram respostas incorretas com confiança excessiva.

Além de erros nas citações, padrões preocupantes foram identificados, como a ignorância de bloqueios de sites e a fabricação de links. Mais da metade dos URLs fornecidos pelo Grok 3 eram falsos, e muitos artigos foram citados de versões sindicadas em vez de suas fontes originais. Mesmo com acordos de licenciamento, como os da Time com a OpenAI, a precisão das citações não foi garantida. Isso levanta questões sobre a credibilidade das informações fornecidas por assistentes de IA, que podem prejudicar a reputação dos editores e enganar os usuários.

Por fim, a situação é crítica, pois erros nas citações podem ter consequências legais. Recentemente, advogados da Morgan & Morgan foram multados em R$ 5 mil por citarem casos inexistentes em um documento legal. A falta de resposta das empresas de IA sobre esses problemas é preocupante, e a OpenAI apenas emitiu uma declaração genérica sobre o apoio aos editores. A confiança nas ferramentas de busca baseadas em IA deve ser tratada com cautela, e recomenda-se verificar informações por meio de buscas tradicionais.