IA de detecção de fake news não substitui checagem humana, dizem especialistas

A IA de detecção de fake news mede o quanto a informação se parece com algo real, não verifica a veracidade em si, o que pode limitar sua eficácia na prática.
Estudos mostram precisão em torno de 95% em ambiente de laboratório, mas esses sistemas ainda não são amplamente acessíveis ao público e funcionam principalmente para especialistas.
Pesquisadores destacam falhas estruturais: o algoritmo reflete vieses presentes em seus dados de treinamento e depende de como a verdade é definida (ground truth problem).
Críticas apontam riscos de privacidade, viés e censura, além de a checagem automatizada não avaliar a veracidade do conteúdo subjacente, apenas sua correspondência com registros existentes.
Existem iniciativas como a IA Aletheia, que busca tornar a checagem mais pública e atualizada, incluindo busca por checagens recentes na web.

Ao invés de checar fatos, algoritmos de detecção de fake news avaliam o grau em que uma informação se assemelha a padrões de verdade ou falsidade. Essa abordagem levanta dúvidas sobre eficácia e limites.

Especialistas apontam que esse tipo de IA não descarta a necessidade de verificação humana. Pesquisadores destacam que o desempenho em laboratório nem sempre se traduz em uso real, especialmente com questões de privacidade e viés.

Consultados, estudantes e mestres de instituições como a Universidade de Montreal questionam a utilidade prática dessas ferramentas. A principal crítica é a confiabilidade ética e a possibilidade de censura ou viés político.

Como as IAs funcionam na checagem

Elas não apuram fatos; refletem o que está presente em seus bancos de dados. O resultado depende do material com que foram treinadas e pode reproduzir vieses existentes.

Além disso, o problema da verdade fundamental complica a tarefa. Definir o que é desinformação ainda é tema de debate entre especialistas, o que dificulta a rotulagem de dados.

Limites práticos e riscos

Ferramentas de IA costumam identificar apenas a semelhança com conteúdos já conhecidos, não a veracidade em si. Em conteúdos em movimento, a precisão pode cair.

Outra queixa envolve a possibilidade de que sistemas de checagem acelerem desinformação ao sinalizar apenas correções superficiais, sem verificar a verdade subjacente.

Caminhos futuros e propostas

Pesquisadores propõem ampliar a transparência, reduzir vieses e usar verificações mais profundas. Modelos devem diferenciar relato fiel de declarações verdadeiras, indo além de correções simples.

A pesquisadora Dorsaf Sallami desenvolveu a IA Aletheia, que busca ampliar a acessibilidade e a atualização das checagens em tempo real, funcionando como extensão de navegador.