Relatório sobre IA continha erros cometidos pela própria IA

A KPMG, consultoria holandesa, retirou de circulação um relatório sobre IA após detectar alucinações geradas por IA no próprio documento.
O estudo, intitulado “Redefinindo a excelência na era da IA agêntica”, atribuía projetos de IA a UBS, NHS e Ferrovias Federais Suíças (SBB), entre outros.
O UBS informou que a descrição era incorreta e que as informações apresentadas eram falsas ou exageradas.
A verificação da GPTZero indicou padrões típicos de alucinações em conteúdos produzidos por modelos de IA usados no relatório.
O episódio se soma a casos semelhantes envolvendo a Deloitte, que já teve dois capítulos de erros de IA em projetos públicos.

A consultoria holandesa KPMG retirou de circulação um relatório sobre inteligência artificial após constatar que o próprio documento continha alucinações geradas por IA. O estudo apresentava exemplos de benefícios da tecnologia que não existiam.

O relatório intitulado Redefinindo a excelência na era da IA agêntica analisava a adoção de IA por empresas ao redor do mundo e atribuía projetos a organizações como UBS, NHS e SBB. Segundo o Financial Times, as informações eram falsas ou exageradas.

O UBS informou que a descrição era incorreta, enquanto o NHS e as Ferrovias Federais Suíças não comentaram oficialmente as alegações. A KPMG retirou o estudo de seus sites e abriu apuração interna para entender as circunstâncias da publicação, segundo a empresa.

Correção e desdobramentos

A KPMG afirmou que orienta seus funcionários a seguir diretrizes de uso responsável da IA, com supervisão humana para validar conteúdo e verificar fontes independentes. O jornal informou que a retirada ocorreu enquanto a consultoria avalia as falhas.

Casos semelhantes já vistos

No fim do ano passado, a Deloitte enfrentou episódios parecidos em duas ocasiões. Em outubro, a empresa devolveu parte de pagamento de um projeto ao governo australiano após identificar erros de IA no relatório entregue. Em novembro, outro relatório continha citações inexistentes para o setor público do Canadá.