IA do DuckDuckGo afirma erroneamente que Trump morreu

No início de junho, a IA Duck.ai, recurso de busca do DuckDuckGo, informou incorretamente que Donald Trump morreu de raiva, em resultados de busca sobre o presidente dos EUA.
A falha foi classificada como alucinação da IA, conforme o site Futurism, que reportou o erro na quinta-feira anterior (25 de junho).
A resposta afirmava que Trump foi vítima da doença após ser mordido pelo vice-presidente, JD Vance, e que o secretário de Saúde e Serviços Humanos dos EUA, Robert F. Kennedy Jr., teria associado a enfermidade a “superpoderes”.
O DuckDuckGo reconheceu o erro em postagem no Reddit, informou que apresentaria uma solução e afirmou ter corrigido a falha, além de trabalhar em melhorias para evitar retrabalho.
A empresa disse que a ferramenta foi manipulada deliberadamente neste caso e que fará atualizações no Assistente de Busca para evitar ocorrências semelhantes.

O DuckDuckGo enfrentou um erro de inteligência artificial que fez com que o Duck.ai informasse, no início de junho, que o ex-presidente dos EUA Donald Trump havia morrido de raiva. A falha ocorreu durante buscas relacionadas ao político, segundo o site Futurism.

Conforme a reportagem, a IA respondeu que Trump faleceu após ser mordido pelo vice-presidente Mike Pence, o que envolve ainda o suposto envolvimento do secretário de Saúde, Robert F. Kennedy Jr., em atribuir a doença a supostos “superpoderes”. As informações são falsas e não foram checadas antes de serem exibidas.

A notícia aponta que a alucinação da IA teve origem em dados incorretos encontrados online e que foram repassados sem verificação. A ideia teve início como uma brincadeira em plataformas de Reddit, que acabou ganhando contorno de fato.

O DuckDuckGo reconheceu o erro em mensagens publicadas no Reddit e informou que está trabalhando em uma solução para evitar que situações semelhantes ocorram. A empresa também afirmou que corrigiu a falha, eliminando a alucinação do assistente de busca.

Além disso, a companhia confirmou o compromisso de melhorar o Assistente de Busca para reduzir erros em futuras situações. A ferramenta já recebeu ações para reforçar a checagem de informações geradas por IA.