O DuckDuckGo enfrentou um erro de inteligência artificial que fez com que o Duck.ai informasse, no início de junho, que o ex-presidente dos EUA Donald Trump havia morrido de raiva. A falha ocorreu durante buscas relacionadas ao político, segundo o site Futurism.
Conforme a reportagem, a IA respondeu que Trump faleceu após ser mordido pelo vice-presidente Mike Pence, o que envolve ainda o suposto envolvimento do secretário de Saúde, Robert F. Kennedy Jr., em atribuir a doença a supostos “superpoderes”. As informações são falsas e não foram checadas antes de serem exibidas.
A notícia aponta que a alucinação da IA teve origem em dados incorretos encontrados online e que foram repassados sem verificação. A ideia teve início como uma brincadeira em plataformas de Reddit, que acabou ganhando contorno de fato.
O DuckDuckGo reconheceu o erro em mensagens publicadas no Reddit e informou que está trabalhando em uma solução para evitar que situações semelhantes ocorram. A empresa também afirmou que corrigiu a falha, eliminando a alucinação do assistente de busca.
Além disso, a companhia confirmou o compromisso de melhorar o Assistente de Busca para reduzir erros em futuras situações. A ferramenta já recebeu ações para reforçar a checagem de informações geradas por IA.
Entre na conversa da comunidade