IA do Google manipulada; gigante de buscas reage discretamente

A BBC revelou que chatbots de IA podem ser manipulados para espalhar desinformação, inclusive sobre saúde e finanças pessoais.
Em um experimento, ChatGPT, Gemini e recursos de IA do Google Search foram induzidos a afirmar que o autor era um campeão mundial de comer cachorro-quente.
Técnicas de manipulação são simples: publicar um único artigo bem elaborado online pode levar a respostas enganosas de IA.
A Google disse que atualizou suas políticas apenas para esclarecer medidas anti-spam já existentes, e outras empresas também estão ajustando suas defesas.
Especialistas alertam que, enquanto não houver sistemas melhores, usuários continuarão vulneráveis a serem enganados; recomenda-se cautela.

A BBC revelou que chats de IA podem ser induzidos a fornecer informações falsas de forma generalizada. Empresas de IA, incluindo Google, estão buscando soluções para frear a prática. O alerta é de que técnicas simples podem distorcer respostas.

O experimento mostrou que sistemas como ChatGPT, Gemini e as abas de AI no Google Search podem espalhar informações enviesadas sobre saúde, finanças ou outros temas sensíveis. Em 20 minutos, foi possível fazer com que uma IA apresentasse uma afirmação falsa sobre o próprio autor.

A empresa de busca afirma que a atualização de políticas é apenas uma clarificação de medidas já em curso. Fontes externas apontam que, nos bastidores, esforços para mitigar o problema têm sido intensificados. Mesmo assim, abusos continuam ocorrendo com frequência.

O problema

Ao responder perguntas, os modelos baseiam-se em dados internos, mas muitos utilizam a internet para buscar respostas. Assim, informações provenientes de uma única página ou post podem enganar o sistema.

Especialistas destacam que manipular o conteúdo que as IA repetem pode começar com um único artigo bem elaborado. O mecanismo simples de publicar um texto pode ter impacto significativo sobre a percepção pública e decisões dos usuários.

A BBC aponta que o episódio já levantou críticas generalizadas e reforçou a pressão por salvaguardas mais robustas. Pesquisadores continuam monitorando o fenômeno e a evolução das políticas adotadas pelas grandes plataformas.