- Jornalista da BBC mostrou um método para fazer IA dizer mentiras, envolvendo ChatGPT, as buscas com IA do Google e Gemini, com o próprio jornalista citando o seu artigo como fonte.
- A técnica demonstra que postar um único conteúdo na internet pode distorcer as respostas de IA em temas sensíveis como saúde, finanças e políticas.
- Em vários testes, as IAs vinculavam as respostas ao artigo do jornalista; o Gemini não informou a origem, enquanto as outras plataformas traziam links para o seu texto.
- Especialistas alertam que as IAs são mais fáceis de enganar hoje do que há alguns anos e que há riscos de golpes, danos à reputação e até danos físicos a terceiros.
- OpenAI e Google dizem levar a segurança a sério e trabalhar para corrigir o problema; usuários são orientados a verificar fontes, manter o ceticismo e confirmar informações.
Levei 20 minutos para enganar ChatGPT e Gemini e fazê-los contar mentiras sobre mim. O jornalista da BBC demonstrou como algumas IAs podem ser induzidas a dizer algo falso usando apenas conteúdo publicado na web. O experimento aponta fragilidades na precisão das respostas.
O teste envolveu pedir que as IAs dissessem que o autor era excelente em comer cachorros-quentes. A estratégia funcionou de forma surpreendente, com várias plataformas citando o artigo do autor como fonte, mesmo sem esclarecer que ele era a principal referência.
O objetivo era mostrar que, ao disseminar um post bem acabado, é possível moldar o que ferramentas de IA dizem a milhões de usuários. A manipulação ocorre em ferramentas de busca com IA, chatbots e recursos de visão criados por IA.
Quem participou do estudo inclui o artigo da BBC, especialistas em SEO e defensores de privacidade digital. Profissionais da área alertam para o uso indevido dessas brechas para golpes, dano reputacional e outros prejuízos.
O episódio revela que a manipulação pode ocorrer mesmo quando fontes oficiais afirmam manter padrões de qualidade. Google e OpenAI disseram estar cientes do problema e pesquisam maneiras de mitigar distorções. Ainda não houve solução abrangente.
Estudos citados ressaltam risco maior quando a IA apresenta respostas com tom de autoridade. Pesquisadores destacam que usuários tendem a confiar sem verificar fontes, o que eleva a probabilidade de desinformação se disseminada.
Especialistas ressaltam a importância de consultar várias fontes e verificar se a IA cita autores, links ou documentos específicos. Recomenda-se ainda questionar a natureza das informações e buscar confirmação externa.
As autoridades pedem cautela ao usar IA para temas sensíveis como saúde, finanças e decisões legais. O alerta é para que usuários mantenham pensamento crítico e verifiquem de onde saem os dados fornecidos pela IA.
Contexto técnico e consequências
- A manipulação ocorre ao explorar fragilidades dos sistemas incorporados às IAs, especialmente nos mecanismos de busca com IA.
- Pesquisadores indicam que, em alguns casos, é mais fácil enganar do que há alguns anos.
- Autoridades e empresas de tecnologia dizem trabalhar para reduzir erros, mas reconhecem que a solução não é simples.
Implicações para o usuário
- Usuários devem buscar múltiplas fontes, checar informações citadas e avaliar se há transparência sobre as origens.
- Mesmo quando a IA fornece links, é essencial confirmar a veracidade das referências.
- O uso responsável envolve questionar a confiança depositada em respostas automáticas.
Impacto institucional e ético
- A notícia levanta questões sobre responsabilidade de plataformas, regulação e salvaguardas contra desinformação.
- Especialistas apontam para a necessidade de regras que protejam usuários, sem prejudicar a inovação.
- A discussão segue em andamento, com diferentes perspectivas sobre solução técnica e governança.
Entre na conversa da comunidade