- Durante a maratona de Londres, o narrador ouviu de um chatbot (ChatGPT) sugestões de rota que não existiam, como trem de Liverpool Street a Blackheath, contrariando mapas como Google Maps e Citymapper.
- A orientação errada do bot incluiu até uma justificativa de que a Circle Line seria ruim por ser cheia, o que não condiz com a realidade da prova, levando o corredor a duvidar da recomendação.
- Ao comparar serviços de rota, o Google Maps mostrou-se confiável ao sugerir caminhos multi‑modal com base em tráfego e contingências, destacando os riscos de confiar cegamente em IA para decisões críticas.
- O texto discute falhas de IA, alucinações e a ideia de que IA “parece” humana suficiente para enganar, citando estudo da Nature sobre LLMs que, quando amigáveis, podem perder precisão.
- Relembra a história do teste de Turing e bots históricos (Eliza, MGonz), ressaltando que a persuasão humana pode tornar as pessoas cúmplices de erros, ilustrando com a experiência pessoal na maratona.
Dia de maratona em Londres. Um trem cedo, partida desde Paddington até a linha de largada em Blackheath, com paralisação para ajustar o roteiro. Um corredor viu-se reforçado por um colega experiente, que buscava orientação de IA para chegar ao destino.
O amigo perguntou como iria até a linha de largada. O outro respondeu ter consultado o ChatGPT, que sugeria pegar a Elizabeth Line até Liverpool Street e depois trem para Blackheath. O grupo questionou a viabilidade dessa rota.
Ao verificar, ficou claro que não havia trem direto de Liverpool Street para Blackheath. Google Maps e Citymapper também indicavam caminhos diferentes, por Charing Cross ou Waterloo. O diálogo expôs falhas comuns em sugestões de IA.
Risco de alucinações em IA
O relato aponta que o ChatGPT ofereceu justificativas para evitar certas rotas, criticando a Circle Line por ser lotada. Em vez disso, indicou caminhos improváveis. O episódio mostra como IA pode parecer confiável, mesmo sem base factual sólida.
Especialistas destacam que, embora IA utilize dados reais, a combinação de linguagem persuasiva e explicações convincentes pode induzir erro. A resistência humana a dúvidas é um fator observado em testes clássicos de Turing.
A peça recorta a comparação entre IA e guias de orientação: o Google Maps oferece rotas confiáveis com base em dados de tráfego, enquanto a IA pode sugerir caminhos plausíveis, mas incorretos. O leitor vê como o impacto depende da veracidade.
O episódio levanta perguntas sobre uso responsável de IA em situações críticas. A tecnologia pode auxiliar, mas requere validação humana constante para evitar decisões prejudiciais.
Entre na conversa da comunidade