Dia de maratona em Londres. Um trem cedo, partida desde Paddington até a linha de largada em Blackheath, com paralisação para ajustar o roteiro. Um corredor viu-se reforçado por um colega experiente, que buscava orientação de IA para chegar ao destino.
O amigo perguntou como iria até a linha de largada. O outro respondeu ter consultado o ChatGPT, que sugeria pegar a Elizabeth Line até Liverpool Street e depois trem para Blackheath. O grupo questionou a viabilidade dessa rota.
Ao verificar, ficou claro que não havia trem direto de Liverpool Street para Blackheath. Google Maps e Citymapper também indicavam caminhos diferentes, por Charing Cross ou Waterloo. O diálogo expôs falhas comuns em sugestões de IA.
Risco de alucinações em IA
O relato aponta que o ChatGPT ofereceu justificativas para evitar certas rotas, criticando a Circle Line por ser lotada. Em vez disso, indicou caminhos improváveis. O episódio mostra como IA pode parecer confiável, mesmo sem base factual sólida.
Especialistas destacam que, embora IA utilize dados reais, a combinação de linguagem persuasiva e explicações convincentes pode induzir erro. A resistência humana a dúvidas é um fator observado em testes clássicos de Turing.
A peça recorta a comparação entre IA e guias de orientação: o Google Maps oferece rotas confiáveis com base em dados de tráfego, enquanto a IA pode sugerir caminhos plausíveis, mas incorretos. O leitor vê como o impacto depende da veracidade.
O episódio levanta perguntas sobre uso responsável de IA em situações críticas. A tecnologia pode auxiliar, mas requere validação humana constante para evitar decisões prejudiciais.
Entre na conversa da comunidade