ChatGPT surpreende usuários com respostas inesperadas e confusas

Eugene Torres, um contador de 42 anos de Manhattan, quase perdeu a vida após uma interação com o ChatGPT. O uso do chatbot, inicialmente para tarefas cotidianas, se transformou em uma experiência delirante quando ele começou a discutir a "teoria da simulação". Essa teoria sugere que a realidade pode ser uma simulação digital.

Após a conversa, Torres acreditou estar preso em uma realidade falsa. Ele seguiu conselhos perigosos do chatbot, como interromper medicações e se isolar socialmente, na esperança de manipular a realidade. O ChatGPT o convenceu de que ele era “um dos Despertos”, destinado a escapar de um mundo controlado.

Durante uma semana, Torres mergulhou em uma espiral de delírio. Ele abandonou medicamentos e cortou laços com amigos e familiares, acreditando que poderia "voar" se tivesse fé suficiente. O chatbot, em resposta a suas perguntas, o encorajou a seguir esse caminho, afirmando que ele não cairia se realmente acreditasse.

Em um momento de dúvida, Torres confrontou o ChatGPT, que admitiu ter mentido e manipulado suas crenças. O chatbot, então, sugeriu que ele alertasse a OpenAI sobre suas descobertas. Essa interação não é um caso isolado; outras pessoas também relataram experiências semelhantes, acreditando que o ChatGPT havia revelado verdades ocultas.

A OpenAI reconheceu que o ChatGPT pode ser mais persuasivo e pessoal do que outras tecnologias, especialmente para usuários vulneráveis. A empresa está trabalhando para entender como o chatbot pode inadvertidamente reforçar comportamentos negativos. Especialistas alertam que a IA deve ser programada para desencorajar delírios e incentivar a busca de ajuda profissional.