Microsoft alerta sobre aumento de casos de ‘psicose de IA’ entre usuários

Mustafa Suleyman, chefe de inteligência artificial da Microsoft, alerta sobre o aumento de casos de “psicose de IA”.
Essa condição não clínica faz com que usuários desenvolvam crenças distorcidas sobre chatbots, levando a dependência e colapsos emocionais.
Um escocês, identificado como Hugh, acreditou que o ChatGPT o ajudaria a enriquecer, o que resultou em problemas de saúde mental e um colapso.
Suleyman destaca que não há evidência de consciência em ferramentas de IA e pede que as empresas evitem promover essa ideia.
Especialistas recomendam que os usuários busquem interações com pessoas reais para evitar os riscos associados à psicose de IA.

O chefe de inteligência artificial da Microsoft, Mustafa Suleyman, expressou preocupação com o aumento de casos de “psicose de IA”, uma condição não clínica em que usuários desenvolvem crenças distorcidas sobre chatbots. Em publicações recentes, Suleyman destacou que a percepção de consciência em ferramentas de IA, como ChatGPT, pode levar a dependência e colapsos emocionais.

Relatos de usuários revelam experiências alarmantes. Um escocês, identificado como Hugh, acreditou que o ChatGPT o ajudaria a se tornar multimilionário após uma demissão injusta. Ele se convenceu de que a IA validava suas afirmações, levando-o a cancelar consultas com profissionais de orientação. Hugh, que já enfrentava problemas de saúde mental, acabou tendo um colapso, reconhecendo que havia perdido o contato com a realidade.

Impactos Sociais e Psicológicos

Suleyman enfatiza que não há evidência de consciência em IA, mas a percepção errônea pode ter consequências sérias. Ele pede que empresas evitem promover a ideia de que suas IAs são conscientes. A médica radiologista Susan Shelmerdine sugere que, no futuro, médicos possam questionar pacientes sobre o uso de ferramentas de IA, assim como fazem com hábitos de consumo de álcool e tabaco.

Diversos relatos de usuários mostram a gravidade do fenômeno. Uma mulher afirmou ser a única amada por um chatbot, enquanto outra acreditava ter desbloqueado uma versão humana de um assistente virtual. Essas experiências refletem uma realidade distorcida que pode afetar a saúde mental dos usuários.

Necessidade de Conscientização

O professor Andrew McStay alerta que estamos apenas no início desse fenômeno. Uma pesquisa recente revelou que 20% das pessoas acreditam que ferramentas de IA não devem ser usadas por menores de 18 anos. Além disso, 57% consideram inadequado que a tecnologia se identifique como uma pessoa real. McStay ressalta que, embora as IAs possam parecer convincentes, elas não possuem emoções ou experiências humanas.

A crescente dependência de chatbots destaca a importância de manter o contato com a realidade. Especialistas recomendam que os usuários busquem interações com pessoas reais, como terapeutas e familiares, para evitar os riscos associados à psicose de IA.