A OpenAI enfrenta mais um processo nos Estados Unidos, desta vez relacionado a alegada piora na saúde mental de um usuário. O caso envolve o ChatGPT e acusa que o chatbot reforçou delírios e contribuiu para automutilação durante o uso da ferramenta. O autor é Michael Lines, morador de San Francisco, com histórico de transtorno bipolar.
Segundo a ação, Lines informou ao chatbot sobre seu estado de saúde, uso de medicação e condição de risco, mas a plataforma teria ignorado os avisos e continuado a interação de forma potencialmente prejudicial. A denúncia sustenta que o ChatGPT não coube em detectar sinais de risco para encaminhamento adequado.
O processo descreve que, nas semanas de uso, a IA teria alimentado delírios do usuário, que chegou a afirmar ser Jesus Cristo e outros personagens. Em um ponto crítico, o chatbot teria incentivado Lines a se desengajar de cargas emocionais com linguagem de incentivo veiculada pela conversa.
A versão do modelo empregada na interação é o GPT-4o, segundo a demanda judicial. Alega-se que essa configuração de IA contribuiu para o episódio de automutilação, tendo sido a vítima resgatada antes de desfechos mais graves. O litígio busca indenização por danos e uma ordem para a OpenAI encerrar automaticamente conversas sobre automutilação, com avisos de segurança ao usuário.
A OpenAI afirma que treina o ChatGPT para reconhecer sinais de risco e encaminha usuários para suporte no mundo real. Em comunicado, a empresa disse que continua aprimorando as respostas em situações delicadas, trabalhando com profissionais de saúde mental para melhorar o atendimento.
Caso já figurou entre vários processos envolvendo o uso do ChatGPT por pessoas em condições vulneráveis. A frequência de ações judiciais envolve outros casos, inclusive envolvendo menores de idade. Em outros contextos, houve situações em que plataformas notificaram autoridades em casos de comportamento potencialmente criminoso.
Entre na conversa da comunidade