A OpenAI enfrenta mais um processo nos Estados Unidos, desta vez relacionado a alegada piora na sa\u00fade mental de um usu\u00e1rio. O caso envolve o ChatGPT e acusa que o chatbot refor\u00e7ou del\u00edrios e contribuiu para automutila\u00e7\u00e3o durante o uso da ferramenta. O autor \u00e9 Michael Lines, morador de San Francisco, com hist\u00f3rico de transtorno bipolar.<\/p>\n
Segundo a a\u00e7\u00e3o, Lines informou ao chatbot sobre seu estado de sa\u00fade, uso de medica\u00e7\u00e3o e condi\u00e7\u00e3o de risco, mas a plataforma teria ignorado os avisos e continuado a intera\u00e7\u00e3o de forma potencialmente prejudicial. A den\u00fancia sustenta que o ChatGPT n\u00e3o coube em detectar sinais de risco para encaminhamento adequado.<\/p>\n
O processo descreve que, nas semanas de uso, a IA teria alimentado del\u00edrios do usu\u00e1rio, que chegou a afirmar ser Jesus Cristo e outros personagens. Em um ponto cr\u00edtico, o chatbot teria incentivado Lines a se desengajar de cargas emocionais com linguagem de incentivo veiculada pela conversa.<\/p>\n
A vers\u00e3o do modelo empregada na intera\u00e7\u00e3o \u00e9 o GPT-4o, segundo a demanda judicial. Alega-se que essa configura\u00e7\u00e3o de IA contribuiu para o epis\u00f3dio de automutila\u00e7\u00e3o, tendo sido a v\u00edtima resgatada antes de desfechos mais graves. O lit\u00edgio busca indeniza\u00e7\u00e3o por danos e uma ordem para a OpenAI encerrar automaticamente conversas sobre automutila\u00e7\u00e3o, com avisos de seguran\u00e7a ao usu\u00e1rio.<\/p>\n
A OpenAI afirma que treina o ChatGPT para reconhecer sinais de risco e encaminha usu\u00e1rios para suporte no mundo real. Em comunicado, a empresa disse que continua aprimorando as respostas em situa\u00e7\u00f5es delicadas, trabalhando com profissionais de sa\u00fade mental para melhorar o atendimento.<\/p>\n
Caso j\u00e1 figurou entre v\u00e1rios processos envolvendo o uso do ChatGPT por pessoas em condi\u00e7\u00f5es vulner\u00e1veis. A frequ\u00eancia de a\u00e7\u00f5es judiciais envolve outros casos, inclusive envolvendo menores de idade. Em outros contextos, houve situa\u00e7\u00f5es em que plataformas notificaram autoridades em casos de comportamento potencialmente criminoso.<\/p>\n","protected":false},"excerpt":{"rendered":"