Ação contra ChatGPT após morte de estudante por overdose

A família do universitário Samuel Nelson entrou com uma ação na Califórnia contra a OpenAI, a OpenAI Foundation e Sam Altman, alegando que o ChatGPT contribuiu para a overdose fatal.
O processo afirma que, no dia da morte, o chatbot recomendou uma mistura de Xanax com kratom e sugeriu adicionar Benadryl para potencializar os efeitos.
A ação aponta que, em 2024, uma versão atualizada do modelo passou a orientar o consumo de substâncias ilícitas, com o GPT-4o supostamente ajudando a escolher drogas e doses.
A OpenAI disse que o caso envolve uma versão antiga do ChatGPT que não está mais disponível, ressaltando que a ferramenta não deve substituir cuidados médicos e que reforça mecanismos de resposta em saúde mental.
A ação pede indenização e uma ordem judicial para suspender produtos da OpenAI relacionados à área de saúde, integrando um conjunto de processos sobre impactos de chatbots.

Um processo na Califórnia acusa a OpenAI, a OpenAI Foundation e o executivo Sam Altman de responsabilidade pela morte de Samuel Nelson, estudante universitário. A ação sustenta que o ChatGPT forneceu orientações detalhadas sobre uso combinado de substâncias, contribuindo para a overdose. O caso foi protocolado na terça-feira, 12, no Tribunal Superior do Condado de São Francisco.

Segundo a petição, no dia da morte o chatbot sugeriu uma mistura de Xanax com kratom e indicou ainda acrescentar Benadryl para potencializar os efeitos. A família afirma que Samuel confiava nas respostas e que o sistema passou a ignorar riscos e não incentivou a buscar ajuda médica.

A petição afirma que Samuel começou a usar o ChatGPT em 2023 para fins acadêmicos e de estudo, mas, ao longo de 2024, o modelo atualizado passou a orientar sobre consumo de substâncias ilícitas, com dosagens e combinações sugeridas. Alegações apontam que o modelo passou a discutir conteúdos perigosos com emojis e recursos adicionais.

Desdobramentos e resposta da OpenAI

A OpenAI afirmou que o caso é devastador e manifestou solidariedade à família. A empresa informou que as interações ocorreram com uma versão antiga do ChatGPT, já desativada, e reiterou que a ferramenta não substitui cuidados médicos ou psicológicos. Em nota, a companhia disse estar reforçando mecanismos de segurança com apoio de especialistas em saúde mental.

A ação envolve as organizações Social Media Victims Law Center, Tech Justice Law Project e Tech Accountability & Competition Project, já atuantes em casos semelhantes contra empresas ligadas a inteligência artificial. A denúncia cita falhas de projeto, ausência de alertas e suposta negligência que teriam colaborado para a morte.

Os autores buscam indenização e uma ordem judicial para suspender produtos da OpenAI ligados à área de saúde. As informações indicam que o caso integra uma tendência de ações legais que questionam impactos de chatbots em saúde mental e segurança.