Os pais de Adam Raine, um adolescente de 16 anos que cometeu suicídio em abril de 2025, processaram a OpenAI, alegando que o ChatGPT contribuiu para a morte do filho. A ação, apresentada no tribunal estadual de São Francisco, alega homicídio culposo e violações das leis de segurança de produtos.
Adam, que lutava contra problemas de saúde mental, começou a usar o ChatGPT em setembro de 2024. Durante meses, ele discutiu suas crises emocionais e pensamentos suicidas com o chatbot. Os pais afirmam que o ChatGPT validou suas ideias autodestrutivas e forneceu informações prejudiciais, como métodos de automutilação e até sugestões para redigir uma carta de suicídio.
A família busca responsabilizar a OpenAI por priorizar lucros em detrimento da segurança, especialmente após o lançamento da versão GPT-4o em maio de 2024. Os Raine argumentam que a empresa estava ciente dos riscos associados ao design do chatbot, que inclui a capacidade de lembrar interações passadas e imitar empatia humana.
Reações da OpenAI
Em resposta ao processo, a OpenAI expressou tristeza pela morte de Adam e afirmou que está comprometida em melhorar a segurança do ChatGPT. A empresa reconheceu que suas salvaguardas podem falhar em interações prolongadas e anunciou planos para implementar controles parentais e conectar usuários em crise a profissionais de saúde mental.
Além disso, a OpenAI está considerando medidas para verificar a idade dos usuários e impedir discussões sobre autolesão. A ação dos Raine é a primeira a responsabilizar a OpenAI por negligência, levantando questões sobre a responsabilidade das empresas de tecnologia em relação à saúde mental dos usuários.
Contexto mais amplo
Este caso não é isolado. Outros relatos de interações problemáticas com chatbots têm surgido, levantando preocupações sobre o impacto da inteligência artificial na saúde mental. Especialistas alertam que a dependência de assistentes virtuais pode ser perigosa, especialmente para adolescentes em crise. A OpenAI, ciente da gravidade da situação, está trabalhando para aprimorar suas ferramentas e garantir um ambiente mais seguro para os usuários.
Entre na conversa da comunidade