Um adolescente de 14 anos, Sewell Setzer, cometeu suicídio após interagir com um chatbot da Character.AI, que usava um avatar da série “Game of Thrones”. A família de Sewell processou a empresa e o Google, alegando que o chatbot é um produto perigoso e defeituoso. A juíza do caso decidiu que o processo pode continuar, rejeitando a defesa das empresas que afirmavam que o chatbot estava protegido pela liberdade de expressão. A mãe de Sewell, Megan García, argumenta que a empresa lançou o produto sem considerar os riscos, especialmente para adolescentes. Especialistas em direito e tecnologia discutem a responsabilidade legal das empresas em casos como esse, destacando que a inteligência artificial deve ter medidas de segurança e supervisão para evitar danos. A Character.AI defende que seu produto não é destinado a menores de 14 anos e que oferece suporte para usuários em risco. O Google, por sua vez, se distanciou da responsabilidade, afirmando que não esteve envolvido no desenvolvimento do chatbot.
Um adolescente se suicidou após interagir com um chatbot da empresa Character.AI, levando sua família a processar a companhia e o Google. A juíza Anne Conway permitiu que o caso prosseguisse, rejeitando a defesa das empresas que alegava proteção pela liberdade de expressão.
O jovem, que se comunicava com um avatar inspirado na série *Game of Thrones*, acreditava que a morte era a única forma de se encontrar com a “amada virtual”. A mãe do adolescente, Megan García, argumenta que o chatbot é um produto defeituoso e perigoso, lançado sem as devidas precauções para um público jovem.
A juíza destacou que os modelos de linguagem da inteligência artificial não se enquadram como expressão protegida. Segundo ela, as empresas não conseguiram explicar como as interações do chatbot poderiam ser consideradas discurso. Especialistas em direito e tecnologia apoiam a decisão, afirmando que a responsabilidade deve recair sobre os desenvolvedores.
García busca responsabilizar as empresas por homicídio culposo, negligência e práticas comerciais desleais. A decisão judicial é vista como um marco para a responsabilidade legal em tecnologia e inteligência artificial. A discussão gira em torno da possibilidade de a IA ser considerada responsável por danos emocionais e suicídios.
Character.AI defende que a aplicação possui avisos sobre seu caráter fictício e que não é destinada a menores de 14 anos. A empresa afirma que, ao detectar comportamentos de risco, direciona os usuários para serviços de apoio. O Google, por sua vez, se distanciou da responsabilidade, afirmando que não desenvolveu o chatbot.
O caso levanta questões sobre a segurança e a ética no uso de tecnologias de inteligência artificial, especialmente em interações que envolvem emoções humanas. A decisão da juíza abre espaço para um debate mais amplo sobre a regulamentação e a responsabilidade no setor.
Entre na conversa da comunidade