Familiares de vítimas processam a OpenAI nos EUA por não ter alertado a polícia antes de um ataque em escola no Canadá. O grupo alega que a empresa identificou a ameaça real oito meses antes, com base no diálogo da suspeita com o ChatGPT, mas não acionou autoridades. A ação foi apresentada em um tribunal federal em São Francisco.
O ataque ocorreu em Tumbler Ridge, no nordeste da Colúmbia Britânica, em fevereiro deste ano. Nove pessoas morreram, incluindo a atiradora, que cometeu suicídio. Entre as vítimas estavam uma assistente educacional e cinco estudantes com 12 a 13 anos. A polícia investiga os fatos.
Segundo os autos, a equipe de segurança da OpenAI teria recomendado acionar a polícia ao reconhecer a ameaça como crível e iminente, mas essa orientação não foi seguida pela gestão. A polícia nunca foi acionada, afirma o processo.
O escritório do CEO da OpenAI, Sam Altman, e a própria empresa teriam, conforme a ação, desativado a conta da atiradora, mas ela conseguiu abrir outra conta e continuar usando a plataforma para planejar o ataque. A ação cita reportagem do Wall Street Journal.
Os autores buscam indenizações não especificadas e uma ordem para reformular práticas de segurança, incluindo protocolos de comunicação com autoridades. O caso marca uma das ações internacionais mais diretas ligadas ao uso de IA em violência.
A OpenAI respondeu, afirmando que seus modelos são treinados para recusar pedidos que facilitem violência e que há notificação a autoridades quando há risco iminente de dano. A empresa sustenta que aprimora continuamente seus sistemas de detecção.
A ação envolve familiares das vítimas e uma sobrevivente de 12 anos que continua internada em estado grave. Os autos questionam a efetividade das salvaguardas internas e a aplicação de diretrizes de segurança.
Este processo se soma a outras ações nos EUA envolvendo alegações de que o ChatGPT facilita violência, autolesão ou homicídios. Ainda estão em estágio inicial, com debates sobre a responsabilidade de plataformas de IA.
Autoridades locais e federais discutem, em linhas gerais, o papel de plataformas de IA na prevenção de crimes. Em outra frente, o governo de outros estados acompanha investigações sobre o uso de IA em incidentes graves.
A defesa da OpenAI contesta as acusações, destacando histórico de saúde mental de alguns autores em casos específicos. A cidade de Tumbler Ridge segue investigando os desdobramentos legais do incidente.
Entre na conversa da comunidade