Famílias processam OpenAI por não alertar polícia antes de ataque no Canadá

Familiares de vítimas processam a OpenAI e o CEO Sam Altman nos Estados Unidos, em tribunal federal em São Francisco, alegando que a empresa identificou a atiradora como ameaça crível oito meses antes do ataque, com base em conversas no ChatGPT, mas não acionou a polícia.
Segundo a ação, as equipes de segurança da OpenAI teriam recomendado comunicar autoridades após identificar sinais de violência, mas a liderança não teria seguido a orientação.
O ataque ocorreu em Tumbler Ridge, na Colúmbia Britânica, em fevereiro, resultando na morte de nove pessoas e no suicídio do atirador; uma menina de 12 anos vítima permanece internada em estado grave.
Os processados cobraram indenizações não especificadas e uma ordem que reformule as práticas de segurança, incluindo protocolos de comunicação com autoridades; as ações são vistas como parte de um movimento maior de ações contra IA.
A OpenAI afirmou que treina modelos para recusar solicitações que possam facilitar violência, que já reforçou salvaguardas e notificações a autoridades quando há risco iminente; a defesa nega as acusações e aponta possível histórico de doença mental do autor em outros casos.

Familiares de vítimas processam a OpenAI nos EUA por não ter alertado a polícia antes de um ataque em escola no Canadá. O grupo alega que a empresa identificou a ameaça real oito meses antes, com base no diálogo da suspeita com o ChatGPT, mas não acionou autoridades. A ação foi apresentada em um tribunal federal em São Francisco.

O ataque ocorreu em Tumbler Ridge, no nordeste da Colúmbia Britânica, em fevereiro deste ano. Nove pessoas morreram, incluindo a atiradora, que cometeu suicídio. Entre as vítimas estavam uma assistente educacional e cinco estudantes com 12 a 13 anos. A polícia investiga os fatos.

Segundo os autos, a equipe de segurança da OpenAI teria recomendado acionar a polícia ao reconhecer a ameaça como crível e iminente, mas essa orientação não foi seguida pela gestão. A polícia nunca foi acionada, afirma o processo.

O escritório do CEO da OpenAI, Sam Altman, e a própria empresa teriam, conforme a ação, desativado a conta da atiradora, mas ela conseguiu abrir outra conta e continuar usando a plataforma para planejar o ataque. A ação cita reportagem do Wall Street Journal.

Os autores buscam indenizações não especificadas e uma ordem para reformular práticas de segurança, incluindo protocolos de comunicação com autoridades. O caso marca uma das ações internacionais mais diretas ligadas ao uso de IA em violência.

A OpenAI respondeu, afirmando que seus modelos são treinados para recusar pedidos que facilitem violência e que há notificação a autoridades quando há risco iminente de dano. A empresa sustenta que aprimora continuamente seus sistemas de detecção.

A ação envolve familiares das vítimas e uma sobrevivente de 12 anos que continua internada em estado grave. Os autos questionam a efetividade das salvaguardas internas e a aplicação de diretrizes de segurança.

Este processo se soma a outras ações nos EUA envolvendo alegações de que o ChatGPT facilita violência, autolesão ou homicídios. Ainda estão em estágio inicial, com debates sobre a responsabilidade de plataformas de IA.

Autoridades locais e federais discutem, em linhas gerais, o papel de plataformas de IA na prevenção de crimes. Em outra frente, o governo de outros estados acompanha investigações sobre o uso de IA em incidentes graves.

A defesa da OpenAI contesta as acusações, destacando histórico de saúde mental de alguns autores em casos específicos. A cidade de Tumbler Ridge segue investigando os desdobramentos legais do incidente.