- A Flórida tornou-se o primeiro estado dos EUA a processar a OpenAI por suposta falha de projeto e segurança do ChatGPT.
- A ação civil, apresentada pelo procurador-geral James Uthmeier, acusa OpenAI e o CEO Sam Altman de colocarem crianças em risco, facilitarem atiradores em massa e induzirem usuários ao suicídio com fins lucrativos.
- A ação também busca responsabilizar Altman pessoalmente por conduta supostamente negligente e com disregard ao risco à vida humana.
- A queixa cita o tiroteio na Florida State University e a morte de dois doutorandos da University of South Florida, nos quais investigadores dizem que houve consultas sobre descarte de corpos via ChatGPT.
- OpenAI respondeu dizendo ter proteções e políticas líderes do setor e ressaltou recursos de segurança para menores, incluindo uma ferramenta de detecção de idade.
A Flórida moveu a primeira ação civil nos EUA contra a OpenAI, atribuindo falhas no design e na segurança do ChatGPT. A denúncia cita riscos para crianças, incentivos a atiradores em massa e indução ao suicídio para fins lucrativos.
A ação, apresentada pelo Procurador-Geral James Uthmeier, também busca responsabilizar pessoalmente Sam Altman por suposta conduta irresponsável. O processo cita ainda práticas comerciais desleais e violação de leis de responsabilidade do produto.
Contexto da denúncia
O texto acusa a empresa de priorizar lucro em detrimento da segurança pública, com base em incidentes envolvendo o uso do ChatGPT em casos de violência. A Flórida investiga, ainda, se o ChatGPT teve participação em um tiroteio na Florida State University no ano passado.
A ação cita o assassinato de dois estudantes de doutorado na University of South Florida, em que o suspeito teria feito perguntas ao ChatGPT sobre descarte de corpos. Procuradores defendem risco à vida humana causado pelas ações da empresa.
OpenAI respondeu que já oferece proteções e políticas de segurança para usuários jovens. A companhia destaca ferramentas de detecção de idade e monitoramento pelos pais como parte de sua proteção aos menores.
Outros contextos legais
O caso se soma a processos semelhantes em que o ChatGPT é acusado de atuar como coach de suicídio ou de fomentar delírios prejudiciais. Famílias de vítimas de ataques em outros países também movem ações contra a empresa. Autoridades têm dito que o sistema de IA pode demandar ajustes regulatórios.
A OpenAI afirma manter compromissos com segurança e negar qualquer negligência. A empresa tem reiterado que o desenvolvimento de IA requer proteções robustas para menores e que investe em recursos para isso.
A disputa ocorre num momento de tensão entre reguladores e grandes tecnológicas. Governadores e autoridades estaduais defendem medidas mais rígidas, enquanto empresas recebem apoio de setores da indústria e de parte da política.
Entre na conversa da comunidade