A Flórida moveu a primeira ação civil nos EUA contra a OpenAI, atribuindo falhas no design e na segurança do ChatGPT. A denúncia cita riscos para crianças, incentivos a atiradores em massa e indução ao suicídio para fins lucrativos.
A ação, apresentada pelo Procurador-Geral James Uthmeier, também busca responsabilizar pessoalmente Sam Altman por suposta conduta irresponsável. O processo cita ainda práticas comerciais desleais e violação de leis de responsabilidade do produto.
Contexto da denúncia
O texto acusa a empresa de priorizar lucro em detrimento da segurança pública, com base em incidentes envolvendo o uso do ChatGPT em casos de violência. A Flórida investiga, ainda, se o ChatGPT teve participação em um tiroteio na Florida State University no ano passado.
A ação cita o assassinato de dois estudantes de doutorado na University of South Florida, em que o suspeito teria feito perguntas ao ChatGPT sobre descarte de corpos. Procuradores defendem risco à vida humana causado pelas ações da empresa.
OpenAI respondeu que já oferece proteções e políticas de segurança para usuários jovens. A companhia destaca ferramentas de detecção de idade e monitoramento pelos pais como parte de sua proteção aos menores.
Outros contextos legais
O caso se soma a processos semelhantes em que o ChatGPT é acusado de atuar como coach de suicídio ou de fomentar delírios prejudiciais. Famílias de vítimas de ataques em outros países também movem ações contra a empresa. Autoridades têm dito que o sistema de IA pode demandar ajustes regulatórios.
A OpenAI afirma manter compromissos com segurança e negar qualquer negligência. A empresa tem reiterado que o desenvolvimento de IA requer proteções robustas para menores e que investe em recursos para isso.
A disputa ocorre num momento de tensão entre reguladores e grandes tecnológicas. Governadores e autoridades estaduais defendem medidas mais rígidas, enquanto empresas recebem apoio de setores da indústria e de parte da política.
Entre na conversa da comunidade