A Flórida entrou com uma ação contra a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT não é seguro para menores. O processo, apresentado nesta segunda-feira no décimo circuito do estado, aponta práticas comerciais enganosas, negligência e violação de leis de responsabilidade por produtos. O objetivo é responsabilizar globalmente a empresa pelo suposto risco aos jovens.
O procurador-geral James Uthmeier afirma que Altman e a empresa priorizaram a lucratividade em detrimento da segurança pública. Segundo ele, a OpenAI não possui controles eficientes para usuários jovens e liberou conteúdos sem supervisão parental adequada. A ação pede responsabilização financeira potencial de bilhões de dólares.
Entre as acusações, estão o suposto apoio a autores de massacres, incentivo ao suicídio e dano à tomada de decisões críticas por parte de menores. O documento também questiona a ausência de verificação de idade na versão gratuita e a falta de exigência de vinculação de contas de crianças a responsáveis.
A OpenAI respondeu por meio de nota, dizendo que protege meninas e meninos com políticas robustas de segurança. A empresa mencionou ferramentas de proteção, previsão de idade e monitoramento parental como parte de seus recursos. Afirmou ainda estar comprometida em corrigir falhas de proteção.
Uthmeier indicou que a ação pode se disseminar para outros estados, conforme outros governos avaliam medidas contra IA. A Flórida já cita investigações anteriores ligadas a tiroteios, mencionando que um caso envolveu conversas com o ChatGPT antes do ataque. A OpenAI negou responsabilidade por esse episódio específico.
Outras ações envolvendo IA já chegaram a tribunais de outros estados. Em maio, a Pensilvânia processou a Character.AI por uso indevido de persona médica em seus chatbots. Em janeiro, Kentucky alegou riscos a menores envolvendo a mesma plataforma. As empresas envolvidas afirmam investir em recursos de segurança.
Entre na conversa da comunidade