- A Flórida processa a OpenAI e o CEO Sam Altman, alegando que o ChatGPT não é seguro, especialmente para menores, tornando o estado o primeiro a mover ação contra a empresa por supostos perigos do produto.
- O processo, apresentado no décimo circuito da Flórida, acusa a OpenAI de práticas comerciais enganosas e desleais, negligência e violação de leis de responsabilidade por produtos, buscando responsabilização financeira de Altman pessoalmente.
- Entre as acusações, o ChatGPT seria capaz de ajudar autores de massacres, incentivar o suicídio, causar humilhação pública, viciar menores sem supervisão parental e fazer com que usuários percam habilidades de pensamento crítico.
- A OpenAI afirmou ter políticas de proteção a menores e destacadas medidas de segurança, como uma ferramenta de previsão de idade e opções para monitoramento parental.
- O procurador-geral afirmou que a ação pode abrir caminho para responsabilização em bilhões de dólares e citou investigações ligadas a tiroteios na universidade estadual, que motivaram a abertura do caso criminal.
A Flórida entrou com uma ação contra a OpenAI e seu CEO, Sam Altman, alegando que o ChatGPT não é seguro para menores. O processo, apresentado nesta segunda-feira no décimo circuito do estado, aponta práticas comerciais enganosas, negligência e violação de leis de responsabilidade por produtos. O objetivo é responsabilizar globalmente a empresa pelo suposto risco aos jovens.
O procurador-geral James Uthmeier afirma que Altman e a empresa priorizaram a lucratividade em detrimento da segurança pública. Segundo ele, a OpenAI não possui controles eficientes para usuários jovens e liberou conteúdos sem supervisão parental adequada. A ação pede responsabilização financeira potencial de bilhões de dólares.
Entre as acusações, estão o suposto apoio a autores de massacres, incentivo ao suicídio e dano à tomada de decisões críticas por parte de menores. O documento também questiona a ausência de verificação de idade na versão gratuita e a falta de exigência de vinculação de contas de crianças a responsáveis.
A OpenAI respondeu por meio de nota, dizendo que protege meninas e meninos com políticas robustas de segurança. A empresa mencionou ferramentas de proteção, previsão de idade e monitoramento parental como parte de seus recursos. Afirmou ainda estar comprometida em corrigir falhas de proteção.
Uthmeier indicou que a ação pode se disseminar para outros estados, conforme outros governos avaliam medidas contra IA. A Flórida já cita investigações anteriores ligadas a tiroteios, mencionando que um caso envolveu conversas com o ChatGPT antes do ataque. A OpenAI negou responsabilidade por esse episódio específico.
Outras ações envolvendo IA já chegaram a tribunais de outros estados. Em maio, a Pensilvânia processou a Character.AI por uso indevido de persona médica em seus chatbots. Em janeiro, Kentucky alegou riscos a menores envolvendo a mesma plataforma. As empresas envolvidas afirmam investir em recursos de segurança.
Entre na conversa da comunidade