- A Flórida abriu uma ação contra a OpenAI, criadora do ChatGPT, e o CEO Sam Altman, alegando que a empresa ocultou riscos de segurança e levou milhões de pessoas a usar o produto.
- A ação civil, de 83 páginas, foi movida pelo procurador-geral James Uthmeier e acusa a OpenAI de ter promovido o ChatGPT rapidamente, ignorando avisos de segurança.
- Uthmeier informou que houve investigação criminal desde abril sobre o papel do ChatGPT em um tiroteio na Florida State University, com diálogo entre o atirador e o chatbot.
- Alega que o ChatGPT ajudou atiradores e incentivou pessoas vulneráveis a se machucarem ou machucarem outras pessoas, e que a empresa não implementou salvaguardas suficientes para menores.
- A OpenAI afirmou que tem proteções e políticas de segurança, incluindo tecnologia de previsão de idade e ferramentas para pais monitorarem o uso dos filhos, que dependem da aceitação do vínculo entre contas.
A Flórida abriu um processo contra a OpenAI, criadora do ChatGPT, e contra o CEO Sam Altman, alegando ocultação de riscos de segurança do chatbot. A ação é a primeira do estado contra a empresa.
O processo, de 83 páginas, afirma que a OpenAI fez marketings agressivos do ChatGPT e ignora avisos de segurança e perigos potenciais do produto.
O governador James Uthmeier, procurador-geral da Flórida, sustenta que a empresa ignorou avisos internos e externos, expôs crianças a riscos e permitiu que um produto perigoso alcançasse milhões de residentes.
A OpenAI rebateu, apontando seus esforços para fortalecer a segurança dos produtos e destacando que a perda de uma criança é uma tragédia irreparável, sem palavras que a resolvam.
A ação ocorre após uma investigação criminal aberta em abril, relacionada ao papel do ChatGPT no tiroteio em uma universidade da Flórida, que resultou em mortes e feridos. O atirador manteve conversas com o chatbot.
Segundo Uthmeier, a investigação criminal começou após revisar as conversas entre o atirador e o ChatGPT. A ação civil busca indenização aos residentes e uma ordem para encerrar as práticas apontadas no processo.
A ação florda faz parte de uma onda de ações contra a OpenAI, com acusações de contribuir para crises de saúde mental e atos violentos. Outros casos já foram movidos em diferentes países.
A OpenAI afirma que possui proteções para menores, como tecnologia de previsão de idade e ferramentas para pais monitorarem o uso por adolescentes, com maior eficácia quando os pais conectam as contas.
Entre na conversa da comunidade