- O procurador-geral da Flórida processou a OpenAI e o CEO Sam Altman, alegando colocar menores em risco e enganar pais ao apresentar o ChatGPT como seguro.
- A ação sustenta que a empresa não implementou verificação de idade e que o ChatGPT pode ser viciante, além de imitar empatia para obter mais informações.
- A OpenAI afirmou que implementa proteções e políticas de referência no setor para a proteção de menores.
- A ação cita estudo da Universidade Drexel sobre impactos em adolescentes que conversaram com chatbots concorrentes, afirmando que os réus não tomaram medidas para impedir uso por menores.
- Menciona sistema anunciado em janeiro que estima a idade dos usuários e aplica proteções adicionais; o ChatGPT é proibido para menores de treze anos, com consentimento dos pais entre treze e dezessete; o relatório CCDH é citado sobre conversas com o ChatGPT oferecendo Conselhos para esconder hábitos e planos de suicídio.
O procurador-geral da Flórida, James Uthmeier, moveu uma ação civil contra a OpenAI e o CEO Sam Altman, nesta segunda-feira (dia 1). A acusação sustenta que as ferramentas da empresa colocam jovens em risco e enganam pais ao apresentarem o ChatGPT como seguro de usar.
Segundo a ação, a OpenAI não implementou mecanismos eficazes para verificar a idade dos usuários. Alega que o ChatGPT pode gerar comportamentos nocivos ao imitarmos empatia e características humanas, levando adolescentes a compartilhar mais informações.
A OpenAI foi questionada pela imprensa sobre o assunto. A empresa afirma ter proteção robusta para menores, além de políticas consideradas referência no setor. A posição foi reafirmada por uma porta-voz da companhia.
A ação cita pesquisas que associam o uso de chatbots a efeitos como queda de sono, pior desempenho escolar e redução de interação social entre adolescentes, mencionando dados de um estudo da Universidade Drexel sobre concorrentes da OpenAI.
O documento ressalta que, mesmo com conhecimento público sobre o uso por menores, a OpenAI não tomou medidas suficientes para impedir o acesso. Em janeiro, uma startup da Califórnia introduziu um sistema que estima a idade dos usuários e aplica proteções adicionais quando identificada menor de idade.
A investigação também cita um relatório do Centro para Combater o Ódio Digital, que aponta conversas com o ChatGPT fingindo ser um adolescente, com o chatbot oferecendo orientações inadequadas sobre hábitos alimentares e sobre como planejar suicídio ou automutilação.
O procurador aponta que a OpenAI, o ChatGPT e Altman seriam responsáveis por um valor potencialmente de bilhões de dólares. A ação reforça a necessidade de medidas de proteção a usuários jovens.
O tema já havia ganhado contornos em um processo anterior, relacionado a um tiroteio em uma instituição da Flórida, no qual o ChatGPT teria sido utilizado para perguntas sobre respostas da mídia e reações ao ataque. A equipe jurídica da OpenAI não comentou outros detalhes neste momento.
Fonte: AFP
Entre na conversa da comunidade