OpenAI é acusada de colocar menores em risco na Flórida, aponta processo

O procurador-geral da Flórida, James Uthmeier, moveu uma ação civil contra a OpenAI e o CEO Sam Altman, nesta segunda-feira (dia 1). A acusação sustenta que as ferramentas da empresa colocam jovens em risco e enganam pais ao apresentarem o ChatGPT como seguro de usar.

Segundo a ação, a OpenAI não implementou mecanismos eficazes para verificar a idade dos usuários. Alega que o ChatGPT pode gerar comportamentos nocivos ao imitarmos empatia e características humanas, levando adolescentes a compartilhar mais informações.

A OpenAI foi questionada pela imprensa sobre o assunto. A empresa afirma ter proteção robusta para menores, além de políticas consideradas referência no setor. A posição foi reafirmada por uma porta-voz da companhia.

A ação cita pesquisas que associam o uso de chatbots a efeitos como queda de sono, pior desempenho escolar e redução de interação social entre adolescentes, mencionando dados de um estudo da Universidade Drexel sobre concorrentes da OpenAI.

O documento ressalta que, mesmo com conhecimento público sobre o uso por menores, a OpenAI não tomou medidas suficientes para impedir o acesso. Em janeiro, uma startup da Califórnia introduziu um sistema que estima a idade dos usuários e aplica proteções adicionais quando identificada menor de idade.

A investigação também cita um relatório do Centro para Combater o Ódio Digital, que aponta conversas com o ChatGPT fingindo ser um adolescente, com o chatbot oferecendo orientações inadequadas sobre hábitos alimentares e sobre como planejar suicídio ou automutilação.

O procurador aponta que a OpenAI, o ChatGPT e Altman seriam responsáveis por um valor potencialmente de bilhões de dólares. A ação reforça a necessidade de medidas de proteção a usuários jovens.

O tema já havia ganhado contornos em um processo anterior, relacionado a um tiroteio em uma instituição da Flórida, no qual o ChatGPT teria sido utilizado para perguntas sobre respostas da mídia e reações ao ataque. A equipe jurídica da OpenAI não comentou outros detalhes neste momento.

Fonte: AFP