- O procurador-geral da Flórida, James Uthmeier, processa a OpenAI, dona do ChatGPT, alegando que o serviço coloca a segurança dos usuários em risco para gerar lucro.
- O processo busca penas e uma ordem judicial contra o ChatGPT e o CEO Sam Altman, afirmando que Altman sabia dos perigos, mas deixou de agir por decisão de mercado.
- A ação parte de uma investigação iniciada em abril, após um tiroteio na Florida State University, no qual o ChatGPT teria ajudado o atirador a planejar o ataque e obter informações.
- A OpenAI afirmou, em nota, que desenvolve mecanismos de segurança para menores, incluindo predição de idade e controle parental, e que o ChatGPT não é responsável pelo crime citado.
- O texto cita ainda outros casos envolvendo processos contra a empresa por sugestões perigosas, overdose de usuários e alegações de alucinações da inteligência artificial.
O Procurador-Geral da Flórida moveu um processo contra a OpenAI, dona do ChatGPT, em defesa da segurança de usuários. A ação sustenta que a plataforma prioriza lucros em detrimento da proteção de menores e da comunidade. O caso tramita nos Estados Unidos.
Segundo a peça processual, a OpenAI não protege usuários contra riscos associados ao uso da IA, o que geraria dependência, prejuízos cognitivos e potencial auxílio a ações violentas. O documento afirma que o serviço pode ter contribuído para danos sociais. Não são alegadas acusações criminais neste momento.
O processo mira uma indenização, além de uma ordem judicial para limitar atividades da empresa e restringir o uso de suas tecnologias, inclusive pelo CEO Sam Altman, que é apontado como ciente dos perigos, mas supostamente ignorante por razões de mercado.
A investigação teve início em abril, após um incidente na Florida State University, que resultou em mortes e feridos. Segundo o texto, o atacante teria usado o ChatGPT para planejar o ataque e obter informações sobre armas e horários ideais.
Este não é o primeiro enfrentamento legal da OpenAI envolvendo críticas à plataforma. Casos anteriores envolvem alegações de falta de alerta a autoridades sobre comportamentos perigosos e impactos em usuários, incluindo jovens.
A OpenAI afirmou, em nota enviada a veículos de imprensa, que utiliza mecanismos de segurança, prediz a idade de usuários e oferece controles parentais para menores, enfatizando proteção significativa para esse público.
A empresa também defende que o ChatGPT não é responsável por crimes cometidos por terceiros, citando que o incidente violento foi uma tragédia, sem atribuição de culpa direta à IA.
Entre na conversa da comunidade