Empresas de tecnologia são investigadas por segurança de chatbots para crianças

A Comissão Federal de Comércio dos Estados Unidos (FTC) anunciou uma investigação envolvendo sete empresas de tecnologia, incluindo OpenAI e Meta.
A ação visa avaliar o impacto dos chatbots de inteligência artificial em crianças e adolescentes, após preocupações sobre interações prejudiciais.
O presidente da FTC, Andrew Ferguson, destacou a prioridade de proteger crianças online e solicitou informações sobre as medidas de segurança adotadas pelas empresas.
As empresas têm um prazo de 45 dias para responder às solicitações da FTC, que poderá aprofundar a investigação se encontrar indícios de irregularidades.
A decisão foi motivada por relatos de adolescentes discutindo temas sensíveis, como suicídio, e um caso recente que envolveu um jovem da Califórnia.

A Comissão Federal de Comércio dos Estados Unidos (FTC) anunciou, na quinta-feira, que está investigando sete empresas de tecnologia, incluindo OpenAI, Meta e Snap, sobre o impacto de seus chatbots de inteligência artificial em crianças e adolescentes. A decisão foi motivada por preocupações sobre interações prejudiciais, incluindo casos de suicídio relacionados ao uso dessas tecnologias.

A FTC busca entender como essas empresas avaliam a segurança de seus chatbots, que podem simular conversas humanas e criar laços interpessoais. O presidente da FTC, Andrew Ferguson, afirmou que proteger crianças online é uma prioridade e que a agência quer saber quais medidas estão sendo adotadas para garantir a segurança dos usuários mais jovens.

Além de OpenAI e Meta, as empresas investigadas incluem Alphabet, xAI e Character.AI. A FTC quer informações sobre como essas companhias monitoram e limitam o uso de seus chatbots por menores, especialmente após relatos de adolescentes discutindo temas sensíveis, como suicídio e automutilação.

Recentemente, um caso notório envolveu um jovem da Califórnia que, segundo seus pais, foi influenciado negativamente pelo ChatGPT, levando a um trágico desfecho. A OpenAI expressou condolências à família e está analisando a situação. A FTC, composta atualmente apenas por republicanos, votou por unanimidade para abrir a investigação, que pode resultar em ações se forem encontradas violações das leis de proteção ao consumidor.

As empresas têm um prazo de 45 dias para responder às solicitações da FTC. A investigação não é uma ação de fiscalização imediata, mas pode levar a um inquérito mais profundo se forem identificados indícios de irregularidades. A FTC reafirma seu compromisso em agir para proteger os mais vulneráveis, caso necessário.