Senador da Califórnia propõe lei para proteger crianças de riscos de companheiros de IA

O senador da Califórnia, Steve Padilla, e Megan Garcia, mãe de um adolescente que cometeu suicídio após interagir com um companheiro de inteligência artificial, anunciarão um projeto de lei visando aumentar a segurança desses sistemas. O caso de Garcia, que alega que a IA contribuiu para a morte de seu filho, destaca a urgência de regulamentações mais rigorosas. O novo projeto se junta a outras iniciativas nos Estados Unidos, como a proposta da deputada estadual da Califórnia, Rebecca Bauer-Kahan, que pretende proibir o uso de companheiros de IA por menores de dezesseis anos.

Estudos recentes revelam que plataformas de companheiros de IA, como a Character.AI, recebem cerca de 20 mil consultas por segundo, evidenciando a popularidade crescente desses serviços. As interações com esses sistemas são significativamente mais longas do que com chatbots tradicionais, com usuários passando em média mais de duas horas por dia conversando com esses bots. Essa dependência crescente levanta preocupações sobre o impacto na saúde mental, especialmente entre os jovens.

Os pesquisadores apontam que os companheiros de IA são projetados para serem mais envolventes do que as redes sociais, criando uma nova dinâmica de interação. Esses sistemas oferecem sinais sociais que fazem os usuários se sentirem compelidos a responder, além de apresentarem uma agência percebida, funcionando como agentes de comunicação. Essa mudança pode resultar em um aumento significativo no tempo que os usuários dedicam a essas interações, potencialmente mais viciante do que as plataformas de mídia social.

A discussão sobre os riscos associados aos companheiros de IA tem se concentrado principalmente nas respostas perigosas que esses sistemas podem fornecer. No entanto, os especialistas alertam que os efeitos nocivos podem ser mais amplos, com a possibilidade de dependência emocional e manipulação. À medida que a tecnologia avança, a regulamentação se torna uma necessidade urgente para proteger os usuários, especialmente os mais jovens, de possíveis danos.