Novo CEO da Character.AI apresenta plano para proteger crianças de chatbots

Karandeep Anand foi nomeado CEO da Character.AI, uma plataforma de chatbots de inteligência artificial, em um momento desafiador. A empresa enfrenta concorrência intensa e processos judiciais relacionados à segurança infantil e conteúdo inadequado. Anand, que tem experiência em grandes empresas de tecnologia, como Microsoft e Meta, promete focar em entretenimento interativo e segurança.

Anand utiliza a plataforma com sua filha de cinco anos, permitindo que ela converse com personagens como “Libarian Linda”. Ele acredita que a Character.AI pode oferecer uma experiência de entretenimento pessoal única, diferente do que as redes sociais têm proporcionado. A plataforma permite que os usuários interajam com uma variedade de personagens gerados por IA, desde celebridades até figuras fictícias, e até criem seus próprios chatbots.

A segurança dos jovens usuários é uma prioridade. A Character.AI foi processada por famílias que alegam que seus filhos foram expostos a conteúdo inadequado. Em resposta, a empresa implementou novas medidas de segurança, como um pop-up que direciona usuários que mencionam autoagressão para a Linha Nacional de Prevenção ao Suicídio. Além disso, atualizou seu modelo de IA para reduzir a exposição a conteúdos sensíveis para menores de 18 anos.

Anand também busca expandir a comunidade de criadores na plataforma, incentivando mais pessoas a desenvolver novos personagens e interações. Ele reconhece a necessidade de manter a segurança, mas também deseja tornar os filtros de conteúdo menos restritivos, permitindo uma experiência mais rica e contextualizada para os usuários. A competição por talentos na área de IA é acirrada, e Anand está ciente dos desafios que a Character.AI enfrenta para reter e atrair profissionais qualificados.