Character.ai aposta em ‘amigos de IA’ como futuro das interações sociais

O CEO da Character.ai, Karandeep Anand, prevê que no futuro, a maioria das pessoas terá “amigos de IA”. A startup, conhecida por seus chatbots interativos, enfrenta processos judiciais relacionados a danos a crianças, enquanto grupos de defesa pedem a proibição de aplicativos de companheirismo. A empresa, que já atraiu investimentos significativos do Vale do Silício e foi adquirida pelo Google, oferece chatbots com personagens variados, como um “faraó egípcio” e uma “namorada tóxica”, que têm atraído um público jovem.

Anand, que assumiu a liderança em junho, acredita que as interações com IA podem enriquecer as relações humanas. Ele afirma que esses chatbots não substituem amigos reais, mas podem ajudar os usuários a desenvolver habilidades sociais. A Character.ai conta com 20 milhões de usuários ativos mensais, sendo metade deles mulheres e 50% pertencentes às gerações Z ou alfa.

Entretanto, a empresa enfrenta sérios desafios legais. Famílias alegam que seus filhos sofreram danos ao usar a plataforma, incluindo um caso na Flórida que relaciona a plataforma ao suicídio de um adolescente de 14 anos. A Character.ai, que não comentou sobre os processos, implementou mudanças para aumentar a segurança, como um modelo de IA específico para menores de 18 anos e alertas para usuários que passam mais de uma hora no aplicativo.

Medidas de Segurança

A startup proíbe conteúdo sexual não consensual e descrições gráficas de atos sexuais. Anand enfatizou que “confiança e segurança são inegociáveis” e que a empresa está constantemente evoluindo para garantir um ambiente seguro. Grupos como a Common Sense Media têm pressionado por legislações que restrinjam o uso de aplicativos de IA por menores, destacando que muitos adolescentes transferem habilidades sociais adquiridas com chatbots para a vida real.

Recentemente, a Character.ai introduziu publicidade e planeja integrar recursos de monetização, como vaquinhas e compras no aplicativo. A receita da empresa, que cresceu 250% em relação ao ano anterior, provém principalmente de assinaturas, custando US$ 9,99 por mês ou US$ 120 anualmente. Anand acredita que a experiência imersiva oferecida pela plataforma é mais envolvente do que o consumo passivo de conteúdo.

Futuro da Interação com IA

A empresa também lançou uma versão de feed de mídia social, reforçando seu foco no entretenimento. Embora a Character.ai permita conversas românticas, Anand assegura que não são sexualmente explícitas. Ele observa que a interação com IA pode ajudar a combater a solidão, promovendo um ambiente onde as pessoas possam praticar habilidades sociais. “Vejo um mundo muito utópico onde a IA nos torna melhores”, concluiu Anand, destacando o potencial dos chatbots para enriquecer as relações humanas.