Musubi capta US$ 5 milhões em rodada inicial para moderar conteúdo com inteligência artificial

Uma nova abordagem para a moderação de conteúdo online está sendo adotada pela startup Musubi, que utiliza inteligência artificial (IA) em vez de moderadores humanos. A empresa arrecadou US$ 5 milhões em uma rodada de investimento inicial, liderada pela J2 Ventures, com a participação de Shakti Ventures, Mozilla Ventures e J Ventures. Co-fundada por Tom Quisel, ex-diretor técnico da Grindr e OkCupid, a Musubi visa ajudar aplicativos sociais e de namoro a se protegerem contra comportamentos maliciosos.

Quisel destacou que a utilização de IA, incluindo modelos de linguagem de grande porte (LLMs), pode melhorar a identificação de intenções negativas nos conteúdos dos usuários. Ele afirmou que as equipes de confiança e segurança frequentemente não estão satisfeitas com os resultados da moderação humana, o que abre espaço para a automação. Durante sua experiência na OkCupid, Quisel descreveu a moderação como uma “luta sisifiana”, onde os esforços para bloquear comportamentos inadequados eram frequentemente superados por novas táticas dos infratores.

Os sistemas de IA da Musubi, chamados PolicyAI e AIMod, trabalham em conjunto para reduzir a taxa de erro em decisões de moderação em até dez vezes em comparação com moderadores humanos. O PolicyAI atua como uma primeira linha de defesa, utilizando LLMs para identificar postagens que possam violar as políticas da plataforma. As postagens sinalizadas são então analisadas pelo AIMod, que simula a decisão de um moderador humano.

A Musubi surge em um momento em que a indústria está se afastando da moderação excessiva. Recentemente, o CEO da Meta, Mark Zuckerberg, anunciou o fim da verificação de fatos por terceiros, substituindo-a por um sistema chamado Community Notes, que depende da moderação entre usuários. A startup já conquistou clientes como Grindr e Bluesky, que buscavam expandir rapidamente suas capacidades de moderação após um aumento significativo no número de usuários.