Do algoritmo à radicalização: o caminho para o extremismo

O algoritmo de recomendação decide o que aparece na tela com base no comportamento anterior do usuário, buscando prender a atenção.
O sistema não julga verdade; ele mede a probabilidade de interação a partir de dados como curtidas e vídeos assistidos, alimentando-se do histórico.
As plataformas trabalham com três camadas de informação: o que você já consumiu, o que pessoas com comportamento semelhante consumiram e o que está gerando mais interação no momento.
Esse mecanismo pode facilitar o acesso de pessoas a conteúdos extremistas, pois padrões de interesse geram novas recomendações.
Em fevereiro, a Polícia Civil do Rio de Janeiro deflagrou operação contra o grupo Geração Z, que planejava ataques; o grupo no Telegram reunia mais de sete mil pessoas interessadas. O Telegram afirmou remover conteúdos que violem termos de uso e cooperar com autoridades.

Com o avanço da internet, organizações terroristas passaram a usar redes sociais para recrutar integrantes. Conteúdos de humor e virais escondem camadas que conectam usuários brasileiros a grupos criminosos no exterior.

Pesquisas indicam que o Brasil está entre os países mais conectados do mundo. Nesse cenário, o algoritmo surge como parte relevante do fluxo de conteúdos que chegam aos usuários.

Para explicar a relação entre os temas, a coluna ouvuiu Laerte Peotta, professor da Universidade de Brasília e especialista em sistemas de recomendação. Ele descreve o algoritmo como uma sequência de instruções matemáticas que orienta o sistema a agir sobre dados.

Em termos simples, o algoritmo decide quais conteúdos aparecem na tela de cada usuário, sem juízo de valor sobre a veracidade das informações. Cada interação gera dados que alimentam o sistema.

O conjunto de instruções funciona como um mecanismo de previsão: ele estima qual conteúdo tende a prender a atenção com base no comportamento anterior do usuário.

O professor destaca que o algoritmo não avalia verdade ou falsidade. A partir do histórico de interações, a plataforma estima o que mantém a pessoa conectada por mais tempo.

As plataformas trabalham com três camadas de informação: o que já foi consumido, o que pessoas com perfil semelhante consumiram e o que está gerando maior interação no momento.

Não há decisão manual de editores humanos para cada usuário. O processo é estatístico e automatizado.

Se alguém consome conteúdo político com frequência, o sistema entende o tema como relevante e aumenta a frequência de tais sugestões, ampliando a exposição.

A partir desses padrões, conteúdos extremistas podem surgir com maior facilidade no feed dos usuários, elevando o risco de circulação.

Dados de investigações da Polícia Federal e de polícias civis já apontam a disseminação desse tipo de conteúdo nas redes. Operações recentes destacam esse panorama.

Em fevereiro, a Polícia Civil do Rio de Janeiro deflagrou a operação contra o grupo denominado Geração Z, que planejava ataques terroristas em Brasília, Rio de Janeiro e São Paulo.

Entre os integrantes, havia mais de 7 mil pessoas em um grupo do Telegram que mostravam interesse em participar dos crimes, segundo as autoridades.

O Telegram informou que remove conteúdos que violem seus termos de uso e que coopera com autoridades dentro dos limites legais aplicáveis, conforme nota enviada à imprensa.