Violência algorítmica: como ocorre e como enfrentá-la

Violência algorítmica reproduz vieses contra minorias e reduz a visibilidade de conteúdos LGBTQIA+, com falta de transparência sobre termos considerados proibidos.
O caso de Christian Gonzatti ilustra como o algoritmo pode não entender contexto e rebaixar conteúdos do projeto Diversidade Nerd.
Definição: esses mecanismos automatizados podem amplificar desinformação, vigilância digital e outras formas de violência, não sendo neutros.
No Brasil, fatores como racismo estrutural e desigualdades sociais agravam o problema, com riscos de falhas automatizadas que afetam negros, indígenas e outras populações.
Soluções passam por educação digital, regulação de big techs, auditorias independentes e maior transparência nas diretrizes algorítmicas, além de proteção de dados.

A violência algorítmica ganha espaço na pauta pública com o uso crescente de inteligência artificial. Pesquisadores, professores e ativistas apontam que sistemas de IA reforçam vieses contra minorias, refletindo preconceitos existentes na sociedade. O tema envolve tanto redes sociais quanto plataformas de vigilância e busca.

O caso destacado envolve Christian Gonzatti, influenciador e professor da Unisinos, que há uma década denuncia a baixa visibilidade de conteúdos LGBTQIA+ por algoritmos. Ele afirma que termos e identidades são interpretados de forma inadequada, reduzindo alcance e relevância de suas publicações.

Gonzatti atua com o canal Diversidade Nerd e relata que alterações de classificação por parte das plataformas dificultam a comunicação de seu conteúdo. Ao usar termos como gay ou lésbica, ele nota queda no alcance de posts. A situação ilustra a ideia de que o algoritmo não entende contexto.

A violência algorítmica também aparece em práticas de reconhecimento facial, deepfakes e interferência no comportamento das pessoas. Um motorista de aplicativo de São Paulo descreve jornadas longas com pressão por bônus, destacando exploração associada a automação.

Para o cientista da computação Alexandre Gonçalves, a automatização força a produtividade além dos limites humanos, configurando uma forma de violência. O termo é definido por especialistas como uma agressão integrada a sistemas digitais e automatizados.

Agressão automatizada

Especialistas em mídia e democracia explicam que violência algorítmica é uma agressão que se alimenta de plataformas digitais e IA. Além das redes, envolve vigilância, ferramentas de IA e mecanismos que amplificam a violência tradicional.

Segundo Trielli, disseminação de fake news é comum: algoritmos potencializam mensagens com forte apelo emocional. O termo ganhou corpo entre acadêmicos e ativistas a partir de debates sobre discriminação algorítmica e racismo estrutural.

Pesquisadores da Unisinos destacam que o conceito foi consolidado a partir de obras como Topologia da Violência. A discussão envolve discriminação, opressão, dados e injustiça automatizada, ressaltando que a tecnologia amplia desigualdades existentes.

Bruna Irineu, professora da UFMT, acrescenta que o racismo estrutural pode se transformar em racismo digital quando dados alimentam treinos de IA. Outros especialistas citam o pânico moral e o viés de engajamento como fatores que elevam discursos de ódio.

Discriminação digital

No Brasil, a combinação de desigualdades históricas com alta presença digital agrava o problema. Estudos citados indicam que populações negras, indígenas, periféricas e LGBTQIAPN+ sofrem impactos desproporcionais.

Os pesquisadores ressaltam que o Brasil possui proteção de dados como direito fundamental desde 2022, e a LGPD oferece diretrizes de não discriminação. Ainda assim, há necessidade de políticas públicas para responsabilizar danos algorítmicos.

A visão de que a tecnologia não é neutra ganha força entre especialistas. Eles defendem dados representativos e participação de grupos afetados no desenho de IA, para reduzir vieses e impactos discriminatórios.

Educação e regulação

Não há solução única para o problema. A educação digital é citada como peça central para cidadania online consciente e uso responsável de dados. A regulação das big techs também é defendida por pesquisadores.

Especialistas lembram a importância de leis que responsabilizem plataformas por danos algorítmicos. Transparência nas diretrizes e auditorias independentes são apontadas como caminhos para mitigar injustiças.