Feminismo de dados: nova pauta da esquerda universitária

Disciplina Feminismo de Dados surgiu no Instituto de Computação da Unicamp, com a professora Sandra Ávila, referência em IA.
A ideia é que algoritmos não são neutros e refletem escolhas humanas, o que pode reproduzir preconceitos se não houver cuidado com os dados.
O conceito ganhou força nos EUA a partir de 2020 e chegou à linguagem das big techs e a regulações no Brasil, incluindo projeto de IA aprovado pelo Senado em 2024.
Casos históricos citados: a Amazon removeu sistema de recrutamento por tendenciosidade contra mulheres; auditoria do MIT mostrou maior erro de reconhecimento facial em mulheres negras.
Críticos alertam para riscos de transformar justiça social em política pública, com falta de regras claras para aplicar a teoria na prática e evitar descrições enviesadas.

No Instituto de Computação da Unicamp, uma disciplina incomum tem ganhado espaço entre IA e algoritmos: Feminismo de Dados. A proposta reúne tecnologia e teoria social para discutir como dados e sistemas refletem decisões humanas e podem reproduzir preconceitos.

A professora responsável, Sandra Ávila, é doutora pela UFMG e pela Sorbonne, reconhecida na área de IA e premiada pelo Google. O currículo evidencia uma atuação que atravessa fronteiras entre ensino técnico e pesquisa. O tema já é tema de debates internos na universidade.

O feminismo de dados parte da premissa de que algoritmos não são neutros, já que envolvem escolhas sobre coleta, organização e uso de informações. Assim, podem veicular vieses se não houver cuidado com o design e a diversidade das equipes.

A prática busca evitar que a visão de mundo de determinados grupos se imponha aos sistemas. Em entrevistas, Sandra destaca que dados representam poder e que o tema envolve distribuição de recursos e oportunidades.

A ideia ganhou espaço além dos laboratórios. Grandes empresas de tecnologia passaram a adotar termos como IA responsável, equidade algorítmica e diversidade de dados, refletindo uma incorporação gradual na linguagem corporativa.

No Brasil, o andamento regulatório acompanha a tendência. O projeto de regulação da IA, aprovado pelo Senado em 2024, exige explicação de decisões automáticas e avaliação de discriminações associadas a raça e gênero.

Críticos afirmam que a proposta pode ir além da correção técnica, incorporando uma agenda de justiça social desde a construção dos sistemas. O tema gera perguntas sobre quem define regras e o que é considerar algoritmo justo.

Para pesquisadores, há riscos de que a abordagem científica se traduza em militância ou normas vagas, sem mecanismos operacionais claros para avaliação de sistemas. A falta de diretrizes práticas é apontada como entrave.

Especialistas apontam ainda que a tendência de classificar dados e situações envolve o comportamento humano básico de categorização, extrapolando para a IA. O debate, porém, permanece centrado em quem decide os valores que entram nas máquinas.

Ao buscar a versão da pesquisadora Sandra Ávila para entrevista, a Gazeta do Povo obteve respostas parciais: houve interesse em colaborar por escrito, mas não houve envio de respostas às perguntas até o fechamento desta edição.