- Calvin D. Lawrence, PhD em IA, alerta que vieses em IA afetam minorias conforme a tecnologia se dissemina, com lógica probabilística baseada em dados.
- Ele usa o conceito de “racismo institucional” para explicar vieses que não são intencionais, surgindo de padrões repetidos ao longo do tempo em algoritmos.
- Segundo Lawrence, a governança em IA é reconhecida, mas pouco aplicada pelas empresas por custo, o que deixa minorias mais vulneráveis em RH e em crédito.
- Regulamentação é tema central: União Europeia já aprovou o IA Act; no Brasil, tramita no Senado o Projeto de Lei 2338/2023, inspirado nas normas europeias.
- O palestrante, que participou da NASA e da IBM e lançou livro sobre racismo na IA, destacará, no Summit Valor Brasil-EUA, o risco de “colonização digital” e a necessidade de monitorar e corrigir modelos.
Calvin D. Lawrence, PhD em inteligência artificial, alerta para o aumento de vieses em IA que afetam minorias. Em entrevista, ele explica que algoritmos operam de forma probabilística e costumam reproduzir padrões presentes nos dados, o que pode gerar discriminação sistêmica.
O pesquisador, ex-diretor de IA Responsável da IBM e ex-funcionário da Nasa, participa do Summit Valor Brasil-EUA na próxima quarta-feira, 13, em Nova York. Ele afirma que o viés não é culpa de indivíduos isolados, mas de processos institucionais que moldam algoritmos ao longo do tempo.
Summit Valor Brasil-EUA
Lawrence diz que o que chama de racismo institucional resulta da organização de dados e decisões que continuam favorecendo certos grupos. Mesmo sem intenção, sistemas de IA podem tornar-se discriminatórios se não houver governança adequada.
A probabilidade de que modelos preditivos indiquem crimes com base em características raciais é citada como exemplo por ele. Dados desbalanceados e decisões históricas podem reforçar esse viés em diversos setores.
Desafios da governança da IA
O pesquisador destaca que a maioria das empresas reconhece a necessidade de governança, mas o custo eleva a resistência. Implementar IA responsável demanda tempo e investimentos, o que, segundo ele, ainda é insuficiente.
Lawrence ressalta que modelos proprietários são caixas-pretas. Governos têm responsabilidade de intervir quando comunidades são prejudicadas, ainda que a comprovação do dano seja desafiadora.
Regulamentação e panorama internacional
Países estudam leis específicas para IA. A Europa já aprovou o IA Act, com implementação gradual, e o Brasil tramita o Projeto de Lei 2338/2023, inspirado nas normas europeias. Opiniões sobre regulação variam entre especialistas e setores.
Para o especialista, leis não resolvem tudo, mas ajudam a desacelerar abusos e impor limites. Ele também discorda da ideia de que a regulação é desnecessária, argumentando que a regulação adequada reduz riscos.
Qualificação, empregos e custos
A visão de que IA criará apenas empregos melhores é questionada. Lawrence aponta que IA pode executar tarefas tanto simples quanto complexas, exigindo requalificação de trabalhadores. A substituição de funções não é automática nem garantida.
No aspecto econômico, a adoção de IA busca aumentar eficiência e reduzir custos. Segundo ele, mover funcionários entre cargos exige comprovação de que a nova função gera mais receita, caso contrário a justificativa econômica é frágil.
O Brasil e o papel dos dados
Lawrence afirma que o Brasil tem oportunidade de moldar a IA conforme sua cultura, evitando a “colonização digital” de dados. A presença de data centers e o uso de dados locais são componentes da discussão sobre remuneração da cultura nacional.
Ele comenta que centros de dados trazem ganhos de eficiência, mas reforçam a necessidade de mecanismos que assegurem remuneração justa pela utilização de dados culturais brasileiros.
Entre na conversa da comunidade