Viés em IA sustenta debate sobre decisões automatizadas

O uso de IA em crédito, recrutamento, atendimento e serviços aumenta a pressão por explicações, revisão humana e evidências para reduzir vieses.
O AI Index 2026 aponta crescimento de incidentes documentados de IA de 233 em 2024 para 362 em 2025, com adoção organizacional de 88%.
No Brasil, o PL 2338/2023 discute IA ética com princípios como não discriminação, transparência, explicabilidade e supervisão humana, incluindo direitos de contestação e revisão em decisões de alto risco.
A ANPD lançou um sandbox regulatório em IA e proteção de dados; a LGPD prevê direito de revisar decisões automatizadas que afetem titulares, com obrigação de fornecer informações sobre critérios usados.
Referenciais internacionais citados incluem o NIST AI Risk Management Framework e o AI Act da União Europeia, que enfatizam gestão de risco, transparência e supervisão humana.

O uso de sistemas de IA em crédito, recrutamento, atendimento e serviços aumenta a pressão por explicações, revisões humanas e evidências para reduzir o viés algorítmico. Dados do AI Index 2026 mostram aumento de incidentes documentados de 233 em 2024 para 362 em 2025, com adoção organizacional em 88%.

Além da tecnologia, a discussão envolve negócios, consumidores e gestão de pessoas. O viés pode surgir por dados históricos, variáveis neutras que sinalizam renda, região, idade, gênero ou deficiência, e por modelos que reproduzem padrões de exclusão.

Dinâmica regulatória e de proteção de dados

No Brasil, o PL 2338/2023 tramita na Câmara para estabelecer princípios como não discriminação, transparência e supervisão humana. A ideia é permitir explicação, contestação e revisão de decisões de alto risco em IA.

A ANPD abriu um sandbox regulatório para IA e proteção de dados, com foco em técnicas que promovam transparência algorítmica. A LGPD prevê direito de revisão de decisões automatizadas que afetem interesses do titular, exigindo informações claras sobre critérios.

Referenciais internacionais e prática de governança

O NIST AI Risk Management Framework enfatiza validade, segurança, transparência e gestão de vieses. Na UE, o AI Act regula usos de alto risco em áreas como crédito, emprego e serviços essenciais, exigindo gestão de risco, documentação e supervisão humana.

Para especialistas, a discussão precisa sair da teoria para controles verificáveis. A governança de IA deve ligar explicabilidade, contestação e supervisão a processos internos, com registro e critérios de avaliação.

Desafios operacionais para as organizações

As empresas devem mapear inventário de IA, classificar impactos e documentar dados usados. É necessário avaliar fornecedores, conduzir testes com grupos afetados e manter trilhas de auditoria. A ideia é reconstruir o caminho decisório.