O uso de sistemas de IA em crédito, recrutamento, atendimento e serviços aumenta a pressão por explicações, revisões humanas e evidências para reduzir o viés algorítmico. Dados do AI Index 2026 mostram aumento de incidentes documentados de 233 em 2024 para 362 em 2025, com adoção organizacional em 88%.
Além da tecnologia, a discussão envolve negócios, consumidores e gestão de pessoas. O viés pode surgir por dados históricos, variáveis neutras que sinalizam renda, região, idade, gênero ou deficiência, e por modelos que reproduzem padrões de exclusão.
Dinâmica regulatória e de proteção de dados
No Brasil, o PL 2338/2023 tramita na Câmara para estabelecer princípios como não discriminação, transparência e supervisão humana. A ideia é permitir explicação, contestação e revisão de decisões de alto risco em IA.
A ANPD abriu um sandbox regulatório para IA e proteção de dados, com foco em técnicas que promovam transparência algorítmica. A LGPD prevê direito de revisão de decisões automatizadas que afetem interesses do titular, exigindo informações claras sobre critérios.
Referenciais internacionais e prática de governança
O NIST AI Risk Management Framework enfatiza validade, segurança, transparência e gestão de vieses. Na UE, o AI Act regula usos de alto risco em áreas como crédito, emprego e serviços essenciais, exigindo gestão de risco, documentação e supervisão humana.
Para especialistas, a discussão precisa sair da teoria para controles verificáveis. A governança de IA deve ligar explicabilidade, contestação e supervisão a processos internos, com registro e critérios de avaliação.
Desafios operacionais para as organizações
As empresas devem mapear inventário de IA, classificar impactos e documentar dados usados. É necessário avaliar fornecedores, conduzir testes com grupos afetados e manter trilhas de auditoria. A ideia é reconstruir o caminho decisório.
Entre na conversa da comunidade