O ICO pediu ao Home Office esclarecimentos urgentes sobre viés racial na tecnologia de reconhecimento facial usada pela polícia, após testes do National Physical Laboratory (NPL). O objetivo é avaliar os próximos passos regulatórios.
O NPL revelou que o sistema tende a identificar erroneamente pessoas de determinados grupos demográficos com maior frequência. A amostra mostrou maior taxa de falsos positivos entre pretos e asiáticos, especialmente entre mulheres pretas.
O Home Office informou ter adquirido um novo algoritmo sem viés estatisticamente significativo e disse ter iniciado revisão com a polícia e reguladores. A atuação pode incluir ações para mitigar falhas e aperfeiçoar salvaguardas.
O que mudou
A ICO solicitou resposta rápida e possíveis medidas de fiscalização, incluindo ordem legal de interrupção do uso da tecnologia ou aplicação de multas. A autoridade também pediu avaliação de mitigadores.
Participação institucional
A revisão envolve a polícia, o inspectorate de policiamento e o regulador forense. As entidades devem verificar a eficácia das salvaguardas propostas e o impacto na confiança pública.
Contexto e próximos passos
As autoridades destacam que a expansão nacional da tecnologia, com câmeras em locais de grande circulação, exige salvaguardas adicionais. A discussão envolve equilíbrio entre auxílio à segurança e proteção de direitos.
Entre na conversa da comunidade