- O ICO (Information Commissioner’s Office) pediu urgência ao Home Office para esclarecer viés racial na tecnologia de reconhecimento facial usada pela polícia, após testes do National Physical Laboratory (NPL).
- Os testes revelaram maior probabilidade de falsos positivos entre pretos e asiáticos, com destaque para falsos positivos entre mulheres pretas.
- O Home Office afirmou ter adquirido um novo algoritmo sem viés estatisticamente significativo e solicitou revisão da polícia inspectorate e do regulador forense sobre o uso da ferramenta.
- O ICO pode tomar medidas de fiscalização, incluindo uma ordem legal para interromper o uso ou multas, conforme avaliação dos próximos passos.
- Autoridades policiais destacaram cautela quanto à expansão nacional, que pode incluir câmeras em shoppings, estádios e centros de transporte, desde que haja salvaguardas adequadas.
O ICO pediu ao Home Office esclarecimentos urgentes sobre viés racial na tecnologia de reconhecimento facial usada pela polícia, após testes do National Physical Laboratory (NPL). O objetivo é avaliar os próximos passos regulatórios.
O NPL revelou que o sistema tende a identificar erroneamente pessoas de determinados grupos demográficos com maior frequência. A amostra mostrou maior taxa de falsos positivos entre pretos e asiáticos, especialmente entre mulheres pretas.
O Home Office informou ter adquirido um novo algoritmo sem viés estatisticamente significativo e disse ter iniciado revisão com a polícia e reguladores. A atuação pode incluir ações para mitigar falhas e aperfeiçoar salvaguardas.
O que mudou
A ICO solicitou resposta rápida e possíveis medidas de fiscalização, incluindo ordem legal de interrupção do uso da tecnologia ou aplicação de multas. A autoridade também pediu avaliação de mitigadores.
Participação institucional
A revisão envolve a polícia, o inspectorate de policiamento e o regulador forense. As entidades devem verificar a eficácia das salvaguardas propostas e o impacto na confiança pública.
Contexto e próximos passos
As autoridades destacam que a expansão nacional da tecnologia, com câmeras em locais de grande circulação, exige salvaguardas adicionais. A discussão envolve equilíbrio entre auxílio à segurança e proteção de direitos.
Entre na conversa da comunidade