Pesquisas em visão computacional impulsionam vigilância com inteligência artificial

A polícia de Londres está expandindo o uso de câmeras de reconhecimento facial em tempo real em locais públicos. A tecnologia, que compara rostos a uma lista de suspeitos, levanta preocupações sobre privacidade e consentimento, especialmente após incidentes de uso indevido de dados.

Um estudo recente publicado na revista Nature revelou que 90% das pesquisas em visão computacional analisadas envolvem dados sobre humanos. A pesquisa, que abrangeu 19 mil artigos e 23 mil patentes entre 1990 e 2020, destaca que 86% das patentes citavam dados relacionados a pessoas e seus ambientes. Essa tendência sugere um foco crescente em aplicações de vigilância.

Pesquisadores, como Pratyusha Ria Kalluri, da Universidade de Stanford, alertam que a maioria dos artigos trata humanos como “objetos”, o que pode obscurecer as implicações éticas de suas aplicações. A análise indica que, na década de 2010, 78% dos artigos que resultaram em patentes estavam relacionados à vigilância, um aumento em relação a 53% na década de 1990.

Implicações Éticas

A crescente utilização de tecnologias de reconhecimento facial levanta questões sobre viés e erro. Sistemas de IA podem ser tendenciosos, afetando desproporcionalmente comunidades vulneráveis. Em 2019, um caso na Duke University expôs a coleta de dados sem consentimento, gerando um forte backlash.

Conferências de ciência da computação, como CVPR e NeurIPS, agora exigem que as pesquisas sigam padrões éticos, mas a aplicação dessas diretrizes ainda é incerta. Um estudo de Kevin McKee, do Google DeepMind, revelou que menos de 25% dos artigos que coletaram dados humanos mencionaram ter seguido padrões éticos adequados.

Vigilância e Regulamentação

A legislação sobre tecnologias de vigilância varia amplamente entre países. Em 2019, San Francisco se tornou a primeira cidade dos EUA a proibir o uso de reconhecimento facial pela polícia, mas, no ano passado, os cidadãos votaram para aumentar o uso de tecnologias de vigilância. A mudança de nome do AI Safety Institute para AI Security Institute no Reino Unido também reflete uma nova abordagem em relação à regulamentação.

Yves Moreau, biólogo computacional, descreve a situação atual como “sonambulismo tecnológico”, onde a sociedade avança na adoção de tecnologias sem reflexão crítica. A necessidade de um debate ético sobre o uso de tecnologias de vigilância é mais urgente do que nunca.