A Anistia Internacional denunciou que o governo dinamarquês está usando inteligência artificial de forma discriminatória em investigações de fraudes em benefícios sociais, afetando principalmente migrantes. A nova equipe de inteligência artificial da Anistia, liderada por Hajira Maryam, investiga como a automação pode desumanizar grupos vulneráveis. Um relatório chamado Coded Injustice mostrou que critérios como cidadania estão sendo usados para identificar fraudes, resultando em discriminação. Além da Dinamarca, práticas semelhantes foram encontradas em outros países europeus e na Índia. A Anistia também está analisando o uso de IA em sistemas anti-imigração, que aumentam a vigilância sobre migrantes. Maryam alertou que, se algo der errado, as vítimas enfrentam dificuldades para buscar reparação, criando um processo burocrático complicado. A Anistia se preocupa com a falta de regulação da IA, já que muitos veem a tecnologia como neutra, ignorando os danos que pode causar. A organização se opõe ao uso de sistemas autônomos em contextos militares, como em Gaza, e defende a proibição de robôs assassinos. Maryam criticou a falta de transparência das grandes empresas de tecnologia, que muitas vezes operam com o apoio de governos que não regulam adequadamente. A Anistia Internacional continua a investigar os riscos sociais da automação, buscando um futuro em que a tecnologia respeite os direitos humanos.
A Anistia Internacional denunciou o uso discriminatório de sistemas de inteligência artificial pelo governo dinamarquês em investigações de fraudes em benefícios sociais, afetando especialmente migrantes. A acusação foi feita pela nova equipe de inteligência artificial da organização, que visa investigar violações decorrentes da automação.
A conselheira-chefe de inteligência artificial da Anistia, Hajira Maryam, destacou que a automação em decisões sociais desumaniza populações vulneráveis. Desde 2022, a equipe tem se concentrado em como governos utilizam IA para tomar decisões que impactam diretamente a vida das pessoas. O relatório Coded Injustice revelou que critérios como cidadania foram utilizados para identificar fraudadores, resultando em discriminação.
Além da Dinamarca, padrões semelhantes foram observados em outros países europeus e na Índia. A Anistia também investiga o uso de IA em sistemas anti-imigração, que intensificam a vigilância sobre migrantes. Maryam alertou que, se algo der errado, é difícil para as vítimas buscarem reparação, criando um labirinto burocrático desumanizante.
Desafios da Regulação
A crescente onda de desregulação da IA no mundo é uma preocupação para a Anistia. Maryam mencionou que a narrativa predominante vê a IA como um avanço neutro, ignorando os danos que já causa. A organização busca romper essa visão, mostrando que a tecnologia pode ser prejudicial, especialmente para grupos marginalizados.
A Anistia também se opõe ao uso de sistemas autônomos em contextos militares, como em Gaza. A campanha Ban Killer Robots defende a proibição de robôs assassinos, enfatizando que as empresas de tecnologia devem garantir que seus sistemas respeitem os direitos humanos. Maryam criticou a falta de transparência e a opacidade das big techs, que muitas vezes operam com o respaldo de governos que adotam posturas anti-regulatórias.
A mobilização de organizações de direitos humanos é crescente, mas o desafio permanece na luta contra narrativas que promovem a IA como solução. A Anistia Internacional continua a investigar e denunciar os riscos sociais associados à automação, buscando um futuro em que a tecnologia respeite os direitos de todos.
Entre na conversa da comunidade