Governos utilizam inteligência artificial para negar benefícios sociais essenciais

A Anistia Internacional denunciou o uso discriminatório de sistemas de inteligência artificial pelo governo dinamarquês em investigações de fraudes em benefícios sociais, afetando especialmente migrantes. A acusação foi feita pela nova equipe de inteligência artificial da organização, que visa investigar violações decorrentes da automação.

A conselheira-chefe de inteligência artificial da Anistia, Hajira Maryam, destacou que a automação em decisões sociais desumaniza populações vulneráveis. Desde 2022, a equipe tem se concentrado em como governos utilizam IA para tomar decisões que impactam diretamente a vida das pessoas. O relatório Coded Injustice revelou que critérios como cidadania foram utilizados para identificar fraudadores, resultando em discriminação.

Além da Dinamarca, padrões semelhantes foram observados em outros países europeus e na Índia. A Anistia também investiga o uso de IA em sistemas anti-imigração, que intensificam a vigilância sobre migrantes. Maryam alertou que, se algo der errado, é difícil para as vítimas buscarem reparação, criando um labirinto burocrático desumanizante.

Desafios da Regulação

A crescente onda de desregulação da IA no mundo é uma preocupação para a Anistia. Maryam mencionou que a narrativa predominante vê a IA como um avanço neutro, ignorando os danos que já causa. A organização busca romper essa visão, mostrando que a tecnologia pode ser prejudicial, especialmente para grupos marginalizados.

A Anistia também se opõe ao uso de sistemas autônomos em contextos militares, como em Gaza. A campanha Ban Killer Robots defende a proibição de robôs assassinos, enfatizando que as empresas de tecnologia devem garantir que seus sistemas respeitem os direitos humanos. Maryam criticou a falta de transparência e a opacidade das big techs, que muitas vezes operam com o respaldo de governos que adotam posturas anti-regulatórias.

A mobilização de organizações de direitos humanos é crescente, mas o desafio permanece na luta contra narrativas que promovem a IA como solução. A Anistia Internacional continua a investigar e denunciar os riscos sociais associados à automação, buscando um futuro em que a tecnologia respeite os direitos de todos.