- Em 2020, a cidade de Gotemburgo usou um algoritmo para distribuir vagas escolares, calculando distâncias como a distância “em linha reta” em vez de rotas a pé reais.
- Isso levou centenas de crianças a serem alocadas em escolas distante de casa, cruzando rios e estradas, com trajetos impráticos ou impossíveis para caminhar.
- Cerca de 700 alunos ficaram com vagas em unidades do outro lado do rio, ainda que as leis prevejam trajetos a pé para deslocamento escolar.
- A autora do texto processou a cidade, questionando a legalidade do sistema como um todo, já que não houve acesso ao código; ela analisou centenas de decisões como evidência.
- O tribunal manteve a defesa da cidade, que alegava tratar o sistema como mera “ferramenta de suporte” e exigiu que a parte afetada apresentasse o código para provar ilegalidades, resultando no abandono do caso; o texto defende abrir as “caixas-pretas” da decisão algorítmica.
Em Gothenburg, Suécia, um algoritmo foi usado pela primeira vez para distribuir vagas escolares, em 2020. A proposta era simplificar a captação de alunos, levando em conta distâncias, preferências e capacidade das escolas.
A falha veio silenciosa, sob o rótulo de eficiência. Centenas de estudantes foram atendidos em escolas distantes de casa, cruzando rios e estradas, em bairros sem qualquer ligação prévia. Pais e comunidades questionaram o critério usado pelo sistema.
Quem está envolvido? A pesquisadora Charlotta Kronblad, que também é ex-morta; e a administração municipal de Gothenburg. Kronblad, mãe de um dos estudantes afetados, passou a atuar como litigante na busca por responsabilização do sistema.
Quando e onde ocorreu? Em 2020, na cidade de Gothenburg, na Suécia, durante a implementação do algoritmo de alocação de vagas escolares. O problema veio à tona com relatos de longas trajetórias para as escolas atribuídas.
Por quê? A auditoria municipal confirmou depois que o algoritmo calculava distâncias em linha reta, e não as rotas reais de caminhada. Isso deixou estudantes sem acesso adequado às escolas, violando o que seria considerado percurso legal e seguro.
Erro no algoritmo
Após a revelação, procedimentos foram aprimorados para o ano escolar seguinte. No entanto, cerca de 700 alunos já estavam alocados em escolas inadequadas, sem que o ajuste retroativo fosse aplicado a eles.
Ação judicial
Diante da possibilidade de consertar apenas casos isolados, Kronblad ingressou com ação contra o município, questionando a legalidade do conjunto do sistema de tomada de decisão. A evidência apresentada foi baseada em centenas de alocações, reconstruídas a partir de endereços e escolhas das escolas.
Desfecho judicial
O município defendeu que o sistema funcionava como uma ferramenta de apoio, sem responsabilidade adicional. O judiciário, porém, exigiu prova direta do código, impondo a responsabilidade de demonstrar a ilegalidade ao autor da ação. Sem o acesso ao código, o caso foi indeferido.
Lições e perspectivas
Especialistas apontam que justice systems devem abrir caixas-pretas de decisões algoritmicas para responsabilizar accountability. Casos europeus recentes, como fraudes em benefícios e falhas administrativas, ilustram a necessidade de regras processuais que favoreçam o exame técnico de sistemas automatizados.
A partir do episódio em Gothenburg, a discussão sobre transparência, acesso a códigos e redistribuição equitativa de vagas escolares ganha relevância para políticas públicas digitais. A autora afirma que a justiça deve evoluir para enfrentar a complexidade tecnológica sem prejudicar cidadãos.
Entre na conversa da comunidade