Inteligência artificial: Emilio Carrizosa alerta sobre o poder das empresas privadas na tomada de decisões

Emilio Carrizosa, um cordobês de 58 anos, sempre teve uma paixão pelas matemáticas, que considera um "exercício mental muito interessante". Essa devoção o levou a buscar um elo entre os números e sua aplicação prática, encontrando na pesquisa operacional a disciplina que ajuda a tomar decisões com recursos limitados. Ele tem contribuído em estudos sobre índices climáticos, diagnóstico do câncer e até na segurança ao voltar para casa à noite, utilizando reconhecimento facial. Atualmente, é professor na Faculdade de Matemáticas da Universidade de Sevilla, onde combina sua vocação docente com a pesquisa, sendo reconhecido pela Sociedade de Estatística e pela Fundação BBVA.

Carrizosa reflete sobre a relação entre dados e decisões, afirmando que, embora os dados não eliminem a incerteza, eles ajudam a controlá-la. Ele explica que a matemática aplicada utiliza modelos que relacionam diferentes variáveis para reduzir a incerteza, permitindo estimativas de probabilidades que informam decisões. O professor compara os dados a ingredientes e os algoritmos a receitas, destacando que os sesgos (ou vieses) podem distorcer resultados, especialmente em contextos de inteligência artificial. Ele alerta para o risco de discriminação que pode surgir quando esses sistemas aprendem a partir de dados enviesados.

Em relação à inteligência artificial, Carrizosa enfatiza que, embora possa ser uma ferramenta útil, a decisão final deve ser tomada por humanos, que possuem moralidade. Ele critica a falta de transparência nas decisões tomadas por máquinas, especialmente quando empresas privadas controlam a tecnologia. O professor menciona casos em que algoritmos podem perpetuar desigualdades, como no sistema de liberdade condicional, onde decisões podem ser influenciadas por preconceitos raciais.

Por fim, Carrizosa discute a importância da transparência na aplicação de dados em políticas públicas e a necessidade de um algoritmo que distribua recursos de forma justa. Ele acredita que as matemáticas podem ajudar a prevenir fraudes, utilizando métodos estatísticos já estabelecidos. No entanto, ele também levanta a questão da privacidade, desafiando a sociedade a refletir sobre até que ponto está disposta a ceder informações em troca de segurança e justiça.