Inteligência artificial na administração pública exige cautela e ética, alerta professor

A discussão sobre o uso da inteligência artificial (IA) nas administrações públicas ganhou destaque com a nova regulamentação da União Europeia. O professor de direito administrativo Juli Ponce Solé, da Universidade de Barcelona, alerta para os riscos da IA nas decisões humanas, enfatizando a necessidade de supervisão.

Ponce Solé, autor do manual "A Regulamentação da Inteligência Artificial da União Europeia de 2024, o Direito à Boa Administração Digital e seu Controle Judicial na Espanha", destaca que a falta de empatia das máquinas pode comprometer decisões que afetam a vida das pessoas. Ele afirma que "a inteligência artificial não pode tomar decisões que envolvam emoções e interesses humanos".

O professor utiliza ferramentas como o ChatGPT em suas aulas, mas ressalta que a falta de diretrizes éticas para o uso da IA nas universidades e administrações públicas é preocupante. Ele observa que "estamos em um momento de faroeste", onde cada servidor público age conforme seu próprio critério.

Ponce Solé também menciona que, embora humanos cometam erros, a IA pode replicar falhas em larga escala. Ele alerta que "decisões tomadas por máquinas podem ter consequências graves, como enviar alguém à prisão". A regulamentação da União Europeia estabelece que a IA deve ser uma assistente, mas não pode substituir o julgamento humano.

O professor propõe um modelo de colaboração entre humanos e máquinas, onde a tecnologia auxilia, mas a decisão final permanece com os humanos. Ele defende a criação de uma "reserva de humanidade" para funções sensíveis, como no direito penal e na concessão de créditos.

Por fim, Ponce Solé enfatiza que "é necessário encontrar um equilíbrio" no uso da IA, evitando tanto o otimismo exagerado quanto o pessimismo. Ele acredita que as administrações públicas devem adotar a tecnologia para oferecer serviços mais personalizados, mas sempre com a supervisão humana.