A discussão sobre o uso da inteligência artificial nas administrações públicas está em alta, especialmente com a nova regulamentação da União Europeia. O professor Juli Ponce Solé, da Universidade de Barcelona, alerta que a IA pode ser perigosa nas decisões que envolvem emoções e interesses humanos, pois as máquinas não têm empatia. Ele usa ferramentas como o ChatGPT em suas aulas, mas destaca a falta de regras éticas para o uso da IA nas universidades e no setor público. Ponce Solé afirma que, embora humanos possam errar, a IA pode amplificar esses erros, resultando em consequências sérias, como prisões injustas. A regulamentação europeia sugere que a IA deve ser uma assistente, sem substituir o julgamento humano. O professor propõe que humanos e máquinas trabalhem juntos, com a decisão final sempre nas mãos das pessoas, e defende a criação de uma “reserva de humanidade” em áreas sensíveis, como o direito penal. Ele acredita que é importante encontrar um equilíbrio no uso da IA, evitando tanto o otimismo exagerado quanto o pessimismo, e que as administrações públicas devem usar a tecnologia para oferecer serviços mais personalizados, sempre com supervisão humana.
A discussão sobre o uso da inteligência artificial (IA) nas administrações públicas ganhou destaque com a nova regulamentação da União Europeia. O professor de direito administrativo Juli Ponce Solé, da Universidade de Barcelona, alerta para os riscos da IA nas decisões humanas, enfatizando a necessidade de supervisão.
Ponce Solé, autor do manual “A Regulamentação da Inteligência Artificial da União Europeia de 2024, o Direito à Boa Administração Digital e seu Controle Judicial na Espanha”, destaca que a falta de empatia das máquinas pode comprometer decisões que afetam a vida das pessoas. Ele afirma que “a inteligência artificial não pode tomar decisões que envolvam emoções e interesses humanos”.
O professor utiliza ferramentas como o ChatGPT em suas aulas, mas ressalta que a falta de diretrizes éticas para o uso da IA nas universidades e administrações públicas é preocupante. Ele observa que “estamos em um momento de faroeste”, onde cada servidor público age conforme seu próprio critério.
Ponce Solé também menciona que, embora humanos cometam erros, a IA pode replicar falhas em larga escala. Ele alerta que “decisões tomadas por máquinas podem ter consequências graves, como enviar alguém à prisão”. A regulamentação da União Europeia estabelece que a IA deve ser uma assistente, mas não pode substituir o julgamento humano.
O professor propõe um modelo de colaboração entre humanos e máquinas, onde a tecnologia auxilia, mas a decisão final permanece com os humanos. Ele defende a criação de uma “reserva de humanidade” para funções sensíveis, como no direito penal e na concessão de créditos.
Por fim, Ponce Solé enfatiza que “é necessário encontrar um equilíbrio” no uso da IA, evitando tanto o otimismo exagerado quanto o pessimismo. Ele acredita que as administrações públicas devem adotar a tecnologia para oferecer serviços mais personalizados, mas sempre com a supervisão humana.
Entre na conversa da comunidade