- O Papa Leão XIV publicou a encíclica Magnifica Humanitas, dedicada inteiramente à inteligência artificial, destacando que “a tecnologia nunca é neutra” e exige supervisão das Big Tech.
- O documento, assinado em 15 de maio e apresentado em 25 de maio, defende que dados e algoritmos sejam governados como bens comuns.
- A encíclica defende subsidiariedade, algoritmos transparentes, auditorias independentes e mecanismos legais para contestar decisões automatizadas que afetam crédito, emprego ou avaliação de risco.
- O texto critica o transumanismo e reforça que a finitude humana é essencial para empatia, julgamento moral e cuidado com os vulneráveis.
- Christopher Olah, da Anthropic, participou da apresentação, ressaltando a necessidade de supervisão externa e de enfrentar incentivos que podem conflitar com o bem comum.
O Papa Leão XIV publicou sua primeira encíclica dedicada à inteligência artificial. O documento, intitulado Magnifica Humanitas, tem 245 parágrafos e foi apresentado no Salão do Sínodo, em 25 de maio. O pontífice assinou o texto em 15 de maio, 135 anos após a Rerum Novarum.
A encíclica defende maior supervisão das Big Tech, classifica dados como bem comum e afirma que a tecnologia não é neutra, pois reflete os valores e incentivos de quem a constrói. As ideias explicam um desafio moral central no papado.
O texto trata de IA em guerras, desumanização, desinformação, desemprego, cibersegurança infantil e armas autônomas. O tema subjacente é claro: algoritmos refletem prioridades de seus criadores, não são autônomos.
Dados pertencem a todos, inclusive aos indivíduos. A encíclica sustenta que algoritmos, plataformas e dados devem ser governados como bens comuns, não de modo exclusivo de grandes empresas.
A subsidiariedade é aplicada às plataformas digitais. O papa defende algoritmos transparentes, auditorias independentes e poder para contestar decisões automatizadas que afetam crédito, emprego e risco penal.
Leão critica o transumanismo e aponta que a finitude humana permite empatia, julgamento moral e cuidado. Sistemas que visam eliminar vulnerabilidades não garantem humanidade melhor.
A encíclica também destaca que IA não possui corpo nem compreensão humana. Mesmo simulações de empatia não substituem a experiência vivida para entendimento verdadeiro.
O texto alerta contra decisões sensíveis delegadas a máquinas que carecem de compaixão e misericórdia, e contra tratar resultados como neutros apenas pela origem tecnológica.
A presença de Christopher Olah, cofundador da Anthropic, foi destacada na apresentação no Vaticano. Olah apontou incentivos conflitantes e a necessidade de escrutínio externo.
Segundo relatos, Olah enfatizou que grandes laboratórios operam sob pressões de incentivos que podem inviabilizar a ética. O escrutínio social e institucional é visto como indispensável.
A encíclica já motivou ação dentro do Vaticano, com a criação de uma comissão interna de inteligência artificial em 16 de maio, para coordenar governança em toda a Santa Sé.
Entre na conversa da comunidade