- Encíclica Magnifica humanitas aborda impactos da inteligência artificial, desde perda de empregos até armas autônomas e impacto ambiental.
- IA não deve ficar monopolizada por grandes empresas; concentração de poder pode tornar sistemas opacos e afetar democracia, com aplicação do princípio da destinação universal dos bens a dados, algoritmos e plataformas.
- Desenvolvedores de IA devem incorporar transparência, responsabilidade e evitar apresentar sistemas como neutros quando refletem vieses.
- É preciso proteger empregos para evitar calamidade social, com políticas de proteção, qualificação e participação dos trabalhadores diante da automação.
- Decisões de uso de força letal devem ficar sob controle humano; aplicação de restrições éticas rígidas à IA na guerra e preocupação com o ambiente.
O Papa Leão XIV publicou nesta segunda-feira a encíclica Magnifica humanitas, sobre a salvaguarda da pessoa humana na era da inteligência artificial. O documento de 245 parágrafos aborda impactos da IA na sociedade, emprego, ética e governança.
O pontífice alerta para o risco de a IA ficar concentrada nas mãos de poucos e de grandes empresas, o que pode tornar o desenvolvimento opaco e aumentar desigualdades. O texto defende a destinação universal dos bens, incluindo dados e algoritmos.
A encíclica também defende que a IA não seja vista como intrinsecamente má, mas que exija supervisão humana e reflexão ética. O Papa aponta para a necessidade de diálogo entre tecnologia, fé e direitos humanos.
1. IA não deve ser monopolizada pelas grandes empresas
O Papa critica a concentração de poder em grandes atores econômicos e tecnológicos que controlam plataformas, dados e infraestrutura. O alerta é para evitar manipulação de processos democráticos e dominação econômica.
Ele afirma que esse acúmulo tende a dificultar a supervisão pública, gerando dependências. O texto cita a destinação universal dos bens para estender esse princípio aos recursos digitais.
Solicita que a IA seja desarmada da corrida por algoritmos e dados, abrindo espaço ao debate público e à pluralidade cultural. O objetivo é tornar a tecnologia mais humana.
2. Transparência e responsabilidade devem guiar desenvolvedores
A encíclica faz um apelo aos criadores de IA para que incorporem transparência e responsabilidade em seus projetos. Cada decisão de design é vista como expressão de uma visão de humanidade.
O Papa alerta contra sistemas apresentados como neutros, quando refletem preconceitos dos criadores. A mensagem enfatiza a honestidade sobre limitações e impactos sociais.
Desafios éticos devem orientar a pesquisa e o desenvolvimento, com atenção para evitar efeitos negativos não intencionais. A ideia é alinhar tecnologia a bem comum.
3. Proteger empregos para evitar calamidade social
A carta ressalta que o desemprego em massa causado pela IA pode gerar calamidade social. Embora algumas empresas tenham vinculado cortes à IA, nem todos concordam com esse diagnóstico extremo.
Leão XIV defende manter a proteção de oportunidades de emprego e o papel insubstituível do indivíduo. A busca por lucro não pode justificar eliminações de postos de trabalho. Trabalhadores devem ter treinamento e participação.
Governos e empresas precisam se preparar para a disrupção tecnológica com medidas verificáveis de proteção ao emprego e à qualificação profissional.
4. Decisões sobre uso de força devem envolver seres humanos
A encíclica destaca a era digital como combustível de mudanças em conflitos modernos, incluindo ciberataques e desinformação. O Papa vê uma mudança de paradigma nas decisões de defesa.
Ele afirma que decisões letais não devem ser confiadas a sistemas artificiais. A supervisão humana é apresentada como requisito ético para o emprego da força em cenários contemporâneos.
A carta defende limites éticos rigorosos na aplicação de IA em contextos bélicos, com foco na proteção de vidas e na prevenção de abusos.
5. IA mais sustentável do ponto de vista ambiental
Leão XIV também ressalta a necessidade de reduzir o impacto ambiental da IA, que demanda grandes volumes de energia e água. O texto enfatiza a responsabilidade com recursos naturais.
A encíclica incentiva plenamente o desenvolvimento tecnológico aliado a práticas sustentáveis. O objetivo é conciliar avanço tecnológico com preservação do meio ambiente.
Entre na conversa da comunidade