Encíclica “Magnifica Humanitas”: Papa Leão XIV tem um recado para as gigantes tecnológicas

Definindo a Inteligência Artificial (IA) como um dos principais desafios do nosso tempo, o Papa Leão XIV dedicou à tecnologia o primeiro grande documento do seu papado, explorando a importância de salvaguardar os seres humanos.

Dividida em cinco capítulos, a carta encíclica, com o título Magnifica humanitas (em português, "Humanidade Magnífica"), tem uma premissa subjacente: a tecnologia não é "uma força antagónica à humanidade" nem é "inerentemente má".

Contudo, a tecnologia nunca é neutra, porque assume as características de quem a concebe, financia, regula e utiliza.

Partindo deste pressuposto, no primeiro grande documento do seu papado, Leão XIV decidiu apelar a que as pessoas construam "para o bem comum" e "permaneçam humanas", conforme citado numa publicação oficial do Vaticano.

Sendo uma das formas mais elevadas de ensinamento papal, a carta tem como remetente uma legião de 1,4 mil milhões de católicos em todo o mundo.

Num documento histórico, o novo papa aborda de frente os desafios da era digital, da concentração de poder tecnológico à guerra com drones, passando pela dignidade do trabalho e a desinformação.

Assinada a 15 de maio, no 135.º aniversário da Rerum Novarum, a encíclica de Leão XIII que em 1891 respondeu à Revolução Industrial e que é hoje considerada a pedra fundadora da doutrina social da Igreja, a mensagem é a de que estamos perante uma transformação de magnitude equivalente.

A tecnologia não é má, mas nunca é neutra

Logo na introdução, Leão XIV rejeita dois extremos fáceis: a tecnoutopia e o catastrofismo. Segundo o papa, a IA não é uma ameaça intrínseca à humanidade, mas "tem o rosto daqueles que a concebem, financiam, regulam e utilizam".

É esta a premissa central do documento, e é a partir dela que o resto se constrói. O problema não é a tecnologia em si, mas a concentração de poder que ela viabiliza.

Hoje, ao contrário do que acontecia no século XX, são empresas privadas e não os Estados a ditar o rumo da inovação. Para o papa, isto representa um desafio sem precedentes para o bem comum.

O recado para as gigantes da tecnologia

Um dos pontos mais concretos da encíclica é a crítica à acumulação de poder tecnológico nas mãos de poucos. O Papa Leão XIV aplica o princípio clássico da "destinação universal dos bens" às realidades do século XXI: algoritmos, plataformas digitais, infraestruturas tecnológicas e dados são, na sua visão, bens que deveriam estar ao serviço de todos, e não fontes de enriquecimento e controlo para uma minoria.

Não precisamos de uma IA mais moral, se esta moral for decidida por poucos.

Escreve Leão XIV, numa frase que parece dirigida diretamente às grandes empresas de Silicon Valley, pedindo auditorias independentes, transparência sobre os algoritmos e acesso equitativo aos dados.

"Não tenhamos medo de sujar as mãos"

Numa altura em que a automação elimina empregos a um ritmo acelerado, o papa dedica um capítulo inteiro à dignidade do trabalho.

O papa reconhece que a IA pode libertar as pessoas de tarefas repetitivas, mas não pode tornar-se um instrumento de desemprego em massa em nome da redução de custos.

Indo mais longe, critica a lógica inversa que se instalou em muitas empresas de, em vez de as máquinas se adaptarem às pessoas, são as pessoas a adaptar-se ao ritmo e às exigências das máquinas.

Desinformação e dependência digital

O documento não poupa as plataformas de redes sociais. O papa usa o conceito de "arquitetura da visibilidade" para descrever como os algoritmos amplificam apenas o que é visível e lucrativo, moldando opiniões e alimentando polarização.

A par disso, alerta para os riscos do controlo social através da recolha massiva de dados e da utilização de sistemas que traçam perfis comportamentais, que classifica como "uma nova forma de poder" capaz de discriminar os mais frágeis.

Neste cenário, pede uma "ecologia da comunicação" baseada na verdade, com jornalismo sério e literacia digital nas escolas.

Documento aborda a guerra

Não existe algoritmo que possa tornar a guerra moralmente aceitável. A IA não retira ao conflito a sua intrínseca desumanidade: apenas o torna mais rápido e impessoal, baixando a fasquia do recurso à violência e transformando a defesa em previsão operacional, com as vítimas reduzidas a dados.

Escreveu Leão XIV, abordando diretamente o uso de armas autónomas ligadas à IA, e alertando que estas tornam o conflito mais impessoal, reduzem as vítimas a dados e baixam o limiar para o recurso à violência.

Pede limites éticos partilhados a nível internacional e afirma que "toda a tecnologia que facilite atingir sem ver o rosto do outro reduz o nível moral do conflito".

Paralelamente, critica o ressurgimento da teoria da "guerra justa" e defende a sua superação em favor do diálogo e da diplomacia.

Novas formas de escravatura

Num momento em que o debate público sobre IA se centra nos modelos de linguagem e na criatividade artificial, o papa chama a atenção para o lado invisível da cadeia: os trabalhadores que extraem os minerais raros necessários para os dispositivos tecnológicos.

Descreve-os como corpos "marcados, feridos e gastos" e inclui esta exploração na lista das novas formas de escravatura que a Igreja condena.

Vai ainda mais longe ao pedir desculpa pelo atraso histórico da Igreja em condenar a escravatura tradicional, um gesto de humildade institucional incomum neste tipo de documentos.

Um programa exigente, mas necessário

A Magnifica Humanitas não é um manifesto anti-tecnológico. Pelo contrário, é um apelo a que a humanidade assuma o controlo do seu próprio futuro digital, antes que esse controlo seja exercido exclusivamente por quem detém o poder económico e tecnológico.

Em tempos de corrida à IA generativa, de proliferação de armas autónomas e de desinformação, o documento chega num momento em que o debate ético sobre estas matérias ainda está longe de ter respostas consensuais.

Independentemente das convicções religiosas de cada um, dificilmente se pode dizer que o papa escolheu o momento errado para entrar na conversa.