|
Con motivo del 135.º aniversario de la «Rerum novarum»,
el Pontífice reflexiona en su primera encíclica,
«Magnifica humanitas», sobre la doctrina social de la
Iglesia en la era de la inteligencia artificial. El
llamamiento a custodiar «una magnífica humanidad
habitada por Dios», promoviendo la verdad, la dignidad
del trabajo, la justicia social y la paz. En la era
digital, es necesario desarmar la IA y superar la teoría
de la «guerra justa», relanzando el diálogo y el
multilateralismo
Isabella Piro – Ciudad del Vaticano
«La magnífica humanidad que Dios ha creado se encuentra
hoy ante una elección decisiva: levantar una nueva torre
de Babel o edificar la ciudad donde Dios y la humanidad
habiten juntos». El incipit de
la primera encíclica de León XIV —Magnifica
humanitas, «sobre la custodia de la persona humana
en la era de la inteligencia artificial»— resume sus
razones fundamentales y su propósito. Publicada hoy,
lunes 25 de mayo, fue firmada por el Pontífice el pasado
15 de mayo, en el 135.º aniversario de la promulgación
de la Rerum
novarum de León XIII. Y de su predecesor, el papa
Prevost, ha recogido el legado, escribiendo una
encíclica social que aborda uno de los principales retos
de la época contemporánea: la inteligencia artificial.
Dividida en cinco capítulos, más una introducción y una
conclusión, Magnifica
humanitas parte de una premisa: la tecnología no es
una «fuerza antagónica respecto a la persona» (4), ni
«un mal en sí misma» (9). Sin embargo, «no es neutra,
porque asume el rostro de quien la concibe, la financia,
la regula y la utiliza». De ahí el llamamiento del
Pontífice a «construir en el bien» y a «permanecer
humanos», siguiendo la lógica de la corresponsabilidad
valiente, de la subsidiariedad, de la comunión, para que
«el mundo pueda reconocer… en el corazón del ser humano
el lugar donde Dios desea habitar» (16).
TEXTO COMPLETO DE LA ENCÍCLICA "MAGNIFICA HUMANITAS"
La Doctrina Social de la Iglesia es teología de la
comunión
El primer capítulo —Un
pensamiento dinámico fiel al Evangelio— repasa la
Doctrina Social de la Iglesia (DSI) en el magisterio
reciente y en el Concilio Vaticano II, poniendo de
relieve «su carácter dinámico» (17). Lejos de ser «un
manual de principios y normas que aplicar», la DSI es
más bien «un camino de discernimiento comunitario», una
«teología de la comunión en la historia» (27) que
orienta la lectura de los acontecimientos a la luz del
Evangelio. León XIV recuerda el pensamiento de sus
predecesores: desde Pío XII —el primero en emplear la
expresión «Doctrina social de la Iglesia» en la
exhortación apostólica Menti
nostrae de 1950— hasta el Papa Francisco,
pasando naturalmente por la Rerum
novarum de 1891, definida como «hito en la
evolución del magisterio social» (30). En sus
respectivas épocas, cada sucesor de Pedro «ha puesto de
relieve diferentes aspectos de un único patrimonio: la
dignidad de la persona, el valor del trabajo, la
destinación universal de los bienes, la solidaridad y la
subsidiariedad, el cuidado de la creación, la
centralidad de la paz y la fraternidad» (45)
Proteger la dignidad humana: la persona no es un recurso
que se pueda explotar
En el segundo capítulo, León XIV enumera los Fundamentos
y principios de la Doctrina social de la Iglesia:
entre los primeros, incluye la dignidad de la persona,
creada a imagen y semejanza de Dios. Es necesario
recordarlo, ya que «la presión de nuevas ideologías y de
determinados intereses muy poderosos» puede reducir a la
persona a «un recurso que se usa y se explota» o a «lo
que realiza o produce» (51). Por el contrario, «la
dignidad fundamental de cada persona no se adquiere, no
debe ganarse ni necesita ser demostrada» (53). Un
segundo fundamento de la Doctrina Social de la Iglesia
es la inviolabilidad de los derechos humanos, entre los
cuales el primero es el derecho a la vida «desde la
concepción hasta su final natural»: a este respecto,
León XIV define el aborto provocado, el asesinato de
inocentes y la eutanasia como «decisiones gravemente
ilícitas» (55). El tercer fundamento es el
reconocimiento de los derechos de las minorías, con
especial atención a las mujeres: en su favor, el
Pontífice pide «decisiones concretas» en las leyes, en
el trabajo, en la educación, en las responsabilidades
sociales y políticas, para que sean verdaderamente
escuchadas y valoradas (57)
Es inmoral e inaceptable eliminar o someter a una nación
En cuanto a los principios de la DSI, León XIV señala
cinco: el primero es el bien común, «forma social de la
dignidad reconocida a cada uno» (59). En un punto el
Papa es particularmente firme: «la promoción del bien
común nunca puede separarse del respeto al derecho de
los pueblos a existir, a custodiar su propia identidad y
a contribuir con su propia originalidad a la familia de
las naciones». En consecuencia, «cualquier intento o
proyecto de eliminar o someter una nación es gravemente
inmoral y, por lo tanto, inaceptable» (64).
La tecnología no debe concentrarse en manos de unos
pocos
El segundo principio se refiere a la destinación
universal de los bienes: aquí y en otros puntos de la
encíclica, León XIV insiste en la necesidad de que los
conocimientos y las tecnologías no se concentren en
manos de unos pocos, alimentando la brecha entre los
incluidos y los excluidos de la revolución digital (67).
De ello se derivan el tercer y el cuarto principio, a
saber, la subsidiariedad (68) —que exige superar el
paternalismo y el asistencialismo en favor de la
corresponsabilidad— y la solidaridad (73), «principio y
virtud» que se opone a la indiferencia y tiene en cuenta
a los pueblos y a las generaciones futuras.
La justicia social y un examen decisivo con los
migrantes
El quinto principio de la DSI señalado por el Papa es la
justicia social: en la era digital, debe garantizar a
todos un acceso equitativo a las oportunidades, proteger
a los más frágiles, combatir el odio y la
desinformación, someter a control público el uso de los
datos y las tecnologías, «de modo que el criterio no sea
solo el lucro, sino la dignidad de cada persona y el
bien de los pueblos» (80). León XIV señala en los
migrantes, los refugiados y los desplazados un «examen
decisivo» en este ámbito: la forma en que la sociedad
los trata demuestra «si la idea de justicia está guiada
por el miedo o por la fraternidad». De ahí el
llamamiento tanto a custodiar «el derecho a la
esperanza» de quienes se ven obligados a partir,
garantizándoles vías seguras y legales, una acogida
digna y la integración; como a promover «el derecho a
quedarse» de cada uno en su propia tierra en paz y
seguridad, abordando «las causas profundas» de las
migraciones (81)
Los abusos y el examen de conciencia para la Iglesia
El Pontífice entiende que los cinco principios
mencionados están dirigidos no solo a la sociedad, sino
también a la Iglesia, llamada a «un examen de
conciencia»: el Papa exhorta a «sanear las relaciones y
las estructuras eclesiales de aquellas distorsiones que
generan desigualdades, falta de claridad y atropellos».
La invitación es a escuchar a las «víctimas de abusos
espirituales, económicos, institucionales, sexuales, de
poder y de conciencia», ya que ello «forma parte
integrante de un camino de justicia, que comprende el
reconocimiento del daño, la reparación justa y la
prevención» (89).
Se necesita un código ético compartido sobre la IA
El tercer capítulo —Técnica
y dominio. La grandeza de la persona humana ante las
promesas de la IA— entra en el meollo del tema de la
inteligencia artificial. León XIV advierte contra el
«paradigma tecnocrático» ya denunciado por Francisco y
por el cual toda elección viene dictada exclusivamente
por parámetros de eficiencia y beneficio (92). Por el
contrario, la tecnología más potente no es
necesariamente la mejor: la IA puede imitar y simular al
hombre, pero no posee conciencia moral, empatía,
capacidad afectiva, relacional ni espiritual. Por lo
tanto, es necesario abordar la IA con sobriedad y
vigilancia, manteniendo la claridad sobre las
responsabilidades de todas sus etapas (accountability)
y apostando por políticas y marcos jurídicos adecuados,
una supervisión independiente y la educación de los
usuarios. Sobre todo, se necesita un código ético
sometido a criterios de justicia social compartida,
porque «no sirve una IA más moral si esa moral la
deciden unos pocos» (107). Sin dejar de lado el impacto
ambiental de las nuevas tecnologías, que requieren
grandes cantidades de energía y agua, afectando a las
emisiones de dióxido de carbono y dañando la Creación
(101).
Desarmar la IA y sustraerla de la lógica competitiva
Hay que «desarmar la IA» —insiste León XIV— para
sustraerla de la lógica de la competencia militar,
económica y cognitiva; para romper la equivalencia entre
poder técnico y derecho a gobernar; para sustraerla de
los monopolios e impedir que domine al ser humano. Esta
tarea es ética, técnica y ecológica porque la IA «ya es
el entorno en el que estamos inmersos y el poder con el
que debemos contar» (110). Se dedica un amplio espacio a
la crítica del transhumanismo y
del poshumanismo,
que interpretan el progreso como la superación de los
límites de lo humano. En cambio, el límite no es un
defecto que haya que eliminar, sino una dimensión
constitutiva de la persona, porque «el ser humano no
florece a
pesar del límite, sino a menudo a
través del límite» (118), reconociendo en la
fragilidad y en la finitud lugares en los que maduran la
relación, el cuidado y la apertura a Dios y al otro
Que el progreso de la técnica no haga retroceder el
corazón
Hay mucho en juego: hacer crecer la técnica eliminando
los límites de lo humano significa, de hecho, hacer
retroceder el corazón. Magnífica y, sin embargo, herida,
la humanidad «no debe ser sustituida ni superada». La
tecnología puede aliviar sus sufrimientos y abrirle
nuevas posibilidades, pero no debe negarla en lo que le
es propio: «la capacidad de relación y de amor» (126).
Ante la IA, la verdadera alternativa no está entre el
entusiasmo y el miedo, sino entre dos formas de
construir el progreso: al servicio de la persona y de
los pueblos o de las lógicas de poder (129). Una
elección que nos concierne a todos: «la construcción de
Babel o la de Jerusalén», las dos «ciudades» del hombre
y de Dios señaladas también por san Agustín (130),
comienza por cada uno.
Ecología de la comunicación y centralidad de la escuela
En el cuarto capítulo – Custodiar
lo humano en la transformación. Verdad, trabajo,
libertad — la encíclica considera la verdad como un
bien común y un elemento esencial de la democracia. En
el entorno digital, la verdad debe plasmarse en una
«ecología de la comunicación» para que la cultura
generada por la web no se convierta en un instrumento de
«homologación y dominio», sino en un espacio de
maduración para la «libertad interior y el pensamiento
crítico» (136-137). El Papa señala algunos instrumentos:
transparencia en los criterios de selección de
contenidos, protección de los datos personales, un
periodismo serio basado en la argumentación y la
verificación, una nueva conciencia en el uso «correcto y
crítico» de la IA, la integración de los conocimientos.
También se exige a la Iglesia una comunicación
transparente y leal, sobre todo en los casos de
injusticias y abusos. Es fundamental, en la encíclica,
el llamamiento a una alianza educativa renovada para que
en los jóvenes no se apague «el deseo de hacer
preguntas» a causa de máquinas perfectas que hacen
parecer inútil el pensamiento humano. «Debemos educarnos
en el ayuno de la IA» (140), subraya León XIV,
eliminando las desigualdades en el acceso a la educación
y apostando por la escuela como lugar donde se aprende a
«buscar y amar la verdad» (143) y se enseña lo que lo
digital no puede dar: «tiempo compartido para aprender y
relaciones fiables» (147)
El trabajo debe centrarse en la persona, no en el
beneficio
En la «cuarta revolución industrial» que representa la
transición digital, el Pontífice destaca la importancia
de proteger la dignidad y el valor del trabajo: «Las
nuevas formas de trabajar no son necesariamente
mejores», explica, ya que la tecnología puede
descalificar a los trabajadores, relegarlos a funciones
marginales y someterlos a una vigilancia automatizada
(150). Por el contrario, es necesario diseñar sistemas
centrados en la persona y no solo en el rendimiento,
porque la tecnología puede sin duda liberar al hombre de
tareas pesadas o repetitivas, pero no debe conducir en
absoluto al desempleo en nombre de la reducción de
costes y el aumento de los beneficios. En un escenario
en el que se perfilan mayores niveles de pobreza y
desigualdad, provocados por sistemas automatizados que
han sustituido al hombre, el Pontífice aboga también por
una renovación de las organizaciones sindicales (155)
El desarrollo no se mide solo en términos de PIB
La transformación digital debe gestionarse de antemano
mediante criterios sociales estables, formación
accesible y continua para los trabajadores y
responsabilidad empresarial. El Pontífice señala,
además, la necesidad de superar el PIB como parámetro
del grado de desarrollo de un país, apostando en su
lugar por la dignidad del trabajo, la prosperidad
compartida, la reducción de las desigualdades y la
protección del medio ambiente. La financiación por la
financiación es, de hecho, diferente de la financiación
para el desarrollo (159-160). Y, siguiendo la estela de
San Pablo VI, se subraya la interdependencia entre paz y
desarrollo, abogando por una cooperación internacional
capaz de definir estrategias comunes «sobre todo en
favor de los países y los grupos más vulnerables»,
porque la prosperidad contribuye a la paz «solo si es
generalizada, inclusiva y sostenible» (163).
La familia, bien social primario
En la encíclica destaca, además, la referencia a la
familia, fundada en la unión estable entre un hombre y
una mujer: es «bien social primario», «célula
fundamental e insustituible de toda organización
comunitaria» (165) que debe apoyarse también mediante
políticas laborales que favorezcan la estabilidad y
ritmos humanos, de modo que se garantice el justo
equilibrio de vida y se proteja esa «capacidad de
construir el futuro» que hace generativa a la sociedad.
La «arquitectura de la visibilidad» y los riesgos para
la libertad
Por último, el tema de la libertad humana, que hay que
proteger contra la dependencia y la mercantilización: en
una época en la que las plataformas digitales están
diseñadas para acaparar el tiempo de los usuarios y
explotar sus fragilidades, es urgente reforzar la
libertad interior de cada uno y hacer frente al riesgo
del control social derivado de la recopilación masiva de
datos y del uso de sistemas algorítmicos. Perfilar,
predecir y orientar los comportamientos es, de hecho,
«un poder nuevo» (171) que corre el riesgo de
discriminar a los más débiles. El Papa deplora, en
particular, la «arquitectura de la visibilidad» que
premia y amplifica solo lo que es visible, moldeando
opiniones y generando conformismo.
Nuevas formas de esclavitud y nuevo colonialismo
La IA genera nuevas formas de esclavitud, como la de los
«cuerpos marcados, mutilados, consumidos» (173) de
quienes trabajan en la extracción de las «tierras raras»
necesarias para la tecnología. Por ello, la lucha contra
las nuevas formas de esclavitud es otra «prueba decisiva
para el discernimiento ético» de la transformación
digital. A este respecto, León XIV subraya que «la
Iglesia renueva su firme condena contra toda forma de
esclavitud, trata y mercantilización de las personas» y
reitera que no reaccionar o tolerar estas «graves
violaciones de la dignidad humana» significa, de hecho,
«hacerse cómplice» (174). Al mismo tiempo, el Papa pide
«sinceramente perdón» por el retraso con el que la
Iglesia, en el pasado, condenó «el flagelo de la
esclavitud». La encíclica se refiere también a las
«nuevas tierras raras del poder», es decir, la
información vital —por ejemplo, sobre salud y
demografía— utilizada para orientar las estrategias
económicas. Se trata, explica el Pontífice, de una
faceta inédita del colonialismo que se apropia de los
datos y transforma las vidas personales en información
explotable, convirtiendo el entorno digital en un
«espacio de depredación» (178-179)
Superar la teoría de la «guerra justa»
En el quinto y último capítulo —La
cultura del poder y la civilización del amor—, León
XIV dirige su mirada hacia la guerra: «La revolución
digital está modificando la gramática de los conflictos»
y, sin un enfoque ético, las decisiones sobre la vida y
la muerte de las personas serán cada vez más
impersonales, considerándose el recurso a la fuerza como
una «opción inmediata y viable» (182-183) . En la base
de todo hay una «cultura del poder» que normaliza la
guerra y la rehabilita como «instrumento de política
internacional», favoreciendo el rearme. Sobre la opinión
pública, que en el pasado veía la beligerancia solo
como extrema
ratio, hoy pesan también las narrativas mediáticas
polarizantes, así como «una preocupante pérdida de
memoria histórica» que nos priva de una visión a largo
plazo (191). En consecuencia, hoy la paz ya no se
entiende como una tarea que hay que asumir, sino como un
intervalo precario entre conflictos. Por ello, León XIV
reitera que —sin perjuicio del derecho a la legítima
defensa en su sentido más estricto— es necesario superar
la teoría de la «guerra justa», promoviendo más bien el
diálogo, la diplomacia y el perdón (192)
Ningún algoritmo hace que la guerra sea moralmente
aceptable
El Papa Prevost no deja de lamentar el crecimiento de la
industria bélica, la carrera armamentística nuclear y la
aparición de nuevos actores armados —entre ellos los
yihadistas— que pretenden perpetuar los conflictos como
fuente de poder y de ingresos. Es contundente, además,
la advertencia contra el uso de armas relacionadas con
la IA, ya que «no existe ningún algoritmo que pueda
hacer que la guerra sea moralmente aceptable»; es más:
la tecnología «no libera al conflicto de su intrínseca
inhumanidad: sólo puede hacerlo más rápido e impersonal,
bajando el umbral del recurso a la violencia y
transformando la defensa en previsión operativa, con las
víctimas reducidas a datos. Así, nos acostumbra a la
idea de que la violencia sea inevitable y sólo deba
optimizarse.» (198). Por lo tanto, se necesitan
restricciones éticas rigurosas, compartidas a nivel
internacional, basadas en la responsabilidad personal y
en la protección de los civiles, porque «toda tecnología
que facilite atacar sin ver el rostro del otro rebaja el
umbral moral del conflicto» (199).
La crisis del multilateralismo
La cultura del poder surge también de la crisis del
multilateralismo y del surgimiento de un «multipolarismo
desordenado y conflictivo» en el que prevalece la
desconfianza hacia el otro (201). La fuerza del derecho
se sustituye por el derecho del más fuerte; las lógicas
del poder prevalecen sobre la construcción de la paz,
relegada a un segundo plano, y las instituciones creadas
para custodiar el destino común de los pueblos se
encuentran ahora debilitadas, sin que se reconozca su
autoridad moral. A este respecto, el Papa auspicia para
la ONU y para el sistema político internacional
«reformas profundas» que superen la actual crisis de
valores en favor del verdadero bien común (226).
Una Realpolitik irresponsable
Hoy, prosigue la encíclica, se libran guerras «híbridas»
que abarcan los ámbitos económico, financiero e
informático, aprovechando la desinformación y el miedo
para influir en la opinión pública y presentar el
aumento del gasto militar como la «única respuesta» a un
futuro incierto. Pero todo esto no es más que un «falso
realismo», una irresponsable Realpolitik que
siembra en las conciencias y en las culturas la
resignación ante una guerra ineludible y califica la paz
de utopía (204-205). Sin excluir que, para algunos, el
conflicto armado podría ser un instrumento de «gestión
cínica» de las dificultades, así como una forma de
desviar la atención de los problemas internos (208).
La civilización del amor
El cristiano está llamado a responder a esta cultura del
poder construyendo «la civilización del amor»: la
gracia, de hecho, no elimina el conflicto como por arte
de magia, sino que genera «una resistencia activa al mal
y una sorprendente creatividad en el bien» (211). Cada
uno, en su ámbito de acción, está llamado a elegir entre
alimentar la lógica de la fuerza o custodiar la paz,
frenando la deshumanización con pequeños actos de
fidelidad y tenacidad. El Papa señala cinco «vías de
responsabilidad»: desarmar las palabras diciendo la
verdad; construir la paz en la justicia; asumir la
mirada de las víctimas tomando posición, porque hay
conflictos en los que «no es justo permanecer
neutrales». Los ataques contra civiles, hospitales e
infraestructuras hieren a la propia humanidad y no
pueden quedar relegados al ámbito del análisis
abstracto. Por el contrario, hay que dar voz a las
víctimas para «tomar verdadera conciencia del abismo de
maldad que encierra» la guerra y toda violencia (217). Y
aún más: el Papa exhorta a cultivar «un sano realismo»
que busque vías de paz viables con hechos, no solo con
palabras
No utilizar el nombre de Dios para legitimar la guerra
Por último, relanzar el diálogo pasando de una cultura
del poder a una cultura de la negociación. También es
decisivo «el diálogo entre las religiones», portador de
un mensaje de paz. «Quien utiliza el nombre de Dios para
legitimar el terrorismo, la violencia o la guerra,
traiciona su rostro —advierte León XIV—: luchar en
nombre de la religión significa, en realidad, golpear a
la propia religión» (223). Por su parte, la diplomacia
de la Santa Sede utiliza «el principio evangélico de la
misericordia» como criterio concreto de la acción
política. De ahí deriva la exhortación a la oración,
porque la paz proviene ante todo de Dios (227-228).
La magnífica humanidad
Al concluir la carta, el Pontífice invita a los fieles a
vivir las nuevas tecnologías a la luz del Evangelio,
siguiendo «un itinerario de vida cristiana sobrio y
exigente», para que, incluso en la era de la IA, todos
puedan dar testimonio de «la belleza de una magnífica
humanidad habitada por Dios».
|
LA MAGNÍFICA
HUMANIDAD