El papa León XIV publicó ayer, 25 de mayo, su primera encíclica, Magnifica Humanitas (que podría traducirse como «La humanidad capaz de grandes cosas»); rodeó la publicación de su primer texto magisterial de una gran solemnidad, presentándola personalmente en la sala de prensa de la Santa Sede, sin recurrir a portavoces. La encíclica está dedicada a los retos de actualización que plantean a la doctrina social de la Iglesia las nuevas tecnologías digitales, y en particular la IA.
- La encíclica, de gran extensión (245 párrafos, es decir, unas cien páginas, con 224 referencias bibliográficas a pie de página), se compone de una introducción, cinco capítulos y una conclusión; su estructura es relativamente clásica, sobre todo porque su introducción, que puede leerse como una unidad autónoma, constituye un compendio esencial sobre el tema.
- Además, tiene un valor programático para el resto del pontificado de León XIV.
Desde el principio, León XIV contrapone dos figuras bíblicas, que pueden interpretarse como dos caminos que puede tomar la carrera hacia la IA: la torre de Babel, poder ilusorio, o las murallas de Jerusalén, reconstruidas pacientemente por el pueblo hebreo tras el regreso del exilio en Babilonia bajo la dirección del profeta Nehemías, que también prefiguran la Nueva Jerusalén del fin de los tiempos de la que habla el Apocalipsis de Juan.
- La introducción revela asimismo la profunda influencia agustiniana de León XIV, ya evidente en sus discursos anteriores: las referencias al pensamiento de Agustín de Hipona, en particular a La Ciudad de Dios, aparecen con gran frecuencia a lo largo del texto.
- Los dos primeros capítulos constituyen un repaso de la doctrina social de la Iglesia católica, que se enmarca precisamente en el Magisterio reciente. Se recuerda la legitimidad del Magisterio pontificio para abordar temas sociales, ya que estos guardan, al fin y al cabo, una relación indirecta con la misión espiritual de la Iglesia, que se erige en «experta en humanidad», por retomar las palabras de Pablo VI.
- Sin embargo, al recurrir aquí la Iglesia a los conocimientos de las ciencias sociales, no pretende tanto imponer nuevas definiciones de fe ex cathedra que cuenten con el asentimiento de todos los fieles, sino proponer, con mayor humildad, algunas reglas de discernimiento ante un fenómeno nuevo.
El primer capítulo repasa las principales etapas de la configuración de la doctrina social de la Iglesia: 135 años después, León XIV siguió los pasos de su predecesor, León XIII, cuyo nombre adoptó: este pontífice, con la encíclica Rerum novarum (1891), abordó la cuestión social en la época de la Segunda Revolución Industrial, para recordar el deber de un salario justo para el obrero y la necesidad de un sindicalismo cristiano que contrarrestara las tentaciones revolucionarias; al igual que él, León XIV se muestra atento a discernir las «res novae» de nuestra época.
- Posteriormente, la doctrina social de la Iglesia se enriqueció de diversas maneras, sobre todo bajo el pontificado de Pío XI (1922-1939) y Pío XII (1939-1958), y tras el Concilio Vaticano II (1962-1965), que instaba a estar atentos a los «signos de los tiempos».
- El magisterio del papa Francisco, especialmente con el creciente protagonismo de las preocupaciones medioambientales y migratorias, representa otro hito muy importante en el desarrollo de esta doctrina social: en general, cabe señalar que muchos pasajes de Magnifica Humanitas*conservan tintes muy bergoglianos; predecesor inmediato de León XIV, Francisco parece ser la referencia más citada en la encíclica, incluso en textos sin verdadero alcance magisterial, como discursos de bienvenida o alocuciones.
- La visión crítica, a veces mordaz, de la economía capitalista y la globalización neoliberal constituye también otro de los rasgos característicos del discurso de Bergoglio.
- Por su parte, el segundo capítulo repasa los principios fundacionales y los conceptos clave de la doctrina social de la Iglesia, cuya coherencia interna se reafirma: se examinan sucesivamente la dignidad intrínseca e inalienable de la persona humana, que se fundamenta en la creación del hombre a imagen del Dios trinitario, el bien común, la destinación universal de todos los bienes (que es superior a la propiedad privada, sin abolirla), el principio de subsidiariedad, el de solidaridad o interdependencia, el de justicia social, que conlleva en particular la «opción preferencial» de la Iglesia por los pobres, y, por último, el «desarrollo humano integral», promovido especialmente por Pablo VI y Francisco. La Iglesia sigue asumiendo la defensa de los derechos humanos, que ahora hace suyos. Toda reflexión sobre las res novae debe, por tanto, someterlas a la criba de estos diferentes conceptos, que la Iglesia debe aplicar también a sus propias estructuras.
No es hasta el tercer capítulo cuando León XIV entra en materia, abordando de lleno la cuestión de la IA.
- Retomando la imagen de Babel o de Nehemías, León XIV se pregunta: «¿Qué estamos construyendo?», y afirma rotundamente que no se trata de una elección que afecte al futuro, sino al presente, ya que la IA y el resto de herramientas digitales ya forman parte de nuestra vida cotidiana.
- Para él, la IA encaja perfectamente en el paradigma tecnocrático denunciado por François, en el que la humanidad, reducida a un conjunto de datos, parece convertirse en víctima de sus propios logros.
- En particular, León XIV denuncia la concentración oligopolística de las empresas de IA en manos de unos pocos «señores de la tecnología», que están adquiriendo un poder sin precedentes y peligrosamente desmesurado, y aboga en repetidas ocasiones por una regulación estatal e internacional más coercitiva, que pasaría por una descentralización de la IA y una transparencia total de los modelos, los códigos fuente y los algoritmos. También se señalan varios problemas específicos planteados por la IA: pérdida de la capacidad de concentración, aislamiento social, depresión, ansiedad… sin olvidar la crítica ecológica de su costo medioambiental.
- De ello se desprende que, a diferencia de otras tecnologías, «no podemos considerar que la IA sea moralmente neutra»: hay sistemas técnicos que se oponen frontalmente a la dignidad inalienable de la persona.
Al reduccionismo del hombre a datos, a la tentación de imitar el pensamiento humano, opone una antropología moral y relacional profundamente agustiniana, en la que lo que humaniza al hombre se define ante todo por la acción moral, la capacidad de atención, la relación con el otro y la propia fragilidad. En la línea de Juan Pablo II y Benedicto XVI, critica enérgicamente, a tal fin, el transhumanismo y el posthumanismo. Recuerda que, en el marco cristiano, la naturaleza es elevada a un orden superior no por la «humanidad aumentada», sino por el propio movimiento de la gracia divina.
En la práctica, aboga por controles más rigurosos de la IA y por organismos de supervisión independientes de las empresas implicadas: «una IA más moral no sirve de nada si esa moral la decide un puñado de personas»; la propia moral que subyace a los sistemas de IA debe someterse a instrumentos de deliberación colectiva, es decir, política. El papa insta además a «desarmar la IA», es decir, a sustraerla de las lógicas de la competencia y el poder, en definitiva, a «romper la equivalencia entre el poder técnico y el derecho a gobernar».
- Tras este diagnóstico clínico de los males, el cuarto capítulo esboza algunos remedios: frente al relativismo informativo y las burbujas digitales, la defensa de la verdad como bien común y de una ética del esfuerzo intelectual; frente a la remodelación social de los imaginarios mediante las herramientas de realidad virtual, la defensa del acto creador y de la capacidad de soñar.
- También aboga por una «ecología de la comunicación» que integre el derecho a la desconexión y respete las exigencias de transparencia.
- Además, insta a crear una «alianza educativa para la era digital», con el fin de desarrollar modelos educativos que preserven la capacidad de atención de los alumnos: la escuela y las instituciones de investigación no quedan al margen. Por último, se centra en las transformaciones digitales del trabajo, con el riesgo de una descalificación masiva de los trabajadores intelectuales y de un desempleo que hiere la dignidad del ser humano, en favor de una economía más respetuosa con las justas aspiraciones de la persona humana, en el ámbito social y familiar: se abordan así los efectos perversos de las exigencias de movilidad profesional.
El quinto capítulo es el que presenta el tono más dramático, pero también el que aborda los temas geopolíticos más candentes.
- Las figuras contrapuestas de Babel y Nehemías se interpretan aquí como la oposición entre una nueva «cultura del poder», más abiertamente agresiva, y una «civilización del amor» (Pablo VI), forma social de la caridad que aún queda por construir conjuntamente en la doctrina social de la Iglesia. León XIV reafirma aquí la línea (casi) íntegramente pacifista de la Santa Sede, que la lleva, por ejemplo, a condenar el principio de la disuasión nuclear y las formas de rearme, una postura que sin duda sorprenderá y llamará la atención en la opinión pública occidental: aquí se mantiene el equilibrio entre el «Sur» y el «Norte», y si bien los regímenes autoritarios son los que se exponen a las críticas más virulentas del control social algorítmico, las democracias no están exentas de reproches.
- En varias ocasiones, el gobierno de Trump también aparece implícitamente como destinatario de críticas veladas, pero evidentes.
León XIV hace suya la constatación de la crisis del multilateralismo y del cambio de los grandes equilibrios surgidos de la Guerra Fría hacia una era notablemente más agresiva de poder afirmado («un multipolarismo desordenado y conflictivo»), incluso entre los autoproclamados defensores del derecho; fiel a la tradición diplomática de la Santa Sede, no deja de abogar sin descanso por el multilateralismo de los organismos internacionales y el respeto de la Carta de las Naciones Unidas. Denuncia de manera singular la «guerra aumentada», puesta en práctica de forma inmediata por la IA, y la ilusión oxímorica de los «agentes morales artificiales» que eximirían a los responsables de la decisión de dar muerte, bajo el pretexto de ajustes técnicos.
- El realismo geopolítico es tachado de máscara del cinismo y de profecía autocumplida de fatalidad, lo que sin duda le valdrá críticas de idealismo.
- Ante este mundo tecnificado y fragmentado, el papa propone medios para construir la «civilización del amor»: decir la verdad y buscarla; practicar discretamente el bien y la justicia; construir una paz duradera a través de la justicia; descentrar la mirada adoptando la perspectiva de los explotados y las víctimas; cultivar un «realismo sano» mediante el intercambio de opiniones. Al final del capítulo, donde León XIV cita más extensamente sus propios discursos, el tema de la paz aparece como predominante: no cabe duda de que será uno de los ejes principales de su pontificado.
Como curiosidad, según tenemos entendido, se trata del primer texto magisterial en el que se cita con autoridad a un personaje de la fantasía épica: el mago Gandalf el Blanco, uno de los protagonistas de El Señor de los Anillos de J. R. R. Tolkien, un escritor profundamente católico. El uso que León XIV hace de las palabras de Gandalf muestra que este último es, de hecho, un agustiniano sin saberlo: Gandalf no llama a erradicar el mal de una vez por todas, a riesgo de adoptar instrumentos de poder que nos hagan parecernos al adversario, sino a combatir durante esta vida el mal que está a la medida de nuestras fuerzas, para mantenerlo a raya. Quizás se trate también de arrancar la fantasía épica de su instrumentalización por parte de la Ilustración Oscura.
Como es habitual, la conclusión de la encíclica, de tono más espiritual, adopta la forma de una llamada a la oración y a invocar la protección de la Virgen María.
- Cabe recordar que el cristianismo es, en esencia, una religión de la Encarnación, lo que lo opone radicalmente a cualquier reduccionismo basado en los datos y a cualquier algoritmización del mundo, tras la cual se esconde la ilusión prometeica y gnóstica, que aquí adopta la forma de la IA al servicio del sueño posthumanista.
- Al citar al cardenal de Bérulle, «apóstol del Verbo encarnado», el papa muestra aquí la influencia de la Escuela francesa de espiritualidad.
- En términos muy agustinianos, León XIV afirma que los fundamentos reales de la unidad del género humano hay que buscarlos en la caridad, de la que la Iglesia es el signo visible.
- Por eso, el papa hace un llamado decidido a apartarse de Babel para seguir el camino de Nehemías, menos espectacular pero más paciente y estable, fundado sobre la roca, el único que, con vistas al fin de los tiempos, contribuye a la construcción del reino de Dios.
- La encíclica concluye con una invocación del Magnificat y del cambio radical que este implica: la gracia de Dios «derriba a los poderosos de sus tronos» y «exalta a los humildes», mientras que los ricos son «enviados con las manos vacías». El papa toma nota de la entrada del mundo en la era de la IA, al tiempo que afirma que es más necesario que nunca atenerse a las reglas del actuar moral, un ethos relacional que pasa por la cercanía y la atención a la fragilidad.
Aunque el texto parece muy estructurado y articulado, no por ello deja de tener un estilo algo heterogéneo, lo que sin duda delata la diversidad de sus redactores fantasma y de las fuentes de inspiración del papa; sin que ello afecte a la coherencia general, el texto parece oscilar entre dos líneas: una muy decididamente tecnocrítica, que recuerda en varias ocasiones que lo técnico «no es neutro» y que los problemas que plantea la IA son singularmente nuevos, y otra que tiende a suavizar las especificidades del objeto «IA» en un llamado más general y menos novedoso a la regulación de las herramientas digitales y al discernimiento. En definitiva, la encíclica tiene dos objetos inextricablemente entrelazados, entre los que se niega a tomar partido: la IA y el estado del mundo.
Es precisamente este carácter heterogéneo de las fuentes de inspiración y del estilo lo que lleva a concluir que es muy poco probable que esta encíclica se haya redactado con ayuda de la inteligencia artificial.
Algunas frases clave de Magnifica Humanitas
- § 1. Cada generación hereda la tarea de dar forma a su época: hacer madurar la historia como un espacio en el que se preserve la dignidad de toda persona, se promueva la justicia y se haga posible la fraternidad
- § 90. Estamos llamados a reflexionar sobre la gran obra de nuestra época: ¿qué estamos construyendo?
- § 98. Cualquier afirmación sobre la IA corre el riesgo de quedar rápidamente obsoleta, dada la impresionante velocidad a la que evolucionan estos sistemas. Todos nosotros, incluidos quienes los diseñan, sabemos muy poco sobre su funcionamiento real.
- § 99. No es posible dar una definición unívoca y completa de la IA. Lo que sí podemos afirmar es que hay que evitar el error de equiparar esta inteligencia con la inteligencia humana.
- § 102. El uso de la IA nunca es una cuestión puramente técnica: cuando interviene en procesos que afectan a la vida de las personas, incide en los derechos, las oportunidades, la reputación y la libertad.
- §104. No podemos considerar que la IA sea moralmente neutra.
- § 107. Una IA más moral no sirve de nada si esa moral la decide un puñado de personas.
- §110. Desarmar [a la IA] significa romper esa equivalencia entre el poder técnico y el derecho a gobernar.
- § 112. Cuando la eficacia se convierte en la medida del valor, el ser humano se ve tentado a considerarse a sí mismo como un proyecto que hay que optimizar, en lugar de como una criatura llamada a la relación y a la comunión.
- § 114. La calidad de una civilización no se mide por la potencia de sus medios, sino por la atención que es capaz de brindar, por su capacidad de reconocer al otro como un rostro y no como una función.
- § 123. La historia no se presenta solo como un catálogo de nuestras violencias, sino también como la prueba de que el ser humano es capaz de crear instituciones que protegen la vida en comunidad.
- § 129. En este sentido, la verdadera elección no se sitúa entre el entusiasmo y el miedo, sino entre dos formas de construir: un progreso al servicio de la persona y de los pueblos, o un progreso que los somete a lógicas de poder.
- § 130. Al igual que a lo largo de toda la historia de la humanidad, también hoy estos dos amores se disputan la supremacía en nuestro corazón. La era de la IA no escapa a esta regla: la construcción de Babel o la de Jerusalén comienza en cada uno de nosotros.
- § 190. Hoy, en cambio, asistimos a un auténtico cambio de paradigma en el discurso público y en las decisiones en materia de rearme, con una preocupante resurgimiento de la guerra como instrumento de política internacional, mientras que los mismos criterios éticos que habían limitado su uso se ven progresivamente erosionados.
- § 192. Hoy más que nunca, es importante reafirmar que hay que superar la teoría de la «guerra justa», a la que se recurre con demasiada frecuencia para justificar cualquier guerra, salvo en el caso del derecho a la legítima defensa en su sentido más estricto.
