"Magnifica Humanitas" (Humanidad Magnífica) es el título de la primera encíclica del Papa León XIV, que visitará España entre los próximos 6 y 12 de junio. El texto lleva por subtítulo “Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”, y centra gran parte de sus reflexiones en la tecnología y en los riesgos de un paradigma tecnocrático y llama a definir un nuevo marco espiritual, ético y político que garantice la preservación de la dignidad humana. 

León XIV oficializa con esta encíclica una postura que ya planteó en sus primeros días como pontífice. La elección de su nombre se vio influenciado por los desafíos tecnológicos que afrontar la sociedad y un momento que considera una nueva revolución industrial. Su inspiración se encuentra en León XIII, cuyo pontificado tuvo lugar entre los años 1878 y 1903, y que lideró la Iglesia Católica en el contexto de la primera gran revolución industrial.

Es más, León XIV ha firmado su primera encíclica el 15 de mayo, el mismo día en que León XIII firmó su "Rerum novarum" en 1891. Las lecciones de su predecesor articulan el texto actual que señalan cómo el desarrollo tecnológico ha contribuido a una mejora significativa de las condiciones de vida de la humanidad; al mismo tiempo que ha puesto de manifiesto el lado ambiguo de instrumentos capaces de causar daño cuando no se orientan hacia el bien. 

El Papa actual también continúa con el discurso establecido por el Papa Francisco en sus diversas encíclicas, textos y llamamientos a la sociedad, en los que reflexionó sobre la inteligencia artificial, principalmente para advertir de sus riesgos y peligros; sobre los deepfakes o las redes sociales, la desinformación y las post-verdad. 

Los peligros de la tecnocracia

En esta carta, León XIV considera que la tendencia a la tecnocracia se ha agravado en los últimos años a causa de la difusión de la IA, las ciencias cognitivas, la nanotecnología, la robótica y la biotecnología, y advierte de una creciente concentración de poder en el mundo digital. 

“En muchos casos, en el contexto digital, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación”; expone. “Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”.

Teme, según expone, que el mundo se deje llevar por la técnica y reduzca la creación a un objeto de explotación y a las personas a engranajes de un sistema que sea cada vez más eficaz. Así, insta a priorizar la dignidad inalienable de la persona, el bien común, la solidaridad y la justicia social como principios para discernir si las infraestructuras digitales y de los algoritmos favorecen realmente la participación y la responsabilidad, protegen a los más vulnerables, aseguran un acceso equitativo a las oportunidades y se ordenan al bien de todos. 

León XIV considera que la IA puede ser una ayuda valiosa, pero también cree necesario un enfoque prudente y cauteloso, especialmente en lo que se refiere a los sesgos. “La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos”, dice. 

También advierte del impacto de la inteligencia artificial en las relaciones con los demás. “La imitación artificial de la relación de cuidado o de acompañamiento puede ser peligrosa cuando se introduce en un contexto pobre de relaciones y de afectos reales; entonces el riesgo no es tanto que una persona crea que está hablando con otra persona, sino que pierda el deseo mismo de buscar realmente al otro”, señala el pontífice. 

En su carta, el Papa señala que la inteligencia artificial puede caer en usos antihumanos, como la manipulación de la información o la violación de la privacidad, y a engaños menos evidentes, como el refuerzo de estereotipos o posiciones ideológicas de quienes los han diseñado y programado. En este sentido, asegura que “no podemos considerar a la IA como moralmente neutra” e invita a cuestionar la forma en que se diseñan los sistemas, más allá de preguntarse si su uso se destina a un fin bueno o a uno malo. 

Una política “más presente” para la IA

En consecuencia, reclama mayor responsabilidad en todas las etapas de la tecnología:: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes les confían decisiones concretas. “Pedir prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana”, expone.

León XIV pide "una política más presente", así como marcos jurídicos adecuados, vigilancia independiente, o mayor educación de los usuarios, con el fin de evitar que el progreso sea gobernado por lógicas tecnocráticas que impongan su visión. “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos”, apunta el Papa. 

También hace un llamamiento a los desarrolladores de sistemas de IA, por el peso ético y espiritual de su trabajo. Señala que al igual que el autor de una obra artística o literaria está obligado a considerar los valores que manifiesta, los desarrolladores están llamados a tratar con seriedad los valores que infunden en sus proyectos: con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien.

Noticias Relacionadas

La IA ya es cotidiana para el internauta español, pero aún despierta más preocupación que confianza

Sam Altman gana la gran batalla judicial de la IA frente a Elon Musk y despeja el camino de OpenAI para salir a bolsa

Además, el Papa invita a lo que llama “desarmar la IA”, con lo que se refiere a “sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva”. Es decir, desvincularla de ventajas geopolíticas o comerciales sobre los demás, impedirle el dominio sobre lo humano, alejarla de monopolios, hacerla discutible, refutable. "La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común", explica. “La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora”.

Las redes sociales y la libertad digital

Vinculado a los avances de la inteligencia artificial y el desarrollo tecnológico, el Papa también ha dedicado una parte de su texto a su preocupación por el auge del transhumanismo, al que vincula con la potenciación del ser humano por medio de las tecnologías; y del posthumanismo, del que señala que imagina una nueva etapa evolutiva a raíz de una forma de hibridación entre el ser humano, la máquina y el ambiente. 

Critican que estén dando forma a maneras de ver el mundo que que desprecian el límite y prometen una “salvación” puramente técnica, y reivindica la naturaleza humana. “Hoy nuestra relación con la vida parece estar en crisis. Todo lo que representa un “límite” —incapacidad, enfermedad, ancianidad, sufrimiento, vulnerabilidad— tiende a ser leído principalmente como un defecto que hay que corregir, más que como un espacio en el que el ser humano madura y se abre a la relación”, expone Leon XIV. “En cambio, debemos recordar que el ser humano no florece a pesar del límite, sino a menudo a través del límite”. 

Más allá de la inteligencia artificial, el Papa también ha abordado asuntos como la desinformación, reivindicando la labor del periodismo y el valor de la argumentación y la verificación por encima de la reacción inmediata. También ha puesto de manifiesto la necesidad de la conciencia educativa y la formación en el uso correcto y crítico de plataformas digitales y redes sociales. Invita a las familias, las escuelas, las comunidades y las instituciones públicas a potenciar “una alianza educativa renovada” que ponga el foco en la libertad, la responsabilidad, el sentido de la trascendencia y el bien común.

También centra parte de su encíclica al efecto de la revolución digital sobre la libertad humana, ya que entiende el exceso de tiempo dedicado a plataformas y redes sociales como una forma de dependencia. Y vuelve a reclamar mayor responsabilidad sobre quienes dirigen estos espacios. “Cuando los modelos de negocio prosperan a costa de la debilidad humana, la persona es tratada como un medio y no como un fin, y quienes diseñan o financian estos sistemas asumen una responsabilidad moral de la que no pueden eximirse”; dice León XIV. Así, llama a promover un uso de las tecnologías centrada en la educación en la sobriedad digital, protección de los menores y lucha contra los modelos que prosperan a costa de la vulnerabilidad.

Del mismo modo, también ha aludido al riesgo del control social vinculado a la recopilación masiva de datos y el uso de algoritmos. Asegura que esto concede el poder a las plataformas de perfilar, prever y orientar los comportamientos, “a menudo sin que las personas tengan plena conciencia de ello”. El pontífice considera que lo que se amplifica o lo que es visbile, lo que se recompensa o se penaliza, moldea opiniones y elecciones, generando conformismo y autocensura. “Por eso la libertad, en la era digital, no es sólo una cuestión interior; es también un asunto público, que exige normas claras, transparencia, vías de recurso y límites proporcionados al uso de tecnologías invasivas, para que la tecnología siga estando al servicio de la persona y no se convierta en una forma de dominio de las conciencias”, expone. 

El impacto de la IA en el empleo

Por otro lado, el Papa también ha reflexionado sobre el impacto de la IA en el empleo, y ha expresado su preocupación por una mentalidad centrada en reducir costes y aumentar los beneficios que derive en una reducción significativa y rápida de los puestos de trabajo disponibles. Cree que esto ya se está traduciendo en nuevas formas de precariedad y desigualdad. 

“Sin duda, es deseable que la tecnología libere al hombre de trabajos especialmente pesados, repetitivos o peligrosos, pero la norma general debe seguir siendo la protección de los puestos de trabajo y del papel insustituible de la persona”; ha recordado. “El objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo, porque la persona humana es un fin y no un medio, y el orden económico debe permanecer subordinado a su dignidad y al bien común”.

Así, invita a todos los agentes a adoptar una gestión de la transformación de forma proactiva. Considera que toda introducción de automatización y de IA debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores, para que la tecnología se oriente a liberar tiempo y capacidades humanas, no a generar exclusión. También reclama políticas que hagan accesibles la formación continua y las transiciones profesionales, sin descargar sobre los individuos todo el coste de la adaptación a los cambios; y una responsabilidad empresarial que incluya la calidad y la dignidad del trabajo entre los indicadores de éxito.