Datos clave
El lunes, el Papa publicó una carta abierta de 83 páginas titulada “Magnifica Humanitas” (Magnífica Humanidad), en la que reflexiona sobre el capitalismo, la inmigración y la ambición tecnológica, en una declaración que ya se describe como una de las encíclicas más audaces de las últimas décadas.
El líder católico centró gran parte de su discurso en el rápido avance e implementación de la inteligencia artificial, teorizando que las empresas tecnológicas se están volviendo más poderosas que los gobiernos y advirtiendo que la economía de la IA es similar a la esclavitud y creará "seres humanos de segunda clase".
El Papa León XIII lanzó su advertencia más grave al sugerir que la humanidad corre el riesgo de construir una nueva "Torre de Babel", una historia bíblica en la que Dios intervino para detener la arrogancia y los excesos humanos confundiendo el lenguaje y fracturando la unidad.
Como lo describe el Papa, la humanidad está construyendo sistemas tecnológicos que no podrá controlar por mucho tiempo y que, en última instancia, ampliarán la brecha entre los pobres y la élite, erosionarán la empatía y crearán diferentes clases de valía humana.
El Papa también aprovechó su carta para emitir la condena papal más enérgica de las políticas antimigrantes en años, criticar duramente el capitalismo moderno y sugerir que la destrucción del clima es un crimen moral contra los pobres.
Lo que dice el Papa León sobre cómo la IA puede crear una "torre de Babel" moderna.
A medida que la tecnología continúa desarrollándose, el Papa afirmó que la humanidad se enfrenta a la disyuntiva de «construir una nueva Torre de Babel o edificar la ciudad donde Dios y la humanidad convivan». El relato bíblico narra el esfuerzo humano por construir una ciudad que equiparara a la humanidad con lo divino. «Cuando una ciudad se construye sobre el orgullo y la pretensión de autosuficiencia, la comunicación se interrumpe, las lenguas se confunden y las personas dejan de entenderse. El resultado no es la unidad, sino la dispersión. Babel revela así los límites de cualquier esfuerzo que, por grandioso que sea, surja de la autoafirmación, sacrifique la dignidad humana por la eficiencia y aspire a alcanzar el cielo sin la bendición de Dios», declaró el Papa León XIII. Debemos, pues, evitar el «síndrome de Babel», es decir, la idolatría del lucro que sacrifica a los débiles, una uniformidad que neutraliza las diferencias y la pretensión de que un solo lenguaje —incluso uno digital— pueda traducirlo todo, incluido el misterio de la persona, en datos y rendimiento. El riesgo de la deshumanización —de construir un futuro que excluya a Dios y reduzca al otro a un mero medio— es una tentación antigua y siempre vigente que hoy adopta una apariencia tecnológica.
El Papa advierte que el mundo de la IA creará una vigilancia extrema y "humanos de segunda clase".
La carta advierte que el avance tecnológico pronto podría erosionar la libertad humana. «Otro riesgo, menos visible pero no por ello menos grave, es el del control social posibilitado por la recopilación masiva de datos y el uso de sistemas algorítmicos. Cuando cada acción —movimientos, compras, relaciones y preferencias— deja huella, surge una nueva forma de poder: el poder de perfilar, predecir e influir en el comportamiento, a menudo sin que las personas sean plenamente conscientes de ello», escribió. «La libertad en la era digital no es solo una cuestión de interioridad, sino también una preocupación pública... En la raíz de estos problemas reside una mentalidad tecnocrática y poshumanista que tiende a considerar a la persona humana como un objeto a manipular o un recurso a optimizar, eliminando toda salvaguarda contra la búsqueda desenfrenada de beneficios. Lo que prevalece es la eficiencia, en lugar del respeto por la libertad y la dignidad humana. Algunas corrientes poshumanistas incluso llegan a concebir seres humanos de “segunda clase”, subordinados a los intereses de élites que se consideran superiores».
La inteligencia artificial nunca tendrá moralidad, advierte el Papa.
El papa León XIII advirtió sobre el uso de sistemas de armas con inteligencia artificial en la guerra, postulando que esta tecnología hará que los resultados de los conflictos estén menos sujetos al control humano. «Esto viola el principio de que la fuerza armada solo debe usarse como último recurso en casos de legítima defensa. Por esta razón, el desarrollo y uso de la IA en la guerra debe estar sujeto a las más rigurosas restricciones éticas, para garantizar el respeto a la dignidad humana y la santidad de la vida, y para evitar una carrera armamentística», afirmó. «A veces se habla de "agentes morales artificiales", como si las máquinas pudieran distinguir entre el bien y el mal con mayor coherencia que un ser humano. Sin embargo, el juicio moral no puede reducirse a un cálculo, ya que implica conciencia, responsabilidad personal y el reconocimiento del otro como persona. Por lo tanto, no es admisible confiar decisiones letales o irreversibles a sistemas artificiales. Ningún algoritmo puede hacer que la guerra sea moralmente aceptable».
Citas de Pope de "El Señor de los Anillos" de Tolkien
La carta citaba al personaje Gandalf de la obra de J.R.R. Tolkien, autor de «El Señor de los Anillos»: «No nos corresponde dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos para el bienestar de los años en que nos encontramos, erradicando el mal de los campos que conocemos, para que quienes vivan después tengan tierra limpia que cultivar». La civilización del amor no surgirá de un gesto único o espectacular, sino de la suma total de pequeños y constantes actos de fidelidad que sirvan de baluarte contra la deshumanización. Por ello, vale la pena detenerse a reflexionar sobre cómo cada uno, a su manera, puede cooperar en la construcción de la civilización del amor. (I)
