El Papa León XIV alertó de que la inteligencia artificial, la automatización masiva y el avance tecnológico sin control pueden convertir a la humanidad en una nueva “Torre de Babel”. Para el Pontífice, la tecnología puede quedar al servicio de la codicia, ampliar la desigualdad y degradar el valor de la vida humana.

La carta abierta, de 83 páginas, se titula “Magnifica Humanitas” y apunta contra tres frentes concretos. El poder de las empresas tecnológicas, el capitalismo moderno y las políticas antimigrantes. El Papa sostuvo que las compañías de tecnología ganaron una influencia capaz de rivalizar con la de los gobiernos.

El tramo más duro estuvo dedicado a la IA. León XIV advirtió que la economía basada en estos sistemas puede crear “seres humanos de segunda clase”. Los beneficios de la innovación pueden concentrarse en una élite, mientras que los sectores más pobres pierden oportunidades, derechos y reconocimiento social.

La comparación con la “Torre de Babel” refuerza esa idea. El Papa usó la imagen bíblica para señalar una ambición humana que avanza más rápido que la capacidad de controlarla. En su visión, la tecnología sin límites puede erosionar la empatía social y profundizar la brecha entre quienes mandan y quienes quedan afuera.

La encíclica también cuestionó las políticas contra los migrantes y calificó la destrucción del clima como una falta moral contra los pobres. 

Lo que dice el Papa León sobre cómo la IA puede crear una "Torre de Babel" moderna

A medida que la tecnología continúa desarrollándose, el Papa afirmó que la humanidad enfrenta la disyuntiva de "construir una nueva Torre de Babel o edificar la ciudad donde Dios y la humanidad convivan". El relato bíblico narra el esfuerzo humano por construir una ciudad que equiparara a la humanidad con lo divino.

"Cuando una ciudad se construye sobre el orgullo y la pretensión de autosuficiencia, la comunicación se interrumpe, las lenguas se confunden y las personas dejan de entenderse. El resultado no es la unidad, sino la dispersión. Babel revela así los límites de cualquier esfuerzo que, por grandioso que sea, surja de la autoafirmación, sacrifique la dignidad humana por la eficiencia y aspire a alcanzar el cielo sin la bendición de Dios", declaró el Papa León XIII.

Por eso, debemos evitar el "síndrome de Babel": la idolatría del lucro que sacrifica a los débiles, una uniformidad que neutraliza las diferencias y la pretensión de que un solo lenguaje, incluso uno digital, pueda traducir todo, incluido el misterio de la persona, en datos y en rendimiento.

El riesgo de la deshumanización, de construir un futuro que excluya a Dios y reduzca al otro a un mero medio, representa una tentación antigua y siempre vigente que hoy adopta una apariencia tecnológica.

El Papa advierte que el mundo de la IA creará una vigilancia extrema y "humanos de segunda clase"

La carta advierte que el avance tecnológico podría erosionar pronto la libertad humana.

"Otro riesgo, menos visible pero no por ello menos grave, es el del control social que habilitan la recopilación masiva de datos y el uso de sistemas algorítmicos. Cuando cada acción, movimientos, compras, relaciones y preferencias, deja una huella, surge una nueva forma de poder: el poder de perfilar, predecir e influir en el comportamiento, muchas veces sin que las personas sean plenamente conscientes de ello", escribió.

"La libertad en la era digital no es solo una cuestión de interioridad, sino también una preocupación pública. En la raíz de estos problemas reside una mentalidad tecnocrática y poshumanista que tiende a considerar a la persona humana como un objeto a manipular o un recurso a optimizar, y elimina toda salvaguarda frente a la búsqueda desenfrenada de ganancias. Prevalece la eficiencia por encima del respeto a la libertad y la dignidad humanas. Algunas corrientes poshumanistas incluso llegan a concebir seres humanos de 'segunda clase', subordinados a los intereses de élites que se consideran superiores", advirtió.

La inteligencia artificial nunca tendrá moral, advierte el Papa

El papa León XIII advirtió sobre el uso de sistemas de armas con inteligencia artificial en la guerra y planteó que esta tecnología hará que los resultados de los conflictos queden menos bajo control humano.

"Esto viola el principio de que solo corresponde recurrir a la fuerza armada como último recurso en casos de legítima defensa. Por esta razón, el desarrollo y el uso de la IA en la guerra deben someterse a las restricciones éticas más rigurosas para garantizar el respeto a la dignidad humana y a la santidad de la vida, y evitar una carrera armamentista", afirmó.

"A veces se habla de 'agentes morales artificiales', como si las máquinas pudieran distinguir entre el bien y el mal con mayor coherencia que un ser humano. Sin embargo, el juicio moral no puede reducirse a un cálculo, ya que implica conciencia, responsabilidad personal y el reconocimiento del otro como persona. Por lo tanto, no resulta admisible confiar decisiones letales o irreversibles a sistemas artificiales. Ningún algoritmo puede hacer que la guerra sea moralmente aceptable", advirtió.

El Papa cita a Gandalf, de "El Señor de los Anillos", de Tolkien

La carta citaba al personaje Gandalf, de la obra de J.R.R. Tolkien, autor de "El Señor de los Anillos": "No nos corresponde dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos para el bienestar de los años en que nos encontramos, erradicando el mal de los campos que conocemos, para que quienes vivan después tengan tierra limpia que cultivar".

La civilización del amor no surgirá de un gesto único o espectacular, sino de la suma de pequeños y constantes actos de fidelidad que sirvan de baluarte contra la deshumanización. Por eso, vale la pena detenerse a reflexionar sobre cómo cada persona, a su manera, puede contribuir a la construcción de la civilización del amor.

*Esta nota fue publicada originalmente en Forbes.com.