Este ensayo cierra la serie desarrollada alrededor de la encíclica Magnifica Humanitas – sobre la custodia de la persona humana en el tiempo de la inteligencia artificial de León XIV (Robert F. Prevost, 1955). Desde la primera entrega, insistimos en su importancia por provenir de un hombre de gran formación académica, al margen de su condición de cabeza de la Iglesia católica. Resaltamos también en que –a efectos transmitir el mensaje papal tal cual fue concebido por el autor– decidimos resumir en la columna el contenido de la misiva, en lo posible sin interpretarla salvo en tramas puntuales.
Prevost realiza un encomiable esfuerzo por enmarcar sus nociones sobre la inteligencia artificial (IA) en una novel proyección complementaria de la doctrina social de la iglesia. Afirma que en un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común es desenmascarar una nueva asimetría epistémica, económica y política, nombrando los recientes monopolios de la IA. Es imprescindible, entonces, encontrar modos de asegurar el acceso universal a las tecnologías. Por su lado, la subsidiariedad exige proteger la capacidad comunitaria de decidir y corregir, sin relegar su intervención a vigilancia posterior.
La solidaridad obliga a reconocer el trabajo invisible –a menudo explotado, dice– alimentador de los modelos algorítmicos. La justicia, por último, llama a cuestionar las geografías del poder, definitorias de quién puede programar los modelos y quién es solo objeto de ello. Algunos apartados nos remiten a la “justicia social” no a título de mero objetivo a tutelar después de la adopción de las tecnologías, sino como condición a estar presente desde su diseño.
Particular importancia asigna a su propuesta de “desarmar” la IA. La carta la conceptúa como “sustraerla de la lógica de la competencia armamentística, que hoy ya no es solo militar sino económica y cognitiva”. Es la carrera, sostiene, por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. En torno al tema hay dos mensajes dignos de ser sometidos a juicios en razonabilidad. Primero, romper la equivalencia entre poder tecnológico y derecho a gobernar. Segundo, impedir a la tecnología su dominio sobre lo humano… hacerla discutible, refutable –y por tanto habitable– “restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida”. La tarea ya no es en exclusiva ética o técnica, pero ecológica radical, siendo un ambiente en que estamos inmersos y un poder a afrontar. No basta regularla; es necesario desarmarla y hacerla acogedora.
Magnifica Humanitas impone a los desarrolladores de la IA la obligación de imprimir en la innovación tecnológica facetas humanitarias con suficiente gravamen ético. Ello, en tanto que en la elección de todo proyecto el hombre debe ser ponderado como razón de ser del hombre. Paréntesis. Dada su condición sacerdotal, el papa hace el llamamiento asignando a la innovación tecnológica el potencial de ser “una forma humana de participación en el acto divino de la creación”. Sin perjuicio de nuestra fe en “un” Dios, el imperativo no es de carácter extático, pero de atención a la naturaleza de la persona en términos spinozianos… sustancia inmanente: Dios y la naturaleza son una misma cosa. Cierra el razonamiento llamando a los tecnócratas a tratar con debida seriedad los valores que infunden en sus proyectos. Esto es, con transparencia, responsabilidad hacia las comunidades involucradas y verificando que lo cultivado sea en verdad un bien.
Con evidente eticidad, propia de la valía de sujetos como Robert F. Prevost, sostiene que “no podemos perder” el deber de “custodiar lo humano”. Al respecto, avizora el riesgo tanto de que algunas tecnologías se usen mal, cuanto de que el paradigma tecnocrático –potenciado por la revolución digital y la IA– hagan parecer justa y normal “una visión antihumana, según la cual la plenitud de la vida consistiría en tener más, reducir la fragilidad, eliminar lo imprevisto y controlarlo todo”. Tornar a la eficiencia en medida de valor conlleva la contingencia en el hombre de pasar a ser considerado un simple proyecto a optimizar.
El tratamiento del asunto lo cierra atestiguando que no es solo la carencia la generadora de desorden… el crecimiento desmedido puede convertirse en una forma de pobreza. La inteligencia, asevera, si es absolutizada termina por velar otras dimensiones esenciales de la vida, tales como el afecto, la voluntad, la entrega y la relación. Cuán ciertas son sus palabras en el sentido de que el poder técnico –cuando deja de ser equilibrado, lejos de hacernos más capaces–aísla, y expone a lógicas de dominio y de exclusión. No se trata, dice, de oponerse a la inteligencia, sino de recordar que, cuando se repliega en sí misma, olvida que ha sido hecha para servir a la vida y a la persona humana. (O)