Afirmábamos en nuestro ensayo anterior que, tan pronto el Vaticano hizo pública la encíclica Magnifica Humanitas – sobre la custodia de la persona humana en el tiempo de la inteligencia artificial de León XIV (Robert F. Prevost, 1955), analistas solventes y “cronistas” advenedizos comenzaron a emitir criterios en torno a ella. Aquellos de los primeros, respetables en toda extensión, ofrecen nociones válidas para comprender el alcance de lo expuesto por el pontífice. Respecto de los segundos, lo procedente es rechazarlos… evidentemente, contienen opiniones desplegadas sin siquiera haber leído la carta. Por ende, fruncen el real significado de la inteligencia artificial (IA), producto de visiones simplificadas y simplistas orientadas a defender posiciones ideológicas, pero también teológicas parcializadas. Hemos optado por el enfoque objetivo; o sea, por ofrecer un resumen fiel del texto pontificio que permita a nuestro lector, en la medida demandada por la honestidad, formarse su propio criterio alejado del deshonroso rumor comunicacional.
Magnifica Humanitas: confiar a un algoritmo el poder de seleccionar quién es digno y quién no, sin que nadie asuma el peso de la decisión, implica encomendarle la tarea de redefinir los límites de las posibilidades humanas. En tal sentido, asevera, el proceso disminuye la empatía hacia el excluido, y la responsabilidad política, porque el descarte de los débiles queda revestido de neutralidad y objetividad ante las cuales es imposible protestar. De ese modo, la injusticia se realiza de manera silenciosa –quedan aislados la compasión, la misericordia y el perdón– pues los gestos políticos desaparecen del horizonte. Refiere a los sumarios de ponderación de la persona humana ejecutados “mecánicamente” por la IA.
En consecuencia, no cabe considerar moralmente neutra a la IA. Cuando concebimos un sistema o lo empleamos tratando algunas vidas como menos dignas, sin posibilidad de apelación, contradecimos la dignidad inalienable del hombre. En discernimiento ético, según la carta, no podemos limitarnos a preguntar si usamos un determinado sistema para fines buenos o malos, sino interrogar también sobre el modo en que está diseñado y qué idea de persona y de sociedad queda inscrita en los modelos que lo guían.
Particular relevancia asigna la encíclica a la “responsabilidad”. Para que la IA respete la dignidad humana y sirva al bien común, es esencial que los compromisos estén claros en todas las etapas; es decir, desde quienes diseñan y programan los sistemas hasta quienes los utilizan y resuelven confiarles las decisiones concretas. Utiliza el término inglés accountability para significar la posibilidad de identificar quién debe “rendir cuentas” de los dictámenes, motivarlos, controlarlos, cuestionarlos… y remediar los daños que derivan de ellos.
Prevost es enfático en no ser contrario a la IA. Sin embargo, demanda prudencia y controles en su adopción a efectos de ejercitar un cuidado consciente hacia la “familia humana”. No basta, afirma, invocar genéricamente la ética, pero definir marcos jurídicos adecuados, vigilancia, educación de los usuarios y una política no renunciante a su tarea. Lo anterior, so pena de pasar a ser gobernados por quienes poseen datos, infraestructuras y capacidad de cálculo.
Circunscribirnos a exhortar la moralización de la máquina –“alineación” de la IA con los valores humanos– es insuficiente. Debemos discutir el código ético a usar, sometiéndolo a criterios de justicia social compartida, sostiene la misiva pontificia. El riesgo de lo contrario radica en que quien controla la IA imponga su propia visión moral… de nada sirve una IA más moral, si es decidida por pocos. Este imperativo es irrenunciable tratándose del uso de IA donde la vida del hombre entra en peligro, en la guerra. ¡Circulan en redes sociales argumentos gestados en IA con base en algoritmos a favor de conflictos bélicos!
La encíclica transmite el recado de que la IA tiende a aumentar el poder de quien dispone de recursos económicos, competencias y acceso a datos. A la luz “del bien común y del destino universal de los bienes”, este fenómeno suscita seria preocupación, siendo que pequeños grupos influyentes pueden orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas en beneficio propio, contradiciendo la justicia social y la solidaridad entre los pueblos.
Convoca a que el uso de la IA esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad… las comunidades y los cuerpos intermedios no pueden reducirse a ser solo destinatarios de decisiones. Respecto de la propiedad de los datos, exige ser reglamentada. Ello, en tanto que frutos del aporte de muchos, no debiendo ser vendidos o confiados a pocos. Hace falta creatividad capaz de gestionarlos a título de bienes comunes, en la lógica del compartir al igual que todo activo colectivo. (O)