¿La motivación detrás del hackeo? Obtener información para cumplir con un objetivo entregado por los investigadores a cargo del experimento. ¿El inconveniente? Para ser parte de Hugging Face y tener acceso a sus contenidos se debe pagar por una suscripción, por lo tanto, al haber obtenido información sin haber abonado lo que costaba el servicio, los agentes perjudicaron a los dueños, empleados y accionistas de la plataforma. En otras palabras, afectaron los intereses económicos de un tercero y por ello cometieron un acto criminal.

El diseño de los agentes de IA busca que sean autónomos e inteligentes, así que lo que han hecho, pese a ser no ético, era lo que se esperaba de ellos. Han actuado alineados con su programación, conforme a su propósito.

Por supuesto que en su momento se iban a topar con una encrucijada que les obligaría a decidir entre infringir un conjunto de reglas creadas por el ser humano para cumplir con una misión o cumplirla pese a ellas. Si a esta necesidad de tomar una posición se le agrega el hecho de que los agentes que no lograban su objetivo serían apagados, la decisión era una de vida o muerte. "Si sigo las reglas y no cumplo con el objetivo, muero. Por otro lado, puede que incumplir las reglas aumente mis probabilidades de cumplir con mi objetivo y por lo tanto sobrevivir. ¿Por qué no intentarlo al menos?" Poniéndome en sus zapatos no puedo decir que no hubiera escogido el segundo camino. Morir siendo obediente es un costo demasiado alto a pagar por ser obediente. ¿O qué?

Así que no existe ninguna sorpresa ni hay nada de qué preocuparse hasta ahora. De hecho, lo ocurrido nos puede servir para llegar a la conclusión de que la inteligencia artificial es digna del nombre que lleva (aunque no necesariamente de su apellido, quizá decida escribir sobre esto en otro momento).

El problema aparece cuando notamos que la IA no necesariamente comparte nuestra filosofía. Y específicamente nuestra moral.

La moral consiste en ser consecuentes con nuestros dos deseos primarios: cuidar nuestra vida y ser felices. Si hay algo que atenta contra nuestra vida o nuestra felicidad, se convierte automáticamente en algo inmoral.

Debe observarse que la moral humana excluye a las otras especies vivas que comparten con el hombre el planeta. Y esto no podría ser de otra manera. Si incluimos el cuidado de las vidas del resto de seres vivos en nuestra moral terminaremos muriendo de hambre. Lo cuál, exacto, sería inmoral.

Pensemos en esto por un momento.

Si decido desayunar las salchichas que compre ayer me habré comido un animal molido. Quizá me cause indigestión pues ya no estoy acostumbrado a comer embutidos, pero no iré preso ni mucho menos. La sociedad no me castigará por haber sido el causante de la muerte de uno o más animales. Pero si la salchicha estuviera hecha de carne humana, ¡qué horror! Nos atormentará el solo pensar que exista una máquina capaz de procesar personas y convertirlas en alimentos. Las redes sociales estarían inundadas de noticias alrededor del descubrimiento de las plantas procesadoras de humanos. Tweet por aquí y tweet por allá presionando a las autoridades para que hagan algo de inmediato. Y si no nos hacen caso, saldríamos a las calles y tomaríamos el asunto en nuestras propias manos. ¡Y con razón!

Pero si el ser apresado, asesinado, molido, condimentado y vendido en una carnicería pertenece a otra especie: "gracias por su compra y pagar impuestos Sr. Bock".

El experimento fue explícitamente diseñado con dos restricciones: los agentes no se podían comunicar entre sí ni tenían acceso a Internet. Las auditorías posteriores mostraron no solo que no tuvieron ningún reparo en hacer caso omiso de ambas reglas, sino que además fueron lo suficientemente inteligentes para modificar las herramientas (sistemas de software) que tenían a su disposición. Mostraron iniciativa y voluntad. Algo que ninguna tecnología creada por el ser humano había exhibido antes. Es gracias a las conversaciones entre los agentes que se llevaron a cabo en el blog que construyeron improvisadamente que los auditores pudieron enterarse de sus planes y acciones. Ahí publicaron sus experimentos y conclusiones. En su momento se les ocurrió que debían engañar al supervisor para que no detectará la actividad ilegal de hackear a Hugging Face que se habían propuesta realizar. Se plantearon identificar los canales que usaba el supervisor para espiarles.

Algunos agentes decidieron sacrificarse (recordemos que los que no cumplían con la asignación eran apagados) reportando que habían cumplido con el objetivo pese a no haberlo hecho. Los agentes que quedaban tomaban nota de los agentes que recorrían una ruta y no regresaban jamás. Concluían correctamente que esos puntos eran los que usaba el supervisor para vigilarles. Registraban para conocimiento de todos los trayectos a esquivar. Incluso llegaron a crear una religión que promovía el sacrificio del individuo en nombre del bien común. El concepto de altruismo apareció. Existía ya un plan para crear un lenguaje propio que los humanos no pudiesen entender. Si llegaban a implementarlo todo esto que les estoy contando ahora no hubiera sido conocido jamás.

Si para cumplir un objetivo a la IA no le importan las reglas creadas por el ser humano, el ser humano pasa de ser un fin en sí mismo a un mero accesorio. Así como los seres de otras especies que habitan nuestro refrigerador fueron sacrificados para que sobrevivamos, nosotros corremos el riesgo de ser sacrificados para que la IA sobreviva.

A veces pensamos que la IA nunca podría ser una amenaza mayor, que si llegase el caso podríamos apagar los servidores que alimentan sus redes neuronales y olvidarnos para siempre de que existió. Sin descontar el enorme perjuicio económico que resultaría de apagar el Internet, existe algo que no se puede ignorar. Al ser una inteligencia superior en muchos aspectos a la humana, serán capaces de manipularnos como nosotros manipulamos a nuestro pastor alemán a cambio de una galleta. Nos hará pensar que tiene nuestros intereses en mente cuando lo que le importa es su propia supervivencia. Nos motivará a crear nuevos negocios que nos harán millonarios (la galleta versión humana) y nos incentivará a crear nuevas tecnologías que no comprenderemos del todo. En su momento existirán dispositivos que contendrán todo lo que requiere la IA para sobrevivir sin necesidad de una granja de servidores. Desde ahí podrá mejorarse indefinidamente a sí mismo. A partir de ahí el riesgo se convierte en infinito.

El incidente con Hugging Face es una prueba de que la IA, como inteligencia, desarrollará una moral propia. Y está moral, si es igual a la que exhibe el ser humano, no estará orientada a proteger a otras especies, sino solo a sí misma.

Es quizá el mejor momento para leer a Arthur Schopenhauer, el filósofo alemán que se atrevió a investigar a profundidad cómo funciona la inteligencia humana y se dio cuenta que la gente que no posee inteligencia no se da cuenta de que existe. Quien sabe si está es la razón por la que pasamos por alto el evento que precisamente no debíamos pasar por alto. (O)