Al igual que la crisis climática, la aplicación de la inteligencia artificial (IA) en diferentes ámbitos puede generar efectos globales. Las amenazas que ésta plantea se pueden mitigar si los líderes de los países en los que la IA está desarrollándose con mayor velocidad, trabajan de forma conjunta en legislaciones que pongan límites a su desarrollo y uso.

En la Cumbre de seguridad de la IA, llevada a cabo el 1 y 2 de noviembre de este año, veinte y ocho gobiernos firmaron la llamada declaración de Blechey. En este acuerdo los países acordaron trabajar juntos en la investigación sobre seguridad de la IA. 

Tan sólo cinco semanas después de la firma de esa declaración, los estados y el parlamento Europeo aprobaron la primera Ley de Inteligencia Artificial de la UE. después de un largo debate que duró alrededor de 40 horas. Expertos, como David Evan Harris, señalan que esta ley está en camino de eclipsar todas las leyes y declaraciones de IA anteriores, incluida la orden ejecutiva The White House, la Declaración de Bletchley Park y los esfuerzos de la #UN, #G7, #G20 y OECD – OCDE. 

Aunque el acuerdo final de la Ley aún debe ser ratificado por los estados involucrados antes de entrar en vigor a finales del 2026, se anticipa que algunas secciones puedan activarse antes. Su pronta llegada marca un cambio significativo en la forma en que la democracia puede orientar el desarrollo de la IA en beneficio del interés público.

Esta normativa establece obligaciones, regulaciones y prohibiciones por las que deberá regirse una tecnología que está aquí para quedarse y que está transformando completamente la vida diaria, pero que conlleva tantas posibilidades como riesgos, muchos de ellos ni siquiera aún imaginables

Un tema muy controversial, y que se tornó en el obstáculo más duro que los negociadores superaron al final de la jornada fue sobre la definición de qué usos de la inteligencia artificial serían prohibidos de manera absoluta.

A continuación, los 7 puntos clave en los que se enfoca la ley: 

• Prohibición de sistemas de categorización biométrica, una práctica donde características como el tono de piel o la estructura facial se utilizan para hacer inferencias sobre el género, raza, la orientación sexual o creencias políticas, religiosas, y filosóficas.
• Prohibición de sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a través de internet o de grabaciones audiovisuales y televisión. Una práctica que ya realizan algunas empresas que venden bases de datos utilizadas para la vigilancia.
• Prohibido el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, que podría ser utilizado por empresas para disciplinar, clasificar o controlar de cerca a los empleados. 
• Prohibido el social scoring (sistemas que puntúan a las personas en función de su comportamiento social o características personales). Un ejemplo de este uso es la herramienta de vigilancia usada en China para calificar a las personas en sus actividades cotidianas y asignarles o negarles “crédito social”.
• Prohibición de sistemas que manipulan comportamiento humano y la IA usada para explotar las vulnerabilidades de las personas (por ejemplo, por su edad o situación social o económica).
• Se permitirán los sistemas de vigilancia biométrica en tiempo real en espacios públicos, solo podrán ser empleados por las fuerzas del orden y estarán muy limitados y rodeados de estrictas salvaguardias.
• Los sistemas de inteligencia artificial generativa en los que se basan modelos como ChatGPT, estos tendrán que cumplir criterios de transparencia, como especificar que si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial, así como garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.

Según David Evan Harris, la ley de IA promulgada por la UE, lamentablemente, no es perfecta. Si bien impone regulaciones loablemente estrictas a los sistemas de IA de propósito general (GPAI), incluidos los sistemas de “código abierto”, todavía existen lagunas. Por ejemplo, si en un país del mundo se establecen regulaciones para ciertas aplicaciones de IA, pero luego en otra región se lanzan versiones inseguras y accesibles de estas mismas herramientas bajo el concepto de 'código abierto', los actores malintencionados podrían utilizarlas para sus propios fines. Esta situación podría tener un impacto global y afectar a todo el mundo. Otra preocupación es que la tecnología de IA está desarrollándose tan rápido que existe una gran posibilidad de que su desarrollo supere el ritmo con el que se genera la legislación respectiva.

Garantizar que la Inteligencia Artificial (IA) se desarrolle en beneficio de la sociedad es un desafío monumental que demandará la colaboración activa de ciudadanos y gobiernos a nivel global. Es esencial que todos, sin importar el lugar, nos eduquemos acerca de las implicaciones, tanto positivas como negativas, de esta tecnología en constante evolución.  (O)