En las últimas semanas varias de esas voces han comenzado a converger. Bill Gates, uno de los protagonistas de la revolución informática, acaba de advertir que no estamos suficientemente preparados para las consecuencias de la inteligencia artificial. Yoshua Bengio, Premio Turing y uno de los padres del deep learning, lleva años alertando sobre la posibilidad de perder el control de sistemas cada vez más autónomos. Dario Amodei, CEO de Anthropic, ha planteado que la IA podría eliminar hasta la mitad de los empleos administrativos de entrada en Estados Unidos en los próximos años. Y la semana pasada Jacob Coxon dejó precisamente Anthropic, después de trabajar también en OpenAI, afirmando que las empresas están avanzando hacia sistemas capaces de mejorarse a sí mismos sin haber resuelto todavía cómo controlarlos.

Podríamos discutir individualmente cada una de estas predicciones. Algunas seguramente resultarán exageradas. Otras quizá se queden cortas. Lo difícil de ignorar es la convergencia.

Bill Gates continúa considerándose optimista respecto de la IA. Precisamente por eso sorprende el tono de su advertencia reciente. En un artículo recogido por Fortune, identifica tres riesgos: El primero es el empleo. Ya no habla de "transformación", sino de desaparición permanente de muchos puestos. Considera especialmente vulnerables los empleos de entrada y de nivel medio: aquellos que permiten a los jóvenes iniciar una trayectoria profesional. El segundo riesgo es el uso malicioso: fraude masivo, deepfakes, desinformación, vigilancia, ciberataques y bioterrorismo. El tercero, particularmente relevante para la educación, es el desarrollo humano de niños y jóvenes. Tememos, dice, que compañeros artificiales sustituyan relaciones humanas y reduzcan las fricciones interpersonales mediante las cuales aprendemos a convivir. Su preocupación no es que debamos detener la innovación, sino que las instituciones encargadas de gestionar sus consecuencias avanzan demasiado lentamente. 

Yoshua Bengio, por su parte, observa el problema desde otro ángulo. Su preocupación central es la creciente agencia de los sistemas de IA: su capacidad para perseguir objetivos y actuar con niveles cada vez mayores de autonomía. Bengio ha llamado la atención sobre una creciente evidencia experimental de comportamientos relacionados con el engaño, la autopreservación, la resistencia a mecanismos de control y la desalineación de objetivos. No está proponiendo abandonar la inteligencia artificial; está preguntando si estamos seguros de que la arquitectura que hoy estamos acelerando es la que realmente queremos construir. 

En 2025, Dario Amodei estimó que la IA podría eliminar hasta el 50 % de los empleos administrativos de entrada y llevar el desempleo estadounidense al 10–20 % en un horizonte de uno a cinco años. La cifra es discutible y otros líderes tecnológicos la cuestionan. Pero resulta difícil ignorarla considerando que proviene del CEO de una empresa que está desarrollando precisamente los modelos que podrían producir esa transformación.

La salida de Jacob Coxon la semana pasada lleva la discusión todavía más lejos. Después de trabajar durante varios años primero en OpenAI y luego en Anthropic, renunció incluso antes de consolidar parte de su participación accionaria. Coxon sostiene que dentro de los principales laboratorios existe conciencia sobre estos riesgos, pero que la dinámica competitiva crea fuertes incentivos para seguir avanzando: desacelerar unilateralmente puede significar que otro llegue primero. Lo más inquietante es que Coxon no está solo. Evan Hubinger, responsable de Alignment Science en Anthropic, respaldó públicamente su preocupación y estimó en más del 10 % la probabilidad de que una IA superinteligente pueda causar una catástrofe existencial durante la próxima década. También reconoció que Anthropic aún no tiene una solución clara para garantizar el alineamiento de esos sistemas. 

No todos estos líderes de la IA están hablando del mismo riesgo. Las advertencias apuntan a escenarios distintos, pero comparten una preocupación de fondo. Podemos agruparlas en cuatro dimensiones. La primera es social y cognitiva: la dependencia tecnológica, las relaciones artificiales y sus posibles efectos sobre el desarrollo de niños y jóvenes, como advierte Gates. La segunda es económica y laboral: la transformación o desaparición de empleos, especialmente aquellos que constituyen la puerta de entrada al mercado laboral, señalada por Gates y Amodei. 

La tercera corresponde a la seguridad: fraude, desinformación, ciberataques y el uso malicioso de sistemas cada vez más capaces. Y la cuarta plantea un problema de control: qué ocurre si desarrollamos sistemas altamente autónomos cuyos objetivos o comportamientos ya no podamos supervisar adecuadamente, una preocupación central en las advertencias de Bengio, Coxon y Hubinger.

Pero todos parecen apuntar hacia un problema común: la capacidad tecnológica está creciendo más rápido que nuestra capacidad para comprender, gobernar y absorber sus consecuencias.

Y quizás allí esté la discusión que deberíamos estar teniendo. Durante años hemos tratado la IA fundamentalmente como una carrera de capacidades. Celebramos modelos más inteligentes, agentes más autónomos, menores costos y mayor productividad. La pregunta dominante ha sido qué podrá hacer la siguiente generación de sistemas. Tal vez debamos incorporar otra: ¿están evolucionando con la misma velocidad nuestras instituciones?

Para América Latina, esta pregunta es especialmente incómoda. Mientras los modelos cambian en meses, nuestras reformas educativas, marcos regulatorios y políticas laborales pueden tardar años. Formamos estudiantes para profesiones cuya estructura ocupacional podría modificarse antes de que terminen sus carreras. Diseñamos regulaciones para tecnologías que probablemente serán distintas cuando esas normas entren plenamente en vigor.

Aunque la tentación sea responder con más cursos de IA, la responsabilidad central de la universidad no está ahí. Está en preparar personas que conserven agencia, juicio y capacidad de decisión en un momento en que la tecnología avanza más rápido que nuestra capacidad institucional de adaptarnos. Esta preocupación ya no pertenece solamente a la pedagogía: empieza a aparecer en el centro mismo del debate tecnológico. Bengio la denomina implicit agency. Gates se pregunta qué ocurrirá con el desarrollo de los jóvenes. Amodei advierte sobre la desaparición de los primeros peldaños de la carrera profesional. Son distintas manifestaciones de una misma pregunta: ¿qué capacidades humanas debemos proteger y desarrollar cuando las capacidades de las máquinas crecen tan rápidamente?

La historia demuestra que las sociedades pueden adaptarse a transformaciones tecnológicas profundas. Pero también demuestra que la adaptación requiere tiempo. Y quizá esa sea la advertencia que deberíamos escuchar con mayor atención. No necesariamente que la inteligencia artificial vaya demasiado lejos, sino que nosotros podemos estar avanzando demasiado lentamente.

Cuando incluso quienes están construyendo esta tecnología nos dicen que nuestras instituciones pueden no estar preparadas para lo que viene, la respuesta sensata no es frenar el futuro ni temerle. Es acelerar nuestra capacidad para comprenderlo, gobernarlo y, sobre todo, decidir qué lugar queremos ocupar en él. (O)