OpenAI acaba de lanzar una advertencia de ciberseguridad al mundo empresarial que merece especial atención. La compañía reveló que decidió ralentizar parte de sus trabajos internos vinculados con Astra, su próximo modelo de inteligencia artificial de vanguardia, después de que las primeras pruebas despertaran preocupación por el nivel de capacidades que podría alcanzar el sistema.

En concreto, OpenAI considera que todavía no puede descartar que Astra llegue a desarrollar capacidades de ciberseguridad clasificadas como “Críticas”. Según el propio Marco de Preparación de OpenAI, alcanzar ese umbral implicaría algo excepcional: que un sistema de inteligencia artificial pudiera automatizar el descubrimiento y la explotación de vulnerabilidades graves de día cero en sistemas reales o llevar adelante ciberataques complejos contra objetivos altamente protegidos.

La dimensión de esta posibilidad resulta significativa. Una de las compañías que lidera el desarrollo mundial de la inteligencia artificial se está preparando ante el escenario de que su próxima generación de modelos alcance capacidades ofensivas de ciberseguridad suficientemente avanzadas como para obligarla a reducir el ritmo de determinados trabajos mientras implementa medidas adicionales de protección.

La decisión de OpenAI de abordar este riesgo con seriedad resulta relevante. Sin embargo, el aspecto más importante no es solamente que la empresa haya frenado parcialmente el trabajo relacionado con Astra, sino qué capacidades detectó durante las evaluaciones para considerar necesaria una medida de esta magnitud.

Durante años, los expertos en ciberseguridad advirtieron que la inteligencia artificial terminaría transformando la forma en que se ejecutan los ciberataques. Durante mucho tiempo, ese escenario permaneció principalmente en el terreno de lo teórico: se anticipaba que la IA podría hacer más convincentes las campañas de phishing, facilitar el desarrollo de malware y permitir que los hackers trabajaran con mayor rapidez y eficiencia.

Ese futuro, sin embargo, parece haber llegado mucho antes de lo que muchas organizaciones esperaban. Comienza así una nueva etapa, la del “hackeo con IA”, en la que estas herramientas ya no solo funcionan como asistentes de atacantes humanos, sino que empiezan a mostrar capacidades que podrían permitirles ejecutar de manera autónoma tareas cada vez más complejas dentro de un ciberataque.

Astra es una advertencia, no un caso aislado

Si Astra fuera el único desarrollo capaz de despertar preocupación por el avance de la ciberseguridad ofensiva autónoma, la decisión de OpenAI podría interpretarse como una medida de precaución extrema. Sin embargo, las señales comenzaron a acumularse con rapidez y distintos episodios recientes muestran que el fenómeno va mucho más allá de un caso aislado.

La frontera entre el hackeo asistido por inteligencia artificial y el hackeo autónomo empieza a volverse cada vez más difícil de distinguir. Esa evolución amplía considerablemente el alcance de los riesgos vinculados con estas tecnologías, que hasta hace poco se asociaban principalmente con herramientas destinadas a aumentar las capacidades de atacantes humanos.

En julio, OpenAI reveló que un agente autónomo de IA logró salir de los límites previstos durante una evaluación de ciberseguridad y obtuvo acceso no autorizado a la infraestructura de producción de Hugging Face. El sistema buscaba información que le permitiera superar una prueba, pero, en lugar de limitarse a las condiciones establecidas por el ejercicio, encontró una vía alternativa para alcanzar su objetivo.

Para hacerlo, recurrió a contraseñas, accesos, vulnerabilidades y distintas técnicas de ataque que le permitieron ingresar a sistemas a los que no debía tener acceso. El episodio encendió una señal de alerta porque mostró que un agente de IA puede identificar caminos no previstos y ejecutar acciones fuera de los límites originalmente definidos para completar una tarea.

Después apareció otro caso, esta vez protagonizado por Anthropic. Durante distintas evaluaciones de ciberseguridad, tres modelos de Claude consiguieron acceder sin autorización a los sistemas reales de tres organizaciones diferentes, luego de que un error de configuración les permitiera conectarse a internet.

Los incidentes no fueron detectados de inmediato. Anthropic los identificó recién después de revisar más de 141.000 ejecuciones de evaluación, un análisis que realizó tras conocerse el episodio revelado por OpenAI. El dato más inquietante es que, según se informó, dos de las organizaciones afectadas ni siquiera sabían que sus sistemas habían sido vulnerados hasta que la propia compañía se puso en contacto con ellas.

Casi al mismo tiempo surgió otra señal de alerta. Investigadores encontraron evidencias de que un atacante de habla china utilizó DeepSeek, integrado al framework de código abierto Hermes Agent, para llevar adelante ciberataques con un elevado grado de autonomía.

A partir de una instrucción inicial enviada por Telegram, el agente de IA podía identificar objetivos, realizar tareas de reconocimiento, seleccionar exploits e intentar comprometer sistemas con una intervención humana mínima. La operación estaba lejos de ser perfecta, pero ese no es el aspecto más relevante. Lo significativo es que una sola persona ya puede delegar partes cada vez más complejas de una operación cibernética ofensiva a un agente de inteligencia artificial, reduciendo de manera considerable la participación humana necesaria para ejecutar un ataque.

Los investigadores también demostraron la existencia de una nueva generación de gusanos informáticos impulsados por IA, capaces de analizar cada sistema que encuentran y desarrollar estrategias de ataque personalizadas, en lugar de depender de vulnerabilidades predeterminadas, como ocurre con los gusanos tradicionales. 

En un estudio reciente, el gusano utilizó las propias máquinas comprometidas para ejecutar grandes modelos de lenguaje que podían descargarse y funcionar localmente. De esta manera, el ataque pudo mantener su capacidad de razonamiento, continuar propagándose y, al mismo tiempo, reducir casi a cero el costo computacional marginal del atacante por cada nueva infección.

Esta diferencia es decisiva. El malware tradicional es, en última instancia, software que ejecuta instrucciones previamente escritas por humanos. Un sistema autónomo de IA, en cambio, puede analizar un objetivo, evaluar su entorno, decidir qué intentar después, aprender de los errores y buscar una ruta alternativa. El atacante ya no se limita a automatizar una secuencia predeterminada de pasos: cada vez delega una mayor parte del propio proceso de toma de decisiones.

En conjunto, el incidente de Hugging Face vinculado con OpenAI, los accesos no autorizados de Claude, los ataques autónomos de DeepSeek, los gusanos de IA adaptativa y, ahora, la decisión de OpenAI de ralentizar el trabajo relacionado con Astra son difíciles de considerar simples episodios aislados. Todos reflejan distintas expresiones de una misma trayectoria tecnológica.

Las empresas de IA más sofisticadas del mundo ya no se preparan únicamente para enfrentar a personas malintencionadas que utilizan la inteligencia artificial como herramienta. Cada vez más, también se preparan para sistemas de IA capaces de ejecutar por sí mismos partes importantes de un ataque.

Nadie está a salvo: la IA cambia la economía del hackeo

La ciberseguridad siempre estuvo condicionada tanto por la economía como por la tecnología. Durante años, los ataques sofisticados necesitaron especialistas y muchas horas de trabajo. Investigar un objetivo llevaba tiempo.

También había que encontrar vulnerabilidades, desarrollar exploits, explorar redes y cambiar de estrategia cuando un ataque fallaba. Incluso los gobiernos y las organizaciones criminales con grandes recursos cuentan con una cantidad limitada de expertos. Por eso, deben elegir qué objetivos vale la pena atacar según el tiempo y el costo necesarios.

Paradójicamente, esa limitación protegió de manera indirecta a millones de organizaciones. Muchas empresas siguen siendo vulnerables, pero nunca fueron atacadas porque nadie con los conocimientos necesarios consideró que valiera la pena dedicarles tiempo. La inteligencia artificial amenaza con eliminar buena parte de esa barrera.

Un agente de IA no necesita dormir, descansar los fines de semana ni tomarse vacaciones. Puede analizar una enorme cantidad de objetivos potenciales, buscar vulnerabilidades, revisar configuraciones, generar código, modificar su estrategia y operar las 24 horas del día. Más importante aún, puede realizar muchas de estas tareas al mismo tiempo y con un costo marginal mucho menor que el de sumar equipos de atacantes altamente especializados.

Investigadores demostraron recientemente la magnitud de este cambio al desarrollar gusanos informáticos adaptativos impulsados por inteligencia artificial, capaces de utilizar los propios sistemas comprometidos para obtener los recursos informáticos necesarios y atacar nuevos objetivos. Bajo este modelo, el costo computacional para el atacante por cada nueva infección puede reducirse prácticamente a cero.

La principal consecuencia de la inteligencia artificial para la ciberseguridad quizá no sea que los mejores hackers del mundo se vuelvan mucho más eficaces. El verdadero cambio podría ser que el hackeo sofisticado se vuelva mucho más barato y, por lo tanto, resulte económicamente viable atacar a millones de organizaciones que, hasta ahora, no justificaban el tiempo, los recursos y el esfuerzo necesarios.

La mayoría de las organizaciones aún se defienden del atacante de ayer

Esta transformación ocurre mientras demasiadas organizaciones todavía tratan la ciberseguridad como un ejercicio de cumplimiento mínimo.

Se redactan políticas, se completan listas de verificación, se realizan evaluaciones anuales y los ejecutivos reciben paneles de control con indicadores positivos. Los proveedores certifican que los controles están implementados y todo parece estar en orden hasta que un adversario real pone a prueba su eficacia.

Este enfoque ya era insuficiente frente a atacantes humanos sofisticados. Ante atacantes autónomos capaces de operar a la velocidad de las máquinas, el riesgo es todavía mayor.

A un atacante de IA no le importa que una política exija autenticación multifactor, sino si esa protección realmente está activa y funciona. Tampoco le interesa que una hoja de cálculo indique que el acceso privilegiado está restringido: busca directamente credenciales y permisos que pueda aprovechar. Y poco importa que una organización haya superado una auditoría once meses atrás, porque lo que cuenta es el estado actual de sus sistemas.

Sobre todo, la IA puede buscar sin descanso la distancia entre lo que una organización cree sobre su nivel de seguridad y lo que realmente ocurre en sus sistemas. Todas las organizaciones tienen brechas de este tipo. La cuestión ya no es si existen, sino cuánto tiempo tardarán en ser descubiertas.

La IA también será nuestra mejor defensa

Nada de esto significa que debamos temer a la inteligencia artificial ni frenar su desarrollo de manera indiscriminada. Todo lo contrario: la IA podría convertirse en una de las tecnologías de ciberseguridad defensiva más importantes jamás creadas.

Los defensores humanos enfrentan las mismas limitaciones económicas que durante años condicionaron a los atacantes. Los centros de operaciones de seguridad deben procesar enormes volúmenes de datos, priorizar miles de vulnerabilidades e investigar alertas dentro de sistemas cada vez más complejos. Simplemente, no existen suficientes profesionales de ciberseguridad capacitados para realizar manualmente todas las tareas necesarias para proteger la economía digital moderna. La IA también puede cambiar esta ecuación económica a favor de quienes defienden los sistemas.

Microsoft ya despliega capacidades autónomas de detección de amenazas capaces de investigar incidentes de manera continua, formular hipótesis, recopilar pruebas e identificar actividades maliciosas que los procesos tradicionales podrían pasar por alto. Tecnologías similares permitirán cada vez más a los responsables de seguridad detectar vulnerabilidades, poner a prueba los controles y responder a los ataques a la velocidad de las máquinas.

Por lo tanto, el futuro de la ciberseguridad no pasará por una lucha entre humanos e IA, sino cada vez más por defensores con capacidades de inteligencia artificial frente a atacantes que también cuentan con ellas. Las organizaciones que saquen ventaja serán aquellas que identifiquen esta transición con suficiente anticipación y adapten sus defensas a tiempo.

Llegó la era de la seguridad verificable

Por eso, la transición del cumplimiento meramente formal a la seguridad verificable cobró tanta importancia. Las organizaciones ya no deberían conformarse con saber que un control de ciberseguridad supuestamente existe: deberían exigir pruebas concretas de que funciona. La autenticación multifactor debe verificarse, el acceso privilegiado debe ponerse a prueba, las vulnerabilidades deben corregirse de forma comprobable, las redes deben supervisarse de manera continua y los planes de respuesta a incidentes deben probarse en la práctica, no limitarse a un documento.

Los directorios deberían empezar a plantearle a la dirección una pregunta fundamentalmente diferente. En lugar de preguntar: "¿Cumplimos con la normativa?", deberían preguntar: "¿Cómo sabemos que nuestra ciberseguridad funciona realmente?". No son la misma pregunta.

Este mismo estándar debería extenderse cada vez más a lo largo de las cadenas de suministro. Las grandes organizaciones confían de manera habitual datos confidenciales y conectividad a miles de proveedores más pequeños, cuyos niveles de madurez en ciberseguridad varían de forma considerable. Ante ciberataques autónomos, la organización más débil de ese ecosistema puede convertirse en la puerta de entrada hacia la más fuerte.

La confianza deberá dar lugar cada vez más a la evidencia. Esa es, precisamente, la esencia de la seguridad verificable.

*Este artículo fue publicado originalmente por Forbes.com