La decisión de OpenAI de avanzar con un acuerdo con el Departamento de Defensa de Estados Unidos provocó la primera salida relevante dentro de la compañía. Caitlin Kalinowski, jefa del equipo de ingeniería de hardware y robótica, anunció que dejará la empresa tras expresar diferencias con el rumbo que tomó la firma dirigida por Sam Altman.

La ejecutiva comunicó su decisión a través de la red social X, donde explicó que su salida respondió a una cuestión de principios. Kalinowski ingresó en 2024, después de trabajar en Meta, con la misión de impulsar el desarrollo de hardware y sistemas robóticos vinculados a la inteligencia artificial.

En su publicación señaló que la elección no resultó sencilla, aunque consideró necesario marcar límites frente al nuevo vínculo entre la compañía tecnológica y el Pentágono. La ejecutiva cuestionó el modo en que se presentó el anuncio y la falta de definiciones claras sobre el alcance del acuerdo.

“La IA tiene un papel importante en la seguridad nacional. Pero la vigilancia de estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son líneas que merecían más reflexión de la que tuvieron”, escribió Kalinowski en su mensaje. @@FIGURE@@

Su salida llegó días después de que OpenAI confirmara que su tecnología podrá respaldar diversas tareas vinculadas con la defensa. Entre ellas aparecen ciberseguridad, análisis de inteligencia y logística, áreas que el ejército de Estados Unidos considera prioritarias para el uso de inteligencia artificial.

El acuerdo generó inquietud dentro del sector tecnológico. Algunos empleados de OpenAI y varios investigadores especializados en IA expresaron preocupación por los riesgos asociados a la expansión de estas herramientas dentro de operaciones militares. Entre los principales temores aparecen el uso de sistemas de vigilancia y el desarrollo de armas autónomas.

Kalinowski también cuestionó el momento en que la empresa presentó el anuncio. Según su visión, la decisión se comunicó con demasiada rapidez y sin límites bien definidos respecto del uso de la tecnología.

Reacción de usuarios y debate en el sector tecnológico

La controversia no se limitó al interior de la compañía. Tras conocerse el acuerdo con el Departamento de Defensa, numerosos usuarios reaccionaron contra ChatGPT, el producto más popular de OpenAI.

Datos difundidos por TechCrunch indicaron que las desinstalaciones de la aplicación móvil de ChatGPT registraron un salto del 295% en el día posterior al anuncio del acuerdo. La reacción reflejó el rechazo de parte de los usuarios al uso de inteligencia artificial dentro de operaciones vinculadas con el ámbito militar. @@FIGURE@@

El episodio coincidió con un aumento en las descargas de Claude, el sistema de IA desarrollado por Anthropic. Según el mismo informe, las instalaciones de esa herramienta avanzaron alrededor de 55% en comparación con la semana previa al 2 de marzo.

El propio Sam Altman, actual director ejecutivo de OpenAI, se refirió a la situación y describió el acuerdo inicial como “apresurado”. También lo definió como “oportunista y descuidado”. Tras las críticas, la empresa introdujo modificaciones en el entendimiento con el Pentágono.

La versión revisada del acuerdo estableció que los sistemas basados en ChatGPT no se utilizarán de forma intencional para vigilancia nacional de ciudadanos estadounidenses. OpenAI también afirmó que mantiene límites claros respecto del uso de inteligencia artificial en armamento autónomo.

En una declaración enviada a TechCrunch, la compañía confirmó la salida de Kalinowski y defendió el convenio con el gobierno estadounidense.

“Creemos que nuestro acuerdo con el Pentágono crea una vía viable para el uso responsable de la IA en materia de seguridad nacional, a la vez que establecemos claramente nuestras líneas rojas: ni vigilancia nacional ni armas autónomas”, indicó la empresa.

La compañía también sostuvo que continuará con el diálogo con empleados, autoridades gubernamentales y organizaciones de la sociedad civil para discutir los alcances del uso de inteligencia artificial en seguridad. @@FIGURE@@

El vínculo entre OpenAI y el Departamento de Defensa apareció después de que la administración del presidente Donald Trump decidiera interrumpir su relación con Anthropic. El Pentágono consideró a esa firma como un riesgo para la cadena de suministro.

Anthropic participaba en un programa que buscaba integrar inteligencia artificial en la planificación militar. Sin embargo, la empresa mantenía restricciones estrictas respecto del uso de sus modelos por parte del gobierno. Entre esas limitaciones figuraba la prohibición de emplear la tecnología para armas autónomas o vigilancia masiva.

Ese desacuerdo derivó en la cancelación del contrato y abrió espacio para que OpenAI profundizara su vínculo con el Departamento de Defensa. El acercamiento se apoyó también en un acuerdo firmado en junio por US$200 millones, que incluyó a OpenAI, Anthropic, Google y xAI para desarrollar herramientas de IA vinculadas con la seguridad nacional.

Las tensiones sobre el uso militar de la inteligencia artificial también aparecieron dentro de Anthropic. En febrero, Mrinank Sharma, líder del área de investigación en salvaguardias de la empresa, anunció su renuncia. @@FIGURE@@

En una carta pública, Sharma advirtió que el mundo enfrenta riesgos cada vez mayores frente al avance acelerado de la inteligencia artificial y a los desafíos de seguridad global. También sostuvo que los equipos encargados de diseñar medidas de protección enfrentaban presión mientras las compañías competían por desplegar sistemas cada vez más potentes.

Su salida reforzó las advertencias de varios especialistas que pidieron mayor regulación o una desaceleración en el desarrollo de estas tecnologías. El debate sobre el rol de la inteligencia artificial en defensa y seguridad sumó así nuevas tensiones dentro de la industria tecnológica.

*Este artículo fue publicado originalmente por Forbes.com