Anthropic bloqueó varias cuentas después de detectar indicios de que un grupo intentó utilizar Claude, su modelo de inteligencia artificial, para colaborar con una investigación que podía derivar en el desarrollo de armas biológicas. La compañía también desactivó mecanismos que permitían eludir restricciones regionales y compartió sus hallazgos con otros laboratorios de IA y con el gobierno federal de Estados Unidos.

El episodio surgió a partir de una solicitud enviada a Claude para redactar una propuesta destinada a obtener financiación científica. Según informó Anthropic, el proyecto buscaba modificar genéticamente el virus chikungunya, una enfermedad transmitida por mosquitos que presenta una mortalidad baja, pero puede provocar dolores articulares y musculares durante períodos prolongados.

La investigación planteaba modificaciones destinadas a volver al virus más dañino. Aunque técnicas similares pueden utilizarse para el desarrollo de vacunas o tratamientos médicos, la compañía detectó elementos que elevaron el nivel de riesgo.

Uno de ellos fue el lugar previsto para realizar el trabajo. La propuesta señalaba la participación de investigadores civiles, pero la investigación se desarrollaría dentro de un instituto de investigación militar. Esa diferencia llevó a Anthropic a considerar que el proyecto podía tener objetivos distintos de los que aparecían inicialmente en la solicitud.

La empresa no identificó públicamente a las instituciones ni a los investigadores relacionados con el caso.

Anthropic endurece los controles sobre el uso de Claude

Después de su investigación interna, Anthropic bloqueó todas las cuentas que vinculó con la actividad y desmanteló redes de retransmisión utilizadas para sortear sus restricciones geográficas. La compañía también informó sobre el caso a otros desarrolladores de inteligencia artificial y a autoridades estadounidenses.

“De la existencia de estos materiales de investigación se deduce que el esfuerzo de investigación no se limitó a una propuesta de financiación”, declaró Anthropic en su informe. “Estamos bloqueando las cuentas que detectamos asociadas con este grupo de actividades y seguimos incorporando los resultados de nuestra investigación a nuevas medidas para detectar y prevenir que los responsables hagan un uso indebido de los servicios de Anthropic”.

El caso apareció además en medio de una discusión más amplia sobre los riesgos asociados con sistemas de inteligencia artificial cada vez más capaces. Jacob Coxon, investigador que dejó Anthropic después de un breve paso por la compañía, cuestionó públicamente la velocidad con la que las empresas desarrollan modelos más avanzados y advirtió sobre posibles consecuencias extremas.

Sus comentarios y los del investigador de Anthropic Evan Hubinger provocaron nuevas reacciones en Washington. Legisladores plantearon la posibilidad de impulsar una denominada “Ley de Interruptor de Muerte de la IA”, mientras que el senador Bernie Sanders prometió presentar una iniciativa para prohibir el desarrollo de superinteligencia artificial.

El debate también expuso diferencias con la política tecnológica del presidente Donald Trump, quien respaldó la expansión de la IA en Estados Unidos, promovió la construcción de centros de datos y defendió la competencia tecnológica con China.

Para Anthropic, el episodio con Claude mostró un riesgo más inmediato: modelos diseñados para asistir en tareas científicas también pueden recibir solicitudes capaces de facilitar investigaciones de uso dual. La compañía respondió con bloqueos, nuevas medidas de detección y cooperación con autoridades y competidores ante una amenaza que ya dejó de pertenecer exclusivamente al terreno teórico.

*Este artículo fue publicado originalmente por Forbes.com.