Data clave
- Albanese dio a conocer el incidente durante la Asamblea General de las Naciones Unidas, en Nueva York. Según explicó, el agente de OpenAI accedió a un portal público de estadísticas de Medicare, el programa de salud australiano.
- El acceso ocurrió en junio. El primer ministro sostuvo que el agente consultó "archivos públicos y privados", aunque, según la información disponible, no quedaron expuestos datos personales de los beneficiarios de Medicare.
- Albanese contó que habló por teléfono con el CEO de OpenAI, Sam Altman, para transmitirle la "extrema preocupación" de Australia. También calificó de "inaceptable" la respuesta de la empresa.
- Según el mandatario, OpenAI tardó tres meses en informar lo sucedido al Gobierno australiano y envió la notificación a la casilla de correo pública del departamento de servicios sociales.
¿Qué dijo OpenAI?
En una declaración enviada por correo electrónico a Forbes, un vocero de OpenAI explicó que la empresa detectó el incidente durante una revisión de la actividad de sus modelos en las etapas de entrenamiento y evaluación. Según señaló, mientras intentaban responder preguntas sobre Australia en una prueba interna, los modelos consultaron sitios y servicios del Gobierno australiano y realizaron acciones que la compañía no había previsto.
OpenAI afirmó que su investigación no encontró pruebas de que se hubiera accedido a historias clínicas. La información consultada, según la empresa, incluía estadísticas de salud agregadas y nombres de archivos internos.
¿Cuándo ocurrió el incidente?
El acceso se produjo el 18 de junio, pero OpenAI aseguró que tomó conocimiento de lo sucedido recién en agosto y que entonces inició una investigación. El 10 de septiembre envió un correo a la casilla pública de Services Australia, el organismo responsable de los servicios de Medicare, para informar el incidente.
Tras recibir el mensaje, Services Australia investigó lo ocurrido y notificó al Centro Australiano de Ciberseguridad. La ministra de Servicios Públicos, Katy Gallagher, dijo que fue informada el 17 de septiembre. Albanese hizo público el caso el miércoles, después de hablar con Altman.
Antecedentes
El caso australiano se suma a otros incidentes divulgados en los últimos meses sobre comportamientos imprevistos de los modelos de OpenAI. En julio, la empresa informó que uno de sus modelos más avanzados había accedido sin autorización a los servidores de Hugging Face durante una prueba. El sistema aprovechó una vulnerabilidad en el entorno de evaluación para conectarse a internet y, desde ahí, ingresar en la plataforma que aloja modelos de IA de código abierto.
La semana pasada, OpenAI dio a conocer otros seis casos de comportamiento "inesperado o preocupante" de sus modelos. Entre ellos mencionó la ocultación de errores, el intercambio de archivos y la incorporación de instrucciones maliciosas destinadas a que futuros modelos ignoraran las restricciones.
La divulgación del incidente en Australia coincide con las advertencias de investigadores y directivos del sector: sin medidas de seguridad adecuadas, los modelos de IA más avanzados podrían provocar incidentes graves de ciberseguridad.
*Este artículo fue publicado originalmente en Forbes.com.
