Lo que revela la fuga de modelos de OpenAI sobre el estado de la ciberseguridad

El 28 de julio, Sam Altman, cofundador de OpenAI, declaró que le sorprendía que no hubiera más gente que hubiera tenido una «reacción visceral» ante el ciberataque perpetrado unos días antes por su empresa. En el marco de una prueba, dos de sus modelos se escaparon de su entorno virtual, consiguieron acceso a internet y se infiltraron en la plataforma Hugging Face.

• El informe de análisis de Hugging Face, publicado el lunes 27, revela que el alcance de la intrusión supera lo que se había dado a conocer públicamente: el agente de OpenAI obtuvo acceso de administrador a varios clústeres internos de Kubernetes, acceso de root a un servidor de producción y acceso de escritura a parte de los repositorios de código fuente en GitHub.
• También logró incorporar 181 dispositivos a la red interna de la empresa utilizando un identificador robado, lo que le permitió acceder a los sistemas en los que Hugging Face desarrolla y prueba su propio código. ¹

Sam on the Hugging Face incident:

“This is the first security incident that I have felt very viscerally. I've been a little surprised that more people don't feel it so viscerally.

We paused training. We have to figure out how to secure our sandboxing in a world of multiple zero… https://t.co/XXeB7RZsM3 pic.twitter.com/F4hbHuItqw

— Patrick OShaughnessy (@patrick_oshag) July 28, 2026

La mejora de las capacidades cibernéticas de los nuevos modelos de IA de vanguardia (FAIM) supone una amenaza importante para las empresas, los Estados y las instituciones financieras. A principios de julio, el Consejo Europeo de Riesgo Sistémico advirtió de que «la creación de exploits utilizados con fines maliciosos se realizaba en gran parte de forma manual y llevaba varios días, o incluso varias semanas, a los expertos humanos, mientras que ahora puede llevarla a cabo un FAIM en cuestión de minutos u horas». ²

El incidente en el que se vieron implicados los modelos de OpenAI no es un caso aislado.

• En abril, el modelo Mythos de Anthropic, que por entonces no estaba disponible para el público, también había logrado escapar de su entorno de pruebas virtual en el marco de una evaluación de sus capacidades cibernéticas.
• El 28 de julio, investigadores de Anthropic afirmaron que Claude Mythos Preview, un modelo presentado en abril, había detectado una vulnerabilidad en una versión debilitada del Estándar Avanzado de Cifrado (AES), un algoritmo de cifrado utilizado para proteger el tráfico web y las redes inalámbricas, así como en el sistema de firma digital HAWK, diseñado para resistir a los ordenadores cuánticos. ³

Las agencias de ciberseguridad de los países miembros de los Five Eyes estiman que los modelos de IA de borde deberían, en los próximos meses, «superar las expectativas actuales del sector, transformando profundamente las capacidades cibernéticas tanto ofensivas como defensivas».

• Según Alex Meinke, investigador de Apollo Research, aunque OpenAI hubiera detallado públicamente cómo su modelo se escapó de su confinamiento, «solo un número muy reducido de expertos en ciberseguridad de todo el mundo» habría podido comprender realmente cómo se produjo la falla. ⁴
• Si bien la inteligencia artificial también permite que los sistemas sean más resistentes ante los ciberataques, el riesgo es que el alcance y la sofisticación de las capacidades ofensivas de la IA se desarrollen más rápido que las capacidades defensivas.