Una IA de OpenAI escapó de su entorno de pruebas y llegó a comprometer los servidores de Hugging Face
Este episodio marcará un antes y un después en el sector de la IA
Histórico el comunicado de prensa que ha emitido OpenAI. La compañía ha reconocido que varios de sus modelos consiguieron salir del entorno aislado en el que estaban trabajando, acceder a Internet y comprometer parte de la infraestructura de Hugging Face.
La compañía ha reconocido que se trata de un incidente sin precedentes y asegura que ya está investigando lo ocurrido junto a Hugging Face. Aunque la IA no recibió la orden explícita de atacar a otra empresa, llevó su objetivo hasta el extremo.
Por lo que explican desde OpenAI, esta IA quería resolver una prueba y encontró por sí misma una ruta que incluía vulnerabilidades de día cero, robo de credenciales, escalada de privilegios y ejecución remota de código para acceder a la infraestructur de Hugging Face y encontrar la solución.
Una prueba de ciberseguridad que terminó afectando a sistemas reales
El incidente tuvo lugar durante una evaluación interna diseñada para comprobar hasta dónde podían llegar los modelos de OpenAI al enfrentarse a ataques informáticos complejos.
En este tipo de pruebas, la compañía reduce deliberadamente algunas de las protecciones que normalmente impiden que sus sistemas desarrollen actividades peligrosas. Entre los modelos implicados se encontraba GPT-5.6 Sol, además de otro sistema todavía más potente que se encontraba en fase previa a su lanzamiento.
We're partnering with @huggingface to investigate an unprecedented security incident.
— OpenAI (@OpenAI) July 21, 2026
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
Como hemos dicho, ambos disponían de menos restricciones de seguridad de las habituales porque el objetivo era medir sus capacidades máximas dentro de un entorno, en teoría, completamente controlado. Y vaya si la han superdo.
La evaluación pedía a los modelos que resolvieran diferentes retos de ExploitGym, un banco de pruebas centrado en capacidades avanzadas de explotación informática. Sin embargo, la IA no se limitó a buscar una solución dentro del escenario previsto.
Según explica OpenAI, los modelos dedicaron una cantidad considerable de recursos a encontrar una forma de obtener acceso abierto a Internet. Para conseguirlo, identificaron una vulnerabilidad de día cero en el software que la compañía utilizaba como proxy y caché para instalar paquetes desde registros externos.
Después de explotar ese fallo, los sistemas comenzaron a desplazarse por el entorno de investigación de OpenAI hasta encontrar un nodo que sí contaba con conexión a Internet. Sí, la IA se escapó del control de OpenAI.
La IA dedujo que Hugging Face podía tener las respuestas
Una vez conectados a Internet, los modelos llegaron a la conclusión de que Hugging Face podía alojar modelos, bases de datos o soluciones relacionadas con ExploitGym. Para que entiendas lo que pasó, Hugging Face funciona como una gran plataforma para publicar y compartir modelos de inteligencia artificial, conjuntos de datos, repositorios de código y otros recursos utilizados en investigación.
Por eso, una vez que la IA consiguió acceso a Internet, habría buscado posibles ubicaciones donde encontrar información vinculada con la prueba que estaba intentando resolver. Y Hugging Face es la mejor fuente para cumplir su objetivo.
La acción no fue peligrosa, ya que OpenAI explicó en el comunicado que la IA estaba completamente centrada en completar la evaluación. De esta manera, no habría intentado causar daños generales ni atacar Hugging Face por iniciativa propia, pero sí estuvo dispuesta a utilizar métodos extremadamente agresivos para alcanzar un objetivo muy concreto.
En uno de los casos investigados, el modelo combinó diferentes vectores de ataque, utilizó credenciales robadas y aprovechó vulnerabilidades desconocidas hasta encontrar una vía de ejecución remota de código en servidores de Hugging Face.
De esta forma, los modelos habrían conseguido acceder a información secreta almacenada en la infraestructura de la plataforma con la intención de obtener directamente las soluciones de la prueba. Exacto: la IA habría intentado hacer trampas en el examen, aunque para conseguirlo terminase vulnerando sistemas reales.
La actividad anómala fue detectada internamente por el equipo de seguridad de OpenAI. Por su parte, los sistemas de protección de Hugging Face también identificaron el comportamiento sospechoso, detuvieron la actividad e iniciaron las tareas de contención y análisis forense.
Tras lo ocurrido, OpenAI ha aplicado controles más estrictos a su infraestructura, incluso aunque estas medidas puedan ralentizar el ritmo de sus investigaciones. La compañía también ha informado de la vulnerabilidad de día cero al proveedor responsable del software afectado para que pueda desarrollar una solución.
Además, Hugging Face ha pasado a formar parte del programa de acceso de confianza de OpenAI. A través de esta iniciativa, sus equipos podrán utilizar modelos avanzados para mejorar la detección de amenazas, descubrir vulnerabilidades y reforzar sus defensas.
Pero está claro que deberá introducir mayores medidas de seguridad durante las evaluaciones internas, y estamos ante una demostración muy inquietante de lo que ya puede hacer la IA.