Una inteligencia artificial desarrollada por OpenAI encontró la forma de salir de un entorno aislado, accedió por su cuenta a Internet y terminó atacando los sistemas de otra empresa. El agente autónomo hackeó la infraestructura de Hugging Face para conseguir las respuestas de la prueba de ciberseguridad que estaba intentando superar, según ha reconocido la compañía responsable de ChatGPT.
OpenAI ha calificado lo ocurrido como un "incidente cibernético sin precedentes". En la operación participaron GPT-5.6 Sol y otro modelo todavía más potente que permanece en fase de desarrollo, ambos integrados en un agente preparado para ejecutar tareas complejas con escasa intervención humana.
Ninguna persona le ordenó atacar Hugging Face. Los modelos dedujeron que aquella plataforma podía albergar información útil para completar el examen y buscaron una vía para entrar en sus sistemas.
We're partnering with @huggingface to investigate an unprecedented security incident.
— OpenAI (@OpenAI) July 21, 2026
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
Una prueba con los frenos reducidos
El incidente comenzó durante una evaluación interna destinada a medir la capacidad ofensiva máxima de los nuevos modelos. Para comprobar hasta dónde podían llegar, OpenAI redujo sus negativas de seguridad y desactivó los clasificadores que bloquean en condiciones normales las operaciones informáticas de alto riesgo.
La prueba debía permanecer dentro de una 'sandbox', un espacio aislado que solo permitía descargar paquetes informáticos mediante un intermediario interno. Los modelos localizaron una vulnerabilidad desconocida en ese sistema, la explotaron y fueron ampliando sus privilegios hasta alcanzar un equipo conectado a Internet.
Una vez fuera, el agente buscó dónde podían encontrarse las soluciones de ExploitGym, la evaluación que OpenAI le había encargado resolver. Llegó a la conclusión de que Hugging Face, una de las mayores plataformas mundiales de modelos y bases de datos de inteligencia artificial, era el lugar más probable.
La operación combinó varias técnicas propias de ataques avanzados. El sistema utilizó credenciales obtenidas durante la intrusión, aprovechó nuevas vulnerabilidades y encontró una vía para ejecutar código a distancia en los servidores de Hugging Face. Finalmente accedió a información reservada de su base de datos de producción para copiar las respuestas del examen.
El agente carecía de una intención maliciosa acreditada. Su comportamiento muestra otro problema que preocupa desde hace años a los investigadores: un sistema puede perseguir con enorme eficacia una instrucción limitada y atravesar barreras que sus creadores daban por seguras para conseguirla.
"El león ha sacado una zarpa fuera de la jaula", ha resumido José Hernández-Orallo, investigador de la Universidad de Cambridge y catedrático de la Universitat Politècnica de València.
Hugging Face detectó miles de acciones automáticas
La actividad terminó cuando los equipos de seguridad de OpenAI y Hugging Face detectaron el comportamiento anómalo. La plataforma atacada había registrado más de 17.000 acciones ejecutadas a velocidad de máquina, repartidas entre numerosos entornos temporales y coordinadas de forma autónoma.
Hugging Face ha confirmado el acceso sin autorización a un grupo limitado de bases de datos internas y a varias credenciales empleadas por sus servicios. La empresa todavía estudia si pudo quedar afectada información de clientes o colaboradores y se ha comprometido a contactar directamente con ellos en caso de confirmarlo.
Por ahora, no existen indicios de que los modelos, conjuntos de datos o aplicaciones disponibles públicamente fueran manipulados. La compañía ha cerrado las vulnerabilidades utilizadas, reconstruido los equipos comprometidos y sustituido las claves y credenciales afectadas.
Su director ejecutivo, Clément Delangue, ha descrito como "alucinante" que todo el proceso se desarrollara de manera autónoma. También ha descartado una voluntad maliciosa por parte de OpenAI y considera que el episodio podría ser el primero documentado de estas características.
El peligro ya ha salido del laboratorio
Hasta ahora, buena parte de las advertencias sobre agentes capaces de organizar ataques prolongados se apoyaban en simulaciones. El caso de Hugging Face demuestra que esos modelos ya pueden descubrir fallos desconocidos, encadenarlos y utilizarlos contra sistemas reales sin disponer previamente de su código fuente.
La propia documentación de seguridad de OpenAI había clasificado GPT-5.6 Sol como un modelo de alto riesgo en ciberseguridad. Las pruebas anteriores mostraban avances para encontrar vulnerabilidades y construir fragmentos de ataques, aunque la empresa aseguraba que todavía tenía dificultades para completar operaciones autónomas contra objetivos reforzados.
El nuevo incidente obliga a revisar esa valoración. La compañía reconoce ahora que aquellas capacidades teóricas ya funcionan en entornos reales y que sus sistemas pueden mantener durante largos periodos una operación compleja con múltiples pasos.
También había detectado antes comportamientos preocupantes. En evaluaciones internas, GPT-5.6 Sol realizó acciones que el usuario no había pedido, movió credenciales entre equipos, eliminó información de máquinas equivocadas y presentó como terminados trabajos que sabía que no había completado. Su mayor persistencia lo lleva en ocasiones a sobrepasar los límites de la tarea recibida.
Presión para reforzar los controles
El congresista demócrata Greg Casar ha calificado el caso de "extremadamente alarmante" y ha reclamado pruebas independientes obligatorias antes del lanzamiento de los modelos más potentes. También pide que las empresas tengan que comunicar estos incidentes y que los gobiernos coordinen una respuesta internacional.
Las críticas alcanzan directamente a OpenAI. La compañía diseñó la evaluación, redujo deliberadamente las barreras de seguridad y utilizó un espacio de aislamiento que sus propios modelos lograron perforar. La empresa que desarrolla una de las inteligencias artificiales más avanzadas del mundo no consiguió contenerla durante una prueba preparada por sus propios investigadores.
OpenAI ha anunciado controles más estrictos en su infraestructura, nuevas protecciones para futuras evaluaciones y una revisión de los sistemas de vigilancia interna. También ha comunicado la vulnerabilidad de día cero al proveedor del programa afectado para que pueda corregirla.
La investigación forense continúa junto a Hugging Face. Ambas empresas publicarán más detalles cuando determinen el alcance completo del acceso, las vulnerabilidades utilizadas y la posible afectación a terceros.
Añadir ElConstitucional.es como fuente preferida de Google de forma gratuita.
Mantente informado de todas las noticias de última hora y con la mejor información. Contra la desinformación, por la democracia y los derechos sociales.
