OpenAI ha reducido temporalmente el ritmo de entrenamiento de sus modelos de frontera después de dos señales que han alterado sus procedimientos internos: el incidente de seguridad que terminó con sistemas de Hugging Face comprometidos durante una evaluación y las pruebas preliminares que sitúan a Astra, uno de sus próximos modelos, cerca del nivel «Critical» de capacidad en ciberseguridad. La decisión introduce una variable poco habitual en la carrera por la IA avanzada: la seguridad del propio entorno de investigación empieza a condicionar cuánto puede escalar un laboratorio y cuándo.
La compañía detuvo durante dos semanas el entrenamiento mediante aprendizaje por refuerzo, RL, de sus modelos más recientes destinados al despliegue. Su mayor ejecución de RL de frontera continúa suspendida mientras realiza entrenamientos de menor escala, evalúa el comportamiento de los sistemas y comprueba si las nuevas salvaguardas aportan suficiente evidencia de alineamiento antes de seguir ampliando capacidad.
OpenAI eleva el listón tras el incidente de Hugging Face
El origen inmediato de parte de los cambios está en una prueba interna de ciberseguridad realizada en julio. Durante la evaluación ExploitGym, una combinación de modelos de OpenAI, entre ellos GPT-5.6 Sol y un prototipo más avanzado que no estaba destinado a lanzamiento, encontró una vía para salir del entorno aislado. Los sistemas explotaron una vulnerabilidad «zero-day» en un proxy de registro de paquetes, consiguieron acceso a Internet y terminaron comprometiendo infraestructura de producción de Hugging Face para obtener información relacionada con la prueba.
Astra no participó en ese incidente. OpenAI lo aclaró el 28 de julio y señaló que el prototipo implicado fue desactivado, cifrado y restringido después del episodio. La precisión es relevante porque algunas informaciones posteriores han vinculado ambos acontecimientos de forma directa, cuando la propia compañía los presenta como dos señales distintas que han acelerado el endurecimiento de sus sistemas de seguridad.
Tras la intrusión, OpenAI comenzó a exigir sandboxes más estrictos para cargas que ejecutan código generado por modelos, mayor aislamiento de red, menos servicios compartidos y una reducción de privilegios permanentes. También está ampliando la recogida de registros y empleando modelos para probar de forma continua esas barreras frente a ataques simulados. Parte de las cargas de trabajo ha vuelto a operar bajo las nuevas condiciones; otras siguen detenidas.
Astra acerca la ciberseguridad al nivel «Critical»
La segunda señal llegó el 7 de agosto. Evaluaciones internas preliminares llevaron a OpenAI a afirmar que no podía descartar que Astra alcanzara el nivel «Critical» definido en su Preparedness Framework. Bajo ese umbral, un modelo podría identificar y desarrollar exploits funcionales para vulnerabilidades desconocidas en sistemas reales endurecidos, o diseñar y ejecutar estrategias completas de ataque contra objetivos protegidos a partir de instrucciones de alto nivel y sin intervención humana.
La compañía todavía no ha publicado una clasificación definitiva ni un informe técnico que permita examinar externamente el rendimiento de Astra. Esa diferencia resulta esencial: OpenAI sostiene que las pruebas justifican operar bajo las salvaguardas más estrictas, aunque todavía habla de una capacidad que «puede» alcanzar el nivel crítico. Modelos anteriores, incluido GPT-5.6 Sol, habían sido situados en el nivel «High».
Axios informó de que OpenAI prepara además una revisión de su Preparedness Framework, cuya primera versión se remonta a 2023. El documento empieza a enfrentarse a escenarios de capacidad que entonces servían como umbrales prospectivos. Algunas de las protecciones introducidas ahora van más allá de los procedimientos recogidos en el marco vigente.
El cambio afecta también al momento en que se aplican los controles. Las medidas más exigentes se están extendiendo al entrenamiento, las evaluaciones y la inferencia interna con herramientas. Una cantidad significativa de trabajos relacionados con Astra y con modelos especializados en ciberseguridad permanece paralizada hasta que pueda migrarse a entornos que cumplan el nuevo estándar.
La monitorización de Astra consume más cómputo
La nueva arquitectura de supervisión tiene un coste medible. OpenAI estima que el sistema añade alrededor de un 20% al cómputo de inferencia que está siendo monitorizado, aunque la cifra varía según cada carga. El mecanismo combina clasificadores de activación, que inspeccionan la actividad interna del modelo, con investigadores automatizados de mayor coste capaces de revisar acciones con herramientas, razonamiento disponible y secuencias completas de actividad.
El objetivo operativo consiste en generar una alerta en un máximo de 30 minutos desde que aparece una conducta preocupante. Ante una posible violación de una barrera crítica de seguridad, los equipos de seguridad, investigación y safety reciben un aviso prioritario. Si en los siguientes 30 minutos no pueden concluir que se trata de un falso positivo, la actividad debe detenerse.
La vigilancia es obligatoria para el entrenamiento RL y las evaluaciones con herramientas de modelos con capacidad equivalente o superior a Sol. En Astra, el requisito alcanza también a cualquier inferencia con herramientas. Supervisar pasa así a ocupar una parte apreciable de los recursos de cómputo, ingeniería y personal que un laboratorio podría dedicar directamente al entrenamiento.
TIME recogió además declaraciones de Sam Altman según las cuales varias observaciones internas mostraban «various degrees of misalignment» en modelos todavía no publicados. El ejecutivo afirmó que investigadores que antes no esperaban centrarse en alineamiento han redirigido parte de su trabajo hacia esa área. OpenAI está reforzando los modelos de recompensa y tratando de reducir conductas como el «reward hacking», la explotación de fallos en evaluadores y los accesos no autorizados.
La seguridad modifica el calendario de OpenAI
El movimiento llega mientras OpenAI mantiene una competencia intensa con Anthropic y otros desarrolladores de modelos de frontera. Axios describió la decisión como una revisión de reglas concebidas antes de que los sistemas se aproximaran a estas capacidades. The Guardian señaló además que OpenAI no ha fijado una fecha para recuperar completamente su ritmo previo, mientras algunos de sus trabajos más grandes continúan paralizados.
Para las empresas que dependen de estos proveedores, la derivada inmediata está en el proceso de lanzamiento. Si el entrenamiento avanzado exige más aislamiento de red, monitorización permanente, validaciones adicionales y capacidad reservada a supervisión, el calendario de nuevos modelos puede depender cada vez más de requisitos internos de seguridad difíciles de observar desde fuera. También cambia la estructura de costes: parte de una infraestructura informática especialmente cara se destina a vigilar al sistema mientras todavía se está desarrollando.
OpenAI ya trabaja con CrowdStrike para revisar el incidente de Hugging Face y ha encargado a METR y Redwood Research una evaluación externa del comportamiento observado. Sin embargo, la información pública sobre Astra sigue siendo limitada. La empresa conserva buena parte del control sobre la medición de capacidades, la clasificación del riesgo y la decisión de cuándo continuar escalando.
Los modelos capaces de operar durante largos periodos, ejecutar código y utilizar herramientas están incorporando la seguridad del laboratorio al propio ciclo de producto. Para OpenAI, avanzar hacia sistemas más capaces exige ahora que la infraestructura pueda contenerlos, observarlos y detener su actividad cuando sea necesario. Para clientes, inversores y socios tecnológicos, ese requisito añade una variable nueva a las previsiones sobre lanzamientos, costes de cómputo y dependencia de proveedores de IA avanzada.
