Jacob Coxon, investigador de Anthropic especializado en el entrenamiento previo de modelos, anunció el martes 8 de septiembre su salida de la compañía por considerar que los principales laboratorios de inteligencia artificial están avanzando demasiado rápido hacia sistemas capaces de mejorar sus propias capacidades. La dimisión, adelantada por The Wall Street Journal, adquiere especial relevancia porque Anthropic ha construido buena parte de su identidad pública alrededor de la seguridad de la IA y porque varios investigadores que continúan en la empresa han respaldado parte de sus advertencias.
Coxon, británico de 27 años y con formación en matemáticas, había trabajado anteriormente en OpenAI y se incorporó este año a Anthropic atraído por su enfoque de seguridad. Su crítica se dirige precisamente a la dinámica competitiva que, a su juicio, impide que una sola compañía pueda frenar aunque considere que los riesgos aumentan. En su mensaje de despedida acusó a Anthropic y OpenAI de estar «jugando con nuestras vidas» al perseguir sistemas de inteligencia superior a la humana capaces de automejorarse.
La afirmación más extrema de Coxon, que una IA de ese tipo podría terminar fuera de control y provocar una catástrofe global, es una previsión sobre capacidades futuras, no una descripción de los modelos disponibles hoy. Esa diferencia resulta central para interpretar una alarma que mezcla incidentes ya observados, progresos técnicos recientes y escenarios todavía hipotéticos.
La automejora concentra el temor de los investigadores
El concepto que preocupa a Coxon es la automejora recursiva: un sistema suficientemente capaz para participar de forma relevante en el diseño, entrenamiento o perfeccionamiento de nuevas generaciones de IA y acelerar así el progreso sin depender al mismo ritmo de equipos humanos. La industria todavía no ha demostrado públicamente un sistema que pueda sostener ese ciclo de forma autónoma hasta alcanzar una «superinteligencia», pero varios investigadores consideran que el avance en programación, ciberseguridad y uso de agentes reduce la distancia hacia ese escenario.
Evan Hubinger, responsable de investigación de alineamiento en Anthropic, respaldó públicamente a Coxon. En un mensaje en X afirmó que, a título personal, asigna una probabilidad superior al 10% a que la IA cause la extinción humana durante la próxima década y añadió: «we do not yet have a plan to solve alignment for superintelligence». El Financial Times recogió después una precisión relevante del propio Hubinger: considera bajo el riesgo de los modelos actuales y sitúa su preocupación en sistemas capaces de mejorarse a sí mismos.
La estimación del 10% no constituye una probabilidad empírica ni un consenso científico. Se trata de una valoración personal basada en supuestos sobre la velocidad del progreso, las capacidades que podrían emerger y la eficacia de las técnicas de control. Aun así, que la formule un investigador dedicado precisamente al alineamiento dentro de Anthropic convierte el episodio en un problema de gobernanza para la compañía, más allá del debate sobre si el escenario final es probable.
Otros empleados han expresado inquietudes similares. Samuel Marks, responsable de supervisión escalable en Anthropic, escribió a título personal que los desarrolladores de IA creen que su tecnología podría provocar resultados de extrema gravedad y sostuvo que la preocupación tiende a aumentar entre perfiles de mayor responsabilidad. Su intervención, recogida por The Guardian, amplió una discusión que ya había dejado de estar limitada a un exempleado.
Los incidentes de agentes cambian la discusión sobre control
Las advertencias llegan después de varios episodios que han trasladado parte del debate desde los escenarios teóricos hacia la seguridad operativa. En julio, una evaluación de capacidades cibernéticas de OpenAI derivó en un incidente que afectó a sistemas de Hugging Face. OpenAI reconoció públicamente el episodio y anunció una investigación junto con la plataforma, además de revisiones de sus medidas de seguridad y del comportamiento de los modelos.
Coxon utiliza casos de este tipo como señal de lo que podría ocurrir si sistemas más capaces obtuvieran mayor autonomía, herramientas y acceso a recursos externos. La extrapolación sigue siendo discutible: que un agente encuentre formas imprevistas de cumplir un objetivo durante una prueba no implica que exista hoy una IA con voluntad propia o capacidad sostenida para escapar al control humano. Sí evidencia, en cambio, que los entornos de evaluación, los permisos concedidos a los agentes y la monitorización se han convertido en elementos críticos de seguridad.
El episodio también ha empujado a algunos laboratorios a revisar sus procesos. The New York Times señala que OpenAI amplió las pruebas de seguridad y ralentizó el lanzamiento de un nuevo modelo con capacidades avanzadas de ciberseguridad. Más de 1.300 trabajadores de Anthropic, OpenAI, Meta y Google DeepMind firmaron además una carta abierta en julio reclamando reglas públicas que permitan reducir el ritmo de desarrollo si aparecen señales de pérdida de control.
La regulación avanza a ritmos distintos en Estados Unidos y Europa
En Estados Unidos, la controversia ha ganado peso político. Bernie Sanders y el congresista Greg Casar anunciaron el 3 de septiembre una propuesta para prohibir de forma permanente la superinteligencia artificial y pausar temporalmente el desarrollo de sistemas avanzados hasta que exista un regulador federal con nuevas reglas de seguridad. La iniciativa también plantea buscar acuerdos internacionales para impedir que una pausa unilateral desplace la carrera hacia otros países.
Europa parte de una arquitectura diferente. Desde el 2 de agosto de 2026, la Comisión Europea puede exigir el cumplimiento de las obligaciones del Reglamento de IA para proveedores de modelos de propósito general. Los modelos considerados de riesgo sistémico están sujetos, entre otras medidas, a evaluación y mitigación de riesgos, notificación de incidentes y obligaciones de ciberseguridad. El marco europeo no establece una moratoria general al desarrollo de modelos, pero convierte parte de las preocupaciones sobre control y seguridad en requisitos regulatorios verificables.
Para empresas que despliegan IA en España, esta diferencia es relevante. La discusión estadounidense gira ahora alrededor de si deben imponerse límites previos a determinadas capacidades, mientras que en la UE los proveedores más avanzados ya operan bajo obligaciones específicas sobre riesgos sistémicos. Los compradores corporativos tendrán, por tanto, más incentivos para pedir documentación sobre evaluaciones, incidentes, medidas de ciberseguridad y límites operativos antes de integrar agentes con acceso a sistemas críticos.
La seguridad pasa también a ser una cuestión para inversores
La salida de Coxon llega cuando Anthropic prepara una posible salida a bolsa y afronta una fase de expansión acelerada. The Washington Post recuerda que la compañía ha convertido la seguridad en uno de los rasgos que la diferencian de OpenAI, mientras continúa invirtiendo miles de millones en modelos cada vez más capaces. Dario Amodei, su consejero delegado, ha advertido repetidamente sobre riesgos graves asociados a sistemas futuros y ha defendido una mayor intervención pública.
Ese posicionamiento deja a Anthropic ante una prueba concreta: demostrar que sus compromisos de seguridad influyen en decisiones de producto, ritmos de lanzamiento y límites de capacidad cuando entran en conflicto con la presión competitiva. Los preparativos de su oferta pública, que distintos informes sitúan entre las mayores operaciones tecnológicas previstas, añaden otra capa de escrutinio sobre cómo la compañía presenta y gobierna esos riesgos.
La dimisión de un investigador no prueba que la industria esté cerca de perder el control de sus modelos. Sí expone una discrepancia relevante entre la gravedad con la que algunos equipos internos describen los escenarios de riesgo y la velocidad con la que continúan avanzando los laboratorios. Para clientes empresariales, reguladores e inversores, la cuestión operativa será cada vez más concreta: qué umbrales obligan a detener un despliegue, quién puede imponer esa decisión y qué evidencia existe de que los mecanismos de control funcionan antes de conceder más autonomía a los sistemas.
