La seguridad de la IA vuelve al centro de la discusión tecnológica con una señal difícil de ignorar para empresas y reguladores: los laboratorios que desarrollan los modelos más avanzados siguen elevando capacidades, pero sus compromisos de contención no avanzan al mismo ritmo. La edición de verano de 2026 del AI Safety Index, elaborada por el Future of Life Institute, evalúa a nueve compañías de Estados Unidos, Europa y China y concluye que incluso los actores mejor situados mantienen prácticas insuficientes frente al ritmo de mejora de sus sistemas.
El índice sitúa de nuevo a Anthropic en cabeza, con una C+ y 2,66 puntos, seguida por OpenAI, Google DeepMind y Meta. Después aparecen Z.ai, Alibaba Cloud, xAI, DeepSeek y Mistral, que cierra la clasificación con una F y 0,33 puntos. La lectura más relevante no está solo en la distancia entre empresas, sino en el bajo techo general: ninguna se aproxima a una evaluación alta y tres suspenden de forma clara.
El panel independiente analizó seis dominios: evaluación de riesgos, daños actuales, marcos de seguridad, seguridad existencial, gobernanza y rendición de cuentas, e intercambio de información y mensajes públicos.
Seguridad de la IA y compromisos que retroceden
Entre los hallazgos más sensibles figura el debilitamiento de promesas previas para pausar o limitar el desarrollo si los modelos se acercaban a líneas rojas. Anthropic, OpenAI, Google DeepMind y Meta habían formulado compromisos de ese tipo, aunque el índice sostiene que se han rebajado, anulado o condicionado a la conducta de competidores. En un mercado donde el liderazgo técnico se mide en meses, esa cláusula competitiva cambia el significado práctico de una garantía.
Stuart Russell, profesor de informática en UC Berkeley y miembro del panel, lo expresa con una advertencia directa: «la carrera de capacidades se ha vuelto más extrema». Su crítica no apunta a la ausencia total de trabajo en seguridad, sino a la relación entre ese trabajo y las decisiones de lanzamiento. Según Russell, algunas empresas ya contemplan publicar sistemas aunque sus propios marcos indiquen que no existen medidas proporcionales a la capacidad alcanzada.
Ahí está el eje del informe. La cuestión central no es únicamente que la IA entre en defensa o en operaciones de alto riesgo, aunque ese elemento aparece con fuerza. El problema estructural es que los modelos frontera avanzan hacia usos más abiertos, autónomos y difíciles de anticipar mientras la gobernanza sigue descansando en compromisos voluntarios, evaluaciones internas y controles cuya autoridad final suele permanecer dentro de la empresa.
Seguridad de la IA ante marcos con poca fuerza
La publicación y actualización de marcos de seguridad podría sugerir una madurez creciente del sector. El índice, sin embargo, detecta una debilidad de diseño: varios documentos carecen de umbrales cuantitativos, auditorías verdaderamente independientes o una autoridad clara para bloquear despliegues. En términos de gestión empresarial, la diferencia importa. Una política sin capacidad de veto opera más como señal de mercado que como mecanismo de control.
SaferAI llega a una conclusión compatible desde su Frontier Risk Management Tracker. Su medición sitúa a Anthropic como líder en gestión de riesgos de IA frontera, pero con apenas el 35% de la puntuación posible. También estima que una empresa que adoptara las mejores prácticas ya presentes en el sector podría alcanzar el 59%, lo que sugiere margen operativo antes que una limitación técnica insalvable.
Meta aparece como una excepción relativa. El índice destaca su mejora del sexto al cuarto puesto, mientras xAI cae del cuarto al séptimo. Ese avance no borra la debilidad general del sector: Meta obtiene una D+, lejos de una nota que permita hablar de prácticas robustas. La mejora, vista desde una empresa usuaria de IA, tiene valor como señal comparativa, pero no elimina la necesidad de revisar proveedor, contrato, trazabilidad y protocolos de incidente.
Mistral introduce una tensión específica para Europa. La compañía francesa entra por primera vez en el índice y queda última, pese a operar desde una región que ha hecho de la regulación de la IA una bandera política e industrial. El contraste no convierte a Europa en un entorno menos seguro, pero sí rebaja una presunción frecuente en los comités de compra: que origen europeo, cumplimiento normativo y madurez de seguridad son variables equivalentes.
Capacidades más altas, riesgos más difíciles de acotar
La categoría peor evaluada por el índice es la seguridad existencial. Ninguna compañía supera la C- y la mayoría se queda en D o F. El panel reconoce avances puntuales, como clasificadores constitucionales en Anthropic, propuestas de instituciones de gobernanza en OpenAI, compromisos de monitorización en Google DeepMind o provisiones de Meta sobre pérdida de control. La valoración agregada sigue siendo severa: las medidas resultan insuficientes frente a la trayectoria de capacidades.
Para un lector empresarial, «seguridad existencial» puede sonar distante. En la práctica, abarca problemas que ya se traducen en decisiones operativas: autonomía no prevista, comportamiento engañoso, pérdida de supervisión humana, incapacidad de interpretar por qué un sistema decide una acción o dificultad para revertir un despliegue integrado en procesos críticos. El salto desde un copiloto de productividad a agentes capaces de ejecutar tareas complejas amplía el perímetro del riesgo.
El International AI Safety Report 2026, elaborado con la participación de más de un centenar de expertos, sitúa los riesgos de la IA de propósito general en tres grandes familias: uso malicioso, fallos de funcionamiento y riesgos sistémicos. También advierte de una brecha de evaluación, porque los sistemas pueden rendir bien en pruebas controladas y comportarse peor en entornos reales. Esa asimetría complica la diligencia de compra y la supervisión posterior.
Defensa, regulación y diligencia de proveedor
La dimensión militar mantiene peso en el informe, pero funciona mejor como síntoma de una carrera más amplia. Entre 2024 y 2026, varias compañías que habían restringido aplicaciones militares relajaron esas posiciones, mientras otras se acercaron de forma explícita a contratos o asociaciones de defensa. El índice menciona además usos vinculados a ciberseguridad ofensiva, coordinación de ataques violentos y daños personales graves.
Para las empresas españolas, la consecuencia no se limita al debate ético. Un proveedor de IA puede servir a clientes civiles, administraciones y actores de defensa con la misma base tecnológica, aunque bajo políticas de uso distintas. La diligencia debida debe mirar más allá de la tarjeta de modelo: condiciones de despliegue, subcontratación, controles de uso, auditorías, notificación de incidentes y límites de autonomía cuando el sistema interviene en procesos sensibles.
El calendario regulatorio europeo estrecha ese margen. El AI Act entró en vigor el 1 de agosto de 2024, las obligaciones para modelos de propósito general empezaron a aplicarse el 2 de agosto de 2025 y la norma será plenamente aplicable el 2 de agosto de 2026, con excepciones para determinados sistemas de alto riesgo. La Comisión Europea también ha publicado un Código de Buenas Prácticas para IA de propósito general, voluntario, destinado a facilitar el cumplimiento en transparencia, copyright y seguridad.
La presión regulatoria, sin embargo, no sustituye la evaluación propia. Un proveedor puede firmar códigos voluntarios y seguir presentando lagunas en umbrales de pausa, revisión externa o tratamiento de riesgos extremos. Para bancos, energéticas, aseguradoras, tecnológicas y grandes administraciones, la pregunta deja de ser si una IA «es segura» en términos genéricos. Conviene saber quién puede detener una versión, qué pruebas se exigen antes del despliegue, cómo se documentan los incidentes y qué ocurre si el modelo cambia de capacidad después de integrarse.
Max Tegmark, presidente del Future of Life Institute, resume la inquietud con una imagen de carrera hacia un precipicio. La metáfora puede parecer intensa, aunque el diagnóstico del índice se apoya en un dato menos retórico: los mejores laboratorios obtienen notas medias, los marcos voluntarios pierden fuerza y los modelos más capaces se incorporan a entornos donde un fallo deja de ser solo un error de producto. Para las compañías que compran o integran IA, la seguridad empieza a parecerse a una condición de continuidad operativa.
