IBM ha presentado Granite 4.0, la nueva generación de sus modelos de lenguaje (LLM) de orientación empresarial. Según su comunicado, Granite 4.0 introduce una arquitectura híbrida, combinando componentes Mamba-2 con bloques transformer, con el objetivo de reducir de forma significativa los requisitos de memoria sin comprometer el rendimiento. El sistema permite que los modelos se ejecuten en GPU de coste relativamente bajo, lo que facilita su incorporación en entornos empresariales con menores barreras de entrada.
Una de las piezas clave del lanzamiento es la certificación bajo el estándar ISO/IEC 42001:2023 para sistemas de gestión de IA (AI Management Systems, AIMS), así como la firma criptográfica de los puntos de control de los modelos (checkpoints) para garantizar su integridad y procedencia.
Las variantes anunciadas para Granite 4.0 abarcan distintos tamaños y arquitecturas para adaptarse a distintos escenarios:
- Granite‑4.0‑H‑Small: modelo híbrido de tipo mixture of experts (MoE) con 32 mil millones de parámetros (9 mil millones activos en inferencia).
- Granite‑4.0‑H‑Tiny: modelo híbrido MoE con 7 mil millones de parámetros (1 mil millones activos).
- Granite‑4.0‑H‑Micro: arquitectura híbrida densa con 3 mil millones de parámetros.
- Granite‑4.0‑Micro (denso “transformer pura”): modelo denso convencional, sin arquitectura híbrida, para compatibilidad con plataformas que aún no soportan arquitecturas híbridas.
IBM posiciona el modelo Small como referencia para aplicaciones empresariales más exigentes (por ejemplo, agentes multiproceso o automatización avanzada), mientras que los modelos Tiny y Micro apuntan a casos de baja latencia, despliegue en dispositivos locales y como componentes dentro de flujos de trabajo más amplios (por ejemplo, para llamadas a funciones, preprocesado o tareas ligeras).
Eficiencia de memoria e inferencia
Uno de los argumentos más destacados en la presentación es la mejora de eficiencia en memoria frente a modelos tradicionales basados únicamente en transformadores. En escenarios con contextos largos (por ejemplo, ingestión de grandes volúmenes de texto o documentos técnicos) o con múltiples instancias simultáneas en inferencia, Granite 4.0 logra reducir más del 70 % el uso de RAM en comparación con arquitecturas de transformador convencionales.
El diseño híbrido, una proporción de 9 bloques Mamba‑2 por cada bloque transformer, permite que las partes de Mamba asuman la mayor carga del contexto global (con un coste lineal en la longitud del contexto), mientras que los bloques transformer aportan precisión local mediante atención. IBM afirma que esta distribución logra un balance entre eficiencia y calidad del modelo.
Otra ventaja es que esta arquitectura híbrida está optimizada para GPUs AMD Instinct MI‑300X, lo cual puede reducir la huella de memoria adicional (más allá del modelo) requerida para su ejecución. Además, se trabaja en compatibilidad con NPUs (como Hexagon de Qualcomm) para despliegues en dispositivos móviles o PC con aceleradores dedicados.
Además, IBM reporta que el rendimiento (tasa de inferencia o throughput) de Granite 4.0 no se degrada tanto al aumentar el contexto o el tamaño del lote, algo que suele ser un limitante crítico en modelos puramente transformadores.
Rendimiento comparativo y benchmarks
Según IBM, incluso las versiones más pequeñas de Granite 4.0 superan las versiones anteriores de Granite 3.3 (por ejemplo, una versión de 8 mil millones de parámetros). Esto sugiere que las mejoras no solo están en eficiencia, sino también en calidad del modelo, resultado no solo de la arquitectura sino del mayor refinamiento de las metodologías de entrenamiento, ajuste y curación de datos.
En benchmarks relevantes para flujos de trabajo con agentes, como el seguimiento de instrucciones (IFEval) o la capacidad de llamadas a funciones (Berkeley Function Calling Leaderboard v3), el modelo Granite‑4.0‑H‑Small se posiciona entre los mejores entre los modelos de código abierto, incluso frente a modelos mucho más grandes. En tareas de retrieval-augmented generation (RAG) complejas, también reporta resultados competitivos.
No obstante, hay que tener en cuenta que muchas de las evaluaciones presentadas provienen de materiales promocionales de IBM, por lo que todavía habría que validar esos resultados de forma independiente para verificar robustez en escenarios reales.
Confianza, gobernanza y seguridad
Un elemento central en la promoción de Granite 4.0 es su enfoque en la gobernanza, la auditabilidad y la trazabilidad. IBM ha subrayado que los modelos de Granite 4 se ofrecen bajo licencia Apache 2.0 y que los puntos de control están firmados criptográficamente para permitir la verificación de su origen y autenticidad.
Además, Granite es promovido como el primer modelo abierto en recibir certificación bajo ISO/IEC 42001:2023, el estándar internacional diseñado para sistemas de gestión de IA (AI Management Systems). Este estándar busca establecer requisitos para diseñar, implementar, mantener y mejorar continuamente sistemas de IA bajo criterios de responsabilidad, transparencia y confiabilidad.
IBM también ha anunciado un programa de recompensas (bug bounty) con HackerOne, con premios de hasta 100 000 USD para vulnerabilidades detectadas en los modelos Granite, incluida su robustez frente a ataques adversariales, jailbreaking o fallos en alignment.
IBM
Estos elementos reflejan un esfuerzo por transmitir confianza en el ecosistema de Granite, aunque la adopción real dependerá de cómo estas garantías se perciban y verifiquen en entornos empresariales regulados, especialmente bajo marcos como la futura Ley de IA europea.
Además, en 2025 IBM iniciará una auditoría de cumplimiento para su sistema de gestión de IA con la entidad Schellman Compliance LLC, con objeto de obtener formalmente la certificación ISO 42001 para Granite.
Disponibilidad y ecosistema
Granite 4.0 estará disponible en IBM watsonx.ai y a través de múltiples plataformas colaboradoras, como Dell Technologies (en sus entornos Pro AI Studio y Enterprise Hub), Docker Hub, Hugging Face, Kaggle, LM Studio, Ollama, Replicate, OPAQUE, NVIDIA NIM, entre otros. También se indica que el acceso via Amazon SageMaker JumpStart y Microsoft Azure AI Foundry está en proceso de habilitarse.
El modelo Granite‑4.0‑Tiny‑Base‑Preview está ya disponible en Hugging Face con licencia Apache 2.0, con un contexto de hasta 128 000 tokens.
En cuanto al soporte de inferencia, ya existen adaptaciones en frameworks como vLLM (versión 0.10.2) y módulos experimentales para Hugging Face Transformers, llama.cpp y MLX. Sin embargo, la optimización de rendimiento aún sigue en desarrollo en algunas plataformas.
Por ejemplo, en el repositorio de Ollama existe una incidencia abierta para añadir soporte completo a Granite‑4.0‑Tiny‑Preview bajo su arquitectura híbrida Mamba‑2/Transformer.
Implicaciones para el sector tecnológico español
Para directivos, CIOs y responsables de innovación en empresas tecnológicas en España, el anuncio de Granite 4.0 tiene implicaciones relevantes:
Reducción de costes operativos de IA
La eficiencia en memoria y hardware puede reducir significativamente los costes de infraestructura para ejecutar modelos avanzados, especialmente en entornos on‑premise o híbridos. Esto puede abrir la puerta a que empresas medianas desplieguen modelos competitivos sin depender exclusivamente de grandes proveedores de nube.
Mayor control y soberanía tecnológica
Al combinar licencia abierta (Apache 2.0) con firma criptográfica y certificación de gobernanza, Granite 4.0 promueve una vía de despliegue de LLMs bajo control empresarial. En un contexto europeo donde los requisitos regulatorios de IA (como el Reglamento de IA de la UE) están tomando forma, contar con modelos auditables y transparentes puede ofrecer ventajas frente a soluciones cerradas.
Compatibilidad y transición progresiva de modelos
La existencia de versiones densas (no híbridas) y tamaños más pequeños facilita una transición gradual: se puede comenzar con modelos ligeros y luego evolucionar hacia arquitecturas híbridas a medida que el ecosistema de soporte madure en España (frameworks, hardware, formación).
Desafíos de validación independiente y robustez en producción
Las afirmaciones de rendimiento y eficiencia deben ponerse a prueba con casos de uso reales, especialmente en producción con datos sensibles, latencia, concurrencia y contextos largos específicos del negocio. El riesgo de sesgos, generación de contenido incorrecto, vulnerabilidades adversariales o degradación del modelo en producción deberá evaluarse cuidadosamente.
Implicaciones regulatorias y auditoría
Obtener certificaciones externas y demostrar cumplimiento con estándares como ISO 42001 puede ser un factor diferenciador, especialmente en sectores regulados como finanzas, salud, administración pública o infraestructuras críticas. Las empresas deberán incorporar auditorías, revisión de trazabilidad, políticas de gobernanza de IA y procesos de mitigación de riesgos.
Competencia del mercado de LLM abiertos
La propuesta de IBM sitúa a Granite 4.0 como competidor de otros modelos abiertos emergentes que buscan eficiencia, como arquitecturas basadas en state-space models (SSM) u otras aproximaciones híbridas. La competencia traerá presión para que las empresas ofertantes de modelos ajusten su propuesta en coste, rendimiento y gobernanza.
Retos, riesgos y preguntas críticas
A pesar de las promesas tecnológicas, hay varios aspectos que merecen vigilancia desde el punto de vista empresarial:
- Transparencia en métricas de benchmark: muchas de las cifras provienen de IBM; será clave que evaluaciones independientes y comparativas públicas confirmen esos rendimientos en entornos reales.
- Madurez del ecosistema de soporte: aunque ya se ha comenzado la integración en varios frameworks, la optimización, compatibilidad y robustez de herramientas, bibliotecas y plataformas empresariales todavía pueden no estar al nivel requerido para adopciones a gran escala.
- Riesgo de adopción prematura: lanzar un modelo con arquitectura híbrida novedosa puede conllevar riesgos de fallos no previstos, vulnerabilidades o limitaciones no detectadas plenamente durante el desarrollo.
- Gestión del riesgo regulatorio y responsabilidad legal: aunque la certificación ISO 42001 es un avance, la alineación con requisitos legales emergentes (por ejemplo, el Reglamento de IA en la UE) y responsabilidad frente a errores del modelo (por ejemplo, en decisiones automatizadas) sigue siendo un tema abierto.
- Desafíos en mantenimiento y actualización continua: modelos de IA requieren actualización y vigilancia constante; la gestión de versiones, parches, alineación progresiva y gobernanza continua será crítica para evitar “deriva” o degradación del modelo en el tiempo.
- Costes ocultos de integración: aunque el hardware puede ser más eficiente, la integración con sistemas empresariales legados, pipeline de datos, reglas de negocio, seguridad y monitorización pueden implicar inversiones considerables adicionales.
Horizonte y líneas futuras
IBM indica que en lo que resta de 2025 ampliará la familia Granite con nuevos tamaños (por ejemplo, “Medium”) y versiones orientadas al razonamiento avanzado (“Thinking”). Asimismo, se prevé el lanzamiento de versiones aún más pequeñas (por ejemplo, “Nano”) destinadas a despliegues en entornos edge o dispositivos locales.
El equipo de desarrollo anticipa que el enfoque en modelos más pequeños, eficientes y modulables será una estrategia contraria al modelo “mayor tamaño es mejor” predominante hasta ahora. Algunos analistas ya interpretan esta dirección como una “recalibración” del enfoque de la IA empresarial, centrándose menos en escala bruta y más en adecuación operativa.
El estándar ISO 42001 también podría adquirir relevancia creciente: como primer estándar internacional para sistemas de gestión de IA, podría convertirse en referencia en auditorías, licitaciones públicas y procesos regulatorios.
