Hugging Face incorpora un nuevo modelo de inteligencia artificial aproximadamente cada siete segundos, alcanzando actualmente cerca de 1,9 millones de modelos disponibles para desarrolladores en todo el mundo. Este volumen, impulsado por contribuciones de instituciones reconocidas y creadores independientes, fomenta el desarrollo de nuevas aplicaciones, pero también aumenta la exposición a riesgos en la cadena de suministro de IA. Estos riesgos incluyen vulnerabilidades en dependencias de software, archivos de modelos maliciosos o con puertas traseras, así como conjuntos de datos alterados o no conformes.
De acuerdo con el análisis presentado por Cisco, la complejidad de este escenario hace difícil que una sola organización pueda gestionar de forma integral la seguridad en todas las fases del ciclo de vida de la IA. La colaboración entre actores del ecosistema se perfila como un factor clave para asegurar su uso.
Acuerdo estratégico para reforzar la protección de modelos
Cisco ha anunciado una colaboración con Hugging Face a través de su equipo Foundation AI, combinando la posición central de Hugging Face como principal repositorio de modelos de IA de código abierto con las capacidades de detección de amenazas digitales de Cisco. En el marco de esta alianza, la compañía integrará su motor ClamAV actualizado para escanear todos los archivos públicos subidos a Hugging Face, incluidos los modelos de IA, en busca de software malicioso y amenazas específicas de este tipo de activos digitales.
Según Julien Chaumond, director de tecnología de Hugging Face, la cooperación permitirá ofrecer “protección integral contra malware tradicional y amenazas únicas de los modelos de IA” a través de una sola herramienta. Hugging Face ya utilizaba ClamAV en sus sistemas, pero la nueva actualización amplía su alcance a riesgos como la deserialización maliciosa en formatos comunes de modelos, como .pt y .pkl, con tiempos de análisis en milisegundos.
ClamAV amplía su cobertura a riesgos de IA
La actualización de ClamAV 1.5 incorpora soporte nativo para identificar archivos de modelos de IA durante el escaneo, aplicando reglas de detección específicas y medidas para un manejo más seguro de amenazas embebidas. Esta funcionalidad está disponible de forma gratuita para cualquier usuario de ClamAV y se integra también en la plataforma VirusTotal, donde ClamAV es el único motor antivirus que detecta modelos maliciosos.
En paralelo, la iniciativa se complementa con Cerberus, un sistema lanzado por Cisco Foundation AI para vigilar de forma continua la cadena de suministro de IA. Cerberus analiza los modelos conforme son incorporados en Hugging Face y comparte los resultados en flujos de amenazas estandarizados, que posteriormente son utilizados por los productos de seguridad de Cisco para definir y aplicar políticas de acceso específicas.
Integración con soluciones de seguridad empresarial
Las capacidades de detección de amenazas en modelos de IA de ClamAV y Cerberus ya están integradas en el portafolio de Cisco, incluyendo Secure Endpoint, Secure Email Threat Defense, Secure Access y Secure Firewall. Los usuarios de Cisco Secure Access, por ejemplo, pueden configurar bloqueos sobre repositorios de Hugging Face, restringir modelos con licencias de riesgo, impedir el acceso a modelos procedentes de regiones políticamente sensibles o que provengan de organizaciones con datos críticos.
Estas medidas buscan ofrecer una capa adicional de control y visibilidad sobre un segmento emergente del ecosistema digital, en el que los modelos de IA se están convirtiendo en activos con relevancia estratégica y, por tanto, en objetivos potenciales para ataques.
