Estás leyendo
NVIDIA lleva la seguridad de los agentes de IA al hardware

NVIDIA lleva la seguridad de los agentes de IA al hardware

  • NVIDIA Open Agent Safety Platform combina controles de software y hardware para limitar, supervisar y aislar agentes de IA durante su ejecución empresarial.
NVIDIA

NVIDIA ha presentado  NVIDIA Open Agent Safety Platform , una arquitectura abierta con la que pretende trasladar parte de la seguridad de los agentes de inteligencia artificial fuera del propio modelo y de las aplicaciones que los gobiernan. La propuesta combina un entorno de ejecución aislado, OpenShell, con un sistema de vigilancia independiente basado en sus DPU BlueField-4, de manera que las políticas puedan seguir aplicándose aunque un agente intente actuar fuera de los límites establecidos.

El planteamiento apunta a uno de los problemas que empiezan a ganar peso a medida que los agentes dejan de limitarse a generar respuestas y pasan a ejecutar tareas: estos sistemas pueden acceder a archivos, credenciales, APIs, redes corporativas o herramientas de terceros durante periodos prolongados. Cuanta más autonomía reciben, mayor es la dependencia de mecanismos capaces de limitar qué recursos pueden utilizar y de registrar lo que hacen durante la ejecución.

NVIDIA quiere abordar ese riesgo con controles distribuidos a través de distintas capas de la infraestructura. Open Agent Safety Platform abarca software, servidores y sistemas robóticos y está diseñado para que las organizaciones puedan adoptar sus componentes de forma independiente, según el nivel de aislamiento y supervisión que necesiten.

OpenShell crea una frontera alrededor del agente

La primera pieza es OpenShell, un proyecto de código abierto bajo licencia Apache 2.0 que proporciona entornos aislados para ejecutar agentes autónomos. El software permite definir mediante políticas qué archivos, procesos, conexiones de red y servicios puede utilizar cada agente.

Su arquitectura introduce controles en el kernel y examina las conexiones antes de que abandonen el entorno aislado. También separa las credenciales del agente: este no recibe directamente las claves reales, sino que OpenShell puede incorporarlas únicamente a las peticiones dirigidas a destinos previamente autorizados. El proyecto incluye además mecanismos para revisar cambios en las políticas antes de conceder nuevos permisos.

Esta separación resulta relevante para despliegues empresariales porque reduce la dependencia de que el propio agente respete instrucciones incluidas en el prompt o en su framework de ejecución. Una organización puede establecer, por ejemplo, que un agente tenga acceso a determinados repositorios o endpoints sin concederle conectividad general hacia otros sistemas.

OpenShell funciona mediante un gateway que gestiona los entornos aislados, los proveedores de credenciales y las políticas. Su documentación contempla despliegues con Docker, Podman, micromáquinas virtuales y Kubernetes, aunque NVIDIA señala que algunos de estos caminos siguen evolucionando. El repositorio público ofrece SDK para Python, TypeScript, Go y Rust.

NVIDIA vincula especialmente el software con Vera, su CPU orientada a cargas de IA agéntica, pero el carácter abierto de OpenShell permite extenderlo a otras plataformas de computación. Arm e Intel figuran entre las compañías relacionadas con este esfuerzo de interoperabilidad.

Sentry vigila al agente desde una capa independiente

El segundo componente cambia de nivel. NVIDIA Sentry es un diseño de referencia que utiliza las DPU BlueField-4 para supervisar el comportamiento del agente desde un dominio separado del sistema donde este ejecuta sus tareas.

La diferencia arquitectónica es importante. Mientras OpenShell establece las reglas del entorno de ejecución, Sentry actúa como un supervisor «fuera de banda». NVIDIA sostiene que puede detectar intentos de abandonar los límites definidos y poner en cuarentena al agente en milisegundos.

La vigilancia se apoya en NVIDIA DOCA, la plataforma de software asociada a BlueField. Desde esa capa se pueden inspeccionar solicitudes y respuestas, verificar identidades, generar telemetría verificable y aplicar controles de acceso sobre datos, herramientas, APIs y otros servicios.

El objetivo es reducir la posibilidad de que un fallo en la misma pila de software utilizada por el agente comprometa también el mecanismo encargado de detenerlo. Este patrón es habitual en otros ámbitos de seguridad: separar el plano de control del entorno que debe supervisarse dificulta que una única vulnerabilidad elimine simultáneamente la carga de trabajo y sus defensas.

También introduce una dependencia de infraestructura para las organizaciones que quieran adoptar el esquema completo. OpenShell puede desplegarse como software en distintos entornos, mientras que las capacidades de Sentry están vinculadas al uso de BlueField-4. La arquitectura permite, por tanto, diferentes niveles de adopción en función del hardware disponible y de los requisitos de seguridad.

Una capa de control para ecosistemas con múltiples agentes

NVIDIA acompaña el lanzamiento con un amplio grupo de socios tecnológicos y clientes que están integrando partes de la plataforma. Anthropic trabaja con la compañía para combinar OpenShell y BlueField con Claude Managed Agents, donde el bucle del agente ya se ejecuta separado de los entornos en los que se realizan las tareas.

Salesforce ha integrado OpenShell con Slack para que los equipos puedan consultar actividad y eventos de auditoría y aprobar solicitudes de permisos adicionales. SAP trabaja en su incorporación al runtime de Joule Studio y participa en desarrollos relacionados con interoperabilidad y estándares de seguridad.

También aparecen proveedores de ciberseguridad como CrowdStrike, Palo Alto Networks y Cisco; fabricantes e infraestructura como Dell Technologies, HPE, Lenovo y Supermicro; compañías de software empresarial como Red Hat, ServiceNow y Microsoft; y organizaciones financieras como Citi y JPMorganChase.

Te puede interesar
Ana Alonso, vicepresidenta senior y directora general de Europa Este y Mediterránea, Turquía, Israel y África de Salesforce

La extensión al mundo físico amplía el alcance del proyecto. Figure, Gecko Robotics y Skild AI figuran entre las empresas que trabajan con OpenShell para incorporar restricciones a sistemas autónomos capaces de actuar fuera de un entorno puramente digital. En estos casos, una política incorrecta puede tener consecuencias distintas a las de un agente que únicamente consulta una base de datos o modifica código.

La lista de participantes supera el centenar de organizaciones, aunque su presencia no implica que todas utilicen la plataforma con el mismo grado de madurez ni que hayan desplegado todos sus componentes. NVIDIA agrupa bajo la iniciativa desde integraciones comerciales hasta contribuciones de ingeniería, pruebas y trabajo sobre estándares.

La seguridad del agente pasa a formar parte de la infraestructura

El lanzamiento refleja un cambio en la manera de abordar la seguridad de la IA empresarial. Las protecciones aplicadas únicamente al modelo resultan insuficientes cuando un agente puede encadenar herramientas, recibir credenciales, instalar software o comunicarse con sistemas internos durante horas.

En ese escenario, los controles tradicionales de identidad, segmentación de red, privilegios mínimos, auditoría y aislamiento vuelven a ocupar una posición central. OpenShell adapta varios de esos principios a agentes cuyo comportamiento puede variar durante una misma tarea y cuya necesidad de permisos puede cambiar mientras trabajan.

La condición de código abierto también permite que los equipos de seguridad inspeccionen y modifiquen parte de la capa de ejecución. OpenShell está disponible públicamente en GitHub y NVIDIA mantiene documentación para instalación, políticas, sandboxes y operación de gateways. El repositorio ya se encuentra en la rama 0.1.x, señal de que sigue siendo un proyecto en evolución y de que las empresas deberán considerar la madurez de cada componente antes de incorporarlo a cargas críticas.

La compañía está conectando además estas tecnologías con la Open Secure AI Alliance, iniciativa gobernada por la Linux Foundation que trabaja en herramientas, investigación e intercambio de información sobre seguridad de sistemas de IA.

Para los responsables de tecnología y seguridad, la derivada operativa es concreta: desplegar agentes con capacidad para actuar sobre sistemas corporativos obliga a definir controles que permanezcan fuera de su alcance. La propuesta de NVIDIA convierte esa función en una combinación de políticas de ejecución, aislamiento, telemetría y, para los entornos que adopten la arquitectura completa, supervisión independiente en hardware.

Ver Comentarios (0)

Leave a Reply

Utilizamos cookies para facilitar la relación de los visitantes con nuestro contenido y para permitir elaborar estadísticas sobre las visitantes que recibimos. No se utilizan cookies con fines publicitarios ni se almacena información de tipo personal. Puede gestionar las cookies desde aquí.   
Privacidad