La automatización mediante agentes de inteligencia artificial exige que las empresas refuercen el control humano sobre sus decisiones para evitar que los errores se propaguen a la misma velocidad que las tareas. Esa fue la advertencia central del AI Congress Barcelona, impulsado por CIDAI y organizado por Eurecat: ampliar la autonomía de estos sistemas requiere gobernanza, protecciones técnicas y una supervisión efectiva de su ejecución.
El encuentro vinculó esta necesidad con otra decisión empresarial: dónde ejecutar los modelos y cómo conservar el control sobre los datos que utilizan. Los participantes plantearon la personalización y el despliegue local en infraestructuras de las organizaciones como una vía para reforzar la privacidad y reducir la dependencia de proveedores externos. El debate conectó así la capacidad de automatizar con las condiciones necesarias para utilizarla.
La duodécima edición del congreso, celebrada del 20 al 22 de octubre de 2026 en Barcelona, reunió a más de medio centenar de ponentes y superó los 2.200 inscritos. Sus sesiones abordaron la rápida expansión de la IA agéntica durante el último año, con ejemplos de agentes y sistemas multiagente aplicados a distintos sectores y recomendaciones sobre seguridad y cumplimiento normativo.
El riesgo de automatizar también los errores
La cofundadora y CEO de Alinia AI, Ariadna Font, explicó el riesgo operativo que acompaña a esa expansión: «la IA agéntica multiplica no solo la productividad, sino también el volumen y la velocidad de los errores. Una persona se equivoca una vez, pero un agente repite el error mil veces antes de que nadie se haya dado cuenta».
La comparación sitúa el problema en la capacidad de repetición de un fallo, además de en su aparición. Para una organización, la productividad que puede aportar un agente queda ligada a la posibilidad de mantener su actuación dentro de los criterios definidos por las personas. Desde esa perspectiva, Font defendió la inversión en marcos y sistemas robustos de control y gobernanza como una prioridad para utilizar los avances de forma segura y responsable.
El director del AI Congress y director científico del Área Digital de Eurecat, Joan Mas, describió esa tensión entre capacidad y protección: «IA agéntica ha eclosionado este último año y presenta unas grandes oportunidades para conseguir unos niveles de automatización realmente importantes, pero también presenta interrogantes respecto a los riesgos y las protecciones que tenemos que incluir en estos agentes, para que no se desalineen del criterio humano en sus decisiones».
El planteamiento traslada la gobernanza al propio despliegue de los agentes. Las protecciones forman parte de las condiciones para ampliar su uso, porque la autonomía solo resulta útil para la empresa si las decisiones siguen respondiendo a sus objetivos. La supervisión humana adquiere así una función operativa: conservar la capacidad de controlar cómo se ejecuta el trabajo automatizado.
Datos personales y supervisión efectiva
La directora de la Autoridad Catalana de Protección de Datos (APDCAT), Meritxell Borràs, abordó los retos que aparecen cuando los agentes trabajan con datos personales. Su intervención puso el foco tanto en la protección de esa información como en la forma de estructurar una supervisión humana efectiva durante la ejecución de los sistemas.
Este enfoque añade una dimensión específica al control de errores. Cuando la actividad automatizada implica información personal, las decisiones sobre el funcionamiento del agente afectan también al tratamiento de los datos. Por ello, la supervisión y la privacidad quedaron vinculadas en el debate, en lugar de presentarse como cuestiones separadas de la adopción tecnológica.
Las sesiones dedicadas a agentes y sistemas multiagente incluyeron recomendaciones para garantizar la seguridad técnica ante las amenazas y los riesgos a los que están expuestos, así como para cumplir con el Reglamento de Inteligencia Artificial (AI Act). Para las empresas, estos asuntos amplían los criterios con los que valorar un despliegue: la capacidad de ejecutar tareas debe examinarse junto con las protecciones y las obligaciones aplicables.
Modelos locales para conservar el control
El congreso señaló como próxima evolución del despliegue empresarial la utilización de modelos personalizados que funcionen de manera independiente y local en las infraestructuras de las organizaciones. Los participantes los presentaron como una alternativa a los servicios en la nube basados en grandes modelos de frontera de IA generativa, con objetivos de control de datos, privacidad, eficiencia y menor dependencia externa.
La propuesta introduce la infraestructura en la conversación sobre gobernanza. Elegir dónde funciona un modelo está relacionado con el control que la organización quiere mantener sobre su información y con los recursos necesarios para utilizarlo. El despliegue local se planteó como una opción para atender esas prioridades, no como un resultado ya generalizado en las empresas.
La directora científica de IA de Multiverse Computing, Jezabel R. Garcia, relacionó esa posibilidad con la compresión de modelos. Según explicó, esta técnica permite mantener la capacidad de un modelo y reducir su tamaño y consumo energético en más de un 50 %. La especialista vinculó esa reducción con la posibilidad de ejecutar IA allí donde aporte valor, desde dispositivos y empresas hasta hospitales y administraciones públicas.
Su intervención situó el tamaño y el consumo como factores relevantes para acercar los modelos a los entornos de uso. La eficiencia entra así en la decisión de despliegue junto a la privacidad y la dependencia de proveedores. La reducción señalada por Garcia corresponde a su exposición sobre compresión; no constituye una medición del rendimiento del conjunto de soluciones presentadas en el encuentro.
Definir el objetivo antes de ampliar la autonomía
La selección de infraestructura y controles necesita partir de una finalidad concreta. La experta en transformación digital Pooja Munshi desarrolló el concepto de IA intencional: sistemas alineados con objetivos definidos y con las necesidades de las personas, las organizaciones y el medioambiente. A partir de su trabajo como responsable del Programa de las Naciones Unidas para el Medio Ambiente, defendió atender a las evidencias y a las personas afectadas al desarrollar productos de IA.
En el plano institucional, el presidente de Eurecat, Daniel Altimiras, situó el reto empresarial en incorporar la tecnología de forma efectiva, segura y responsable para convertirla en productividad y competitividad. El secretario de Telecomunicaciones y Transformación Digital de la Generalitat, Albert Tort, defendió orientar la IA a problemas reales, al valor público y a la mejora de los servicios a la ciudadanía.
Para los responsables de adopción, esa orientación tiene una consecuencia práctica: la definición del proceso que se quiere automatizar debe ir acompañada de los criterios humanos que el agente ha de respetar, las protecciones durante su ejecución y las condiciones de uso de los datos. Esas decisiones determinan hasta dónde puede ampliarse su autonomía dentro de la organización.
Sigue el análisis de tecnología empresarial en Google
Añade La Ecuación Digital como fuente preferida y verás más análisis sobre inteligencia artificial, cloud, ciberseguridad, infraestructura de datos y transformación digital en tus resultados de Google.
Seguir La Ecuación Digital en GoogleAl hacer clic podrás seleccionar La Ecuación Digital como fuente preferida en Google.
