La confianza en los sistemas de inteligencia artificial (IA) se ha convertido en un requisito esencial para su adopción empresarial. Así lo afirma Victoria Gómez, líder de IA en IBM para España, Portugal, Grecia e Israel, quien subraya que las organizaciones no pueden permitirse riesgos reputacionales ni regulatorios derivados del uso inadecuado de estas tecnologías.
Según Gómez, una IA confiable debe basarse en tres pilares fundamentales: transparencia, explicabilidad y privacidad de los datos. Estos principios son clave tanto para cumplir con la normativa europea como para garantizar el correcto funcionamiento interno y externo de las soluciones implementadas.
Uno de los conceptos centrales abordados es la explicabilidad. Este principio implica que las empresas deben ser capaces de comprender cómo han sido entrenados sus modelos y cómo estos llegan a determinadas conclusiones. Esta capacidad resulta crucial ante posibles auditorías regulatorias o consultas por parte de clientes finales.
En cuanto al entrenamiento eficiente de modelos fundacionales —también conocidos como modelos base— IBM ha desarrollado Plug, una herramienta diseñada para facilitar procesos más flexibles mediante técnicas como el alineamiento incremental y el entrenamiento colaborativo. Estas metodologías permiten actualizar los modelos sin necesidad de reentrenarlos completamente cada vez que se requiere un ajuste específico.
Plug también incorpora generación sintética de datos como mecanismo complementario al entrenamiento tradicional. Aunque esta práctica puede suscitar dudas sobre su fiabilidad frente a datos reales, Gómez aclara que «la calidad del dato sigue siendo fundamental» incluso cuando se generan muestras sintéticas a partir del conjunto original estructurado correctamente.
Respecto al futuro inmediato del sector, IBM está trabajando activamente en agentes autónomos o AI agents. Aunque aún no están plenamente disponibles comercialmente según indica Gómez, representan un paso evolutivo respecto a asistentes conversacionales tradicionales hacia entornos más automatizados e integrados con tecnologías como RPA (automatización robótica). La compañía prevé avances significativos en este campo durante los próximos meses.
