La inteligencia artificial se ha integrado con rapidez en los procesos empresariales, pero su avance no ha ido acompañado, en muchos casos, de una evaluación rigurosa de los riesgos que implica. Según el informe Global Cybersecurity Outlook 2025 del Foro Económico Mundial, solo el 37% de las organizaciones dispone de procesos adecuados para analizar la seguridad antes de implementar sistemas de IA. Un dato que, lejos de ser anecdótico, refleja una brecha estructural en la gobernanza tecnológica.
La expansión de modelos generativos, asistentes virtuales y sistemas de automatización ha abierto nuevas vías de eficiencia, pero también ha multiplicado los vectores de ataque. Tokiota, partner español de Microsoft especializado en soluciones basadas en IA, nube e infraestructuras seguras, ha identificado cuatro amenazas emergentes que ya están afectando a las organizaciones: fugas de datos por prompts maliciosos, ataques adversariales, data poisoning y el fenómeno de la shadow AI.
La primera de estas amenazas, conocida como prompt injection, aprovecha la interacción con modelos de lenguaje para extraer información sensible. En sectores como el financiero o el sanitario, donde los datos personales son especialmente críticos, este tipo de vulnerabilidad puede tener consecuencias legales y reputacionales. La manipulación del modelo mediante instrucciones diseñadas para eludir sus filtros de seguridad pone en cuestión la robustez de los sistemas actuales. Para mitigar este riesgo, Tokiota recomienda auditar y etiquetar previamente la información, definir políticas claras de permisos y aplicar mecanismos de gobernanza adaptados al uso de IA.
Los ataques adversariales, por su parte, se basan en introducir pequeñas alteraciones en los datos de entrada para engañar al modelo. Aunque imperceptibles para el ojo humano, estas modificaciones pueden provocar decisiones erróneas en sistemas de reconocimiento de imágenes, detección de fraudes o análisis predictivo. La respuesta técnica pasa por entrenar a los modelos con ejemplos de datos manipulados y desplegar sistemas de detección de anomalías. Sin embargo, el reto va más allá del plano técnico: implica revisar los procesos de validación y supervisión de los modelos en producción.
En una fase anterior del ciclo de vida de la IA, el data poisoning actúa durante el entrenamiento. Al introducir datos falsos o sesgados en los conjuntos de entrenamiento, los atacantes pueden alterar el comportamiento del modelo de forma persistente. Este tipo de ataque no solo compromete la precisión, sino que puede introducir sesgos intencionados o fallos funcionales. La validación de datasets, la supervisión de fuentes externas y el uso seguro del fine-tuning son algunas de las medidas que propone Tokiota para prevenir este tipo de sabotaje silencioso.
Pero no todos los riesgos provienen de actores externos. La shadow AI, o el uso no autorizado de herramientas de inteligencia artificial por parte de empleados sin conocimiento del área de IT o ciberseguridad, plantea un desafío interno. La falta de marcos normativos claros y la presión por aumentar la productividad han llevado a muchos profesionales a incorporar soluciones de IA sin supervisión, exponiendo a las organizaciones a filtraciones, incumplimientos normativos y errores operativos. Para abordar esta situación, Tokiota insiste en la necesidad de formación, concienciación y políticas de gobernanza que integren la IA en la estrategia corporativa.
“Las compañías, al mismo tiempo que evolucionan tecnológicamente, deben ser plenamente conscientes de la importancia de su seguridad y poner en marcha las políticas necesarias para salvaguardar sus datos”, señala Sisco Barrera, responsable de seguridad e infraestructura de Tokiota. Entre las soluciones que menciona se encuentran Microsoft Purview y Microsoft Entra ID, que permiten etiquetar automáticamente información sensible, prevenir fugas de datos, gestionar identidades privilegiadas y aplicar controles de acceso basados en el riesgo.
La tensión entre innovación y control no es nueva, pero en el caso de la inteligencia artificial adquiere una dimensión más compleja. A diferencia de otras tecnologías, los sistemas de IA aprenden y evolucionan con el tiempo, lo que dificulta prever todas sus posibles desviaciones. Además, la opacidad de algunos modelos, especialmente los generativos, complica la trazabilidad de sus decisiones y la identificación de fallos.
En este escenario, la ciberseguridad ya no puede abordarse como un conjunto de herramientas técnicas aisladas. Se convierte en una cuestión estratégica que atraviesa todas las capas de la organización: desde la arquitectura tecnológica hasta la cultura corporativa. La capacidad de anticipar, detectar y responder a amenazas en entornos de IA será, cada vez más, un factor diferencial para las empresas que operan en sectores regulados o intensivos en datos.
Aunque aún son pocas las organizaciones que han incorporado mecanismos específicos para proteger sus sistemas de IA, el debate ya está sobre la mesa. El mes de la ciberseguridad ha servido como catalizador para visibilizar estos riesgos, pero la consolidación de una estrategia efectiva requerirá algo más que campañas de concienciación. Implicará revisar marcos normativos, redefinir responsabilidades y, sobre todo, asumir que la inteligencia artificial no es neutra ni infalible. Es una herramienta poderosa, sí, pero también vulnerable.
