La Universitat Politècnica de València (UPV), a través del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN), encabeza una investigación internacional centrada en los desafíos que plantea la protección de la privacidad ante el avance de la inteligencia artificial (IA). El proyecto está liderado por José Such, catedrático e investigador del VRAIN, y cuenta con la participación de 16 expertos procedentes del ámbito académico, industrial y gubernamental provenientes de países como Estados Unidos, Reino Unido o Alemania.
El grupo ha identificado cuatro grandes retos que marcarán las líneas prioritarias para garantizar una IA respetuosa con los derechos individuales. Estas conclusiones han sido recogidas en el artículo colaborativo “Grandes retos de la privacidad centrada en el ser humano”, publicado recientemente por IEEE Security & Privacy.
Privacidad inclusiva como eje fundamental
Uno de los pilares clave señalados es el desarrollo responsable y ético de una «privacidad inclusiva». Este enfoque busca proteger especialmente a colectivos vulnerables frente a posibles sesgos algorítmicos derivados por género, edad, orientación sexual, etnia o discapacidad entre otros factores socioculturales.
Decisiones reversibles y comunicación transparente
Otro reto destacado se centra en facilitar decisiones relacionadas con la privacidad que sean reversibles. Esto implica diseñar sistemas capaces no solo de informar adecuadamente al usuario sobre cómo se gestionan sus datos personales sino también permitirle modificar su consentimiento posteriormente si así lo desea.
Capacitación del usuario frente a sistemas inteligentes
El tercer desafío apunta hacia herramientas educativas y tecnológicas que permitan empoderar al usuario final para gestionar su propia información dentro entornos basados en IA. Se subraya aquí la necesidad urgente por mejorar tanto explicabilidad como transparencia operativa dentro estos sistemas automatizados.
Gestión compartida: privacidad multiusuario
Por último, se aborda un aspecto cada vez más relevante: cuando múltiples usuarios comparten datos interrelacionados —por ejemplo familiares usando dispositivos comunes— es imprescindible desarrollar mecanismos técnicos adecuados para salvaguardar intereses cruzados sin comprometer derechos individuales.
Estas temáticas fueron debatidas durante un seminario celebrado entre el 22 y 27 junio en Dagstuhl (Alemania), donde José Such fue invitado como experto principal debido al liderazgo ejercido desde VRAIN-UPV dentro esta línea investigadora emergente globalmente reconocida.
