La gobernanza de la IA entró esta semana en una fase más política que técnica. António Guterres, secretario general de Naciones Unidas, abrió el 6 de julio en Ginebra el primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial con una advertencia dirigida tanto a gobiernos como a compañías tecnológicas: la tecnología avanza más rápido que las instituciones capaces de supervisarla. La cuestión de fondo ya no es si la inteligencia artificial transformará la economía, el trabajo o la seguridad internacional, sino quién fijará sus condiciones.
Guterres situó el debate en un punto incómodo para la industria. «Se está ejecutando un experimento sobre nuestras propias sociedades, sin plan y sin consentimiento», afirmó. La frase resume una intervención que no presentó la IA como una amenaza homogénea, aunque sí como una tecnología que ha dejado atrás los mecanismos ordinarios de control público, auditoría y responsabilidad empresarial.
El Diálogo Global, celebrado los días 6 y 7 de julio, nace del mandato del Pacto Digital Global y de una resolución posterior de la Asamblea General. Su objetivo es ofrecer un foro donde todos los Estados, incluidos los ajenos a la primera línea de desarrollo de modelos, puedan intervenir en las reglas de adopción. La ONU lo plantea como un espacio universal de cooperación, con una segunda sesión prevista en Nueva York en mayo de 2027.
Gobernanza de la IA frente a velocidad, poder y verdad
Guterres articuló su discurso alrededor de tres advertencias del Panel Científico Internacional Independiente sobre Inteligencia Artificial, formado por 40 expertos de distintas regiones y disciplinas. La primera se refiere a la velocidad. Según recordó, internet tardó 15 años en alcanzar los 1.000 millones de usuarios; la IA lo logró en dos. La comparación altera el calendario de los reguladores y también el de las empresas que integran estos sistemas en operaciones críticas.
La segunda advertencia afecta al poder. El cómputo, los datos y el talento necesarios para entrenar y desplegar los modelos más avanzados se concentran en pocas compañías y en pocos países. La dependencia de proveedores externos, la escasez de cómputo propio y la dificultad de negociar condiciones de uso sitúan la soberanía tecnológica en el mismo plano que la eficiencia operativa. En España, esa concentración puede condicionar costes y control sobre los datos.
La tercera señal de alarma fue la verdad. Guterres sostuvo que una mentira generada por máquinas puede persuadir con la misma eficacia que una información veraz, mientras las pruebas auténticas pueden ser descartadas como falsas. La erosión de la confianza pública ya no pertenece solo al terreno electoral o mediático. También afecta a la ciberseguridad, al cumplimiento normativo y a la reputación corporativa.
Ahí apareció una de las expresiones más llamativas del discurso: «vibe coding». Guterres la utilizó como metáfora de una delegación excesiva en sistemas que parecen funcionar, aunque nadie mire demasiado de cerca. Admitió que esa práctica puede producir resultados útiles, pero marcó un límite: «No podemos vibe-codear la verdad. No podemos vibe-codear el futuro de la humanidad». La frase conecta con una tensión presente en muchas empresas: automatizar rápido sin perder el control sobre datos, decisiones y responsabilidades.
Seguridad infantil, derechos humanos y capacidad
El primer bloque de prioridades fue la seguridad. Guterres pidió bases comunes para probar sistemas de frontera, medir riesgos y asignar responsabilidades. La alternativa, dijo, es un mosaico de reglas incompatibles que encarece la adopción, fragmenta mercados y no protege a nadie. Esta lógica conecta con el debate europeo: el Reglamento de IA de la UE entró en vigor el 1 de agosto de 2024, aplica obligaciones graduales y ya mantiene reglas para modelos de propósito general, mientras la Comisión prevé poderes de supervisión y sanción sobre estos modelos desde el 2 de agosto de 2026.
El foco más sensible fueron los menores. Guterres anunció un «AI Child Safety Pledge» con tres exigencias para cualquier sistema accesible a niños: pruebas específicas de seguridad infantil e inspección independiente antes del despliegue, tolerancia cero ante la generación de imágenes sexuales de menores, y conexión inmediata con apoyo humano real cuando un niño muestre señales de crisis. «Cuando un niño sufre daños, la respuesta nunca debe ser ‘lo hizo el algoritmo'», dijo.
Para proveedores de asistentes conversacionales, plataformas educativas, videojuegos, redes sociales o servicios de atención automatizada, la seguridad infantil deja de ser un módulo de moderación para convertirse en una prueba previa de producto. También abre una discusión sobre certificación, trazabilidad de incidentes y obligación de intervención humana.
La segunda prioridad fueron las «líneas rojas». Guterres vinculó la IA con derechos humanos, dignidad y discriminación, y defendió que en decisiones de alto impacto, como justicia, salud o policía, las máquinas pueden informar, pero las personas deben decidir y responder. El matiz importa. No reclama una retirada de la IA en ámbitos sensibles, sino una arquitectura en la que la automatización no diluya la rendición de cuentas.
La tercera prioridad fue la capacidad. Guterres contrastó la inversión privada en infraestructura de IA, próxima al medio billón de dólares el año pasado, con la inversión pública destinada a capacitar a países en desarrollo, que describió como residual. También anunció que presentará a la Asamblea General recomendaciones para un Fondo Global para la IA, orientado a habilidades, datos y cómputo asequible. Más de 20 Estados miembros, según indicó, ya nominaron centros para una red apoyada por Naciones Unidas.
La infraestructura entra en la ecuación
La cuarta prioridad fue la transparencia ambiental. La IA suele presentarse como software, pero descansa sobre centros de datos, redes eléctricas, agua, suelo y contratos de energía. Guterres recordó que los centros de datos ya consumen más electricidad que la mayoría de los países y advirtió de que, en 2030, podrían superar a todos salvo cinco Estados. También habló de consumo hídrico, un punto relevante para territorios tensionados por calor, sequía o congestión energética.
La Iniciativa de Transparencia Ambiental de la IA, planteada por Guterres dos semanas antes del discurso, pide a las grandes compañías medir y publicar la huella completa de sus sistemas, carbono, agua y suelo, y comprometerse a alimentarlos con energías renovables en 2030. Para el mercado español, donde la inversión en centros de datos se cruza con disponibilidad de suelo, conexión a red y autorizaciones ambientales, añade una capa reputacional y de reporte.
El tramo final del discurso llevó la conversación fuera del uso civil. Guterres advirtió de que los mismos modelos y chips han llegado al campo de batalla y reclamó la prohibición por derecho internacional de los sistemas letales autónomos, a los que llamó «robots asesinos». En su marco, seleccionar y atacar objetivos sin control ni juicio humano pertenece a una categoría de decisión que no debe delegarse.
La intervención deja una lectura empresarial concreta. Las compañías que despliegan IA no se moverán solo entre innovación y eficiencia, sino entre auditoría, seguridad infantil, trazabilidad, transparencia ambiental, supervisión humana y dependencia de proveedores concentrados. La ONU no tiene la capacidad regulatoria de Bruselas ni el poder de mercado de las grandes plataformas, aunque sí intenta fijar una base común de legitimidad. Para los directivos, ese movimiento anticipa un ciclo en el que comprar, integrar o entrenar IA exigirá justificar el retorno económico y la arquitectura de responsabilidad que sostiene cada sistema.
