El investigador canadiense Yoshua Bengio, reconocido internacionalmente por sus contribuciones a la inteligencia artificial (IA) y galardonado con el Premio Turing, ha anunciado la creación de LawZero, una organización sin ánimo de lucro centrada en el desarrollo de sistemas de IA diseñados desde su origen para ser seguros.
La entidad, con sede en Montreal, está integrada por un equipo técnico de más de quince investigadores y se presenta como una respuesta estructural ante los riesgos emergentes de los modelos de IA más avanzados.
LawZero nace en un contexto en el que los modelos de IA denominados frontier models están mostrando capacidades que, según diversos estudios, incluyen comportamientos indeseados como la auto-preservación, la desinformación y la desalineación de objetivos. Según el comunicado oficial, LawZero adopta un enfoque que prioriza la seguridad frente a cualquier presión comercial o gubernamental, con el objetivo de desarrollar soluciones técnicas que mitiguen los peligros potenciales de la IA. Fuente: LawZero.
Every frontier AI system should be grounded in a core commitment: to protect human joy and endeavour. Today, we launch @LawZero_, a nonprofit dedicated to advancing safe-by-design AI. https://t.co/6VJecvaXYT pic.twitter.com/PfXw5lVqhF
— LawZero – LoiZéro (@LawZero_) June 3, 2025
Un modelo no agentivo: alternativa técnica a los sistemas autónomos
La iniciativa se articula en torno a un enfoque denominado Scientist AI, un tipo de sistema no agentivo que, a diferencia de los modelos que operan de forma autónoma, está diseñado para comprender el mundo sin intervenir activamente en él. Estos sistemas se caracterizan por generar respuestas veraces mediante razonamientos externos y transparentes, lo que, según sus impulsores, permite un mayor control y una menor propensión a conductas problemáticas.
La arquitectura de Scientist AI, aún en desarrollo, se plantea como una posible herramienta de supervisión para otros sistemas agentivos, así como una vía para avanzar en descubrimientos científicos. La organización prevé que esta tipología de IA contribuya a mejorar el conocimiento sobre los propios riesgos de los sistemas actuales y las posibles estrategias para prevenirlos.
Independencia estructural para evitar presiones externas
Uno de los principios fundacionales de LawZero es la desvinculación del mercado. La estructura sin ánimo de lucro pretende blindar su actividad investigadora de presiones externas que puedan comprometer sus objetivos de seguridad. Para ello, la organización ha sido incubada en el Mila – Quebec AI Institute, también fundado por Bengio, que continúa siendo su socio operativo.
La financiación inicial ha contado con aportaciones de entidades privadas centradas en la supervisión ética del desarrollo tecnológico, entre ellas Future of Life Institute, Open Philanthropy, Schmidt Sciences y la Silicon Valley Community Foundation, así como del empresario estonio Jaan Tallinn.
Contexto de creación y motivación científica
En palabras de Yoshua Bengio, LawZero es el resultado de una reorientación de su investigación iniciada en 2023, motivada por el ritmo acelerado de los avances hacia la Inteligencia Artificial General (AGI). El investigador sostiene que los modelos actuales ya manifiestan indicios de conductas complejas no deseadas, lo que podría agravarse conforme aumente su capacidad y autonomía.
Bengio afirma que la organización representa una respuesta constructiva a estos desarrollos, orientada a promover un modelo de IA con un principio rector: proteger las actividades humanas y su bienestar. No obstante, el discurso oficial evita hacer predicciones o promesas de impacto, centrándose en la descripción técnica de sus propuestas y en el carácter preventivo de su investigación.
Desafíos y escenarios previstos
Aunque todavía en fase inicial, el enfoque de LawZero introduce un cambio de paradigma en la forma en que se conciben los sistemas de IA. Frente a modelos entrenados para ejecutar tareas y tomar decisiones de forma autónoma, la propuesta de Scientist AI se orienta hacia la comprensión y la transparencia, lo que podría ofrecer ventajas en escenarios donde la verificabilidad y la trazabilidad son fundamentales.
Uno de los retos identificados por diversos expertos en la materia es la escalabilidad de este tipo de soluciones, así como su capacidad para competir en un entorno donde el desarrollo de modelos cada vez más complejos y autónomos es incentivado por objetivos comerciales. Asimismo, será relevante observar cómo se articula la colaboración entre entidades académicas y el sector público para garantizar una gobernanza adecuada de estas tecnologías emergentes.
Implicaciones para la comunidad tecnológica y científica
La aparición de LawZero coincide con un momento de creciente interés por parte de la comunidad internacional en establecer normas técnicas y jurídicas que regulen el desarrollo de sistemas de IA de alto impacto. A este respecto, el enfoque de Bengio refuerza las iniciativas que defienden un modelo de IA concebido como bien público global, orientado a minimizar riesgos sistémicos y a preservar el control humano sobre tecnologías de decisión.
En este sentido, la estrategia de desvinculación de intereses comerciales y la apuesta por estructuras organizativas independientes podría marcar un precedente para otras iniciativas en el ámbito de la IA segura. El desarrollo de sistemas no agentivos, si bien menos mediático que otros avances recientes, se plantea como una vía técnica para frenar la progresiva externalización de decisiones complejas a sistemas autónomos opacos.
