Sam Altman, CEO de OpenAI, ha propuesto la creación de una agencia internacional encargada de supervisar los futuros modelos avanzados de inteligencia artificial (IA) para garantizar su seguridad. En una reciente entrevista en el podcast All-In, Altman expresó su preocupación sobre los modelos de IA de próxima generación, destacando su potencial poder y peligrosidad.
Altman afirmó: «Creo que llegará un momento en el futuro no muy lejano, hablamos de años y no décadas, en que los sistemas de IA más avanzados podrían ocasionar daños globales considerables». Esta declaración pone de relieve la necesidad de una vigilancia global sobre estas tecnologías emergentes.
Las autoridades tanto en Estados Unidos como en Europa han estado desarrollando leyes para regular la IA. No obstante, Altman considera que la legislación rígida no puede seguir el rápido ritmo de avance de la IA. Criticó la tendencia de ciertos estados de EE. UU. a regular la IA de manera independiente, alegando que una aproximación descoordinada es insuficiente.
Respecto a los sistemas avanzados de IA, Altman explicó: «Para esos tipos de sistemas, de la misma manera que tenemos una supervisión global de armas nucleares o biología sintética, necesitamos un ente internacional que garantice pruebas razonables de seguridad».
Altman comparó la necesidad de esta regulación internacional con la vigilancia nuclear. La Agencia Internacional de Energía Atómica, por ejemplo, supervisa a los estados miembros con acceso a cantidades significativas de material nuclear. Altman ilustró: «Si trazamos la línea en modelos entrenados en computadoras que cuestan más de 10.000 millones o 100.000 millones de dólares, estaría bien. No creo que eso imponga una carga regulatoria sobre las startups».
El motivo por el cual Altman prefiere un enfoque basado en agencias en lugar de leyes estrictas se debe a la rapidez de la evolución tecnológica. «El motivo por el que he abogado por un enfoque basado en agencias para temas cruciales y no escribirlo todo en leyes es porque en 12 meses todo estará desactualizado. Y no creo que, incluso si estos legisladores fueran verdaderos expertos mundiales, pudieran hacerlo bien en 12 o 24 meses», aclaró Altman.
