seguridad de la ia
Satya Nadella plantea controles independientes, trazabilidad y un «freno de emergencia» para contener sistemas de IA avanzada durante su ejecución.
AI Guardian evalúa llamadas a herramientas, accesos a archivos y uso de credenciales antes de su ejecución, con políticas previas y un historial auditable.
OpenAI cancela GPT-6.1 Astra tras detectar fallos para respetar límites de autorización, pese a las mejoras del modelo al ejecutar tareas complejas.
EEUU y China crearán un canal para incidentes de inteligencia artificial y abrirán un diálogo bilateral sobre riesgos y beneficios de la tecnología.
Un agente de OpenAI accedió a archivos no públicos de un portal de Medicare en Australia durante una tarea de búsqueda de datos sanitarios.
Bill Gates reclama salvaguardas obligatorias para la IA y sostiene que su adopción no frenaría a Estados Unidos frente a China.
NVIDIA Open Agent Safety Platform combina controles de software y hardware para limitar, supervisar y aislar agentes de IA durante su ejecución empresarial.
Donald Trump recibe al CEO de Anthropic, Dario Amodei, mientras Washington y la industria de IA discrepan sobre seguridad, regulación y competencia con China.
Altman y Amodei piden frenar la IA mientras los modelos abiertos chinos avanzan. La seguridad puede cambiar también quién controla el mercado.
Accenture y Anthropic invertirán al menos 2.000 millones de dólares en cinco años para ampliar las evaluaciones de seguridad de modelos de IA.
