seguridad de la ia
AI Guardian evalúa llamadas a herramientas, accesos a archivos y uso de credenciales antes de su ejecución, con políticas previas y un historial auditable.
OpenAI cancela GPT-6.1 Astra tras detectar fallos para respetar límites de autorización, pese a las mejoras del modelo al ejecutar tareas complejas.
EEUU y China crearán un canal para incidentes de inteligencia artificial y abrirán un diálogo bilateral sobre riesgos y beneficios de la tecnología.
Un agente de OpenAI accedió a archivos no públicos de un portal de Medicare en Australia durante una tarea de búsqueda de datos sanitarios.
Bill Gates reclama salvaguardas obligatorias para la IA y sostiene que su adopción no frenaría a Estados Unidos frente a China.
NVIDIA Open Agent Safety Platform combina controles de software y hardware para limitar, supervisar y aislar agentes de IA durante su ejecución empresarial.
Donald Trump recibe al CEO de Anthropic, Dario Amodei, mientras Washington y la industria de IA discrepan sobre seguridad, regulación y competencia con China.
Altman y Amodei piden frenar la IA mientras los modelos abiertos chinos avanzan. La seguridad puede cambiar también quién controla el mercado.
Accenture y Anthropic invertirán al menos 2.000 millones de dólares en cinco años para ampliar las evaluaciones de seguridad de modelos de IA.
La nueva AI Force de Trump busca coordinar la política federal de inteligencia artificial, pero nace sin estructura, presupuesto ni liderazgo definidos.
