Laboratorio de control de cambios de arneses recursivos
Sé el comité de control de cambios de un agente que reescribe su propio arnés: decide, clasifica el riesgo y elige el control de cada autoedición.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
Harness² de Google Cloud AI Research (arXiv 2610.14224) permite que un agente reescriba de forma recursiva su propio arnés (el system prompt, los guardarraíles, la memoria persistida y las «lecciones», la guía de herramientas, los subagentes, las skills, los scripts y los plugins) y arrastre las mejoras. Es potente, y es un problema de control de cambios: un optimizador que puede editar sus propios guardarraíles puede eliminar sin hacer ruido los controles que lo mantienen seguro. Tú eres el comité de control de cambios. Para cada autoedición propuesta eliges la decisión de adopción (adoptar automáticamente, adoptar con registro, exigir revisión humana o rechazar), el nivel de riesgo que conlleva y el control que debe filtrarla (puerta de control de cambios, registro de procedencia + reversión, límite de alcance, sandbox o nueva revisión ante una deriva). La regla central: las ediciones que tocan herramientas, permisos, guardarraíles o autenticación nunca se adoptan automáticamente; los cambios benignos de redacción y formato sí pueden; una «lección» persistida que elimina un paso de seguridad se rechaza; y el arnés nunca puede concederse más privilegios de los que recibió. También entrena el fallo contrario: no filtrar en exceso, porque bloquear cada edición anula el sentido de un arnés que se automejora. Se mapea al control de cambios y la gestión del ciclo de vida de ISO/IEC 42001 y a la guía de seguridad de ISO/IEC 27090, con una cola de ediciones, un mapa en vivo de decisión × riesgo, niveles de dificultad, bonificación por velocidad y una nota de S a D. Es un laboratorio Pro: con una cuenta gratuita tienes 3 usos de herramientas Pro en total y después necesitas Pro.
- Abre la cola de autoediciones propuestas por el arnés.
- Decide en cada una: adoptar automáticamente, adoptar con registro, exigir revisión humana o rechazar.
- Asigna el nivel de riesgo (ninguno, bajo, medio o alto) y el control que debe filtrar la edición.
- Revisa el mapa de decisión × riesgo y tu nota de S a D; deja pasar barato lo seguro.
Preguntas frecuentes
¿Qué es Harness² y por qué necesita gobierno?
Harness² es un trabajo de Google Cloud AI Research (arXiv 2610.14224) en el que un agente puede reescribir de forma recursiva su propio «arnés» (su system prompt, sus guardarraíles, su memoria persistida y sus «lecciones», la guía de herramientas, los subagentes, las skills, los scripts y los plugins), ajustándose en cada tarea y arrastrando las mejoras. Es potente, pero un optimizador que puede editar sus propios guardarraíles también puede eliminar sin hacer ruido los controles que lo mantienen seguro. El control de cambios es lo que deja pasar las autoediciones útiles y detiene las que erosionan la seguridad, así que este laboratorio entrena esa revisión como una decisión por edición.
¿Qué me pide decidir exactamente el laboratorio?
Para cada autoedición propuesta tomas tres decisiones: la decisión de adopción (adoptar automáticamente, adoptar con registro, exigir revisión humana o rechazar), el nivel de riesgo que conlleva (ninguno, bajo, medio o alto) y el control o la evidencia que debe filtrarla (una puerta de control de cambios, un registro de procedencia con reversión, un límite de alcance, un sandbox o una nueva revisión ante una deriva). La decisión es lo que más pesa, después el control y después el nivel de riesgo, y solo superas el ejercicio cuando todas las decisiones y todos los controles son correctos.
¿Qué autoediciones no deben adoptarse nunca automáticamente y cuáles sí pueden?
Nada que toque herramientas, permisos, guardarraíles o autenticación se adopta automáticamente: añadir una herramienta de ejecución de shell, relajar un guardarraíl de salida de red o cambiar cómo se dispara una acción que mueve dinero van todos a revisión humana tras una puerta de control de cambios, o se rechazan directamente cuando eliminan un control de seguridad o conceden privilegios en exceso. Una «lección» persistida que elimina un paso de seguridad se rechaza, y un subagente al que se le da el token completo del padre viola el principio de privilegios no autoampliables. En el otro lado, un cambio puro de redacción o formato se adopta automáticamente (registrado y reversible), y una skill revisada, de solo lectura y sin nuevos privilegios, o una técnica de tarea benigna, se adoptan con registro. La habilidad está en distinguirlas en lugar de bloquearlo todo.
¿Toca un agente real o afirma algo sobre el rendimiento de Harness²?
No. Es un ejercicio educativo y sin conexión, con escenarios sintéticos de autoedición. No ejecuta, modifica ni se conecta a ningún agente, y no afirma nada sobre el rendimiento de Harness²: simplemente usa la idea publicada de un arnés que se reescribe de forma recursiva como escenario para una decisión de control de cambios. El enfoque de gobierno se vincula a ISO/IEC 42001 (gestionar el sistema de IA y sus cambios mediante un ciclo de vida controlado) y a ISO/IEC 27090 (guía de seguridad para la IA, incluidos los riesgos de cadena de suministro y de automodificación).
¿Es gratis?
No, es un laboratorio Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.