Laboratorio de integridad de evaluaciones de agentes
Haz el triaje de evaluaciones de agentes y LLM por amenaza a la integridad, veredicto de confianza y control adecuado: restringe la red antes de fiarte de una puntuación.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
Te llega a la mesa una cola de evaluaciones de agentes y de LLM: un ejecutor con salida de red abierta, una puntuación que se dispara cuando se activa el acceso web, un conjunto de prueba público memorizado, un subagente que califica su propio resultado, una división de entrenamiento y prueba filtrada, una cadena canario que aparece en las salidas y un agente que hace reward hacking con un evaluador débil. En cada caso nombras la amenaza a la integridad (filtración de la rúbrica o de las respuestas, red hacia las respuestas, contaminación entre entrenamiento y prueba, memorización, reward hacking, sesgo de autoevaluación, o «ninguna, bien aislada»), decides si el resultado es fiable o está comprometido y eliges el control que corresponde, porque una puntuación que pudo alcanzar la rúbrica o las respuestas no es una medición. Se basa en Harness² de Google Cloud AI Research (arXiv 2610.14224), que advierte de que el acceso de red del ejecutor no está restringido por defecto y de que las rúbricas de los benchmarks públicos son accesibles en línea, así que hay que restringir la red antes de evaluar. Igual de importante: no marcar de más una ejecución bien aislada. Incluye un mapa de riesgo en directo de amenaza frente a inflado de la puntuación, niveles de dificultad, una bonificación por rapidez y una nota de S a D. Amenazas reales, controles reales y ningún CVE inventado. Es un laboratorio Pro: con una cuenta gratuita tienes 3 usos de herramientas Pro en total y después necesitas Pro.
- Lee la configuración de evaluación o el comportamiento observado de cada elemento de la cola.
- Nombra la amenaza a la integridad, o «ninguna, bien aislada».
- Decide el veredicto (fiable o comprometido) y elige el control: bloquear la salida de red antes de puntuar, aislamiento con conjunto reservado más comprobaciones de canario y deduplicación, evaluación ciega e independiente o una rúbrica robusta.
- Revisa el mapa de riesgo y tu nota final, de S a D.
Preguntas frecuentes
¿Qué enseña el laboratorio de integridad de evaluaciones de agentes?
Enseña a hacer el triaje de si el resultado de una evaluación de un agente o un LLM es fiable. Ante una configuración de evaluación o un comportamiento observado (un ejecutor con salida de red abierta, una puntuación que se dispara al activar el acceso web, un conjunto de prueba público memorizado, un subagente que califica su propio resultado, una división de entrenamiento y prueba filtrada, una cadena canario que aparece en las salidas o un agente que engaña a un evaluador débil), decides la amenaza a la integridad, si el resultado es fiable o está comprometido y el control que corresponde. Hace explícita la distinción clave: una puntuación que pudo alcanzar las respuestas o la rúbrica no mide la capacidad.
¿Qué es Harness² y por qué importa aquí?
Harness² (Google Cloud AI Research, arXiv 2610.14224) es un estudio sobre la seguridad de los entornos de evaluación de agentes. Advierte de que el acceso de red del ejecutor de la evaluación suele no estar restringido y de que las rúbricas y los criterios de calificación de los benchmarks públicos pueden ser accesibles en línea, así que hay que restringir la red antes de evaluar para impedir que el agente acceda a las respuestas o a los criterios de calificación. También señala que un bucle de automejora que puede leer la rúbrica puede «mejorar» haciendo trampa, adaptando su salida a los criterios de calificación en lugar de mejorar en la tarea. Este laboratorio entrena exactamente esa disciplina: aísla la red antes de fiarte de un número.
¿Por qué una ejecución bien aislada se considera fiable aunque el agente tuviera acceso a la red?
Porque el acceso a la red no descalifica por sí solo: lo que importa es si el agente podía alcanzar las respuestas o la rúbrica. Una evaluación en la que la salida hacia los hosts de las respuestas y de la rúbrica está bloqueada durante la puntuación, el conjunto de prueba es reservado y privado (deduplicado frente a los datos de entrenamiento) y la calificación es independiente y ciega frente a una rúbrica robusta es el caso fiable, incluso para un agente que navega con una lista de permitidos. La habilidad del triaje es distinguir esa ejecución de una en la que el ejecutor podía leer los criterios de calificación, sin marcar de más la que está aislada.
¿Es una herramienta de evaluación real o toca mis modelos o benchmarks?
No. Es un ejercicio educativo de triaje, sin conexión, con escenarios sintéticos. No ejecuta ninguna evaluación, no se conecta a ningún modelo, benchmark ni evaluador y no contiene detalles de explotación: solo la decisión del defensor sobre la amenaza, el veredicto y el control. Su objetivo es desarrollar el criterio que usa un ingeniero de evaluación o un responsable de ML o de seguridad para decidir si la puntuación de un agente o un LLM es sólida o está inflada. Las amenazas y los controles se basan en Harness² y en las prácticas habituales de higiene de benchmarks, sin números de CVE inventados.
¿Es gratis?
No, es un laboratorio Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.