Laboratorio de superficie de ataque del harness de agentes
Haz el triaje de escenarios en los ocho componentes del harness de un agente de IA: componente implicado, amenaza y control correcto.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
Un agente de IA es más que un modelo: es un harness que lo envuelve. El planteamiento Harness² de Google Cloud AI Research (arXiv 2610.14224) nombra ocho componentes editables: prompt de sistema, guardarraíles, memoria, guía de herramientas, subagentes, skills, scripts y plugins. Cada uno es útil y cada uno es una superficie de ataque. En cada escenario decides qué componente está implicado, cuál es la amenaza principal y qué control encaja de verdad: una inyección de prompt es un problema de frontera, el exceso de agencia es un problema de mínimo privilegio y de puerta de aprobación, una memoria envenenada es un problema de procedencia, y un componente que ya está firmado y aislado debe dejarse como está. Las amenazas se basan en el OWASP LLM Top 10 y en las clases de ISO/IEC 27090, sin CVE inventados ni afirmaciones de producto fabricadas. Incluye un mapa de superficie, niveles de dificultad, bono por velocidad y notas de la S a la D. Es un laboratorio Pro.
- Lee el escenario y elige el componente del harness implicado.
- Elige la amenaza principal (inyección de prompt, manejo inseguro de la salida, exceso de agencia, cadena de suministro, envenenamiento, divulgación de información sensible).
- Elige el control que encaja: alcance de mínimo privilegio, puerta humana obligatoria, mediación de entrada y salida, procedencia y auditoría, sandbox con lista de salida permitida o componentes firmados y verificados.
- No marques de más: un escenario ya está bien controlado a propósito.
Preguntas frecuentes
¿Qué es un «harness de agente» y cuáles son sus ocho componentes?
El harness es todo lo que envuelve a un modelo de lenguaje y lo convierte en un agente. El trabajo Harness² de Google Cloud AI Research (arXiv 2610.14224) describe ocho componentes editables: el prompt de sistema, los guardarraíles, la memoria, la guía de herramientas, los subagentes, las skills, los scripts y los plugins. Cada uno es útil y cada uno es su propia superficie de ataque. Este laboratorio te hace clasificar escenarios nombrando qué componente está implicado, la amenaza principal y el control que encaja.
¿Se basa en marcos de seguridad reales o es inventado?
Se basa en marcos reales. Los componentes vienen del planteamiento publicado Harness² (Google Cloud AI Research, arXiv 2610.14224). Las amenazas se corresponden con el OWASP LLM Top 10 (inyección de prompt LLM01, divulgación de información sensible LLM02, cadena de suministro LLM03, envenenamiento de datos y modelos LLM04, manejo inadecuado de la salida LLM05, exceso de agencia LLM06, filtración del prompt de sistema LLM07) y con las clases de amenaza de ISO/IEC 27090 para sistemas de IA. Los controles son práctica estándar: mínimo privilegio, aprobación humana, mediación de entrada y salida, procedencia y auditoría, sandbox con listas de salida permitida y componentes firmados y verificados. No hay CVE inventados ni afirmaciones de producto fabricadas.
¿Por qué en un escenario la respuesta correcta es «no hace falta cambiar nada»?
Porque el triaje también consiste en no marcar de más. Un escenario muestra un componente (una skill) que ya está firmado, con versión fijada, aislado en un sandbox con lista de salida permitida y con revisión de cambios. Lo correcto es seguir monitorizándolo y auditándolo, no arrancarlo, desactivar su sandbox ni pasarlo a actualización automática. Aprender a distinguir un componente bien controlado de uno expuesto, y a dedicar el esfuerzo limitado donde más reduce el riesgo, es justo de lo que se trata.
¿Toca mis agentes reales o ejecuta algo?
No. Es un ejercicio de triaje educativo y sin conexión, con escenarios sintéticos. No se conecta a ningún agente, harness ni modelo, no los escanea ni los modifica, y no contiene detalles de explotación: solo la decisión del defensor sobre componente, amenaza y control. Está pensado para construir el criterio que usa un ingeniero de seguridad de IA o de plataforma al revisar cómo está montado de verdad un agente.
¿Es gratis?
No, es un laboratorio Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.