Laboratorio de puertas traseras en modelos y ML adversario
Haz el triaje de escenarios de ML adversario (evasión, envenenamiento de datos, disparadores troyanos, extracción, inversión) y elige la detección o defensa correcta.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
Llega a tu mesa una cola de incidentes de ML adversario: una señal de stop con pegatinas evade un clasificador, los informes de usuarios envenenan un conjunto de entrenamiento, un modelo de desbloqueo facial tiene un disparador troyano oculto, un competidor clona una API sondeándola y un atacante invierte las salidas para reconstruir los datos de entrenamiento. En cada caso clasificas la clase de ataque (evasión, envenenamiento de datos, puerta trasera o troyano, extracción de modelo, inversión de modelo o benigno), ubicas la fase del ciclo de vida que golpea (datos y cadena de suministro, entrenamiento, inferencia o consulta) y eliges la detección o defensa con su nombre exacto. Se basa en la terminología real de MITRE ATLAS y del ML adversario, sin productos, CVE ni estadísticas inventados. Es una simulación conceptual: no se entrena, envenena ni ataca ningún modelo real y nada es ejecutable. Tiene niveles de dificultad, un mapa en vivo de impacto por ciclo de vida, bonificación por velocidad y una nota de la S a la D. Es un laboratorio Pro.
- Lee cada escenario: lo que un defensor observaría en el modelo o en sus datos.
- Clasifica la clase de ataque: evasión, envenenamiento de datos, puerta trasera o troyano, extracción, inversión o benigno.
- Ubica la fase del ciclo de vida que golpea: datos y cadena de suministro, entrenamiento o inferencia.
- Elige la detección o defensa que encaja y no atribuyas de más: un cambio de distribución real no es un ataque.
Preguntas frecuentes
¿Qué enseña el laboratorio de puertas traseras en modelos y ML adversario?
Cierra la etapa de ML adversario: cómo reconocer un ataque contra un modelo de aprendizaje automático y elegir la defensa adecuada. Trabajas una cola de escenarios realistas y, en cada uno, clasificas la clase de ataque (evasión o ejemplo adversario, envenenamiento de datos incluido el de etiqueta limpia, puerta trasera o disparador troyano, extracción o robo de modelo, o inversión de modelo), ubicas la fase del ciclo de vida que golpea y eliges la detección o defensa correcta: entrenamiento adversario y transformaciones de la entrada para la evasión; procedencia de los datos y entrenamiento robusto o con filtrado de valores atípicos para el envenenamiento; agrupación de activaciones, firmas espectrales e ingeniería inversa del disparador (Neural Cleanse) para las puertas traseras; limitación de tasa, perturbación de la salida y marcas de agua para la extracción; y privacidad diferencial con confianza limitada para la inversión. Las clases se corresponden con MITRE ATLAS.
¿Es seguro? ¿Se entrena, envenena o ataca un modelo real?
Sí, es seguro. Es una simulación conceptual: no se entrena, envenena, manipula con puerta trasera ni ataca ningún modelo real, y nada de lo que hay aquí es ejecutable. Cada escenario es una descripción sintética y desactivada de un comportamiento que observaría un defensor: no hay exploits funcionales, ni archivos de modelos maliciosos reales, ni cargas útiles convertidas en armas. El ejercicio entrena el reconocimiento y la respuesta defensiva adecuada, no ninguna técnica ofensiva.
¿En qué se diferencia una puerta trasera del envenenamiento de datos o de un ejemplo adversario?
Son cosas distintas, y de eso trata el ejercicio. Un ejemplo adversario (evasión) es una entrada perturbada que cambia una predicción en el momento de la inferencia, sin tocar el modelo. El envenenamiento de datos corrompe el conjunto de entrenamiento para que el modelo aprendido se equivoque, incluido el envenenamiento de etiqueta limpia, en el que las etiquetas parecen correctas. Una puerta trasera o troyano es un resultado concreto del envenenamiento: el modelo se comporta con normalidad y mantiene una alta precisión en datos limpios, pero un patrón disparador oculto fuerza una salida elegida por el atacante. Por eso la validación habitual nunca la detecta y hace falta una detección específica del disparador, como la agrupación de activaciones, las firmas espectrales o la ingeniería inversa del disparador. El laboratorio te obliga a distinguirlos y a defender cada uno en la fase adecuada del ciclo de vida.
¿Es asesoramiento de seguridad para mi modelo concreto?
No. Es un ejercicio educativo para desarrollar intuición sobre las clases de ataque de ML adversario y las defensas que les corresponden: no es una auditoría de seguridad, ni asesoramiento legal, ni sustituye al modelado de amenazas y las pruebas de tus propios modelos. Los escenarios son sintéticos e ilustrativos. Aprende aquí los patrones y luego aplica tu criterio a tus sistemas reales.
¿Es gratis?
No, es un laboratorio Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.