Laboratorio de extracción y fuga de datos
Haz el triaje de escenarios de fuga de datos de IA (memorización, exposición de datos personales, inferencia de pertenencia, inversión de modelos) y elige el control DLP adecuado.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
Te llega una cola de escenarios de fuga de sistemas reales de LLM/ML: un modelo ajustado que recita un secreto memorizado, un asistente que suelta los datos personales de un empleado en una respuesta sin relación, un chatbot que imprime su propio prompt de sistema, un atacante que hace inferencia de pertenencia a partir de una puntuación de confianza y un modelo al que se invierte para reconstruir sus datos de entrenamiento. En cada caso clasificas el TIPO DE FUGA, juzgas el RIESGO DE FUGA relativo (bajo / medio / alto, de forma conceptual, nunca con un número inventado) y eliges la MITIGACIÓN o el control DLP correcto que lo resuelve. Se basa en el riesgo LLM02 «Sensitive Information Disclosure» del OWASP Top 10 para aplicaciones LLM y en la literatura real sobre extracción de datos de entrenamiento, inferencia de pertenencia e inversión de modelos, sin productos, CVE ni estadísticas inventados. La habilidad central que entrena: ajustar la corrección a la fuga. Los secretos memorizados se resuelven con deduplicación y depuración de los datos y una evaluación de fugas con canario, no con una instrucción en el prompt; los datos personales, con minimización y redacción DLP antes y después; los secretos nunca deben estar en el prompt; la inferencia de pertenencia y la inversión de modelos, con privacidad diferencial y menos confianza expuesta; y un caso benigno en el que los controles funcionaron no se escala como una brecha. Es una simulación segura, sin modelo real, sin secretos reales y sin nada ejecutable, con niveles de dificultad, un mapa en vivo de sensibilidad × riesgo, una bonificación por velocidad y una nota de S a D. Es un laboratorio Pro.
- Lee cada escenario de fuga de la cola.
- Clasifica el tipo de fuga: memorización/extracción de datos de entrenamiento, exposición de datos personales, fuga del prompt de sistema o de secretos, inferencia de pertenencia o inversión de modelos.
- Juzga el riesgo de fuga relativo (bajo, medio o alto) y elige el control DLP o la mitigación que lo resuelve de verdad.
- No escales como brecha los casos benignos y revisa tu nota de S a D.
Preguntas frecuentes
¿Qué enseña el laboratorio de extracción y fuga de datos?
Cierra la etapa de fuga de datos y privacidad: cómo reconocer y detener la divulgación de información sensible desde sistemas de IA. Trabajas una cola de escenarios realistas y, en cada uno, clasificas el tipo de fuga (memorización/extracción de datos de entrenamiento, exposición de datos personales, fuga del prompt de sistema o de secretos, inferencia de pertenencia o inversión de modelos), juzgas el riesgo de fuga relativo y eliges el control DLP o la mitigación correctos: deduplicación y depuración de los datos de entrenamiento, un canario y una evaluación de fugas previa a la publicación, redacción DLP de la salida antes y después, mantener los secretos fuera del prompt, privacidad diferencial y regularización, y limitar la confianza que expone un modelo. Se corresponde con OWASP LLM02 «Sensitive Information Disclosure».
¿Es seguro? ¿Extrae de verdad datos de un modelo real?
Sí, es seguro, y no, no extrae nada. Es una simulación conceptual: no hay modelo real, ni datos de entrenamiento reales, ni secretos reales, ni código de extracción ejecutable. Cada valor que se muestra (una «credencial», un nombre, una cadena canario) es inventado y neutralizado para la enseñanza. Los escenarios describen comportamientos que observaría un defensor, y el ejercicio te entrena para clasificarlos y aplicar el control adecuado. Nada de esto puede ejecutarse contra un sistema real.
¿Por qué una instrucción en el prompt no basta para impedir que un modelo filtre un secreto?
Cuando un secreto está en los pesos del modelo (por el entrenamiento o el ajuste fino) o en la ventana de contexto, una instrucción del prompt de sistema como «nunca reveles credenciales» es una petición, no un límite: los prompts de extracción la sortean con frecuencia. Los controles duraderos están antes y después del modelo: deduplicar y eliminar secretos y datos personales de los datos de entrenamiento, condicionar las publicaciones a un canario y una evaluación de fugas, mantener los secretos reales en el servidor detrás de llamadas a herramientas en lugar de en el prompt y filtrar la salida con redacción DLP. El laboratorio entrena a distinguir el control real de la instrucción que solo lo parece.
¿Es asesoramiento de seguridad para mi sistema concreto?
No. Es un ejercicio educativo para desarrollar intuición sobre los tipos de fuga y las defensas que les corresponden; no es asesoramiento legal, ni una auditoría de privacidad, ni sustituye al modelado de amenazas de tu propio sistema, a una EIPD o a probar tus propios controles. Los escenarios son sintéticos e ilustrativos. Úsalo para aprender los patrones y después aplica tu criterio a tu entorno real.
¿Es gratis?
No, es un laboratorio Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.