Mapeador de riesgos de seguridad de la IA
Describe tu sistema de IA y ve qué riesgos del OWASP Top 10 para aplicaciones LLM (2025) y qué tácticas de MITRE ATLAS se le aplican, con ejemplos y mitigaciones priorizadas.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
Describe tu sistema de IA y mira exactamente qué riesgos de seguridad de la IA se le aplican. Activas las características que tiene tu sistema (RAG o base de datos vectorial, llamadas a herramientas y funciones, un agente autónomo, datos personales, exposición a internet, modelos de terceros, memoria, plugins MCP, fine-tuning) y el mapeador muestra los riesgos correspondientes del OWASP Top 10 para aplicaciones LLM de 2025 (de LLM01 inyección de prompt a LLM10 consumo sin límites), con referencias cruzadas a las tácticas de ML adversarial de MITRE ATLAS y sin categorías inventadas. Cada tarjeta de riesgo explica qué es el riesgo, por qué tu configuración concreta está expuesta, un ejemplo real concreto y mitigaciones priorizadas sobre las que puedes actuar. Puedes exportar el resultado como checklist en Markdown para un modelo de amenazas, una revisión de diseño o un ticket. Se ejecuta por completo en el lado del cliente con una tabla de reglas estática: sin llamadas a IA, sin peticiones de red y sin que nada de tu arquitectura salga del navegador. Es una herramienta Pro.
- Activa las características de tu sistema: RAG, herramientas, agente autónomo, datos personales, exposición a internet, modelos de terceros, memoria, plugins MCP, fine-tuning.
- Revisa los riesgos del OWASP LLM Top 10 y las tácticas de MITRE ATLAS que se le aplican.
- Lee en cada tarjeta por qué estás expuesto, el ejemplo real y las mitigaciones priorizadas.
- Exporta el checklist en Markdown para tu modelo de amenazas, tu revisión de diseño o un ticket.
Preguntas frecuentes
¿Cuáles son los principales riesgos de seguridad de la IA?
La referencia más usada para los riesgos de seguridad de las aplicaciones de IA es el OWASP Top 10 para aplicaciones LLM. La lista de 2025 es: LLM01 inyección de prompt, LLM02 divulgación de información sensible, LLM03 cadena de suministro, LLM04 envenenamiento de datos y modelos, LLM05 manejo inadecuado de la salida, LLM06 agencia excesiva, LLM07 filtración del prompt de sistema, LLM08 debilidades de vectores y embeddings, LLM09 desinformación y LLM10 consumo sin límites. No todos los riesgos se aplican a todos los sistemas: cuáles importan depende de tu arquitectura. Un chatbot sin herramientas ni recuperación tiene una exposición muy distinta de la de un agente autónomo con llamadas a funciones y una base de datos vectorial. Esta herramienta relaciona la lista con las características que tienes de verdad.
¿Qué ejemplos hay de vulnerabilidades de seguridad de la IA?
Algunos ejemplos concretos: un asistente de soporte que resume una página web con texto oculto que le ordena exfiltrar la conversación (inyección de prompt indirecta, LLM01); un asistente RAG que recupera y cita un documento que el usuario actual no debería poder ver porque el control de acceso solo se aplicaba en la interfaz y no en la recuperación (LLM02 / LLM08); un modelo que devuelve HTML insertado en una página sin escapar, que ejecuta un script del atacante (manejo inadecuado de la salida, LLM05); un agente con inyección de prompt y una herramienta de base de datos de alcance amplio que ejecuta una consulta destructiva (agencia excesiva, LLM06); y un asistente de programación que alucina un nombre de paquete que después un atacante registra con malware (desinformación, LLM09). El mapeador muestra los ejemplos que encajan con tu sistema.
¿Qué diferencia hay entre esta herramienta y la de modelado de amenazas de IA?
Este mapeador de riesgos de seguridad de la IA es una referencia educativa: activas unas pocas características y las relaciona de forma determinista con los riesgos del OWASP LLM Top 10 y las tácticas de MITRE ATLAS correspondientes, con ejemplos y mitigaciones, por completo en tu navegador y sin IA de por medio. Es la forma más rápida de aprender qué riesgos se aplican y por qué. El generador de modelos de amenazas de IA es una herramienta aparte, más profunda, que produce un modelo de amenazas estructurado y específico para una arquitectura descrita. Usa este mapeador para entender y clasificar el panorama, y el generador cuando necesites un documento completo.
¿MITRE ATLAS es lo mismo que el OWASP LLM Top 10?
No, son complementarios. El OWASP Top 10 para aplicaciones LLM es una lista de riesgos para quienes construyen y protegen aplicaciones LLM: nombra las categorías de debilidad y cómo mitigarlas. MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) es una base de conocimiento centrada en el atacante, con tácticas y técnicas reales usadas contra sistemas de machine learning, inspirada en MITRE ATT&CK; por ejemplo, LLM Prompt Injection, Poison Training Data y la exfiltración a través de una API de inferencia del modelo. La herramienta hace referencia a ambos: OWASP te dice qué corregir y ATLAS cómo se lleva a cabo realmente el ataque.
¿La herramienta envía la descripción de mi sistema a algún sitio?
No. Todo el mapeo es una tabla de reglas estática incluida en la página y evaluada en tu navegador. No hay llamadas a API, ni modelo de IA, ni registro de tus selecciones, ni peticiones de red de ningún tipo al mapear tus riesgos. Puedes usarla sin conexión y nada de tu arquitectura sale de tu máquina. Es deliberado: describir tu sistema de IA ya es sensible en sí, así que la herramienta está pensada para no necesitar que reveles nada.
¿Es gratis?
No, es una herramienta Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.