Herramientas de modelado de amenazas con IA: cuál elegir

Una herramienta de modelado de amenazas con IA te ayuda a identificar, priorizar y documentar de forma sistemática las formas en que una aplicación (cada vez más, una aplicación de IA) puede ser atacada. La IA puede acelerar partes del proceso: generar diagramas de flujo de datos, sugerir amenazas STRIDE y asociarlas a patrones de ataque conocidos. Pero no sustituye el criterio de decidir qué importa a tu negocio. Las mejores herramientas actuales combinan la generación de amenazas asistida por LLM con marcos estructurados como STRIDE, el OWASP Top 10 for LLM Applications y MITRE ATLAS, para que el resultado esté fundamentado y sea auditable en lugar de alucinado.

¿Puede la IA hacer de verdad modelado de amenazas?

En parte, y esa parte importa. Los grandes modelos de lenguaje son buenos en los pasos tediosos y de gran volumen del modelado de amenazas: enumerar amenazas contra una arquitectura descrita, redactar mitigaciones y cruzarlas con taxonomías conocidas. Son débiles en el contexto: no conocen tus clasificaciones de datos, tus fronteras de confianza ni qué activo acabaría con un negocio si se viera comprometido.

El patrón productivo es asistido por IA, aprobado por humanos:

• Tú aportas la arquitectura, los flujos de datos, las fronteras de confianza y los activos.
• La herramienta genera amenazas candidatas asociadas a categorías STRIDE y sugiere controles.
• Tú podas y priorizas según la explotabilidad real y el impacto en el negocio.

Tratar la salida de la IA como un primer borrador y no como un veredicto es lo que separa la automatización útil de una falsa sensación de cobertura.

Qué buscar en una herramienta de modelado de amenazas con IA

La «mejor herramienta» depende de si modelas aplicaciones tradicionales o los propios sistemas de IA/ML. Para el modelado de amenazas de aplicaciones en general, las opciones maduras incluyen OWASP Threat Dragon (gratuita, de código abierto, en GitHub), Microsoft Threat Modeling Tool e IriusRisk. Varias añaden ya generación de amenazas con LLM. Al evaluar cualquier herramienta, comprueba:

• Anclaje en marcos: ¿asocia las amenazas a STRIDE, OWASP o MITRE ATLAS, o son solo conjeturas en texto libre?
• Diagramas como código: las herramientas que leen un diagrama o una definición YAML/JSON son mucho más fáciles de mantener al día en CI/CD.
• Trazabilidad: cada amenaza debe enlazar con un control y un responsable, para poder cumplir las auditorías y las obligaciones de documentación de la Ley de IA de la UE.
• Nivel gratuito o código abierto: Threat Dragon y muchos proyectos de GitHub no cuestan nada, lo que reduce la barrera para hacer modelos de cada nuevo servicio.

Una herramienta que produce 200 amenazas genéricas que nunca clasificarás es peor que una que saca a la luz las 15 que corresponden a tu superficie de ataque real.

Modelar las amenazas de sistemas de IA, no solo de aplicaciones

Si lo que proteges es en sí un sistema de IA, el catálogo de amenazas cambia. Dos referencias anclan este trabajo. El OWASP Top 10 for LLM Applications sitúa la inyección de prompts como su categoría de riesgo n.º 1, por delante del manejo inseguro de salidas y del envenenamiento de datos de entrenamiento, así que cualquier función LLM que publiques necesita fronteras de entrada/salida como control básico. Para el ML adversario en general, MITRE ATLAS cataloga casos reales de ataques contra sistemas de ML/IA, organizados por tácticas desde el reconocimiento hasta el impacto, lo que te da un mapa concreto desde la perspectiva del atacante contra el que modelar.

Añadidos prácticos al modelar un sistema de IA:

• Modela el pipeline de entrenamiento como una frontera de confianza: el envenenamiento de datos entra por aquí.
• Trata la salida del modelo como no fiable: el manejo inseguro de salidas convierte una respuesta del LLM en un vector de inyección para los sistemas posteriores.
• Mapea el abuso en tiempo de inferencia: robo del modelo, extracción y evasión, todo documentado en ATLAS.
• Añade detección: la detección de amenazas en modelos de IA implica vigilar prompts anómalos, filtrar salidas y registrar las peticiones de inferencia, no solo defender el perímetro.

No te saltes la capa de cumplimiento

El modelado de amenazas alimenta ahora la evidencia regulatoria. La Ley de IA de la UE entró en vigor el 1 de agosto de 2024 y clasifica los sistemas de IA en cuatro niveles de riesgo (inaceptable, alto, limitado y mínimo), con obligaciones de cumplimiento que se aplican de forma escalonada hasta 2027. Los sistemas de alto riesgo requieren una gestión de riesgos documentada, que un modelo de amenazas mantenido respalda directamente. Construir ahora el resultado de tu modelado de amenazas para que sea exportable y trazable te ahorra prisas más adelante.

Una nota sobre las búsquedas de «top 10 herramientas de inteligencia de amenazas»: las plataformas de inteligencia de amenazas (como MISP, Recorded Future o Anomali) alimentan tu modelo de amenazas con datos de adversarios, pero no sustituyen el ejercicio de modelado. Usa la inteligencia para priorizar qué amenazas de tu modelo se están explotando activamente.

Preguntas frecuentes

¿Puede la IA hacer de verdad modelado de amenazas?

En parte, y esa parte importa. Los grandes modelos de lenguaje son buenos en los pasos tediosos y de gran volumen del modelado de amenazas: enumerar amenazas contra una arquitectura descrita, redactar mitigaciones y cruzarlas con taxonomías conocidas.

¿Qué debes buscar en una herramienta de modelado de amenazas con IA?

La «mejor herramienta» depende de si modelas aplicaciones tradicionales o los propios sistemas de IA/ML. Para el modelado de amenazas de aplicaciones en general, las opciones maduras incluyen OWASP Threat Dragon (gratuita, de código abierto, en GitHub), Microsoft Threat Modeling Tool e IriusRisk.

¿Cómo se modelan las amenazas de sistemas de IA, no solo de aplicaciones?

Si lo que proteges es en sí un sistema de IA, el catálogo de amenazas cambia. Dos referencias anclan este trabajo. El OWASP Top 10 for LLM Applications sitúa la inyección de prompts como su categoría de riesgo n.º 1, por delante del manejo inseguro de salidas y del envenenamiento de datos de entrenamiento, así que cualquier función LLM que publiques necesita fronteras de entrada/salida como control básico.

¿Por qué no debes saltarte la capa de cumplimiento en el modelado de amenazas de IA?

El modelado de amenazas alimenta ahora la evidencia regulatoria. La Ley de IA de la UE entró en vigor el 1 de agosto de 2024 y clasifica los sistemas de IA en cuatro niveles de riesgo (inaceptable, alto, limitado y mínimo), con obligaciones de cumplimiento que se aplican de forma escalonada hasta 2027.