Puertas de seguridad del ciclo de vida de la IA (ISO/IEC 5338)
Siete puertas de seguridad del ciclo de vida de la IA y 32 criterios de superación: datos, construcción, pruebas adversarias, despliegue, monitorización y retirada. Alineadas con ISO/IEC 5338.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
Siete puertas de seguridad a lo largo del ciclo de vida de un sistema de IA (concepción, datos, construcción, verificación y validación, despliegue, operación y retirada) con criterios de superación concretos, para que las decisiones de puesta en producción y de cambio se apoyen en pruebas y no en el optimismo. ISO/IEC 5338 describe los procesos del ciclo de vida de un sistema de IA, partiendo de los procesos establecidos del ciclo de vida del software y añadiendo otros específicos de la IA, como el tratamiento de los datos y la validación continua. Esta plantilla convierte esas etapas en siete puertas con 32 criterios concretos, entre ellos las pruebas de inyección de prompts, los derechos sobre los datos, la cadena de suministro del modelo, la marcha atrás, la monitorización y la retirada segura, cada uno con orientación y un estado Cumplido / Parcialmente cumplido / No cumplido. Un criterio material marcado como No cumplido pone su puerta EN ESPERA (HOLD); si no, la puerta se supera o se supera con condiciones. El registro generado es el rastro de pruebas que pide un revisor o un auditor cuando un sistema se puso en producción. Se exporta a Word, PDF, Markdown o CSV. Es una plantilla Pro.
- Elige las puertas que encajan con tu forma de trabajar, sin saltarte las de datos y verificación.
- Valora cada uno de los 32 criterios como Cumplido, Parcialmente cumplido o No cumplido, siguiendo su orientación.
- Revisa el resultado de cada puerta: superada, superada con condiciones o EN ESPERA por un fallo material.
- Exporta el registro a Word, PDF, Markdown o CSV como rastro de pruebas para revisores y auditores.
Preguntas frecuentes
¿Qué es ISO/IEC 5338?
Es la norma internacional sobre los procesos del ciclo de vida de los sistemas de IA. Adapta a la IA el conocido modelo de procesos del ciclo de vida de sistemas y software, y añade procesos para lo que es distinto en los sistemas de IA: obtener y preparar datos, construir y evaluar modelos, y validar de forma continua un sistema cuyo comportamiento puede derivar tras el despliegue.
¿Tengo que usar las siete puertas?
Usa las puertas que encajen con tu forma de trabajar, pero no te saltes las de datos y verificación: la mayoría de los incidentes de IA se remontan a datos que no deberían haberse usado o a ataques que nunca se probaron. En un sistema comprado, las puertas de datos y de construcción se convierten en preguntas al proveedor.
¿Qué relación tiene con ISO/IEC 42001?
Un sistema de gestión de la IA espera un diseño, una verificación, un despliegue y una monitorización responsables de los sistemas de IA. Los registros de puertas como estos son una forma práctica de demostrar que esas actividades se realizan en cada sistema. La plantilla es un punto de partida, no una prueba de conformidad por sí sola.
¿Es gratis?
No, es una plantilla Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.