Autoevaluación de equidad, sesgo y explicabilidad de la IA
Evalúa la equidad y la explicabilidad de un sistema de IA en ocho dimensiones ponderadas y exporta un borrador de model card.
Abrir la herramienta →La herramienta interactiva se abre en inglés.
La parte de una auditoría de IA que casi todas las herramientas se saltan: la fiabilidad. Recorre una lista de comprobación en las ocho dimensiones que revisa un auditor de IA en materia de equidad y explicabilidad: atributos protegidos y grupos afectados, métricas de equidad elegidas y medidas, fuentes de sesgo en las tres categorías de NIST SP 1270, representatividad del conjunto de datos, adecuación de la explicabilidad a su público, artefactos de transparencia, supervisión humana y posibilidad de impugnar, y monitorización continua. Obtienes una puntuación de transparencia de 0 a 100 por bandas, un gráfico de radar con tus puntos fuertes y débiles y las carencias ordenadas para que cierres primero las que más importan, además de una exportación en Markdown estructurada como borrador de model card. Se apoya en estándares públicos consolidados (NIST SP 1270, ISO/IEC TR 24027, ISO/IEC TR 24028 e ISO/IEC TS 6254), citados solo por su nombre; no inventa estadísticas ni cita números de cláusula. Es una autoevaluación educativa, no una auditoría de equidad ni asesoramiento legal; la ponderación es una heurística transparente, no se sube nada y el resultado se puede compartir mediante un enlace permanente. Es una herramienta Pro: con una cuenta gratuita tienes 3 usos de herramientas Pro en total y después necesitas Pro.
- Responde cada elemento de la lista como implantado, parcial o no.
- Revisa la puntuación de transparencia de 0 a 100, su banda y el radar por dimensión.
- Trabaja las carencias priorizadas, empezando por las de menor puntuación y mayor peso, cada una con su siguiente acción.
- Exporta a Markdown o CSV, o comparte la evaluación exacta con un enlace permanente en base64url.
Preguntas frecuentes
¿Qué mide la autoevaluación de equidad, sesgo y explicabilidad de la IA?
Es una autoevaluación estructurada de las dimensiones de fiabilidad que revisa un auditor de IA: si has identificado los atributos protegidos y los grupos afectados, si has elegido y medido de verdad métricas de equidad entre grupos, si has evaluado el sesgo en las tres categorías de NIST SP 1270, si has documentado la representatividad del conjunto de datos, si has adaptado el enfoque de explicabilidad a su público, si has producido artefactos de transparencia como una model card, si ofreces una supervisión humana real y la posibilidad de impugnar, y si has puesto en marcha una monitorización continua de la deriva y del impacto desigual. Respondes cada elemento como implantado, parcial o no, y la herramienta produce una puntuación de transparencia ponderada de 0 a 100 con una banda y una lista de carencias priorizada.
¿Es una auditoría de equidad o una certificación?
No. Es un marco de autoevaluación educativa para una reflexión estructurada, no una auditoría de equidad, una evaluación de la conformidad, una medición, una certificación ni asesoramiento legal, y no prueba tu modelo ni predice ningún resultado. Los pesos de las dimensiones son una heurística transparente que puedes ajustar a tu contexto. El valor está en la conversación estructurada, la lista de tareas priorizada y el borrador de model card que produce, no en la cifra exacta.
¿En qué estándares se basa?
Está organizada en torno a estándares públicos de uso extendido: NIST SP 1270 (las tres categorías de sesgo en la IA: sistémico, estadístico/computacional y cognitivo humano), ISO/IEC TR 24027 (sesgo en los sistemas de IA y en la toma de decisiones asistida por IA), ISO/IEC TR 24028 (visión general de la fiabilidad en la IA) e ISO/IEC TS 6254 (objetivos y enfoques para la explicabilidad de los modelos de ML y los sistemas de IA). Los nombra solo como orientación y no reproduce ni cita números de cláusula ni cifras de ellos; la redacción de las preguntas es una paráfrasis propia de PlayCISO en lenguaje claro.
¿Por qué dice que las métricas de equidad habituales son «incompatibles»?
Las definiciones de equidad entre grupos recogen ideas distintas de lo que es justo: la paridad demográfica (estadística) iguala la tasa de decisiones positivas entre grupos; las probabilidades igualadas (equalized odds) igualan tanto la tasa de verdaderos positivos como la de falsos positivos; la igualdad de oportunidades iguala solo la tasa de verdaderos positivos; y la paridad predictiva iguala la precisión para una puntuación dada. Un resultado bien establecido es que, salvo en casos degenerados como tasas base iguales o un clasificador perfecto, en general no pueden cumplirse todas a la vez, así que cuál priorizar es un juicio de valor deliberado para cada caso de uso, no una elección puramente técnica. La herramienta te obliga a elegir a propósito.
¿Analiza mi modelo o envía mis respuestas a algún sitio?
No. La evaluación se ejecuta por completo en tu navegador. No realiza ningún análisis ni toca ningún sistema o modelo. Tus respuestas nunca se suben: solo existen en el enlace permanente que decidas copiar (codificado en la URL, en base64url) y en los archivos Markdown o CSV que exportes tú.
¿Puedo usar el resultado como model card?
La exportación en Markdown está estructurada a propósito como borrador de model card o resumen de transparencia: el alcance del sistema y la postura general, las definiciones de equidad entre grupos consideradas y la nota sobre su incompatibilidad, una tabla por dimensión, las carencias priorizadas con sus siguientes acciones y los estándares de referencia. Es un esqueleto inicial que hay que adaptar, no una ficha terminada y verificada: tienes que completar tú las métricas y las evidencias reales de tu sistema.
¿Es gratis?
No, es una herramienta Pro. Con una cuenta gratuita tienes 3 usos de prueba de herramientas Pro en total; después necesitas Pro.