M3 · Sesión 9 de 12

Interpretabilidad y explicación de modelos

Modelos de Aprendizaje Automático
Máster en Inteligencia Artificial, Automatización y Agentes Digitales
Next Educación · Próxima edición
Sami Halawa Ribas

Índice

  • 1Interpretabilidad global
  • 2Explicación local
  • 3Comunicación
  • 4Práctica: Informe de interpretabilidad

Mapa de la sesión

Mapa de la sesiónBLOQUE 1Interpretabilidad globalBLOQUE 2Explicación localBLOQUE 3ComunicaciónPRÁCTICA ENTREGABLEInforme de interpretabilidad de dos páginas.
Objetivos de la sesión

Al terminar, el alumno será capaz de

1. Explicar globalmente y localmente un modelo.
2. Usar SHAP con corrección.
3. Comunicar una explicación a un interlocutor no técnico.
Estos objetivos son los que se evalúan en la práctica de la sesión y en la prueba del módulo.
1

Interpretabilidad global

M3 · Sesión 9 · Interpretabilidad y explicación de modelos

Interpretabilidad global

1Importancia de variables:permutación frente aimpureza2Dependencia parcial y ALE3Modelos sustitutos4Modelos intrínsecamenteinterpretables
M3 · Sesión 9 · figura 1 de 3

Interpretabilidad global — en la práctica

Qué hay que saber decidir

  • Importancia de variables: permutación frente a impureza
  • Dependencia parcial y ALE

Dónde suele fallar

  • Modelos sustitutos
  • Modelos intrínsecamente interpretables
Criterio: ninguna de estas decisiones se toma por costumbre; cada una se justifica por escrito en el cuaderno de la sesión.
2

Explicación local

M3 · Sesión 9 · Interpretabilidad y explicación de modelos

Explicación local

DecisiónSHAP: fundamento y lecturaLIME y sus limitacionesRiesgoContrafactualesExplicación frente a causalidad
M3 · Sesión 9 · figura 2 de 3

Explicación local — en la práctica

Qué hay que saber decidir

  • SHAP: fundamento y lectura
  • LIME y sus limitaciones

Dónde suele fallar

  • Contrafactuales
  • Explicación frente a causalidad
Criterio: ninguna de estas decisiones se toma por costumbre; cada una se justifica por escrito en el cuaderno de la sesión.
3

Comunicación

M3 · Sesión 9 · Interpretabilidad y explicación de modelos

Comunicación

1Explicación para elusuario afectado2Explicación para elregulador3Explicación para elequipo técnico4Riesgo desobreinterpretarSecuencia de trabajo de la sesión
M3 · Sesión 9 · figura 3 de 3

Comunicación — en la práctica

Qué hay que saber decidir

  • Explicación para el usuario afectado
  • Explicación para el regulador

Dónde suele fallar

  • Explicación para el equipo técnico
  • Riesgo de sobreinterpretar
Criterio: ninguna de estas decisiones se toma por costumbre; cada una se justifica por escrito en el cuaderno de la sesión.
4

Práctica

Informe de interpretabilidad

Práctica: Informe de interpretabilidad

Explicación global y local del modelo del proyecto con lectura para negocio.

Pasos

  1. Calcular importancia por permutación.
  2. Generar dependencias parciales.
  3. Explicar tres casos individuales con SHAP.
  4. Redactar la lectura para negocio.
Stackshap, scikit-learn
EntregableInforme de interpretabilidad de dos páginas.

Ideas que hay que retener

Interpretabilidad global: Importancia de variables: permutación frente a impureza
Explicación local: SHAP: fundamento y lectura
Comunicación: Explicación para el usuario afectado
Explicar globalmente y localmente un modelo.

Para seguir

  • Molnar, Interpretable Machine Learning, caps. 8-9
Lectura opcional. El material de referencia obligatorio es el manual del módulo y el cuaderno de la sesión.

Sesión 9 completada

Siguiente paso: entregar «Informe de interpretabilidad de dos páginas.»

M3 · Modelos de Aprendizaje Automático
Sami Halawa Ribas · Next Educación