UD4 · Sesión 10 de 12
Interpretabilidad y explicación de modelos
Modelos de Aprendizaje Automático · Interpretabilidad y comunicación · 15 h teóricas / 20 h prácticas
Por qué importa
SHAP explica qué ha hecho el modelo, no qué ocurriría en la realidad si la variable cambiara.
La explicación se ha convertido en un requisito contractual y regulatorio: el Reglamento (UE) 2024/1689 exige transparencia e información significativa para los sistemas de alto riesgo, y el afectado por una decisión automatizada suele tener derecho a una explicación comprensible. El riesgo profesional no es no explicar, sino explicar de más: presentar una atribución del modelo como si fuera un efecto causal.
Al terminar esta sesión sabrás
- Explicar globalmente y localmente un modelo.
- Usar SHAP con corrección.
- Comunicar una explicación a un interlocutor no técnico.