E22 - Interpretabilidad de modelos

Resumen

En este episodio, grabado el 31 de enero de 2023, los conductores explican por qué la interpretabilidad de modelos es clave en ciencia de datos: un buen desempeño no basta, porque hay que "vender" y defender el modelo ante el negocio, los clientes y los reguladores, que no aceptan una caja negra. Comparten experiencias reales (tablas de promedios por decil, árboles y regresión logística como puerta de entrada al fenómeno, validar la intuición del negocio, variables accionables vs. no accionables, sesgos en el tablón maestro). Destacan la importancia de comunicarse constantemente con el negocio, definir bien el problema y usar pocas variables. En la segunda parte presentan las técnicas: interpretabilidad global (importancia de variables por permutación) y local/global (LIME y SHAP), con un ejemplo sobre calidad de vinos. La conclusión es que a veces conviene sacrificar algo de performance por interpretabilidad, y que estas técnicas están bien soportadas en librerías de Python y R.

Capítulos

• 00:00
  IntroPresentan el tema: las métricas altas no bastan, hay que vender el modelo a una contraparte y una caja negra es más difícil de vender. Insisten en que el data scientist debe defender el modelo, entender los datos y el fenómeno, y que el retorno prometido se cumpla en la implementación.
• 03:30
  MotivaciónPlantean una historia ficticia: recibes de un desconocido un pendrive con un modelo de score 0,93 que es una caja negra, y debes convencer a un jefe de usarlo. Discuten qué preguntarían (qué datos y cómo se procesaron, ejemplo del auto autónomo entrenado en un pueblo y usado en India, "garbage in, garbage out"), la importancia de la comunicación constante con el negocio (metodología ágil) y cómo entender el modelo permitiría mejorar el propio.
• 11:07
  Experiencia con diversas técnicasDescriben la tabla de promedios (o medianas) por decil del score, hecha en Excel, que genera discusión con gente de negocio. Cuentan que usan árboles y regresión logística para hallar variables importantes, que la importancia de variables valida la intuición del negocio ("la guata"), qué pasa cuando los resultados no coinciden con esa intuición, los sesgos del tablón maestro y los errores propios, la regla de desconfiar de métricas demasiado buenas (0,9) y la ventaja de usar menos variables (frente a 600) por mantenimiento y por fuentes de datos que pueden desaparecer en producción.
• 36:30
  DriversDefinen los drivers como los atributos accionables por el negocio. Ejemplo de la variable región (el Maule): mejora el desempeño pero no se puede accionar, y quitarla no basta porque el modelo la detecta vía otras variables correlacionadas. Para modelos descriptivos las variables no accionables sí sirven como información; subrayan definir bien el problema desde el inicio y comunicarse con el negocio.
• 44:14
  MemesRevisan memes sobre la necesidad de álgebra lineal, estadística y probabilidades para interpretar modelos, y sobre estadísticos vs. ingenieros de machine learning. Discuten si hace falta entender la matemática detrás (analogía con el microondas) y comentan valores y vectores propios, base de PCA.
• 50:02
  Interpretabilidad local y globalDistinguen confiar en el modelo (métricas) de confiar en cada predicción. Presentan interpretabilidad global (permutation feature importance, partial dependency plot) y local (LIME, SHAP), disponibles en H2O, shap y lime de Python y shapper/limer en R. Local explica por qué una persona específica fue clasificada así; global explica el modelo completo. Mencionan regulaciones (bancos, riesgo crediticio, no discriminar por género) y que interpretabilidad no implica causalidad.
• 57:55
  Importencia de variablesExplican la importancia por permutación con un ejemplo de calidad de vinos: se permuta una variable, se recalcula el error y se ve cuánto empeora el desempeño. Es agnóstico al modelo, simple (unas 20 líneas) y rápido; limitaciones: no indica dirección del efecto y es engañoso con variables muy correlacionadas. En el ejemplo el alcohol y la acidez impactan en la calidad. Respondieron además una pregunta del chat sobre la próxima gran cosa en programación (programar en lenguaje natural, computación cuántica, ensamblar componentes).
• 01:10:45
  LIMELIME es una técnica de interpretación local: perturba datos alrededor del punto de interés, los predice con la caja negra, les asigna pesos por cercanía y ajusta una regresión lineal cuyos betas (tamaño y signo) indican qué atributos importan. Sirve para texto, imágenes y grafos, es rápida, solo da explicaciones locales y se debe revisar el ajuste (R²) de la regresión; discuten si promediar los betas daría una importancia global (no lo saben).
• 01:21:19
  SHAPSHAP se basa en valores de Shapley: promedia la contribución marginal de cada atributo sobre las combinaciones de orden (ejemplo de talar un árbol con Ana, Bob y Cindy). Ofrece interpretación global y local, está integrado en H2O y en paquetes de Python, y es más costoso de calcular. Interpretan el gráfico de puntos coloreados con el ejemplo del vino (alcohol positivo, densidad y acidez negativas) y el gráfico individual de una fila.
• 01:29:12
  CierreResumen: la interpretabilidad es crucial para vender la idea y a veces implica sacrificar performance; SHAP y LIME son las técnicas más conocidas y bien soportadas. Dejarán enlaces por Discord y se despiden.

Palabras clave