E55 - Avoiding Data Pitfalls

Resumen

El episodio resume la charla "Avoiding Data Pitfalls" de Ben Jones y su libro del mismo nombre, que reúne errores frecuentes al trabajar con datos y los agrupa en siete tipos, de los cuales se tratan los primeros cinco. Se revisan casos concretos: meteoritos y terremotos registrados, un contador de bicicletas averiado, muertes por ébola corregidas sin retroactividad, años de vehículos con dos dígitos, marcas escritas a mano, nulos, duplicados ocultos, datos faltantes, promedios simples frente a ponderados y proporciones sin tamaño de muestra. Los conductores añaden experiencias propias, como un cruce (left join) que duplicaba tráfico de datos, y responden consultas del chat sobre detección de fraude. Las conclusiones principales son: asumir que los datos pueden estar mal y verificarlos, explicitar supuestos y definiciones, estudiar los nulos antes de borrarlos o reemplazarlos, buscar duplicados, tratar la información faltante como información, usar promedios ponderados y acompañar las proporciones con cantidades. También se insiste en cuestionar la fuente de un dato, reconocer los errores sin dramatizar y pedir el tiempo necesario para hacer bien un análisis. El tema de estadística (Christin Lenox) se pospone para otra sesión.

Capítulos

• 00:00
  IntroPresentan el episodio 55, grabado en fiestas patrias de Chile sin Mati. Explican que Ben Jones escribió "Avoiding Data Pitfalls" tras cometer errores en su libro anterior sobre Tableau, y que valoran reconocer los errores. Anuncian que, si alcanza el tiempo, hablarán de data leakage y de la charla de estadística, y que la charla trata siete tipos de problemas.
• 04:00
  Epistemic errorsErrores por malinterpretar definiciones y supuestos. Ejemplos: el mapa de unos 300 mil impactos de meteoritos registrados (solo se registran donde hay gente) y el aumento de terremotos por mejores instrumentos, que al separar por magnitud sube solo en los pequeños. Se discute el sesgo del superviviente (empresarios que abandonaron la universidad, aviones que regresan, p-valores bajos publicados). También el contador de bicicletas averiado, el tráfico duplicado por un cruce mal hecho, la importancia de validar con quien conoce los datos, el ébola con muertes acumuladas negativas por corrección no retroactiva y una discusión sobre detección de fraude (clases desbalanceadas, F1, anomalías, costo de la acción).
• 31:54
  Technical TrapsDatos de vehículos con año de dos dígitos que parten el promedio en dos grupos (se arregla anteponiendo 19 o 20). Los campos escritos a mano generan errores, por lo que conviene ofrecer menús desplegables con opción "otro".
• 35:48
  Fuzzy MatchingVolkswagen aparece escrito de 36 formas distintas. Se propone lógica difusa y la función `fuzzymatch` (librería `match`) para unificar por distancia entre caracteres; sube de la posición 26 a la 11. Se cuenta el caso de un chatbot de WhatsApp con matching difuso y la alternativa de usar GPT para chilenismos. Luego tratan los nulos en los colores de autos: estratificar antes de eliminar, no reemplazar por valores arbitrariamente grandes (ejemplo del carro de supermercado con tope de 64), la función de masking en Keras y KNN para imputar.
• 51:07
  MemesMeme del 1% que lee mal la campana de Gauss, otro sobre el 4% que cree cualquier dato en un PowerPoint y otro sobre encuestas. Se debate la desconfianza hacia las fuentes, con ejemplos de videos falsos de robots y prótesis, y se mencionan los dislikes de YouTube vía extensión.
• 01:00:20
  Continuación de ejemplosLos porcentajes de gris varían con el tiempo, por lo que conviene usar el porcentaje actual. Un conjunto de 15 millones de registros de una enfermedad tenía totales y subtotales (sexo y regiones) duplicados, y quedaban 3,7 millones reales. Recomiendan buscar duplicados ocultos y no usar Excel para esto.
• 01:02:49
  Mathematical Misscues - #NullDataMattersEn el gráfico de choques con aves por hora falta el mediodía, y en la carrera de Edgar Allan Poe faltan años sin publicaciones. La información faltante es información y debe graficarse. En el mapa de urbanización, los nulos no son ceros, y Bermuda (100%) distorsiona el promedio simple de Norteamérica, por lo que se necesita un promedio ponderado.
• 01:07:49
  Statistical Slip-UpsEn el peso de los jugadores de la NFL no existe el "jugador promedio": hay tres modos y conviene calcular una mediana por grupo. En el chat se discute el color para los nulos en un mapa (blanco o negro, según la escala), con una digresión sobre color aditivo y sustractivo.
• 01:14:12
  Analytical AberrationsGráfico en embudo de proporciones sin tamaño de muestra, en un análisis de un premio Nobel: con poca población la varianza es enorme. Recomiendan acompañar proporciones con cantidades o fijar un umbral mínimo. Ben Jones avisó al autor y este respondió con amabilidad.
• 01:18:12
  CierreRecomiendan no prometer análisis de un día para otro y ser transparentes con los tiempos ("garbage in, garbage out"). Comparten enlaces a Discord y YouTube y mencionan que el video completo y el libro irán en las referencias.

Palabras clave