E138 - Tecnicas de kaggle: ¿Sirven? Exploración y explicación

Resumen

El episodio 138 de enCoders explora Kaggle: qué es, cómo funcionan sus competencias (datos, métrica definida, leaderboard público y privado), qué más ofrece (datasets, notebooks, discusiones, cursos) y qué técnicas usan quienes compiten. Se explican con detalle la validación cruzada K-Fold y los ensembles (stacking y blending), las dos técnicas más típicas en Kaggle. Los conductores contrastan la plataforma con el trabajo real en la industria: en Kaggle el dataset llega listo, la métrica viene dada y no hay despliegue ni que "vender" el proyecto. La conclusión es que Kaggle es un excelente "playground" para aprender, buscar inspiración y ejemplos, y que tiene una comunidad muy valiosa, pero no equivale a experiencia laboral ni debe usarse como único criterio de contratación. Se recomienda complementar con proyectos reales y mostrar habilidades de limpieza de datos, comunicación y gestión. El episodio incluye además memes, avances del juego de Chris y dudas de la comunidad en Discord.

Capítulos

• 00:00
  Introducción y motivaciónMati explica que eligió Kaggle como tema para contrastar lo que se muestra en la plataforma con lo que se aplica en la industria, y que dedicará tiempo a explorarla. Los demás reconocen que la usan muy poco (una vez cada varios años).
• 01:46
  Video "Stop with the Kaggle Nonsense"Se comenta un video polémico de ~50.000 vistas cuyo argumento es que no contratan gente por Kaggle porque no representa problemas reales: los datos vienen procesados, hay enfoque en el modelo y no en los datos (data-centric) y hay "cheaters" con 100%. Se aclara que el mensaje es sobre no contratar por el leaderboard, no que Kaggle sea inútil.
• 05:51
  RankingsSe muestra la plataforma: cuenta, medallas (bronce, plata, oro), puntos por competir y escala de niveles (novato, contributor, experto, master, grand master) con un leaderboard general.
• 08:18
  Ejemplo de competencia y Leaderboard (LB)Se explica la competencia March Machine Learning Mania (predecir partidos de básquetbol universitario con probabilidades, evaluada con Brier Score), y la separación entre leaderboard público y privado, que solo se revela al final. Se mencionan fechas, premios (10.000 el primer lugar) y que en el Titanic hay quienes envían un puntaje de 1. Se mencionan también alternativas como datos abiertos de gobierno.
• 15:26
  Notebooks públicos y comunidadLas secciones Code y Discussion permiten ver y ejecutar notebooks de otros sin configurar nada. Se debate si el leaderboard muestra a todos los participantes y se menciona la entrevista a quien fue número uno.
• 20:05
  Copiar notebooks de otrosSe discute la crítica de que copiar notebooks públicos no da experiencia real. Se revisa la solución ganadora de March Mania, basada en un notebook público, con XGBoost tuneado y una sobreescritura manual de probabilidades (+10% a las menores a 0,85). También se discuten el uso de datos externos y el data leakage como trampa.
• 26:26
  Herramientas de visualización en PythonRespuesta a una pregunta del chat: Matplotlib (muy personalizable), Seaborn (gráficos simples en pocas líneas) y Plotly (interactividad en HTML). No se conoce una librería específica para gráficos estadísticos como QQ plot. Se cita un comentario del segundo lugar sobre la relación entre horas gastadas y posición.
• 28:58
  Exploración de datos y modelosSe muestra la sección de datasets (con filtros, descripción y notebooks asociados), la de modelos y la de código general, útiles para encontrar datos ya limpios y ejemplos (por ejemplo, de churn).
• 31:14
  Importancia de los ejemplos y la comunidadKaggle es buena fuente de ejemplos, pero hay que filtrarlos porque pueden estar mal; estar en los primeros lugares no garantiza que el ejemplo sea bueno.
• 32:18
  Competencias y plataformas de aprendizajeSe mencionan los cursos gratuitos con notebook integrado (algunos opinan que son malos), la comunidad activa y la posibilidad de organizar una competencia de enCoders. Se comenta un caso chileno en que un banco contrató al ganador de una competencia hecha fuera de Kaggle.
• 34:33
  Resumen hasta ahoraMati cierra la primera parte y anuncia que explicará técnicas usuales y luego la discusión sobre si Kaggle sirve en la práctica.
• 35:37
  MemesSección de memes: un creador que se hace pasar por ingeniero, memes sobre notebooks a producción, lanzamientos de LLM y Docker. Se comenta el meme de que ganan quienes tienen más GPUs y que Kaggle no es experiencia laboral, comparable a proyectos de bootcamp; se recomienda conseguir clientes reales pequeños.
• 41:25
  Avance de Chris con el desarrollo de su juegoChris cuenta que hizo un refactoring de una clase que había mutado en cinco objetos distintos, con retrabajo manual de configuraciones, y que sigue con los ataques para una demo interna.
• 46:06
  Dudas y comentarios en DiscordSe responde sobre ambientes virtuales (episodio 120), la importancia de la teoría y los certificados para recursos humanos (certificados de nubes, bootcamps, marca reconocida), con bromas sobre un curso de enCoders.
• 50:32
  Entrevista a Christof Henkel y técnicas en competenciasMati comenta la entrevista a Christof Henkel (gran master, trabaja en Nvidia participando en competencias): le pareció general y no del todo sólida en cuanto a la aplicabilidad en la industria. Resume que se parte de entender el problema, EDA y técnicas variadas.
• 57:08
  Técnicas típicas: k-fold cross validation y emsemble modelsSe identifican K-Fold y ensembles como las dos técnicas esenciales, junto con tuneo de hiperparámetros y feature engineering, y el uso frecuente de XGBoost, CatBoost, LightGBM y redes neuronales.
• 01:00:32
  Explicación de la validación cruzada K-FoldSe explica con un diagrama de cinco folds cómo se entrena con k-1 y se evalúa en el restante, promediando métricas para generalizar mejor, a costa de más tiempo de cómputo. Se aclara que no aumenta la dimensionalidad del modelo, se mencionan variantes (leave-one-out, stratified, group) y la precaución con datos temporales. Se enumeran además 10 consejos de la entrevista aplicables a principiantes.
• 01:13:28
  Ensemble models: Stacking y blending de modelosStacking: modelos base con K-Fold generan predicciones que alimentan un metamodelo; blending usa un holdout y desaprovecha datos. Mejora el rendimiento pero se pierde explicabilidad, y sirve como benchmark frente a modelos más simples.
• 01:19:58
  Crítica a las competencias de KaggleMati enumera las limitaciones: el dataset viene limpio, la métrica ya está definida, no hay despliegue ni restricciones de producción, y no hay que vender el proyecto. Aun así lo valora para inspiración, y advierte sobre la obsesión por rendimiento.
• 01:33:26
  Reflexiones finales y recomendacionesSe advierte sobre candidatos que solo quieren modelar y no limpiar datos, y sobre el ejemplo de data leakage con nombres y apellidos como predictores en una competencia de churn. Se concluye que Kaggle es un buen playground y fuente de comunidad, pero no sustituye proyectos reales.

Palabras clave