E35 - Sesgo en Inteligencia Artifical

Resumen

El episodio define el sesgo en modelos de IA como una desviación sistemática respecto de la realidad. Distingue entre sesgo local y global, y entre sesgo y error. Se discute por qué importa sobre todo cuando afecta a grupos con datos sensibles (género, raza, nacionalidad, nivel socioeconómico). Importa por el impacto en la marca, la regulación (en Europa ya hay leyes estrictas y en Chile se espera algo similar), la pérdida de oportunidades de negocio y la justicia misma. Se repasan casos conocidos (Amazon, Google Fotos, PredPol, el chatbot de Microsoft) y se explican el sesgo frente a la varianza con el ejemplo del blanco de tiro y la importancia de entender qué atributos usa el modelo. Se presentan dos librerías para medir y mitigar la injusticia de un modelo: AIF360 (Python, IBM) y fairmodels con DALEX (R). La conclusión es que el sesgo siempre existe en algún grado, que hay que medirlo y decidir si corregirlo según el objetivo del modelo, y que la mayor parte viene de los datos. Entre medio hay una sección de memes y preguntas del chat sobre carrera y organización de proyectos.

Capítulos

• 00:00
  IntroSe presenta el episodio sobre sesgo en inteligencia artificial, con Cris llevando la discusión y revisando un par de librerías.
• 00:45
  Qué es sesgo?Se define sesgo como tratar distinto a una población determinada (ejemplo: un modelo de contratación que recomienda 90% hombres y 10% mujeres). Con el ejemplo de altura y peso se muestra que el sesgo es la diferencia entre el modelo y la realidad, local o global, y que casi siempre existe porque los datos son incompletos. Se discute si el sesgo es sistemático o es solo error, y cuándo importa que la muestra no represente a la población (un modelo entrenado solo con hombres que se aplica a mujeres). Se menciona el caso de la imagen clasificada como gorila, aunque se duda de si es sesgo o error, y los tipos sampling bias, algorithm bias, user bias y el sesgo de policía predictiva. Se menciona LIME para explicar qué zonas de la imagen usa el modelo.
• 12:54
  Ejemplos de sesgosSigue el caso de Google con las fotos y los tipos de sesgo (de muestreo, algorítmico, del usuario). Se plantea que el modelo puede aprender atributos como el color de piel por falta de robustez, y que ciertos errores son mucho más costosos que otros, de modo que podría valer la pena sacrificar performance. Se compara con los errores tipo I y tipo II.
• 21:33
  Por qué es importante?Equivocarse afecta la marca de la empresa, el cumplimiento de leyes (modelos de riesgo de crédito y de adquisición de clientes podrían ser auditados), la moral y productividad de los empleados, y la diversidad de los equipos. Se debate que la diversidad tiene un punto de rendimientos decrecientes.
• 26:25
  Sesgo vs varianzaCon el blanco de tiro se explica que sin sesgo se apunta a donde corresponde, que la varianza es la dispersión de los tiros y que puede haber varianza con o sin sesgo. Se traslada a clasificación con el ejemplo del pez gato clasificado como perro, gato o pez payaso, y luego a personas.
• 30:56
  Otros casos de sesgo: Amazon, Google, PredPol, MicrosoftSe comentan cuatro casos: la herramienta de reclutamiento de Amazon que discriminaba a mujeres porque había más hombres en los datos, el modelo de Google con datos mayoritariamente de personas blancas, una empresa que apoyaba a la policía y discriminaba barrios negros y latinos, y el chatbot de Microsoft en Twitter que aprendió de trolls. Se discute que un modelo con pocos atributos tiende a generalizar sobre un grupo y que más atributos reducen el sesgo, y la tensión entre mejor métrica y aceptabilidad social.
• 41:05
  MemesSe comentan memes sobre sesgo y varianza, YOLO (algoritmo de detección de objetos), el caso del reconocimiento facial que solo tenía datos de Obama y los miedos exagerados sobre la IA. También se comenta cuánto tarda en llegar una película generada por IA y se responden preguntas del chat. Estas incluyen proyectos para partir en análisis de datos (Titanic, Kaggle), cuánta experiencia hace falta para ser semisenior (2 a 3 años), cómo mostrar experiencia del sector público con datos confidenciales y cómo organizar archivos CSV en carpetas y subcarpetas.
• 55:19
  Algunas herramientas para verificar si un modelo es justo: AIF360, fairmodelsSe presentan AIF360 (Python, desarrollado por IBM, con métricas de justicia y opciones para ajustar el modelo) y fairmodels (R, con gráficos para comparar modelos).
• 57:40
  Ejemplo con AIF360Con el German Credit Dataset se define un grupo privilegiado (sexo) y se entrena un modelo con adversarial debiasing en TensorFlow. Luego se prueba un Random Forest común y se calculan métricas como disparate impact (cercano a 1 es justo) y equal opportunity difference (cercano a 0 es justo), calculadas por grupo. Se discute que es mejor incluir la variable sensible para poder medir el sesgo, porque otras variables pueden estar correlacionadas con ella. En medio se responde en el chat cómo saber si se avanza bien en Python para datos y se enumeran los temas básicos que debe manejar quien se inicia.
• 01:14:01
  Ejemplo con fairmodelsCon el mismo dataset en R se entrenan una regresión logística y un Random Forest y se usa DALEX para generar explainers, definiendo la variable sensible y el grupo privilegiado. Un gráfico marca en rojo los valores fuera de 0,8–1,25. La regresión logística perjudica a las mujeres según la métrica de especificidad, mientras que el Random Forest discrimina menos. Se comenta la documentación de IBM de AIF360 y se debate cuándo perjudicar a alguien es o no un problema (impacto económico, marca, principios).
• 01:22:08
  Adversarial debiasing modelSe explica que el modelo tiene dos componentes: un clasificador que reduce su pérdida y un adversario que intenta predecir el atributo sensible (sexo). Se busca reducir el error del clasificador y a la vez que el adversario no pueda distinguir el atributo.
• 01:24:06
  CierreSe resumen los temas: qué es el sesgo, por qué importa, casos famosos y herramientas en Python y R. Se invita a seguir el canal por Discord y YouTube, con episodios los martes de 7 a 9 de la noche (hora de Chile).

Palabras clave