E117 - Noticias y links interesantes

Resumen

El episodio 117 de enCoders es una charla abierta de noticias, videos y librerías. Se discute si los LLM pueden mejorar la detección de phishing y estafas (con el riesgo de que los atacantes también los usen para personalizarlas), y qué es TinyML: modelos pequeños en microcontroladores para IoT sin internet, con aplicaciones en agricultura, minería y salud. Luego se clasifican videos de la semana (Branch Education, Cursor, Llama 3.2, test-time compute), con consejos para programar con LLM: guías de estilo en markdown, planificar paquetes y hacer commits constantes. Se comentan el uso de modelos locales frente a servicios como Claude, la privacidad de datos en LinkedIn, la vulnerabilidad de Zendesk reportada por un joven de 15 años y la posible separación de Google Chrome por el Departamento de Justicia de EE.UU. Cierran con novedades de Posit (Quarto parametrizado, plotnine, Mall). Las conclusiones: los LLM mejoran la clasificación de spam pero cuestan más cómputo y también favorecen a los atacantes; TinyML elimina la dependencia de internet; y usar IA para programar exige conocer lo que se construye.

Capítulos

• 00:00
  IntroPresentación del episodio 117, formato de noticias y librerías, y comentario sobre artículos que resultaron más clickbait que contenido.
• 00:24
  Detección de estafasUn artículo sobre estafadores en línea clasifica correos de phishing por urgencia y apelación a la autoridad. Se discute si los LLM mejorarían la detección (GPT por contexto, fine-tuning de un modelo dedicado por el costo de cómputo) y que los atacantes los usarán para personalizar estafas. Se muestra un audio meme de Goku pidiendo datos de tarjeta.
• 10:50
  TinyML y Aplicaciones en IoTTinyML lleva IA a microcontroladores (TensorFlow Lite en 32 bits). Se mencionan sensores en camiones refrigerados, ventajas sin internet (marcapasos en zonas rurales), bajo consumo, Bluetooth, Starlink y el uso de TPU/NPU para cálculo matricial.
• 22:17
  AI en agriculturaEl artículo cita el "broadcasting method" (aplicar insumos en todo el campo), que sensores y modelos pueden reemplazar por aplicación localizada con cálculo en el momento.
• 23:27
  Sobre Crecimiento PoblacionalDebate sobre la proyección de crecimiento de población citada en el artículo, la baja natalidad en países desarrollados y Corea del Sur, y la tasa de recambio.
• 26:53
  Clasificación de videos vistos en la semanaSegmento con notas de A a D. Branch Education explica por qué tarjetas como la 3080, 3090 y 3090 Ti comparten el mismo chip y se diferencian según los componentes defectuosos (se le da categoría A). Luego se revisa un video de Cursor: documento markdown con guía de estilo, planificación de paquetes (React, Vue), commits frecuentes y entender el código (categoría A).
• 37:01
  Introducción a la Programación EficienteReflexión sobre sentir que se aprende menos al usar IA, la necesidad de pausar y preguntar por qué el modelo hace cada cosa, y la utilidad de una guía de programación propia.
• 37:50
  Clasificación de Videos y Modelos de IACierre de la valoración del video de Cursor como A y paso al video sobre Llama 3.2.
• 38:17
  Nuevos Modelos y BenchmarkingLlama 3.2 (1B y 3B de parámetros, versiones Vision multimodales) y por qué seguir los benchmarks. El modelo 3B cuantizado ocupa unos 3,4 GB de VRAM. Se explican pesos, VRAM, tendencia a modelos más pequeños y mejores, y se menciona Qwen.
• 43:44
  Uso de Modelos Locales y Dependencia de ServiciosPhi 3.5 en gráficas pequeñas y memoria unificada. Se habla de privacidad, de la dependencia de Claude y ChatGPT, de un episodio donde se probó un modelo open source de NVIDIA con mal resultado, y de usar ChatGPT para discutir en pareja. El video recibe categoría B.
• 47:09
  Estructura y Búsqueda de Videos en el CanalSe recomienda no ver el canal desde el primer video, sino usar la lupa de búsqueda en la sección de videos (ejemplo: clustering, buenas prácticas de git, entrevistas). Anuncian un próximo episodio sobre agentes y el canal de Discord.
• 50:04
  Memes y Realidades de la ProgramaciónMemes sobre pasar un modelo a producción, reproducibilidad de papers, usar una guía de estilo para que el LLM escriba correos con su tono, el meme de una tarjeta gráfica y la importancia de git.
• 55:54
  Test-time computeVideo sobre el modelo o1 de OpenAI: más cómputo en inferencia mejora lógica y matemática, pero no la escritura creativa. Se explican la ramificación de siguientes palabras y la búsqueda del mejor camino, similar a RL con modelo del entorno. Una consulta costó 0,52 dólares. Categoría C.
• 01:00:51
  Algunos failsReseña de un canal de contenido de ciencia de datos de negocio, cuyo último video (unboxing de una CPU Intel con unidad neuronal) se considera poco informativo y de marketing. Se comenta que ya salen equipos con chip de IA, aunque conviene verificar compatibilidad.
• 01:02:27
  Problemas Éticos y de Privacidad en IAVideo sobre LinkedIn que usa por defecto el contenido de los usuarios para entrenar IA generativa. Se explica que borrar datos de un modelo ya entrenado es difícil, a diferencia de una base de datos, y se recomienda no regalar esos datos.
• 01:08:02
  Noticias y Monopolios TecnológicosVulnerabilidad de Zendesk (suplantación de correos) hallada por un joven de 15 años, a quien no pagaron recompensa. Luego, el Departamento de Justicia de EE.UU. y el monopolio de Google: forzar la venta de Chrome afectaría a Chromium, Edge y los ingresos de Firefox por ser buscador por defecto. Se debate el poder de Google.
• 01:12:21
  Herramientas y Librerías para Data SciencePosit (antes RStudio) y Quarto: reportes parametrizados con `quarto render` y parámetros `-P`, celda con tag de parámetros, y tutorial de un youtuber de ciencia de datos. Se mencionan también plotnine (gramática de gráficos) y Mall (LLM en pocas líneas, como análisis de sentimientos).
• 01:17:19
  CierreSe anuncia la segunda parte del proyecto de RAG, la cadencia de los martes de 7 a 9 de la tarde (UTC-3) y se agradece a la audiencia.

Palabras clave