E90 - Noticias de las últimas semanas (CharGPT 4o)

Resumen

En este episodio 90, grabado el 21 de mayo de 2024, los conductores repasan las noticias de las últimas semanas. Comentan el lanzamiento de GPT-4o (más rápido, con mejor memoria de contexto y con demos de voz, tutoría educativa y entrevistas) y sus límites: sigue alucinando con instrucciones muy precisas. Revisan nueve startups de IA financiadas por Y Combinator y discuten cómo los proyectos open source financiados terminan cobrando servicios adicionales (LangChain, LlamaIndex). Hablan de los test unitarios automáticos (CoverAgent de Meta), de las críticas a Prophet para series de tiempo y de la importancia del forecasting probabilístico. Cierran con las novedades de Microsoft (PC con NPU, Copilot, Paint con IA) y la preocupación por los modelos de negocio. La conclusión general es que la IA automatiza tareas básicas y transforma el trabajo, pero requiere criterio humano, y que conviene que existan alternativas open source.

Capítulos

• 00:00
  IntroPresentación del episodio 90 como repaso de noticias de dos semanas, con enlaces en Discord. Comentan que al buscar "ChatGPT 4o" en Google aparece publicidad engañosa que los llevó a un sitio dudoso.
• 00:49
  ChatGPT4oExplican que el nuevo modelo es más rápido y acepta audio, imágenes y texto; para uso cotidiano (programación, consultas SQL, filtros) consideran suficientes los modelos anteriores. Mencionan la demo de una IA actuando como cliente conversando con otra IA de call center y hablan de lo molestas que son las llamadas comerciales (tasas de conversión cercanas al 10%). Muestran demos en vivo, entre ellas una con sarcasmo y otra de entrevistas de trabajo.
• 12:37
  ChatPGT4o en educaciónMuestran la demo de un tutor que ve lo que el estudiante dibuja (triángulo, seno de alfa, hipotenusa) y lo guía sin dar la respuesta. Opinan que automatiza lo básico para que los profesores se centren en lo complejo, y que los trabajos se transforman en vez de desaparecer. Citan un gráfico donde GPT-4o retiene cerca del 90% de la conversación tras unos 117.000 tokens (contra ~60% de GPT-4 Turbo y Claude 3), y señalan que sigue fallando con instrucciones muy precisas porque funciona por probabilidades.
• 23:53
  Y Combinator y algunas startupsRepasan startups financiadas por Y Combinator: Artisan (empleados de IA para ventas y correos), Pythagora (programar por voz en una extensión de VS Code), Apriora (entrevistas automáticas, comparada con Aira), Gamma (presentaciones, con 12 millones), una herramienta para abogados, LanceDB (base vectorial multimodal open source) y una empresa de robots domésticos (150 millones). Discuten cómo las startups con inversión terminan cobrando servicios sobre lo open source (LangSmith de LangChain, LlamaParse y LlamaCloud de LlamaIndex), el equity de los inversionistas y las diferencias de montos entre Chile y Estados Unidos.
• 52:40
  MemesComentan memes sobre Jira (GPT-4o no entiende cómo usarlo), una máquina que arregla la cama como ejemplo de sobreingeniería (con alusión a MLOps), Quarto frente a Excel, estudiantes que usan IA para ensayos y la proliferación de productos llamados "Copilot".
• 59:26
  Test unitarios automáticosComentan que los test unitarios suelen quedar relegados por falta de tiempo. Mencionan CoverAgent de Meta, que genera tests unitarios con un LLM, y planean probarlo más adelante.
• 01:05:30
  Prophet es malo?Discuten un hilo donde uno de los creadores de Prophet (librería de Meta para series de tiempo) cuestiona la herramienta y un artículo crítico. Se plantea que da un punto en vez de una distribución de probabilidad y que otras alternativas como DeepAR y GluonTS serían mejores. Resaltan la importancia del forecasting probabilístico y la incertidumbre, y quieren profundizarlo en un episodio futuro, quizás con un invitado.
• 01:13:18
  Noticias de MicrosoftDescriben los nuevos PC con NPU (unidad de procesamiento neuronal) separada de CPU y GPU para ejecutar Copilot, y aconsejan esperar antes de comprar equipo nuevo. Especulan sobre el modelo de negocio (servicios de pago, publicidad), destacan el valor del open source (Mistral, Llama 3, Grok) y la estrategia de AWS Academy en universidades. Responden preguntas del chat sobre cursos de buenas prácticas en Python y sobre el mercado de desarrollo web, y celebran la función de Paint que mejora dibujos.
• 01:25:55
  CierreAnuncian que sobró material para otra transmisión y que la próxima semana entrevistarán a Rodrigo Osorio sobre LLM. Invitan a unirse al Discord y al canal de YouTube.

Palabras clave