Resumen
El episodio 126 de enCoders, grabado el 28 de enero de 2025, comenta la semana en que se anunció el proyecto Stargate (una inversión de 500 billones de dólares en infraestructura de IA) y salió el modelo chino DeepSeek (V3 y R1). DeepSeek se presenta con rendimiento comparable a GPT-4o y Claude 3.5 Sonnet, código abierto y un costo muy inferior. Esto provocó una caída histórica de Nvidia y de otras tecnológicas en bolsa. Los tres hablantes debaten si los LLM serán un commodity, si el valor estará en el servicio agregado y si hay una burbuja de IA comparable a la de las puntocom. Probaron DeepSeek R1 con un problema matemático (resolvió mal, pero dio ideas útiles) y vieron su censura posterior sobre Tiananmen. Concluyen que es prematuro juzgar su rendimiento real, pero que la mayor competencia beneficia a los consumidores. El episodio cierra con especulaciones sobre publicidad generativa, datos y simulación.
Capítulos
- 00:00IntroPresentación del episodio 126 y de los temas: Stargate, DeepSeek y otras noticias recientes.
- 00:50Proyecto Stargate: Historia y contextoEl nombre viene de un proyecto de la Guerra Fría para entrenar gente con poderes psíquicos, motivado por un supuesto psíquico ruso (mencionan a "Geller"), que resultó ser un engaño.
- 01:54Proyecto Stargate actualProyecto anunciado el 21 de enero para construir infraestructura para entrenar modelos de lenguaje con 500 billones de dólares en 4 años; lo financian varias empresas y bancos (mencionan uno japonés) con apoyo del presidente Trump.
- 03:39Desafíos y especulaciones sobre StargateDías después de anunciarlo salió DeepSeek y se cuestiona cuánta inversión hace falta; opinan que el proyecto no es una inversión perdida, aunque quizás no se necesiten tantas GPU.
- 05:04Introducción a DeepSeek y comparacionesContexto del lanzamiento de DeepSeek V3 y R1, de código abierto (a diferencia de OpenAI), que según su paper supera a GPT-4o en varios benchmarks y se acerca a Claude 3.5 Sonnet.
- 07:35Rendimiento y costos de DeepSeekSe dice que fue entrenado con mucho menos dinero (hablan de ~1% del costo) y que cuesta unas 100 veces menos que ChatGPT de pago; recalcan que es chino y que la API está colapsada por la demanda.
- 11:54Beneficios para los consumidores por nueva competenciaConsideran prematuro decir si es mejor o peor, pero lo ven usable y barato; usarían sus servicios sin información confidencial, y la competencia beneficia a los consumidores.
- 13:01Impacto en el mercado y competenciaNvidia cayó cerca de 15-17% en un día, la mayor caída histórica en valor absoluto; discuten el paradigma de "más GPU = más poder", la nomenclatura billón/trillion y si DeepSeek es "suficientemente bueno" a una fracción del precio. Comparan precios por millón de tokens frente a OpenAI y o1.
- 22:17Ventajas de un modelo opensource y ejecusión localAl ser abierto puede ejecutarse localmente, sin enviar datos a terceros y sin internet, y permite fine-tuning; es valioso para privacidad y temas confidenciales.
- 23:40Reacciones en MetaUn post de Team Blind sobre Meta sostiene que llama 4 quedó atrás de DeepSeek y que los ingenieros copian su código; discuten que copiar y mejorar es natural en ciencia y que DeepSeek aplicó optimizaciones previas (menor precisión numérica, activar solo ciertas capas). Afirman que esto amenaza el modelo de negocio de cobrar suscripciones y que el LLM tiende a ser un commodity.
- 29:56Comparación de benchmarks entre varios modelosRevisan una página que compara muchísimos modelos en calidad, velocidad y precio, donde R1 destaca entre los baratos; discuten la analogía de la carrera espacial EE.UU.–China y por qué OpenAI quizás no optimizó costos (estrategia de ganar mercado primero, como PayPal con bonos o Netflix).
- 39:20MemesSección de memes: la gente que cree poder crear una empresa de mil millones con R1 sin errores, las acciones en rojo, el personaje chino de Silicon Valley copiando, Sam Altman y Winnie the Pooh.
- 42:56Ejemplo de razonamiento con problema matemático con DeepSeekPrueban R1 con un problema de ordenar un billón de cartas dividiendo en stacks; su razonamiento visible explora casos pequeños, "picos" de permutación y analogías, y aunque la respuesta final es incorrecta sirve para explorar ideas.
- 48:52Ejemplo de DeepSeek censurando a posterioriAl preguntar por Tiananmen 1989 la respuesta empieza a aparecer y luego se borra con un mensaje de censura; especulan con un módulo que revisa la salida después de generarla, y comparan con un comportamiento similar de Claude.
- 51:42Respuesta de ChatGPT a problema matemáticoLa versión gratuita de ChatGPT da una respuesta también incorrecta y menos elaborada que la de R1; no han probado DeepSeek con código.
- 53:50Burbujas del mercado y cosas que quedanComparan con la burbuja puntocom: la inversión dejó centros de datos, cables y capital humano que permitieron la segunda ola de la web; análogo posible para GPU y energía. Paralelo de Nvidia con Cisco, y mención de Janus (modelo multimodal de DeepSeek) probado en Hugging Face con resultados flojos.
- 01:00:13Reflexiones sobre la publicidad y la industriaLa publicidad mueve cerca de 1 billón de dólares al año y es el gran ingreso de la web; comparan con videojuegos, nube, música y cine, y plantean qué pasa si estalla la burbuja y sobran GPU y energía (ejemplo de la minería de bitcoin; competidores como AMD y Groq).
- 01:03:20Especulaciones del futuro (Qué se fumó Chris D:)Chris especula que para la AGI harán falta datos generados, simulaciones de múltiples decisiones tipo física cuántica y realidades virtuales; los otros ven más plausible la vía de videojuegos/realidad virtual y ceder datos personales a cambio de beneficios. Cierran con publicidad personalizada generativa y contenido generado a medida.
- 01:17:17CierreConclusión: la caída en bolsa muestra que la noticia es relevante, pero es prematuro juzgar el rendimiento; más competencia en LLM es lo mejor del episodio. Al final comparan respuestas incorrectas de varios modelos (2, n-1, n) al problema de cartas.