E98 - Noticias del mes: Positron, interpretabilidad, Q-Start

Resumen

En este episodio de noticias del mes, el equipo comenta el supuesto proyecto Strawberry/Q* de OpenAI y los cinco niveles de inteligencia de los LLM (chatbots, razonamiento, agentes, innovación, organización). Revisan el hackeo del prompt de sistema de Claude 3.5 Sonnet y los "artefactos" de Claude. Comentan temas más ligeros: un estudio para entender a los perros con IA, Google Vids, el libro "Who, not how" y la delegación, y herramientas como SAS, un modelo para aclarar imágenes y el proyecto Numina para problemas matemáticos. Explican los avances de Anthropic en interpretabilidad (el modelo "Golden Gate Bridge" y la manipulación de neuronas), Gemini en Gmail y el nuevo IDE Positron de Posit. Conclusión: el siguiente salto es el razonamiento integrado en el modelo, la interpretabilidad permite dirigir las redes neuronales, y Positron es una evolución prometedora (aún en beta) para R y Python.

Capítulos

• 00:00
  IntroPresentación del episodio de noticias del mes: Positron, interpretabilidad y otros temas.
• 00:23
  Q*, Strawberry y nivel 2Un reportaje de Reuters habla del proyecto Strawberry de OpenAI, que sería el Q*. Se describen los niveles de OpenAI: nivel 1 chatbots, nivel 2 razonamiento y planificación (hoy logrado con cadena de pensamiento o multiagentes), nivel 3 agentes que actúan por ti (ejemplo: planificar y comprar unas vacaciones), nivel 4 innovadores y nivel 5 organización. Se compara con los niveles de conducción autónoma y se menciona el caso de Devin como fuente de datos para entrenar.
• 10:45
  Claude 3.5 hackSe muestran los artefactos de Claude 3.5 (ventana con SVG o páginas web generadas) y el jailbreak de Pliny, que obtuvo el prompt de sistema de Claude 3.5 Sonnet. Se comenta que detrás de ChatGPT hay prompts largos que se ajustan constantemente, y se recomienda el canal de Matthew Berman. Hay una encuesta humorística sobre conducción autónoma estando ebrio.
• 21:18
  Entendiendo a los perrosInvestigadores de la Universidad de Michigan adaptan modelos entrenados con voz humana para interpretar ladridos (emociones, agresividad). Se discute que el caso de uso es dudoso y que la dificultad principal es conseguir datos etiquetados.
• 26:32
  Google VidsHerramienta de Google Workspace que, a partir de una presentación, genera un borrador de video con guion y voz en off editable. Está en acceso restringido a gente seleccionada y estiman que faltaría cerca de un año para que sea operativa.
• 32:20
  Who, not howSe discute que el tiempo vale más que el dinero y conviene pagar por herramientas que ahorran tiempo. Se menciona el libro "Who, not how" sobre delegar, el costo de oportunidad y el cuidado de la calidad al tercerizar.
• 37:55
  MemesMemes sobre pasar bases de datos como Excel, los "ingenieros 10x" con IA y empresas que prefieren "jugar seguro" hacia la obsolescencia. Se habla de la entropía y del riesgo en empresas burocráticas, y se recomienda un canal de YouTube de resúmenes de libros.
• 47:14
  Dudas de discordExperiencia del presentador con SAS y su Enterprise Guide ("arañas" de cajitas): útil para analistas sin código y mejor que Excel, pero lento, difícil de productivizar y amarrado a la plataforma. Se anuncian proyectos para el máster de Data Science y meetups en Santiago.
• 55:31
  Esclarecimiento de imágenesRepositorio de GitHub de un método para aclarar imágenes oscuras con menos artefactos y desenfoque que modelos anteriores (tipo Retinex). Se compara con otros métodos y una referencia.
• 59:46
  Project Numina, resolución de problemas de olimpiadas matemáticasProyecto que quedó primero en una competencia de IA para olimpiadas matemáticas; los modelos están disponibles en Hugging Face. Se prueba con un problema de raíces de un polinomio.
• 01:03:06
  Página web hecha con ClaudeSe muestra que los artefactos de Claude permiten publicar la página web generada, aunque en este caso solo era la interfaz sin funcionalidad.
• 01:04:05
  Mejoras en la interpretabilidad y el meme del Golden Gate BridgeAnthropic modificó una característica del modelo para dar máxima importancia al puente Golden Gate, de modo que todo lo que responde se relaciona con él. Se explica que se puede identificar qué activa cada neurona (por ejemplo Sarcasmo o scam) y subir o bajar su peso para dirigir el modelo. Se menciona el uso de un autoencoder que aumenta la dimensión para separar conceptos.
• 01:13:05
  Gemini en GmailGoogle integra Gemini en Gmail con un enfoque tipo RAG para buscar en el historial de correos con referencias. Aún no disponible para todos y probablemente solo en inglés.
• 01:15:00
  PositronIDE de Posit (antes RStudio) basado en un fork de VS Code para ciencia de datos con R y Python, con selector de ambiente, consola, visor de variables y de gráficos. Está en beta; se recomienda la lista de tutoriales en video.
• 01:24:20
  CierreResumen de los temas y adelanto de un proyecto personal de Data Science (predecir precios de ítems en un juego online) para una próxima sesión.

Palabras clave