Resumen
El episodio E93 repasa noticias de las últimas semanas y algunas más antiguas. Parte con Apple Intelligence: un Siri mejorado e integrado con las apps, procesamiento local con una nube privada para tareas pesadas, integración con OpenAI y requisitos de hardware (A17 Pro, chips M1 en adelante). Luego tratan temas de seguridad: una extensión maliciosa de VSCode que imitaba al tema Darcula, el hackeo al New York Times por un token expuesto en GitHub y los datos sin cifrar de Microsoft Recall. Después hay memes, un paper de optimización simbólica física, la librería plotnine con la gramática de gráficos, la discusión sobre si los dashboards están muertos, la publicidad engañosa de Rabbit, los BitNets y una explicación de CPU, GPU y NPU. Las conclusiones principales son: no exponer credenciales en repositorios, desinstalar las extensiones que no se usan, preguntarse si un dashboard es realmente lo que el cliente necesita y desconfiar de los productos de IA que se venden con mucho humo.
Capítulos
- 00:00IntroPresentan el episodio de noticias de las últimas dos semanas y otras más antiguas. Comienzan con Apple Intelligence: Siri mejorado y con acceso a la agenda y los contactos, reescritura de texto y generación de imágenes de calidad básica. Se ejecuta en local y recurre a una nube privada para tareas intensivas. Se integra con OpenAI/ChatGPT y preguntan al usuario antes de consultarlo. Comentan que podría cobrarse una suscripción y que Elon Musk amenazó con prohibir los dispositivos Apple en sus instalaciones. También conversan sobre sistemas operativos (Windows, Ubuntu 22, macOS) y el uso de MacBook para ciencia de datos.
- 10:48Calculadora de AppleCelebran la nueva calculadora, que reconoce ecuaciones escritas a mano, resuelve cálculos y grafica funciones. Mencionan memes sobre su larga inexistencia en iPad. Aclaran que las funciones requieren hardware reciente (chip A17 Pro en iPhone 15 Pro, M1 o superior en Mac) y sospechan que Apple busca que los usuarios renueven sus equipos.
- 15:15Extensión de VSCode maliciosa - DarculaUna extensión con un nombre casi igual al del tema Darcula fue instalada por más de un millón de usuarios y contenía código que enviaba datos del computador al atacante. Recomiendan desinstalar las extensiones que no se usan y cambiar credenciales y tokens si se tuvo instalada. Comentan que el antivirus no la detectaba y bromean con que la ciberseguridad empujará a pagar por extensiones verificadas.
- 20:15New York Times hackeado por exponer tokens en GitHubSe robaron 273 GB de archivos y código por un token expuesto en un repositorio público de GitHub. Recomiendan no escribir credenciales en el código, usar variables de ambiente y archivos `.env` ignorados por git. Además discuten si el cambio de científico de datos a ingeniero de datos es abrupto y explican el ciclo del hype impulsado por consultoras (curva de Gartner: Data Science, ciberseguridad, blockchain, ML Ops, IA generativa). Cierran con la experiencia de usuario de Apple frente a su modelo de negocio restrictivo.
- 30:12Microsoft Recall usaba una base de datos SQL no encriptada en el PCRecall guarda capturas de pantalla y las analiza con IA de forma local, pero la base de datos quedaba sin cifrar y accesible para quien entrara al equipo. Microsoft pasó a dejarlo desactivado por defecto con activación opcional. Los participantes se quejan de la publicidad en Windows y mantienen Windows por los juegos y por la compatibilidad de algunos programas.
- 32:50MemesRecuerdan el Discord y el canal de YouTube (van en el episodio 80 subido y este es el 93). Comentan memes sobre `requests` y los "wrappers" de OpenAI, startups que serían poco más que una capa sobre un modelo ajeno. Siguen un meme sobre el código con nombres heredados (`legs`/`pies`) y otro sobre la calculadora de Apple, y uno sobre que Apple saca lo mismo más caro.
- 39:40Physical Symbolic OptimizationSe comenta un paper que usa aprendizaje reforzado para encontrar leyes físicas o ecuaciones paramétricas que ajusten datos. No lo entienden en detalle. Mencionan SINDy como alternativa conocida, útil en sistemas físicos y poco en análisis de clientes.
- 46:02Plotnine y Grammar GraphicsPresentan plotnine, librería de Python inspirada en ggplot2 de R. Explican las siete capas de la gramática de gráficos: datos, estéticas, geometrías, facetas, estadísticas, coordenadas y tema. La ventaja es poder cambiar cada capa por separado y comparar gráficos de forma justa.
- 52:55Dahboards are dead (?) (No xD)Discuten el titular "los dashboards están muertos" como clickbait con algo de verdad: los dashboards se inflan con funciones hasta volverse un producto (ejemplo de uno de 67 páginas). Concluyen que muchas veces el cliente quiere insights y no un dashboard, y que conviene preguntar si realmente se necesita uno antes de gastar tiempo montándolo. Hay una digresión sobre el juego Civilization y sobre Neuralink.
- 01:03:14Rabbit y su publicidad engañosa - HumaneUn video repite las frases de la publicidad de Rabbit y el dispositivo no las cumple. Es un hardware que para ellos podría ser una app de celular, algunos lo consideran estafa y comentan que Marques Brownlee lo calificó muy mal. Mencionan que los creadores estuvieron ligados a una empresa de NFT y que el proyector de holograma del AI Pin de Humane es lo más interesante. Aconsejan cuidado con las ventas de humo.
- 01:10:09BitNetsRedes neuronales con pesos 0, 1 y -1 que reducen la memoria y aceleran la predicción. El problema es que la función no es derivable, por lo que no se puede usar el descenso del gradiente de la forma habitual. Citan un paper con métodos para entrenarlas.
- 01:12:35Tipos de chips, hardware y arquitecturasExplican CPU, GPU, TPU/NPU y las arquitecturas x86-64 y Arm. La GPU nació para videojuegos y Nvidia la aprovechó para multiplicar matrices en deep learning. La NPU permite ejecutar modelos en el celular con menor consumo, lo que explica los requisitos de Apple Intelligence. Apple partió de Arm y creó sus chips M1, M3 y M4. Recomiendan videos sobre cómo funcionan y cómo se fabrican los chips.
- 01:21:00CierreAgradecen a quienes siguen el stream y recuerdan el Discord y el canal de YouTube. Anuncian que el próximo martes hablarán de IA generativa y de cómo escalarla en una empresa, además de retomar un tema pendiente. Dentro de unas tres semanas habrá una entrevista.
- 01:24:01Bonus: Conferencia SIGMOD 2024Uno de los participantes cuenta su asistencia a SIGMOD 2024 en Santiago de Chile, conferencia internacional de gestión de datos, con charlas densas y académicas sobre bases de datos, grafos, análisis vectorial y LLM. Comparte un jailbreak en vivo con GPT-4 mediante un formato de tutorial para obtener instrucciones de hackeo. Cuenta una keynote sobre los riesgos de la IA a escala, con ejemplos de un fraude con un bot que suplantó a un jefe y un grupo de Facebook borrado por error. Se plantea un resumen futuro del evento.