E205 - Gobierno de IA: Cómo definirlo

Resumen

El episodio 205 de enCoders explica cómo escalar la IA dentro de una empresa grande generando impacto y controlando el riesgo. Se distinguen tres niveles: la estrategia de IA (de una situación A a una B, validada por los líderes), el gobierno de IA (priorización, operación, comunicación y formación) y el AI Landscape (los activos tecnológicos: herramientas, licencias, datos, modelos, gateways). Se insiste en que los costos de la IA son pago por uso, en que hay leyes nuevas por venir y en que distintos tipos de IA requieren flujos de aprobación distintos (unos rápidos y automáticos, otros más estrictos). También se presentan la evaluación y el monitoreo continuos, la matriz RACI, un plano de control de seis componentes (catálogo, control, observabilidad, FinOps, evaluación y mejora), la diferencia entre licencias Enterprise y Teams, y los stakeholders. El cierre discute la ambigüedad de las definiciones de "agente", "sistema agéntico" y "harness". Conclusión principal: sin estrategia y gobierno cada área hace lo suyo, y se genera caos de seguridad, datos y costos.

Capítulos

• 00:00
  IntroPresentación del episodio 205 sobre gobierno de IA y por qué es relevante para obtener buenos resultados en una organización. Se menciona que la presentación se hizo con Claude sin pasar por PowerPoint.
• 00:54
  Escalar IA en empresasNace de un post de LinkedIn sobre usar IA en proyectos personales y cómo llevarlo al trabajo. El foco son empresas grandes; en una startup hay menos papeleo y menos entidades que coordinar.
• 01:44
  Impacto y productividadEl tiempo que los empleados dedican a la IA debe traducirse en ventas, mejor producto o mejor experiencia de usuario. Los impactos van desde aumentar la productividad de quien programa hasta crear agentes o skills reutilizables, o venderlos a clientes o áreas internas.
• 04:26
  Costos y consumoLa IA se paga por uso porque cada consulta consume energía en un data center. Cada capa (local, servidor propio pagado, servicio cloud) encarece aproximadamente 10x, según lo dicho. Se comenta el comando de uso de Claude Code, que muestra sesiones de cientos de dólares.
• 07:34
  Leyes y privacidadSe anticipa un episodio sobre las nuevas leyes. Las decisiones tomadas por IA no pueden discriminar, los datos personales deben usarse con su fin correspondiente y las cuentas individuales o gratuitas entregan información para entrenar modelos. Se comenta una firma digital de Claude para detectar contenido hecho con IA.
• 09:50
  Estrategia de IALa estrategia lleva a la empresa de una situación A a una B mejor (reducir costos, horas-hombre, etc.) y debe ser validada por los líderes para que todos la respalden. Evita conflictos entre áreas sobre metodologías y herramientas. Se plantean las preguntas del comité: para qué sirve la IA, si hay controles ante auditorías, si se cumple la ley y la seguridad (prompt injection) y cuánto cuesta operar. Rodo cuenta que hizo prompt injection en una plataforma de idiomas y funcionó.
• 15:31
  Gobierno de IATres ámbitos: priorización (mecanismo y rúbrica, desde la intuición hasta cuantificar el impacto en el P&L), operación (herramientas, guardrails, responsable) y comunicación y formación. El AI Landscape agrupa los activos técnicos: herramientas, licencias, arquitectura de datos, bases vectoriales, gateways, modelos y aplicaciones con IA embebida (como Notion).
• 22:32
  Flujos y categoríasSe aclara que el gobierno de IA no es necesariamente del área de gobierno de datos, sino un rol distinto que interactúa con ciberseguridad. Se mencionan consultoras como Gartner para definir estrategia y gobierno, un comentario de Siles sobre IA impulsada por FOMO, la rapidez con que cambia el mejor proveedor (de GPT a Claude), los modelos chinos y el consejo de tomar el "owner chip" o ser champion. Cada categoría de IA (datos, dashboards, ML, asistente, agente, multiagente) necesita un flujo distinto: subir PDF a una herramienta enterprise es simple, un agente autónomo de compras o un chatbot público exigen más guardrails. Lo simple debería ser un ticket automático.
• 34:41
  Evaluación y monitoreoA diferencia del software clásico, la IA es probabilística, por lo que hay que evaluar antes de producción, monitorear durante y retroalimentar. Se sugiere restringir el agente con detección de intención y respuesta por defecto, y vigilar métricas como el porcentaje de conversaciones que caen en la respuesta por defecto.
• 38:56
  Matriz RACIDefine quién realiza, quién es responsable, a quién se consulta y a quién se informa en cada proceso. Evita discusiones sobre responsabilidades cuando intervienen muchas áreas (ciberseguridad consultada, tecnología informada). Hubo un corte por publicidad en Twitch.
• 44:58
  MemesUn agente borró el archivo de partida guardada de Cris con un comando remove. Se recomienda permitir solo comandos acotados en lugar del modo automático, y usar almacenamiento con versionado. Chago usa reglas en Codex para denegar rm. También se habló de audífonos de 15 años y de la escasez de material sobre gobierno de IA.
• 51:29
  Próximos temas Quarto y PositronLa semana siguiente probablemente se hable de Quarto y Positron con demos. Rodo terminó la primera versión de un libro de apoyo para sus clases, hecho con Quarto.
• 52:41
  Clases en el máster de DSRodo describe el curso Proyecto de Ciencia de Datos del Máster de la Universidad de Chile: unos 15 semanas con una empresa real, desde entender el problema hasta traspasar el desarrollo. Varias empresas han repetido, y piden dedicar una hora semanal. Se saluda a la audiencia y se recuerda el horario de los martes de 19 a 21 h (Chile).
• 56:11
  Plano de control IASeis componentes: catálogo o registro de agentes y aplicaciones (inventario, responsables, evitar duplicar), control mediante gateway, observabilidad, FinOps, evaluación y mejora continua. El catálogo evita que dos áreas construyan agentes parecidos.
• 57:45
  Gateway y observabilidadUn MCP Gateway o Agent Gateway es un intermediario que autoriza, registra costos y accesos y da trazabilidad ante fugas o auditorías, con control de roles sobre herramientas, MCP y agentes. La observabilidad (logs, chain of thought, tokens, quién usa qué) permite tomar decisiones y analizar el uso de la IA.
• 01:01:37
  FinOps y mejora continuaHay que monitorear costos y buscar eficiencia en el consumo de tokens. Se menciona la mejora continua de Claude Code mediante monitoreo de errores y uso. Se advierte sobre cuentas gratuitas con información estratégica y apps falsas con logos parecidos a ChatGPT.
• 01:03:38
  Licencias enterprise vs teamsLas Enterprise incluyen monitoreo, logs, seguridad y estadísticas, y son más caras. Quien se acostumbra a licencias individuales sufre al pasar a pago por uso. Una licencia de 40 USD se agotó en dos días.
• 01:06:04
  Pago por uso y energíaUn knowledge worker gasta unos 40 USD mensuales y un desarrollador unos 280, según un análisis citado. Rodo cuenta que un agente llenó el contexto al 100% mientras cenaba, usando GLM. Se discute que los servidores consumen energía al procesar y cómo cobra Copilot (límite organizacional). Se comenta que Anthropic dio marcha atrás en cobrar por uso un modelo nuevo por la competencia y que OpenAI redujo precios un 80%.
• 01:11:30
  Assets y plataforma IATeams tiene tope de usuarios y pago con tarjeta, mientras Enterprise permite todos los usuarios necesarios. Los assets incluyen asistentes (Claude, Claude Code), grabación de reuniones, Copilot Studio, Bedrock, API keys, orquestación de agentes, RAG, MCP y agent to agent. La capa de control aún es inmadura y suele requerir desarrollo propio.
• 01:16:44
  Stakeholders y normativaResumen: la estrategia fija prioridades y tolerancia al riesgo, el gobierno fija reglas y controles, y la tecnología los habilita para medir el impacto. Los stakeholders son los responsables de casos de uso, ciberseguridad, cumplimiento de datos, legal y marca. Se necesita alguien con autoridad que declare la estrategia, registre iniciativas y defina perfiles de riesgo y comités.
• 01:21:32
  Definir agente y harnessSe debate la falta de definiciones comunes: Cris no llama agente a una app que procesa texto con IA ni a un asistente de chat; Rodo define agente como algo con agencia (hace acciones) y harness como las restricciones, capacidades y guardrails que lo rodean (Claude Code como ejemplo). Las normativas (kill switch, comités) requieren tipos de agente bien nombrados para no frenar todo. Se aclara que harness es "arnés" y no "hardness".
• 01:31:32
  CierreSe discute la memoria a largo plazo en GPT y Claude y no "jugar al teléfono" entre dos IA. Cris resume: estrategia, gobierno (comités, responsables, monitoreo, costos, evaluación) y capa tecnológica. Se recuerdan el Discord y el horario de los martes.

Palabras clave