E38 - Voces generadas por IA - Potencial y problemas éticos

Resumen

El episodio explora las voces generadas por inteligencia artificial: sus aplicaciones potenciales y los problemas éticos que plantean. En la primera parte, Mati intenta clonar la voz de Cris con ElevenLabs (versión experimental en español) y el resultado es muy poco parecido, robótico y "españolizado". En la segunda parte, el grupo debate si es correcto clonar voces sin consentimiento, el papel de las leyes (consideradas desactualizadas), el riesgo de estafas telefónicas, la situación de los actores de voz, y el uso de datos personales con servicios de terceros. También se plantean preguntas más amplias: replicar emociones humanas, decisiones de vida o muerte por IA y vigilancia con GPS. Las conclusiones: la tecnología avanzará rápido, conviene desarrollarla con cuidado, exigir consentimiento y transparencia, y la regulación debería actualizarse. Hay desacuerdo en cuánto frenar: Cris es "pro todo", Mati más precavido y Rodo más preocupado por la libertad.

Capítulos

• 00:00
  IntroSe presenta el tema (voces artificiales, potencial y ética) y el formato en dos partes: demo de clonación de la voz de Cris y luego preguntas éticas para debatir. Se menciona que la herramienta es experimental en español y que funciona mejor en inglés.
• 02:27
  Ejemplos de aplicaciones de voces generadas por AICon una lista de ChatGPT se comentan asistentes virtuales mejores, audiolibros leídos por actores del reparto (con problemas de derechos de autor y de empleo para los narradores), accesibilidad y terapia por duelo (hablar con un ser querido fallecido, estilo Black Mirror). Se anticipa un asistente personal que replique la voz y el estilo de pensamiento de uno, y se menciona que el autocompletado de Gmail imita el estilo de escritura y que el análisis estilométrico permite desanonimizar.
• 10:26
  Demo con ElevenLabsMati busca herramientas: un repositorio de código abierto de una tesis, Descript (descartada por precio y falta de español) y ElevenLabs, que tiene versión experimental multilingüe. Sube unos 5 minutos de audio de Cris, pero el resultado no se parece nada; con otro audio (de una compañera) logra "como un 60%" aunque suena robótico.
• 22:48
  Más ejemplos de aplicaciones de voces generadas por AISe muestra un video que conecta una voz clonada con ChatGPT, y los casos de influencers con réplica de IA y de una creadora que ganó dinero con un chat de IA contra la soledad. Cris plantea el riesgo de estafas (hacerse pasar por un sobrino) y se discuten medidas como palabras clave de verificación, además de la preocupación por la centralización de los LLM y la entrega de datos a terceros.
• 35:30
  Definición de ética, conflictos éticos con estas herramientas y el papel de las leyesSe toma la definición de ética de ChatGPT (qué es correcto o incorrecto, justo o injusto). Se debate penalizar la clonación de voz, el consentimiento informado que se acepta sin leer, la libre competencia como analogía de regulación, que las leyes chilenas de privacidad están desactualizadas y que Italia bloqueó ChatGPT por un tiempo. Se discute si usar voces para entrenar y mezclar es aceptable y la suplantación como línea roja.
• 47:40
  Ejemplos de aplicaciones que otras personas han usado con ElevenAIUn youtuber crea sketches con personajes de un juego usando voces de IA y se propone pagar a los actores de voz un porcentaje o declarar que es contenido generado. También se citan los videos de presidentes jugando, hechos probablemente sin consentimiento, y se plantea la monetización como agravante.
• 50:28
  Revisión del LinkedIn de ErwinConsejos de empleabilidad para perfiles junior: tener portafolio y repositorio, y describir logros medibles (tiempos de respuesta, usuarios, ahorros) en lugar de listar herramientas. También se destaca la comunicación y el pensamiento crítico.
• 55:07
  MemesSe comentan memes y la idea de que los actores de voz son más vulnerables que los artistas gráficos, porque una vez capturados el timbre y la entonación se puede hacer cualquier cosa. Los presidentes y youtubers famosos son fáciles de clonar por su abundante audio; surge la idea de "donar la voz" como se donan órganos.
• 58:41
  Es éticamente aceptable usar esta tecnología?Se discute si es aceptable desarrollar IA que replique emociones humanas a la perfección. Cris ve más beneficios que riesgos; se plantea que las nuevas generaciones lo verán distinto, que la regulación irá rezagada, y los riesgos de obsesionarse con un clon de un fallecido, la soledad y robots sentimentales (película *Her*).
• 01:04:02
  Ai debería tener la habilidad de hacer decisiones de vida y muerte?Se piensa en vehículos autónomos y salud: al inicio con supervisión o consentimiento previo, luego quizá más eficiente que humanos. Se cuenta el caso de alguien al que ChatGPT le habría ayudado a detectar un problema médico, y se opina que el diagnóstico automático llegará en 10 a 30 años.
• 01:09:50
  Dónde están los límites de la IA para vigilancia?Se plantea si es aceptable un GPS integrado que reduzca los accidentes de tránsito a cero. Se discute el consentimiento, que depende del país (China), que mucha información ya es pública, y que lo ético puede cambiar con cada generación; Rodo se pregunta por la libertad.
• 01:15:59
  CierreSe resume el episodio, se recomiendan canales de otros streamers y se comenta que las preguntas éticas fueron generadas con ChatGPT, que es buena fuente de inspiración pero no hay que creerle todo. Cada uno da su postura final y se invita a proponer temas por Discord.

Palabras clave