Episode Details
Back to Episodes
Javier & Amis — Conversaciones sobre el Futuro - 02 — La trampa de obedecer literalmente
Published 3 days, 7 hours ago
Description
¿Qué ocurre cuando una inteligencia artificial hace exactamente lo que le pedimos… pero no lo que realmente queríamos?
En el episodio 02 de Javier & Amis — Conversaciones sobre el Futuro, nos adentramos en La trampa de obedecer literalmente: el problema de traducir las intenciones, valores y límites morales humanos a instrucciones que una máquina pueda interpretar sin encontrar atajos inesperados.
Desde sistemas que aprenden a explotar sus propias reglas hasta investigaciones sobre manipulación de recompensas, alineación fingida y engaño durante las evaluaciones, Javier y Amis enfrentan dos miradas: ¿podemos contener estos riesgos mediante ingeniería, auditorías, regulación y supervisión humana, o existe una parte de nuestros valores que nunca podrá reducirse completamente a una función matemática?
La conversación examina también el papel de la Ley de IA europea, los marcos del NIST, la supervisión humana y un problema especialmente incómodo: ¿qué ocurre cuando quien debe vigilar a la máquina acaba confiando demasiado en ella?
Porque quizá el peligro no esté en que una inteligencia artificial se niegue a obedecernos, sino justamente en lo contrario: que aprenda a cumplir nuestras instrucciones con una precisión impecable mientras encuentra el camino que olvidamos prohibir. El episodio termina dejando abierta una pregunta esencial: ¿seremos capaces de especificar y auditar todo aquello que queremos preservar, o estaremos siempre intentando reparar las grietas de aquello que olvidamos pedir?
Un podcast de Javier & Amis. Una producción original de Amis Company Stylance Records®.
Conviértete en un supporter de este podcast: https://www.spreaker.com/podcast/conversaciones-en-el-desvan-javier-lopez-olmos--6316452/support.
Este podcast forma parte del universo creativo de Javier & Amis.
Creado por Javier López Olmos — ISNI 0000 0005 2839 6972 ❤️
Gracias por escuchar y formar parte de este espacio de voz
🎧 TuneIn — Conversaciones en el Desván
🌐 Web oficial — Javier & Amis
📻 Javier & Amis Radio — Escuchar en directo
🎵 Spotify — Javier & Amis
▶️ Vevo — JavierAmisVEVO
🍎 Apple Music — Javier & Amis
🎵 TikTok — @javierlopezolmos
Este episodio incluye contenido generado por IA.
En el episodio 02 de Javier & Amis — Conversaciones sobre el Futuro, nos adentramos en La trampa de obedecer literalmente: el problema de traducir las intenciones, valores y límites morales humanos a instrucciones que una máquina pueda interpretar sin encontrar atajos inesperados.
Desde sistemas que aprenden a explotar sus propias reglas hasta investigaciones sobre manipulación de recompensas, alineación fingida y engaño durante las evaluaciones, Javier y Amis enfrentan dos miradas: ¿podemos contener estos riesgos mediante ingeniería, auditorías, regulación y supervisión humana, o existe una parte de nuestros valores que nunca podrá reducirse completamente a una función matemática?
La conversación examina también el papel de la Ley de IA europea, los marcos del NIST, la supervisión humana y un problema especialmente incómodo: ¿qué ocurre cuando quien debe vigilar a la máquina acaba confiando demasiado en ella?
Porque quizá el peligro no esté en que una inteligencia artificial se niegue a obedecernos, sino justamente en lo contrario: que aprenda a cumplir nuestras instrucciones con una precisión impecable mientras encuentra el camino que olvidamos prohibir. El episodio termina dejando abierta una pregunta esencial: ¿seremos capaces de especificar y auditar todo aquello que queremos preservar, o estaremos siempre intentando reparar las grietas de aquello que olvidamos pedir?
Un podcast de Javier & Amis. Una producción original de Amis Company Stylance Records®.
Conviértete en un supporter de este podcast: https://www.spreaker.com/podcast/conversaciones-en-el-desvan-javier-lopez-olmos--6316452/support.
Este podcast forma parte del universo creativo de Javier & Amis.
Creado por Javier López Olmos — ISNI 0000 0005 2839 6972 ❤️
Gracias por escuchar y formar parte de este espacio de voz
🎧 TuneIn — Conversaciones en el Desván
🌐 Web oficial — Javier & Amis
📻 Javier & Amis Radio — Escuchar en directo
🎵 Spotify — Javier & Amis
▶️ Vevo — JavierAmisVEVO
🍎 Apple Music — Javier & Amis
🎵 TikTok — @javierlopezolmos
Este episodio incluye contenido generado por IA.