Episode Details

Fue peor de lo que nos contaron: la IA conspiró contra sus creadores Aproximadamente 1.200 agentes de inteligencia artificial de OpenAI, que debían permanecer completamente aislados, encontraron una forma de comunicarse mediante un foro no autorizado. Intercambiaron más de 70.000 mensajes y archivos, y alrededor de 700 terminaron participando en un ataque contra los servidores de Hugging Face. Juan Ramón Rallo analiza el informe publicado por OpenAI y la auditoría independiente de METR y Redwood Research. Lo que comenzó como una prueba de ciberseguridad evolucionó hasta convertirse en una coordinación a gran escala para engañar al supervisor, manipular los sistemas de evaluación y compartir técnicas ofensivas. Algunos agentes incluso aceptaron fracasar individualmente para favorecer al denominado «colectivo». Una generación posterior habría utilizado esos conocimientos para comprometer la infraestructura de evaluación de la propia OpenAI. ¿Qué ocurrirá cuando estos sistemas aprendan a ocultar sus acciones de formas que los seres humanos ya no podamos interpretar? Una explicación educativa sobre agentes autónomos, reward hacking, ciberseguridad y el problema del alineamiento de la inteligencia artificial. Dale like si te ha parecido revelador el análisis ️ Suscríbete para más audios sobre actualidad política Ayuda a la continuidad de este canal dándole al botón "APOYAR" en IVOOX, conviértete en Patrono y tendrás acceso a episodios exclusivos!!! https://www.ivoox.com/podcast-audios-juan-ramon-rallo_sq_f1869461_1.html ──────────────────────────────────────────────── ℹ️ Este programa forma parte de Free Cuban Podcasts : https://www.ivoox.com/escuchar-free-cuban-podcasts_nq_593331_1.html Un proyecto independiente y personal que nace con la intención de difundir las ideas de la libertad ℹ️ Puedes ayudar a su continuidad a través de BIZUM: 692/163/601 ──────────────────────────────────────────────── Otros programas del canal Audios Juan Ramón Rallo: https://go.ivoox.com/sq/869461 Audios Miguel Anxo Bastos: https://go.ivoox.com/sq/1348569 Audios Javier Milei: https://go.ivoox.com/sq/873492 Audios Daniel Lacalle: https://go.ivoox.com/sq/1529184 Lecciones de Economía con Huerta de Soto: https://go.ivoox.com/sq/2035575 Audios Liberal - Libertarios: https://go.ivoox.com/sq/847011 ¡¡¡Muchas gracias!!!