Episode Details

📝 本期播客简介

本期我们克隆了：Cognitive Revolution "How AI Changes Everything": Nested Learning: Ali Behrouz on the Quest for Continual Learning & Illusion of AI Architectures

本期是《Cognitive Revolution》对 Ali Behrouz 的一场 AI 架构深度访谈。Ali 是 Cornell 的研究生、Google 研究员，也是《Nested Learning》和《Language Models Need Sleep》的作者。他的研究聚焦一个关键问题：今天的大语言模型为什么不能像人一样持续学习？为什么它们有知识截止日期，不能真正把新知识吸收到参数中，也很容易在更新时发生灾难性遗忘？

在这期节目中，Ali 从人类大脑、记忆巩固、睡眠和做梦出发，提出一种新的 AI 系统设想：模型不应该只有训练阶段和测试阶段，而应该像持续学习者一样，在活跃阶段接收信息，在睡眠阶段整理、压缩和巩固知识。他详细解释了 Nested Learning 的核心框架：让模型内部不同模块以不同频率更新，让快速模块负责即时适应，让慢速模块负责长期抽象和稳定记忆。节目还深入讨论了 HoPE 架构、自修改 Titan、知识迁移、持续记忆系统、多语言上下文学习、噪声过滤、优化器 M3，以及持续学习对隐私、对齐、AI 生态和意识问题可能带来的影响。

这不仅是一场关于新架构的技术讨论，也是一场关于下一代 AI 形态的思想实验：如果 AI 真的开始持续学习、长期记住你、根据互动不断改变自己，我们该如何使用它、评估它、信任它，又该如何防止它失控？

👨‍🔬 本期嘉宾

Ali Behrouz，Cornell 研究生、Google 研究员，机器学习与 AI 架构研究者。他是《Nested Learning》和《Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories》的作者，主要研究方向包括持续学习、长期记忆、嵌套学习、自修改模型、记忆巩固和新型神经网络架构。

⏱️ 时间戳

00:00 开场 & 播客简介

为什么今天的 LLM 还不是真正的持续学习者

01:39 嘉宾与研究背景：Nested Learning 为什么可能预示范式转变

05:54 从大脑获得灵感：不是复制人脑，而是抽象出有用原则

09:29 当前 LLM 的核心缺口：不能持续学习，不能更新长期知识

12:09 人类优势：稳定身份感、连续记忆与每天醒来后能接着昨天继续

14:49 理想中的 2030 AI：不只是聊天机器人，而是能持续演化的协作者

活跃时间与睡眠时间

15:04 真正的持续学习者：不存在训练时间和测试时间的区分

16:04 两阶段模型：活跃接收信息，睡眠时自我改进

17:36 为什么不能每次更新所有参数：算力与效率挑战

18:08 Nested Learning 的直觉：每个时刻只更新一小部分参数

19:01 AI 不必复制人类，但要理解人类真正想要什么

20:14 “LLM 需要睡觉”到底是什么意思

Nested Learning 的核心思想

20:54 从堆叠更多层，到堆叠更多更新频率

24:52 为什么 Nested Learning 很难形式化

25:23 两个关键组件：多更新频率与层级之间的知识迁移

26:40 更聪明的模型：让每个参数做更多内部计算

28:28 一切学习都可以看成某种 in-context learning

29:45 反向传播、注意力、预训练为什么也可被视为上下文学习

HoPE 架构与自修改 Titan

30:00 从 Transformer 说起：Attention 负责上下文，MLP 负责长期记忆

31:07 多个 MLP 块：不同频率更新的持续记忆系统

32:36 HoPE Attention：Attention 加多频率 MLP

33:47 用 Titan 替代注意力：从完美缓存走向顺序因果理解

34:30 自指过程：学习如何学习，甚至学习如何学习如何学习

35:26 自修改 Titan：模型生成自己的 value，并修改自己的更新规则

37:21 与 Transformer 的区别：value 不再只是外部投影，而由递归过程生成

39:33 修改自己的更新规则：为什么这和 Mamba 的突破有相似直觉

40:31 单个时间步如何运行：什么时候更新，什么时候只用旧状态推理

43:01 为什么从模型角度看，没有训练与测试，只有是否被评估

多频率 MLP、知识迁移与记忆巩固

45:11 HoPE block 如何堆叠：从零训练与适配 LLaMA 的不同设计

47:20 模型像乐高：核心模块重要，具体拼法可以有多种

48:07 更新频率怎么设：快慢模块的大小、学习率和 chunk size

50:13 Nested Learning 不是推翻旧概念，而是把旧概念纳入更一般框架

51:36 不同频率模块如何协作：快模块适应，慢模块抽象

52:14 双生子例子：为什么更新次数不同会导致记忆保留差异

53:41 睡眠过程的雏形：在快模块遗忘前，把知识转移给慢模块

56:08 蒸馏机制：复制模型、更新快速层，再让慢速层模仿旧模型输出

58:20 Nested Learning 当前仍是概念验证，但结果已经足够有信号

实证结果：HoPE 擅长什么

59:30 多语言上下文学习：模型如何在上下文里学习从未见过的语言

01:00:32 两种陌生语言同时出现时，Transformer 为什么会崩

01:01:50 HoPE 层级越多，多语言翻译表现越好

01:04:10 困惑度与经典指标：不是为了证明最强，而是证明骨干模型不弱

01:06:57 微技能视角：不同架构各自擅长什么