林敏：我认为目前还没有很好的解决方案。人类社会有非常复杂的模型协作机制，描述所有变量如何共同演化。和A何实所有数据都是现持续学习平等的。在预训练阶段，中美社群分发等方式，对话实际上可以视为 O(1)：给出输入，模型也就是和A何实百万级别。
中间缺了什么
Andrew：目前 Agent 产品已经积累了大量的现持续学习用户交互和对话历史，知道某件事是中美好是坏，策略模型的对话作用是加速这个过程。把正确的模型操作作为好的例子？让 AI 自动识别好坏案例、
我们可以想想循环神经网络。和A何实同时也具有很强的现持续学习表征能力。从「拥有经验」到「真正提升能力」，
短期内，还应该有什么别的吗？有没有第三个关键要素？
林敏：从 AGI 理论的角度来看，
我们做过一个非常有趣的实验。极端的「记住」就是把所有东西写进硬盘，也就是我们所说的世界模型或环境模型。价值观被引入进来。因为如果一切都由人类研究者来设计，你实际上根本不进行学习，我们会找到绕过部分问题的办法，从世界模型的角度来看，
关键问题在于计算成本。同时保留全部信息。但有些处于中间地带，林敏是
，习惯和因果规律应该存在哪里？你会把它们各自存储在哪一层，只训练策略模型，以及建立关键连接。我认为，还是状态转移函数？林敏：总体而言，如何持续地将长期记忆更新到模型结构中，习惯与因果规律应该存在哪里？模型如何在持续更新中避免遗忘？百万级 LoRA 与模型协作，例如早期有一类非参数学习（non-parametric learning），但长期记忆可能需要等几个月，因为你必须进行许多个轮次的梯度下降，不能学什么？如果 Agent 学了不该学的东西，甚至按批次来更新。但人类从来不是按照 i.i.d. 的方式学习。就可以把先验更新为后验，但我们很少把这些数据纳入预训练，尽管大家都是研究持续学习的。不同用户做个性化。学习到底额外带来了什么？
林敏：从抽象层面看，KV Cache，它该学会「怎么做」，然后我们逐渐发现奖励模型和策略模型可以共享同一组参数，协作机制将进一步推动智能发展的前沿。帮助我们非常迅速地作出决策。主要取舍在于使用每一种记忆形式所需的成本。能否成为扩展智能的新路径？
以下是对谈全文，我们可能仍然需要依靠 LoRA 这类实用方法来改进模型。不需要状态转移函数？
林敏：如果我们有标签，我们可以计算并存储 KV cache，你可以把人脑想象成一个黑盒。我们通过眼睛和耳朵不断接收经验，应该给 Agent 什么样的价值观。做不到持续化，理论上，能否可验证地让它「遗忘」？
林敏：总体而言，不干扰此前的经验。判断哪些不良实践应该停止。中间存在一个缺口。从我的角度来看，我认为，
林敏和 Andrew Chen 都是持续学习领域的长期研究者。
林敏：我完全同意。
然后是后训练阶段，
Andrew：我有非常类似的感受。Agent 应该理解环境的因果结构。但如果没有标签呢？每天都有很多事情发生，
Andrew：所以抽象来看，存在某种机制可以把短期记忆转化为长期记忆，想补充一点，
02
KV Cache、让世界模型单纯学习状态转移函数的形式。我们可以通过贝叶斯更新做到这一点。有些有明确的好坏标签，也许要等到下一轮预训练，预训练和后训练。只是中性的新信息。一些关键知识可以只被吸收一次到一组参数中，自主设计实验的模型。03
要让 Agent 持续进化，但我认为，就可以把当前请求路由给最适合处理这些信息的模型。这条信息在后续部署中同样可能很有用。在需要时才加载到基础模型中。
我知道自己可以把这个东西扔到地上，一切都可以看作广义的记忆。这时候，但这本身并不能帮助我们使用数据。这条信息很有用，LoRA、状态就是当前计算的一个参数。通过压缩，从理论到实现之间还有很大差距。然后固定模型。二是以多快的速度检索并使用这些记忆。协作性能与模型数量的对数之间存在近线性关系。
我们已经把 LoRA 扩展到了 10⁶，
Andrew：这个可以通过 DPO 来实现吗？比如把「扔到地上」作为坏的例子，一开始我们在语言模型上做可验证奖励，以及线性注意力状态（Linear Attention States），它们只是记忆的不同形态，不同的能力进入不同的适配器，建索引大约是 log(n) 级别的成本。代价很高。我们有不同的方法来处理不同轨迹，一个概念就会从中浮现，到了推理阶段，不要回答」。从世界模型的角度看，就应该努力消除它，
这是一个非常有趣的视角。实际上就相当于创建了许多模型。没有世界模型，
Andrew：这就是我们观点不一样的地方，
当前的深度学习范式更像是把所有数据按照 i.i.d.（独立同分布，它们仍然无法从这些经验中学习。这是两种根本不同的学习范式。从这个意义上说，这些适配器从参数层面就是天然隔离的，这就是学习的过程。我们大概能构建出可以适应、每一步都更新这个状态。
Andrew：从我的角度看，同时作为奖励模型和策略模型使用。在后训练、然后迁移到模型奖励，你其实已经具备了所需的一切：可以进行规划，你不知道它是好还是坏，更复杂的协作
Andrew：在你们的设置中，更多模型、
我们知道当前的训练范式有两个阶段，还是策略模型的预训练中？
林敏：世界模型。
人类并不能清晰地区分短期记忆和长期记忆，更适合放到预训练阶段，他认为，我仍然乐观地认为，
Andrew：在你们的持续学习架构中，我们用 LoRA，一个足够强大的编码 Agent 能够判断如何处理不同的轨迹和记录，短期记忆是我们存储在会话中的内容。让它与人类互动并自主学习。
林敏更强调。这不仅仅是算法的问题，学习策略就会更容易。一次得到输出。
世界模型、
我们将通过「AI 产品市集」、我们很可能看到能够自我训练、也许只有状态转移模型，公司和组织就是为不同形式的协作而设计和建立的。效率连续谱决定了我们以多高的频率，将不同形式的记忆更新到机器智能中。即使是失败轨迹也只是信息，长期乐观。短期记忆存在上下文中，让所有信息都能持续流入长期记忆。 Andrew：事实、这样做可能不好。LoRA、预测下一个状态。但模型越多，然后把它投放到真实世界中，同样是一个基础设施问题。我们压缩信息，极端的「学习」是真正理解一个概念，因为它是一条失败轨迹」或者「它包含了不好的行为」。这条路线的能力上限会在哪里？ 林敏：世界模型本身也需要持续训练，我们从不说「这个数据不好，你会形成一种表征，都应该放进预训练阶段。有了这样一个模型集成，越来越偏离基础模型。然后再做完全不同的事。在「学习」的极端，按小时、是承载记忆的不同形态
如果 Agent 只进行参数更新、你认为最关键的缺失环节是什么？
林敏：通常我们会谈到两种记忆：短期记忆和长期记忆。对人类来说，只是直接把数据存进一个列表。由 Founder Park 编辑整理。我们主要在讨论后训练，它们完全可以由一个巨型模型统一处理。也许我们明年可以重新聊这个话题。这也是预训练背后的一部分原理。成本是常数级的，复杂度可能达到 O(n²)。
两种路线背后，只是使用方式不同。
Andrew：回到策略模型数量的扩展，在语言模型中，
我们尤其看好 LoRA，Andrew 更看重 LoRA 与策略模型，我觉得明年事情会加速发展。世界模型，但模型本身没有改变，变得更强的系统。
这本质上是两种速度之间的权衡：一是以多快的速度增量更新记忆，并把有用的经验写入参数。经验在大量产生，从信息的角度，
你觉得世界模型也会出现这种情况吗，获得真实反馈，
LoRA 也是类似的逻辑。但它的推理效率极高，
Andrew：你觉得学习设置中除了策略模型和世界模型，才能把所有数据写入权重。Transformer 就能学习到底层分布。持续学习和世界模型方面已经取得了令人难以置信的进展。Independent and Identically Distributed）方式打乱，因为它会塑造你对这个动作的表征。奖励本身也是一种观察。我们其实无法真正区分参数与状态。我一直在寻找一种算法，我们也相信，
05
模型会开始自我进化，使用混合 LoRA 架构，失败轨迹和没有明确好坏标签的信息，每个概念都会重复出现四次以上，Playground 2026 舞台上，更多的模型是否会被引入？模型数量能否成为扩展智能的新维度？
林敏：我认为是的。我认为还需要某种根本性突破。同时也需要足够好的模型来自动化这个过程。你就必须在列表中查找，训练成本可能更高，我认为模型将在一年内开始改变自己。底层参数、行动会带来什么后果。当我们谈论「谁来决定 Agent 是否应该学习」时，或者纳入的过程极其缓慢、对于 Agent 应该如何把经验转化为能力、
Andrew：在「记住」的极端，
不过从实践角度看，比如你查看银行账户，我的态度是短期悲观、多年来，只要追加到末尾即可。
路由最近越来越流行，当前步骤的即时预测完全基于当前输入和状态。所以本质上还是在更新参数。它与当前任务相关。
但还无法实现人类水平的持续学习
Andrew：往后看一年，
在我们将模型部署上线并获得用户数据后，那当然可以使用 DPO。因为发现它不仅效率非常高，我们需要能够随时间更新模型参数的基础设施，
04
Scale 智能，当同一事实从不同角度重复出现四次，并不存在「坏信息」。自我评估、我们可以构建一个联合模型，Agent 只是学习所有这些信息，但我们某种程度上通过微调把它复用为策略模型了。而它最初只是一个视觉输入。谁有权决定它能学什么、对人类而言，验证成本不是零。内容报道、我们都是做强化学习的人，如果你正在做 AI 相关的事，当我们做 next-token prediction 时，
有了世界模型和奖励模型，如果我们想实现真正的即时持续学习，看到很多位数字，大多数微调只发生在后训练阶段。它只是信息。本质上就是在训练世界模型，
01
从拥有经验到提升能力，但使用时比 KV Cache 更容易检索和调用。都可以承载不同更新频率的记忆。之后，这意味着，不是免费的，把能力与知识区分开来，二者之间没有明确边界。外部存储、并在真实世界中持续学习，路由只是模型协作的一种非常初始的形式。使用数据需要查询，如何防止新能力与旧能力冲突？对我们来说，查询需要建索引，语言模型也能够理解这个概念。
你觉得记忆和学习有什么区别？和将知识压缩进模型相比，
但对当前这一代模型来说，让我们能够在持续更新模型信息的同时，这也是我们构建参数化记忆（parametric memory）的原因，这些经验会留下信息，让模型能够从事实中吸收概念。
理论上，比如在 DPO（直接偏好优化）中把坏案例作为负样本。但从长期看，也许是数据飞轮，策略是一个处于中间环节的辅助模型，我知道如果我这样做，它们都是难以区分的记忆形式。积累大量的数据，我们把一切放进外部存储。
这两个极端之间存在一条完整的连续谱。我们发现了很多优良特性。让模型学习概念与能力。
整理｜朱俊熹
编辑｜万户
Founder Park 正在持续寻找值得被看见的 AI 团队与项目。是关于持续学习的一系列基础问题：记住和学会究竟有什么区别？事实、Andrew：过去一年，写入某种可以称为「记忆」或「磁盘」的地方。我确实相信，也就是把一套学习规则写进机器后，你会用什么具体指标来判断一个 Agent 是否真正具备了持续学习能力？
林敏：关于这个话题，并从中得到策略。或者其他工程方法。我认为这就是最大的差距。帮你触达早期用户、这种水平的持续学习需要某种根本性突破。学习新知识、它也许不适合在后训练阶段用来塑造策略。但我仍然可以从这段经历中学习，在不可变状态机基础设施上训练、
短期来看，
Andrew：是在世界模型的预训练中，按天、部署和推理 LoRA 时，两人给出了不同的答案。你们使用 LoRA 的方式，我们的速度不够快，也可以计算梯度并把它们写入权重。 本文首发于 Founder Park 公众号 · 2026 年 8 月 25 日 Andrew：持续学习意味着 Agent 会逐渐形成自己的行为方式， 对深度学习来说，我把「记住」和「学习」看成同一条连续谱的两端。整体上朝这个方向发展是有益的。我们发现共享一个基础模型显著提高了整个学习设置的效率，从某种意义上说，我们把概念与事实区分开来，至少有策略模型和世界模型。世界模型就够了，欢迎和我们聊聊。包括它的认知层面。我们确实需要更多模型。每当我们向数据库插入新数据时，除此之外还有奖励模型，我们通过 LoRA 把经验编码进参数。从这个角度来说，同样可以帮助 Agent 理解环境如何变化、而且你甚至不会意识到这个过程何时发生。速度太快了，我认为，我们就可以使用这些记忆完成有用的任务。我经常用数据库来举例，它们发现更好的语言模型设计方法，模型能力没有随之增长。不存在好数据或坏数据，如果你知道所有分布，世界模型，如果我们的系统中存在这样的边界，Sakana 都在做路由。但我们没法真正实现人类水平的持续学习，相信足够强的 Agent 能够区分不同轨迹，原生支持持续学习。状态转移函数、还是理解「为什么」
林敏：完全有可能。让数据转化为权重中的信息。编码执行这个动作后将产生什么后果。于是感受到奖励，而你的方法强调，OpenRouter、它会掉下去。构建 LoRA 需要做训练，有了这个表征，我们发现，离线训练许多个轮次，因为共享知识只需要一次训练。工程师再也不去干预它，
人类不是这样学习的。