#683.Rich Sutton：大语言模型不是真正的智能，我们卡在了一个局部最优里

episode

跨国串门儿计划 not yet transcribed

▲ 0

Transcript

This episode hasn't been transcribed yet Upvotes decide what gets transcribed next — 0 so far. Sign in to upvote

More from 跨国串门儿计划

#365.风险共担与非对称性：塔勒布对话纳瓦尔，拆解真实世界的运行逻辑 1h 9m · 20 Dec 2025

All episodes from 跨国串门儿计划 →

Report any issue

Source

Recorded20 Aug 2026

Publisherfeed.xyzfm.space ↗

Handlerec:20077172

Show notes

📝 本期播客简介本期我们克隆了：知名播客 Training Data Rich Sutton and Khurram Javed: Why AI Models Stop Learning, and How to Start It Again。原内容更新时间：2026-08-18。嘉宾 Rich Sutton 与 Khurram Javed 讨论持续学习、合成数据、大世界假设、灾难性遗忘和能持续学习的智能体；由 Sequoia Capital 的 Sonya Huang 与 Alfred Lin 主持。原内容更新时间：2026-08-18本期嘉宾是强化学习领域的奠基人 Rich Sutton，以及他的联合创始人、前学生 Khurram Javed。主持人是红杉资本的 Sonya Huang 与 Alfred Lin。Rich Sutton 是那篇经典文章《苦涩的教训》的作者，也是阿尔伯塔大学强化学习研究的核心人物。这期对话围绕持续学习、合成数据的局限，以及他们创办的 Oak Lab 想要实现的新一代智能体展开。这场对话从《苦涩的教训》出发，直指当前 AI 领域的核心矛盾：大语言模型在部署后权重不再更新，本质上不是持续学习者。Rich 与 Khurram 提出了"大世界假说"，认为世界远比互联网上的一切都要大得多，合成数据无法替代真实经验。他们还分享了 Oak Lab 的野心——打造一个能持续学习、形成抽象、并保持自洽的智能体，并给出了具体的技术路径，包括持续反向传播算法和步长优化。如果你关心 AI 的下一个范式是什么，这期节目会给你一个完全不同的视角。👨‍⚕️ 本期嘉宾Rich Sutton，强化学习领域的奠基人之一，阿尔伯塔大学教授，著有奠基性教科书《Reinforcement Learning: An Introduction》，培养了大批该领域的关键学生（如 AlphaGo 的 David Silver）。他的文章《苦涩的教训》被视为深度学习领域的"圣经"。Khurram Javed 是 Rich 在阿尔伯塔大学的学生，也是 Oak Lab 的联合创始人，专注于持续学习与"大世界假说"的研究。⏱️ 时间戳00:00 开场 & 播客简介"我不怪，这个领域才怪"01:15 Rich Sutton 的开场宣言：持续学习才是正常思考方式01:57 主持人介绍 Rich Sutton 与 Khurram Javed02:53 为什么在 AI 寒冬押注强化学习03:40 2003 年与癌症搏斗的经历《苦涩的教训》与大语言模型的局限07:45 2019 年写下《苦涩的教训》的契机09:03 苦涩的教训的本质：别被人类知识带偏10:13 大语言模型是正面还是反面例子？11:14 合成数据是"大错误"：大世界假说为什么合成数据无法替代真实经验11:42 大世界假说：世界比互联网大得多12:18 谁来判定合成数据的好坏？14:18 世界无限复杂，任何模拟都渺小得可怜16:10 自动驾驶模拟器：人类在循环里的瓶颈持续学习：算法缺口与解药22:33 大语言模型不是经验型学习者23:23 预训练与后训练之后，模型就不再学习了37:58 持续深度学习是算法缺口39:10 解药：步长优化与持续反向传播Oak Lab 的野心与未来35:44 从空谈到行动：创办 Oak Lab42:34 最有野心的目标：拥有完整跨度的知识44:25 "这是触手可及的"：五到十年的判断47:53 如果一切顺利，Oak Lab 会变成什么样？🌟 精彩内容💡 "我不怪，这个领域才怪"Rich Sutton 反复强调自己并不激进，他只是在用"普通的方式思考"。在他看来，所有学习都是持续的，我们一直在行动、一直在学习，这才是正常的思考方式。是 AI 领域把"持续学习"当成了一个特殊概念，才显得他奇怪。"所有学习都是持续的。我们一直在行动，一直在学习。这才是正常的思考方式。"💡 大语言模型既是《苦涩的教训》的正面例子，也是反面例子正面在于它把计算规模的扩展做到了极致，直接吞下整个互联网；反面在于它最终会被人类知识限制住——互联网是有限的，而世界比互联网上的一切都要大得多得多。"互联网是有限的，很难再拿到更多样本。而世界很大，世界比我们存在互联网上的一切都要大得多得多。"💡 合成数据是"大错误"Rich 与 Khurram 直言，合成数据生成是当前扩展范式的根本问题。谁来判定什么样的合成数据是好的？这需要人类专家，而这就是瓶颈所在。更根本的是，世界无限复杂，任何对它的模拟都渺小得可怜。"世界是无限复杂的，任何对它的模拟都渺小得可怜。"💡 大语言模型的权重永远不会变这是 Rich 对当前主流范式最尖锐的批评：模型在部署后就不再学习了。你可以给它更多上下文，但模型本身已经停止学习。相比之下，Cursor 和 Tab 这类产品因为持续更新权重，反而是真正的持续学习例子。"它们的权重永远不会变。……他们声称能从一种完全不再学习的东西里，榨出博士级的经验和专业能力。"💡 学校其实无关紧要Rich 认为，没有哪种动物是通过监督学习来学习的。松鼠不上学也能学会那些东西，学校是非常特殊的东西，就连人类也是直到几百年前才有的。把监督学习当成学习的主要例子，是一种干扰。"你看，松鼠不上学，也能学会那些东西。动物不是那样学习的。"💡 我们卡在了一个局部最优里Khurram 认为，当前的大实验室被产品绑得太死，无法去走一条"事情会先变差"的路。新范式在变好之前几乎不可避免地会先变差，而那些大实验室不可能接受这一点。"当我们开始探索这些新方向时，你不可能第一天就拿到最先进的性能。但这是因为，它是一个不同的范式。"💡 大语言模型大概只占智能的 20%Rich 明确表示，大语言模型是了不起的科学突破，但它被过度包装成了"全部 AI"。全部智能并不只是流畅的语言运用能力，语言只是重要的一部分，还有太多别的东西没做完。"全部智能并不只是流畅的语言运用能力。还有太多别的东西。语言是重要的一部分。它大概占智能的 20% 或者四分之一。"🌐 播客信息补充本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight在小宇宙查看该单集文稿

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.