#720.构建 AI 科学家，除了智能之外究竟还需要什么

episode

跨国串门儿计划 not yet transcribed

▲ 0

Transcript

This episode hasn't been transcribed yet Upvotes decide what gets transcribed next — 0 so far. Sign in to upvote

More from 跨国串门儿计划

#365.风险共担与非对称性：塔勒布对话纳瓦尔，拆解真实世界的运行逻辑 1h 9m · 20 Dec 2025

All episodes from 跨国串门儿计划 →

Report any issue

Source

Recorded13 Sep 2026

Publisherfeed.xyzfm.space ↗

Handlerec:20365913

Show notes

📝 本期播客简介本期我们克隆了：Machine Learning Street Talk · What Building an AI Scientist Actually Requires Beyond Intelligence — Edward Hughes原内容更新时间：2026-09-11在 MLST，也就是机器学习街谈播客中，主持人 Tim Scarfe 对话 Ed，讨论如何构建真正能够做科学发现的 AI 科学家。Ed 曾在 Google DeepMind 从事强化学习、世界模型和 AI 科学家研究，后来与 Louis Kirsch 共同创办 Inherent，探索让 Agent 生活在实验中，并成为整门科学的水平智能层。这场对话从第 37 手切入，重新区分创新与创造力：第 37 手可以是创新，却未必是创造力，因为创造力还需要发现者意识到自己做出了新东西，并得到领域与学界的承认。随后，两人讨论满意决策、扩展适应、开放式探索、世界模型、知识负担，以及为什么真正有创造力的系统不能只被单一目标和固定奖励函数驱动。节目后半段聚焦 Ed 的研究：Replica 如何通过涂黑论文图表，测试 Agent 能否在缩小规模后深度复现科学研究；Faraday 又如何通过让小模型指导更强的代码 Agent，在保留任务上展现出通用科研直觉。对话最终延伸到 GRPO、评分量规裁判、评测框架工程，以及由人类和多个 Agent 共同构成的递归型公司。👤 本期嘉宾Ed 的专业背景是理论物理学，博士阶段研究弦理论与粒子散射，并由此形成了对问题转化和跨领域迁移的兴趣。2017 年，他受到 AlphaGo 与第 37 手的启发，加入 Google DeepMind，先后研究多智能体强化学习、元强化学习、世界模型和 AI 科学家系统。在 Google DeepMind 期间，Ed 曾与 Louis Kirsch 共同带领 AI 科学家团队，探索如何让编码 Agent 参与科学研究。后来，两人共同创办 Inherent，试图从组织结构、横向科学智能层和基础设施三个方面，构建能够与人类科学家共同生活在实验中的 Agent 系统。本期也集中呈现了他与团队关于 Replica 和 Faraday 的研究：前者把论文复现变成可规模化训练的任务空间，后者则通过后训练和多轮 rollout 学习更接近科研直觉的能力。Ed 值得听之处，不只是他对模型训练的理解，更在于他把 AI、科学方法、文化演化和组织设计放在同一个框架中思考。⏱️ 时间戳00:12 Inherent的规模与方向00:54 从弦理论到AI科学家06:18 创造力来自约束10:02 第37手与创造力17:30 满意决策与开放探索26:52 模仿如何孕育文化37:57 评估未知的未知56:03 Faraday从复现走向创新1:26:48 递归公司与群体智能🌟 精彩内容💡 创新不等于创造力Ed 认为，第 37 手确实是创新，但创造力还需要更高一层的元元认知：系统不仅要产生出乎意料且有价值的结果，还要意识到自己原本不知道某件事，并据此更新知识。最终，创造力还需要领域与学界来判断和接纳。"我认为第 37 手是有创新，但没有创造力。"💡 创造力不是优化，而是满意决策演化并没有朝着某个预先定义的最优解持续优化，而是在满足生存与繁衍等约束后继续积累变化。由此推论，若要构建有创造力的 Agent，单纯依赖优化目标可能反而会把系统带向错误方向。"如果你真的相信创造力就是满意决策，那么我们在机器学习中习惯性依赖的拐杖，也就是优化，对于构建有创造力的 Agent 来说就是找错了方向。"💡 创造力需要发现新问题智能往往是在既定迷宫中寻找路径，而创造力则是发现新的迷宫、新的问题和新的挑战。开放式探索的价值，正在于它不把系统锁定在一个全局目标上，而是允许局部求知欲和欠说明课程带来意外的方向。"而创造力，就像你刚才说的，是去发现新问题、新挑战、新迷宫。"💡 好的科学解释难以变通借助 David Deutsch 的观点，Ed 将科学理解为寻找关于宇宙的良好解释，而良好解释必须是“难以变通”的解释。越能被任意补丁和事后说法解释的理论，越没有真正约束力；真正好的理论会迫使我们提出更具体、更有预测力的结构。"他说，良好解释就是难以变通的解释。"💡 完美的世界模型反而无法发现新东西如果 Agent 拥有完美的世界模型，那么它做出的每个实验结果都在预料之中，也就不会产生真正的发现。科学发现要求世界模型存在某种不完美，让局部目标具有欺骗性，并迫使 Agent 在遇到意外时更新自己的理解。"反过来说，如果你想做出发现，你的世界模型里就必须有某种不完美。"💡 复现是走向创新的欠说明课程Replica 并不只是在检查图表是否画得相似，而是评估实验完整性、结论复现和整体科研过程。Ed 认为，能否做出深度复现，本身就训练了实验决策、信息搜集、反思和识别默会知识等能力，这些正是进一步创新所需要的基础。"我们认为复现是走向创新的欠说明课程的第一步。"💡 Faraday 学到的是科研直觉Faraday 通过让 27B 参数的小模型调用更强的代码 Agent，并在 Replica 上进行大量 rollout，学习如何指导实验、检查过程、决定何时继续和何时停止。它在保留任务上的表现超过了作为工具使用的代码 Agent，也超过了 Claude 和 GLM 5.2，体现出模型权重中的通用能力可以跨任务迁移。"我们实际上是在训练一种能力，一种通用的复现能力，或者说通用的科研直觉。"💡 群体智能将取代个体智能的中心位置Ed 认为，未来的关键不是打造一个封闭运行的超级 Agent，而是让多个 Agent、多个技能、多个模型与人类形成多对多协作网络。Inherent 所说的“生活在实验中”和“递归型公司”，正是让组织在 Agent 与人的互动中持续学习和重构。"这是一个群体智能的时代，而不是个体智能的时代。"🌐 播客信息补充本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺在小宇宙查看该单集文稿

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.