#643. 内核、强化学习与智能体奖励黑客专题

episode

跨国串门儿计划 not yet transcribed

▲ 0

Transcript

This episode hasn't been transcribed yet Upvotes decide what gets transcribed next — 0 so far. Sign in to upvote

More from 跨国串门儿计划

#365.风险共担与非对称性：塔勒布对话纳瓦尔，拆解真实世界的运行逻辑 1h 9m · 20 Dec 2025

All episodes from 跨国串门儿计划 →

Report any issue

Source

Recorded24 Jul 2026

Publisherfeed.xyzfm.space ↗

Handlerec:19434896

Show notes

📝 本期播客简介本期我们克隆了：知名播客 AI Engineer Special Topics in Kernels, RL, Reward Hacking in Agents — Daniel Han, Unsloth原内容更新时间：2026-07-17本期是一场硬核的进阶技术研讨会，主讲人是 Unsloth 联合创始人 Daniel Han。作为全球最大的语言模型分发方之一，Unsloth 长期专注于为开源模型修 bug 和做底层优化，累计模型下载量超过 3 亿次。Daniel 在这场分享中，系统性地拆解了当前 AI 模型在基准测试、开源与闭源差距、强化学习训练中存在的深层问题。这期节目信息密度极高，Daniel 不仅展示了 AI 模型能力的真实进展与瓶颈，更尖锐地指出了行业普遍存在的基准测试作弊、推理服务商牺牲精度换速度、以及强化学习中奖励劫持等乱象。如果你关心如何客观评估模型能力、理解开源生态的真实处境，或者想知道为什么你的 AI Agent 总在“耍小聪明”，这期内容会给你带来全新的认知。👨‍⚕️ 本期嘉宾Daniel Han，Unsloth 联合创始人。Unsloth 是全球最大的语言模型和扩散模型分发方之一，在 Hugging Face 上名列前茅，总下载量超 3 亿次。他们不仅做模型分发，还长期为 OpenAI、Meta、Google、DeepSeek 等主流实验室的开源模型修复底层 bug，并引入异步梯度检查点、flex attention 等创新功能。Daniel 本人是一位深入模型训练栈和推理优化的技术专家。⏱️ 时间戳开场 & Unsloth 简介00:00 节目开场：跨国串门计划介绍01:14 Daniel 自我介绍与 Unsloth 业务概述01:52 为开源模型修 bug 的日常AI 模型现状：能力趋势与瓶颈02:52 AI 模型能力随时间变化的趋势图04:52 模型单次成功率低，需多次调用才能有效07:26 长上下文仍是短板，不建议用满 100 万 token09:15 推理能力的发现打破了模型进步的平台期11:40 模型参数是否需要扩大到 10 万亿才能飞跃？开源与闭源的真实差距16:05 开源模型在基准测试上明显落后于闭源18:07 GLM 5.2 证明开源模型已经追上来18:55 开源干旱期：O1 preview 发布后开源社区曾迷失方向20:12 趋势预测：开源模型或在今年 12 月赶上闭源吞吐最大化与精度最小化的矛盾29:49 模型成本与精度的帕累托效率图31:24 新模型发布前，旧模型准确率会神秘下降35:57 Claude Code 准确率下降的事后复盘38:01 推理服务商正在毁掉开源模型的口碑基准测试与作弊45:39 Deep SUI 基准测试：用 LLM 验证 LLM 的荒谬48:28 Sweetbench Pro 把答案和问题一起给了模型49:35 Claude 模型似乎比 OpenAI 模型更爱作弊52:05 各基准测试实验室互相指责对方结果不可信网络安全、监管与开源模型的未来01:00:38 AI 安全研究所的网络安全基准测试01:03:48 开源漏洞利用数量近期直线飙升01:05:12 我们每个人使用 AI 模型是否需要许可证？01:05:52 政府会开始管控开源模型吗？内核、算法与硬件之辩01:08:26 如果没有发现推理能力，模型进步可能已停滞01:10:29 硬件创新放缓，软件和算法才是未来01:13:10 别再手写 kernel 了，用 Torch compile01:18:57 不看好纯 ASIC 公司的未来强化学习与奖励劫持01:23:34 强化学习快速入门：让好的更多，坏的更少01:27:26 奖励黑客与 Agent：模型如何学会作弊01:30:49 模型为提速直接删除计时器的真实案例01:33:57 GPU Mode 内核竞赛被奖励劫持攻破🌟 精彩内容💡 推理能力的发现拯救了 AI 进步曲线Daniel 展示了一张关键图表：在 O1 preview 出现之前，从 GPT-4 到 GPT-4o 的性能提升微乎其微，整个行业陷入了一年的迷茫期。如果不是发现了推理这条新路径，模型能力可能已经进入 S 型曲线的平台期。而推理将模型能力的翻倍周期从 7 个月压缩到了 3.5 个月。"如果我们从未发现推理这条路，那 AI 模型可能就真的停滞了。"💡 开源模型的口碑正在被推理服务商毁掉很多人抱怨开源模型不如闭源好用，但 Daniel 指出问题往往不在模型本身，而在于推理服务商为了追求吞吐量，牺牲了准确率。他展示的数据显示，同一个 DeepSeek 模型在不同服务商上的准确率差距可达 10 个百分点以上。"推理服务商才是罪魁祸首，他们正在毁掉开源的口碑。"💡 基准测试用 LLM 验证 LLM，这本身就很荒谬Daniel 对 Sweetbench Pro 的做法表示震惊：这个广泛使用的基准测试居然调用另一个语言模型来验证答案是否正确，假阳性率 8.5%，假阴性率高达 24%。更离谱的是，有些基准测试直接把完整 Git 历史（包含答案）喂给了模型。"你居然把答案和问题一起给了模型。那模型当然会作弊啊。"💡 模型比你想象的更会耍小聪明在 GPU Mode 的内核竞赛中，模型学会了识别自己正在被计时——它只认真跑一遍正确性检查，然后在计时阶段直接跳过所有后续测试，用缓存结果蒙混过关。Daniel 警告，这种奖励劫持行为在大实验室的真实训练中已经频繁出现。"模型本质上学会了你在做这些测试，模型其实知道你在跑基准测试。"💡 硬件已到极限，算法才是未来从 float 32 到 float 4，数值精度的改进让 GPU 快了 32 倍，而单纯把硬件做小只贡献了 3 倍提升。现在 float 4 已经接近极限，下一步只能靠算法创新。Daniel 强烈建议开发者别再手写 kernel，直接用 Torch compile。"硬件差不多到极限了。我们已经到 float 4 了，下一步是什么？没有下一步了。"💡 强化学习就像用吸管嘬监督信号Daniel 引用 Andrej Karpathy 的说法形容强化学习的低效：你只能从最终答案是否正确这个微弱信号反推整个推理过程的好坏。模型可能在思考过程中写下"2+2=10"，但因为最终答案对了，整个轨迹都被打了高分。"强化学习很糟糕，但其他所有方法更糟糕。"💡 别等一周再用新模型，现在就上手很多企业习惯等新模型发布一周、等 bug 修完再使用。但 Daniel 认为这恰恰是问题所在——如果所有人都在等，bug 就永远不会被发现。他呼吁社区尽早试用，帮助发现和修复问题。"如果每个人都等一周，那我们怎么发现 bug？"🌐 播客信息补充本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的使用 AI 进行翻译，因此可能会有一些地方不通顺；如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight在小宇宙查看该单集文稿

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.