从Karpathy泼冷水到彭罗斯预言：我们到底是在造人，还是在造幽灵？

Andrej Karpathy近期在一场访谈中对当前AI行业热潮泼出的一盆冷水。冷水也刷屏了。仔细看看这盆冷水，泼的还蛮有意思，也给了我们很多启发，于是决定发挥《文理两开花》灵魂拷问引领反向叙事的传统，从Karpathy对“智能体元年”系统性的反驳切入，灵魂拷问一下当前AI发展的核心局限。比如：“预训练”的本质到底是不是一种“山寨版的进化”？ AI为何“不能当人用”的那些认知缺陷，如缺乏睡眠、反思与做梦机制，会不会引发的“模型坍塌”风险？还有强化学习（RLHF）到底是不是还如此惊艳？它有什么大家不愿意挑明的现实困境？ “AI裁判”真的有后门吗？既然是《文理两开花》，那我们一定会从技术层面上升至哲学思辨：为何AI没有肉体，就缺少了“趋利避害”的内在驱动力？人类智能的独特性究竟源于何处？从业界讨论延伸至科学与哲学的边界，彭罗斯（Penrose）的量子意识理论是不是又在你脑中劈了一条“闪电”？最精彩的部分来了，大家一定要听到最后。尤其是在AI领域正发愁写论文的同学们：Will老师有一个惊为天人的观点，且他正准备写成论文发表。Will老师大胆提出一个新颖的类比：Transformer模型中的随机性，是否与人脑中产生意识的量子过程有异曲同工之妙？（Will老师供图）本期播客录完之后，我自己也激动了半天：是一场畅快淋漓的、从技术批判到哲学畅想的脑力风暴，最终回归灵魂拷问：人类自身反思和创造能力到底意味着什么？太激动，以至于都忘了做广告：还是非常希望大家能够支持我们的新书《数字世界生存手册》！我们在《文理两开花》中念叨了一年的书终于出版了。经常听节目的朋友都知道，这本书的整体逻辑和主要框架，核心还是围绕 “六个大筐” ——那六个底层逻辑展开，而这“六个大筐”正是数字世界的核心内容。说到这六个大筐，我们第一次提及还是在疫情期间的 2020 年，到现在已经有些年头了。这么多年过去，这套底层逻辑完全经得起市场起起落落的考验，依然可以解释从数字货币到AI等等数字世界中发生的很多事情。我们当初构建的整个框架，直到今天还在被数字世界中发生的每一件事不断印证着。基本上可以说，大家现在看到的整个数字世界，尤其是数字货币领域的每一个发展动态，其实都能和这本书里的框架非常有效地贴合起来，并且能从中得到充分的验证。这一点还是挺让人欣慰的。所以，请大家多多支持！也请大家持续关注我们后续的宣发活动！时间戳：· 00:06:54 “智能体元年”是伪命题？Karpathy的核心反驳：我们不是在造人，是在造“幽灵”。· 00:08:33 AI为何不能“当人用”：详解认知能力的缺失，以及睡眠、反思与做梦机制的不可或缺。· 00:13:47 十年之约：为何说AI的基本功尚未打牢，现在谈论取代人类为时过早。· 00:14:09 历史的回响：从彭罗斯的《皇帝新脑》看当前AI热潮下的审慎与怀疑。· 00:20:20 智能的标准之争：图灵测试、结果论与本体论，我们该如何评判AI？· 00:20:50 中美AI的两条路：务实的“应用主义”与追寻终极的“AI God”。· 00:23:00 感知的鸿沟：为何外行觉得AI惊艳，而专家看到的却是局限？· 00:26:15 实践永远先于理论：用“蒸汽机”类比，理解大模型作为工具的革命性意义。· 00:30:42 智能爆炸还是平滑曲线？AI对社会的影响，以及自我进化的可能性。· 00:31:07 通往超级智能的“断梯”：为何AI无法自动化AI研究，写出真正创新的代码？· 00:35:06 AI没有肉体，也就没有“趋利避害”的内在驱动力。· 00:40:34 强化学习糟透了？RLHF高方差、过程监督困境与“AI裁判”的后门漏洞。· 00:47:00 人与AI学习模式的根本差异：外部激励 vs 自我生成的目标与评价体系。· 00:50:50 智能的偶然与必然：人类文明为何独一无二？肉体与精神的二元结合。· 00:54:36 意识从何而来？彭罗斯的量子理论与“宇宙意识”的玄学猜想。· 01:01:20 Will老师民科狂想：Transformer的随机性，是否模拟了意识诞生中的量子过程？· 01:07:42 思辨的价值：跨学科的联想与“胡思乱想”才是人类智能的宝贵之处。由于字数限制，文字稿请移步微信公众号《文理两开花》：https://mp.weixin.qq.com/s/Oe37P9UheehdeO4jEGM3OQ关于《文理两开花》：《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0中的碰撞。当下的时代精神是“混沌”，我们试图在混沌中寻找秩序。Twitter：@LeiSalin_XP@Will42WTG群（开放）：t.me收听平台：小宇宙：文理两开花苹果播客｜Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花》（文理两开花已经上线苹果播客中国区，可直接搜索收听）文字稿和延伸阅读：微信公众号《文理两开花播客》《文理两开花》newsletter。欢迎订阅：wenli.substack.com其他平台：即刻：文理两开花《文理两开花》微信群：请添加坛子微信（WeChat ID: BKsufe），注明：文理两开花

There are no comments yet.

Please log in to write the first comment.