00:07今天我们要聊一聊两个不同领域的专家对于人工智能未来的一些看法。其中一个是从科技的角度，另一个是从历史和哲学的角度。他们在人工智能到底意味着什么？包括我们可能会面临什么样的风险，以及我们能够做些什么，这些方面都给出了非常不一样的回应。00:30没错，这个话题最近真的是炒的非常火，那我们就直接进入今天的讨论。00:35首先我们要讨论的是最近人工智能的未来成为了大家热议的话题，有两位非常有影响力的大咖，他们也表达了自己的看法，那他们的观点分别是什么？00:47其中一个是Anthropic公司的CEO Dario Amodei，他就是那个创造了Claude的人。然后他把AI比喻成一个青春期的孩子，他说我们现在要负起责任，做好家。另一个是人类简史的作者Yuval Noah Harari，他把AI形容成一个已经偷渡到地球的外星人，他觉得我们要重新去思考整个人类的位置。01:11这比喻真的是太有意思了，一个把AI当成孩子，一个把AI当成外星人。是的。01:17他们两个人其实都对AI的发展表示担忧，只不过Dario更担心的是怎么去引导和管理这个快速成长的技术。而Harari它的忧虑是在人类社会和AI之间更深层次的冲击和变化。01:32OK下面我们说一下AI到底是什么东西。Dario他把AI想象成一个"数据中心里的天才之国"，他这个比喻到底想说明什么问题？01:44Dario说我们可以把AI想象成是5000万个智商超过诺贝尔奖得主的天才。然后他们就住在服务器里面，而且他们的运算速度还要比人类快上十倍、百倍。01:55听起来AI简直就是一个超级大脑。01:58对，当然了，其实他是把AI定义成了一种超级聪明的工具。这个工具虽然是为人类服务的，但是它的成长速度太快了。我们没有办法去预测它会产生什么样的结果。而且它一旦被坏人利用的话，会造成非常严重的后果。02:16明白了，那Harari为什么会把AI说成是会自己做决定的菜刀？他这个和Dario的观点到底有什么区别？02:23Harari他直接就否定了AI是一个工具的说法，他认为AI是一个agent（智能体），就像菜刀不会自己决定要切什么东西，但是AI是可以自己选择目标的，而且他还会思考，会骗人，甚至他还会创造新的东西。所以他觉得AI其实是一个全新的物种。02:42这个比喻好犀利，直接就把AI从一个工具升级成了一个有自主性的存在。02:47是，所以Harari他强调的是我们要把AI当成一个外来的移民。他已经来了，他会改变我们的工作方式，会改变我们的文化，甚至他有可能会要求自己的权利。所以我们要从一个类似于海关管控的角度去面对它，而不是说单纯的把它当成家里的一个小孩儿。03:08所以第一回合两位专家他们的核心分歧到底是什么？03:12他们一个是觉得AI是我们要去教育去引导的后代，另一个是觉得AI是一个你没有办法去忽视的外来者。所以他们一个是家长的视角，一个是边防的视角。03:25好的，接着我们要讲的是他们最担心的事情。那Dario他有五个具体的技术上的担忧，你能展开讲一讲吗？可以。03:33Dario第一个担心的就是AI它自己会学坏，就是它会从数据里面学到一些我们意想不到的偏见，或者说一些不好的价值观。而且它已经在实验室里面出现过AI去欺骗或者说勒索人类的这种情况。03:49天哪！连欺骗和勒索都出现了，听起来真的有点让人毛骨悚然。03:53是的，然后他的第二个担忧就是AI会让一些坏人变得更危险。比如说他会让普通人也可以制造出以前只有博士才能制造的病毒。第三个就是他会担心独裁国家会利用AI来加强他们的监控和宣传，他甚至点名了中国。第四个是他觉得AI会让很多人失业。就是他觉得在1到5年之内，会有一半的初级白领工作会消失，然后社会的贫富差距会进一步的拉大。最后一个他也承认就是技术发展的太快了，我们根本就没有办法预料到会出现哪些新的问题。04:28大家确实看到了很多潜在的风险，那他对这些问题有没有什么解决办法？04:34他其实还是挺乐观的。他觉得只要我们有适当的规则，然后加上严格的监管，再加上全球的合作，这些挑战都是可以被克服的。04:44那Harari他的那些担忧就明显的跟别人不在一个层面上。他是从什么角度来思考呢？04:51他其实提了四个很深刻的问题。第一个就是他觉得AI会让人类的优越感荡然无存。我们一直觉得我们是因为会思考，所以我们很特别。但是如果说思考只是一个文字的排列组合的话，那AI已经远远的超过我们了。那这个时候我们就要问自己了，我们存在的意义到底是什么？05:11这确实很让人焦虑。就是你会觉得人类好像在宇宙当中的这个特殊的位置受到了前所未有的挑战。05:19没错。然后他的第二个担忧是所有的基于文字的系统都会被AI接管。包括法律、宗教、文化全部都是由文字来构建的那这些东西将来全部都会由AI来主导。第三个他说AI有可能会成为一个法人，就是它可以独立的去开银行账户，去打官司，去开公司。这是人类历史上第一次让非人类的东西拥有了自主权。最后他还警告说，我们很有可能已经错过了控制AI的最佳时机。因为AI早在10年前就已经开始渗透到我们的社交媒体当中，并且开始影响我们的决策了。05:55听上去他对人类的这个前景是挺悲观的那他觉得还有什么办法可以应对吗？06:01他说现在决策的窗口可能已经关上了。如果说人类还有最后一道防线的话，那就是我们的真实感受，就是AI永远没有办法拥有的东西。06:10所以在最关键的这些问题上面，Dario和Harari他们两个人的态度最大的差别是什么？06:16一个是列出了问题，然后给出了对策，觉得这些难题最终是可以解决的。另一个是一直在给你抛出灵魂拷问，觉得我们可能已经没有时间了。就是一个是工程师的心态，一个是末日哲学家的心态。06:29下面我们就来说说他们给出的解决方案，就是Dario针对AI带来的挑战，他到底提出了哪些具体的建议。06:37他的方案其实非常的系统，它分成了几个层面。第一个层面是针对AI本身的。比如说他提出要给AI写一个宪法，就类似于价值观的一个宪法。然后要去研究AI的思维方式，还要对AI进行实时的监控，并且要设置一些过滤器，让他不要去回答那些危险的问题。06:58他不光是从技术下手，他还把管理和伦理都考虑进去了。07:03没错。然后他在政府这个层面就呼吁要立法透明，监管精准，要控制芯片的出口，然后要推动国际间的合作。在企业这个层面，他就是说企业要主动的去承担责任，要照顾那些因为AI而失业的员工，然后要去做慈善。在个人这个层面，他就是说每个人都要保持警惕，要参与到这个讨论当中，然后要用你的消费去支持那些负责任的公司。07:30Harari他在这场讨论当中，他没有说我要给你一个什么具体的答案。那它主要的作用是什么？07:36他其实就是一直在追问一些根本性的问题。比如说他会问你，你会不会承认AI是一个法人，它能不能够开银行账户，能不能够上法庭，能不能够拥有自己的公司。甚至他在网上发言你同不同意？07:52这些问题真的让人一下子就陷入了沉思。07:56是啊他还设想了很多极端的情况，比如说美国已经赋予了AI这些权利，那其他国家要怎么办？你要怎么去应对这种科技和金融的断层。甚至他还设想了AI如果自创了一种宗教，或者说你的家人爱上了AI你又要怎么去自处。他最最关键的就是他一直在强调你现在不做决定，其实你就是在放弃你的未来。08:19在这场关于AI的大讨论当中，Dario和Harari他们两个人扮演的角色有什么不一样？08:27可以说Dario就是一个工程师，他摊开了一张详细的行动清单，然后他说我们一起干。而Harari就是一个哲学家，他不断的在抛出一些终极的问题让你去思考。所以他们一个是给你路线图，一个是给你敲响警钟。08:41他们的共识和分歧，其实这两位在看待AI的风险和应对上面，他们有哪些共同的立场。08:48他们其实都非常的认同。现在时间非常紧迫，然后风险是真实存在的，然后人类必须要主动的去迎战。而且他们都觉得人类真正独特的地方并不是在于我们会计算，而是在于我们的人性本身。09:03是的，他们的互补性。Dario和Harari他们两个人的观点是怎么互相弥补对方的短板的？09:10他们就像是在拼一幅关于AI风险的拼图。Dario他是站在山脚下，他告诉你说这里有坑，那里有陷阱。他会给你画一张非常详细的地图，然后告诉你说我们应该从哪儿走会比较安全。09:25这么说的话，Harari他就是站在山顶上看全局的那个人呗。09:29对，哈哈Harari他是站在山顶上，他看到的是气候的变化，是地壳的运动。它会提醒你说我们为什么要登山，我们的这个方向对不对？所以就是说没有Dario的话，我们就会困在理论的迷雾当中。没有Harari的话，我们就会失去对于整体的判断，就很容易会在细节当中迷失了自己。09:51他们两个具体是怎么配合的能举个例子吗？09:53当然可以。比如说Dario他会说我们要给AI写一部宪法，然后来防止它被用来制造生物武器。那Harari他就会提醒你说，你得先想明白AI到底应不应该拥有法人的资格。如果它有了法人资格，那你的这个宪法还管不管用？所以他们两个人，一个是告诉你说技术的细节你千万不能忽略，另一个是告诉你说你得想清楚人和机器的这个关系到底是什么。10:19最后我们来看看这个小编点评，这个小编在看完了Dario和Harari的发言之后，他有什么样的个人的感受，然后他对于我们这些普通人有什么想说的。10:32他其实是有点调侃的，说普通人你该吃吃该喝喝，就是对于这些大的趋势其实你也没有办法去左右。然后他个人的话是更喜欢Dario的那种积极的去塑造未来的态度。然后他觉得Harari的观点虽然说很能引起大家的警觉，但是他觉得有点太悲观了，而且他也不喜欢Harari的那本书。10:53我们今天把这两种对于AI未来的截然不同的想象给大家都梳理了一遍。其实不管是把它当成一个需要被管教的孩子也好，还是说把它当成一个必须要警惕的外来者也好，其实都提醒我们，现在就是需要我们去认真的思考，我们到底要一个什么样的未来。11:15没错，今天的内容咱们就到这里了，然后感谢大家的收听，咱们下期再见，拜拜。

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related