·本期话题·1）对AI的疑虑和担忧2）AI的潜力和限制3）AI与就业的关系4）AI是超级秘书：文本生成5）AI对就业的影响6）AI与人类的关系7）未来职业生态的变化8）AI与职业转型·AI总结版·（*以下内容为AI对录音的理解与总结）1）对AI的疑虑和担忧这部分讨论了人们对AI持谨慎、悲观态度的原因和担忧点。人们担心AI会控制他们的思想，夺走他们的工作，甚至成为自动杀人武器。然而，讨论认为这些担忧是不必要的，因为AI的出现和发展带来的好处远大于负面影响。虽然AI的发展会带来一些问题，但最终这些问题会被解决或克服。因此，我们应该保持开放的心态，积极拥抱AI时代的到来。2）AI的潜力和限制人工智能的发展带来了许多令人兴奋的变化和挑战。虽然AI的能力正在不断扩大，但仍然存在一些问题需要解决。例如，AI是否会成为自动杀人武器或拥有自我意识并与人类为敌等。尽管这些可能性看起来有些可怕，但我们仍然相信AI背后的基本逻辑和历史经验可以帮助我们解决这些问题。3）AI与就业的关系讨论了一些与人工智能相关的热门话题，如失业、科技发展等。尽管有些担心AI可能会取代自己的工作，但AI的出现确实带来了一系列负面影响，如失业率增加、虚假信息传播等问题。然而，AI的进步也带来了许多机遇，例如自动驾驶、智能家居等领域的发展。讨论认为，我们需要认识到这些问题的存在，并积极应对它们，而不是过分担心AI带来的影响。4）AI是超级秘书：文本生成胡老师介绍了一种名为“逻辑存储”的存储模式，与之前使用的原文存储、切词存储等方式类似，但不同的是，该存储方式将文本分为多个部分，通过“大卸八块”的方式进行切割，并尝试提取其中的逻辑关系。在处理过程中，使用了许多探索和技巧，如注意力分配机制等。胡老师在讲解过程中提到了一个有趣的现象：AI在读取某个文件时，不仅存储文件本身，而是提取文件中文字之间的关联关系并存储，然后根据提示将存储的信息进行重组、输出。这种存储和被调用的方式被称为“超级秘书”。虽然这种AI的思维方式可能不是100%透明，但通过理解和掌握其中的底层逻辑框架，我们可以更好地应用它解决复杂的问题。5）AI对就业的影响AI技术正在改变我们的生活方式和工作方式，但它并没有超越我们对人类的理解了。这部分讲述了一个案例：交易员可以自己完成技术文档编写的情况，导致公司停止招聘初级程序员和初级交易员的计划。然而，这种趋势引发了一些有趣的变化：原本每年都会有的校招计划已经取消，而一些年轻人失去了就业机会。此外，一位程序员因追求更大的市场机会而离开公司，但交易员并没有被取代。这个故事表明，技术的发展可能会对某些行业产生重大影响，尤其是年轻人的职业选择。6）AI与人类的关系现在的工作环境正在经历剧烈的变化，许多传统行业可能会消失或出现新的工作岗位。对于AI来说，它最擅长的领域是辅助人类完成一些简单的任务，而不是完全代替人类的工作。因此，我们需要关注那些容易被AI取代的领域，并努力培养自己不具备AI无法替代的能力。7）未来职业生态的变化介绍了计算机技术在人类工作中的优势和作用，特别是在创造性思维方面的表现。随着技术的发展，许多原本需要人工完成的任务可以被计算机轻松代替，例如写作、数据分析等。同时，人们也需要思考如何更好地利用计算机技术来提高自己的工作效率和能力，如将知识进行整理和组织，提高信息提取和分析能力等。未来的职业生态也将发生重大变化，人们的工作方式将从传统的手动操作转变为自动化处理。胡老师以莫奈为例，指出灵感来源于对已有作品的拆解、再组合，而不仅仅是看到新的东西，认为我们需要像莫奈一样去发掘并利用过去的经验和素材，才能在创作中获得更高的成就。8）AI与职业转型有些人在过去混日子混得很好，而另一些人则相反，但现在的情况有所不同。随着科技的发展，一些技能可能变得过时或无用，导致一些人成为无产阶级。这种情况可能会使中产阶级受到威胁，因为他们的技能可能不再适用于现代社会的需求。此外，AI的出现也可能使得某些职业变得不再需要人类从事。因此，我们需要思考如何在不断变化的行业中找到自己的位置。·对话文稿·（*以下内容为人工整理编辑）肖小跑：在最近OpenAI创始人奥尔特曼（Sam Altman）参加的参议院小组委员会听证会上，一位议员播放了一段录音。这段录音的声音与议员本人完全一致，听起来像是在一个集会上的演讲，措辞流畅，演讲中表达了清晰的政治观点。播放完毕后，这位议员后表示：这段录音从内容到声音，都是由AI生成的。这位议员的一图很清晰：他想展示AI可能产生的负面影响，比如生成假新闻和假信息。不得不说，随着ChatGPT和大模型的飞速发展，担忧的声音也越来越多。在人工智能专家罗素的《人工智能新生》（Human Compatible）这本书中，探讨了几个关于AI发展的悲观派观点，基本上概括了目前为止所有类别的担心。包括：（1）担心AI生成假消息，操控人类思想；（2）担心AI导致人类失业，失去“人而为人”的意义；（3）担心AI成为自动杀人武器，最终灭绝人类等等。胡老师属于悲观派还是乐观派呢？胡捷：关于AI对人类的影响，目前还不确定是否有百分百的答案。就本身的倾向性而言，我是乐观的，可能有两个原因:第一，我是理科生出身。人类历史上，每当新技术出现时，大家多多少少都会有些担心，也确实带来了一些负面的问题。但综合下来看，最终这些问题都没有真正的成为导致人类文明的大倒退的决定性因素。第二，我目前还在努力理解AI的逻辑。就我现在有限的知识，觉得AI本身不像人们看上去一开始看上去那样的神秘，神秘感常给你带来一种不确定感，觉得它可能会做一些你意想不到的事情。但是对我来说，它能做的事情的边界慢慢在显现。当然，即便在这个边界之内，它也能被人用来做很多坏事，但是大家谈论的一些非常糟糕的可能性，比如自动杀人武器、变得有意识，然后主动的与人类为敌等等，这些臆想在目前的逻辑推理之下，不太会发生。肖小跑：我同意胡老师的观点，有些担忧目前看来还比较遥远。但尤瓦尔·哈拉里最近的演讲说：“AI无需成为有意识或智能的人工生命，就能操纵人类”——又让人听了心里发毛。如果我们关注一些身边的问题——比如就业问题，最近全球范围内都在裁员，我们国内的失业率也不低，虽与AI无直接关联，但人们处在这样氛围中，又频见新的AI工具不停涌现，会产生它真的正在取代我们的工作的感觉。您觉得从现在AI工作的底层逻辑来分析，这个担心是不是过头了？胡捷：我之前表达的对AI总体上的乐观态度，主要针对极端的负面猜测。但是AI技术出现，特别是近期的革命性进步，确实带来一些负面问题——如失业、假新闻、选举操纵和“信息泡泡”等。就失业问题而言，我完全同意它来得可能比我们想象得快得多。开句玩笑：作为老师，我自己也在思考自己的作用到底是什么？在具体问题上，我们不得不面对现实。但为了更好地论述我的观点，我想先谈一点自己对当前AI进步比较粗浅的理解，分享其底层逻辑，大家也会更好理解我观点的依据。AI的应用大致分三类：第一类是识别类，如人脸识别。第二类是博弈类，指在特定游戏中运用一系列规则，机器学习这些规则后可以参与博弈，如AlphaGo——这不限于某一游戏，人类许多社会和经济活动都可以视为博弈，军事活动也是如此。第三类是生成类，基于收集和整理过去信息，重新输出信息。目前看，这三类每一类现在都在飞速发展。而最近给我们最大震撼的，是“生成类”。总体来说，我觉得生成类应用中的AI是“超级秘书”。听到我将它定位为一个“秘书”，你可能已经猜到我的想法——“秘书”承担的更多是机械工作；而“超级”的意思是，现在秘书不仅仅能做机械工作，似乎没有了极限。举个例子：培养小孩的诗作能力，一般方式就是让他熟读300首唐诗，接下来“不会吟诗也会凑”——当小孩熟读了300首诗，有一天你会发现，他居然也会作诗了。如果把这件事交给计算机，会发现它经历了三个阶段：第一，我们首先发现它能做“原文存储”。输入300首诗，它可以完整存储在磁盘上，随时调用，一一展示在你面前。在某种意义上，计算机对文本信息处理的能力已经超过了人类——它能瞬间记住300首诗，而人需要很长时间。第二个阶段是“切词存储”。同样是300首诗，原文存储后，它还会继续做我们称之为“切词”的工作。“切词”的意思是将一首诗全部切成多个词片段，在中文语境下略微复杂，因为中文不仅有词，还有字。它会先切字，再切词，将一首诗分解成一堆词。切词存储的模式使计算机在后期检索时更加灵活，就像具有某种智能，可以根据词的权重安排相关诗的顺序。谷歌、必应等搜索引擎的基本原理，就是基于切词存储来进行的——这在应用上有相当多的好处。第三阶段是“逻辑存储”：它不仅能把文本切分，也尽量提取各部分之间的逻辑关系，这种关系包括注意力机制。切词后，它会分析文本中每个词与其他词的关联关系，如“月光”可能与“夜晚”、“黑暗”、“孤独”、“思乡”等词有关。它还会进一步分析这些词之间的关联关系，使用一些如“注意力机制”的技巧。“注意力机制”会模拟人大脑存储机制，并非简单地按顺序存放所有词。简言之，逻辑存储在切词基础上，除了存储元素外，还对词间关系进行逻辑梳理，并存储这种关系。GPT本身作为大语言模型，能读取大量文本，除原文存储和切词外，它还对词间逻辑进行分析，并存储这些逻辑关系作为文本的一部分。我们现在所见不过是它以特定模式存储后再表达的结果。它可根据提示重新组织并输出信息。当你输入文本时，它会重新读取输入文本，在存储的海量文本基础上，用注意力机制找到最合适的文字重新组织并输出。简而言之，我认为现在的Transformer模型是一种针对文本处理的高级存储方式。它不仅分解了原始文本，更重要的是提取了词与词之间的逻辑关系以及背后隐藏的知识。这些提炼出的逻辑被附加到文本上并进行存储。当模型面对新的提示时，通过概率论方法，它能够重新组合和输出相关内容。因此，Transformer模型的工作可以被视为超级秘书的工作。在总结时，我们可以说它所做的事情不超出其存储的内容范围，它会在已存储的内容基础上进行获取、重组和输出——它其实就是个“聪明的秘书”——这就为我们后续探讨问题提供了基础。肖小跑：胡老师用理科生的思维强调要理解具体细节，以避免被耸人听闻的新闻标题所吓到。但我们会不会低估了它的能力？我记得在《Human Compatible》一书中，罗素提到了一个比喻：如果全人类收到一封外星文明称将在一个月内降临地球的邮件，人们可能会感到害怕。然而，若是说在一年内，一种难以理解的人工智能将降临地球，人们可能不会太在意。尽管如此，罗素认为，如果未来AI得不到有效控制，它的影响将与外星人一样严重，但人们往往没能看到AI带来的同等威胁。胡捷：这种担心不是没有道理。大家都知道特斯拉，这个公司因马斯克而知名。特斯拉的名字源于电磁学史上的伟大人物尼古拉·特斯拉，他与爱迪生齐名，甚至被认为贡献更大。但在那个年代，许多人将他视为巫师，因为他对电和磁力的理解使他能展示许多神奇的效果。所以在技术发展史上，每当人们面对陌生且可能带来负面影响的技术时，往往会有恐惧感。然而，我认为AI目前的发展并未超越人类的理解。人类对自身的认知还存在很大局限，而这种局限也会被嫁接到AI上。目前AI所展示的能力相对简单，但确实可能带来负面影响，就像电力的出现可以被用于好事和坏事，AI也同样带来了失业、知识产权问题、假新闻和选举操纵等现实威胁——虽然这些问题已经存在，但在AI时代更加严重。尽管如此，我认为它并未在本质上突破我们对科学和技术的理解，让我们创造出一个无法控制的怪物。肖小跑：非常同意胡老师的观点。我们还不如先回到现实，先来关注一下受AI影响的就业市场。在谈论AI如何替代工作前，我想分享一个自己身边因为ChatGPT的出现而取代了一些工作的情况。在香港的一家小型对冲基金里，高频交易部门的程序员和交易员之间的关系原本非常糟糕，因为程序员总是忙于编写代码和升级程序，而交易员需要他们的帮助来解决一些紧急但不重大的问题——比如写一个交易数据自动报送程序、交易功能升级测试等等，因为对交易员来说，时间就意味着市场机会。而现在，交易员可以在ChatGPT的指导下，自己写简单的程序处理这些问题，不用再天天催程序员，双方关系因而得到改善。但这直接导致公司停止了招聘初级程序员和初级交易员的计划，年轻人没了机会。这件事最近发生了一个小转折：有一天，程序员突然辞职去了大公司，大公司最近增加了一些新的岗位，计划利用AI技术开发自动交易策略。而交易员则认为，目前的AI模型还无法完全取代交易员，大公司是浪费资源。这个例子让我觉得很矛盾——一方面年轻人失去了工作机会，但另一方面也因为ChatGPT的出现，一些新的工作机会出现了。胡教授怎么看这个例子？胡捷：这个例子很有意思。我们不得不面对这个事实：目前工作生态正在发生剧烈变化，许多传统工作可能会消失，新的工作也会出现。而且每个行业都在面临这样的变化，所以要预测哪些工作最容易被AI取代，我们也许需要详细分析各个行业的情况。我认为，AI目前还只达到“超级秘书”的水平。而“超级秘书”能做的事，人最好就不要去和它争了。秘书的工作是利用已有内容来执行，但“超级秘书”不只是简单找文章库里现成的文章，它还可以根据相关文章重新组合句子和词语，生成新的内容。AI就是这样工作的：它接受我们的指令文本，把指令解析，然后在其存储的信息中搜索相关内容，重新组合，生成结果呈现给我们。这样的工作，AI目前非常厉害，几乎可以想象到的事情它都可以做，比如唐诗三百首——你以为AI只能按照你的关键词调出一首完整的诗吗？他还能把词都拆散了，给你重组一首新诗。但是，AI的能力还有限，它的工作方式依然比较机械，不会超越文本中原有的信息和逻辑关系。所以，AI的能力范围内的工作，人最好不要去争，但超出其能力范围的工作，人还可以发挥作用。像律师、医生、咨询师、会计师，以及某种意义上的老师等职业，如果只是简单地把书里的知识传授给学生，未来会被AI取代；但是老师的真正责任在于给学生讲解更深层次的内容，这是AI难以做到的。总的来说，现在整个世界的职业生态正在发生变革。200年前，美国几乎100%的人口从事农业，现在只有1%。如果深入分析，我们会发现98%的工作时间其实被“超级秘书”代替了。真正需要人脑力创造的部分可能只占极小比例，比如写文章时动脑筋思考的那几分钟。但鉴于大量工作可被AI替代，未来的工作生态必将发生更大变化。肖小跑：非常清晰！胡老师分析了AI替代人工的整体逻辑，让我们看清人类与AI的差异与竞争优势。胡老师一直强调，人类要做AI不能做的事情，这听起来好像有点难度。我突然想到了“思维实验”这个概念。乔姆斯基在一篇纽约时报文章中写道，AI绝不可能完全替代人类，因为人类有一项AI难以匹敌的技能——做“思维实验”。也就是可以凭空想象不存在的事物。比如，爱因斯坦研究黑洞，这是他自己想象出来的，然后用理论推导证明其存在。这种可以想象完全不存在的事物，然后证明其存在的思维实验能力，乔姆斯基认为AI不具备。我现在觉得，目前为止，思维实验可能是人类创造力稍微领先AI的一点。但是，我不确定未来AI是否也可以进行思维实验，凭空想象并证明不存在的事物。如果AI可以做到这一点，人类在思维实验方面的优势可能会减小。但总的来说，乔姆斯基的观点是不是也值得参考呢？胡捷：我们可以继续思考人工智能与人的能力边界。我用一个简单的比喻来说明AI的能力边界——AI可以将一件事物“碎尸万段”，把内容粉碎，存入自己的数据库，需要时再重新组装输出；但如果数据库中根本不存在这个元素，AI就没法输出。比如，AI可以创新菜谱，不仅可以背诵菜谱与做菜步骤，甚至可以创新菜谱。但是，如果人类从没吃过螃蟹，也没有任何记录解释怎么吃螃蟹，那么即便AI学习了所有的菜谱，我相信它也无法做出一道好的螃蟹菜谱。只有人类吃过螃蟹，记录下来，AI才可能根据记录做出螃蟹菜谱。这是一个例子。另一个例子是艺术创造。在印象派出现前，人们的油画风格基本写实。如果AI学习了那时期所有的绘画作品与技法，它可以拆解然后重组，但输出的作品难以脱离过去画作的影子——无论在素材还是风格上。如果AI从来没有接触新的风格或素材，它就无法创造出新的画作。我理解，AI是一种相对高级的读取、分解、存储与再创造的工具。所以，我不认为AI能在莫奈之前画出《日出》，它想象的只是它过去见过1万个太阳的混合，并不能画出一个藏在蓝色色块中、从湖面上升的橘色太阳。AI的创造永远都在过去素材的“阴影”下。这也给了我们启示：现在人类需要有莫奈的创造力，而不仅仅是对过去创造的重组。一旦人给出新素材，AI可以一秒钟生成新的创意。但真正的创造需要人的想象力，而不仅是重组过去的素材，关键是人类具有想象不存在事物的能力，这是AI目前难以匹敌的。肖小跑：我们聊个乐观点的话题。最近我读了一篇麻省理工学院的一篇《Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence》，论文的观点是：人工智能有可能重建中产阶级。论文首先回顾了90年代计算机时代的影响，当时技术使得工作两极分化，对受过高等教育的精英有利，但对未受过教育的人并无益处；所以计算机的出现，使得打字员等工种逐渐消失。然而，文章认为人工智能时代与计算机时代截然不同。AI的大规模应用可能会让那些技能较低、未受过大学教育的人从中受益。例如，某个交易员可能从未学过编程，但由于AI工具的出现，他可以轻松学会编程。因此，这波AI浪潮有可能让原本难以晋升的人变成中产阶级或以上。文章最后建议政府应大力普及AI工具。胡老师觉得这个观点如何？胡捷：这篇论文有它的道理，它提出了一个“重塑中产阶级”的观点。我觉得技术进步带来的问题可以从两个方面理解。首先，从工作数量来看，未来社会是否能为更多人提供意义的工作？这个问题，我们目前还没有明确的答案。如果无法提供足够的工作，也许真的如赫拉利所预测的——人工智能强大后，大部分人将失去价值，机器将取代人承担更多的工作，99%的人会变得“无用”，只有1%仍是“有用阶级”，更多人进入虚拟世界或“玩游戏”。另外，工作的产生和减少会导致生态变化。有的人过去生活舒适，现在变差了；有的人过去生活艰难，现在改善了。这好比枪炮发明后，原本的武术高手失去优势，“枪杆子”压倒一切。现在，原本依靠大学学历无忧无虑的人，可能AI让他们变得无关紧要。在这个意义上，中产阶级确实被“重塑”了，像我们这样的中产阶级，可能会沦落为无产阶级，然后被蓝翔技校的人超越，这不是没有可能的。所以每个行业都在考虑两个问题：第一，该行业会如何变化；第二，在变化后的行业中，我还有没有立足之地？肖小跑：今天与胡教授的聊得非常开心！有时是理清了AI背后的逻辑，以及”超级秘书”的定位。希望下次在和胡老师讨论时，我们人类还能做“超级秘书”的老板。— End —来源｜高金智库编辑｜坛子互动方式坛友群：请添加坛子微信“BKsufe”

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related