要不要本地部署DeepSeek？核心是平衡成本、精确、智能！

如题。00:00 如果说ChatGPT是AI的iPhone时刻，那DeepSeek将是AI的安卓时刻！参考上期播客一、本地部署DeepSeek真的可行吗？04:19 这样说说吧，奥拓就别想着买奥迪的发动机了09:22 为什么大家希望本地部署？当年安卓刚出来，人人都想去下个ROM刷个机，就好像今天大家都想试着部署DeepSeek，为什么有这种心理呢？12:22 混合部署与蒸馏小模型未来如何？理论上会有更多蒸馏的小模型出来，利好各方面的创业，但是难点还是如何调优，而不是模型本身的能力二、要不要本地部署，核心是考虑：成本vs精确vs智能20:27 成本vs精确vs智能。本质上要解决这个三角，除了调优以外，也考验你对需求的结构能力29:55 云服务是AI的底座，AI只是云服务的卖点。如果说 DeepSeek模型是满血的，那么运营就是残血状态，毕竟AI的运维能力和成本不是小厂能cover的34:51 成本！深度学习推理与本地化架构的成本。要考虑到运维工程师、部署环境和工具可能每六个月就会完全迭代一次，这将是很大的成本44:33 最大的悖论！有能力把模型做到本地的团队，很可能做不好数据标注和调优，很可能不懂市场和运营。更重要是你要想明白用什么，是总结、生成还是推理，不同的用法，部署的模式不一样47:14 做大模型和做应用本质上是两套班子。为什么OpenAI要投资Harvey和Speak，理论上他们都是基于GPT做的优化，但是产品架构和团队的技术能力完全不同，无法用一套班子cover掉三、哪些行业适合本地部署模型？53:44 哪些业适合本地部署？1）只需要归纳、总结、生成的，不需要过高智能的；2）数据有限但需要专业数据标注的，如法律、会计师58:28 个人层面的AI，未来文件夹式的文件结构将会被颠覆，取而代之的是本地的自然语言的搜索和展现01:04:49 彩蛋【关注主播】：📕小红书：叫我小苏就好啊📺B站：叫我小苏就好啊📱微信：Roisu117【关注频道】：📕小红书：人民公园说AI▶️油管：人民公园说AI🐦推特：人民公园说AI

There are no comments yet.

Please log in to write the first comment.