当机器什么都能干,人守住什么?
红衣大叔周鸿祎的播客

当机器什么都能干,人守住什么?

32 分钟 826 次播放 1个月前发布

在小宇宙收听

节目简介

来源:小宇宙
本期主题:
AI长出了手,还没长出心
当机器什么都能干,人守住什么
本期嘉宾:
程苓峰:大航海Network发起人,资深媒体人、作家。他对 AI 保持警惕的距离:用 AI 时感觉自己在「变笨」,因为那些启发是借来的连接,不是自己长出来的认知。他坚持 AI second,认为文章本天成、妙手偶得之——好文章不是写出来的,是接到的。
本期节目简介:
开场就是一个火药味十足的问题:你用大模型的时候,是你聪明还是它聪明?程苓峰的答案出人意料——「我在用它的时候,我在变笨」。AI 给的启发,是在两个旧概念之间搭了一座假桥:我以为我知道,但实际上我不知道。周鸿祎的体验恰恰相反:用对了方法,AI 是比你还聪明的伙伴,关键是别把它当搜索框,要把你的想法、资料和思考过程全交给它。
大模型能不能写出一本《红楼梦》?为什么智能体先在编程上取得突破,却写不好一部文学作品?幻觉为什么既是胡说八道、又是人类创新的源头?为什么没有一家大模型能持续领先,大家只能你追我赶交替坐庄?DeepSeek 到底做对了什么,让全世界进入推理时代?
从互联网和智能手机的发展阶段去套 AI,为什么是刻舟求剑?AI native 的公司长什么样——为什么「给马车配发动机」不算数,组织架构、业务流程、岗位定义都得推倒重来?为什么知道「做什么」正在比知道「怎么做」更值钱?
最后是每个人都绕不开的问题:AI 时代,小孩还需要学数理化吗?什么人会渐渐失去找到答案的能力,什么公司能幸免?一个主张 trust AI、AI first,一个警惕被绑架、坚持 AI second——当机器什么都能干,人要守住什么?这期没有共识,但有真问题。
专业词汇注释:
AI First / AI Second:做事前先跟 AI 聊,还是先自己想清楚再问 AI。周鸿祎主张前者——AI 是最好的老师和智囊;程苓峰坚持后者——先动自己的脑子,否则认知会空心化。
智能体(Agent):不只聊天答题的大模型应用,能自主拆解任务、调用工具、多步推理并执行到底。没有大模型,智能体没有脑子;光有大模型没有智能体,能力发挥不稳定。
幻觉(Hallucination):大模型一本正经地编造不存在的内容。但幻觉也是双刃剑——「汽车能不能飞」「电灯能不能取代蜡烛」,人类的一切创新说的都是没发生的事。写作时充分放开幻觉,可能混搭出全新的文学模式。
上下文窗口(Context Window):大模型的「短期记忆」。对话太长,它就会像聊了俩小时的人一样,忘了最开始在谈什么,推理能力急剧下降。
Evaluation(评估智能体):智能体干活的「裁判」。编程容易判断对错,所以率先突破;文学作品缺乏统一标准、难以评估,所以至今没人做出 AI 版《红楼梦》。
赛马 / 挑刺 / 接力:三种智能体协作模式,全是对人类的模仿——多个智能体同做一事择优、一个干活一个专门挑刺逼它修改、上下文不够了就交接给下一个接着干。
思维链(Chain of Thought):让大模型展示「我是怎么一步步推出这个答案的」。过程数据比答案本身更值钱,是训练推理能力的关键。
蒸馏(Distillation):模型之间互相学习的「大法」——用强模型的思维链数据去教弱模型,领先优势因此被迅速抹平,是谁也无法长期独大的原因之一。
Harness(约束系统):套在智能体身上的一套约束与评估机制。请来孙悟空当员工,就得学会念紧箍咒——想清楚它能干什么、不能干什么、什么不能逾越。
AI Native(AI 原生):不是给旧组织每人发一个 AI 工具(那是给马车配发动机),而是用 AI 重构工作方式,形成端到端全自动闭环,再由工作方式倒逼出新的组织文化。
真开源:不只是代码开放,而是把技术原理也公之于众。DeepSeek 公开了推理模型的技术路线,让全世界进入推理时代——开源比免费高一个层次,是群体智慧的思路。
时间轴导航:
⏰ 00:00 「你聪明还是它聪明」
开场即交锋。程苓峰:我在用 AI 的时候在变笨——我以为我知道,但实际上我不知道。周鸿祎:那可能是你的用法不对。
⏰ 00:37 「一个理科生,一个文科生」
认识几十年的老朋友开聊。周鸿祎:AI 时代最难得的是问问题,尖锐的问题让我兴奋,我是问题导向,我们都是问题儿童。
⏰ 01:46 「我养了一个专门骂我的智能体」
周鸿祎写过一个「第一性原理」智能体,用毫不留情的方式对自己进行批判和剖析。
⏰ 02:04 「让 AI 写一本《红楼梦》」
程苓峰抛出本期第一问。周鸿祎:写得出来,只是没人去做——智能体先在编程上突破,因为编程是解决数字化问题的主要手段,而且对错好评估;文学作品缺乏统一标准,evaluation 做不了。
⏰ 03:56 「它写得出这个年代的红楼梦」
程苓峰:大模型本质是算概率,数理化是收敛的、可检验的,所以算得好;它能写出符合大多数人口味的红楼梦,但写不出曹雪芹那个时代的红楼梦。
⏰ 04:30 「幻觉是双刃剑」
周鸿祎:解决业务问题不能有幻觉,但幻觉也是创新——两个不相干的东西搭到一起,就是发明。放开幻觉、读够文学作品,AI 可能混搭出全新的创作。
⏰ 05:12 「写大部头只是个时间问题」
多智能体分工:一个写总纲,一个管人物设定,各章智能体分头写,再用 harness 共享准则——贾宝玉是什么性格,全公司都得遵守。
⏰ 06:12 「聊着聊着就忘了开头」
上下文窗口是短期记忆,对话太长推理能力就急剧下降;早期智能体的进化方向,就是给大模型装上记忆、工具和手脚。
⏰ 06:53 「赛马、挑刺、接力」
智能体的协作模式全是对人类的模仿:三个方案赛马评审、一个干活一个专门挑刺、上下文不够就交接棒。效果都比单个智能体好。
⏰ 08:08 「那个连接是假的」
程苓峰自述变笨的机理:AI 的启发是在两个旧概念间搭了新连接,但这个连接不是我长出来的,是它给的——长此以往,人会自以为知道很多,其实全是假装知道。
⏰ 09:32 「记者想用 AI 替代我,两年了没成」
提纲、立意、方法全都喂给它,写出来的东西还是不行;但让它评价文章,它比我自己评得还好。从 0 到 1 这一步,始终没看到 AI 行。
⏰ 10:07 「不达目的死不罢休模式」
给一个目标,智能体带着一帮小智能体反复做、反复对照、反复改——靠的全是笨功夫,像写好文章要不断推敲,一般得给它设个循环次数上限。
⏰ 10:47 「文章不是写出来的,是接到的」
程苓峰:我对大脑做的是反向训练,不是练得更强健,而是把它清空,清空之后才能捕捉到知觉。文章本天成,妙手偶得之。
⏰ 11:28 「王勃没读过骈文吗」
周鸿祎质疑:《滕王阁序》对仗工整、词藻华丽,没有积累写不出来——所谓灵感,可能只是大脑里的神经网络不小心搭错了线。程苓峰:那种甜美感,不是幻觉。
⏰ 12:32 「为什么没有人能一直领先」
Transformer 架构的红利还没吃尽,工程方法上大家同质化;数据、合成数据、思维链的挖法都在快速扩散,同行交流和模型蒸馏让任何优势都活不长。
⏰ 14:44 「大模型和智能体双线进化」
编程训练让大模型获得了逻辑推理的泛化能力。公司里怎么用 AI 做事变得不重要,重要的是思考产品和用户——每个人都在借 AI 破圈。
⏰ 16:09 「聪明大脑也有弱智的地方」
第一阶段灌知识,第二阶段练推理,第三阶段拼多步推理;智能体的成绩全靠笨功夫——生成几百上千个小猴子分头学、分头干、再汇总。它拿不到的知识,在企业里、在专家的脑子里。
⏰ 19:16 「DeepSeek 做对了什么」
O1 不公开,DeepSeek 把推理模型的技术原理公开了,全世界因此进入推理时代,贡献巨大。真开源需要胸怀、格局和自信——不开源,影响力也不会有那么大。
⏰ 20:06 「免费和开源不在一个层次」
当年杀毒软件免费只是互联网策略;开源是群体智慧的思路——你开源了,我受启发帮你改进,我的改进又触发你更多的灵感。
⏰ 20:31 「别拿互联网套 AI,那是刻舟求剑」
无线互联网的游戏规则就不同于传统互联网——工具不值钱了,内容和娱乐值钱。「现在相当于 1995 年雅虎刚出来」这种说法是思维偷懒,AI 是人类没遇见过的情况。
⏰ 22:26 「AI native 的组织长什么样」
先讲工作方式,再由工作方式倒逼文化:开发、产品、管理全环节用 AI 形成全自动闭环,组织的响应速度才能质变。
⏰ 23:56 「给马车配发动机,不叫 AI native」
组织架构、业务流程、岗位定义不变,人人用 AI 也只是各自提速,沟通照样扯皮。人和 AI 沟通比人和人对齐容易,所以企业要变扁平、环节要变少,设计师能做产品,产品经理能写代码。
⏰ 25:59 「请来孙悟空,就得会念紧箍咒」
AI 独立干活有问题,需要人搭建 harness 约束系统;知道「做什么」比知道「怎么做」更值钱,人人都要往价值链高端走。
⏰ 26:44 「安全智能体:给人类当吹哨人」
专门打造安全大模型驱动的智能体:分析其他智能体的言行和思维,发现异常就向人类告警——它被剥夺了使用工具的能力,只负责吹哨。
⏰ 27:16 「最近最兴奋的事」
公司研发体系全闭环试验成功:写代码、测试、发布、运维全由 AI 驱动。两个文化关键词:trust AI,AI first——AI 是最好的老师,开会前先跟它聊聊。
⏰ 29:13 「AI 时代小孩还要不要学数理化」
要。大脑不是硬盘,学过的东西是在训练你的网络——程序员哪怕不再手写代码,编程练出的逻辑和写作力也跟一辈子。让 AI 当智囊,别当诸葛亮。
⏰ 30:09 「苏格拉底式智能体」
小孩问问题,不直接给答案,像苏格拉底一样反问,在反问中定位知识漏洞——看你怎么设计这个智能体。
⏰ 30:45 「是你在用 AI,还是 AI 绑架了你」
程苓峰坚持 AI second。周鸿祎:迷信 AI 答案的人会被绑架,把它当伙伴、能尖锐指出它错在哪的人不会。我们要求所有 leader 都必须做到这一点。
⏰ 31:48 「能清晰问出问题时,效率最高」
最难受的是看到 AI 的东西觉得郁闷却说不出来为什么;能问出清晰的问题,就能带着它去讨论、去看书。人的成长就是解决老问题、遇到新问题——解决问题和创造,是一体之两面。

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧