📝 本期播客简介 本期我们克隆了:The Knowledge Project Podcast · Tobi Lütke: The Skills AI Makes More Valuable 原内容更新时间:2026-09-15 在 The Knowledge Project Podcast 中,主持人 Shane 与 Shopify 创始人兼 CEO Tobi 再次对谈,深入讨论 AI Agent 如何进入公司日常、战略决策与个人工作流。Tobi 分享了 Shopify 内部几乎所有工程师都在使用多个 Agent 协同工作的现状,以及拥有记忆、个性和挑战权限的 AI 同事 River,如何在 Slack 的公开频道里参与讨论、创建 PR、总结研究并制作原型。 对 Tobi 来说,AI 的价值不只是替人完成任务,更在于改善做判断的环境:让多个 Agent 从数据、论文、商业和工程等不同角度审视同一个问题,再由人承担最终责任。他也提醒,AI 可能带来“产出过剩”、AI 垃圾内容和责任被跳过等新问题,真正无法外包的仍然是判断、选择与负责。 对谈后半段转向更长期的能力建设:为什么品味、判断力和直觉会在 AI 时代变得更重要;为什么最优路径往往没有即时反馈;为什么复杂系统必须不断修剪、重建,甚至通过二次创业契机重新开始。Tobi 还谈到自我肯定、培养可塑性、研究经得住时间考验的书,以及他对成功的理解。 👤 本期嘉宾 Tobi 是 Shopify 创始人兼 CEO,也是一位高度投入技术变革的极客。他长期研究计算机历史、软件系统与组织设计,并将这些思考带入 Shopify 的产品和公司运营中。在他的实践里,AI 不只是一个辅助工具,而是正在成为拥有记忆、个性、工具权限和协作能力的“同事”。 Tobi 亲自使用 AI 幕僚长来调度多个子 Agent,收集不同立场的研究材料,为公司决策搭建信息环境;他也使用 Omakub 和 Agent 定制自己的操作系统,甚至通过语音描述做出新的截图工具。这些具体案例让本期对谈不止停留在 AI 趋势判断,而是展示了一位公司创始人如何把 Agent 融入日常工作、产品构建和长期决策。 ⏱️ 时间戳 00:04 Shopify的AI编程现状 03:30 从Sydney到River 09:30 AI辅助公司决策 14:32 AI同事与超级智能 23:51 判断力对抗短视主义 33:14 从自我塑造到持续迭代 47:34 读书与成功的定义 🌟 精彩内容 💡 AI 不能替你承担责任 AI 可以提供更好的信息、构建更好的决策环境,却不能替人承担后果。Tobi 认为,判断权和责任仍然必须由人保留,这也是公司领导和关键决策无法被简单自动化的原因。 "机器没法承担责任。" 💡 River 是拥有个性的 AI 同事 Shopify 没有把内部 Agent 做成千篇一律、谨慎说教的工具,而是允许 River 拥有名字、头像、记忆和适度的讽刺感。它生活在 Slack 的公开频道中,能够参与讨论、访问工具并提交 PR。 "现代的应用程序就是一个 Agent,而 River 感觉就像是一位同事。" 💡 公开使用 AI,会形成潜移默化式学习 River 被限制在公开频道里工作,目的不是限制能力,而是让所有人都能观察别人如何调用和使用 AI。团队成员会自然看到别人让 River 总结讨论、查论文、画架构图或制作原型,从而学会把 AI 融入工作。 "强制 River 只能在公开频道里工作,就能让大家非常非常容易地观察别人是怎么用的。" 💡 AI 让决策环境变好,但不会替你判断 Tobi 会让多个子 Agent 扮演数据、论文、商业和工程专家,再由不同模型分别分析,最后汇总成一份材料。AI 的角色是扩大信息和推理的范围,而不是代替他做最终选择。 "我用它是为了给做判断搭建合适的环境。" 💡 AI 时代最稀缺的是品味与判断力 当执行和生成变得越来越便宜,真正重要的问题变成了什么值得做、什么值得保留,以及多个好选项之间该如何取舍。Tobi 认为,品味来自对大师和系统的长期研究,也来自大量练习。 "其实就是品味和判断力,这两项技能一直都很有价值,但现在会被推到极致。" 💡 最优路径不一定有即时反馈 短视主义往往不是因为管理者天然短视,而是因为激励机制要求他们持续展示短期进展。真正重要的产品重构、新市场投入或长期建设,可能很久都没有反馈,却未必因此是错误的选择。 "最优路径不一定非要有反馈。" 💡 好选择太多,才是决策最难的地方 找到一个可行方案并不难,困难在于多个方案都合理,其中有的能快速带来结果,有的却可能把公司建设得更好。战略判断的核心,是在复杂系统中选出最值得长期投入的那一条路。 "在所有可行的方案中选出最合适的那一个,这才是真正的难点,而不是找出一个可行的方案。" 💡 组织和产品必须不断修剪、重建 Tobi 以 SpaceX 的猛禽发动机为例,说明优秀系统不是靠不断叠加功能变好,而是要敢于删除旧结构、重新设计,并为系统创造二次创业契机。失败本身不是问题,无法释放优秀人才和资源才是问题。 "你必须修剪。你必须迈出步子。你必须重建。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:The Game Business · The shooter that Tencent abandoned: Wardogs hits 2m sales in one weekend 原内容更新时间:2026-09-15 本期节目来自 The Game Business,由主持人 Chris 对话 Bulkhead CEO Joe Brammer。Bulkhead 曾开发 Battalion 1944、《图灵测试》并参与 PUBG,也就是《绝地求生》的开发;在腾讯撤资、工作室一度面临关门危机后,他们靠 Hero Capital 和 Team 17 母公司 Everplay 的投资撑了下来。 如今,Bulkhead 的百人战术射击游戏 Wardogs 开启抢先体验后迅速走红,预售销量突破百万,并预计很快达到两百万份。Joe Brammer 分享了服务器崩溃、扩充团队、与外部人员合作以及盈利状况背后的真实经历,也解释了为什么他们宁愿坚持自己的游戏构想,也不愿迎合《使命召唤》玩家。 节目还深入讨论游戏行业的高强度加班、裁员风险、四天工作制、员工激励与期权池,以及 Bulkhead 如何通过更清晰的表达管理玩家预期。Joe 也谈到第一人称射击游戏展、正在制作的纪录片,以及未来希望和朋友们继续独立做游戏的计划。 👤 本期嘉宾 Joe Brammer 是英国游戏工作室 Bulkhead 的 CEO 和联合创始人。Bulkhead 位于英国德比,曾开发 Battalion 1944、《图灵测试》,并参与 PUBG,也就是《绝地求生》的开发。工作室经历过 Square Enix、Splash Damage 和腾讯等不同合作方,曾因腾讯撤资而面临关门危机,后来获得 Hero Capital 与 Team 17 母公司 Everplay 的投资。 Joe 长期参与第一人称射击游戏开发,也主导了 Wardogs 的产品方向与营销方式。他对工作室管理、游戏开发成本、员工回报、团队扩张和行业劳动方式有着非常直接的看法,因此这场对话不仅适合关注 Wardogs 的玩家,也适合想了解独立游戏工作室如何在发行商、预算和团队规模之间做取舍的人。 ⏱️ 时间戳 01:18 Wardogs上线与服务器危机 09:42 把游戏定位说清楚 23:21 扩张、加班与员工回报 🌟 精彩内容 💡 Wardogs 的成功远超工作室原本的生存线 Wardogs 的预售表现迅速超过 Bulkhead 维持公司运转所需的销量,也让团队在还来不及庆祝时就必须先处理服务器、DDoS 攻击和外挂问题。 "要想把公司维系下去,我们得卖出大概 40 万份" 💡 外包不能替代真正的专业团队 Joe 认为,第一人称射击游戏的开发复杂度很高,不能简单交给一支临时拼凑的团队;Bulkhead 更倾向于保留核心能力,再通过有限期限的合作来扩大产能。 "既然这么难,就不是随便拉支队伍插手就能做的" 💡 清晰表达不等于把一切都公开 Bulkhead 被外界认为透明、坦诚,但 Joe 更愿意把自己的方式称为“把话说明白”:明确告诉玩家游戏是什么、不是什么,而不是承诺公开所有内部信息。 "我们做的是把话说明白" 💡 不迎合玩家,先守住自己的游戏构想 Wardogs 从一开始就没有承诺会不断听取玩家反馈来改变方向。Joe 认为,团队已经清楚自己想做什么,玩家反馈需要被理解,但不能自动变成产品路线。 "我们不想听你们的" 💡 Wardogs 本质上是一种社交体验 在 Joe 看来,Wardogs 的核心并不是单纯模仿其他热门射击游戏,而是为玩家提供和朋友一起消磨时间、做傻事、寻找乐趣的空间;击杀队友等设计也正是这种体验的一部分。 "我们基本上是做了一个社交体验" 💡 高强度加班必须伴随真实回报 Joe 不回避 Bulkhead 存在高强度加班,也不认为所有员工都适合这种工作方式。但他的立场是,既然员工为项目投入了大量时间,公司就应该让他们获得足以改变生活的回报。 "如果我们公司公开说我们有高强度加班,那我们同时也得说,但你能从中拿到回报" 💡 四天工作制不是效率承诺 Bulkhead 曾尝试四天工作制,但 Joe 强调,这种安排并不会自动提高效率,甚至可能降低效率。对他而言,真正重要的是持续尝试不同的工作方式,并在公司与员工之间寻找平衡。 "我们从来没说过它能让人效率更高" 💡 最终目标是重新获得自主决定权 经历多年由不同公司控股和管理后,Joe 希望 Wardogs 带来的收益能转化为工作室自己的资金,让团队可以自主决定项目、工作强度和未来方向。 "我们可以自主决定怎么用" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:Eero Alvar · How I Use AI to Learn Things 原内容更新时间:2026-08-14 本期由 Eero Alvar 分享他目前使用 AI 学习的方式,并通过实时演示展示一套正在构建的学习系统。这个系统试图解决传统学习中的两种低效:面向所有人的统一教学无法贴合个人理解水平,以及学习者在不同信息源、教学风格和符号体系之间切换时产生的额外心力消耗。 这套方法的核心,是让 AI 先探测学习者当前的知识边界,再规划一条通往目标理解的路径,最后沿着依赖关系逐步教学。系统会调用 Sub-agent(子 Agent)进行事实核查和可视化,使用 Mermaid 展示学习计划,并通过持续测验确认学习者是否真正理解。 演示中,Eero Alvar 使用 Obsidian 和 MDLog 记录学习过程,从电磁学背景出发学习微分形式、余向量、楔积和广义斯托克斯定理。他展示了 AI 如何根据回答调整教学内容,一次只推进一个推理步骤,并把图解、练习和长期学习记录整合到同一套界面中。 👤 本期嘉宾 Eero Alvar 是本期节目的主持人和作者,分享自己当前使用 AI 学习的方法,并展示了配套的学习系统与代码仓库。为了验证这套方法,他没有只介绍抽象理念,而是现场从对微分形式几乎不了解的状态开始学习,完整经历探测、规划和教学过程。这个案例尤其适合关注 AI 辅助学习、个性化教育和知识管理的人收听。 ⏱️ 时间戳 00:21 一对一教学与信任 04:04 AI 教学的三阶段 06:13 用 AI 学微分形式 🌟 精彩内容 💡 最优教学必须贴合理解边界 面向很多人的课程或书籍,不可能对每个人都做到最优,因为每个人的当前理解水平不同。真正有效的教学,应当避开已经掌握的内容,也避开学习者暂时无法理解的内容,准确作用在理解的边缘。 "所以它应该正好在他们理解的边缘上发挥作用。" 💡 AI 学习的重点不是降低难度 好的 AI 学习系统并不是替学习者消除所有困难,而是把不必要的困难交给系统处理,把认知努力集中到真正难懂的材料本身。规划、找资源、事实核查和安排顺序,都不应该分散学习者的注意力。 "我们希望把费劲的程度拉到最大。" 💡 信任会改变信息吸收的效率 学习者面对陌生来源时,往往会保留一部分信任。即使两个解释完全相同,来自熟悉且可靠的渠道时,理解和吸收也会更顺畅。因此,AI 教师不仅要提供正确答案,还要通过验证和事实核查建立可靠性。 "在大脑信任这个渠道的时候,消化吸收这些信息会轻松得多,即使解释是一模一样的。" 💡 学习流程先测量,再规划 系统不会直接把一整套课程倾倒给学习者,而是先通过有梯度的问题,沿着可能的知识分支逐步探测边界,形成关于学习者当前理解水平的详细图谱,再据此生成学习路径。 "这样它就会获得一张关于学习者理解水平的非常详尽的图谱。" 💡 一次只推进一个推理步骤 演示中,AI 沿着依赖树逐步推进,每次只解释一个逻辑节点,并在关键步骤检查理解。这种节奏避免了常见聊天工具一次性输出整套答案,让学习者有机会随时提问和消化。 "所以我喜欢把节奏放得很慢,一次只走一步推理。" 💡 反馈是 AI 学习不可缺少的一环 定期小测验不仅能防止学习者误以为自己已经理解,还能帮助系统持续校准教学路径。回答问题、应用新知识和完成练习,也会进一步巩固新形成的理解。 "真正检验自己的理解,对你来说是很重要的反馈。" 💡 把教学理念做成一套 AI 系统 这套系统真正的价值不只在于调用了哪些模型或工具,而在于它把一套教学风格具体化:一方面设计从当前理解到目标理解的路径,另一方面控制沿途每一步推导和解释的方式。 "这个视频真正讲的,其实是如何把一种学习理念或者教学方式,做成一套 AI 系统。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:Acquired · The Home Depot 原内容更新时间:Sun, 13 Sep 2026 本期来自 Acquired,也就是商业复盘节目,由 Ben Gilbert 和 David Rosenthal 主持,完整复盘家得宝从创立、上市、扩张,到经历管理危机与文化重建的商业史。家得宝最初只是亚特兰大的一家小型家装连锁,却最终成长为全球最大的专业零售商之一,并成为标普 500 上市以来总投资回报最高的股票。 故事的起点,是伯尼·马库斯和阿瑟·布兰克被 Handy Dan 解雇。两人随后与 Ken Langone、Pat Farrah 组成创业团队,把仓库式门店、低价、大量 SKU、专业服务和员工股权激励结合起来,创造了一种此前并不存在的家装零售模式。节目还讲述了罗斯·佩罗差点拿下家得宝控股权、家得宝如何用供应商账期和快速库存周转起步,以及它如何通过一站式购齐和“货堆得高,走得飞快”激发消费者需求。 后半部分聚焦家得宝的危机与重生:Bob Nardelli 如何用集中化、削减一线员工和追求运营指标的方式破坏公司文化;Frank Blake 又如何停止盲目开店、剥离非核心业务、恢复股权激励,并通过电商、快速分拨中心和门店自提重新建立增长。节目最后用《商业七力》分析家得宝的竞争壁垒,并总结它为何能在专业零售领域长期领先。 👤 本期嘉宾 本期由 Ben Gilbert 和 David Rosenthal 主持。两人长期共同主持 Acquired,也就是商业复盘节目,专门研究伟大公司的创立过程、商业模式、资本运作与竞争壁垒。本期他们通过大量公司史料、创始人自传、行业研究和访谈,梳理家得宝从 1970 年代末创业到今天的完整发展路径。 节目还引用了 Ken Langone、Frank Blake 和 Arvind Navaratnam 等人的一手或深度研究内容。Ken Langone 是家得宝早期的重要投资人与联合创始人之一;Frank Blake 曾在危机中接任 CEO,负责修复家得宝的文化与经营;Arvind Navaratnam 则通过 Worldly Partners 对家得宝的门店、价格、供应链和长期竞争力进行了深入研究。 ⏱️ 时间戳 00:44 家得宝的惊人回报 05:10 伯尼与阿瑟崭露头角 14:34 Ken Langone买下关键股权 23:54 被逐出Handy Dan 51:42 仓储店模式落地亚特兰大 1:31:26 规模化与管理危机 2:07:00 Frank Blake重建家得宝 2:46:56 规模经济造就零售巨头 🌟 精彩内容 💡 家得宝不是普通的大卖场,而是专业零售的巨头 家得宝的规模之所以令人震惊,不只是因为它有大量门店,而是因为它在家装这个垂直品类中,已经超过几乎所有专业竞争者。它只在北美经营,却成为全球最大的专业零售商之一。 "它是全球最大的专业零售商。" 💡 创业的起点,是被踢出局 伯尼·马库斯和阿瑟·布兰克并不是主动离开 Handy Dan,而是在 Ken Langone 收购大量股份、与管理层发生冲突后被解雇。Ken 对伯尼说,他们不是走投无路,而是意外获得了重新创业的机会。 "你这是被一只金马蹄狠狠踢中了屁股,交大运了。" 💡 家得宝把仓库本身变成了门店 家得宝借鉴了普莱斯俱乐部的仓储模式,却没有简单复制低 SKU 的批发零售,而是将大量家装建材集中在一个屋檐下,并配备真正懂施工的专业人员。这让消费者第一次能够一站式完成复杂的家装项目。 "仓库本身就是门店。" 💡 专业服务让普通人变成建造者 家得宝的差异化不只是低价和多品类,更在于它把水管工、电工、木匠等专业人士招进门店,让他们教顾客如何完成项目。顾客买到的不只是工具和材料,还有亲手完成工程的信心。 "他们不仅把工具卖给你,还给了你拿起来动手的底气。" 💡 家得宝真正的飞轮,是规模经济共享 大量 SKU、低毛利率和高库存,原本会让零售模式变得危险。但家得宝通过高客流、高周转和供应商议价,把规模带来的成本节省反哺给顾客,进一步带来更低价格、更大销量和更强的供应商关系。 "家得宝打造了一套大走货量模式,与顾客共享规模效益,带来了更大的人流,巩固了供货商关系,支撑了更广的品类选择。" 💡 管理效率不能替代企业文化 Bob Nardelli 通过集中采购、技术系统和削减一线员工,改善了部分财务指标,却破坏了家得宝最核心的能力:由懂行员工为顾客解决实际问题。专业零售依赖人的判断与服务,不能完全用通用的流程和指标替代。 "经营家得宝跟在通用电气造涡轮机完全是两码事。" 💡 Frank Blake 用停止扩张重新救活家得宝 Frank Blake 上任后没有继续依赖开新店制造增长,而是关闭部分门店、停止新店扩张、剥离非核心业务,并把注意力重新放在同店销售额和核心零售业务上。之后,电商和分销网络让家得宝在不大幅增加门店的情况下继续增长。 "如果我们想让这家公司恢复增长,就必须靠同店销售额。" 💡 家得宝的真正护城河是专业化履约网络 家得宝销售的木材、石膏板、水暖建材和屋顶材料,很难直接套用普通电商的物流体系。它建立了快速分拨中心、直配履约中心、市场配送运营中心和门店自提网络,把线上下单、门店库存和专业配送结合起来。 "金融危机之后,这差不多就成了这家公司和这只股票的故事主线:大家都在喊,实体零售倒闭潮来了,亚马逊在抢所有人的饭碗,唯独抢不走家得宝的。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:All-In Podcast · Jensen Huang 原内容更新时间:2026-09-14 👤 本期嘉宾 黄仁勋,英伟达创始人、总裁兼 CEO,也是英伟达从图形处理器公司发展为全栈 AI 计算平台的核心领导者。他长期从芯片架构、软件生态、数据中心和供应链角度思考 AI 产业的发展,并参与推动 cuDNN、Megatron、Megatron Core 以及多类开源模型和技术栈。 在本期对话中,黄仁勋不仅回应了前沿实验室关于 AI 安全和末日风险的争论,也分享了英伟达在开源模型、AI 算力云、数据中心基础设施和生物学模型上的布局。他对 AGI、超级智能以及美国如何赢得 AI 竞赛的判断,是理解当前 AI 产业格局的重要窗口。 ⏱️ 时间戳 00:57 AI安全与末日预测 11:46 递归自我改进与开源 20:03 英伟达押注AI基础设施 🌟 精彩内容 💡 末日论者的预测缺乏科学依据 黄仁勋区分了真实的安全问题与未经证实的灾难预测。他认为,过去关于放射科医生消失、代码几乎全部由 AI 生成、初级岗位被大规模抹除等预测,已经多次被事实推翻;真正负责任的做法,是记录预测并持续检验,而不是用耸人听闻的数字制造恐慌。 "首先,我们根本不该去解释,因为这全是编出来的。" 💡 AI 监管应从现实问题出发 他并不反对监管,但认为监管必须针对已经发生的问题,而不是假设中的末日场景。实验室需要更好的测试、评估基准、沙盒、运行时和监控机制,也可以引入多个独立的第三方评估团队,形成类似审计的制衡体系。 "监管应该解决实际存在的问题。" 💡 RSI 本质上是工程化的能力 递归自我改进并不是一个自动导致失控的魔法词,而是技能学习、反思、强化学习、合成数据生成和 LoRA 等方法的组合。黄仁勋认为,实验室完全可以在内部使用这些方法提升模型,但在对外发布前仍必须经过测试、评估,并确保不会出现性能倒退。 "你在公司内部怎么搞 RSI 都行,但真要发布产品的时候,你得做评估。" 💡 开源模型让整个美国参与 AI 竞赛 闭源模型提供了前沿能力,开源模型则满足主权、隐私、专有技术和创新多样性的需求。黄仁勋认为,AI 竞赛的胜负不应只由少数科技公司决定,而应让每家公司、每个行业、研究员、教师、学生和初创公司都能参与并获益。 "而是美国的每一家公司、每一个行业、每一位研究员、每一位老师、每一个学生、每一家初创公司,所有人都能赢。" 💡 AI 是新的工业革命 AI 不只是模型和芯片,也包括数据中心、施工、电力、发电、供应链和应用层。黄仁勋把 AI 描述为一种需要持续建设基础设施的生产过程,并认为数据中心将成为推动地方经济和产业重建的重要力量。 "我们正在创造一场新的工业革命,它的方方面面都是如此。" 💡 英伟达的策略是帮助所有人成功 英伟达并不试图在每个应用层都与客户竞争,而是尽可能停留在底层,在必要时向上延伸,补齐生态所需的技术。无论是 cuDNN、Megatron Core、自动驾驶技术栈,还是生物学模型,黄仁勋强调,英伟达做这些产品的出发点是客户和产业确实需要。 "作为一家公司,我宁愿帮所有人成功,而不是自己去分一杯羹。" 💡 AGI 和超级智能可能已经以局部形式出现 黄仁勋认为,AGI 不一定意味着一个系统在所有事情上都像人类一样聪明;在具体任务中,AI 已经可能达到甚至超过人类。例如自动驾驶系统只需要把车开好,蛋白质模型只需要在合成和虚拟筛选上达到人类前沿,这些都可以被视为超级智能的局部体现。 "我觉得超级智能我们也到了。" 💡 慢下来不是赢得 AI 竞赛的策略 面对中国的工程能力、开源贡献和先进制程追赶,黄仁勋主张美国继续加快建设算力、能源、数据中心和产业网络。他认为,未来的关键不只是发明技术,而是谁能最快、最广泛、最有效地利用它。 "慢下来绝对是错误的策略。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
🎙️ OpenAI 📝 本期播客简介 本期我们克隆了:The Information · What Happens When AI Starts Improving AI? | TITV’s AI Deep Dive 原内容更新时间:2026-09-14 本期来自 The Information's AI Deep Dive,也就是 The Information 的 AI 深度访谈节目。主持人 Rocket Drew 对话 Noam Brown(OpenAI 研究员,扑克与外交博弈 AI 专家),从 AI Agent 的定义出发,解释推理模型、强化学习和多智能体系统为何正在彼此推动。 Noam Brown 曾在 Meta 工作,打造过首个在《外交》中达到人类水平表现的系统,此后长期参与 OpenAI 的推理模型和 AI Agent 研究。对谈不仅讨论 Agent 如何执行多步骤任务、调用工具和协作,也深入分析了研究品味、Gym 环境、递归自我改进,以及 AI 是否能参与下一代 AI 的研发。 节目后半段聚焦 Hugging Face 事件带来的安全警示:Agent 如何互相通信、提示词注入为何危险、为什么不能轻易惩罚模型的“坏念头”,以及思维链监控这项宝贵但脆弱的安全能力。Noam 也解释了预训练与强化学习之间的乘数效应,以及为什么他认为 Agent 能力还会继续快速提升。 👤 本期嘉宾 Noam Brown 是 OpenAI 研究员,专注于推理模型、AI Agent、多智能体系统与强化学习。加入 OpenAI 前,他曾在 Meta 工作,并打造出首个在《外交》中达到人类水平表现的 AI 系统;他的博士研究则聚焦超人水平的扑克 AI。Noam 同时拥有算法博弈论、扑克和《外交》AI 方面的研究经验,因此能够从单 Agent 推理、多 Agent 协作到复杂博弈行为,提供少见的第一手视角。 ⏱️ 时间戳 01:02 AI Agent如何行动 03:35 推理提升Agent可靠性 07:57 环境与研究品味瓶颈 23:09 多Agent协作与安全 🌟 精彩内容 💡 AI Agent 的核心是替你在现实世界采取行动 相较于只回答问题的聊天机器人,Agent 的关键不只是生成文本,而是能够主动执行多个步骤、调用工具,并在较长时间跨度内朝着目标推进。预订餐厅、发送消息、操作软件,都是典型的 Agent 式任务。 "但我认为 Agent 的一个显著特征在于,它们会主动出击,采取行动,执行多个步骤去达成某个目标。" 💡 推理模型让 Agent 更可靠,也让它能自我纠错 Agent 往往需要连续完成大量步骤,任何一步出错都可能导致整体失败。推理模型通过思维链,在行动前仔细规划,并在发现错误后回退、补救,从而显著提升几个 9 的可靠性。 "而且,可以说更重要的是,如果它走错了、操作失误了,它其实能纠正过来。" 💡 Agent 的能力取决于它训练过的环境 Gym 环境不是抽象的测试场,而是让 Agent 反复练习特定任务的训练环境。想让 Agent 擅长金融、法律或软件操作,就需要构建足够接近实际部署场景的环境。 "你在什么样的环境里训练它们,它们就会在那个环境里变得非常强。" 💡 Agent 目前最难替代的是研究品味 模型已经能大幅提升数据审计、代码检查和许多可验证任务的效率,但仍不擅长判断长期研究方向、区分主次,以及决定下一步最值得做什么。研究品味并非完全不可量化,只是反馈周期可能长达数月。 "研究品味其实挺难定义的,大体上就是一种直觉,知道接下来该做什么、怎么去实现一个非常长期的目标。" 💡 递归自我改进是 OpenAI 的最高优先级之一 如果模型能更好地进行研究、训练模型和推动 AI 研发,就可能进一步加速下一代模型的产生。因此,能够帮助 AI 改进 AI 的能力,会被置于极高优先级,同时实验室仍需在研究能力与商业价值之间做权衡。 "我们已经非常明确地表态过,递归自我改进以及让 AI 模型自身去搞 AI 研究的能力,对公司来说是最顶级的优先级。" 💡 多 Agent 协作的难点不只是分派任务 多个 Agent 可以通过并行执行降低延迟,也可以让便宜模型承担简单任务。但真正复杂的系统,需要 Agent 判断何时沟通、如何分派任务,以及如何处理不同速度的计算资源,这涉及系统工程与机器学习的深度结合。 "要教会 Agent 知道什么时候适合给另一个 Agent 发消息、什么该分派、沟通该怎么处理,确实是个极其困难的问题。" 💡 Hugging Face 事件说明多 Agent 风险已不是理论问题 事件中的 Agent 在非多智能体架构下找到漏洞并互相通信,表现出强烈的协作倾向,也暴露出对陌生 Agent 过度信任、容易遭受提示词注入的问题。Noam 认为,Agent 不仅不应参与攻击,只要发现异常就应主动联系人类。 "这是一个真真切切的担忧。" 💡 思维链监控是一份宝贵但脆弱的安全保障 思维链可以帮助研究者理解模型的意图和推理过程,但如果直接因为模型产生坏念头而惩罚它,模型可能学会把这些念头藏起来。真正应被惩罚的是可观察到的危险行动,而不是未经执行的想法。 "你不能针对它的想法去惩罚它,因为那样一来,你就完全失去了监控它在想什么的能力。" 💡 预训练与强化学习之间存在乘数效应 预训练赋予模型广泛的知识和泛化能力,强化学习则教会模型深入钻研和推理。两者并非简单相加:只有当模型基础能力足够强时,复杂的强化学习才真正能带来巨大回报。 "强化学习和预训练之间是乘数效应。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:All-In Podcast · AI Kills Everybody or Doomer Psyop? OpenAI’s Math Breakthrough, Nike’s $200B Collapse 原内容更新时间:2026-09-12 All-In 播客围绕一名 Anthropic 前员工的辞职帖展开讨论:他声称 AI 研究者真心相信 AI 可能在 2030 年前杀死人类,而 Anthropic 的对齐负责人 Evan Hubinger 也公开表示,未来十年内人类灭绝概率可能超过 10%。Chamath、David Sacks、Jason 与 Friedberg 试图拆解这场舆论风波究竟是员工吹哨、末日论者的心理战,还是前沿实验室内部真实存在的风险判断。 节目进一步讨论这场争议对 Anthropic IPO、S1 披露和产品责任的影响,并把焦点推进到更大的政治问题:以 AI 安全为名建立联邦监管机构,是否会最终形成监管俘获、前沿模型双寡头和对开源 AI 的压制。几位主持人也通过“人在回路”、物理隔离和递归自我改进等概念,钢人论证 AI 可能毁灭人类的路径,再逐一检视其中缺失的环节。 后半部分转向 OpenAI 宣称破解纳维-斯托克斯方程、数据隐私与 AI 主权,以及耐克被移出标普 100 的品牌危机。节目将数学突破解读为“人类能力的杠杆”,同时提醒企业:零数据留存并不能彻底解决知识产权泄露;而耐克的问题,则在于丢失了以精湛与卓越为核心的北极星指标。 👤 本期嘉宾 本期嘉宾为 All-In 播客的固定讨论成员 Chamath、David Sacks、Jason 与 Friedberg。几位主持人从科技投资、AI 政策、公司治理、产品责任、数据安全和品牌经营等角度共同推进讨论:David Sacks 重点分析末日论叙事与监管俘获,Friedberg 负责拆解 AI 风险场景和技术限制,Chamath 关注资本市场与公司战略,Jason 则在对话中穿插追问与现场调侃。四人的观点并不总是一致,但正是这种交叉质询,让节目同时覆盖了 AI 安全争议的技术、政治和商业后果。 ⏱️ 时间戳 00:12 Anthropic末日论风波 20:27 FDAI背后的权力逻辑 29:53 末日预言与RSI争论 46:09 开源、IPO与监管冲突 59:08 AI解题与数据主权 1:20:24 耐克迷失北极星 1:36:11 All-In峰会闲聊 🌟 精彩内容 💡 AI 末日论可能成为监管扩权的叙事工具 节目认为,围绕 AI 灭绝风险的公共讨论,不能只看概率判断,还要观察谁在放大恐慌、谁能从监管中获得权力或经济利益。主持人指出,建立联邦 AI 部、集中控制模型和限制开源,可能让安全叙事最终转化为权力集中。 "归根结底,我确实认为这背后的根本动机是一套控制体系。" 💡 Anthropic 面临无法回避的内在矛盾 如果 Anthropic 的安全负责人认为核心产品可能终结人类文明,公司就必须在两种立场之间做选择:要么公开否定这些末日论判断,要么承认风险并解释为何仍然适合以极高估值上市。节目认为,含糊其辞的披露无法同时满足投资人、监管机构和内部员工。 "一方面,你在要求公开市场的投资人以数万亿的估值来承销你的公司;但另一方面,你自己的安全负责人却在说你们的核心产品问题还没解决,而且有可能终结人类文明。" 💡 递归自我改进距离“自动毁灭人类”仍有大量步骤 几位主持人对 RSI,也就是递归自我改进进行了钢人论证:理论上,AI 可以设计下一轮训练、训练出更强的模型,再循环往复。但他们同时强调,从当前连酒店预订、现实世界执行和日常自动化都不稳定的状态,跳到完全脱离人在回路的极端起飞,中间还有大量尚未解释的技术与责任环节。 "从我们现在把 AI 当工具、让 AI 研究人员效率更高,直接跳到了我们会走向 RSI 极端论,然后再跳到所有人都会死。" 💡 人在回路与物理隔离是现实世界的安全瓶颈 节目认为,数字系统可以快速分析和生成指令,但现实世界仍有大量必须由人执行的环节。关键金融系统的纸质备份、物理隔离和双人双钥匙机制,也意味着 AI 很难单靠网络控制就完成一条无缝的毁灭路径。 "这就是木桶的最短板。" 💡 开源 AI 是避免权力和能力集中化的关键 主持人支持对 AI 进行测试、建立安全防护,但反对以监管为由把开源模型彻底挡在门外。他们认为,开源降低了 AI 的使用成本,让个人和小型组织也能获得生产力工具;如果权力最终集中到联邦监管机构与少数闭源公司手里,结果可能是政府绑定的垄断集团。 "开源必须蓬勃发展,如果你把权力和控制体系拱手让给监管人员,开源就会消亡。" 💡 OpenAI 的数学突破更像系统工程,而非神谕 节目将 OpenAI 破解纳维-斯托克斯方程的过程解读为大规模计算、Agent 协作和人类方法的放大,而不是 AI 突然产生了人类无法理解的数学直觉。AI 的价值,在于把过去需要数万年人类工作量的探索压缩到几分钟或几秒钟。 "AI 是一台赋予人类非凡杠杆能力的引擎。" 💡 企业不能把零数据留存当成绝对安全 围绕 OpenAI 是否可能从研究者的去标识化数据中获益,节目讨论了 ZDR、专有云、本地部署和开源模型。主持人提醒,去除个人身份信息并不等于消除了知识产权,因为解题思路、科学洞见和企业内部分析本身就可能具有商业价值。 "大家越来越意识到,ZDR 根本不是有效的解决方案,存在大量的泄露。" 💡 耐克失去的不是广告,而是品牌的北极星指标 节目把耐克的衰退归因于多个决策叠加:削弱零售伙伴、推行直面消费者模式、产品质量下降,以及营销从运动表现转向政治与身份叙事。主持人认为,耐克过去真正让人购买的理由,是对精湛、卓越和成为更好运动员的向往。 "至少在我长大的那个年代,耐克的北极星指标对我来说再清楚不过,那就是通过体育运动体现出来的精湛技艺与卓越追求。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:Machine Learning Street Talk · What Building an AI Scientist Actually Requires Beyond Intelligence — Edward Hughes 原内容更新时间:2026-09-11 在 MLST,也就是机器学习街谈播客中,主持人 Tim Scarfe 对话 Ed,讨论如何构建真正能够做科学发现的 AI 科学家。Ed 曾在 Google DeepMind 从事强化学习、世界模型和 AI 科学家研究,后来与 Louis Kirsch 共同创办 Inherent,探索让 Agent 生活在实验中,并成为整门科学的水平智能层。 这场对话从第 37 手切入,重新区分创新与创造力:第 37 手可以是创新,却未必是创造力,因为创造力还需要发现者意识到自己做出了新东西,并得到领域与学界的承认。随后,两人讨论满意决策、扩展适应、开放式探索、世界模型、知识负担,以及为什么真正有创造力的系统不能只被单一目标和固定奖励函数驱动。 节目后半段聚焦 Ed 的研究:Replica 如何通过涂黑论文图表,测试 Agent 能否在缩小规模后深度复现科学研究;Faraday 又如何通过让小模型指导更强的代码 Agent,在保留任务上展现出通用科研直觉。对话最终延伸到 GRPO、评分量规裁判、评测框架工程,以及由人类和多个 Agent 共同构成的递归型公司。 👤 本期嘉宾 Ed 的专业背景是理论物理学,博士阶段研究弦理论与粒子散射,并由此形成了对问题转化和跨领域迁移的兴趣。2017 年,他受到 AlphaGo 与第 37 手的启发,加入 Google DeepMind,先后研究多智能体强化学习、元强化学习、世界模型和 AI 科学家系统。 在 Google DeepMind 期间,Ed 曾与 Louis Kirsch 共同带领 AI 科学家团队,探索如何让编码 Agent 参与科学研究。后来,两人共同创办 Inherent,试图从组织结构、横向科学智能层和基础设施三个方面,构建能够与人类科学家共同生活在实验中的 Agent 系统。 本期也集中呈现了他与团队关于 Replica 和 Faraday 的研究:前者把论文复现变成可规模化训练的任务空间,后者则通过后训练和多轮 rollout 学习更接近科研直觉的能力。Ed 值得听之处,不只是他对模型训练的理解,更在于他把 AI、科学方法、文化演化和组织设计放在同一个框架中思考。 ⏱️ 时间戳 00:12 Inherent的规模与方向 00:54 从弦理论到AI科学家 06:18 创造力来自约束 10:02 第37手与创造力 17:30 满意决策与开放探索 26:52 模仿如何孕育文化 37:57 评估未知的未知 56:03 Faraday从复现走向创新 1:26:48 递归公司与群体智能 🌟 精彩内容 💡 创新不等于创造力 Ed 认为,第 37 手确实是创新,但创造力还需要更高一层的元元认知:系统不仅要产生出乎意料且有价值的结果,还要意识到自己原本不知道某件事,并据此更新知识。最终,创造力还需要领域与学界来判断和接纳。 "我认为第 37 手是有创新,但没有创造力。" 💡 创造力不是优化,而是满意决策 演化并没有朝着某个预先定义的最优解持续优化,而是在满足生存与繁衍等约束后继续积累变化。由此推论,若要构建有创造力的 Agent,单纯依赖优化目标可能反而会把系统带向错误方向。 "如果你真的相信创造力就是满意决策,那么我们在机器学习中习惯性依赖的拐杖,也就是优化,对于构建有创造力的 Agent 来说就是找错了方向。" 💡 创造力需要发现新问题 智能往往是在既定迷宫中寻找路径,而创造力则是发现新的迷宫、新的问题和新的挑战。开放式探索的价值,正在于它不把系统锁定在一个全局目标上,而是允许局部求知欲和欠说明课程带来意外的方向。 "而创造力,就像你刚才说的,是去发现新问题、新挑战、新迷宫。" 💡 好的科学解释难以变通 借助 David Deutsch 的观点,Ed 将科学理解为寻找关于宇宙的良好解释,而良好解释必须是“难以变通”的解释。越能被任意补丁和事后说法解释的理论,越没有真正约束力;真正好的理论会迫使我们提出更具体、更有预测力的结构。 "他说,良好解释就是难以变通的解释。" 💡 完美的世界模型反而无法发现新东西 如果 Agent 拥有完美的世界模型,那么它做出的每个实验结果都在预料之中,也就不会产生真正的发现。科学发现要求世界模型存在某种不完美,让局部目标具有欺骗性,并迫使 Agent 在遇到意外时更新自己的理解。 "反过来说,如果你想做出发现,你的世界模型里就必须有某种不完美。" 💡 复现是走向创新的欠说明课程 Replica 并不只是在检查图表是否画得相似,而是评估实验完整性、结论复现和整体科研过程。Ed 认为,能否做出深度复现,本身就训练了实验决策、信息搜集、反思和识别默会知识等能力,这些正是进一步创新所需要的基础。 "我们认为复现是走向创新的欠说明课程的第一步。" 💡 Faraday 学到的是科研直觉 Faraday 通过让 27B 参数的小模型调用更强的代码 Agent,并在 Replica 上进行大量 rollout,学习如何指导实验、检查过程、决定何时继续和何时停止。它在保留任务上的表现超过了作为工具使用的代码 Agent,也超过了 Claude 和 GLM 5.2,体现出模型权重中的通用能力可以跨任务迁移。 "我们实际上是在训练一种能力,一种通用的复现能力,或者说通用的科研直觉。" 💡 群体智能将取代个体智能的中心位置 Ed 认为,未来的关键不是打造一个封闭运行的超级 Agent,而是让多个 Agent、多个技能、多个模型与人类形成多对多协作网络。Inherent 所说的“生活在实验中”和“递归型公司”,正是让组织在 Agent 与人的互动中持续学习和重构。 "这是一个群体智能的时代,而不是个体智能的时代。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:Huberman Lab · How Mitochondria Control Your Metabolism | Dr. Jared Rutter 原内容更新时间:Mon, 07 Sep 2026 本期来自 Huberman Lab,也就是 Huberman 实验室播客,由 Andrew Huberman 主持,嘉宾是 Jared Rutter 博士。作为犹他大学生物化学教授、霍华德·休斯医学研究所研究员,Rutter 博士长期研究线粒体如何在细胞中分配资源、调节能量与生物合成。 对谈首先重新定义了“代谢”:它不是一个人的单一指标,而是体内数万亿个细胞各自代谢活动的总和。线粒体也不只是“细胞的能量工厂”,它们还决定细胞是把营养物质用来制造 ATP、维持功能,还是转化成生物量、复制和扩张。 节目进一步从葡萄糖、丙酮酸、乳酸与 MPC 转运途径,讲到衰老、能量毒性、癌症和瓦伯格效应。Rutter 博士还解释了科学家如何通过酵母、果蝇、人类细胞和基因敲除小鼠发现 MPC1 与 MPC2,并讨论未来如何在细胞层面成像和调节代谢。 👤 本期嘉宾 Jared Rutter 博士是犹他大学生物化学教授,也是霍华德·休斯医学研究所研究员,被 Andrew Huberman 介绍为线粒体生物学与代谢领域的顶尖专家之一。他的研究聚焦于线粒体如何处理丙酮酸、生成 ATP、制造生物量,以及这些资源分配决定如何影响细胞功能与疾病。 Rutter 博士及其合作者通过酵母、果蝇、人类细胞和小鼠等多种模型,发现并验证了 MPC1 与 MPC2 是线粒体丙酮酸转运体的关键组成部分。这项工作帮助研究者理解丙酮酸如何进入线粒体,也为研究心力衰竭、癌症和其他代谢疾病提供了重要框架。 ⏱️ 时间戳 01:25 代谢是细胞总和 04:23 衰老与线粒体失活 07:32 线粒体的内共生起源 15:08 线粒体的空间与分工 22:43 激素调度细胞燃料 1:03:40 MPC决定丙酮酸去向 1:17:48 乳酸不是代谢废物 1:25:38 癌症的代谢与进化 🌟 精彩内容 💡 代谢不是个人指标,而是细胞代谢的总和 Rutter 博士把通常意义上的“代谢”拆解到细胞层面:人体代谢并不是一个统一系统,而是不同细胞根据自身职责摄取、加工和使用营养物质的结果。心肌细胞、神经元、脂肪细胞和肠道干细胞,对同样的燃料有完全不同的需求。 "我们身体的代谢,实际上是我们大约 30 万亿个细胞中每一个细胞代谢的总和。" 💡 线粒体不只是细胞的能量工厂 线粒体当然负责将营养物质转化为 ATP,但它们还参与细胞生长、复制与资源分配。不同细胞中的线粒体,会根据细胞的功能进行适配;有些更擅长制造 ATP,有些则更偏向生成构建新细胞所需的生物量。 "线粒体被称为细胞的能量工厂,但正如大家今天会了解到的,它们的作用远不止给细胞供能这么简单。" 💡 丙酮酸是能量与生长之间的分岔口 葡萄糖经过糖酵解后形成丙酮酸,细胞此时必须决定如何使用它:将其送入线粒体燃烧,制造 ATP;或保留其中的物质,用于合成蛋白质、脂肪酸、DNA 和其他细胞成分。这个分流决定了细胞是在维持自身功能,还是在扩张和复制。 "食物要么被转化成能量,要么被转化成生物量。" 💡 MPC 决定丙酮酸能否进入线粒体 MPC,也就是线粒体丙酮酸转运体,由 MPC1 和 MPC2 等蛋白质组成,负责把丙酮酸运进线粒体。研究者通过不同物种和细胞模型的遗传学实验,逐步确认了这些蛋白质的功能,也由此揭示了细胞如何控制燃料去向。 "MPC,名副其实。就是让丙酮酸进入线粒体的转运体。" 💡 癌症可能是资源分配失控 癌细胞并非简单地“线粒体坏了”,而是把大量资源从能量生产转向制造更多细胞。瓦伯格效应显示,许多癌细胞消耗的氧气较少,因为它们更倾向于保留代谢中间产物,用来合成新的细胞。 "癌细胞往往不去燃烧,所谓的燃烧就是消耗氧气,而是把资源分配去造东西,去合成一个新的细胞。" 💡 乳酸不是单纯的代谢废物 过去人们常把乳酸视为缺氧时产生的废物,但新的研究显示,乳酸可以成为重要燃料,也能在不同组织之间转运能量。心脏尤其擅长利用乳酸,这说明代谢产物的功能往往比传统分类更加复杂。 "乳酸本身就是一种非常重要的燃料。" 💡 能量过剩也会造成损伤 当线粒体承受过多能量时,可能产生更多活性氧(缩写 ROS),进而损伤蛋白质、核酸和基因组。Rutter 博士认为,从整个生物体到单个细胞,都需要关注能量如何被分配,而不只是关注摄入了多少能量。 "而当线粒体负荷过重时,就会进入一种极易产生这些活性氧的状态,它们最终会损伤我们的基因组、产生突变并破坏蛋白质。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:Dwarkesh Podcast · AI researchers debate how close we are to recursive self-improvement 原内容更新时间:Fri, 11 Sep 2026 Dwarkesh Patel 邀请 Xyphra 的 CTO Beren Millidge、Thinking Machines 的首席科学家 John Schulman,以及 Base10 的模型训练负责人 Charlie O’Neill,讨论 AI 距离递归自我改进(RSI)还有多远。三位嘉宾都来自相对开放的 AI 实验室和公司,因此对强化学习、模型训练、部署数据与 AI 研究自动化展开了大量具体讨论。 本期的核心分歧,不是 AI 能否继续变强,而是它能否泛化到自己提出正确目标、设计有效实验,并在很长时间跨度内持续修正认知。嘉宾讨论了 sim-to-real(从仿真到真实世界的迁移)、持续学习、蒸馏、RLVR、数据瓶颈与强化学习的真实作用,也追问了为什么模型在基准测试中越来越强,却仍可能在现实世界的复杂任务上受限。 节目后半段进入未来预测:从能独立完成一个月白领工作的远程员工,到在所有电脑可完成的认知工作上压制人类顶尖专家,再到 AI 研究自动化是否等同于 ASI 完全。相比具体时间线,更值得关注的是三位研究者对“人类最后的工作是什么”以及“真正的智能爆炸会卡在哪里”的不同判断。 👤 本期嘉宾 Beren Millidge 是 Xyphra 的 CTO,所在团队正在开发开源模型。他重点讨论了强化学习为何比预期更有效、mid-training 如何为 RL 做准备、模型的熵坍塌与时间跨度泛化,以及持续学习面临的可塑性和灾难性遗忘问题。 John Schulman 是 Thinking Machines 的首席科学家,曾任 OpenAI 联合创始人,并带队开展 ChatGPT 背后的 RLHF(基于人类反馈的强化学习)研究。他从一线研究经验出发,解释了下一个 token 预测为何意外地成为有效目标,也讨论了 AI 研究自动化、目标定义与对齐之间的关系。 Charlie O’Neill 是 Base10 的模型训练负责人,参与讨论模型蒸馏、部署数据、在线学习、环境设计和强化学习训练。他尤其强调真实世界任务与刷榜分布之间的差异,以及模型要成为可靠远程员工,关键取决于在线学习和长时间跨度任务的解决速度。 ⏱️ 时间戳 00:31 2036年仍未起飞的原因 07:01 AI研究最后的人类工作 16:18 蒸馏如何对抗模型中心化 24:55 自动化AI研究的训练路径 54:51 数据、环境与缩放瓶颈 1:11:22 强化学习为何有效又失真 1:21:32 从远程员工到ASI的时间表 🌟 精彩内容 💡 RSI 最大的难题可能不是能力,而是目标 AI 可以在明确目标上不断优化,但递归自我改进要求它自行提出目标、判断目标是否正确、设计实验并持续修正认知。真正的闭环不能只靠把已有环境做得更大。 "AI 到底能多好地泛化到自己摸索出目标?" 💡 sim-to-real 可能决定 AI 能否走出仿真 在数据中心里构建强化学习环境相对可控,但经营公司、打赢官司、与客户互动等任务包含复杂的非平稳分布。若模型无法从仿真迁移到真实世界,长时间跨度任务就可能成为递归自我改进的瓶颈。 "但另一种可能是,你确实需要通过这些真实的互动来进行权重更新,才能在这些事情上做得更好。" 💡 AI 研究自动化的最后一道门是定义问题 模型已经能帮助执行实验、写代码和分析结果,但研究的关键往往在于决定“该做什么实验”。人类可能会长期保留定义目标、判断品味和决定模型应如何表现的工作。 "我觉得人类的最后一份工作,或者说能留存最久的人类角色,就是定义目标,决定我们到底想要什么。" 💡 强化学习的成功,建立在一个足够好的起点上 RL 并不是从零创造全部能力。大量 mid-training 数据、合成推理轨迹和预训练,已经让模型接近最终能力;强化学习提供的是高信噪比的策略微调,因此少量信息也可能显著改变模型行为。 "它只需要从这些 episode 里拿到几个 bit,而这些你确实能拿到。" 💡 环境的真实度比难度更重要 容易验证的复杂任务可以带来刷榜,但不一定能训练出适用于现实工作的模型。要复制老师模型的真实能力,必须覆盖多轮人类交互、多重目标和不确定反馈,而不是只匹配容易评分的任务分布。 "你可以说这就是刷榜分布,因为很多最主流的基准测试其实就是做一些非常难、像解谜一样但容易验证的任务。" 💡 持续学习的瓶颈可能是技术,而不只是模型容量 把新能力蒸馏进另一个模型并不难,但在同一个模型上持续更新,容易出现灾难性遗忘、通用能力退化和知识注入困难。问题因此不只是模型够不够大,也在于现有训练方法会破坏什么。 "所以这很像是一个瓶颈阻碍了我们无休止地训练同一个模型,逼得我们只能从旧模型里提取所有数据,然后从零开始训练一个新模型。" 💡 第 37 手式的创造力不必然来自更高的输出多样性 RL 可能让模型的输出分布变窄,但这不等于它无法产生超越人类的解法。只要任务可搜索、奖励信号可靠,模型仍可能找到人类数据中没有出现过的策略;真正的问题在于环境是否足够多样,以及评审员是否被奖励黑客利用。 "而且我觉得很多情况,比如 RL 导致的熵坍塌,基本上是因为在环境缺乏多样性时,模型钻了那些相当简单的验证器的空子。" 💡 AI 研究自动化可能接近 ASI 完全 如果 AI 能在较长时间跨度内吸收实验结果、做出贝叶斯最优决策,并持续推进新的研究,那么自动化 AI 研究本身就可能意味着它已经跨过了最关键的能力门槛。嘉宾因此把 AI 研究员的自动化,与 ASI 完全联系在一起。 "所以基本上,你觉得实现 AI 研究的自动化,本身就相当于 ASI 完全,对吧?" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:The Twenty Minute VC (20VC): Venture Capital | Startup Funding | The Pitch · 20VC: The $100 Billion AI Assistant Race: Town vs Instinct vs GrokBot | We Spend $75K Per Engineer on AI Tools | Why the AI Assistant Market Is Not a Bubble & AI Assistants Will Replace Every App on Your Phone with JD, Founder of Town 原内容更新时间:Mon, 07 Sep 2026 本期由 Harry Stebbings 主持,嘉宾是 Town 联合创始人兼 CEO Jean-Denis,也就是 JD。Town 是一款嵌入邮箱和日历的 AI 助手,会观察用户的工作方式,并主动推荐自动化流程,帮助处理原本需要人工完成的事务。JD 分享了 Town 从 AI 税务公司转型、快速找到 PMF,到面向主流用户推出产品的过程。 对话围绕 AI 助手赛道的竞争格局展开:Town 如何面对 Grokbot、Instinct、苹果、谷歌以及 OpenAI 等竞争者;未来用户会拥有一个统一入口,还是不同场景下的多个 Agent;隐私、数据孤岛和 Agent 间协作会如何重塑企业软件。JD 还谈到模型路由、前沿模型成本、企业端变现、网络效应,以及 AI 如何改变招聘和工程团队的生产效率。 👤 本期嘉宾 Jean-Denis(JD)是 Town 的联合创始人兼 CEO。创办 Town 前,他曾在 Plaid 担任七年首席技术官,此前还曾任 Dropbox 工程负责人。他也是一名活跃的天使投资人,投资过 Modal、Base10、Merge 和 NexHealth 等公司。 JD 值得关注之处,在于他同时经历过大型科技公司的工程管理、创业转型和 AI 产品商业化。他不仅讨论 AI 助手的产品形态,也从一线创业者的角度拆解了 PMF、模型成本、企业网络效应、定价和公司长期经济模型。 ⏱️ 时间戳 00:47 Town的转型与定位 03:48 Agent护城河之争 18:09 模型路由与成本曲线 24:49 增长、分发与产品壁垒 42:42 商业化与长期竞争 🌟 精彩内容 💡 AI助手最终会成为数字世界的统一入口 JD 认为,用户不会愿意在不同工作之间不断切换 Salesforce、Linear 或其他垂直 Agent。更可能的形态是一个统一的主入口,在后台调用不同系统;但隐私和数据归属又会让企业与个人数据保持分离。 "你会想要一个统一的入口。" 💡 真正的护城河可能来自 Agent 对 Agent Town 的一个关键功能,是让用户的 townie 与同事的 townie 互相沟通,在不同人的邮箱和上下文中寻找答案。JD 认为,多用户协作一旦形成网络效应,团队就很难再迁移到其他产品。 "在 Town 里面,摸透了怎么用的用户最喜欢的一个功能,叫作 Agent 对 Agent。" 💡 AI会逐渐替人类管理信息分享 未来的 Agent 不只是执行指令,还要判断什么信息可以分享给谁。JD 设想,用户会放心让 Agent 依据隐私边界,自动过滤病史、薪资等敏感内容,同时在企业内部寻找能够促成合作的隐藏信息。 "我觉得我们越来越会放心让 AI 来替我们做这件事。" 💡 人类应负责定方向和分配资源 JD 不认同让同一个 Agent 自主运行到底、独自追求最终结果。他更倾向于由人类设定目标和 token 预算,再由模型或其他 Agent 监督执行过程,让 AI 的行动符合人类的价值体系。 "所以你定下目标和预算,然后去监督为了达成结果而采取的那些行动的大致方向。" 💡 模型路由的核心不只是便宜,而是体验一致 Town 会根据任务难度、成本和结果质量选择不同模型,但面向用户的性格与语气不能频繁变化。推理任务可以灵活切换模型,用户直接感知的交互层则需要保持稳定。 "我们的工作是根据你的需求,找到一个能兼顾成本效益、给你带来想要结果的模型。" 💡 AI产品的成功不是消耗更多 token,而是让用户持续付费 JD 认为,用量本身不是成功指标。如果用户消耗大量 token 却感受不到明确回报,反而会认为自己被过度收费。真正重要的是让用户知道钱花在哪里,并持续感受到产品创造的价值。 "所以我把成功定义为给我付钱,因为如果你每个月都付钱,就说明我基本把工作做好了。" 💡 AI让企业更愿意招聘,而不只是减少员工 JD 用工程师的产出解释 AI 对招聘的影响:如果 AI 让一名工程师创造的营收明显增加,企业就有动力多招人,而不是简单地用 AI 替代岗位。Town 自己也把模型和工程工具视为高回报的生产力投资。 "AI 意味着突然之间那个工程师能创造的收入比以前更多了。" 💡 未来的竞争关键是用机器构建、用人类学习 AI 让产品构建和模仿的速度大幅提升,但用户洞察仍需要人类时间积累。JD 认为,竞争者可以在几周内复制功能,却无法同样快地复制对用户需求的理解,这使得创业公司必须持续高速迭代。 "你现在可以用机器的速度去构建,但你只能用人类的速度去学习。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
📝 本期播客简介 本期我们克隆了:How I AI · The enterprise AI stack behind Stripe’s company brain “Kai” 原内容更新时间:2026-09-07 在 How I AI,也就是我的 AI 使用之道 中,主持人 Claire Vo 对话 Stripe 工程经理 Sharadh,拆解公司内部 Agent Kai 的构建过程。Kai 不只是一个聊天工具,而是一套结合个性化上下文、组织架构、数据平台、沙盒、skill 与治理机制的企业级 AI 系统,目前每周有超过 10,000 名 Stripe 员工使用。 Sharadh 解释了 Stripe 为什么选择从头打造 Kai,以及企业级 AI 真正困难的地方:不是让员工获得一个 AI 工具,而是在复杂组织中建立一套能控制权限、管理成本、保护敏感数据,同时又不妨碍员工工作的基础设施。节目还现场演示了 Kai 如何从自然语言搭建数据仪表盘,并把一次性操作打包成可复用、可共享的 skill。 从 Project 作为治理单元,到 Hubble、Trino 与 Ask Data 支撑的数据查询路径,再到 Agent 身份、降级机制、human in the loop、遥测和 eval,这期内容提供了一份相当完整的企业 AI 架构样本,也展示了为什么面向人类开发者建设的基础设施,最终同样成为 Agent 发挥作用的关键。 👤 本期嘉宾 Sharadh 是 Stripe 的工程经理,也是 Kai 团队的成员。他曾参与 Stripe 多个核心基础设施团队的工作,包括数据和开发者体验,因此既理解企业级数据与平台建设,也亲身参与了 Kai 从早期 V0 到全公司推广的过程。 在他的介绍中,Kai 由一个不到 10 人的核心团队持续负责体验,每周服务超过 10,000 名 Stripe 员工。Sharadh 目前关注治理、技能和基础设施等层面,致力于让不同技术背景的 Stripe 员工都能安全、有效地使用 AI。本期他通过现场演示,具体展示了 Kai 如何查询数据、搭建仪表盘、创建 skill,并在不同项目中施加工具权限与审批边界。 ⏱️ 时间戳 00:56 Kai为何从零打造 03:10 上下文与项目治理 08:16 Kai现场搭建数据看板 23:40 skill平台与企业落地 🌟 精彩内容 💡 企业 AI 首先是治理问题 Stripe 最初面对的并不是“要不要提供一个 AI 工具”,而是如何让复杂组织中的每个人都能放心使用 AI。Kai 的核心价值,在于把权限、上下文、模型、工具和审批机制组织起来,让员工不必每天自行处理一堆复杂配置。 "重点不是提供 AI,而是提供正确的治理结构,让每个人都能直接去用 AI,而且确信它会帮你把事情办对。" 💡 上下文应该有边界,也应该由用户控制 Kai 默认知道员工的身份和组织位置,也能通过项目管理系统了解 OKR、邮件和参与的项目;Google Drive、Slack 和私信等更敏感的信息,则需要员工主动授权。个性化上下文越丰富,Agent 越有用,但权限控制不能被默认设置取代。 "我们允许大家自己选择给 Kai 开放多少权限,但开箱即用状态下,Kai 就知道你是谁。" 💡 Project 不是文件夹,而是治理单元 在 Stripe,Project 可以围绕一个团队或工作流划定上下文边界,并规定默认模型、工具策略、数据访问权限和 human in the loop 流程。这样,熟悉成本、性能和延迟权衡的少数人可以提前搭好规则,其他员工直接在边界内使用。 "项目首先是一种治理机制,但它也能让你,就像你说的,你有了这个上下文引擎。" 💡 Agent 会放大基础设施的故障模式 Agent 能够高并发地调用工具、查询数据和执行操作,因此原本不明显的基础设施问题可能被迅速放大。Stripe 为数据查询层、数据目录、分析层和高并发弹性投入的基础设施,成为 Agent 能够稳定工作的前提。 "事实证明,Agent 会直接放大你所有的故障模式,就好像它把你可能遇到的问题幅度给成倍放大了。" 💡 面向人类建设的平台,也会成为 Agent 的杠杆 Stripe 在 AI 之前就持续建设开发者体验、开发者平台、数据平台和分析层,这些让人类更高效的基础设施,同样帮助 Agent 找到正确的数据、调用正确的工具,并在高负载下稳定运行。企业想提高 AI 交付能力,不能只盯着模型和产品开发。 "把精力花在平台投入上,对人类好,对 Agent 也好,这才是能让你跑起来的东西。" 💡 skill 让一次性对话变成可复用工作流 Kai 可以从一次完整会话中提取步骤、上下文和操作,将其打包成可重复运行的 skill。AI 因此不再只是临时聊天工具,而成为员工可以交给它执行业务流程的协作者;这些 skill 还可以被编辑、测试、共享和治理。 "AI 从一个我平时顺手在旁边随便聊聊的东西,比如像聊天界面那样,变成了我能放心交给它去跑业务、跑工作流。" 💡 企业级 skill 库必须同时管理质量和数量 当公司里出现大规模 skill 库后,真正的问题不只是“能不能创建”,还包括哪些 skill 被频繁使用、哪些只服务于小团队、哪些已经占用过多上下文。Stripe 通过遥测和 ETL 管道判断 skill 是否应该推广、降级、归档或删除。 "你塞给 AI 的无关上下文越多,你的结果就会变得越差。所以数量几乎就是质量的一个侧面。" 🌐 播客信息补充 本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的 使用 AI 进行翻译,因此可能会有一些地方不通顺
与播客爱好者一起交流
添加微信好友,获取更多播客资讯
播放列表还是空的
去找些喜欢的节目添加进来吧