00:00 AI时代下的新精益创业奇迹本期播客深入探讨了在AI工具满天飞的时代，创业公司如何变得更轻更快，实现惊人增长和盈利。通过分析AI创业公司Olive的案例，展现了四人团队如何打造出多个病毒式传播的产品，并实现年收入几百万美元且盈利。讨论强调了AI技术，特别是大型语言模型的发展，从根本上改变了软件开发和公司运营的成本结构、速度和可能性，从而实现了传统创业逻辑中难以想象的成就。 03:25 Olive团队利用OpenAI Codex模型实现病毒式产品增长Olive的核心团队开发了多个病毒式传播的产品组合，年经常性收入达到60万美元且实现盈利。他们的第一个产品在2023年1月通过一个TikTok视频推广，迅速获得百万次观看和1万初始用户。为了应对成本和使用限制，他们巧妙利用OpenAI的Codex模型，通过借多个账号循环调用API，同时通过精心设计的prompt engineering使模型能更好地处理自然语言提问。尽管用量巨大，OpenAI不仅未封号，反而因Olive成为顶级用户之一而与之联系，这体现了早期LLM应用的特性和机会，反映了初创公司在资源有限时极致利用规则和挖掘技术潜力的智慧。 08:12 初创公司快速盈利的策略与挑战初创公司通过借朋友账号起家，并在短时间内实现了规模化和盈利。他们抓住返校季这一重要时间窗口，通过在名牌大学校园内进行街头采访的营销活动，精准触达目标用户，迅速扩大用户基础。这种策略不仅帮助公司实现了第一个100万美元的A轮融资，还在运营九个月后实现了盈利，这在创投圈中极为罕见。快速盈利使得公司不再过度依赖外部投资，掌握了更多主动权，可以更专注于产品和用户价值。然而，这种模式也可能限制公司在研发和市场扩张上的大胆投资。尽管如此，olive的案例表明，在某些领域或特定打法下，快速盈利和高速增长是可以同时实现的，尤其是团队小而效率高的情况下。 11:43 教育科技公司通过经验复用实现快速成功一家教育科技公司在其首款产品实现九个月盈利后，迅速推出第二款产品on stock AI，该产品仅用九周时间就吸引了100万用户，并在社交媒体上获得巨大关注。成功的关键在于公司将先前产品开发中积累的有效技术结构、代码模块、用户增长方法和营销策略等标准化为技术剧本和运营蓝图，从而在新项目中快速复制和应用。此外，on stock AI定位为学习过程中的实时助手，针对学生痛点提供及时、个性化的解决方案，以及强大的病毒式营销能力，构成了其差异化竞争优势。 15:54 Plus AI技术加速跨领域产品开发对话讨论了Plus AI技术如何通过预构建的蓝图blueprints加速产品的开发和营销，特别是对于跨领域的项目。这些蓝图包括可重用的代码库、标准化的工作流程和预设的工具链，使得开发团队能够迅速构建新产品的基础设施，并将主要精力集中在核心功能的创新上。此外，讨论中提到了一款新产品insteps的成功案例，它在早期阶段就吸引了大量用户并实现盈利，展示了这种基于蓝图快速验证和盈利模式的巨大潜力。这种高度系统化和经验复用的方法对现代AI驱动的创业有着重要的启示。 20:20 精益playbook：Olive的核心运营原则与人才策略这段对话围绕着Olive的精益playbook展开，重点介绍了其三大支柱之一的运营原则。这些原则强调效率、结果和持续改进，尤其突出在招聘中的高标准，寻求所谓“十倍产出”的通才，即在核心领域精通并具备其他相关领域互补能力的人才。讨论进一步解释了这种跨界和整合能力如何在不同角色如产品工程师、市场人员和设计师中体现，从而实现团队效率和质量的显著提升。此外，还提到了识别这类人才的挑战和高要求，强调了实际解决问题能力的重要性。 25:16 初创公司管理原则：精英招聘与利润优先对话围绕初创公司的管理原则展开，首先探讨了精英招聘模式的利弊，包括团队的灵活性和冗余度、文化塑造作用等。随后讨论了利润优先形态，强调利润是公司生存和发展的根本，指出这种模式有助于保持专注并避免过度依赖外部融资。最后，提到了两种模式各有优劣，关键在于如何平衡短期利润与长期创新，以确保公司的稳健发展和生存能力。 28:27 量化驱动管理：KPI与持续流程改进对话围绕量化驱动的核心理念展开，强调所有工作应贡献于关键绩效指标（KPI）。在实践中，每个员工都有明确的KPI，以确保其工作与公司整体目标对齐。通过设定合理的KPI，结合短期和长期目标，以及重视过程和行为，可以有效避免资源浪费和方向偏离。此外，还提到使用OKR方法作为补充，以确保既有量化指标也有方向性目标。持续流程改进是这一管理策略中的另一重要原则，确保了工作效率和目标的持续优化。 31:07 拥抱变化与持续改进：敏捷开发与精益生产的核心理念核心理念强调拥抱变化和失败，将错误视为优化系统和流程的机会，避免重复问题。通过项目复盘会深入分析问题根本原因，从系统性失败角度而非个人责任来改进流程。倡导建立有效的反馈循环和改进闭环，构建允许犯错、鼓励反思和持续改进的文化，如丰田生产系统和软件公司的事故复盘。此外，强调懒惰驱动创新，通过超级工具最大化单一工具价值，重新发明旧工具的使用方式，促进小团队快速迭代和试错。 33:51 Olive创新性地扩展了Launch Darkly的使用场景Olive将Launch Darkly这一原本用于功能管理和灰度发布的平台，创造性地扩展成集流量调度、基础设施控制和无代码实验于一体的超级工具。首先，他们利用功能开关来动态调度LLM流量，灵活应对不同模型提供商的速率限制变化，避免服务受影响。其次，通过Launch Darkly控制基础设施变更，例如在第三方服务不稳定时切换到内部备用服务，以保障核心功能的可用性。最后，将其作为无代码UI实验平台，允许非技术人员调整界面或测试新功能，如测试付费引导文案或按钮设计，加快实验速度。这种创新使用极大地提升了灵活性和效率，体现了对工具极致利用的思路。37:57 运营原则：从知识复利到高效运作对话深入探讨了六大运营原则，强调了理解和应用工具核心能力的重要性，以及通过创造力和实践能力发现和扩展工具潜力。特别关注了知识的沉淀和复用，即通过技术剧本和运营蓝图实现经验的复利效应，确保团队能从过往的成功和失败中快速学习和成长。同时，讨论了如何维护和更新这些知识库，避免其僵化，以持续推动创新和效率。这些原则共同构成了高效运作的坚实基础。 41:40 Olive的工程师分工模式：Harvesters与CultivatorsOlive借鉴了知名公司Palantir的高效运作模式，创新性地采用了Harvesters和Cultivators的工程师分工体系。Harvesters作为产品主人翁，全面负责产品的监测、设计、开发及市场推广，强调端到端的全链路责任，激发工程师潜力。Cultivators则专注于构建智能体操作系统，通过自动化和平台化建设，为公司所有业务线赋能，提升整体扩展速度和市场竞争力。两者之间通过协作和平衡，实现了短期产品交付与长期平台能力建设的完美结合，极大提升了团队的整体产出效率。 47:39 AI工具赋能顶尖人才：从十倍到百倍效率的飞跃对话围绕AI工具在精益高效团队中的核心应用展开，强调AI与工具增强的目的是赋能已有的顶尖人才，而非弥补普通员工的能力短板。通过将AI工具广泛应用于日常工作中的各个环节，如代码生成、营销分析、内部沟通等，实现效率的广度提升。同时，追求深度应用，使AI成为类似参谋长的角色，主动参与决策和任务执行，以增强核心人才处理复杂任务的能力。此外，AI与标准化蓝图的结合预示着更高层次的自动化和自主化，为公司运作方式带来革命性变化。 54:05 Olive的AI未来三部曲：从辅助工具到自主决策系统对话深入探讨了Olive提出的AI增强工作的三阶段演进模型，即人类主导的工具、工作流自动化和自主决策系统。在第一阶段，AI作为人类的助手嵌入现有工作流程；第二阶段，AI开始接管大部分业务流程，实现工作流自动化；第三阶段，多个AI智能体协同工作，形成自主运行和决策的系统。Olive不仅停留在理论构想，已开始实践工作流自动化，并探索触及自主决策系统的某些方面，展示出向高度智能化自动化公司发展的雄心和挑战。 01:01:05 AI驱动的精益创业：从市场自动化到一人十亿公司愿景对话探讨了利用AI代理实现市场研究与收购自动化及系统自动化的具体实践。通过AI代理持续监测市场、搜集信息并进行初步评估，提高了筛选和评估潜在收购机会的效率。同时，AI也被设想用于驱动病毒式传播引擎，实现内容策略的自动调整和优化，甚至参与处理与网红的关系维护。最终，这一系列探索指向了一个由AI驱动的极致效率未来组织形态，即一人10亿美元公司的愿景。这一愿景不仅要求高度自动化的基础设施和技术，还涉及管理模式、组织形态的重塑，以及对传统就业结构和社会经济影响的深刻反思。 01:08:47 AI时代的新经济创业：从olive模式到未来组织变革本期节目深入探讨了olive的新经济创业模式及其背后的AI技术和理念。olive通过极小的团队、精益原则和强大AI工具实现了惊人的增长和盈利。讨论中特别提到一个名为Travis的技术框架，设计用于解决大规模AI应用的可靠性问题，目标是支持5000万用户的AI交互质量。节目还引发了对未来组织中人类价值和核心竞争力的深刻思考，包括情感连接、伦理判断和真正的创造力等难以被AI替代的特质。听众被邀请加入微信群交流分享关于新经济创业、AI应用及未来工作形态的思考和见解。

Mike Krieger 作为全球最受欢迎的社交平台之一 Instagram 的联合创始人，他不仅深刻地改变了人们分享生活、进行视觉叙事的方式，更亲身经历了一家初创公司从零到一、再到被科技巨头收购并继续指数级增长的全过程。 然而，Krieger 的探索并未止步于此。在离开自己亲手缔造的帝国后，他再次投身创业，创办了人工智能新闻应用 Artifact，并最终在一番探索后，选择加入顶尖的人工智能公司 Anthropic 担任首席产品官（CPO），负责将前沿的 AI 模型（如 Claude）转化为普通用户触手可及的实用产品。 本次访谈提供了一个宝贵的窗口，让我们得以窥见这位杰出产品家和企业家的心路历程。视频中，Krieger 坦诚地分享了他从斯坦福大学的求学经历，到创立 Instagram 的灵光一现，再到运营 Artifact 的经验教训，直至今日在 Anthropic 探索 AI 产品化的前沿思考。 这不仅是一段个人职业生涯的回顾，更是一系列关于产品开发、团队建设、创业哲学以及对未来科技趋势判断的深刻洞见。他将成功与失败的经验交织在一起，为所有产品经理、创业者和对科技充满热情的观众，提供了一份极具价值的思想地图。 关键结论 通过梳理 Mike Krieger 的职业生涯和他在访谈中分享的要点，我们可以提炼出几个明确且关键的结论，这些结论构成了他职业智慧的核心。 1. 聚焦核心价值是产品成功的关键： Instagram 的诞生是这一结论最经典的例证。其前身 Burbn 是一个功能复杂、包含签到、计划、照片分享等多种元素的应用。然而，Krieger 和联合创始人 Kevin Systrom 通过数据和用户行为观察发现，唯一真正吸引并留住用户的部分是照片分享。他们果断地做出了“减法”，砍掉所有冗余功能，将全部资源聚焦于“让照片分享变得简单、快速、美观”这一点上，最终成就了 Instagram 的辉煌。这个结论表明，成功的消费级产品往往不是功能的堆砌，而是对单一核心用户需求的极致满足。 2. 技术本身无法保证产品的市场契合度： Krieger 创办的第二个公司 Artifact，旨在利用机器学习为用户提供个性化新闻。尽管其技术理念非常先进，但产品最终未能取得预期的成功。Krieger总结道，Artifact 的失败在于它没有从第一天起就为用户解决一个足够痛的问题。它需要用户投入大量时间进行个性化训练后才能展现价值，这与用户的即时满足期望相悖。此外，糟糕的移动新闻网站体验也构成了外部阻碍。这个结论警示我们，一个优雅的技术解决方案必须与一个真实、迫切的市场需求相结合，否则便可能沦为空中楼阁。 3. 小而精的团队是初创公司最宝贵的资产： 在 Instagram 被 Facebook 收购时，团队仅有 13 人，却支撑着亿级用户的庞大社区。Krieger 强调，这个团队的特点是：才华横溢、没有自负心态、具备多面手能力（generalist）以及对产品充满激情。这种高效、灵活且文化健康的团队，是公司在早期能够快速迭代、应对挑战的根本保障。结论是，在创业初期，投资于“人”和团队文化，其回报率远超其他方面。 4. AI 产品的未来在于可用性和透明度： 作为 Anthropic 的 CPO，Krieger 的核心任务是降低前沿 AI 模型的使用门槛。他得出的结论是，当前 AI 竞赛的下半场，在于如何将强大的模型能力，转化为普通人也能轻松理解和使用的产品。这不仅涉及巧妙的界面设计，更需要建立用户信任。因此，Anthropic 强调让 AI（如 Claude）明确认识并坦诚自己的局限性，同时极度重视用户反馈（尤其是“为什么”给出好评或差评的深层原因），以此来迭代和优化模型。 关键认知 在结论背后，是 Krieger 多年来积累的更深层次的认知和洞察，这些认知关乎事物发展的底层逻辑。 1. 对用户问题的深刻同理心是创新的源泉： 从斯坦福大学“以人为本”的设计思维教育开始，Krieger 就认识到，所有成功的产品都源于对用户某个具体问题的深刻理解和共情。无论是 Instagram 解决了“手机拍了好照片却难以分享”的问题，还是 Artifact 试图解决“信息过载”的问题，其出发点都是用户。他认知到，技术人员和产品经理需要跳出技术本身的魅力，真正站在用户的立场去思考：这个产品为“谁”解决了“什么”问题？ 2. 职业生涯的非线性价值： Krieger 强调，不要期望自己的职业道路是一条直线。他在斯坦福学习的符号系统学，融合了计算机、哲学、心理学和设计，这在当时看起来或许有些“不务正业”，但却为他日后打造人性化的产品奠定了坚实基础。他建议人们要相信经历的价值，即使当下看起来毫不相关的技能或知识，也可能在未来的某个时刻串联起来，形成你独特的竞争优势。 3. 在动态平台上构建产品的全新挑战： Krieger 指出，在 AI 这种快速迭代的基础模型上开发应用，是一个全新的范式。与传统软件开发不同，底层的 AI 模型本身是“活的”、不断变化的，甚至会给开发者带来“惊喜”。这意味着产品团队必须保持极高的灵活性和适应性，产品体验可能随时因为底层模型的更新而发生剧烈变化。这要求产品开发流程、测试方法乃至团队心态都要随之进化。 4. 关系的复利效应： “投资于人际关系”是 Krieger 反复强调的认知。他与 Instagram 联合创始人的重逢、在职业生涯中得到的帮助，都证明了良好的人际网络所具有的长期价值。这种关系是一种可以跨越公司和项目、并不断产生复利的无形资产。 建议 最后，基于以上的结论和认知，Krieger 向所有创业者和产品人提出了非常具体且可操作的建议： 1. 勇敢地“叫停”失败的项目： 创业者往往容易陷入对自己项目的过度执着。Krieger 以 Artifact 的经历建议，当一个产品或方向明显行不通时，要勇敢地承认失败并及时止损。可以设定一个明确的时间点或具体的目标（例如，在六个月内达到某个用户留存率），如果届时未能达成，就果断结束。这不仅是对自己时间的负责，也是对投资人信任的尊重。 2. 从第一天起就提供价值： 不要寄望于用户会耐心等待你的产品变得“更好用”。一个好的产品，必须在用户初次接触时就能提供清晰、直接的价值。尤其是在需要个性化的产品中，要在收集数据之前，就确保其基础功能足够有用。 3. 持续学习与反思： 科技行业日新月异，唯一不变的就是变化本身。Krieger 建议要保持开放的心态，持续学习新知识、新技能，并定期花时间反思自己的成长和经历。这不仅能帮助你跟上时代的步伐，也能让你从每一次的成功或失败中萃取出真正的智慧。 4. 将创业视为改变世界的赋权： Krieger 认为，创业的本质是“发现世界可以变得更好的方式，并感到自己被赋予了力量去实现这种改变”。这是一种积极主动的心态，它鼓励人们不只是被动接受现状，而是去发现问题、定义问题，并动手创造解决方案，无论其规模大小。这种内在的驱动力，是支撑创业者穿越重重困难的最终燃料。 00:00 从Instagram到Anthropic：Mike Cragg的产品与技术变革之旅本期播客讨论了Mike Cragg，Instagram的联合创始人之一，以及他当前作为Anthropic首席产品官的角色。Cragg的经历展示了从移动互联网到AI时代的跨越。重点分析了他的符号系统学背景如何影响了他的产品思维，包括重视解决真实问题、快速原型制作和组建互补团队的理念。这些核心理念成为他职业生涯中成功的关键基石。 04:49 Instagram的诞生及早期产品迭代过程在2009年到2010年左右，随着智能手机的普及和拍照功能的提升，移动互联网应用生态开始兴起。最初，Cragged和Kevin开发了一个名为burden urban的项目，这是一个基于地理位置的服务应用，包含签到分享、计划发布和照片分享等功能。然而，由于功能过于复杂，用户增长缓慢。通过数据分析和用户反馈，他们发现照片分享功能特别受欢迎。于是，他们做出了一个大胆的决定，将burden urban几乎所有的功能砍掉，只保留照片分享，并加入了手机滤镜功能，从而诞生了Instagram。这一系列操作精准地踩在了移动互联网爆发的节点上，体现了发现并聚焦产品核心价值点的重要性，以及在技术变革初期解决真问题的坚持。 08:07 打造和维护高效团队文化的方法对话强调了团队文化在产品成功中的重要性，特别是强调了cregger在Instagram时期如何通过寻找有才华、低自我意识、愿意成为多面手的人才来建立和维护团队文化。此外，他还鼓励团队成员对产品有极大的热情和拥有感，强调创新往往来源于那些每天与产品细节紧密相关的团队成员。 即便在Instagram被Facebook收购后，他也努力保持初创文化的活力，通过黑客马拉松等活动鼓励快速实验和创新。这展示了在规模化与保持敏捷性之间找到平衡的重要性，以及持续投入资源维护团队文化的必要性。这些经验对组建团队或评估团队潜力提供了重要启示，强调了文化心态和协作方式的重要性。 10:38 AI新闻应用Artifact失败的教训与反思基于AI的个性化新闻阅读应用Artifact尽管想法创新，最终却关闭了。失败原因并非仅在于AI算法本身，而是整个用户体验链条中的其他环节出现问题，如新闻网站加载缓慢、排版混乱等，导致用户体验不佳。此外，个性化推荐需要一个冷启动过程，用户需要先阅读和反馈多篇文章，而这个过程可能过于漫长，使用户在未感受到明显好处前就流失。这些教训强调了产品必须在早期就能提供清晰价值，解决用户问题，不能只依赖未来AI能变得很懂用户的承诺。 13:55 Anthropic CPO 面对大语言模型的挑战与策略在人工智能领域，特别是面对快速进化的大型语言模型，如Anthropic的Cloud，产品设计和开发面临着前所未有的挑战。CPO指出，要基于不断变化的基础设计稳定的产品体验是一大难点。应对策略包括对用户极度坦诚，明确沟通模型的能力与局限，以及定义和塑造模型的个性和氛围，以提供更好的用户体验。此外，有效利用用户反馈，同时严格保护用户隐私，是提升模型的关键。在AI时代，尊重用户数据和隐私，建立信任至关重要。经历了Instagram的成功和Artifact的探索，CPO对于何时结束一个项目也提出了务实的建议。 17:46 从Stanford到Instagram：Michael Egger的创业与AI之旅对话深入探讨了Michael Egger从斯坦福大学到Instagram，再到Artifact和Anthropic的创业历程。他展现了持续学习和适应技术变革的能力，坚守以用户为中心、打造高效团队等核心原则，以及对创新、试错和放弃的务实态度。讨论还延伸到AI未来的可能性，提出AI不仅作为工具，还能作为教练，帮助我们获得关于自身的洞察，引发对未来AI与人类关系的深刻思考。

产品负责人看到了 AI 的可能性。运营团队则看到了实施的混乱。 这种脱节可能会在这些 AI 功能真正到达用户之前就将其扼杀。 怎么解决这个问题？这期播客内容会详细聊聊这个话题 更多高质量内容请关注公众号： 一支烟花 AI 视频链接：https://www.youtube.com/watch?v=1__V4KTv_Gw&t=7s 00:00 本期播客由主持人小花和小强共同探讨在AI产品开发中遇到的一大挑战：从产品概念到实际运营之间的鸿沟。他们引用了jeremy和Chris hernan as的实战经验，讨论如何通过评估、人工审核和团队建设调整，确保AI产品的质量和成功落地，从而使优秀的AI想法能够持续创造价值。 02:00 AI产品质量鸿沟与稳健运营的重要性在AI产品开发中，尤其是生成式AI领域，虽然快速迭代能够加速产品从初步版本到市场的进程，但这种速度的提升反而凸显了高质量运营职能的极端重要性。随着生成式AI的兴起，使用API和少量数据即可快速启动项目，迭代速度大大加快。然而，迭代速度的提升也意味着产生错误和意料之外结果的可能性增加，尤其是在模型不稳定的情况下。如果没有一套稳健的运营流程来监控、评估、反馈和调整，快速迭代可能会导致产品质量下降，难以跨越从初步版本到可靠版本的质量鸿沟。因此，稳健的运营能力成为确保AI产品持续成功的关键。 04:42 跨越AI产品质量鸿沟的迭代策略团队在将初步产品迭代至更可靠、大规模推广的版本时，常遇到质量鸿沟，表现为产品不稳定、效果波动及用户抱怨增多。解决这一问题的关键在于实施有纪律的闭环迭代，包括监控产品运行状态、实验尝试解决问题、测试与评估实验效果。其中，人工审核是评估的重要组成部分，与自动化评估结合确保改动确实提升了产品质量。这一持续改进的过程速度取决于迭代循环的效率，而高效的迭代依赖于强大的运营能力，尤其是在处理大量数据和用户反馈时。运营能力直接决定了产品质量提升的速度，最终决定能否成功跨越质量鸿沟。 07:36 AI的局限性与人工审核的必要性对话围绕人工智能，尤其是大型语言模型（LLM）的局限性展开，指出尽管AI在很多方面能高效工作，但因其可能产生错误甚至荒谬的输出，需要人工审核来确保其在关键领域的正确性和安全性。举例说明了AI在医疗和金融领域错误输出可能带来的严重后果，强调了人工审核在AI产品中的重要角色。 09:48 高风险场景下HITL（人类在回路）在AI决策中的关键作用在高风险和高要求的场景下，人类在回路（HITL）变得至关重要，不仅作为AI决策的安全保障，防止离谱错误，更是关键的反馈引擎。人类的交互、标记和纠正为模型提供了宝贵的信号，用于衡量模型在真实世界的表现，并用于微调和进一步训练以持续优化模型。这些反馈帮助AI模型更好地理解真实世界的需求，使输出更可靠、有用。然而，大规模实施HITL面临人力成本的挑战，特别是对于初创公司和资源有限的团队。尽管如此，HITL作为连接AI技术和真实世界需求的桥梁，既是保障也是驱动力。 12:08 利用内部资源优化AI模型质量对话中提出，当缺乏足够的人力进行AI模型审核时，可以通过公司内部的质量保证（QA）和客户体验（CX）团队来提升模型的改进效率。QA团队擅长发现软件问题和定义质量标准，而CX团队则擅长理解用户意图和评估交互质量。将这两部门的资源和能力应用于AI模型评估，不仅可以有效解决人力不足的问题，还能使这些团队在AI时代转变为模型塑造者、性能监控员，从而直接影响模型的训练和优化方向。这一策略降低了实施人机协作（HITL）的门槛，充分利用了团队已有的领域知识和评估能力，而不需要他们成为AI技术专家。 15:49 AI产品质量提升的关键角色：AI质量负责人对话探讨了在提升AI产品质量方面，一个新兴的关键角色——AI质量负责人的作用与特质。这个角色需要对客户需求和业务领域有深刻理解，具备系统性思维，能有效连接业务需求、用户反馈和技术实施。尽管不一定是硬核工程师，但通过使用合适的工具和与工程、产品团队紧密合作，在AI产品的迭代优化中扮演着至关重要的角色。尽管这一角色在不同公司中名称不一，但其对于提升AI产品质量具有显著正面影响，成为加速质量提升的关键突破口。 19:00 构建与运营AI产品的关键策略对话深入探讨了构建和运营AI产品，特别是生成式AI产品时面临的挑战和策略。强调了在高风险、高信任度场景下引入人类在循环（HITL）的必要性，以及质量保证（QA）和客户体验（CX）团队在产品设计早期阶段的参与。指出了上线只是开始，持续迭代和优化、人工反馈机制的嵌入以及利用内部运营力量的重要性。最后，提出了关于AI质量定义的演变以及如何发现和赋能潜在的模型塑造者的问题，鼓励听众深入思考和交流。

00:00 深入解析AI巨头：讨论内容涵盖Meta的近况、OpenAI与微软的复杂关系、苹果在AI时代的挑战，以及NVIDIA与AMD的芯片竞争。此外，还探讨了马斯克的XAI及其groot模型的实际情况，旨在为听众提供对AI巨头们深层动态的清晰认识。 01:42 Meta的AI大模型进展及挑战Meta在AI大模型领域同时推进多个项目，包括代号为lemon、moth、mac和scout的模型。尽管开源社区对lemon 4系列的期待较高，但其反响平平，且有重要模型被推迟或可能被砍掉。其中，moth模型在训练方法和关键决策上遇到问题，被推迟甚至可能不会发布。而marc模型发布时表现尚可，但很快被阿里巴巴和deep seek等公司的新模型超越。另一个名为Scott的模型，试图模仿deep seek的专家混合架构（mixture of experts），但未能取得成功。Meta在AI领域的进展面临挑战，尤其是面对其他公司快速迭代的竞争压力。 03:59 Meta贸易架构问题与技术领导力缺失讨论了一个公司（类比为贸易架构）中，尽管拥有众多顶尖专家和丰富的计算资源，但因调度系统（路由器）训练不足，导致部分专家无法有效分配到任务，从而造成计算资源和模型容量的浪费。指出问题关键在于有效的组织协调和技术领导力的缺失。05:36 AI研究中的技术品味与决策对话强调了在AI研究中，尤其是决定技术路线和扩大规模时，拥有权威且深入理解技术的决策者的重要性。这种决策者的品味，既包括技术深度和前瞻性，也融合了直觉和艺术感，能够在众多研究路径中准确判断出最有希望的方向。缺乏这种品味，可能会导致在错误的技术路线上投入大量资源，从而造成高昂的回头成本。最顶尖的技术决策者能够识别别人未见的可能性，并规避潜在的陷阱。 07:26 Meta通过收购和招揽人才追赶超级智能Meta面临内部挑战，尤其是缺乏能做出关键决策的人才，导致项目效果不佳或被推迟、取消。为弥补这一短板，Meta采取了大规模的外部招揽策略，包括收购和高薪挖角。扎克伯格亲自参与招人，目标明确，旨在追赶超级智能。收购Scale AI的目的主要是为了获取其创始人Alex及其核心团队，而非该公司当时的业务。Alex年轻有为，成功说服Meta收购其公司，并被赋予领导追赶超级智能项目的使命。 09:09 扎克伯格对超级智能态度的转变及其影响几个月前，扎克伯格对AGI通用人工智能或超级智能的态度发生了180度转变，认为这是未来最重要的事情，并决定不惜一切代价推动Meta赶上这一趋势。这一转变可能受到了OpenAI等竞争对手的进展和行业整体风向的影响。Meta尝试通过收购Skill AI、SSI、Thinking Machines和Capacity等公司来增强其在超级智能领域的竞争力，但均未成功。此外，Meta也在努力挖角包括Daniel Gross和Nat Friedman在内的顶尖人才，不仅通过金钱吸引，更强调能够提供在数十亿用户平台上实现超级智能目标的权力和机会。 11:44 Meta与OpenAI在AI人才争夺战及超级智能竞赛中的策略对话围绕Meta和OpenAI在AI领域的激烈竞争展开，特别是Meta为顶尖AI研究员开出的高额合同，传闻甚至达到1亿元人民币以上，以及Meta通过收购初创公司获取人才的策略。尽管Sam Altman表示OpenAI的顶级人才未流失，但有观点认为Meta确实挖走了OpenAI的部分顶级人才。同时，讨论还涉及Meta与OpenAI在超级智能竞赛中的不惜代价的竞争策略，以及OpenAI与微软之间复杂的关系动态。13:40 OpenAI与微软合作的复杂结构与潜在风险OpenAI从非营利组织转型为有盈利上限的公司，微软通过复杂的交易结构进行投资，包括收入分成、有上限的利润保证以及在实现通用人工智能（AGI）前的所有知识产权许可或所有权。这种结构虽然确保了微软的投资回报和控制力，但也带来了模糊地带和潜在风险，如AGI定义权的争议、知识产权归属的不确定性，以及OpenAI未来独立融资的困难。此外，OpenAI不再受限于只能使用微软Azure的云计算资源，这一变化可能与Azure无法满足OpenAI的算力需求增长有关，同时也可能考虑到反垄断风险。微软作为补偿，获得了对OpenAI计算合同的优先承接权。整体而言，尽管OpenAI与微软的合作看似强大，但内部存在着复杂的博弈和潜在风险，这对OpenAI的长远发展构成了挑战。 19:08 OpenAI的GPT5项目Orion为何失败及教训OpenAI在2024年初启动的GPT5项目Orion，旨在通过大规模增加模型参数和训练数据来提升模型性能，但最终因效果不佳面临弃用。Orion项目面临的主要问题包括模型运行速度慢、成本高昂，以及关键的泛化能力不足。由于高质量训练数据的增长速度跟不上模型参数量的增长，Orion过度记忆训练数据，而非真正理解并泛化。此外，训练过程中的工程挑战和稳定性问题，以及内部另一个项目Strawberry的成功，揭示了通过高质量、结构化数据提升推理能力的更有效途径。OpenAI从Orion项目中学到，单纯的参数堆砌和通用预训练数据可能需要调整，未来应更多关注高质量、多样化的数据获取和利用，以及更有效的训练方法。 25:58 苹果在AI浪潮中的挑战与策略在当前的AI浪潮中，苹果显得相对低调，其面临的挑战主要源自文化和战略层面的保守、对顶尖AI人才吸引力的不足以及与NVIDIA的历史恩怨导致的硬件选择受限。苹果向来谨慎收购，更倾向于整合小规模初创公司的技术，这种封闭文化不利于吸引顶级AI研究人才。尽管苹果近期允许员工发表研究论文，但长期形成的印象难以迅速扭转。此外，苹果与NVIDIA因多年前的GPU故障事件结下梁子，NVIDIA曾威胁起诉苹果，加深了双方矛盾。由于不愿使用NVIDIA硬件，苹果在AI基础设施建设上受限，影响了AI研究效率和人才吸引力。苹果正努力追赶，大力投资数据中心，研发自己的AI加速器芯片，并从谷歌挖角关键人物。面对这些挑战，苹果目前主推端侧AI，强调设备本地运行AI模型，以隐私安全和低延迟为卖点。 31:23 云端AI与端测AI的未来之争讨论集中于云端AI和端测AI哪个更具未来潜力。尽管端测AI在安全和隐私方面有优势，但在用户选择、硬件性能限制以及实际应用场景需求等方面，云端AI因其便利性、成本效益和强大的处理能力占据主导地位。虽然端测AI在某些低价值低成本功能和快速响应任务中仍有用武之地，但核心的思考、推理和知识调用等复杂任务，主要还需依赖云端AI。苹果等公司尽管强调端测AI，但在战略上仍重视云端AI的建设，表明了其在AI技术未来发展方向上的实际考量。 36:07 AMD与NVIDIA在AI芯片领域的竞争及NVIDIA新策略争议对话围绕AMD与NVIDIA在AI芯片领域的竞争展开，讨论了AMD的MI30X芯片与NVIDIA的Blackwell GPU在硬件性能上的差距，以及NVIDIA在多卡互联和软件生态方面的优势。尽管AMD在硬件方面取得了一些进展，但在软件生态上仍与NVIDIA的CUDA生态存在较大差距。此外，对话还提到了NVIDIA近期通过扶持新兴AI计算云服务商来制衡传统云计算巨头的策略，以及这一策略引发的争议，特别是NVIDIA收购Lipton并推出DGX Cloud服务，直接与之前扶持的伙伴竞争，可能导致AMD有机会争取这些不满的客户。 43:01 AMD通过灵活策略挑战NVIDIA的GPU市场AMD通过提供更具吸引力价格的GPU产品以及采用创新的市场策略，如卖卡给云服务商后又租回使用，来提升其在GPU市场的竞争力。这种策略不仅展示了AMD对自己产品和生态的信心，还帮助云服务商分担了初始投资的风险，降低了他们尝试AMD平台的门槛。尽管AMD在系统信号和软件生态上仍落后于NVIDIA，但凭借其价格竞争力和灵活的市场策略，AMD有望在高性能比产品市场上获得一定的市场份额，尤其是在有强大内部工程能力的大型客户中。尽管NVIDIA目前仍是市场的绝对领导者，但AMD正在通过差异化策略争取自己的生存空间，未来竞争将更加激烈和多元化。 45:34 埃隆·马斯克的AI公司XAI及其Grok模型的独特优势对话讨论了埃隆·马斯克的AI公司XAI及其Grok模型的独特优势和潜在风险。Grok模型利用实时信息获取能力，尤其是通过接入X（前Twitter）平台的实时数据，能够在处理突发时事新闻时反应迅速，提供比其他模型更直接和更新的信息。此外，相比其他主流大模型，Grok在内容审查和政治正确方面的限制较少，能够提供更深入、信息量更大的答案，尤其是在涉及复杂或敏感话题时。尽管Grok具有这些独特优势，但在日常使用和通用能力方面，它可能还不及顶级模型如OpenAI的GPT4。XAI公司拥有大量算力资源和顶尖人才，致力于在现有AI技术路线上寻找差异化优势，但是否能完全颠覆现有范式还有待观察。 51:14 AI发展对未来白领工作的影响讨论了AI技术的快速发展是否会对白领工作造成重大影响。从历史角度分析，重大技术进步通常短期内对某些行业有冲击，但长期提升了社会生产力并创造了新工作岗位。AI带来的焦虑感主要源于其发展速度和收益分配问题。AI目前对需要创造力和思考的初级白领工作，如图形设计、内容写作等，影响更为显著。未来，人与AI的协作模式将从简单的交互转向更深层次的任务处理，人类在许多领域可能彻底退出循环。预计大规模显著的失业潮可能在2028年到2030年左右发生，但技术实现到经济和社会层面的大规模部署需要考虑多种因素。软件工程师岗位已感受到影响，尤其是初级职位，科技公司通过AI工具提升现有团队生产力，降低了招聘新人的需求。新人需要快速掌握AI工具和提升解决复杂问题的能力，以适应新的职场挑战。 57:04 AI领域开源与闭源之争及超级智能竞赛前景对话深入探讨了AI领域内开源与闭源模型的未来主导趋势，以及在奔向超级智能的竞赛中，各主要科技公司的竞争态势和潜力排名。讨论指出，尽管开源AI在某些阶段可能作为追赶策略，但长远来看，闭源模型可能因巨大的研发投入和知识产权保护而占据主导地位，引发对科技巨头权力集中的担忧。 在超级智能竞赛方面，OpenAI因其先发优势和创新能力被看好领先，anthropic紧随其后，而Google DeepMind、XAI和Meta也被视为有潜力的竞争者。这场竞赛将深刻影响AI领域及社会发展。此外，对话还涉及了AI对就业市场的影响、技术公司内部挣扎、以及AI时代的文化和技术挑战。

Douwe Kiela 是 Contextual AI 的首席执行官和联合创始人。他还是斯坦福大学符号系统系的客座教授。 此前，他是 Hugging Face 的研究负责人，以及 Meta 基础人工智能研究（FAIR）团队的研究主管，在那里他率先提出了检索增强生成（RAG）等其他关键 AI 突破。 他在多模态、对齐和评估方面的工作为 AI 领域设定了新标准，并使系统更加安全、可靠和准确。 视频地址：https://www.youtube.com/watch?v=kPL-6-9MVyA 00:00 RAG增强生成代理在企业应用中的挑战与经验本期播客深入探讨RAG增强生成代理在企业生产环境中的实际应用挑战与宝贵经验。主要基于AI06的CEO，同时也是RAG技术的开创者之一dv killer的分享，讨论了技术落地的难点和实践指导意义，强调了从实践中学习的重要性。 01:52 企业AI应用的现实痛点与突破面对AI每年为全球经济带来的高达4.4万亿美元的增值的期望，企业界对AI的期望极高。然而，福布斯研究显示，只有约四分之一的企业能从AI投资中获益，这反映了巨大的期望与实际成效之间的鸿沟。企业投入大量资金和人力，却未能实现预期的革命性变化，导致负责AI项目的高管面临巨大的压力。本次探讨旨在揭示企业AI应用的真实痛点，以及可能的关键突破口，特别关注RAG（Retrieval-Augmented Generation）的应用，为企业提供AI落地的前沿进展和启示。 03:57 企业AI挑战的核心：语境悖论与上下文处理对话探讨了企业AI项目面临的挑战，特别是处理复杂上下文问题的难度。提到莫拉维克悖论，指出AI在高度抽象任务上表现优异，但在依赖人类本能和常识的简单任务上表现欠佳。提出了语境悖论，即现代大型语言模型（如GPT4）在复杂任务上表现出色，但在处理特定上下文的简单任务时遇到困难。讨论了上下文处理能力对企业AI应用价值的重要性，并以金融、医疗和制造业为例，说明了在这些领域中理解和应用特定上下文的难度及重要性。 11:46 RAG系统构建中的十大经验教训在构建和优化RAG（Retrieval-Augmented Generation）系统时，首先应认识到系统工程的重要性，而非仅聚焦于模型。模型只占整体系统的20%，而剩余的80%涉及数据源获取、数据预处理、索引构建、检索策略、生成控制、评估体系、监控系统和用户接口等多个复杂环节。此外，专长在RAG系统中比通用人工智能更为关键，强调了针对特定领域优化的重要性。 16:40 企业AI应用：专长与规模的重要性对话探讨了在企业AI应用中，相较于通用大模型AGI，具有深度专长的AI系统更能解决具体高价值的业务问题。通用模型虽然知识面广、适应性强，但在处理特定领域复杂任务时，缺乏深度领域知识和对特定上下文的理解，且存在数据安全和隐私风险。 而特化训练的AI系统，如法律合同审查、医疗影像分析等，因其理解领域内的微妙差别，能提供更准确、更符合专家判断的输出，并且数据安全更有保障。尽管特化系统开发成本高、周期长，但其在特定场景下的差异化价值和竞争优势是通用模型无法比拟的。此外，对话还提到规模是护城河，利用大量嘈杂数据是企业AI发展的关键策略。 20:16 利用大规模嘈杂数据构建企业AI竞争优势对话探讨了在企业环境中，利用大规模、非结构化且嘈杂的数据作为AI竞争优势的观点。传统观念认为，数据需清洗干净才能喂给AI，但这种做法可能忽略了企业内部海量数据中蕴含的真实细节和隐性知识。通过发展技术，让AI能直接处理和理解大规模的复杂数据，企业可以构建出难以复制的竞争壁垒。这种方法要求在完美主义和实用主义之间找到平衡点，认识到数据规模和处理复杂数据的能力本身就是一种战略资产。 24:13 从试点到生产：AI项目实施的挑战对话深入探讨了从成功的试点项目扩展到大规模生产环境所面临的挑战，包括系统规模、健壮性、数据变化、用例多样性、安全合规性、成本控制、以及运维等方面。强调了从第一天开始就为生产环境设计的重要性，即使项目初始规模较小，也应前瞻性地考虑未来可能遇到的问题，以确保最终系统的稳定可靠。 28:04 速度大于完美：AI产品快速迭代策略在AI产品开发中，尤其是快速发展的RAG领域，速度大于完美的理念至关重要。与追求一开始就设计出完美系统的传统思维不同，应优先考虑快速推出一个能解决用户核心痛点的初步版本，并通过真实用户的反馈快速迭代优化。这种敏捷开发或经验创业的方法强调小步快跑和调整，逐步逼近最优解。关键在于平衡速度与质量，确保基本的代码规范和测试稳定性，同时避免过度设计和投入。通过真实的反馈驱动产品进化，拥抱不完美，快速行动，这在快速变化的AI赛道上尤为重要。 31:24 工程师应聚焦高价值任务而非繁琐重复工作对话围绕现代RAG（Retrieve and Generate）系统构建和维护过程中的无聊而耗时任务展开，讨论了诸如反复调试文本分块策略、设计和优化prompt、维护数据连接器等任务。指出这些任务虽然耗时但技术挑战不大，难以标准化，且对企业的核心竞争力贡献有限。提出现代RAG平台应通过提供良好的默认设置、自动化能力和易用工具，帮助工程师从这些低价值的重复劳动中解脱出来，让他们能够聚焦于真正创造差异化价值的任务，如设计更有效的RAG应用场景、整合独特领域知识、探索先进的检索算法等。从而实现工程师在最有价值的创新上的精力投入，避免资源浪费。 35:03 第七课：工作流整合使AI易于消费对话强调了将AI无缝嵌入到用户日常工作中，通过工作流整合提高AI应用的采用率和用户粘性的重要性。指出许多公司虽然开发了AI系统，但因用户体验不佳或操作复杂而难以实际应用。通过具体例子说明，将AI能力自然地融入用户现有的工作流程和工具中，如CRM系统、IDE、客服系统等，能够大幅提升用户接受度和使用效率。成功的AI应用应该作为一种增强智能的能力，悄无声息地融入各种现有业务系统中，而非独立的产品。 38:29 为哇哦时刻而设计：创造用户惊喜体验对话讨论了“哇哦时刻”在产品设计中的重要性，这是一种用户在使用产品时因惊喜和巨大价值而发出的惊叹。这种体验不仅能够提升用户留存率，激发口碑传播，还能在组织内部推广AI应用。通过高通公司RAG系统帮助工程师解决难题的案例，展示了如何有意识地设计和创造这种惊喜时刻，包括连接孤立信息、发现隐藏模式、提供全新视角等策略。对话强调，一个好的产品应超越用户的基本需求，通过精心设计为用户提供惊喜体验，这是用户爱上产品并积极推荐的关键驱动力。 42:16 AI系统的准确率与不准确率管理对话强调了在AI系统开发中，虽然准确率是基础，但更应关注不准确率的处理。在达到一定准确率后，重要的是理解剩余错误的原因，包括在什么情况下容易出错、出错的后果、如何检测和修正错误。特别是在高风险场景，如金融决策和医疗建议，即使是5%的错误也可能致命。为了处理这些不准确性，需要建立完善的评估机制、详细的审查记录、清晰的归因能力以及后处理校验。这种对不准确性的管理能力在强监管行业中尤为重要，它体现了系统的成熟度和可靠性，甚至比单纯追求高准确率更重要。 45:56 企业AI应用：从RAG经验到未来形态探讨本次讨论总结了企业AI应用的十条宝贵经验，从战略心态、系统构建、落地执行到用户价值层面进行了分类和分析。特别强调了专长聚焦、敢于设定挑战性目标以及利用特定领域的上下文和专长的重要性。最后，提出一个深入思考的问题：未来企业AI的主流形态是否会朝着由高度特化的领域智能体构成的协作网络方向发展，而非追求单一的通用人工智能（AGI），并探讨了这种变化可能带来的挑战和机遇。

约翰·卡马克——《毁灭战士》、《quake》以及现代 3D 游戏时代的传奇程序员——将目光投向了新的前沿：人工智能 00:00 科技传奇人物JN Carmax的跨领域探索与AI转型本期播客深入探讨了科技界传奇人物JN Carmax的职业生涯及其对多个领域的贡献。 他作为大神级程序员，不仅定义了第一人称射击游戏（FPS）类型，还推动了GPU技术的发展，对早期游戏对3D图形性能的极致追求影响深远。 从游戏领域到火箭制造，再到VR领域的创新，如解决VR延迟问题，他的每一次探索都推动了技术进步。最终，他转向AI领域，并与OpenAI的几位创始人合作，这表明了他敏锐的科技嗅觉和自我驱动力，以及对通用人工智能（AGI）的深深好奇和追求。 05:34 从独行侠到团队协作：探索AGI的复杂旅程起初，他计划以维多利亚时代的绅士科学家身份独立进行研究，但意识到AGI的复杂性后，接受了风险投资，成立了king technologies，并组建了一个六人的研究团队。与强化学习领域的专家Richard Sun的思想共鸣进一步推动了他的研究方向。 尽管对LLM（大型语言模型）如transformer模型的成就表示肯定，但他认为LLM并非通往AGI的全部答案。他比喻LLM像是把所有知识扔进搅拌机，虽然有时表现惊人，但缺乏生物智能的学习和适应能力。 LLM在逻辑推理、处理新颖或反事实情况，以及持续学习方面存在明显不足，更像静态的知识库而非动态智能体。因此，他坚信LLM与生物智能之间存在巨大鸿沟，不会是最终答案。 09:28 从工程到科学探索：AGI研究的本质转变对话讨论了从从事游戏、VR等工程性质工作转向进行AGI（通用人工智能）研究的本质不同。 强调了工程与科学研究之间的根本性区别，前者通常有明确的目标和技术路径，而后者是在探索未知，面对更多的不确定性、更高的失败风险和可能更长的时间投入。 这种转变要求研究者接受科学探索的不确定性，尽管AGI研究特别难，但因其可能取得的突破和价值，现在被认为是进行AGI研究的关键时期。 11:33 Kar Mark的AI研究路径与反思Kar Mark最初计划通过构建一个能理解视频的AI系统，连接游戏、强化学习和现实世界，但因技术难度高而调整方向。 他反思了早期过于追求底层优化、偏好物理硬件、选择研究平台不当等失误，并意识到在AI研究中，效率与深度的权衡至关重要。 最终，他选择了Atari平台，认为通过研究不同游戏可以有效解决强化学习的核心问题，如学习效率、泛化能力和灾难性遗忘等。 这一选择体现了对主要矛盾的把握和研究策略上的取舍。 16:52 Atari游戏平台在AI研究中的核心价值对话深入探讨了Atari游戏平台在人工智能研究中的价值。 首先，Atari Learning Environment (ALE) 作为强化学习的经典研究平台，承载了丰富的历史基础和传承。 其次，尽管有些人认为Atari已被研究者充分探索，但其依然包含了解决AGI核心问题的所有必要元素，包括游戏的多样性、无偏性以及持续的挑战性。 Atari平台上的100多款不同类型的游戏提供了测试算法通用性的绝佳机会，而其无偏性确保了游戏设计不会迎合特定算法的弱点。 即使在某些游戏中AI取得了超人类的分数，这种成绩并不意味着完全理解或解决了问题，因为算法在不同任务间的敏感性和脆弱性揭示了对鲁棒性通用学习机制的深入理解仍有待提高。 此外，Atari游戏的复杂性持续提醒研究者，高分不代表真正理解，背后还有更多深层次问题待解。 20:57 强化学习中的数据效率和环境选择对话聚焦于强化学习中学习速度和数据效率的问题，特别是与Atari游戏相关的研究。 讨论指出，传统的训练方法需要大量游戏数据才能取得好成绩，而人类玩家则能以更少的数据迅速上手。 因此，研究社区引入了Atari 1K基准，严格限制智能体使用更少的数据来学习，以筛选出真正高效的学习算法。 此外，讨论还涉及环境选择的重要性，强调了游戏环境，尤其是Atari游戏，因其适中的复杂度成为研究的理想选择。 特别提到了避免直接使用游戏内部状态信息以避免绕过学习关键特征的难题，坚持让AI从原始像素画面中学习和理解游戏状态，实现端到端的学习。 23:46 物理机器人实验中的实时性和延迟挑战在物理机器人实验中，提出了现实世界不是回合制游戏的观点，强调了实时性和延迟的关键性。 传统的强化学习交互模式在现实世界中因环境的持续变化而显得不足，因此需要环境调用agent的模式，即环境持续运行并在特定时间点询问agent的决策。 这种模式对算法的响应速度提出了极高要求，使得在模拟器中表现良好的算法在真实时间约束下可能失效，特别是那些依赖于大量重复计算和构建复杂世界模型的算法。 为了检验算法在真实延迟下的表现，实验中使用了一个摄像头对着运行Atari游戏的电视屏幕，通过特制的机械手柄和高性能游戏笔记本电脑的组合来模拟真实世界的学习挑战，从而挑战了AI的奇点临近论。 27:52 使用机械臂和深度学习玩Atari游戏的挑战与创新讨论了利用机械臂和深度学习技术玩Atari游戏的复杂性和创新方法。 重点在于通过按手柄上的fire键重启游戏以简化设置，使用CUDA graphs技术优化端到端计算流程，以及解决摄像头低延迟视频流、同步问题和屏幕识别校正等挑战。 此外，还探讨了机械手柄引入的真实物理延迟导致的“幻影动作”问题，以及强化学习agent需要理解和预测动作执行时间的必要性。 最后，提到了物理磨损和延迟对实验的影响，强调了现实世界操作的复杂性。 34:51 物理机器人实验中的分数检测挑战与强化学习启示在物理机器人项目的挑战中，最令人头疼的部分是分数检测，即通过摄像头图像识别屏幕上的分数，这一过程对光照变化、屏幕反光等异常敏感，导致识别错误或失败，严重影响了基于奖励信号的强化学习训练。 为了应对这一问题，开发了一个特殊的开发盒子，通过显示专门设计的视觉标志来辅助传递分数信息，但这牺牲了在纯粹真实硬件上运行的初衷。 从实验中得出的启示包括： 卷积神经网络对于处理真实世界的视觉干扰是稳健的； 标准时序差分学习算法在有额外延时的情况下仍能工作，但学习效率和性能会下降； 高延迟会直接导致在模拟器中表现优异的脆弱算法崩溃。 因此，建议在强化学习研究的模拟环境中加入可调节的延迟队列，以测试算法对延迟的鲁棒性，同时避免通过在算法其他部分添加匹配延迟来作弊，而是从根本上解决问题，例如将动作历史或尝试的动作意图作为输入信息。 38:38 AI的灾难性遗忘与持续学习挑战讨论了AI在学习多个任务时面临的灾难性遗忘问题，即在学习新任务时忘记旧任务的知识。 解释了这种现象在实际应用中的影响，以及目前缓解该问题的一些方法，如同时训练所有任务或使用经验回放缓冲。然而，这些方法都有其局限性，且可能导致离线强化学习的挑战。最终，持续学习和解决灾难性遗忘仍然是AI领域的一大开放性问题。 43:22 迁移学习在AI中的挑战与困境对话聚焦于迁移学习在人工智能中的挑战和失败。 讨论指出，尽管人类能够将一个任务中获得的知识应用到新任务中，但当前的AI在这一方面表现极差，即使在学过多个游戏后，在面对新游戏时几乎无法展示任何先前经验带来的益处。 举了OpenAI的Sonic游戏挑战赛和DeepMind的GOTTO模型的例子，说明即便在新关卡上学习速度更快，也没有有效利用旧关卡的知识，甚至出现了副迁移现象。 因此，提出建立新的Atari基准测试，以专门评估AI的持续学习和迁移能力，希望通过这一提议推动迁移学习领域的研究进展。 47:14 强化学习面临的七大挑战对话讨论了强化学习（RL）领域面临的七大挑战。首先，稀疏奖励（SPA rewards）问题，即在现实世界任务中，奖励信号往往非常稀疏，导致AI难以设定目标和持续探索。 其次，内在奖励和好奇心驱动的探索机制成为研究热点，以使AI能自主设定目标并从中获得满足感。 第三，探索（exploration）挑战与高效探索方法有关，传统的epsilon-greedy方法效率低下，现代游戏复杂的手柄操作更是加剧了探索难度。第四，高维动作空间的处理，如通过将复杂动作分解为独立部分来控制，是当前研究方向之一。 最后，时间尺度与层级（time scales and hierarchy）的挑战，探讨如何让AI形成跨时间尺度的连贯策略，这是接近智能本质的难题。 52:52 探讨AGI挑战与循环神经网络在Atari游戏中的应用对话深入探讨了AGI（通用人工智能）面临的八大挑战，包括学习速度、实时延迟、灾难性遗忘、迁移失败等。 讨论中指出，尽管理论上循环神经网络（如RNN、LSTM或GRU）适用于处理需要记忆的任务，但在Atari游戏上，由于游戏画面通常已包含大部分决策所需信息，简单的四帧画面堆叠输入方法效果已足够，无需复杂RNN结构。 此外，讨论还涉及了新的序列学习benchmark的必要性和设计哲学，以及内在奖励机制的设计，强调其应服务于提升最终任务表现的目标。这些讨论反映了通往AGI之路的复杂性和基础性科学挑战。

00:00 深入探讨AI上下文工程与提示工程的区别与联系本期播客由两位主持人共同探讨AI领域的热门话题——上下文工程（Context Engineering）。 通过讨论，他们解释了上下文工程的起源、精确定义及其与提示工程（Prompt Engineering）的区别和联系。主持人引用了来自AI领域知名人士的评论，强调了上下文工程在与大型语言模型（LLM）互动时的关键作用，尤其是在提供所有必要上下文以合理解决任务方面。此外，他们还探讨了上下文工程在实际应用中可能遇到的挑战以及应对策略，旨在帮助听众更好地理解这一概念的重要性及其在AI交互中的应用。 04:50 上下文工程的多种定义及核心侧重点对话讨论了上下文工程的多种定义及其核心侧重点，包括提供恰当和完整的上下文信息，以及将正确的信息以正确的格式呈现给大型语言模型（LLM）。这些观点强调了信息内容的恰当性、完整性和格式的重要性，突出了上下文工程在处理模型输入时的精妙与技巧性。此外，还提到了早期的定义以及与提示工程的紧密联系，展示了上下文工程在实际应用中的复杂性和艺术性。 08:51 提示工程与上下文工程的定义与关系探讨对话中讨论了提示工程和上下文工程的定义及其关系，强调了上下文工程不仅关注信息的自动动态填充，还涉及构建动态系统以实时调整和管理信息，使其能根据任务进展、用户反馈等实时变化。通过LangChain的定义，进一步明确了上下文工程的全面性和工程化，指出其涵盖了动态系统、正确信息与工具、正确格式以及任务的可信完成等多个方面。同时，强调了上下文工程的目标在于使模型能可靠地完成任务，提示工程可视为上下文工程的一个子集或重要组成部分。 13:31 探讨上下文工程在长上下文LLM中的重要性对话深入探讨了在处理长上下文的大语言模型（LLM）时，为什么需要精细的上下文管理而不是简单地将所有可能相关的资料一股脑地喂给模型。通过比喻和实际案例，讨论了大上下文窗口可能导致的问题，以及在实践中的几个典型上下文管理失败案例或陷阱。这些分析强调了上下文工程在确保LLM高效、准确提供信息方面的关键作用。 16:14 AI模型的上下文中毒与分心陷阱对话详细解释了AI模型在处理长上下文时可能遇到的两大陷阱：上下文中毒和上下文分心。上下文中毒指的是当错误信息或幻觉被模型反复引用时，导致模型行为偏离正确轨道；上下文分心则发生在上下文信息过载时，模型可能过度关注某些重复或不相关的内容，而忽视核心指令或普适知识，从而影响决策和表现。通过具体例子，如游戏中错误目标的强化以及AI助手围绕虚假景点规划旅行计划，说明了这些陷阱的具体表现和潜在危险。此外，还引用了研究数据表明，随着上下文长度的增加，大模型的回答正确性会下降，进一步说明了长上下文的负面影响。 20:53 AI助手的上下文混淆与工具配置陷阱对话讨论了AI助手在处理复杂或冗长的上下文信息时可能遇到的陷阱，包括上下文分心和上下文混淆。上下文分心指的是AI助手的注意力被无关信息带偏，而上下文混淆则是指模型在处理信息时错误地利用了无关内容，导致低质量的响应。特别提到，过多的工具选项可能使模型产生混淆，即使在不需要使用工具的情况下也可能错误地调用工具。研究表明，提供给模型的工具数量超过一定数量（如10到15个）时，其表现会显著下降。因此，为AI助手配置工具时应追求少而精的原则，避免过多工具带来的混淆问题。 24:29 上下文管理陷阱及其对模型性能的影响对话探讨了四种主要的上下文管理陷阱：上下文中读错误信息被放大，上下文分心被无关信息带跑，上下文混淆用错无关信息，以及上下文冲突信息内部矛盾。这些陷阱如何影响模型的性能，特别是在处理复杂指令时。通过举例说明，解释了这些陷阱的具体表现和其对模型任务完成效果的影响，最终强调了一次性提供完整指令和背景信息的重要性。 28:17 利用RAG策略解决大型语言模型的上下文问题对话探讨了使用检索增强生成（RAG）策略来解决大型语言模型（LLM）在处理长上下文时遇到的中毒、分心、混淆和冲突等问题。RAG通过仅向模型提供最相关的信息，减少了无关信息的注入，缓解了上下文分心和混淆，并降低了错误信息和幻觉的风险。此外，RAG不仅适用于问答查找资料的场景，还可以灵活应用于筛选和动态注入信息，如从大量工具中筛选最相关的几个供模型使用，从而避免了工具过多导致的混淆问题。尽管RAG本质上基于信息检索技术，但在LLM的加持下，它成为了提高回答可靠性和管理上下文的有效手段。 32:04 上下文管理策略：RAG、上下文隔离与上下文修剪对话探讨了三种上下文管理策略：RAG（过滤输入）、上下文隔离（分而治之，创建多个专注的上下文空间）、以及上下文修剪（主动移除不相关或过时的信息）。上下文隔离通过创建多个专门的AOM实例处理子任务，降低上下文复杂度，而上下文修剪则通过智能评估，从当前上下文中移除不重要的历史信息，从而保持上下文的精炼和高效。 36:22 长对话管理与摘要技术的挑战长对话管理中，摘要技术被用于将大量对话内容浓缩成简洁的摘要，以应对信息过载问题，特别是在LLM或聊天模型中。然而，摘要技术面临的最大挑战是如何确保生成的摘要准确无损地捕捉到原始上下文中的所有关键信息和细微差别，避免信息损失或偏差，从而维持后续讨论或生成任务的准确性。 39:06 上下文工程：构建高效信息管理的AI应用对话讨论了通过五种主要的上下文工程策略（RAG、上下文隔离、上下文修剪、上下文摘要、上下文卸载）和对外部存储的利用，来优化AI模型处理复杂任务的能力。这些策略旨在解决AI应用在处理信息流时面临的挑战，确保模型能在恰到好处的上下文中工作，既避免信息过载也防止信息匮乏，以最大化其性能和可靠性。此外，通过强调信息管理的系统性、动态性和工程化属性，上下文工程提供了一种更明确和系统的框架，将注意力从单个提示的优化提升到整个信息交互流程和环境的优化。 43:18 上下文工程：深化AI信息管理与双向沟通对话深入探讨了上下文工程的重要性和其在AI领域的应用，特别是面对上下文问题如中毒、分心、混淆、冲突时的策略和方法。讨论指出，技术的边界在不断拓展，新概念如上下文工程反映了对问题认识的深化。进一步提出了让AI模型更主动、清晰地表达其信息需求，实现更智能、双向的上下文构建过程，作为上下文工程下一步探索的方向。最后，邀请听众加入交流群分享AI相关经验和见解。

原视频地址： https://www.youtube.com/watch?v=8kMaTybvDUw 项目地址： https://github.com/humanlayer/12-factor-agents 00:00 这些要素旨在帮助开发者避免常见陷阱，确保AI agent在生产环境中稳定运行并有效处理各种边界情况。 通过总结实践经验，分享强调了成功应用更多依赖于扎实的软件工程原则，而非复杂的AI模型或智能。本次深度探索旨在为听众提供全面的解读和满满的收获。 02:08 从开发困境到反思：何时使用Agent及其实用边界对话围绕开发者在使用现成库或框架快速搭建项目后遇到的质量提升难题展开，讨论了从最初的兴奋到后期的挣扎。讨论中提到了使用现成框架能达到快速效果，但在追求最后20-30%的质量提升时遇到的困难，包括库代码的黑盒问题和prompt调试的边际效益递减。此外，通过一个构建dev ops agent的案例，强调了并非所有问题都需要通过agent来解决，以及在选择工具时需根据问题性质来决定最合适的解决方案，避免过度追求agent化。 07:01 构建可靠AI Agent的12要素原则对话深入探讨了在构建生产级别的AI Agent时遇到的挑战，以及如何通过借鉴软件工程的原则和模式来解决这些问题。通过与河内一百多位创建者和工程师的交流， 发现了两个关键模式： 一是成功的AI Agent更多依赖于确定性的代码和流程控制，而非完全依赖LLM的自主决策； 二是成功的应用普遍采用了核心模块化的实践模式。这些观察促使了12要素agent概念的诞生，它类比于Heroku著名的12要素应用，旨在为构建可靠、可维护、可扩展的AI Agent提供一个通用的标准和蓝图，促进AI Agent领域更快地成熟。社区对这一概念的积极反响表明，许多人都意识到了在构建AI Agent时的共同挑战，并认可这一方向的价值。 12:07 自然语言转换为JSON：LLM应用的基石讨论了将自然语言转化为结构化JSON数据的能力在大型语言模型（LLM）应用中的核心作用，通过具体例子展示了这种转换如何连接人类意图与机器执行，是后续任务准确执行的基础。从订票请求到客户服务反馈，展示了JSON作为关键数据格式在驱动后续操作中的重要性，强调了这种转换如同为AI配备了一个通用翻译器，是理解和作用于外部世界不可或缺的一步。 15:37 揭开Agent工具使用的神秘面纱对话中探讨了Agent使用工具的正确理解和方法，强调不应将其视为神秘或不可预测的过程，而是通过清晰的三步流程来控制和执行：LLM输出特定格式的JSON、确定性代码解析与执行、以及可能的结果反馈到上下文中。这种方式能提高工具调用的可预测性和可靠性，避免将其神秘化带来的问题，从而构建可靠的Agent。 20:25 LLM Agent的控制流与状态管理讨论了使用大型语言模型（LLM）构建Agent时遇到的控制流和状态管理问题，特别是LLM在处理长上下文时的局限性。提出了理想的Agent模型与实际应用中的挑战，包括性能下降、精度降低和成本增加等问题。为了克服这些挑战，建议采用更复杂的Agent结构，通过精心设计的prompt指导LLM的决策，并通过代码逻辑判断和执行确定性动作。此外，还强调了上下文构建、循环控制和状态管理的重要性，包括执行状态和业务状态的分离，以及引入高级可靠性模式如break逻辑、分支逻辑和总结步骤来优化Agent的行为。 25:24 实现agent的可暂停和可恢复工作流对话讨论了在agent系统中，执行状态和业务状态的区别及其重要性，强调了两者分离可提升系统的纯粹性和灵活性。进一步，详细介绍了如何通过序列化上下文、持久化存储、生成唯一状态ID、以及利用回调机制，实现agent处理复杂、长耗时任务的可暂停和可恢复机制，从而极大提高了agent的可靠性和可维护性。这种方法通过标准的软件工程实践，增强了agent处理复杂任务的能力，使agent能够在执行耗时任务后从中断点继续执行。 30:09 优化LLM性能：掌握Prompt和上下文构建对话强调了在使用语言模型（LLM）时，优化prompt和上下文构建的重要性。虽然框架提供的模板能快速启动项目，但要达到高质量的输出，需要进行精细的手动调整。 LLM的输出直接受输入质量影响，因此完全控制prompt和灵活构建上下文窗口变得至关重要。这包括自定义信息的表示方式，确保在有限的上下文窗口内以最高效、无歧义的方式提供决策所需信息。 上下文工程是优化agent性能的核心工作之一，涉及prompt设计、memory管理、历史记录处理等。由于没有通用的最佳实践，关键在于拥有实验不同prompt写法和上下文组织方式的能力，并有评估机制衡量效果。将此过程比作给高材生备课，精心准备和优化每一个细节，以确保模型能够做出正确解答。 35:35 智能Agent错误处理策略讨论了在智能Agent运行过程中遇到错误时的处理方法，强调不应直接将冗长的错误信息加入上下文，以免污染和误导模型。建议在代码层面分析错误，提炼简洁明了的信息加入上下文，并在后续操作成功后清除或总结之前的错误记录，以保持上下文的清洁和聚焦，为模型提供最有价值的信息。 37:30 提升人机交互体验：自然语言意图表达与打破聊天框限制对话探讨了通过让模型生成自然语言表达其意图，而非硬性选择工具调用或直接回复用户，可以提升人机交互的体验。这种方式不仅发挥模型生成连贯自然语言的优势，减少错误，还提供了更丰富的交互可能性，使交互更自然。此外，通过自然语言表达意图，可以帮助实现自动外循环agent，即agent能够主动判断何时需要跳出自动化循环与人类沟通或寻求帮助。最后，为了提升agent的实用性和用户体验，应打破聊天框限制，使agent能够融入用户的现有工作流程和沟通工具中，实现无处不在的触发和交互。这需要更高的工程要求，但却是关键一步。 40:16 微智能体在复杂流程中的应用与实践对话详细解释了微智能体在处理复杂长流程中的架构模式及其优势。通过将大型单一agent拆解为多个专注于特定任务的小型agent，形成了一个由确定性代码编排的有向无环图（DAG）。在需要决策、自然语言处理或内容生成的节点上，嵌入小型的微智能体循环，每个循环负责完成一个具体的小目标。以部署机器人的流程为例，展示了如何通过确定性代码和多个微智能体的协作，实现高可靠性的生产级应用，包括部署决策、人工确认、执行部署、状态更新及回滚策略的制定。 44:25 微智能体模式在AI工程中的应用及优势对话讨论了采用微智能体模式在AI工程中的好处，强调了这种模式能够显著提高系统的可靠性和可管理性。通过将流程分解为由单一任务微智能体处理的模块，降低了复杂度，便于定位和优化错误。这种方式体现了软件工程中的模块化和分而治之思想，使工程团队能够逐步增强系统能力，从简单任务开始，逐步引入大模型的自然语言理解和决策能力。此外，通过工程设计弥补模型能力的不足，能够在模型能力边界上创造出具有实际价值的AI应用。 47:17 无状态Agent设计与框架库的抽象层次对话讨论了Agent设计中的无状态原则，强调Agent核心处理逻辑不应持有可变状态，而应由外部管理，如数据库或状态管理器，以实现易于扩展、高可靠性和易于测试。此外，提出了关于框架和库抽象层次的思考，倾向于提供基础组件让开发者自由组装，而非大而全的框架，提到了类似Shadden UI的模式，即提供高质量代码模板或脚手架供开发者复制和定制，以平衡效率和控制。最后，提及了可能正在开发的create twelve factor agent工具，用于快速生成遵循12要素原则的Agent项目。 51:09 软件工程思维在构建可靠AI Agent中的应用对话深入探讨了构建高质量和可靠AI Agent的核心要点，强调了软件工程思维的重要性。首先，需转变心态，将AI Agent视为严肃的软件工程对象，运用成熟的工程原则进行构建。 其次，掌控状态和控制流是实现灵活性、可靠性和可扩展性的基础。理解LOOM的无状态函数特性，通过优化上下文工程提升Agent输出质量和可靠性。在处理复杂任务时，微智能体模式优于单一大型Agent循环。此外，应设计良好的人机交互接口，促进Agent与人的协作。 难点如prompt调整和上下文管理，虽繁琐但至关重要。好的工具和框架应帮助解决非AI相关复杂性，使开发者聚焦于硬核AI部分。通过严谨的软件工程方法驯服AI不确定性，是构建有价值应用的关键路径。鼓励动手实践，应用这些原则找到适合自己场景的解决方案。

Dr. Fei-Fei Li 被称为人工智能之母——这并非没有原因。在我们拥有如今的人工智能之前，她就已经在帮助构建基础。 她回忆了 ImageNet 项目的创建，该项目通过提供现代计算机视觉所需的海量数据，点燃了深度学习革命。 她讲述了早期对数据驱动方法的信念，2012 年卷积网络超出预期的表现带来的震撼，以及这些突破如何导致了图像字幕、故事生成，最终发展到生成模型。 现在，她正面对着人工智能最难的前沿之一：空间智能。 Fei-Fei 分享了为什么建模三维世界对于通用人工智能至关重要，以及为什么这可能比语言还要困难。 00:00 深入探讨了李飞飞博士在AI领域的杰出贡献和未来愿景。他们详细分析了李飞飞创建ImageNet项目的历史意义，以及她在计算机视觉领域，从简单物体识别到理解复杂场景的演进过程中的关键作用。此外，还聚焦于李飞飞作为创始人和CEO，全心投入解决空间智能这一前沿且具有挑战性问题的宏大愿景。这次讨论旨在揭示计算机视觉几十年的快速发展脉络，以及AI未来可能面临的重大挑战和机遇。 01:51 李飞飞与ImageNet的诞生在AI和机器学习尚未普及的近20年前，李飞飞博士在普林斯顿大学担任助理教授时，面对数据极度匮乏和算法效果不佳的挑战，决定创建ImageNet。当时，高质量的标注数据稀缺，神经网络尚未成为主流，而AI的概念对公众来说也十分陌生。李飞飞的梦想是让机器能够看见并理解世界，她敏锐地意识到互联网上蕴藏着海量图像数据的潜力。2007年左右，她和她的学生决定进行范式转移，转向数据驱动的方法，计划从互联网上下载10亿张图片，以此来训练模型，以期获得更好的泛化能力。 05:16 ImageNet的创建及其对深度学习革命的影响2007年提出的ImageNet构想，旨在建立一个覆盖全球事物的视觉分类体系，通过构建大规模图像数据集来推动机器学习算法的发展。尽管初期反响平平，但通过开源策略，ImageNet成为了全球研究者共享的资源，加速了深度学习领域的突破，最终在2012年通过AlexNet的发布引爆了深度学习革命。这一过程展示了数据集构建的前瞻性和对当时主流思维的颠覆，证明了数据作为AI模型燃料的重要性。 07:49 ImageNet挑战赛与AlexNet的突破ImageNet大规模视觉识别挑战赛自设立以来，旨在吸引全球顶尖人才解决图像识别问题。起初几年，尽管设定了基准线，但进展缓慢。直到2012年，多伦多大学的一个团队使用改进的卷积神经网络（CNN）模型AlexNet，在ImageNet挑战赛上取得了突破性的成果，错误率从26%左右降至15.38%，引发了深度学习领域的轰动。AlexNet的成功归功于三位一体的完美结合：海量高质量数据、强大的计算能力（GPU并行加速）以及算法本身的优化。这一成果标志着深度学习革命的开始，彻底点燃了深度学习的热潮，影响至今。 12:16 从图像识别到场景理解：视觉智能的发展对话讨论了视觉智能从物体识别发展到场景理解和故事叙述的过程，强调了李飞飞博士及其团队在这一领域的贡献。从AlexNet的突破到深度学习在图像识别和自然语言处理的应用，再到图像描述（image captioning）和基于文本的图像生成技术的实现，展示了视觉智能技术的快速发展和巨大潜力。 16:54 空间智能：AI探索的下一个前沿对话探讨了AI领域中空间智能概念的起源和发展，强调了从进化论和脑科学中汲取灵感的重要性。提出者认为，视觉和空间理解能力的进化历史比语言能力更为悠久，是智能发展的根基。空间智能旨在让AI理解、生成、推理三维世界，并在其中行动，这是实现通用人工智能的基础。为了实现这一目标，需要构建超越当前二维图像和一维语言模型的三维世界模型，以捕捉真实物理世界的三维结构、物理规律及动态交互。 20:12 空间智能：AI领域的登月计划几位顶尖青年才俊联合创办了World Labs，旨在攻克AI领域最难题之一的空间智能。空间智能的挑战包括维度差异、感知挑战、生成与重建的并存需求、数据稀缺以及大脑和模型架构的复杂性。这些难题使得空间智能成为AI领域中一个极具挑战性的目标，被比喻为登月计划级别的挑战。 24:53 空间智能的应用前景与元宇宙的未来空间智能技术的应用前景广泛，包括赋能创造者如设计师和建筑师，提升机器人学与自动驾驶能力，以及在市场营销和娱乐领域的应用。特别看好元宇宙方向，认为硬件和软件的融合正在快速发展，空间智能将是构建内容丰富、交互性强的元宇宙的关键引擎，有望大大降低元宇宙的构建门槛和成本，开启新的AI时代。 26:41 李飞飞的创业之路与个人成长李飞飞从学术界到创业领域的转变并非偶然，他的个人经历对其选择和理念产生了深远影响。 早年移民美国并克服语言和文化障碍，以及在普林斯顿大学读书期间与家人共同经营干洗店的经历，为他提供了早期的创业实战经验。这种从零开始、面对不确定性的经历，使他敢于在职业生涯中做出开拓性的选择，如加入当时不被看好的计算机视觉领域，以及在谷歌云学习工业界运作。李飞飞热爱从零构建的感觉，这种心态体现在他对人才的选拔标准上，重视知识上的无畏和对难题的渴望。这些早期非典型的经历，如开干洗店，锻炼了他的韧性、解决问题的能力和商业头脑，为他在AI领域挑战前沿难题奠定了基础。 30:53 李飞飞博士对AI领域关键问题的深入探讨在一次访谈的问答环节中，李飞飞博士针对AI领域学生的职业建议、AGI的形态、研究生教育的价值以及开源与闭源的争论等关键问题给出了深刻见解。 他建议AI方向的博士生应聚焦于工业界难以快速解决的北极星问题，如跨学科的AI应用和AI基础理论研究。对于AGI的形态，他认为可能是既有整体性又有模块化的混合形态，强调实质而非形式。关于读研究生的必要性，他认为追随好奇心和求知欲带来的内在成长是宝贵的，不会因外部世界的变化而过时。在开源与闭源的问题上，他主张AI生态系统需要多元化的方法，具体选择取决于公司的战略和商业模式。 36:24 开源保护、数据挑战与STEM领域的多样性对话强调了保护开源的重要性，无论在公共还是私营部门，开源努力对创业生态和公共利益至关重要。讨论中提到了解决空间数据稀缺问题的混合方法，包括使用真实和合成数据，同时强调数据质量高于数量。此外，还分享了作为少数族裔和女性在STEM领域的经历和建议，鼓励大家专注于行动和努力，而非身份标签，用积极务实的态度面对挑战。 39:01 李飞飞博士视角下的AI技术发展与未来探索本次对话通过李飞飞博士的视角，深入探讨了AI技术的发展历程及其未来方向，特别是从ImageNet项目的成功到场景理解和三维世界模型构建的挑战。讨论强调了理性专注、知识上的无畏以及对梦想的执着追求在技术发展中的核心作用，同时反思了AI能力指数级增长背后的驱动力——人类的好奇心与创新，以及算力和数据的规模化能力。此外，还探讨了空间智能对物理与虚拟世界交互方式的重塑，以及这一过程中可能面临的伦理考量。

00:00 大型语言模型在虚幻引擎5中的应用探索本期播客探讨了人工智能，尤其是大型语言模型如何在虚幻引擎5中应用，特别是在游戏开发中帮助编写代码。 通过对一个具体的YouTube视频内容的讨论，揭示了这一技术仍处于早期阶段，虽有基础局限，但其未来潜力巨大。节目旨在通过这次技术探险，为听众带来对未来游戏开发的启发和展望。 01:40 AI模型在虚幻引擎5中的应用及未来潜力本次讨论聚焦于一个通用AI模型在虚幻引擎5（UE5）中的应用，该模型未经过专门针对UE5的训练或优化，主要通过在外部编辑器（如VS code）生成C++代码来间接控制引擎。 这种方式限制了AI的直接操作能力，但未来有望出现专门针对UE5训练和优化的AI模型，甚至可能作为原生插件集成到引擎内部，从而获得近乎完全的访问权限，直接操作编辑器、理解和调整材质，其潜力将大幅增长，远超目前仅通过代码间接控制的局限。 03:59 AI生成虚幻引擎关卡的巧妙方法对话深入探讨了如何利用AI生成虚幻引擎(U15)中的全新关卡，尽管AI无法直接操作编辑器。 通过生成C++类，AI能够创建关卡生成的蓝图，而虚幻引擎的反射系统则能识别并将其转换为编辑器中的可交互元素。这种方式展示了AI与现有开发流程整合的潜力，即使AI无法直接操作所有工具，也能通过生成底层逻辑代码实现目标。 08:56 AI生成可配置游戏关卡代码的实践通过使用AI生成C++代码，实现了一个可配置的游戏关卡生成系统。该系统允许用户在编辑器的细节面板中设置房间的宽度、长度、高度以及是否需要天花板等参数，然后通过点击生成按钮，即可在场景中创建符合设定参数的房间。这一过程展示了从需求提出到代码生成、编译、UI生成和用户交互的完整工作流程，验证了利用AI生成代码的可行性，为游戏开发带来了新的想象空间和便捷性。 13:02 AI辅助程序化内容生成的潜力与实践对话讨论了利用AI生成和修改C++代码以创建迷宫生成器的可行性，以及如何结合虚幻商城的高质量资源，生成复杂且实用的程序化内容。进一步探讨了如何在不重启引擎的情况下导入和使用外部资产，如材质和模型，并通过C++代码处理和引用这些资产，实现AI生成逻辑与现有资源的整合。 16:42 AI辅助开发：从房间生成到迷宫创建的迭代过程通过对话内容了解到，AI在资源的整合和迷宫生成器的开发中扮演了关键角色。AI从原有的房间生成器升级到能创建程序化迷宫的生成器，展示了其迭代开发的能力，包括在现有代码基础上进行修改和扩展。虽然具体代码实现细节未在来源视频中展示，但推测可能采用了经典的迷宫生成算法或随机组合的固定尺寸房间和通道来实现。AI还展示了对材质应用、几何体接缝修复、添加天花板和灯光等功能的迭代优化能力。 这一过程显示了AI在软件开发中作为助手的角色，能够根据指令快速调整代码，但仍然需要人类的指导和监督。最终，通过几次迭代，AI协助开发出了一个功能相对完整、可调整参数并能够一键生成的迷宫原型。 25:35 AI辅助UE5开发的可行性与局限性对话详细总结了通过AI生成C++代码并间接控制UE5创建功能性的房间生成器和迷宫生成器的两个案例，证明了AI融入UE5开发工作流的可行性。尽管AI展示了迭代和处理复杂任务的能力，但其局限性也明显：非原生集成效率和功能覆盖不足，通用模型对UE5内部机制理解有限，高度依赖人类指导，以及能力范围目前主要集中在基础操作上。这表明AI辅助UE5开发虽有潜力，但仍需克服多重要素才能实现更全面的自动化。 29:10 虚幻引擎AI技术的未来潜力与发展未来AI技术在虚幻引擎中的潜力巨大，主要体现在原生U1插件、专用AI模型和蓝图AI编辑器三个关键方向。原生插件使AI完全访问引擎功能，能直接操作编辑器内部，显著提升交互带宽和能力范围。专用AI模型针对虚幻引擎进行深度学习，理解其设计理念和工作流程，生成更高效、准确的代码。 蓝图AI编辑器则降低了非程序员开发者的AI辅助开发门槛，允许他们以自然语言进行蓝图逻辑的创建和修改。此外，随着AI能力的提升，其应用范围将扩展至实时学习指导、内容生成、代码优化等多个领域，极大地提升生产力和拓展创意边界，为游戏开发带来更丰富、更智能的内容创作。 33:29 AI技术对游戏开发的影响与展望对话探讨了AI技术在游戏开发领域可能引发的深刻变革，包括降低技术门槛、提升生产力、催生新的游戏类型和开发方式。AI有望成为强大的学习助手，自动化重复性编码任务，使开发者更专注于创新设计。同时，AI驱动的NPC和程序化内容生成将带来前所未有的游戏体验。开发者需拥抱变化，持续学习，掌握AI工具的使用，以适应这一新趋势。对话还提到利用AI生成迷宫并手动添加功能的例子，展示了AI赋能社区创造的潜力。 37:14 AI在游戏开发中的现状与未来展望本期播客详细探讨了AI在游戏开发中的应用，从基础房间生成到程序化迷宫原型的创建，分析了AI生成C++类、反射系统、材质资源应用及迭代修改等关键技术。 讨论了当前AI的局限性，如非原生级通用模型的限制和对人类指导的依赖，并展望了未来AI在游戏开发中的潜力，如原生插件、专用AI模型、蓝图AI编辑器等。 提出思考：随着AI能力的提升，人类开发者的核心价值和角色将如何定义，如何更好地利用AI工具放大创意而非感到威胁。

Notion 的 AI 负责人 Sarah Sachs，她将分享 Notion 是如何构建其备受赞誉的 Notion AI 的见解。 Carlos Esteban 是 Braintrust 的解决方案工程师。此前，他在 HashiCorp 帮助企业安全地扩展基础设施。他还是前网球运动员，现在是一名瑜伽爱好者，仍在寻找下一项全职运动。 00:00 深入解析Notion AI的构建与评估策略本期播客探讨了Notion AI的构建过程及其背后的挑战，特别是如何利用Brain Trust等工具确保AI产品的质量和可靠性。Notion AI的负责人和其他专家分享了他们在迭代过程中的思考，强调了可观测性和良好评估的重要性，指出这两点是构建优秀AI产品的核心。通过深入分析，揭示了Notion AI在实际运行中如何评估表现，以及如何利用工具提高产品质量。 01:57 AI系统的可观测性与评估的重要性对话强调了在AI系统开发中，可观测性和评估的重要性远超于单纯的提示工程。可观测性指的是系统能够记录并分析AI运行过程中的各项指标，如资源消耗、响应速度和用户反馈等，以确保系统在各种场景下的稳定性和可靠性。评估则通过系统化的方法衡量AI输出的质量、准确性和可靠性，并将其融入到持续迭代的循环中。Sara的团队在提示工程上仅投入10%的时间，而90%的时间用于评估和迭代，这表明AI产品的成功更多依赖于持续的评估和健壮性，而非一次性的惊艳效果。 04:49 Notion AI的发展历程与技术演进Notion AI的探索始于早期的AI Rider功能，早于ChatGPT的兴起。其发展过程逐步演进，从简单的文本补全到数据库层面的AI代理，如自动翻译和填充信息。随着模型能力的提升，他们实现了基于RAG检索增强生成的问答功能，处理用户空间内容的复杂问题，包括多语言和非英语用户的挑战。此后，Notion AI进一步深度集成了诸如Brain Trust工具，推出了通用搜索、文件附件搜索以及AI工作套件等，包括AI会议纪要、企业级搜索和深度研究工具。这一系列功能的升级展示了从简单生成到智能体的转变，体现了务实的工程智慧和逐步推进的发展策略。 08:00 Notion团队面临的AI评估挑战与解决方案随着功能复杂度增加和用户量增大，Notion团队在AI评估中遇到了数据量激增、人工评估效率低下、评估标准不统一以及高质量反馈稀缺等挑战。早期使用Google Sheet处理数据的方法效率低下，人工评估的主观性强且难以规模化。研究显示，少量高质量的人工标注或用户反馈比大量低质量数据更有效。因此，团队迫切需要一个强大的、系统化且可扩展的解决方案来管理评估数据和追踪用户反馈，从而提高评估效率和质量，这促使了类似Bring Trust这样的工具的出现。 10:03 Notion如何通过迭代循环将评估融入日常工作Notion通过确定改进点、策划目标数据集、设计评分函数、运行评估和检查结果的迭代循环，将评估深入融入其产品开发的各个环节和角色中。这一流程不仅包括工程师的参与，产品管理和设计师也深入其中，通过查看评估结果来理解和调整用户需求，确保模型的真实表现与用户期望一致。此方法有效地避免了大量伪序数据的创建，同时保证了代码变更对产品质量的影响得到频繁和自动化的检查。 15:52 LLM作为评委：评估AI输出的两种方法对话讨论了使用大语言模型（LLM）作为评委来自动评估AI输出的两种方法：通用评委和定制评委。通用评委使用一个通用的prompt对所有样本进行评估，而定制评委则为每个样本编写特定的评判prompt，以精确捕捉对输出的细微期望和规则。定制评委尤其适用于格式、语言和内容要求严格的场景，以及评估搜索或RAG应用，因其能更好地理解复杂的规则并适应不断变化的知识库。 19:45 LLM定制评委系统在Notion的AI质量保障与迭代效率提升对话讨论了通过定制评委系统在Notion中评估和更新AI模型的核心价值。这套系统允许快速切换和评估不同模型，确保模型性能的稳定和提升，同时支持灵活选择最适合特定场景的模型。这种方法不仅加速了AI产品的迭代和优化，还帮助Notion保持了行业领先地位，最终使用户受益于更快、更可靠的AI功能。 22:04 Notion的AI迭代流程与显著成果通过应用Brain Trust和评估哲学，Notion在AI产品迭代流程中取得了显著成果，这套评估体系已成为不可或缺的基础设施。AI产品的质量相比早期有了飞跃性提升，从手工作坊进化到了现代化的工厂。此外，有效解决了多语言知识挑战，通过严谨的评估指标和流程，即使工程师不懂特定语言，也能理解和衡量AI在多语言环境下的表现，从而确保产品对不同语言用户同样友好。 24:22 深入探讨Notion LLM评委系统及其评估策略对话深入探讨了Notion在使用LLM评委系统时的策略和方法，解释了如何利用多个评委进行评估，既可能针对单个样本进行详细分析，也可能处理整个数据集。讨论了自动化prompt优化的效果及其在不同场景下的应用。此外，还详细讨论了用户反馈（赞和踩）在评估过程中的作用及其与内部评分函数的关系，强调了用户反馈的复杂性和如何利用这些反馈来持续优化当前的模型和系统。 28:50 LLM评委评分方式及其工程实践LLM评委的评分方式通常采用连续分数，如0到100分，而非简单的二元判断。在Notion的实践中，虽然分数不一定精细校准，但设定阈值（如低于0.7视为失败案例）并结合人工审查，确保了评分的有效性。面对大量失败案例时，会利用另一个LLM进行聚类分析，总结主要问题主题，提高审查效率。尽管学术界关注LLM评分的精确校准，Notion采用的是更实用的移植加人工抽查加LLM总结的方式。此外，成对比较（AB测试）在需要精细对比和控制风险时使用，而在开发早期阶段或更注重探索新方向时，更倾向于直接查看每个方案的绝对得分。 31:25 评估AI功能的挑战与策略讨论了在评估AI特定功能时面临的挑战，特别是过度依赖特定评估标准可能导致忽略其他重要方面的问题。提出了两种应对策略：创建任务特定的评估集和保留核心评估指标并承诺人工审查失败案例。此外，针对RAG（检索增强生成）评估中的动态性难题，介绍了几种处理方式，包括冻结索引和拆分评估检索与生成环节，以更准确地定位问题所在。通过拆分评估，可以更务实地解决技术难度和数据隐私等复杂问题。Notion内部大量使用其产品，为RAG评估提供了丰富的应用场景和数据，展示了doc fooding的优势。 35:25 Notion如何管理和切换大规模AI模型在管理大量AI模型和prompt时，Notion通过明确每个prompt的负责人和依赖关系，以及建立邮件列表和代码所有权等方式来确保管理和维护的有序进行。面对主要模型提供商服务出现故障的情况，Notion面临的挑战在于如何快速切换到备选模型。切换并不简单，因为不同的模型可能有成本、能力和特性的差异，需要预先配置好备选方案，并有相应的工具或流程以支持紧急情况下的快速切换。这要求公司内部进行充分的协调和投入，以确保AI功能的稳定性和可靠性。 38:09 Brain Trust平台在AI开发中的评估核心作用对话深入探讨了Brain Trust平台在AI开发中的核心作用，特别是其评估和监控机制。该平台通过离线测试和线上监控，帮助开发团队主动和被动地发现并解决问题，如AI幻觉、性能衰退和成本失控等。评估的重要性在于提升开发速度、降低成本、以及促进跨部门协作，使非技术成员也能基于数据参与AI应用的构建和评估，从而显著提高商业价值。 40:44 Brain Trust平台的核心设计理念与功能解析Brain Trust平台的核心理念包括三个关键要素： 一是提供工具让开发者便捷地创建、测试、比较和版本化管理prompt； 二是自动化评估，允许用户定义评估标准并自动运行评估以量化分数，指示版本改进或退步及需要改进的方面； 三是可观测性，平台需接入生产环境流量，记录AI系统实际运行情况，收集用户反馈并反哺评估数据集和迭代流程，形成闭环。这三者相辅相成，构成一个完整的开发和运营ML ops循环。 42:22 构建AI系统评估的核心要素讨论了评估AI系统表现的三个核心组件：任务（task）、数据集（dataset）和分数（score）。 任务指要测试的内容，可以是简单的语言模型调用或复杂的智能体工作流。 数据集由输入、预期输出和元数据组成，用于检验任务在不同场景下的表现。 分数通过评分函数量化任务的表现，支持主观的LLM评委和客观的代码或规则评分，建议结合使用以获得更全面的评估结果。 47:07 Brain Trust平台的评估模式与功能详解离线评估在开发阶段进行，通过固定数据集迭代prompt和调整模型参数，而在线评估则实时监控生产环境中的用户交互和AI响应，利用预定义的评分函数持续评估线上服务质量，形成反馈闭环以优化AI应用。 在线评估还可用于AB测试，比较不同版本的prompt性能。面对机器评分与主观判断不一致的情况，需深入理解业务场景以优化评估标准。 Brain Trust平台提供多种任务类型支持，包括基本的prompt定义、支持多轮对话的extra messages、自定义工具的工具库，以及可连接多个prompt形成复杂逻辑流程的智能体agents，以满足从简单到复杂的AI应用场景评估需求。 52:01 LLM模型评估的最佳实践与工具使用指南对话详细讨论了使用更强的模型评估较弱模型的实践，强调了具体可操作的评判标准的重要性，以及定期对比机器和人类专家判断一致性以评估评判标准的必要性。 此外，解释了breaches界面中playground和experiments的区别，前者用于快速实验和调试，后者则用于正式评估和版本比较。 最后，介绍了开发者如何通过SDK与brain trust平台进行交互，使用bring trust push和branched eve命令进行资源推送和评估任务的自动化执行，实现MLOPS或LLOPS自动化流程的关键步骤。 56:54 Brain Trust平台的AI产品生产环境监控能力对话详细介绍了Brain Trust平台在AI产品部署到生产环境后，如何通过可观察性和日志功能进行实时监控、性能下降警报设置、快速问题排查及反馈回路闭合。 平台提供了多种灵活的日志记录方法，从自动追踪到自定义日志记录，以及通过在线评分功能实时评估AI模型的表现，从而实现对生产环境AI交互数据的高效管理和优化。此外，平台还提供了视图功能，便于用户根据特定条件筛选和管理日志数据，提升数据分析效率。 01:04:00 Brain Trust在AI开发中的人在环支持对话讨论了在AI开发和评估中，Brain Trust如何通过人类审核和终端用户反馈两种方式有效整合人类智慧。 人类审核主要由专业标注员或领域专家在平台上手动标记、评分或审核数据集样本和生产日志，以建立高质量的预期输出并评估AI模型的表现。 用户反馈则通过记录用户在AI产品使用过程中的反馈信号，如点赞、点踩、评论等，以及特定行为，来收集真实用户的具体反馈，用以改进模型和prompt。 Brain Trust的SDK提供函数，便于记录这些反馈并将其集成到开发和迭代流程中，从而构建更可靠的AI系统。 01:08:45 深入探讨Brain Trust高级功能与AI产品构建对话深入讨论了Brain Trust的高级功能——远程评估，解释了其如何解决Playground在处理复杂AI应用逻辑时的局限性。 远程评估允许将本地机器或远程服务器上的复杂评估任务逻辑与Brain Trust的Playground界面整合，从而实现对复杂任务的快速调试和迭代。 此外，对话还探讨了该功能在实际场景中的应用，如处理自定义内部工具、复杂代码逻辑和快速变化的开发环境。 最后，讨论了远程评估对于提高AI产品构建和迭代效率的潜在价值，以及它如何降低非技术人员参与迭代的门槛。 通过这些讨论，强调了评估和可靠性在构建高质量AI产品中的重要性。

Theo 是 Anthropic 的产品经理，专注于将知识传授给模型。 她在 Anthropic 的工作中涉及 Anthropic API 以及 MCP。 在加入 Anthropic 之前，她大部分职业生涯都在自己的初创公司以及 Stripe 公司打造从无到有的产品。 今天，她代表 Anthropic 首次揭露 MCP 的诞生过程！ 00:00 深入解析人工智能领域中的上下文协议（MCP）本次播客深入探讨了人工智能领域日益重要的概念模型——上下文协议（MCP）。 通过比喻，解释了MCP如何使AI模型像人类一样跳出数字世界的限制，获取实时信息并执行任务。 讨论基于anthropic公司产品经理的分享，追溯MCP的诞生背景、发展过程，以及为何谷歌、微软和OpenAI等大厂开始关注并拥抱MCP。 最后，分析了MCP对AI构建者和使用者的意义以及新兴生态系统中隐藏的机会。 02:48 MCP的起源及其核心理念： 让模型爬出盒子MCP的共同创始人David和Justin在去年年中发现了开发者们在使用大语言模型进行代码调试时面临的一个普遍痛点，即需要频繁在不同系统间手动复制粘贴信息，这不仅繁琐且效率低下，还容易出错。 为了解决这一问题，他们萌生了让模型自动完成信息收集和操作执行的想法，即“让模型能够爬出盒子”。 这一核心理念意味着模型不再被动地接收信息，而是能够主动与外部世界交互，包括自行查找日志、翻阅会议纪要、从数据库中提取数据，甚至执行操作如创建bug ticket或发送邮件报告，从而显著提高工作效率和准确性。 06:44 大语言模型的能动性与MCP协议的开放生态对话深入探讨了模型能动性（model agency）的概念及其对大语言模型（LLM）下一阶段发展的关键作用。 能动性使模型不仅能够执行指令，还能自主判断和规划，从而实现更高级的交互和任务执行能力。 通过类比一个能主动管理日程和执行复杂任务的智能管家，突出了能动性带来的价值飞跃。 进一步讨论了实现大规模能动性所需的标准化协议——MCP（Model Communication Protocol），强调了其开源和标准化的重要性。 开源标准化能够打破信息和能力的孤岛，降低协作门槛，促进整个生态系统的快速发展和创新，最终让所有参与者受益。 12:14 MCP产品的市场推广及内部验证在将想法推向市场时，团队首先在内部组建了一支精锐的老虎队，快速将想法原型化。MCP的首个引爆点发生在内部的hack week活动上，工程师们通过试用发现MCP能有效解决日常工作中繁琐的问题，如自动化工作流、自动拉取数据生成周报、自动检查代码部署中的依赖项状态等，从而在内部迅速传播并得到广泛认可。 这种自下而上的热情和采纳为团队带来了极大的信心，并成为MCP价值的重要早期验证。 14:09 MCP协议发布后的常见问题与解答在MCP协议正式发布后，尽管内部对其价值高度认可，外界反应却较为冷淡，充满了困惑和质疑。 这些问题包括对MCP概念的不熟悉、与现有API技术的对比、协议开源的必要性以及MCP与传统工具调用的本质区别。 MCP作为一种专门为模型与外部世界交互设计的标准化协议，旨在提升模型的自主性和与环境的深度交互能力，而非简单地替代现有的API或工具调用。 随着时间的推移和实际应用的增多，开发者逐渐理解和接受了MCP的价值，实践证明了其在模型交互领域的独特优势。 19:54 MCP通过Cursor采纳打破冷遇，引领开发者工具集成热潮MCP在遭遇冷遇后，通过Cursor代码编辑器的采纳实现了关键转折。 Cursor作为核心用户为开发者的工具，通过集成MCP，允许模型在编码过程中实时访问项目文档、内部代码规范和相关技术讨论，显著提高了编码效率和体验。 Cursor的成功案例激发了其他开发者工具，如代码搜索工具Source Craft等，开始支持或集成MCP，证明了MCP在开发者工具集成中的价值和可行性。 22:04 MCP协议在开发者工具领域迈向行业标准MCP在开发者工具领域的影响力逐渐增强，近期谷歌、微软、OpenAI等巨头开始支持MCP，标志着其可能从有潜力的技术向行业标准迈进。 当主要模型提供商和服务平台支持同一协议时，加速了生态系统的整体发展。对于工具开发者而言，遵循MCP标准变得至关重要，因为接入一个标准可被多个模型使用。 技术标准的形成需经过实际应用验证，MCP的最终成功取决于它能为开发者带来多大的实际价值。 社区参与和反馈，如通过GitHub提issue或贡献代码，对于开源协议的发展至关重要。MCP的发展历程体现了技术扩散和标准形成的过程，其中开源和社区参与发挥了重要作用。 24:28 MCP设计哲学与智能体的未来MCP的发展遵循核心原则，尤其在协议设计层面，强调智能体（agents）作为未来AI发展方向的关键。 业界普遍认为，基于模型的智能体能够智能选择和执行行动，是AI的未来。这种观点基于人类对话的类比，即在对话中依赖对方的智能和判断力来理解意图并给出恰当回应。 同样，未来的AI模型应具备理解复杂意图、自主规划并调用工具执行任务的能力，从而从信息检索器或文本生成器进化为能解决问题的智能伙伴。为了支撑这种智能体交互，MCP在技术选择上做出了一些超前决定，如引入stream able HTTP，以服务于长远目标。 26:52 MCP协议设计哲学：智能体未来与生态繁荣MCP协议的设计哲学聚焦于支持未来智能体间的高效双向通信，引入了stream able HTTP等技术以实现持续的双向数据流。这一设计假设服务器数量将远超客户端，因此优化了服务器端的简洁性，将复杂性更多地推向客户端，以鼓励更多人构建服务器，促进生态系统的繁荣。这一策略旨在支撑智能体之间复杂多轮的协作，适应未来智能体像开会讨论一样的交流需求。 31:58 MCP近期更新与未来规划探讨对话详细讨论了MCP（一种未明确说明的协议或系统）的近期更新和未来规划。 近期的更新包括对OOS（网络认证和授权标准）支持的完善，强调了其在安全性和合规性方面的重要性，以及社区参与在改进中的作用。 此外，还提到了一个名为Inspector的调试工具，旨在帮助开发者更有效地理解和调试MCP通信过程。 未来的规划重点之一是illicitly信息征求功能，即elicit ation，旨在解决用户意图不明确或信息不足的情况，通过实现更自然、有效的多轮对话来提高任务成功率和交互体验。 36:11 MCP协议的关键组件与未来发展讨论了MCP协议的几个关键组成部分和未来发展方向，包括Registry API注册中心接口的作用，即帮助模型动态发现并使用未预先配置的MCP服务器，从而增强模型的能动性； 开发者体验（DevX）和开源示例库的建设，旨在降低学习曲线，提供最佳实践，促进MCP技术的推广和成熟； 以及治理（Governance）的重要性，强调确保MCP协议持续开放、中立，并通过健康、透明的社区驱动机制进行演进，建立社区信任，避免被少数方控制，保证协议长期健康发展。 39:05 构建高质量MCP服务器：从模型视角出发对话深入探讨了未来智能体架构的前瞻构想，特别是MCP（Model-Client-Protocol）生态中，如何构建高质量的MCP服务器成为关键议题。 当前，构建更高质量的MCP服务器占据了80%的权重，强调了不仅要从最终用户和客户端开发者的角度出发，更要从模型本身的角度思考，确保模型能清晰理解和高效使用提供的工具或数据。 通过以用户需求和承诺为驱动的设计方法，倒推出模型所需的具体能力，从而设计出意图明确、参数具体、易于模型解析和处理的MCP工具，以实现更准确、高效的模型交互。 44:01 高质量MCP服务器在各垂直领域的应用及未来发展方向对话探讨了高质量MCP服务器在销售、金融、法律和教育等垂直领域的巨大应用潜力，这些领域通过模型与特定系统连接，能提供更高效、精准的服务。此外，讨论了简化服务器构建过程的重要性，包括开发工具、自动化测试框架和易于部署的平台等。 最后，提出了一个前瞻性的方向，即完全自动化生成MCP服务器，利用未来大模型的自然语言理解、代码编写和外部世界交互能力，实现自动构建高质量服务接口的目标。 48:35 MCP模型能动性与AI安全可观测性探索对话深入探讨了模型上下文协议（MCP）在增强AI能动性方面的作用及其面临的挑战。 重点讨论了构建高质量MCP服务器、简化server构建工具、自动生成server以及AI安全可观测性工具的重要性。 随着模型能动性的增加，安全、隐私和可控性成为关键议题。 在AI应用领域，特别是在开发者工具、金融和医疗等高风险领域，如何平衡MCP的潜力与风险，以实现突破性应用。