主播的话 你的 Transformer 模型，是不是有一半的计算量都在“摸鱼”？ 当所有人都在卷 SFT的时候，为什么硅谷的前沿研究者们却开始担心“模式坍缩”，转而把目光投向了 RLVR？ 这期节目，我们没请 CEO，也没请投资人，而是拉来了一位最近在硅谷“跑会”跑到腿软的硬核朋友——俊帆。作为自动驾驶领域的 AI Engineer，他在短短两个月里，密集扫荡了 Pytorch Conference、Ray Summit、AMD Dev Day 甚至各类 Hackathon（还抽中了一块显卡！）。 我们把他在这些活动上听到的“内部噪音”和“前沿信号”做了一次深度 Dump。你会在节目里听到： * 斯坦福大佬 Christopher Manning 是如何通过“残差流抹除”实验，发现 Transformer 架构其实非常浪费的； * 为什么现在大家都说“Post-training”才是决胜局，以及 Thinking Machine 实验室是如何用轻量级的 LoRA 就能跑出逼近 97% 的 RL 效果； * 还有字节、Google 在Infra层面上为了解决万卡训练和 Agent 显存焦虑做的“变态”优化。 如果你是正在死磕模型效果的算法工程师，或者是对 AI 技术栈演进好奇的产品人，这期“硅谷前线观察报告”绝对能帮你省下几千美金的门票钱。 戴上耳机，我们一起去湾区现场看看。 嘉宾： 朱俊帆：芝加哥大学金融数学和佐治亚理工学院计算机科学毕业，曾在自动驾驶公司从事 AI Agent 和强化学习的研发工作；在芝加哥做了几年投行的量化金融模型。 欢迎查看嘉宾的 LinkedIn 了解更多信息 主播： Leo：硅谷大厂高级机器学习工程师，GenAI LLM发烧友 本期重点 * 00:47 嘉宾介绍 * 02:01 嘉宾的“特种兵”行程单：从 PyTorch Conf 到 AMD Dev Day * 05:43 斯坦福教授的新发现：Transformer 后半部分的计算量，其实都被“浪费”了？ * 07:20 混合专家模型 (MoE) 的进化：如何用一半的计算量超越 Benchmark * 12:40 硅谷热词 RLVR：当数学定理成为“裁判”，RLHF 还有必要吗？ * 15:57 像人类一样思考：解决长程推理难题的“分层推理”策略 * 19:40 过度 SFT 会导致“模式坍缩”？聊聊 Post-training 时代的 Trade-off * 22:06 创业公司福音：只用 LoRA 也能逼近 97% 的全量 RL 效果 * 25:00 显存不够怎么办？Red Hat 提出的“睡眠模式”与 GPU 热交换黑科技 * 28:53 字节跳动 VERL 揭秘：如何搞定万卡集群上的 RL 混合编排？ * 34:06 Google 的 Agentic Browser：不只是看网页，而是直接运行代码 * 37:17 当 AI 遇见 NBA：从预测比赛到生物制药，Agent 的落地场景猜想 以上就是本期的全部内容了，欢迎您的收听，我们下期再见～ PS：AI Odyssey 听友群正式开通了，添加 vx：aiodysseyai 带你一起看 AI。

主播的话： 我不知道你有没有这种感觉：跟现在的 AI 聊天，总觉得缺点“人情味儿”。 它很博学，但就是记不住你。你昨天刚跟它聊完自己爱喝拿铁，今天它就忘得一干二净。这种感觉，说真的，挺没劲的，对吧？就好像，你永远无法跟一个“金鱼记忆”的家伙成为真正的朋友。 这期我们邀请了Macaron 的创始人陈锴杰，就是要死磕这个“没劲”的问题。他想做的，就是让 AI 成为真正懂你的伙伴，一个记得你的喜好、能跟上你节奏、甚至在你需要时能主动搭把手的“人”。 听他聊 Macaron 的设计思路，我们真有好几次起鸡皮疙瘩，有点科幻照进现实的感觉。 比如，他们觉得市面上主流的记忆方案（RAG）太笨了，反而是用一套类似“随堂测验”的狠招，逼着 AI 形成真正的“肌肉记忆”。更绝的是，这个 AI 还能自己写代码，现场给你“变”出各种实用小工具。聊到最后我们才发现，想在苹果、谷歌这些巨头的眼皮底下做成事，靠的竟然不是技术，而是——“品味”？这个答案，让我们回味了很久… 所以，如果你也对那个冷冰冰的 AI 世界感到一丝厌倦，如果你也期待一个更温暖、更懂你的智能伙伴，或者你就是个搞产品的，想知道在 AI 时代怎么做出点不一样的东西——来，这期节目，就是为你准备的。 嘉宾: Kaijie Chen（X @KaijieChen12236），杜克大学毕业，Macaron AI 创始人兼 CEO，专注于运用强化学习打造 Personal Agent，为用户即时生成个性化生活小程序。此前创立互动网文平台 MidReal，积累超百万用户。 主播： Leo：硅谷大厂高级机器学习工程师，GenAI LLM发烧友 产品介绍： Macaron AI：世界上第一个 Personal AI Agent 官网：https://macaron.im/ 💡本期节目，与【AI UP】招聘社区联合呈现 正在寻找AI领域的理想机会？邮件至 [email protected]，通过 AI Odyssey 合作邮箱，让招聘与求职更快一步！ 🔥 火热招聘岗位：AI Agent Engineer！薪资25 - 35万美金 + 奖金，北美远程，由YC投资、营收达5000万美金的硅谷AI独角兽企业提供，要求有5 - 15年后端工程经验，且有1年以上AI Agent开发实操经历，面向华裔招聘～ Timeline： 01:17 记忆力 + 创造力：Macaron AI凭什么不一样？ 02:50 脑洞大开：用户最爱让 AI 生成的 6 类生活小工具，你最需要哪一个？ 04:27 AI 的情商，不止“你问我答”：一个好的 Personal Agent，有一半时间在主动“关心”你 06:28 “强化学习” VS “RAG”：告别金鱼记忆，如何打造 AI 的长期记忆 09:20 解密 AI 训练：400 道“记忆考题”如何让模型在 10 万行聊天后依然“记得你”？ 13:30 “善变”是常态：AI 如何处理你“善变”的喜好 17:16 先交个朋友的商业模式：揭秘Macaron 独特的“杏仁”积分与用户激励模式 23:50 巨头夹缝中，创业公司的生存法则：Taste、记忆和速度 29:47 Personal Agent 的终极挑战：“向内”理解你，“向外”连接世界 33:31 创始人的愿景：做一个“有用又暖心”的朋友 以上就是本期的全部内容了，欢迎您的收听，我们下期再见～ PS：AI Odyssey 听友群正式开通了，添加 vx：aiodysseyai 带你一起看 AI。

还在跟只会说“请按 0 转人工”的机器人客服斗智斗勇吗？ 我们总觉得 AI 客服差点意思，但到底是技术不行，还是我们没看到它真正的实力？ 这期，我们抓来了一位真正在 AI 客服一线做产品的朋友——Yuan，让她带我们潜入“客服中心”这个神秘战场，好好扒一扒里面的门道。你会听到，传统的客服管理，如何只听 1% 的通话就能拥有 100% 的“上帝视角” ；也会明白，为什么 AI 能帮你轻松订外卖，却不敢轻易碰你的银行账单。 如果你是产品经理、AI 从业者，或者纯粹好奇 AI 怎么搞定那些“难缠”的客户，这期绝对有料，听就对了！ 嘉宾： Yuan: 现客服AI独角兽产品经理，负责多个0到1 copilot产品，前贝恩战略咨询顾问，专注于AI应用产品。Linkedin 主播： Leo：硅谷大厂高级机器学习工程师，GenAI LLM发烧友 💡本期节目，与【AI UP】招聘社区联合呈现 正在寻找AI领域的理想机会？邮件至 [email protected]，通过 AI Odyssey 合作邮箱，让招聘与求职更快一步！ 🔥 火热招聘岗位：AI Agent Engineer！薪资25 - 35万美金 + 奖金，北美远程，由YC投资、营收达5000万美金的硅谷AI独角兽企业提供，要求有5 - 15年后端工程经验，且有1年以上AI Agent开发实操经历，面向华裔招聘～ Highlight 00:18 嘉宾介绍 01:10 AI 进场前，客服这活儿有多“惨”：听听一线员工和管理者的共同“噩梦” 05:03 AI 客服“双煞”：帮你干活的 Agent vs 教你干活的 Copilot 10:11 AI 的求生欲：AI什么时候会“认怂”找人类帮忙 13:49 AI 客服的“雷区”：高风险行业（银行、医疗）和低风险行业（零售、电商）的天壤之别 17:03 创业公司调用大模型API 的“独家秘方”大揭秘 25:14 数据安全的红线：涉及支付、个人身份的敏感信息是如何通过技术手段处理的 27:23 管理者的“上帝视角”：AI 如何变身“质检员”，管理者应该如何利用 AI 38:46 AI 客服的未来：不止“陪聊”，更能“办事” 以上就是本期的全部内容了，欢迎您的收听，我们下期再见～ AI Odyssey 听友群正式开通了，添加 vx：aiodysseyai 带你一起看 AI。

主播的话 期末周堆积如山的 Reading list，上课时教授飞快的语速……作为留学生，你是不是也曾被这些场景折磨到头秃？如果现在有一个 AI，能像专属助教一样陪你啃下这些硬骨头，是不是听起来就很心动？ 这期节目，我们请来了 AskSia 的联合创始人 Bella，一个曾经和你我一样，在海外为学业奋斗的留子。她会和我们聊聊，是如何将自己留学时“听不懂、跟不上”的痛，一步步打磨成了一款备受留学生喜爱的 AI 教育产品。 这期节目干货满满，你会听到： 一个“2小时读完12周PPT”的社媒爆款笔记，是如何精准戳中用户，为产品带来千万级曝光和高达 80% 的惊人续费率的。在 AI 时代，为什么“先用内容去市场上吆喝一圈，再回来做产品”的打法，反而能让创业公司更快地活下来。以及，一支成员遍布全球、跨着N个时区的年轻团队，是靠什么方法保持超高效率和创造力的。 嘉宾： Bella Ren: Asksia 联合创始人。Bella 曾在华为担任算法工程师，专注于人工智能领域的技术研发。在华为积累了丰富的 AI 算法经验后，她转型成为 AI 教育初创公司 Asksia 的联合创始人。 来小红书关注Bella 吧～ 主播： 张子峰 Ark：AI应用创业者，全栈产品经理，AI社群主理人，前尼尔森分析师 Leo：硅谷大厂高级机器学习工程师，GenAI LLM发烧友 产品介绍： Asksia致力于利用人工智能技术打造个性化教育体验，帮助全球学生提高学习效率并突破教育壁垒。自成立以来，已在一年多实现了百万美金的年收入（ARR）。 官网：www.asksia.ai 💡本期节目，与【AI UP】招聘社区联合呈现 正在寻找AI领域的理想机会？邮件至 [email protected]，通过 AI Odyssey 合作邮箱，让招聘与求职更快一步！ 🔥 火热招聘岗位：AI Agent Engineer！薪资25 - 35万美金 + 奖金，北美远程，由YC投资、营收达5000万美金的硅谷AI独角兽企业提供，要求有5 - 15年后端工程经验，且有1年以上AI Agent开发实操经历，面向华裔招聘～ Highlight： 00:36 Bella 的创业初心：从加拿大 CS 留学生，到解决自身跨语言学习痛点 03:01 “上好一门课”有多难：实时翻译+AI 笔记，如何成为留学生的课堂“救星” 05:33 PMF 的第一次验证：一篇“2小时读完12周PPT”的帖子，如何带来 80% 的续费率 10:50 第一批种子用户从哪来：从身边的“留子”朋友开始，离用户越近，产品越准 13:58 一次关键的产品调整：上线实时录音功能后，单月付费用户暴涨近 3000 人 20:59 AI 时代的创业新逻辑：先用内容验证市场，再动手做产品，形成高效闭环 23:26 跨国团队怎么管：澳洲本土化运营，一个地区就拿下了产品 40% 的付费用户 28:35 AskSaiya 的终极目标：从解决痛点的工具，到陪伴每个人的个性化 AI 助教 以上就是本期的全部内容了，欢迎您的收听，我们下期再见～ AI Odyssey 听友群正式开通了：添加 vx：aiodysseyai 带你一起看 AI。 也可以在小红书找到我们哦～