Orpheus微见

我发现，我们在AI面前维持情绪稳定越来越难了，我们越来越容易对着对话框里的AI生气，或者追问股票、情感和命理。在机器面前，我们似乎越来越不体面，但，更重要的是： 人，为什么要在AI面前保持体面？ 而在AI面前，我们判断力、我们的理解、我们的情绪稳定，究竟从何而来？ P.S. 我们直接从技术源头把大语言模型给祛魅了 ▶ 本期嘉宾 韦 青 微软中国CTO、工程师 ▶ TIMELINE 一 \ 为什么要体面 体面是人决定的不是机器决定的 00:32 33年前，一个技术颠覆了我母亲的工作 08:24 语言模型本质是符号技术：当符号替代真相，变异开始 12:13 AI面前，人的贪嗔痴慢疑，情绪、判断、存在，层层失控 18:29 人是符号动物，体不立，则面不存 23:51 明明妖也，而以为美：把机器当人，是混乱的开始 二 \ 祛魅模型 数字化、信息化到建模预测，拆掉语言模型的魔法外衣 28:39 货船崇拜：先进技术初看都像「魔法」，语言模型是艘新船 31:25 人为什么要在AI面前保持体面？ 37:26 机器人四定律 43:00 认知不足，就无法驾驭这个以认知为对象的技术 45:06 数字化、信息化、智能化，逐层祛魅 50:10 T=N：AI是基于过去预测T=N+1时刻 51:36 叙事经济学：信息即生产资料、分享即生产 三 \ 何为理解 做出来也不等于理解时，代价是什么？ 58:03 Vibe Coding：同一个AI，每个人都做得不一样 1:04:46「考100分」是工业文明遗产 1:14:18 AI时代的糖水：「成就感」成为新的消费对象 1:18:26 从理解符号到理解模式 1:25:19 我成了AI的Agent 1:28:23 理解的证据：偏好、细节、摩擦力 1:33:14 韦青老师常用的Prompt和Agent：图尔敏方法、罗伯特议事规则、门罗演讲法、HER TEMPLES [目的与方向] 让多个不同立场、不同模型的 AI 互相辩论，得到接近现实分布的"相对真相"，而不是一个标准答案——不被单一舆论带偏，也不困在自己的信息茧房里。韦青老师说只要知道这个目的即可，各位可以按自己需求编辑提示词和搭建智能体。 1:42:00 教育的唯一目的：让我们做个人 四 \ 如何判断 都说判断力越来越重要，判断力不会凭空长出来 1:45:48 AI开启的，是文艺复兴，还是另一个黑暗时代？ 1:53:00冯诺依曼反对机器写代码：人机分工如何判断？ 1:55:48「人的带宽永远是最终的瓶颈」 2:00:05「不是AI替代了人，而是惰性的自己替代了进取的自己」「当下最大的认知幻觉是，把生成当成了拥有」 五 \ 个人经验 关于努力、摩擦力、退休与科学研究 2:07:33 如何对技术和AI持续保持Critical Thinking 2:13:00 技术不是目的，那是什么？ 2:15:08 日常如何刻意保持摩擦力，回到「搭AI的地基」 2:20:48 退休：工业文明前没有退休概念 2:24:36 认知科学、自由意志、量子物理，我们正迎来一个无数科学假设将被验证的时代 2:27:43 朝闻道，夕死可矣吗？ 2:31:02 最后：韦青老师问我的一个问题 ▶ 概念解释 拟像与仿真 鲍德里亚的符号学概念：符号复制现实，却逐步脱离真实，最终变成没有原件的复制品，甚至反过来取代现实，成为他所说的超真实。 地图与疆域（地图与现实） 哲学家科日布斯基名句「地图不是疆域」，即语言、概念、数据，都是对现实的地图式抽象，符号指向现实，但永远不等于现实。博尔赫斯引用该概念创作寓言，一个帝国痴迷于地图，命人绘制一张与领土完全等大的1:1地图，地图最终覆盖了整个疆域，反让帝国衰落、地图腐烂。鲍德里亚在《拟像与仿真》开篇引了这个寓言，以指涉「符号取代现实、先于现实存在」。 自举法 Bootstrapping 道格拉斯·恩格尔巴特（鼠标的发明者、「所有演示之母」的演示者）提出的比喻，就像人提着自己的鞋带把自己提起来，人机共进的循环可以持续发展能力，甚至在今天出现机器自行进化。 T=N+1时刻 韦青提出的说法，T为Time，T=N为当下，T=N+1是机器预测下一步，但这种预测永远基于过去。AI 只能从处于N的数字化信息推算未来，无法真正抵达未知。 反向传播（机器学习） 训练神经网络的核心机制：模型先前向跑一遍算出结果，再拿结果与标准答案对比，把误差反向传回每一层，一点点修正参数。韦青在播客中提到，以反向传播思维做事，不追求一次准确，只分析每次偏差多少。 NBIC（会聚技术） 纳米、生物、信息、认知四类技术的合称，源自 2002 年美国科学基金会报告，主张四者融合、彼此放大，被视为 21 世纪提升人类能力的总方向。 其他：DTP（Desktop Publishing）桌面排版 / 麦克卢汉 / Yann LeCun / 恐惧营销 Fear Marketing / 金观涛 / 理查德·费曼 / Cargo Cult Science / 布莱兹·帕斯卡 / 道格拉斯·恩格尔巴特 Mother of All Demos / Vibe Coding / GitHub Copilot / Mark Russinovich / Scott Hanselman / Linux / Cursor / FDE（前沿部署工程师）/ Loop Engineering / Bret Victor / 冯诺依曼 / Stan Polly / 陶哲轩 / 艾兹格·迪杰斯特拉 ▶ 参考阅读 * 《奇点更近》 雷·库兹韦尔 * 人比我们想象的更强大（《奇点更近》序）韦青 * 《中文打字机》 Thomas S. Mullaney（墨磊宁） * 《拟像与仿真》 让·鲍德里亚 * AI对人类过于谄媚，正在扭曲人类的思维和行为方式 Science * AI会制造一个永久底层阶级吗？ Jasmine Sun 纽约时报 * 《消失的真实：现代社会的思想困境》 金观涛 * 《真实与虚拟：后真相时代的哲学》 金观涛 * Cargo Cult Science 理查德·费曼 * 《叙事经济学》 罗伯特·希勒 * 《我，机器人》 阿西莫夫 * 《暗淡蓝点》卡尔·萨根 * The Future of Programming Bret Victor🪜 * How Agents Reshape Software Engineering Mark Russinovich & Scott Hanselman * 《朝闻道》 刘慈欣 网图 ▶ 一起见微知著 * 听友群：添加微信 KingCrimson_ 备注「微见」即可拉群 * 社交媒体：公众号 / 小红书 / Bilibili / 微博 * 欢迎收听回声场ECHOCAST其他节目：在场证明 | Why for Jazz | 别想好 | 城市余数Cityremainder | 声音切片

最近四五年，我经常拿起手机却忘了自己刚才想用手机做什么。 我以为这是记性不好，但背后有个更深的问题。 如果我们把一切记忆交给外部工具、上传、假如我们能通过技术留住一切，我们可以不用记东西吗，我们到底能得到什么，又会丢掉什么？ 「微见·媒介研习」系列第10期，在存储芯片的疯狂周期，聊聊 存储器 / 记忆体 / Memory，AI的记忆，以及我们自己大脑中还剩下的记忆，到底意味着什么？ 微见《媒介研习》系列入选2023小宇宙播客大赏年度专题策划，欢迎收听往期内容：语言 | 屏幕 | 二维码 | 表情包 | 噪音 | 气味 | 信息流 | 自拍 | 马 欢迎和我讨论技术的传播/PR/营销 ➡️添加 KingCrimson_ 备注「微见」加入听友群 ▶ STRUCTURE & TIMELINE 一 \ 记忆力的诅咒 0:00 博闻强记的富内斯 3:30 存储芯片行业暴涨背后 5:22 Google对记忆的影响 6:45 苏格拉底的健忘症 二 \ 人把记忆外置的历史 8:04 骨刻，最早的Chips 10:06 斯蒂格勒的「三重记忆划分」 14:08 结绳记事、存储状态 16:43 文字、外部符号系统、存储语言 19:01 口语记忆对思想的限制 20:44 朱熹吐槽书籍 三 \ 机器的记忆：DRAM/NAND/HBM 21:48 冯诺依曼架构 23:28 RAM、DRAM、NAND Flash 27:08 半导体存储的本质 27:55 冯诺依曼瓶颈、Memory Wall、HBM 30:45 海力士与AMD出手 35:03 存储从大宗工业品到AI战略资源 37:28 为什么记忆离计算越近，越有价值 四 \ 人和AI记忆的异同 39:42 AI的「三重记忆划分」 44:14 人和AI记忆的优劣势：如果人的记忆在容量、精度、速度注定无法和AI匹敌，那我们记忆真正的价值是什么？ 48:04 亨利·莫莱森，记忆永远停在27岁的人 50:42 海马体并不存储长期记忆，人脑只有结构没有仓储 55:22 记忆就是思考 五 \ 健忘时代、记忆力与注意力 1:00:00 AI在存算一体，人在存算分离 1:03:32 看不见的大猩猩、注意力与记忆力 1:06:18 有策略的遗忘，才是更高级的记忆 1:07:07 婴儿失忆症 1:09:24头脑「简单」是好事？今天的AI正在拼命学会忘记 1:12:54 短视频、AI、网盘……把记忆上传，我们到底有什么可失去的？ 1:17:34 你想成为什么？ 1:22:04 我就是我此时此刻的记忆 ▶ 本期提及的专有名词 博尔赫斯 / 过度记忆综合征 / 所罗门·谢列舍夫斯基 / 吉尔·普林斯 / 美光科技 Micron Technology / 海力士 Hynix / 长鑫科技 / 莱邦博山 / 斯蒂格勒 / 胡塞尔 /《超体》/ Quipu / 梅林·唐纳德 / 小塞内加 / 朱熹 / HBM High Bandwidth Memory / DRAM Dynamic Random Access Memory / NAND Not And / 冯诺依曼 / Robert Dennard / AMD / 英伟达 / 亨利·莫莱森 / 记忆宫殿 / 利玛窦 / Daniel Simons / Christopher Chabris / Turboquant ▶ 参考资料及延展阅读 * Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips (2011) * Is Google Making Us Stupid? Nicholas Carr (2008) * 《Origins of the Modern Mind（现代心智的起源）》梅林·唐纳德 * 《The Muse Learns to Write（缪斯学写:古今对口传与书写的反思）》埃里克·哈夫洛克 * Tim Cook Blames Micron for Semiconductor Shock * 三星、海力士、美光，遭集体诉讼 * AI智能体的记忆是什么？ * AI如何再次改变我们的语言？ * TurboQuant: Redefining AI efficiency with extreme compression * H.M.病例：亨利莫来森 * 看不见的大猩猩 原版视频 ▶ 一起见微知著 * 听友群：添加微信 KingCrimson_ 备注「微见」即可拉群 * 社交媒体：公众号 / 小红书 / Bilibili / 微博 * 欢迎收听回声场ECHOCAST其他节目：在场证明 | Why for Jazz | 别想好 | 城市余数Cityremainder | 声音切片

为什么有人看到蓝色会觉得忧郁？为什么有些东西越贵越抢手？为什么看足球不开解说会觉得无聊？…… 曾熙为了弄清这些好奇心，读完了认知科学博士，然后，他觉得还不够，开发了一个AI，取名叫做「Chance AI」。 这里的「Chance」不是机会的意思，而是「偶然性」。 但我更好奇的是，当Chance AI在给它的20多万用户解释各种物品、艺术、图案的上下文的时候，类似过多的AI解释会不会稀释人对一个事物的判断和思考？甚至是剥夺人最独有的直接感受？ 一个关键的分水岭，就在「偶然性」上。 ▶ 本期嘉宾 曾熙 Chance AI创始人，豆包前高级总监、认知科学博士 本期节目和 霞光FM 共同录制，但偶然性来了，因为另一个麦克风故障导致录音受损，最后剪辑成了我和曾熙两人的对话。如果你对AI应用出海的内容感兴趣，或者单纯想听更多，我们找到了一轨备用音轨剪辑了更完整的对话发布在了霞光FM。 ▶ TIMELINE 一 \ 每个好奇心都值得被认真解释 01:52 生活中有太多画面，需要一个认真的解释 05:27 为什么有些东西越贵越抢手？ 09:33 从经济学转向认知科学 12:52 是先感到开心再笑，还是先笑再感到开心？ 15:24 为什么看到蓝色时期的毕加索，会感到忧郁？ 二 \ 从追寻解释，到创造解释的框架 20:00 产品是一种优雅的解决方案 26:11 做AI是因为能继续探索之前的问题 31:08 对探究人类文明有无限热情，例如人为什么愿意为了一个信念献出生命 33:58 木材和紫禁城之间的本质区别是「上下文」 三 \ Chance AI带来了什么Chance 38:42 Chance AI想实现什么 43:52 凭什么觉得AI可以理解艺术？「AI理解不了艺术」 46:20 了解谱系的重要性 53:53 什么是「解释」？ 四 \ AI会稀释人的感受力吗？ 57:05 AI会稀释人的感受力吗？ 1:01:49 扩散模型与雕刻：（现阶段）AI还是在表达人的意志 1:05:30 品味是高质量的选择能力，你才是你「上下文」的书写者 1:10:50 在无数次偶然性中，生长出最诚实的自己 蓝色时期的毕加索作品 Chance AI的一些使用场景 ▶ 提及的部分专有名词 毕加索 / Chance AI / Visual Agent / Google Lens / 韦伯伦效应 Veblen Effect / Supreme / 鲍德里亚 / 丹尼尔·卡尼曼 / William James / OnePlus / Ikigai 生き甲斐（存在的意义）/ Jimmy Choo / Blackpink / Harness Engineering / New Jeans / Diffusion Model / SnapChat / Musical.ly / 袁庚 ▶ 参考资料及延展阅读 * 毕加索的蓝色时期分析与意义 * Feeling Blue? Color Psychology and Its Use in Art * 凡勃伦效应 * 《‌符号政治经济学批判‌》 * 若身体没得到情感满足，快乐从何谈起？ ▶ 一起见微知著 * 听友群：添加微信 KingCrimson_ 备注「微见」即可拉群 * 社交媒体：公众号 / 小红书 / Bilibili / 微博 * 欢迎收听回声场ECHOCAST其他节目：在场证明 | Why for Jazz | 别想好 | 城市余数Cityremainder | 声音切片

大语言模型就是死路一条？ 至少两位图灵奖得主Richard Sutton和Yann LeCun都这么认为。 我认为这类争议的真正核心，并不是「大语言模型到底行不行」，而是关于我们自己，到底是怎么去理解和接触这个世界的。 所以它最终还是会去到一个哲学问题：如果只需要语言，就能获得真正的智能，就能通向未来，那我们这副肉体和四肢还必要吗？ 而那些美味、触觉 每一次温热的拥抱和接吻又有什么意义？ 这，可能才是世界模型真正开始的地方。 社交媒体：公众号 / 小红书 / Bilibili / 微博 世界不止语言，世界模型也一样 ▶ TIMELINE 00:00 一 / 世界不只有语言 * 如果你成为造物主，你会如何重建一个世界？ * 世界模型的核心工作：模拟、学习、预测、评估 * 今天的世界模型，是一种愿景而非单一的技术 * 4岁小孩的经历，就能超越所有训练文本 11:02 二 / 人、动物、AI如何理解世界 * 人工智能是一门仿生学？ * 强化学习与奖惩机制 * 为什么大于43℃人就觉得烫 * 卷积神经网络等仿生设计 * AI自行进化出「人脑模式」 * 世界本身就存在某些关于智能的最优解 * 持续上亿年的具身互动带来生物智能 22:45 三 / 表象世界 * 从预测像素到评估行动 * 不是所有视频模型都是世界模型 * 视频模型作为世界模型的优势和局限 33:26 四 / 空间世界 * 李飞飞的「三个一致性」 * 让AI理解空间关系、移动与物体恒常性 * 已经商业化的「世界模型」 42:14 五 / 状态世界 * 为什么一个十几岁的孩子，20个小时就能学会开车，但几百万小时的自动驾驶数据，还是没产生质变？ * 提炼当前状态，预测下一个状态，而非画面或文字 * 什么是状态？什么是好的表征？ 56:24 六 / 行动世界 * 为什么GPT爆发让自动驾驶和机器人也更强了？ * 快系统、慢系统 * 行动是世界模型的最终目的 * *其他类似世界模型的项目：斯坦福小镇、大气建模、蛋白质与AI的价值观 01:13:17 七 / 神话和技术 * 从史前开始，人类就一直在思考如何再造一个更好的世界 * 从脑电波到元宇宙，人的归宿是虚拟？ * 世界模型不是让人进去，而是让机器智能出来，不是让人向AI对齐，而是让AI向人对齐 * 如果你真的想要一个更好的世界，就去世界中做你认为好的事情 01:20:55 结尾 / 关于我的工作和职业、对技术传播的思考 ▶ 提及的部分专有名词 Richard Sutton / Yann LeCun / 维特根斯坦 / Sora / DeepMind / Genie / Runway / Seedance / 可灵 / 李飞飞 / World Labs / JEPA Joint Embedding Predictive Architecture / NVIDIA / Cosmos / Scaling Law / 汉斯·莫拉维克 / The Bitter Lesson / UCL / Edvard Moser / Gemini Omni / Jim Fan 范麟熙 / VLA / DreamDojo / LingBot-World / 智元机器人 / GE-sim 2.0 / Marble / 腾讯混元世界 / 埃拉托色尼 / 表征 / AMI Advanced Machine Intelligence / LeWorldModel / RT-2 / FSD V12 / DYNA / Optimus / Wayve / GAIA / Physical Intelligence / Pi-0.7 / Microsoft Aurora / Demis Hassabis /《The Man Who Awoke》/《黑客帝国》/《黑镜》/ Jürgen Schmidhuber ▶ 参考资料及延展阅读 * Richard Sutton thinks LLMs are a dead end * Yann LeCun: A Path Towards Autonomous Machine Intelligence * 李飞飞：From Words to Worlds: Spatial Intelligence is AI’s Next Frontier * 体验机器：我们的大脑如何预测和塑造现实 * 预测算法：具身智能如何应对不确定性 * LeWorldModel: Stable End-to-End JEPA from Pixels * 谷歌DeepMind自行进化出人脑模式，新型AI 算法具备超越人类的方向感 (2018) * π0.7发布，VLA押出了机器人的GPT-3时刻 * Jürgen Schmidhuber: Annotated History of Modern AI and Deep Learning ▶ 音乐 * You Can Prove Me Wrong - Arabs in Aspic * Computer World Pt.2 - Kraftwerk * Past and Language - Toe ▶ 一起见微知著 * 听友群：添加微信 KingCrimson_ 备注「微见」即可拉群 * 社交媒体：公众号 / 小红书 / Bilibili / 微博 * 欢迎收听回声场ECHOCAST其他节目：在场证明 | Why for Jazz | 别想好 | 城市余数Cityremainder | 声音切片