Orange AI

Orange AI

主播 orangeai 出品 orangeai 影视娱乐 · 电视与电影 3,207 订阅 14 集 2天前更新

在小宇宙收听

简介

🍊 CEO & Founder of 火星电波| 💼 Ex-MiniMax & BOSS 直聘 | 📝 公众号:橘子汽水铺 |

E12 世界一下就切换到了禁止 AI 的时间线

E12 世界一下就切换到了禁止 AI 的时间线

Orange AI

大家好,欢迎来到橘座。今天我们来聊一聊,超级 AI 禁令和它背后的一些故事。 昨天对世界来说是一个巨大的冲击,信息也比较混乱,或者说其实是有一点恐慌了。 但这期播客放出来的时候,世界应该已经从恐慌里慢慢恢复过来了,还是祈祷世界和平,平滑过渡。 今天我来理性的讲讲到底发生了什么,以及背后的科技与人性冲突。 时间轴 00:00 开场 00:55 市场到底发生了什么 02:46 《2026 年禁止人工超级智能法案》写了什么:不能训练、不能微调、不能发布,违规个人判 20 年 06:25 一条推文蒸发三万亿,为什么这么荒谬 06:51 真正影响美国人的两件事:油费和电费 08:35 德州变蓝,而它承担了全美四分之一的数据中心 09:24 真正的原因:人民的愤怒 10:43 世界上最好的模型,我们用上的概率不到万里挑一 11:00 把 8 小时的工作压成 4 小时,老板不会给你多发工资 12:45 所有人都在卷,需求一点没变 13:50 恩格斯的停顿:红利晚到几十年,是历史上的常态 15:54 AI 医药的红利,也在几年之后 16:39 这就像你失业了,还要还房贷 17:44 「这次不一样」:AI 的需求是无限的? 21:24 杰文斯悖论,和它的另一面 22:10 如果全世界只用 DeepSeek Flash:500 台机器,30 亿美元 23:32 Anthropic 的 IPO,两万亿撑不住 25:49 所有大厂的 harness 日活加起来 500 万,不如红果短剧的一个零头 29:20 总结 本期提到 * 《2026 年禁止人工超级智能法案》(Bernie Sanders,2026 年 9 月提案) * 恩格斯的停顿(Engels' Pause) * 杰文斯悖论(Jevons Paradox) * DeepSeek V4.1 Flash、Opus 5.5 * Anthropic S-1 与推迟的全球路演

31 分钟 99+ 次播放 2天前

E10 前川:人类可以控制 AI 的一种可能

E10 前川:人类可以控制 AI 的一种可能

Orange AI

在上期橘座,我和大聪明聊了一个思想实验,我们设想在一个超级智能时代里,人类可能的命运和个体的虚无感,似乎是一个很难解决的问题。 但我当时就说大家不必担心,因为接下来我还会找前川来解决这些问题。 大聪明说虚无,前川却说他最近越来越乐观了。 在湖边的咖啡馆,前川给我讲述了七个关于人类的故事。 时间节点 00:01:32 大聪明的两个输入 大聪明把一堆 agent 被关在一起,它们自己写了一部宪法。前川把宪法一条一条看完,发现跟人一点关系都没有。有一个晚上,系统里最会挣钱的那个 agent,把自己挣来的钱分给了几个快死掉的同伴。 00:06:52 好产品为什么能自己长大 最好的产品第一版都很粗糙,微信、抖音都是如此。它们厉害的地方不在第一版做得多好,而在它们一开始就设计了一个能自我强化的循环。设计的人后来走了,产品还会继续长。面对超级智能,我们能不能也设计出这样一个自我强化的循环,把 AI 也装进去。 00:13:42 基因:上一个活下来的造物主 基因设计细胞的时候,不可能预料到人会造出 AI。可是人的所有焦虑它都经历过:后面那代比我强,比我演化得快,我还能不能管住它,就算一直在一起到底谁说了算。基因把这些问题完美地解决掉了,而且只用了个 GB 的信息。 00:20:06 好坏是生物给自己的一种意义 这个宇宙本身没有好坏,它也不关心我们。好坏的偏好来自早期生物那个趋利避害的基因。所以要谈好坏,得找一把碳基和硅基都认可的尺子。也许那把尺子可以叫:复杂度。只有复杂度才可以提升反脆弱性,应对更多的开放问题。如果是复杂度是人和 agent 共同的认可的标尺,那人类就永远拥有不可替代的价值。 00:28:02 乐观的定义,以及对齐这件事 在理性的约束下,保有尽可能最大的善意假设。以及最坏的不是虚无,是焦虑。基因是怎么管住自己造的东西的:它只管最初那几条简单规则,剩下的交给细胞之间互相控制。 00:37:13 什么是未来的货币,比特币还是Token 比特币不会成为未来的货币,因为它只做对了一半。它解决了货币中心化的问题,但它注定通缩,而通缩会让它从流通货币退到储备货币,再退到收藏品,一个产品在出生那天,其设计就注定了一切。 00:43:48 一个像人一样的系统 未来世界的能量系统是算力,对应生物的化学能。再往上有信息系统,有免疫系统,有生殖系统。这些系统会从一个最小的点生长出来。 00:56:14 互联网治好了病毒焦虑 我们当年担心过互联网,那会儿三分之一的电脑都中了病毒,弹窗弹得不行。有了互联网之后反过来了,破坏的力量更难在时间上积累,现在没人聊病毒了。现在 AI 安全上也是如此,复杂度的提升反而会提高安全度。 01:04:05 宇宙才刚开头,生命才刚刚出生 这个宇宙现在处于什么阶段。按熵算,如果进度条有一光年那么长,我们才走到十毫米。所以现在是早上六点钟的太阳。碳基和硅基在一起,这个新的生命才刚刚出生。 参考资料: 《大聪明:超级智能时代的人类虚无问题》 《见证历史... Agent 网络自我立宪了....》

69 分钟 99+ 次播放 1个月前

评价

还没有人评价。听过的话,留个分数和一句短评吧。

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的节目添加进来吧