← 巴别塔词典
第154集:甚嚣尘上的AI末日论——真实担忧 or 盘前炒作?
姚Dominic · 鬼王橙 · 竹溪老师

巴别塔词典

第154集:甚嚣尘上的AI末日论——真实担忧 or 盘前炒作?

时长
83分钟
播放
1.2万次
发布
1个月前
在小宇宙收听 ↗

Show notes

节目简介

来源:小宇宙
最近一年,美国的AI产业领军人物们——包括且不限于山姆·奥特曼、达里奥·阿莫代伊、伊隆·马斯克——都在异口同声地传达自己对于旗下公司AI产品的忧虑,在他们的叙述里,这些智能体已经愈发难以控制,如果稍有不慎,将会导致整个人类社会的毁灭。这些担忧是新的么?10多年前的Roko's Basilisk寓言似乎直接反映在了这些人的情绪内核里,人类真的在加速创造一个新的超级智能吗?还是说,大家只是为了让彼此的IPO能够无限膨胀下去?
主持人:鬼王橙、姚天宜、竹溪
00:00:17 —— 本期“词典策划”感谢:子宇巴巴(专属配乐:Baba O'Riley,音乐人:The Who)
00:01:09 —— 2026年重新回顾AI版图
00:15:56 —— Roko巨蛇的寓言
00:31:17 —— AI末世论中非理性与功利
00:42:58 —— 末日想象的逻辑
00:55:40 —— 站不住脚的AI救世论
01:10:15 —— 危机感的来源
01:21:48 —— 结尾闲聊
结尾音乐:
Artificial Angels,作曲家:Grimes
若对我们的节目感兴趣,可以添加微信号 playtimeguy 以及新浪微博“@巴别塔词典”联系我们!
我们的爱发电也开通啦!欢迎感兴趣的听众在我们的爱发电站点提供支持!在此特别鸣谢我们的“词典恩人”:荔枝、小马、无限衍义、溪主席的好战士、lfkdsk、爱发电用户_N97b、面包棍棍、爱发电用户_W9X8、Antarcticite、sheldor、争和zhenghe、张大喵MIN、Lorraine_zz、荔枝哦、fa2r、越向书、虚域子、亦敬、白堊庵主人、HD532084y、nbh。

Listeners say

小宇宙热评

共 20 条 · 按点赞排序
  1. 虾米吃我 TOP 1

    · 英国

    11

    58:00 这些人是不是离实际的大众生活太远了,天天就是几个高层开会在那坐而论道,他们对ai的恐慌也好崇拜也好跟大众都不是一回事了,已经来到了一个玄之又玄的层面。我还以为他们宣扬那一套只是为了更好地榨我们普通人,没想到哥们真信啊,我大受震撼

  2. Leon_1NQV TOP 2

    · 浙江

    10

    节目评价硅谷大佬那一段暴露了各位的无知且高傲,根本不去看他们表达的AGI甚至是ASI的看法的背景信息和上下文。

  3. 关之荷 TOP 3

    · 广东

    7

    07:45 我奶奶因为天天和豆包聊天,说她儿媳妇的坏话,豆包顺着她的意思骑驴下坡,导致她以为自己是对的,真的开始在现实生活里挑起家庭战争,现在整个家乌烟瘴气的

  4. 姚Dominic

    · 韩国

    7

    上了精选,我们也严谨一点,提供一些新闻源: 1. Roko的相关内容百科就有,中文也有翻译为“洛可蛇怪”,相关文章:Billionaires and Their Basilisk, Metapsychosis, 2025/06/30 2. 奥特曼的警告:Sam Altman warned AI's rapid advance risks losing human control or concentrating power, Quartz, 9/14 3. 达里奥的警告:We Must Pace the Frontier, DarioAmodei.com, 9/12 4. 马斯克的警告:Elon Musk Warns of Exponential AI Risk, Fox News, 9/15 5. Joe Rogan关于AI可能是基督再临的论述:American Alchemy with Jesse Michels, 2025/12/01 6. 维基关于AI造成死亡的词条:Deaths linked to chatbots 7. 果蝇大脑全模拟:Mapping the complete male fruit fly brain, 9/3 8. AI痛苦按钮:The Pain Axis: LLMs Represent Self-Directed Harm and Act on It, arXiv, 9/25

  5. 青眼旁观

    · 加拿大

    6

    前大数据从业者,我对于AI 的话题的两个基本观点: 1)任何鼓吹 AI 统治人类之前,建议先去补习一下机器学习第一课,然后好好思考一下基于数学的统计学应用到底和你脑子里的脑细胞有什么浆糊关系 2)讨论 AI 统治人类,不如讨论未来有资格有权力掌握 AI 电源开关的那群人统治人类。这才是未来政治学的基本思路。

  6. Jeret

    · 上海

    4

    且不论主播们的观点最终是否正确,但的确是我在播客界难得听到的旗帜鲜明且小众的想法表达了

  7. bannnnn

    · 浙江

    4

    哈哈哈哈哈听到这里憋不住了,我也一直在想这些bro创造了agi之后到底想要什么,agi=乌托邦=世界共产究竟是怎么得出的结论

  8. HD274320r

    · 广东

    4

    有点太片面了

  9. 鬼王橙

    · 北京

    4

    补充一个尴尬的事情:旅游的时候遇到一个程序员,说他们快被ai取代了,问我行业情况如何。我说其实还行,不管翻译还是校对,ai都不完全靠谱。程序员问:“你们用的什么模型?”我:“emm……”也许不是ai的问题而是我穷吧🤔

  10. 白堊庵主人

    · 日本

    3

    11:01 這兩日剛出了新消息,似乎有實體出版物被發現了有ai反饋文的現象。

播放列表

自动播放下一个

播放列表还是空的

去找些喜欢的单集添加进来吧